全米テレビ芸術科学アカデミーによるエミー賞のインタラクティブメディアドキュメンタリー部門で「In Event of Moon Disaster」(月面での大惨事)が9月、栄冠を獲得した。この作品には、人工知能(AI)を用いて合成されたRichard Nixon元米大統領のディープフェイク動画が使用されている。その動画でNixon元大統領は、あらかじめ用意された原稿を手にしながら、「アポロ11号」の任務が失敗に終わり、Neil Armstrong船長とBuzz Aldrin月着陸船操縦士は月面に取り残され死ぬことになると読み上げている。
エンターテインメント業界ではディープフェイクや音声クローニングに対する規制がまだ整備されていない。
提供:photoworldwide/Getty Images
これは、マサチューセッツ工科大学(MIT)のCenter for Advanced Virtualityが作り上げたマルチメディアプロジェクト作品であり、Nixon元大統領の音声部分は、音声のクローニングを手がけるウクライナの新興企業Respeecherの手を借りたものとなっている。
Respeecherの最高経営責任者(CEO)Alex Serdiuk氏は、上映時間7分というこの映画について、オンライン上の偽情報が将来的にどのようなものになるかを示す目的で制作されたと述べた。同プロジェクトは「われわれのテクノロジーを用いてクールなことをする機会というだけでなく、こうしたテクノロジーによって可能な物事を紹介する目的を持っていた」という。
ディープフェイク動画は今後、ソーシャルメディア上でより一般的になり、真贋(しんがん)を見極めるのが難しくなる結果、社会的に大きな影響がもたらされる可能性もある。というのも、フェイクニュースの方が本物のニュースよりも速いスピードで拡散するためだ。MITの研究によると、真実ではない主張は真実に比べると、共有される確率が70%高いという。
この危険性こそ、Serdiuk氏がディープフェイクという問題をより多くの人々に伝えるための力になることが自らの責務だと考えている理由だ。同氏は米ZDNetに対して、「合成メディアテクノロジーについて社会に知らしめるというのは、われわれの仕事の中で大きな比重を占めている」と述べた。
ディープフェイク動画の制作過程
「In Event of Moon Disaster」は、さまざまな分野のプロフェッショナルが持ち寄った専門知識を活用した野心的なマルチメディアプロジェクトだった。この映画は、MIT Center for Advanced VirtualityのFrancesca Panetta氏とHalsey Burgund氏が共同監督を務め、プロジェクトのテクノロジー部分において新興企業2社との緊密な協力の下で制作された。つまり、Nixon元大統領の映像部分の合成についてはイスラエルのテルアビブに拠点を置くCanny AIが担当し、音声部分の合成はRespeecherのエンジニアらによってキエフにある同社の小さなオフィスで実施された。
この映画が、エミー賞候補として挙げられていたOculus TVの「Micro Monsters with David Attenborough」(David Attenboroughのミクロな怪物たち)や、RTの「Lessons of Auschwitz」(アウシュビッツの教訓)という仮想現実(VR)プロジェクトを抑えて受賞したことは、創業から4年に満たない新興企業のRespeecherにとってある意味において驚きだった。Respeecher創業のきっかけは、Serdiuk氏とその友人であるDmytro Bielievtsov氏が、銀行や金融機関のための退屈なデータアナリティクス作業の合間の息抜きになる面白いことを求めて参加したハッカソンだ。