Amazon Web Services(AWS)は、MicrosoftとFacebookが9月に発表したディープフェイク検出技術を向上させるための賞金1000万ドル(約10億9000万円)の公募コンテスト「Deepfake Detection Challenge」(DFDC)をサポートする。
Facebookは、DFDCに向けてディープフェイク動画の大規模なデータセットの作成を後押ししている。人工知能(AI)を利用して改変された動画を検知する新たな手法を発見し、検知技術のベンチマークとなるシステムを開発することが狙いだ。
AWSは今週、DFDCに向けて今後2年間で最高100万ドル(約1億900万円)相当のAWSクレジットを提供すると発表した。DFDCは12月から始まり、2020年3月末まで続く。このコンテストは、FacebookとMicrosoft、AI研究団体のPartnership on AI、マサチューセッツ工科大学(MIT)をはじめとする数校の大学が協力して開催する。
DFDCは、2020年11月に予定されている米大統領選挙を前に、ディープフェイクや、より広くソーシャルネットワーク上の偽情報を利用して世論操作が行われる恐れがあるとの懸念が高まる中で実施される。
DFDCの参加チームは、モデルをトレーニングするためのデータセットにアクセスできるようになり、その後、「ブラックボックス」のテスト環境にコードを送り込む必要がある。そのために、研究者はAWSのコンピュートパワーやストレージ、機械学習ツールを利用する必要があるかもしれない。
Amazonは、年内に用意されるコンテスト用の完全なデータセットをホスティングすると述べている。また、Amazonの機械学習の専門家を派遣して、各チームが検知モデルを構築するのを手助けする。
AWSは、「さまざまな視点を持つ多様な参加チームに対して、このデータへのアクセスを保証し、深刻さを増すディープフェイク問題に対処する最良のソリューションの開発を支援したい」と説明している。
人を十分にだませるフェイク動画を作成できるスマートフォンアプリなどがあることから、ディープフェイクを作りだす上でスキルは必要ない。そうしたことからディープフェイクは危険なものと考えられている。短期的には、世論に影響を及ぼすことに利用される恐れがあり、長期的に見ると、すべての情報に対する信頼を損ねる可能性がある。
DFDCもある程度のリスクを伴う。FAQで言及されているように、Facebookが作成中のデータセットや参加チームが作成するコードを、悪意を持つ人が悪用しようとする危険性がある。
AWSによると、DFDC運営委員会は、データセットの中から最初に5000本の動画を研究者に公開するという。10月27日よりソウルで開催されるInternational Conference on Computer Vision(ICCV)では、「対象とされる」技術のワーキングセッションも実施される。
AWSは、適性評価手続きの後、完全なデータセットが公開される。12月には、世界的なAI関連カンファレンスConference on Neural Information Processing Systems(NeurIPS)とあわせてDFDCが開幕する。
GoogleはDFDCを後援していないが、同社とAlphabet傘下のJigsawは、28人が登場する3000本の改変動画を含むデータセットを、顔操作検出の新たな自動ベンチマーク「FaceForensics Benchmark」に提供している。FaceForensicsの動画は、DFDCによる最初の動画5000本のデータセットに含まれている。
この記事は海外CBS Interactive発の記事を朝日インタラクティブが日本向けに編集したものです。