AIの開発競争は、革新的なツールを生み出す一方で、ディープフェイクへの懸念を増幅させた。その結果、透明性の確保に向けた動きが活発化している。
その最新の動きとして、Googleが「SynthID Detector」の提供開始を発表した。これは同社の生成AIモデル「Gemini」「Imagen」「Lyria」「Veo」のいずれかで作成されたAI生成コンテンツをすばやく特定できるプラットフォームだ。
SynthID Detectorによる検出の仕組み
2023年に最初にリリースされた「SynthID」は、AIによって生成された画像に、肉眼では見えないウォーターマーク（マシンには検出できるが人間の目には見えないデジタル指紋のようなもの）を埋め込む技術だ。SynthIDのウォーターマークは、トリミングやフィルター処理をはじめ、さまざまな種類の改変が加えられても消えないように設計されている。
SynthIDのリリース以降、AIモデルはマルチモーダル化が進み、さまざまな形式のコンテンツとやりとりができるようになった。例えば、瞬く間に普及した「ChatGPT」の成功を受けて公開されたGoogleのチャットボット、Geminiは、テキストプロンプトへの回答として画像を生成したり、逆にアップロードされた画像についてテキストで回答したりできる。一方で、AIによって生成される音声と動画の分野でも、急速な進展の動きがある。
そこでGoogleは、SynthIDの対象を拡大し、画像だけでなく、AIが生成するテキスト、音声、動画にもウォーターマークを入れられるようにした。
今回発表されたSynthID Detectorは、Googleの生成AIツールで生成されたメディアに埋め込まれているSynthIDのウォーターマークを、簡単に検出できるポータルサイトだ。ユーザーがファイルをアップロードすると、Googleの検出システムがウォーターマークを探すスキャンを実行する。そして、「ウォーターマークが検出された」「検出されなかった」あるいは「どちらとも判別できない結果だった」のいずれかを報告するという仕組みだ。
Geminiで生成される画像には自動でウォーターマークが埋め込まれている。SynthID Detectorは、このような見えない印の存在を容易に検証できるようにし、透明性をさらに高めることを目的としている。
Googleは米国時間5月20日、一般公開の前に、SynthID Detectorを初期テスターに順次提供すると発表した。併せて、ジャーナリストやメディアの専門家、AI研究者向けに順番待ちリストを公開している。
またGoogleは同日、デジタル環境の誤情報検出を専門とし、この分野で業界をリードするサイバーセキュリティ企業、GetReal Securityとの新たな提携を発表した。
提供：Google
この記事は海外Ziff Davis発の記事を朝日インタラクティブが日本向けに編集したものです。
