ディープフェイク研究の取り組みを強化するFacebook

Queenie Wong (CNET News) 翻訳校正: 編集部

2021-06-17 08:08

 Facebookは、ディープフェイク画像が同一ソースに基づくものかどうかを検出する手段について研究してきた。この研究は、偽情報拡散を取り締まろうとする同社の活動に役立つ可能性がある。

Facebookのロゴ
提供:Graphic by Pixabay; illustration by CNET

 ディープフェイクは、人工知能(AI)を利用して、実在しない人間や物体の画像を生成する技術のこと。この技術は、政治家や有名人などが、実際には行っていない行動や発言をしているように見せかける動画を作成するためにも利用されている。このディープフェイク技術の進歩にあわせて、ハイテク企業各社は、より多くの偽情報の拡散にフェイクコンテンツが利用される可能性に備えようとしている。

 Facebookはミシガン州立大学と協力して、単一のAI画像を使用して、そのフェイクコンテンツの作成方法に関するより多くの情報を導き出すという、リバースエンジニアリング手法を研究している。この手法は、異なるオンラインプラットフォームで共有されているフェイクコンテンツが同一ソースに基づくものであることを検出することに役立つ可能性がある。

 Facebookによると、研究者らは「デバイスフィンガープリント」という、ディープフェイクの作成に用いられたモデルによって残された固有のパターンを調べ、その画像のソースを判定。その後、そのAIモデルのコンポーネントをより詳しく調査したという。

 ミシガン州立大学の研究者らは、公開されている100の生成モデルから生成された10万枚のフェイク画像からなるデータセットを用意して、このリバースエンジニアリング手法をテストした。同大学は、このデータセットとトレーニング済みモデルをオープンソース化しており、他の研究者らがディープフェイクとそのソースの検出を研究するためのさらなる手段として利用できるようにしている。

この記事は海外Red Ventures発の記事を朝日インタラクティブが日本向けに編集したものです。

ZDNET Japan 記事を毎朝メールでまとめ読み(登録無料)

ホワイトペーパー

新着

ランキング

  1. セキュリティ

    「デジタル・フォレンジック」から始まるセキュリティ災禍論--活用したいIT業界の防災マニュアル

  2. 運用管理

    「無線LANがつながらない」という問い合わせにAIで対応、トラブル解決の切り札とは

  3. 運用管理

    Oracle DatabaseのAzure移行時におけるポイント、移行前に確認しておきたい障害対策

  4. 運用管理

    Google Chrome ブラウザ がセキュリティを強化、ゼロトラスト移行で高まるブラウザの重要性

  5. ビジネスアプリケーション

    技術進化でさらに発展するデータサイエンス/アナリティクス、最新の6大トレンドを解説

ZDNET Japan クイックポール

自社にとって最大のセキュリティ脅威は何ですか

NEWSLETTERS

エンタープライズ・コンピューティングの最前線を配信

ZDNET Japanは、CIOとITマネージャーを対象に、ビジネス課題の解決とITを活用した新たな価値創造を支援します。
ITビジネス全般については、CNET Japanをご覧ください。

このサイトでは、利用状況の把握や広告配信などのために、Cookieなどを使用してアクセスデータを取得・利用しています。 これ以降ページを遷移した場合、Cookieなどの設定や使用に同意したことになります。
Cookieなどの設定や使用の詳細、オプトアウトについては詳細をご覧ください。
[ 閉じる ]