ほんの数年前には、ディープフェイクは膨大なコンピューターパワーを必要とする新手の技術だと考えられていた。しかし今日では、さまざまなところで用いられるようになり、偽情報やハッキングといった不正な目的に悪用される可能性をはらんだものとなっている。
増大しつつあるこの問題に立ち向かうために、Intel Labsはディープフェイクをリアルタイムで検出する技術を開発した。IntelのシニアリサーチサイエンティストであるIlke Demir氏は今回、ディープフェイクに用いられている技術や、Intelの検出手法、検出ツールを開発／実現する上での倫理的な考慮点について説明してくれた。
ディープフェイクとは、被写体やその行動が本物ではなく、人工知能（AI）によって生成されている動画や音声、画像を指す。ディープフェイクは敵対的生成ネットワーク（GAN）や、変分オートエンコーダー（VAE）、その他のAIモデルといった複雑なディープラーニング（DL）アーキテクチャーを用い、まるで本物のような説得力あるコンテンツを生成する。こうしたモデルは人格の合成やリップシンク動画の生成、さらにはテキストから画像への変換にも対応できるため、コンテンツの真贋（しんがん）判定を困難にしている。
ディープフェイクという言葉は、本物であるものの一部が改変されているコンテンツを意味する場合もある。こうしたコンテンツの例として、2019年に出回った、当時の米下院議長Nancy Pelosi氏が酔っ払った状態で講演しているかのように改変された動画を挙げることができる。
Demir氏のチームは、コンピューターを利用した、つまり機械によって生成された合成コンテンツであるディープフェイクを研究している。同氏は「これがディープフェイクと呼ばれる理由は、生成型AIにおける複雑なDLアーキテクチャーがこのようなコンテンツ全てを生み出すためだ」と述べた。
サイバー犯罪者など、悪人はしばしば、ディープフェイク技術を悪用する。その目的には、政治に関する偽情報や、セレブ／個人の肖像を許可なく使用したアダルトコンテンツの拡散の他、市場操作や、金銭的利益を得るためのなりすましなどがある。こういった負の側面があるが故に、ディープフェイクを効率的に検出する手法の必要性が叫ばれている。
