犯罪者が、人工知能（AI）で生成した音声を利用し、企業の最高経営責任者（CEO）の声をまねて部下をだまし、資金を自分の口座に送金させている。
いわゆるディープフェイクボイス攻撃は、詐欺の次なるフロンティアとなるかもしれない。
The Wall Street Journal（WSJ）の報道によると、社名は伏せられているものの、英国を拠点とするエネルギー企業のCEOが、上司であるドイツの親会社のCEOと電話で話していると思っていたところ、ハンガリーのサプライヤーに22万ユーロ（約2600万円）を至急送金するよう頼まれたという。
ところが実際は、その指示はAIによる音声技術を利用してドイツにいるCEOになりすました詐欺師からのものだった。世論操作や社会の対立を招く恐れがあるとして懸念材料となっているディープフェイクビデオの音声版だ。
この英エネルギー企業が利用している保険会社Euler Hermes Groupが、この音声詐欺事件についてWSJに説明している。
Euler Hermes Groupは、この詐欺に利用されたのは市販のAI音声生成ソフトだと考えている。
英企業のCEOは、詐欺師が2回目の送金を求めて3度目の電話をかけてきた際、オーストリアの番号から電話がかかっていることに気付き、疑念を抱いた。2回目は送金しなかったが、最初の送金は、詐欺師の管理下にあるハンガリーの口座に振り込まれた後、メキシコに送金された。
BBCは7月、AIソフトウェアを利用してCEOの声をまねる同様の事件をSymantecが3件確認したと報じた。
企業のCEOは、決算発表の電話会見やメディアへの露出、YouTube動画、カンファレンスなどで声を発していることが多く、音声モデルを構築するのに十分なデータを詐欺師が入手できるため、AIで生成した音声による詐欺のターゲットになりやすいと考えられる。
こういった音声詐欺は、これまでに米国で大きな損害を与えているビジネスメール詐欺（BEC）と手口が似ている。BECによる米国企業の被害額は、2018年だけで13億ドル（約1390億円）に達したとされている。
BECは不正メールを使って人々を操る詐欺だ。音声詐欺とは手段が違うが目的は同じだ。
BECでは、上級幹部の電子メールアカウントを乗っ取ったり侵入したりして、詐欺師が管理する口座に至急送金するよう財務担当者に指示する電子メールを送る。
保険大手のAIGは先ごろ、EMEA（欧州／中東／アフリカ）地域から申請されたBEC関連の保険給付が、2018年に受け付けたサイバー保険請求全体の23％を占めたと発表した。次に多いのはランサムウェアで、請求の18％を占めた。
この記事は海外CBS Interactive発の記事を朝日インタラクティブが日本向けに編集したものです。
