人工知能（AI）を使用すれば、単純なテキストプロンプトを入力するだけで、テキストや画像などの新しいコンテンツを簡単に作成できる。この機能により、個人の生産性が大幅に高まる一方で、犯罪者がAIを利用して巧妙なサイバー詐欺の手口を編み出すことも考えられる。
サイバー攻撃が増加傾向にあることを示す証拠がある。Microsoftは2024年3月から2025年3月の間に約40億ドル相当の詐欺の試みを阻止したが、それらの攻撃の多くでAIが使用されていた。
「多くの人がAIを非常にうまく活用して生活を向上させている。それは望ましいことだが、犯罪者がAIを用いる場合は、詐欺の巧妙化に利用される」。Microsoftで詐欺防止および悪用防止のコーポレートバイスプレジデント（CVP）を務めるKelly Bissell氏は、米ZDNETにこう語った。
Microsoftは米国時間4月16日、「Cyber Signals」レポートの第9版「AIを活用した欺瞞：新たな詐欺の脅威と対策」を公開し、一般的な攻撃を見抜く方法や、取り得る予防策を紹介した。このレポートに掲載された攻撃手法と、オンラインでの安全を守るためのヒントを以下にまとめた。
Eコマース詐欺
画像やテキストなどのAI生成コンテンツを目にしたことがあるなら、AIコンテンツがいかにリアルであるかを知っているはずだ。犯罪者がこの機能を利用して作成する詐欺サイトは、本物と見分けがつかず、AI生成の商品説明や画像、さらにはレビューまでもが掲載されている。そのようなサイトは、技術的な知識がなくても、わずかな時間で作成できるため、消費者がこの種の詐欺に遭遇する可能性がこれまで以上に高まっている。
保護対策としては、軽減機能が組み込まれたブラウザーの使用などがある。例えば、「Microsoft Edge」には誤字保護やドメインなりすまし保護が搭載されており、これらの機能はディープラーニングを用いて偽のウェブサイトについてユーザーに警告する。Edgeは詐欺ページやポップアップ画面をブロックする「Scareware Blocker」も搭載している。
Microsoftは、ユーザーが取り得る予防策も提示し、衝動買いを控えることなどを推奨した。これは、偽サイトがカウントダウンタイマーや他の同様の手口によって、切迫感をあおる演出が多いためだという。また、銀行振込や仮想通貨（暗号資産）など、詐欺対策が不十分な決済手段を避けるように推奨している。広告を確認せずにクリックしないよう注意するというヒントもあった。
Bissell氏は次のような例を挙げて説明した。「犯罪者のAIは、『Sabrina』（筆者の名前）とその活動内容を、あなたが公開している情報を基に実際にターゲットにして、あなたの広告としてカスタマイズする可能性がある。ウェブサイトを立ち上げて、Sabrinaや何人ものSabrinaの広告を検索エンジン内からごく簡単に出すことが可能だ」
求人詐欺
犯罪者はAIを使って偽の求人情報を数秒で作成できる。同レポートによると、偽の求人の説得力をさらに高めるために、盗んだ認証情報や自動生成された説明文、さらにはAIによる面接やメールなどを使用して、信頼性の高いさまざまな求人プラットフォームに掲載しているという。
Microsoftは求人情報プラットフォームに対し、求人企業向けの多要素認証を導入して求人情報の悪用を防止するとともに、詐欺検出技術を実装して不正なコンテンツを検出することを提案している。
このような対策が広く導入されるまでは、ユーザーが危険信号に気を配る必要がある。例えば、経歴調査の手数料や本人確認と称して、銀行口座や支払いデータなどの個人情報を求める求人などだ。
他の危険信号には、テキストメッセージやメールで一方的に送られてくる求人や面接の依頼などがある。ユーザーは「LinkedIn」や「Glassdoor」などの公式ウェブサイトで求人企業や採用担当者の詳細情報を照合することで、積極的な対策を講じることができる。
「話がうますぎるということはないだろうか。例えば、最低限の経験で給料が高いなど、そんなにうまい話はないはずだ」（Bissell氏）
