企業のセキュリティ投資はこれまで以上に増えつつあるが、サイバーセキュリティに関するスキル不足に苦しむ企業には、ビッグデータやアナリティクス、機械学習、人工知能（AI）などのテクノロジがデータや重要インフラを攻撃者から守るのに役立つという話が浴びせかけられている。
スタートアップから大企業まで幅広い企業が、大量のデータを分析して防御を強化するAIシステムを構築し、サイバーセキュリティの専門家が、手動では不可能な量の脅威を検知できるように支援するための投資を行っている。
しかし、企業の守りを強化するのに使われているテクノロジは、攻撃にも利用できる。
フィッシング攻撃を例に取ってみよう。フィッシング攻撃はサイバー攻撃の手段としてはもっとも単純なものだ。ダークウェブでは、フィッシング攻撃を行うために必要なあらゆるツールを、誰でも手に入れられる。攻撃を行うには、電子メールを入手し、公開されている個人情報を基にもっともらしいフィッシングメールを作成し、被害者に送ってエサに食いついてくるのを待てばよい。AIが加われば、さらに効果を上げることができる。
「スピアフィッシングは、攻撃側に機械学習が組み込まれれば非常に効果的なものになるはずだ」とDarktraceの技術ディレクターを務めるDave Palmer氏は述べている。Darktraceは製品に機械学習を使用しているサイバーセキュリティ企業だ。
攻撃に使用する機械学習のアルゴリズムは、特に高度なものである必要はない。感染したデバイスに比較的単純なSequence-to-Sequenceモデルの機械学習をインストールして、侵入された被害者の電子メールや会話を監視するだけでもよい。一定期間監視を行ったら、AIが連絡先リストにある特定の人物宛のメッセージのスタイルを模倣して、被害者からのものを装ったフィッシングメッセージを送り、相手に悪質なリンクをクリックさせることも可能だ。
「社外の相手に電子メールを送る際には、おそらく丁寧で改まった書き方をするだろうが、普段からメールを送っている親しい同僚には、もっとくだけた書き方をするだろう。電子メールの結び方も、相手によって違うかもしれない。こういったことを機械学習で真似るのは簡単だ。悪質なファイルが添付された、私のスタイルを真似た電子メールを想像することは難しくない」とPalmer氏は説明する。
「そのメールは私から送信されており、書き方も私のものに似ていて、私が普段話しているようなことを話題にしている。受信者はおそらく開いてしまうだろう」と同氏は付け加えている。
