AIの課題は「判断理由を説明できない」こと
続くテーマは、AIとサイバーセキュリティの関係だ。
この分野では、迷惑メールのフィルタリングなどで、機械学習が活用されてきた歴史がある。マクルアー氏は、機械学習の特徴について「パターン認識が得意で、人間ではとてもできないような特徴抽出を行うことができます」と説明する。
これをさらに進化させたのが、サイランスのAIアンチウイルスである。仕組みとしては、ディープラーニングを使って膨大な数のマルウェアファイルとそうでないファイルをAIに学習させる。そうしてファイル内に含まれる何百万もの特性を解析・分類してファイルを“DNA”レベルまで分解することで、「良性」か「悪性」かを判別する。従来のパターンマッチングの手法では検知できなかった新種のマルウェアも、これによって高精度で検知できるようにしたのである。
「5年前に新しいアルゴリズムを作り、学習しながらどんどん改良を重ねていきました。現在は、既知も未知も関係なく99.7%の精度でマルウェアを検知することができており、改良は今も続けています。もっとも、課題はあります。なぜそれがマルウェアなのか説明できないということです」（マクルアー氏）
この課題は、GoogleやFacebookなどが取り組んだ、AIを用いて例えば猫などをパターン認識する問題に似ているという。Googleでは、猫の膨大な写真を集めて、その特徴をディープラーニングによって学習させ、そのうえで新しい猫の写真を与えたときに、それが猫だと判断できるようにした。
「確かに、猫の写真かどうかを判定はできるのですが、なぜ猫だと判断したかはわかりません。人間は、耳がとがっているから、髭があるから、猫背だから、などといったポイントを見て猫と判断しているかもしれません。でもAIになぜ猫とわかったと聞いても答えられません。マルウェアの判断でも同じ問題をはらみます」（マクルアー氏）
これについて、小林氏は「理由を説明しないことは特定分野において、ある種の恐ろしさにつながる」と指摘する。
「医療分野でのディープラーニングの応用例として、CTスキャンの画像解析で悪性腫瘍を発見したり、病気の発症予測を行ったりするものがあります。人間より精度が高いのですが、なぜそう診断したかの理由を説明できません。わからないものに命を託していくことは、ある意味で脅威になります」（小林氏）
AIの限界を超える鍵は「Explainable AI」
こうしたAIの限界はどう超えていくことができるのか。小林氏は、現在のAI研究におけるトピックスの1つに「Explainable AI」というものがあると説明した。「説明できるAI」といったものだが、技術的には、以前のAIの方法論と現在のAIの方法論を組み合わせた折衷型だという。
「どのくらいの精度がでるかはまだはっきりわかりませんが、さまざまな方法で、AIの課題を乗り越えようと研究が重ねられています」（小林氏）
それを受けてマクルアー氏は、サイランスでは現在、「なぜ（Why）」を説明できる技術開発に取り組んでいることを明かした。
「実は今、なぜ（Why）を説明できる早期の段階まで開発が進んでいます。数学的な手法を使ってなぜこのマルウェアが良くないのか、悪なのかを説明していく。2年以内には何らかの成果が発表できると考えています」（マクルアー氏）
AIによるサイバー攻撃は必ず起こる。その対策は？
AIとサイバーセキュリティについては、サイランスのように防御側がAIを活用するだけでなく、サイバー攻撃者がAIを使うことも懸念されている。これについて、マクルアー氏は「時期はわからないが、まず間違いなくAIは使われる」と話す。
「われわれは敵よりも早く動き出していて、対策の検討も行っています。対策には2つのポイントがあります。1つは、情報を重要度に応じてきちんと分類することです。情報セキュリティにおける情報資産のラベリングにあたるものですが、それにより、脅威の度合いに応じた対策が可能になります。もう1つは特定領域の専門家の存在です。攻撃者はたった1つの脆弱性をついてきます。極めて『細く、深い』攻撃です。これに対し、広く浅い防御はあまり意味がありません。情報のラベリングをしっかり行い、深い知識を持った専門家が対処していく必要があります」（マクルアー氏）
マクルアー氏によると、AIを使った対策としては、IDを窃取する攻撃、パスワードを破る攻撃、DDoS攻撃などに有効になるはずだと今後の展望を述べた。また、小林氏は、内部犯罪や情報漏えいの兆候を検知することなどにも活用できるだろうと述べた。
そのほか、2人の議論は、AIを活用しやすい業種や業界は何か、機械学習のなかでどう文化や倫理、国ごとの違いを盛り込んでいくかなどにも及んだ。
最後にマクルアー氏は「AIがどういったものなのか、誤解も大きい。正しい理解を広げていくことは大事であり、みなさんの力を貸してほしい。説明できないからといって恐れないことが大事です」と訴えた。また、小林氏も「ブームのときは過大評価され、ブームが過ぎ去ると過小評価されるのがAIです。実力を把握してビジネスをすることが重要です」とアドバイスし、これからの展開に期待を示した。
