国際連合(国連)、ユーロポール(欧州刑事警察機構)、サイバーセキュリティ企業のTrend Microが共同で発表したレポートでは、サイバー犯罪者は今後、人工知能(AI)や機械学習などの新興技術を利用して、自動運転車や、ドローンや、IoT(モノのインターネット)が使われた車両などを攻撃する可能性があると警告している。
AIや機械学習は社会に莫大な恩恵をもたらす可能性があるが、その一方で、AIがもたらすさまざまな脅威が、今ある犯罪の危険度を高めたり、悪意のある活動を新たに進化させることにつながる可能性もある。
国連地域間犯罪司法研究所(UNICRI)の人工知能・ロボットセンター長であるIrakli Beridze氏は、「AIの応用事例はすでに現実世界に大きな影響を与え始めており、この技術が私たちの将来を形作る基礎技術になるだろうことが明らかになりつつある」と述べ、「しかし、社会がAIから受ける恩恵が現実のものであるように、悪用された場合の脅威も現実的なものだ」と付け加えた。
レポートでは、機械学習を悪用すれば、フィッシングやマルウェア、ランサムウェアなどによる既存の攻撃を大幅に強化できるのに加え、物理世界に影響を与えかねない攻撃が可能になるかもしれないと警告している。
例えば、自動運転車には、周囲の環境や避けるべき障害物(例えば歩行者)を認識できるようにするために、機械学習が使われている。
しかし、これらのアルゴリズムはまだ進化の途上にあるため、悪質な目的に利用したり、単純に混乱を引き起こしたりするために、攻撃者に悪用される可能性もある。例えば攻撃者が、自動運転車や通常の自動車の交通を制御するAIシステムのある管理ネットワークへのアクセスに成功すれば、それらのAIシステムが操作されてしまいかねない。
あるいは、サイバー犯罪者が交通を渋滞させて、ほかの犯罪者が強盗やその他の犯罪を行って現場から逃走する時間を稼ぐことも考えられる。