AIの防御策とこれからの歩み
AIが敵対的なTシャツによって混乱する例。人を鳥として認識している。
提供：Intel Corporation
以上の脅威を考慮すると、AIをできる限り早急に攻撃から保護する必要がある。サイバーセキュリティとインターネットの間で今強いられているように、先を行く敵を追いかけ続けることのないようにするためだ。
「今、悪事を働くとすれば、サイバー攻撃は簡単だ。私はその方法をもう知っていて、多くの企業はまだ十分に防御していない。サイバー攻撃によって大混乱を巻き起こすことができるだろう。しかし、サイバー防御が強化されることで、今度はAIへの攻撃が増え始める」とDARPAのDraper氏は語る。
GARDプロジェクトの主な目標の1つは、AIを搭載したツールを配布する開発者や企業に、このプロジェクトのツールを行き渡らせることだ。その点では、このプロジェクトはすでに一定の成功を遂げている。
「ARTの利用は実際に急増している」とDraper氏。「問題について議論を始めた人がいなかったら、これらのツールの支持者もいなかっただろう。しかし今、関心が高まり、支持者が集まっている。時機が到来したのだと思う」
DARPA GARDプロジェクトの主な目的の1つは、未来に目を向けて、この先のAIを保護するための遺産をつくることだ。だからこそ、業界全体の協力体制が重要な役割を担っている。
「やろうとしているのは、すべてをさらけ出すこと。政府が自ら利用するのなら素晴らしいことだが、現状、われわれは民間からシステムを購入している。一番避けなければならないのは、自動運転車ばかりが走行する道路で、誰かがすべての車両を停止させる方法を解明したという悪夢のようなシナリオだ。そうなると、都市機能全体が停止しかねない」とDraper氏は語る。
「これからも、いたちごっこは永久に続くだろう。より強力な攻撃を考え出そうとする者が必ず現れる。だから、これが終わりではない。しかしそれも、オープンソースコミュニティーを構築しようとする取り組みの一環である。コミュニティーがこのリポジトリーに力を入れるようになり、このリポジトリーが活発な学習リソースとなるだろうと期待している」
IBMのBaracaldo氏は、このコミュニティーの感覚がプロジェクト全体にとって不可欠になると見ている。
「多くの人々が貢献すると何が起こるか。それはツールの改良だ。何か良いものを持っている個人や団体がそれを公開する。他にどのような用途があるかを正確に分かっていなくても、他の人は分かっているかもしれない」とBaracaldo氏。
「そして、自分にとって良いものや、自分の研究に役立つものがあれば、自ら改良してコミュニティーに役立ちたいという思いが強くなる。現在の研究内容をコミュニティーにも利用してもらいたいからだ。だから、コミュニティーの存在は大いに役立つはずだ」（Baracaldo氏）
Two SixのSlater氏にとっては、GARDのオープンソースという特性も、長期的な成功のために不可欠となる。この特性は、DARPAが整えた基盤の上で、システムの堅牢性とセキュリティを維持するための要素ともなる。
「われわれが実際のエンドユーザーにも影響を与えているなら、それが重要なことだと思う。われわれはエンドユーザーが『そうか、これは問題だ』と気づくほど大きな音で警鐘を鳴らしてきたのだから、われわれは今その声に応える必要がある。だから、これからも投資を続けていく」
このような継続的な投資は極めて重要だ。GARDプロジェクトが終わった後も、悪意ある攻撃者が突如として消え去ることはないためである。「この取り組みが始まったということが重要だ。2年後にはDARPAプログラムは終了を迎える。しかし、その後もコミュニティーが活動を維持することが必要だ。残念なことだが、今後も悪人が姿を消すことはないからだ」とSlater氏は語る。
「人々の生活にとってAIの重要性が増すほど、その価値も増していく。防御の方法を学ぶことが不可欠だ」
この記事は海外Red Ventures発の記事を朝日インタラクティブが日本向けに編集したものです。
