AIは悪たりえるか？ AIの仕組みと倫理の果たす役割を考える
1月に世界経済フォーラムの年次総会「ダボス会議」がスイス・ダボスで開催された。主要な議題の1つとして人工知能（AI）が浮上し、40のセッションが行われ、AI関連のセッションは米中貿易の次に多いトピックとなった。しかし、AIの倫理の重要性に関する抽象的な原則の明確化やこの分野のコラボレーションや研究の要請について話し合われた程度であった。
AIの力がますます強まり、領域も拡大を続ける中、われわれが今後直面する可能性がある問題について表明、議論することは非常に重要だと筆者は考える。このことは最終的に、インターネット以外の世界にも影響を及ぼすであろう。
われわれは現在、単なる話し合いではなく、アクションが必要な段階に到達している。導入や実施に関する具体的なメカニズムを提案することなく、崇高な理念の議論を繰り返すことは、問題に対する表面的な取り組みであり、企業の利益に影響を及ぼすあらゆる行動からは、かけ離れたものである。セキュリティがそうであるように、倫理も単なるパブリシティの問題ではない。
ダボス会議で見受けられた主張の一部は、筆者が以前に表明した所感と同じものであり、AIがビジネスや社会に及ぼすであろう影響の診断としては有益である。
ディストピア化が進む中、筆者が近年表明していた1つの見解として、テクノロジのことは分からないというアンチテクノロジの機運があるが、この点はSalesforce.com最高経営責任者（CEO）のMarc Benioff氏も強調していた。こうした基本的な特性をわれわれが認める際、AIを世界にどのように組み込むかという疑問がますます重要になる。原子の分裂が有益なエネルギーの生成にも、破壊的な爆弾の製造にも応用できるように、AIは善としても悪としても、われわれに圧倒的なパワーを与えてくれる。
ダボスでの議論は、AIは本質的に善である、あるいは少なくとも悪にはなれないAIをわれわれが作り出せると信じているかのように感じられた。これは、人類が同様な形で進化できると考えるようなもので、明白な誤りである。当然のことながら、人には自由意志がある一方、われわれがどれほどの自主性を与えても、AIが意思を示すことはない。
しかし、倫理はチェスではない。プログラマーが、自らのチェス能力を大幅に上回るチェス・プログラムを開発できるように、人類が自分たちより倫理的なマシンを設計できるかと言えば、明らかに不可能である。1つの鍵となるのは、AIを利用し、われわれ人間の偏りを明らかにすることで、われわれ自身とその社会をポジティブなサイクルで向上することである。
AIへの参加は出発点に過ぎない。企業の最高経営責任者や政府の政策担当責任者は、こうした理解に基づき実務に対応すべきであり、Salesforceが最近したように、最高倫理・人道責任者を採用することも、歓迎すべき意思表示である。理想的な状態は、倫理的な行動が利益も生むことだが、そうでない場合は法の定義で強制すべきであるが、企業の強制を恐れている。
