Sharkey氏は、人間とインテリジェントな機械の関係に関する筆者の主張を引き合いに出し、筆者とチェス専用のスーパーコンピューター、IBMのDeep Blueとの戦いについて触れた。Sharkey氏は1997年の筆者の敗戦を今でも残念に思っていると述べた。
筆者は2017年に発表した拙書『Deep Thinking』を書くことで、こうした感情を払拭しようと努めていた。Sharkey氏がAIコミュニティーの代表として、また筆者の気持ちを代弁するかのごとく憤っている様子を見られたのは興味深かった。
その場にいた多くの人々は、コンピューター科学者のAlan Turingにまで遡る、人間と機械によるチェス対戦の歴史的、科学的な側面が純粋に競争的なものに取って代わられたと感じていた（拙書でも認めた通り、これはIBMに正当性があり、この劇的なパラダイムシフトを過小評価したのは、筆者の過ちだった）。
Sharkey氏は、当時よりさらにインテリジェント化した現代の機械との関係について皮肉を込めて指摘した。Sharkey氏の指摘は、Deep Blueにはネットワーク接続機能があったため、たとえ実証できなかったとしても、フェアプレイが守られたとは100％言い切れないというものだった。これは、具体的な不正を主張するものではなく、透明性の欠如こそが大きな問題だと語った。
その後、20年以上たった今でも、これと同じ問題がAIや倫理的AIの議論の焦点になっているが、今ではその方向性は逆転している。今日のインテリジェント化した機械については、チェスコンピューターのような完全自律型を目指すのではなく、むしろ自律型であってほしくないと考えている。すなわち、人間の介在や監視なくして、機械が人間の人生を変えたり、人間の命を奪うような意思決定を行ったりしないよう保証する必要がある。
AIという鏡
機械がミスを犯さないというのは、よくある誤解だ。チェスのように、スマートフォン向けの無料アプリでさえ、人（とDeep Blue）を凌駕するようなクローズドなシステムでさえ、完璧ではない。
しかし、こうしたシステムの方が必然的には「まし」な状況にあり、チェスであっても、がんの診断や自動車の運転のような比較的オープンなシステムであっても、そこには極めて重要な問題が存在する。
そして、実際の運用時には、文脈の中で学習し理解する人間の能力に匹敵する“汎用人工知能（Artificial General Intelligence：AGI）”とはほとんど関係ない。Sharkey氏が対談で話したように、会話ができない場合、お茶を入れることすらできない場合、機械が人間よりも優れているというのは、言葉の乱用である。
スーパーインテリジェントな機械、シンギュラリティやAGIの夢物語は、現在直面している実際の危険や懸念から、われわれの気をそらすものだ。インテリジェントなツールは、自らが意欲を持って創造力を発揮した場合に、課題の解決に役立つ。しかし、それはターミネーターでも魔法の杖でもない。良くも悪くも、われわれに力を与えるものなのだ。
AIへの先入観に対する不満は鏡に映った姿に対する不満のようなもの
