編集部からのお知らせ
New! 記事まとめ「ISMAP-LIU」
話題の記事まとめ「通信障害と社会リスク」

「AIは悪になりうるか?」から考える“拡張知能”というツールとしてのAI - (page 2)

Garry Kasparov

2019-08-08 06:45

 Sharkey氏は、人間とインテリジェントな機械の関係に関する筆者の主張を引き合いに出し、筆者とチェス専用のスーパーコンピューター、IBMのDeep Blueとの戦いについて触れた。Sharkey氏は1997年の筆者の敗戦を今でも残念に思っていると述べた。

 筆者は2017年に発表した拙書『Deep Thinking』を書くことで、こうした感情を払拭しようと努めていた。Sharkey氏がAIコミュニティーの代表として、また筆者の気持ちを代弁するかのごとく憤っている様子を見られたのは興味深かった。

 その場にいた多くの人々は、コンピューター科学者のAlan Turingにまで遡る、人間と機械によるチェス対戦の歴史的、科学的な側面が純粋に競争的なものに取って代わられたと感じていた(拙書でも認めた通り、これはIBMに正当性があり、この劇的なパラダイムシフトを過小評価したのは、筆者の過ちだった)。

 Sharkey氏は、当時よりさらにインテリジェント化した現代の機械との関係について皮肉を込めて指摘した。Sharkey氏の指摘は、Deep Blueにはネットワーク接続機能があったため、たとえ実証できなかったとしても、フェアプレイが守られたとは100%言い切れないというものだった。これは、具体的な不正を主張するものではなく、透明性の欠如こそが大きな問題だと語った。

 その後、20年以上たった今でも、これと同じ問題がAIや倫理的AIの議論の焦点になっているが、今ではその方向性は逆転している。今日のインテリジェント化した機械については、チェスコンピューターのような完全自律型を目指すのではなく、むしろ自律型であってほしくないと考えている。すなわち、人間の介在や監視なくして、機械が人間の人生を変えたり、人間の命を奪うような意思決定を行ったりしないよう保証する必要がある。

AIという鏡

 機械がミスを犯さないというのは、よくある誤解だ。チェスのように、スマートフォン向けの無料アプリでさえ、人(とDeep Blue)を凌駕するようなクローズドなシステムでさえ、完璧ではない。

 しかし、こうしたシステムの方が必然的には「まし」な状況にあり、チェスであっても、がんの診断や自動車の運転のような比較的オープンなシステムであっても、そこには極めて重要な問題が存在する。

 そして、実際の運用時には、文脈の中で学習し理解する人間の能力に匹敵する“汎用人工知能(Artificial General Intelligence:AGI)”とはほとんど関係ない。Sharkey氏が対談で話したように、会話ができない場合、お茶を入れることすらできない場合、機械が人間よりも優れているというのは、言葉の乱用である。

 スーパーインテリジェントな機械、シンギュラリティやAGIの夢物語は、現在直面している実際の危険や懸念から、われわれの気をそらすものだ。インテリジェントなツールは、自らが意欲を持って創造力を発揮した場合に、課題の解決に役立つ。しかし、それはターミネーターでも魔法の杖でもない。良くも悪くも、われわれに力を与えるものなのだ。

AIへの先入観に対する不満は鏡に映った姿に対する不満のようなもの

ZDNet Japan 記事を毎朝メールでまとめ読み(登録無料)

ホワイトペーパー

新着

ランキング

  1. セキュリティ

    【講演資料】Sentinel運用デモ-- ログ収集から脅威の検知・対処まで画面を使って解説します

  2. セキュリティ

    SASEのすべてを1冊で理解、ユースケース、ネットワーキング機能、セキュリティ機能、10の利点

  3. ビジネスアプリケーション

    北海道庁、コロナワクチン接種の予約受付から結果登録まで一気通貫したワークフローを2週間で構築

  4. セキュリティ

    Sentinel運用デモ-- ログ収集から脅威の検知・対処まで画面を使って解説します

  5. セキュリティ

    セキュアなテレワーク推進に欠かせない「ゼロトラスト」、実装で重要な7項目と具体的な対処法

NEWSLETTERS

エンタープライズ・コンピューティングの最前線を配信

ZDNet Japanは、CIOとITマネージャーを対象に、ビジネス課題の解決とITを活用した新たな価値創造を支援します。
ITビジネス全般については、CNET Japanをご覧ください。

このサイトでは、利用状況の把握や広告配信などのために、Cookieなどを使用してアクセスデータを取得・利用しています。 これ以降ページを遷移した場合、Cookieなどの設定や使用に同意したことになります。
Cookieなどの設定や使用の詳細、オプトアウトについては詳細をご覧ください。
[ 閉じる ]