IEEEが「倫理的AI」の設計に関するレポートのドラフトを発表

Stephanie Condon (ZDNet.com) 翻訳校正: 石橋啓一郎 2016年12月19日 08時00分

  • このエントリーをはてなブックマークに追加

 テクノロジ業界は人工知能(AI)の開発を強力に推進しているが、米国電気電子学会(IEEE)は一度立ち止まって、AIの倫理的な問題について検討することを求めている。そのプロセスの皮切りとして、IEEEはAIがもたらすさまざまな倫理的課題について検討する文書の、最初のドラフトを発表した。

 この「Ethically Aligned Design:A Vision for Prioritizing Human Wellbeing with Artificial Intelligence and Autonomous Systems(AI/AS)」と題した文書は、「Global Initiative for Ethical Considerations in Artificial Intelligence and Autonomous Systems」(人工知能および自律システムの倫理的課題について検討するIEEEの取り組み)の委員会が起草したものだ。この取り組みには、100人以上の思想的指導者やAI、倫理など、関連問題の専門家が参加している。

 IEEEはこのドラフトに対するパブリックコメントを募集している。

 この文書の要約版の序論には「われわれは、これらのテクノロジを人間の道徳的価値観や倫理的原則に沿ったものにする必要がある」と書かれている。また、「AI/ASは機能的な目標や技術的な課題を達成する以前に、人間に対して有益な形で動作する必要がある。(中略)AI/ASの作成を、ユーザー及び社会の価値観に沿ったものにすることで、人間の幸福の増進を、アルゴリズムの時代における進歩の指針として位置づけることができる」とある。

 この文書は8つの節からなっており、今回のIEEEの取り組みで編成された各委員会がそれぞれの節を担当した。第1節では、あらゆる種類のAI/ASに適用されるべき「上位の倫理上の懸念」について検討した委員会が示した、一般的な原則が説明されている。この原則は、「人間の尊重」(AIが人権を侵害しないことを保障する)「責任」「透明性」(AIのリスクに関する)「教育と周知」の4つからなる。

 第2節では、自律知能システム(AIS)に価値観を組み込むという課題に取り組んでいる。この節では、価値観が必ずしも普遍的なものではないこと、AISが複数の矛盾する価値観の対象となり得るなどの、さまざまな課題があることを認めている。

 次の節では、倫理的な研究や設計を行うための方法論について議論している。また続く第4節では、人工汎用知能と人工超知能の安全性と恩恵について検討している。このような高度な水準のAIは、「世界に対して、農業革命や産業革命に匹敵する規模の、前例のない水準の世界的な繁栄をもたらす、革命的な影響を与える可能性がある」とレポートでは述べられている。また同時に、AIシステムの能力が増大するにつれて、「想定外の、あるいは意図しない動作による危険が高まる」という。

 次の節では、人間が責任を持って自らの個人情報を定義し、アクセスし、管理することの必要性について述べている。また第6節では、自律型兵器システムに関する課題について検討しており、システムの説明責任を確保するために監査証跡を残すことなどを推奨している。

 第7節は、AIの発展に伴って発生する雇用問題などを始めとする、経済的および人道主義的な問題に割かれている。また最後の節では、法律の役割について議論しており、AIの法的な説明責任を果たす能力を向上させることなどを提案している。

 IEEEは、この文書に対する意見を2017年3月6日まで募集している。自律システムが引き起こす倫理的な問題について検討している組織はほかにもある。カーネギーメロン大学は最近、AIの倫理を考える新たな研究センターを設立すると発表した。また、Google、Facebook、Amazon、Microsoft、IBMが集まり、一般利用者の啓蒙や、AIに関する対話を推進する非営利組織を設立している。

この記事は海外CBS Interactive発の記事を朝日インタラクティブが日本向けに編集したものです。

ZDNet Japan 記事を毎朝メールでまとめ読み(登録無料)

  • このエントリーをはてなブックマークに追加

この記事を読んだ方に

関連ホワイトペーパー

連載

CIO
Rethink Internet:インターネット再考
インシデントをもたらすヒューマンエラー
トランザクションの今昔物語
エリック松永のデジタルIQ道場
研究現場から見たAI
Fintechの正体
米ZDNet編集長Larryの独り言
大木豊成「仕事で使うアップルのトリセツ」
山本雅史「ハードから読み解くITトレンド放談」
田中克己「2020年のIT企業」
松岡功「一言もの申す」
松岡功「今週の明言」
内山悟志「IT部門はどこに向かうのか」
林 雅之「デジタル未来からの手紙」
谷川耕一「エンプラITならこれは知っとけ」
大河原克行「エンプラ徒然」
内製化とユーザー体験の関係
「プロジェクトマネジメント」の解き方
ITは「ひみつ道具」の夢を見る
セキュリティ
「企業セキュリティの歩き方」
「サイバーセキュリティ未来考」
「ネットワークセキュリティの要諦」
「セキュリティの論点」
スペシャル
ざっくりわかるSNSマーケティング入門
課題解決のためのUI/UX
誰もが開発者になる時代 ~業務システム開発の現場を行く~
「Windows 10」法人導入の手引き
ソフトウェア開発パラダイムの進化
エンタープライズトレンド
10の事情
座談会@ZDNet
Dr.津田のクラウドトップガン対談
Gartner Symposium
IBM World of Watson
de:code
Sapphire Now
VMworld
Microsoft WPC
Microsoft Connect()
HPE Discover
Oracle OpenWorld
Dell EMC World
AWS re:Invent
AWS Summit
PTC LiveWorx
より賢く活用するためのOSS最新動向
古賀政純「Dockerがもたらすビジネス変革」
中国ビジネス四方山話
ベトナムでビジネス
米株式動向
日本株展望
企業決算