IEEEが「倫理的AI」の設計に関するレポートのドラフトを発表

　テクノロジ業界は人工知能（AI）の開発を強力に推進しているが、米国電気電子学会（IEEE）は一度立ち止まって、AIの倫理的な問題について検討することを求めている。そのプロセスの皮切りとして、IEEEはAIがもたらすさまざまな倫理的課題について検討する文書の、最初のドラフトを発表した。

　この「Ethically Aligned Design：A Vision for Prioritizing Human Wellbeing with Artificial Intelligence and Autonomous Systems（AI/AS）」と題した文書は、「Global Initiative for Ethical Considerations in Artificial Intelligence and Autonomous Systems」（人工知能および自律システムの倫理的課題について検討するIEEEの取り組み）の委員会が起草したものだ。この取り組みには、100人以上の思想的指導者やAI、倫理など、関連問題の専門家が参加している。

　IEEEはこのドラフトに対するパブリックコメントを募集している。

　この文書の要約版の序論には「われわれは、これらのテクノロジを人間の道徳的価値観や倫理的原則に沿ったものにする必要がある」と書かれている。また、「AI/ASは機能的な目標や技術的な課題を達成する以前に、人間に対して有益な形で動作する必要がある。（中略）AI/ASの作成を、ユーザー及び社会の価値観に沿ったものにすることで、人間の幸福の増進を、アルゴリズムの時代における進歩の指針として位置づけることができる」とある。

　この文書は8つの節からなっており、今回のIEEEの取り組みで編成された各委員会がそれぞれの節を担当した。第1節では、あらゆる種類のAI/ASに適用されるべき「上位の倫理上の懸念」について検討した委員会が示した、一般的な原則が説明されている。この原則は、「人間の尊重」（AIが人権を侵害しないことを保障する）「責任」「透明性」（AIのリスクに関する）「教育と周知」の4つからなる。

　第2節では、自律知能システム（AIS）に価値観を組み込むという課題に取り組んでいる。この節では、価値観が必ずしも普遍的なものではないこと、AISが複数の矛盾する価値観の対象となり得るなどの、さまざまな課題があることを認めている。

　次の節では、倫理的な研究や設計を行うための方法論について議論している。また続く第4節では、人工汎用知能と人工超知能の安全性と恩恵について検討している。このような高度な水準のAIは、「世界に対して、農業革命や産業革命に匹敵する規模の、前例のない水準の世界的な繁栄をもたらす、革命的な影響を与える可能性がある」とレポートでは述べられている。また同時に、AIシステムの能力が増大するにつれて、「想定外の、あるいは意図しない動作による危険が高まる」という。

　次の節では、人間が責任を持って自らの個人情報を定義し、アクセスし、管理することの必要性について述べている。また第6節では、自律型兵器システムに関する課題について検討しており、システムの説明責任を確保するために監査証跡を残すことなどを推奨している。

　第7節は、AIの発展に伴って発生する雇用問題などを始めとする、経済的および人道主義的な問題に割かれている。また最後の節では、法律の役割について議論しており、AIの法的な説明責任を果たす能力を向上させることなどを提案している。

　IEEEは、この文書に対する意見を2017年3月6日まで募集している。自律システムが引き起こす倫理的な問題について検討している組織はほかにもある。カーネギーメロン大学は最近、AIの倫理を考える新たな研究センターを設立すると発表した。また、Google、Facebook、Amazon、Microsoft、IBMが集まり、一般利用者の啓蒙や、AIに関する対話を推進する非営利組織を設立している。