前編に続いて、「活用広がるAIとブラックボックスの実情」を紹介する。
***
倫理とAI
Stephen Hawking氏やElon Musk氏、AI研究の第一人者を含む数多くの人々がAIの発展に懸念を表明した結果、AIにおける潜在的な危険の回避を目的として、OpenAIやPartnership on AIといった組織が設立されることになった。
2015年12月に設立され、Musk氏とSam Altman氏が共同理事長を務めるOpenAIの目的は、「デジタルインテリジェンスを、金銭的な利益を得る必要性に縛られず、人類全体にメリットをもたらす可能性が最も高い方法で進歩させる」ことだという。
また、2016年9月に発表され、設立メンバーにAmazonやFacebook、Google、IBM、Microsoftが名を連ねるPartnership on AIは研究のサポートや、ベストプラクティスの推奨、AIに関する大衆の理解と認識の促進、議論や取り組みに向けたオープンなプラットフォームの創出を目的としている。
さらにカーネギーメロン大学は最近、AIやその他のコンピューティングテクノロジに関連する倫理面とポリシー面の問題を研究するという目的で、大手の法律事務所（K&L Gates）から1000万ドルの寄付を受け取ったと発表している。
AIにおける倫理的な側面を注視しておくべき理由を端的に示す例として、上海交通大学の2人の研究者、Xiaolin Wu氏とXi Zhang氏による「Automated Inference on Criminality using Face Images」（顔画像を用いた犯罪者の自動推論）という論文が挙げられる。人相と犯罪の傾向を結び付けようとする、かなり以前に棄却されている仮説の影を色濃く残す同論文のなかで両氏は、「人種や性別、年齢、表情の異なるさまざまな、実在の人物1856人の顔画像で、その半数近くが犯罪歴のあるもの」から、畳み込みニューラルネットワーク（CNN）などを用いた4つの分類基準を作り上げたと記している。両氏は、「以前から賛否を呼んでいる話題ではあるが、4つの分類基準すべては一貫して適切に機能し、顔画像を用いた犯罪者の自動推論の有効性を示す論拠が得られた」と主張するとともに、「唇のゆがみや、目頭間の距離、いわゆる鼻と唇の角度など、犯罪行為の予測につながる身体的特徴」を見つけ出したとも述べている。
この論文はarXivのプレプリントサーバ上で公開されており、査読はまだ実施されていないが、エジンバラ大学で計量犯罪学の教授を務めるSusan McVie氏はBBCに対して「この研究が取り上げようとしているのは、ある人間が犯罪をおかす可能性ではなく、刑事司法制度で人々が犯罪者というレッテルを貼られる原因となっているステレオタイプなのかもしれない。（中略）人を見た目で犯罪者だと断定できる理論的な理由はどこにもない」と述べている。
顔画像から犯罪者を識別するという考え方がAI絡みで再び出てきたというのは、米国や欧州における現在の政治情勢を考えた場合は特に、何の役に立つとも思えない。
