そう考えているのはZhao氏1人ではない。De Vartavan氏は「新しいAIに関わっている人たちについて考えてみてほしい。彼らは技術屋であり、プログラマーだ。その多くは、哲学についての知識を持っていない」と述べている。開発者の多くは、社会を良くするためにシステムを開発したいと考えているが、通常は自分たちの仕事に倫理を取り込む訓練は受けておらず、そうした専門性も持っていない。
IT企業が、公的な団体に対して、倫理に関する行動や、より強力なガイドラインの策定を積極的に求めているのは、それが理由かもしれない。Sundar Pichai氏は、AIに関する政府のルールは、企業が発表した原則を補完するものであるべきだと主張している。一方で、MicrosoftのプレジデントBrad Smith氏は、顔認識技術を法律で規制すべきだと繰り返し述べている。
立法は今も繊細な事柄であり、ルールを定める必要性とイノベーションを妨げるリスクのバランスをとるのは争点の多い仕事だ。ホワイトハウスは米国政府の立場を明確にした。トランプ政権は、「AIの革新を不必要に妨げない」、「軽い」ルールの方が望ましいと考えている。
ペンシルベニア大学のMichael Kearns氏も同様に、「アルゴリズム的な規制と業界の自己規制の組み合わせ」が望ましいと考えている。
一方、De Vartavan氏は、企業は自分たちが作ったプログラムが下す判断について、もっと明確に説明する必要があると主張する。
「政府が主張すべきは、企業はまずアルゴリズムに盛り込みたい価値観や選択の種類について考えて定義し、それらについて具体的に説明するべきだということだ」と同氏は言う。それがあれば、ユーザーは十分な情報に基づいてツールを使うかどうかを判断できる。
De Vartavan氏は、AI開発者は今後、開発しているものの設計に「ゼロから」倫理を組み込むようになると考えている。IT業界は、徐々にではあるが、これは自分たちだけで判断できる問題ではなく、哲学や道徳と密接に関わることは避けられないことを理解し始めている。
IBMやMicrosoftは2020年に入ってから、予想外の相手と手を結んで倫理的なAIへの取り組みを呼びかけた。IBMなどが主導する人を中心としたテクノロジーや「倫理的アルゴリズム（algor-ethics）」のビジョンを求める文書に、ローマ教皇庁生命アカデミー（The Pontifical Academy for Life）のプレジデントであるVincenzo Paglia大司教が署名したのだ。
形而上学的なテクノロジーの問題が、これほど現実に近づいたことはないと言えるだろう。そして、AIが私たちの日常生活における重要性を増すにつれて、IT業界は新たな時代に入っていくように見え始めている。計算機工学の学位を取るために、哲学の教科書が必要になる時代に。
この記事は海外CBS Interactive発の記事を朝日インタラクティブが日本向けに編集したものです。
