AIの応用を考えた場合、倫理が厄介な問題としてのしかかってくる。AIにおけるバイアス、とりわけ意図しないバイアスの問題はどこで発生するのだろうか？企業はAIの開発や配備に全力投球するにあたり、そうした問題に十分な注意を払っているのだろうか？何らかの対処を講じているのだろうか？そもそも、何をすべきか分かっているのだろうか？
提供： Joe McKendrick
AIからバイアスや、意図しない結果を除去することは、テクノロジー分野のマネージャーやプロフェッショナルの職域の一部になってきている。ビジネスリーダーがAIに関する指針や判断のアドバイスを彼らに求めるようになってきている点を考えると特にその傾向が強いと言える。そして倫理的なAIの追求は、企業に籍を置くテクノロジストの役割が増えるということを意味している。この点は、Capgemini Research Instituteが米国や欧州、中国など10カ国の大規模企業の幹部1580人と4カ国のコンシューマー4400人を対象に実施した調査の結果でも示されている。また同社の調査によって、AIにおける倫理と企業の成長の間には直接的な関連があることも明らかになっている。コンシューマーは、倫理的なAIを用いていると感じた企業をひいきにし、倫理から外れたAIを用いていると感じた企業からは距離を置こうとするという。
企業がAIをその限界まで駆使し、倫理的な一線を越えるリスクをおかす理由は、競争上のプレッシャーにある。CapgeminiでAIおよびアナリティクスグループのマネージングディレクターを務めるAnne-Laure Thieullent氏に率いられた同社レポートの執筆陣は、「AIを利用しなければならないというプレッシャーによって、倫理的な問題が増幅されている」とし、「AIの利用に起因する倫理的な問題が大きくなってきている理由について幹部らに尋ねたところ、一番多かった回答はAIの実装に向けたプレッシャーだった」と続けている。そして、回答者の34％が挙げているこのプレッシャーは、AIのトレンドにおいて先頭を走り続るという企業の意思からきている可能性がある。
また、およそ3分の1の幹部（33％）は、AIシステムの構築時に倫理的な問題が考慮されなかったと答えている。さらに31%の幹部は、人材やリソースの不足が主な問題だったと回答している。IT分野のマネージャーやプロフェッショナルらが力を発揮できるのはこの部分だ。
