人工知能（AI）の利用に関しては、Googleのコミットメント（有害な可能性のあるAI利用を決して追求しない）に始まり、Microsoftの「AIの基本原則」、そしてIBMのAI倫理に対するアプローチ（あらゆるアルゴリズムにおいて公平性と透明性を確保する）に至るまで、大手IT企業は責任あるAIというアジェンダに取り組んでおり、さまざまな企業がその規模にかかわらず後に続こうとしている。
こうした傾向は数字にも現れている。コンサルティング企業Capgeminiの調査によると、AIシステムの開発／利用方法のあるべき姿を定めた倫理憲章を規定しているとした組織は2019年には5％にすぎなかったが、2020年には45％へと急増している。「ヒューマンエージェンシー」や「ガバナンス」「説明責任」「無差別性」といったキーワードは多くの企業におけるAIの価値観の主軸に据えられるようになってきている。また、責任あるテクノロジーというコンセプトは徐々に、会議室にとどまらず、役員室でも語られるようになってきているようだ。
倫理は、複雑であり、しばしば抽象的な側面を持つトピックであるにもかかわらず、新たな関心を集めるようになっている。こうした状況を後押ししている主な要因には、これらのアルゴリズムの利用に対する規制を求める政府や一般市民のさまざまな動きがある。とは言うものの、Boston Consulting Group（BCG）で機械学習（ML）およびAIのリーダーを務めるSteve Mills氏によると、責任あるAIが企業にメリットをもたらすシナリオは数多く考えられるという。
Mills氏は米ZDNetに対して、「過去20年にわたる調査によると、自らの存在意義や価値を大切にする企業は長期的な利益を伸ばすことが示されている」と述べ、「また、顧客は強固な価値を有するブランドと関わりを持ちたいと考えている。これについても変わっていない。それは、顧客との間に信頼関係を築く真の機会となる」と続けた。
とはいえ、これは簡単な話ではない。ここ数年を振り返ってみても、慎重に書き上げられたAI原則を有する著名な企業が、自社の評判に傷を付けるようなアルゴリズムの使用に至っていたことが分かるはずだ。例えば、AIを活用したFacebookの広告アルゴリズムは、男性に対してクレジットカードやローンの広告を多く表示している一方、女性に対しては雇用や住宅の広告を多く表示していることが明らかになったと報じられるなど、幾度となく批判にさらされてきた。
同様に、AppleとGoldman Sachsも最近、提示するクレジットカードの上限額が男性よりも女性の方が低くなっているとして槍玉に挙げられていた。また、あるヘルスケア企業が使用していた、追加のケアによって最大のメリットを享受するのは誰かを見極めるアルゴリズムにおいて、白人の患者を好意的に評価していることが明らかになった。
ただMills氏は、こうした例があるからといって企業はAIへの投資をためらうべきではないと主張している。同氏は「多くの企業幹部が、責任あるAIをリスク低減のための手段として捉えている」と述べた上で、「彼らは評判に傷が付くのを恐れており、それが動機となっている。しかしそれは正しいものの見方ではない。ブランドの差別化や、顧客ロイヤリティー、そして突き詰めれば長期的な財務上のメリットに向けた大きな機会と捉えるのが適切だ」と述べた。
