バランスを欠いたAI。レポートは、コンピュータ科学分野が白人男性で占められているため、多様性が必要であると指摘している。多様性が実現されなければ、AIはアルゴリズムの作成者が持つ偏りを引き継ぐことになる。
（米科学技術政策局が発行した情報提供依頼書に対する）コメントの多くは、多様性を有するクリエーターらによる、多様性を有するユーザーのためのAIを作り出すことの重要性を指摘していた。そのようにして幅広い経験やバックグラウンド、意見を活用することで、視野の狭いAIの開発や、バランスを欠いたアルゴリズムの開発といった好ましくない事態を避けやすくなる。こうした点については、公開ワークショップでも幅広く採り上げられていた。AI技術を設計する際における開発者の多様性不足によって引き起こされる影響や、社会に対するAIの影響についての研究もある。こういった充実した研究が増えているものの、多様性を有したAI開発者による開発というニーズに関する文献はまだ立ち後れている状況だ。より多くのリサーチが望まれるところだ。
レポートはこの後、バランスを欠いたAIに関連することがらに言及した後、以下のように記している。
複雑なアルゴリズムは常に設計者の意図通りに動作する、このためアルゴリズムに偏りが生じるのは開発者が意識的に、あるいは無意識のうちにバランスを欠いた場合のみであるという誤った見方をしている人も多い。この見方は、機械学習の結果を評価する難しさとは相反する。確かに、開発者がバランスを欠いたアルゴリズムを作り出そうとすればできるし、実践者が無意識の偏見によって、偏りを防ぐ努力を怠ってしまうことがあるのは事実だ。しかし現実には、バランスの取れた開発者が最大限の努力を注いでも、バランスを欠いたシステムを偶発的に作り出してしまう可能性がある。なぜなら、AIシステムの開発者ですら、意図せぬ結果を防げるほど十分に理解していない場合もあるためだ。
