編集部からのお知らせ
新着記事まとめPDF「IBM分社のキンドリル」
ZDNet Summit 2021開催のご案内

来るべきAI時代に備える--オバマ政権レポートの注目点 - (page 2)

Larry Dignan (ZDNet.com) 翻訳校正: 村上雅章 野崎裕子

2016-10-18 06:30

 バランスを欠いたAI。レポートは、コンピュータ科学分野が白人男性で占められているため、多様性が必要であると指摘している。多様性が実現されなければ、AIはアルゴリズムの作成者が持つ偏りを引き継ぐことになる。

 (米科学技術政策局が発行した情報提供依頼書に対する)コメントの多くは、多様性を有するクリエーターらによる、多様性を有するユーザーのためのAIを作り出すことの重要性を指摘していた。そのようにして幅広い経験やバックグラウンド、意見を活用することで、視野の狭いAIの開発や、バランスを欠いたアルゴリズムの開発といった好ましくない事態を避けやすくなる。こうした点については、公開ワークショップでも幅広く採り上げられていた。AI技術を設計する際における開発者の多様性不足によって引き起こされる影響や、社会に対するAIの影響についての研究もある。こういった充実した研究が増えているものの、多様性を有したAI開発者による開発というニーズに関する文献はまだ立ち後れている状況だ。より多くのリサーチが望まれるところだ。

 レポートはこの後、バランスを欠いたAIに関連することがらに言及した後、以下のように記している。

 複雑なアルゴリズムは常に設計者の意図通りに動作する、このためアルゴリズムに偏りが生じるのは開発者が意識的に、あるいは無意識のうちにバランスを欠いた場合のみであるという誤った見方をしている人も多い。この見方は、機械学習の結果を評価する難しさとは相反する。確かに、開発者がバランスを欠いたアルゴリズムを作り出そうとすればできるし、実践者が無意識の偏見によって、偏りを防ぐ努力を怠ってしまうことがあるのは事実だ。しかし現実には、バランスの取れた開発者が最大限の努力を注いでも、バランスを欠いたシステムを偶発的に作り出してしまう可能性がある。なぜなら、AIシステムの開発者ですら、意図せぬ結果を防げるほど十分に理解していない場合もあるためだ。

ZDNet Japan 記事を毎朝メールでまとめ読み(登録無料)

特集

CIO

モバイル

セキュリティ

スペシャル

NEWSLETTERS

エンタープライズ・コンピューティングの最前線を配信

ZDNet Japanは、CIOとITマネージャーを対象に、ビジネス課題の解決とITを活用した新たな価値創造を支援します。
ITビジネス全般については、CNET Japanをご覧ください。

このサイトでは、利用状況の把握や広告配信などのために、Cookieなどを使用してアクセスデータを取得・利用しています。 これ以降ページを遷移した場合、Cookieなどの設定や使用に同意したことになります。
Cookieなどの設定や使用の詳細、オプトアウトについては詳細をご覧ください。
[ 閉じる ]