編集部からのお知らせ
新着記事まとめPDF「ランサムウェア」
注目の記事まとめPDF「Chrome OS」
海外コメンタリー

AIのバイアスをなくすには--業界エキスパートに聞く

Joe McKendrick (Special to ZDNet.com) 翻訳校正: 石橋啓一郎

2022-01-27 06:30

 開発者やデータサイエンティストは(もちろん)人間だが、彼らが生み出したシステムは人間ではない。それは単に、人間の論理をコードに組み込んで反映させたものにすぎない。人工知能(AI)システムが出力する結果からバイアスをなくして、賢明なビジネス上の意思決定を行えるようにするには、多くの部門を巻き込んだ包括的なアプローチが必要になる。

 ITスタッフやデータサイエンティストだけでAIを扱うことはできないし、そうすべきでもない。

 最近では、AIに関する取り組みをシステム開発の枠内にとどめることをやめて、事業部門にも拡大すべきだという圧力が高まっている。例えば、「AI Summit」で行われたパネルディスカッションでは、ビジネスリーダーや経営者は、AIを用いた意思決定の質を問うだけでなく、AIを生み出す過程にも積極的に関与する必要があるという点で意見が一致した(筆者はこのカンファレンスに共同議長として参加し、パネルディスカッションのモデレーターを務めた) 。

 Aibleの最高技術責任者(CTO)であるRod Butters氏は、AIの開発とモデリングのプロセスをオープンに行うためのシステマチックな手法が必要だと主張した。「私たちは、データサイエンティストにモデルを作らせようとするとき、彼らに読心術士や占い師の役割を求めてしまっている。データサイエンティストは正しいことをやろうとしているし、責任あるしっかりしたモデルを作ろうとしているが、何を基盤にすべきかは難しい問題だ」と同氏は言う。

 「優れたモデルを作るだけで、すべての問題を解決できるとは限らない」

 では、Butters氏が言うような状況を解決し、潜在的なバイアスや不正確さを修正するにはどうすればいいのだろうか。これは明らかに、企業の経営陣が全体として取り組むべき課題だ。これまで、AIに関する仕事のほとんどはIT部門が担ってきたが、これはIT部門だけでできることではない。業界のさまざまな専門家が、AI開発をよりオープンに行うようにして、関わる人間を増やすべきだと主張している。

 Virtueの最高経営責任者(CEO)であり、Bizconnectのアドバイザーを務めるReid Blackman氏は、「IT担当役員やIT部門のスタッフにその重荷を負わせれば、組織全体に関わる重要な倫理の問題や、評判に関する問題や、法的な問題を技術の問題として一般化してしまうことになるが、それは間違っている」と述べている。「AIのバイアスは技術だけの問題ではない。さまざまな部門が絡んでくる問題だ」と同氏は言う。

 Blackman氏は、AIのバイアスをなくすためのこれまでの取り組みは十分ではなかったと続けた。「アルゴリズムのバイアスに注目が集まっているにも関わらず、この問題を解決するための取り組みはこれまで非常に少なかった。標準的なアプローチは(もちろん、何もしない場合を除けば)、商品やサービスの組み合わせが、複数の下位集団、特に人種や性別によって分けられるグループにどのように分配されているかを調べるさまざまなツールを用いるか、さまざまな定量的な指標を用いて、分配が公平なのか偏っているのかを調べることだ」

ZDNet Japan 記事を毎朝メールでまとめ読み(登録無料)

NEWSLETTERS

エンタープライズ・コンピューティングの最前線を配信

ZDNet Japanは、CIOとITマネージャーを対象に、ビジネス課題の解決とITを活用した新たな価値創造を支援します。
ITビジネス全般については、CNET Japanをご覧ください。

このサイトでは、利用状況の把握や広告配信などのために、Cookieなどを使用してアクセスデータを取得・利用しています。 これ以降ページを遷移した場合、Cookieなどの設定や使用に同意したことになります。
Cookieなどの設定や使用の詳細、オプトアウトについては詳細をご覧ください。
[ 閉じる ]