編集部からのお知らせ
新着記事まとめPDF「IBM分社のキンドリル」
ZDNet Summit 2021開催のご案内
海外コメンタリー

AIアルゴリズムのバイアスを発見する報奨金プログラム、その可能性

Daphne Leprince-Ringuet (Special to ZDNet.com) 翻訳校正: 石橋啓一郎

2021-08-31 06:30

 Twitterは最近、自社の機械学習アルゴリズムが抱えている隠れたバイアス(偏り)を見つけるために、これまでに前例のない手法を試みた。

Kulynych氏の評価に使われた顔の画像
Kulynych氏は、Twitterのアルゴリズムに「美しい顔」を選ぶ傾向があることを示して最優秀賞を受賞した。
提供:Bodgan Kulynych氏

 この種のものとしては初めてのコンテストを実施して、外部の研究者に参加を呼びかけたのだ。このコンテストは、同社のアルゴリズムの1つが不公平な結果を引き起こしていることを示す、もっとも説得力のある証拠を示した参加者が勝者になるというものだった。

 「アルゴリズム内バイアス報奨金チャレンジ」と名付けられたこの取り組みでは、参加者はTwitterの画像トリミングアルゴリズムに使われたコードに全面的にアクセスできた。検証の対象となったのは、ユーザーのタイムラインに表示される画像を見やすいものにするための、画像のトリミング方法を決定するアルゴリズムだ。

 この機械学習モデルは、ユーザーが写真の中で一番見たいと思う可能性が高いものを推定するように設計されている。これは、画像の中でもっとも視覚的に目立つ(視覚的顕著性が高い)部分を発見しようとするもので、「顕著性アルゴリズム」とも呼ばれている。このコンテストの目的は、顕著性アルゴリズムが人間にとって有害な選択や差別的な選択を行っているかどうかを調べることであり、500~3500ドル(約5万5000~38万5000円)の賞金が設定されていた。

 最優秀賞を獲得したのは、セキュリティおよびプライバシーを専攻する工学の学生であるBogdan Kulynych氏だった。Kulynych氏は、このアルゴリズムが「美容フィルター」を適用する傾向があり、細くて若く見える顔や、肌の色が明るい顔や暖色系の顔、ステレオタイプ的な女性らしさを備えた顔の特徴を選ぶ傾向が強いことを明らかにした。

 Kulynych氏は、米ZDNetの取材に対して、「Twitterで(このコンテストに関する)発表を見て、自分の研究テーマに近いと思った。私は現在、博士課程に在籍する学生であり、プライバシーやセキュリティ、機械学習について、そしてこれらの問題が社会とどのような関わりを持つかをテーマにしている」と語った。「私はチャレンジに参加することを決め、1週間でなんとか成果を出すことができた」

 このニュースで重要なのは、Twitterの顕著性アルゴリズムに問題が発見されたことではない。同社のユーザーは、2020年にこの技術が黒人よりも白人を、女性の顔よりは男性の顔を選びがちであることに気づいた。Twitterは独自の調査を行い、このモデルが不公平な選択をしていたことを認め、アルゴリズムについて調査し、標準的なアスペクト比の写真であれば全体を表示するようにするなどの新たな仕組みを導入した。

ZDNet Japan 記事を毎朝メールでまとめ読み(登録無料)

特集

CIO

モバイル

セキュリティ

スペシャル

NEWSLETTERS

エンタープライズ・コンピューティングの最前線を配信

ZDNet Japanは、CIOとITマネージャーを対象に、ビジネス課題の解決とITを活用した新たな価値創造を支援します。
ITビジネス全般については、CNET Japanをご覧ください。

このサイトでは、利用状況の把握や広告配信などのために、Cookieなどを使用してアクセスデータを取得・利用しています。 これ以降ページを遷移した場合、Cookieなどの設定や使用に同意したことになります。
Cookieなどの設定や使用の詳細、オプトアウトについては詳細をご覧ください。
[ 閉じる ]