Twitterは最近、自社の機械学習アルゴリズムが抱えている隠れたバイアス（偏り）を見つけるために、これまでに前例のない手法を試みた。
Kulynych氏は、Twitterのアルゴリズムに「美しい顔」を選ぶ傾向があることを示して最優秀賞を受賞した。
提供：Bodgan Kulynych氏
この種のものとしては初めてのコンテストを実施して、外部の研究者に参加を呼びかけたのだ。このコンテストは、同社のアルゴリズムの1つが不公平な結果を引き起こしていることを示す、もっとも説得力のある証拠を示した参加者が勝者になるというものだった。
「アルゴリズム内バイアス報奨金チャレンジ」と名付けられたこの取り組みでは、参加者はTwitterの画像トリミングアルゴリズムに使われたコードに全面的にアクセスできた。検証の対象となったのは、ユーザーのタイムラインに表示される画像を見やすいものにするための、画像のトリミング方法を決定するアルゴリズムだ。
この機械学習モデルは、ユーザーが写真の中で一番見たいと思う可能性が高いものを推定するように設計されている。これは、画像の中でもっとも視覚的に目立つ（視覚的顕著性が高い）部分を発見しようとするもので、「顕著性アルゴリズム」とも呼ばれている。このコンテストの目的は、顕著性アルゴリズムが人間にとって有害な選択や差別的な選択を行っているかどうかを調べることであり、500～3500ドル（約5万5000～38万5000円）の賞金が設定されていた。
最優秀賞を獲得したのは、セキュリティおよびプライバシーを専攻する工学の学生であるBogdan Kulynych氏だった。Kulynych氏は、このアルゴリズムが「美容フィルター」を適用する傾向があり、細くて若く見える顔や、肌の色が明るい顔や暖色系の顔、ステレオタイプ的な女性らしさを備えた顔の特徴を選ぶ傾向が強いことを明らかにした。
Kulynych氏は、米ZDNetの取材に対して、「Twitterで（このコンテストに関する）発表を見て、自分の研究テーマに近いと思った。私は現在、博士課程に在籍する学生であり、プライバシーやセキュリティ、機械学習について、そしてこれらの問題が社会とどのような関わりを持つかをテーマにしている」と語った。「私はチャレンジに参加することを決め、1週間でなんとか成果を出すことができた」
このニュースで重要なのは、Twitterの顕著性アルゴリズムに問題が発見されたことではない。同社のユーザーは、2020年にこの技術が黒人よりも白人を、女性の顔よりは男性の顔を選びがちであることに気づいた。Twitterは独自の調査を行い、このモデルが不公平な選択をしていたことを認め、アルゴリズムについて調査し、標準的なアスペクト比の写真であれば全体を表示するようにするなどの新たな仕組みを導入した。
