海外コメンタリー

「倫理的なAI」の重要性高まる--開発者にも求められる変化

Daphne Leprince-Ringuet (Special to ZDNET.com) 翻訳校正: 石橋啓一郎

2020-04-16 06:30

 IT業界は、開発者が自ら開発したイノベーションの倫理的な責任を問われる、新しい時代に突入しつつある。機械学習と人工知能(AI)が専門のペンシルベニア大学教授、Michael Kearns氏は、「これは今までになかったことだ」と述べている。「IT業界はこれまで、(不道徳ではなかったとしても)基本的に道徳に関心がなかった。しかし今や、テクノロジー開発のパイプライン全体を通じて、倫理の問題について慎重に考慮することが求められるようになっている。新しい時代に入ったと私は思う」

 最近では、社会的影響が大きい意思決定の判断材料にAIが使われるようになっている。裁判所の判決や人事採用プロセスから、犯罪容疑者のプロファイリングや福祉給付の割り当てまで、その用途は幅広い。これらのアルゴリズムは、(AIが適切に作られていると仮定しての話だが)素早く優れた意思決定を可能にするはずだと考えられている。しかし、そのようなシステムのトレーニングに使われるデータセットには、しばしば人種や性別、イデオロギーのバイアスが含まれており、不公平な、あるいは差別的な意思決定につながる可能性があることが知られるようになってきた。「ゴミからはゴミしか生まれない」(無意味なデータを入力すれば出力も無意味になる)というわけだ。開発者らは、かつては自分たちが書いたコードは中立であり、偏向してはいないと考えていたかもしれないが、AIの実際の利用事例は、コード自体や、入力されたデータや、あるいはアプリケーションの発想そのものが、現実に問題を引き起こす場合があることを示している。

 Amazonの人材採用エンジンが「女性」(「women’s」)という言葉を含む経歴書を不利に扱っていた例や、英国の警察が人種的背景と間接的に結びついた基準で容疑者をプロファイリングしていた例など、過去に明らかになったアルゴリズムの欠陥には、人権団体が懸念を持つのも無理はないと思われるものもあった。しかも、アルゴリズムのバイアスは問題の一面にすぎない。「AIの倫理」の全体像は多面的なものだからだ。

 世界中の政府が、AIを使ったシステムが引き起こす望ましくない事態の影響を抑えるために、開発者に対して人権を尊重するアルゴリズムを作るように伝え、それを手助けするための法案やガイドライン、フレームワークに取り組んでいる。

 欧州連合(EU)は最近、「信頼できる技術」によって「人間を第一に考える」ことを定めたAI戦略を公表した。また中国の科学者は2019年に、中国政府と協力しながら作成した「北京AI原則」を発表した。この原則では人権の尊重に焦点を当てている。

 米国では2020年に、AIに対する社会的な信頼を構築するための10の原則が提案された。またその数カ月前には、米国防総省が戦争でのAI利用に関するガイドラインの草稿を公表したが、このガイドラインでは開発者に対して、AIの責任から信頼性まで、多岐に渡るさまざまな原則を守ることを求めている。英国では、政府のAI庁(Office for AI)が、同様にAIが従うべき原則について詳しく定めているほか、政府がAIのデータ利用についてのガイドラインを示す「データ倫理フレームワーク」を公表している。

ZDNET Japan 記事を毎朝メールでまとめ読み(登録無料)

ホワイトペーパー

新着

ランキング

  1. セキュリティ

    迫るISMS新規格への移行期限--ISO/IEC27001改訂の意味と求められる対応策とは

  2. セキュリティ

    警察把握分だけで年間4000件発生、IPA10大脅威の常連「標的型攻撃」を正しく知る用語集

  3. セキュリティ

    まずは“交渉術”を磨くこと!情報セキュリティ担当者の使命を果たすための必須事項とは

  4. セキュリティ

    マンガで分かる「クラウド型WAF」の特徴と仕組み、有効活用するポイントも解説

  5. ビジネスアプリケーション

    生成 AI 「Gemini」活用メリット、職種別・役職別のプロンプトも一挙に紹介

ZDNET Japan クイックポール

所属する組織のデータ活用状況はどの段階にありますか?

NEWSLETTERS

エンタープライズコンピューティングの最前線を配信

ZDNET Japanは、CIOとITマネージャーを対象に、ビジネス課題の解決とITを活用した新たな価値創造を支援します。
ITビジネス全般については、CNET Japanをご覧ください。

このサイトでは、利用状況の把握や広告配信などのために、Cookieなどを使用してアクセスデータを取得・利用しています。 これ以降ページを遷移した場合、Cookieなどの設定や使用に同意したことになります。
Cookieなどの設定や使用の詳細、オプトアウトについては詳細をご覧ください。
[ 閉じる ]