編集部からのお知らせ
ダウンロード公開中「ITが取り組むべきプライバシー」
最新記事まとめ「医療IT」
海外コメンタリー

「倫理的なAI」の重要性高まる--開発者にも求められる変化

Daphne Leprince-Ringuet (Special to ZDNet.com) 翻訳校正: 石橋啓一郎

2020-04-16 06:30

 IT業界は、開発者が自ら開発したイノベーションの倫理的な責任を問われる、新しい時代に突入しつつある。機械学習と人工知能(AI)が専門のペンシルベニア大学教授、Michael Kearns氏は、「これは今までになかったことだ」と述べている。「IT業界はこれまで、(不道徳ではなかったとしても)基本的に道徳に関心がなかった。しかし今や、テクノロジー開発のパイプライン全体を通じて、倫理の問題について慎重に考慮することが求められるようになっている。新しい時代に入ったと私は思う」

 最近では、社会的影響が大きい意思決定の判断材料にAIが使われるようになっている。裁判所の判決や人事採用プロセスから、犯罪容疑者のプロファイリングや福祉給付の割り当てまで、その用途は幅広い。これらのアルゴリズムは、(AIが適切に作られていると仮定しての話だが)素早く優れた意思決定を可能にするはずだと考えられている。しかし、そのようなシステムのトレーニングに使われるデータセットには、しばしば人種や性別、イデオロギーのバイアスが含まれており、不公平な、あるいは差別的な意思決定につながる可能性があることが知られるようになってきた。「ゴミからはゴミしか生まれない」(無意味なデータを入力すれば出力も無意味になる)というわけだ。開発者らは、かつては自分たちが書いたコードは中立であり、偏向してはいないと考えていたかもしれないが、AIの実際の利用事例は、コード自体や、入力されたデータや、あるいはアプリケーションの発想そのものが、現実に問題を引き起こす場合があることを示している。

 Amazonの人材採用エンジンが「女性」(「women’s」)という言葉を含む経歴書を不利に扱っていた例や、英国の警察が人種的背景と間接的に結びついた基準で容疑者をプロファイリングしていた例など、過去に明らかになったアルゴリズムの欠陥には、人権団体が懸念を持つのも無理はないと思われるものもあった。しかも、アルゴリズムのバイアスは問題の一面にすぎない。「AIの倫理」の全体像は多面的なものだからだ。

 世界中の政府が、AIを使ったシステムが引き起こす望ましくない事態の影響を抑えるために、開発者に対して人権を尊重するアルゴリズムを作るように伝え、それを手助けするための法案やガイドライン、フレームワークに取り組んでいる。

 欧州連合(EU)は最近、「信頼できる技術」によって「人間を第一に考える」ことを定めたAI戦略を公表した。また中国の科学者は2019年に、中国政府と協力しながら作成した「北京AI原則」を発表した。この原則では人権の尊重に焦点を当てている。

 米国では2020年に、AIに対する社会的な信頼を構築するための10の原則が提案された。またその数カ月前には、米国防総省が戦争でのAI利用に関するガイドラインの草稿を公表したが、このガイドラインでは開発者に対して、AIの責任から信頼性まで、多岐に渡るさまざまな原則を守ることを求めている。英国では、政府のAI庁(Office for AI)が、同様にAIが従うべき原則について詳しく定めているほか、政府がAIのデータ利用についてのガイドラインを示す「データ倫理フレームワーク」を公表している。

ZDNet Japan 記事を毎朝メールでまとめ読み(登録無料)

特集

CIO

モバイル

セキュリティ

スペシャル

ホワイトペーパー

新着

ランキング

  1. クラウドコンピューティング

    AWS、Microsoft、Googleがリード!パブリッククラウドコンテナプラットフォーム市場分析

  2. ビジネスアプリケーション

    ウィズコロナ時代はあと2年は続く?!アフターデジタル時代の4つの重要ポイント

  3. セキュリティ

    2021年のサイバー脅威予測が明らかに─将来の攻撃に企業はいかに備えるべきか

  4. OS

    “テレワークだからこそ”デスクトップPCを利用すべき?!ノートPCにはない魅力の数々に迫る

  5. 運用管理

    7つの視点で解説するデータベース構築・運用ー誰でもわかるSQL Serverストレージガイド

NEWSLETTERS

エンタープライズ・コンピューティングの最前線を配信

ZDNet Japanは、CIOとITマネージャーを対象に、ビジネス課題の解決とITを活用した新たな価値創造を支援します。
ITビジネス全般については、CNET Japanをご覧ください。

このサイトでは、利用状況の把握や広告配信などのために、Cookieなどを使用してアクセスデータを取得・利用しています。 これ以降ページを遷移した場合、Cookieなどの設定や使用に同意したことになります。
Cookieなどの設定や使用の詳細、オプトアウトについては詳細をご覧ください。
[ 閉じる ]