編集部からのお知らせ
解説:広がるエッジAIの動向
Check! ディープラーニングを振り返る

AIの普及が生み出す新たな課題はプライバシー--MS責任者

阿久津良和

2017-03-22 07:30

 日本マイクロソフトは3月16日、米国本社の責任者を招いて「信頼できるAI(Trusted AI)」の現状と課題、今後の展望を語った。

 MicrosoftはAI(人工知能)の信頼性を高めるため、「公平性(Fairness)」「説明責任(Accountability)」「透明性(Transparency)」「倫理(Ethics)」と4つの頭文字を取って「FATE」が重要であるとアピールしている。我々の社会にAIが浸透する近未来を踏まえて、Microsoft VP Regulatory Affairs Daved A. Heiner氏は、「AIの課題は洗い出され、利害関係者の合意もある。まだ時間はかかるが『後はクランクを回す』だけだ」と現状を説明した。

Affairs Daved A. Heiner氏
Microsoft VP Regulatory Affairs Daved A. Heiner氏

 Heiner氏は1994年にMicrosoftへ入社し、2013年まで法務部門に在籍しながら、反トラスト関連業務の責任者を務めている。また、相互運用性を促進するための国際標準化機関との連携も数年にわたって担当してきた。現在はプライバシーや通信、AI、アクセシビリティ、オンラインセーフティ分野の規制関連を担当している関係から日本政府が開催した会議に参加し、AI関する見解を披露した。同氏は我々の取り巻く環境がデジタル化し、ビッグデータ、機械学習、AIの時代を迎えたいまだからこそ、AIに対する倫理上の課題が注目されていると語る。

 人は体験から学ぶが、AIはデータから学びを得るため、ビッグデータに代表されるデータの価値が重視される。誤った推測結果も人が再訓練を指示すれば、過ちから学び直し、より良い予測を提示することが可能だ。しかし、そこには「すべての人々を公平に尊重する」倫理観が必要だとHeiner氏は強調する。

 例えばGoogleで「3人の10代黒人」を画像として検索すると、警察が撮影した犯罪者の写真が候補として提示され、「3人の10代白人」と検索すると、ボールを手にする笑顔の写真が示される。「われわれはGoogleではないので推論だが」(Heiner氏)と前置きしつつ、意図的なプログラミングではなく社会にあるデータをそのまま機械学習に与えた結果だと推察した。つまるところ、米国では潜在的な差別意識が根深く存在し、AIはそのままモデリングした結果、このような検索結果を提示する現象が発生している。

 また、「CEO」で画像検索を行うと、やはり男性が多い。Fortune 500に名を連ねる企業の約9割が男性なので事実だが、経営は男性の仕事というメッセージが含まれてしまう。「価値観の相違があるため難しい領域だが、(先の差別意識と合わせて)考えなければならない」(Heiner氏)問題である。これらの打開策としてHeiner氏は、「多様性を持つ人々がAI技術を開発する」「データサイエンティスト(科学者)が社会の問題を見抜く」「政府機関などによるガイドラインで偏見を取り除く」といった手法を提示した。

ZDNet Japan 記事を毎朝メールでまとめ読み(登録無料)

Special PR

特集

CIO

モバイル

セキュリティ

スペシャル

NEWSLETTERS

エンタープライズ・コンピューティングの最前線を配信

ZDNet Japanは、CIOとITマネージャーを対象に、ビジネス課題の解決とITを活用した新たな価値創造を支援します。
ITビジネス全般については、CNET Japanをご覧ください。

このサイトでは、利用状況の把握や広告配信などのために、Cookieなどを使用してアクセスデータを取得・利用しています。 これ以降ページを遷移した場合、Cookieなどの設定や使用に同意したことになります。
Cookieなどの設定や使用の詳細、オプトアウトについては詳細をご覧ください。
[ 閉じる ]