人工知能（AI）による意思決定は信頼できるものでなくてはない。AIが普及し、活用される中で起こりうるバイアスの問題が話題になるとともに、そのような問題に対応するサービスも登場している。IBMは2018年、AIの導入を管理できるクラウドソフトウェア「Trust and Transparency capabilities」を発表した。複数のフレームワークでモデルのバイアスを検出し、そうした要素がもたらす影響を監視して、軽減できるという。
こうした動きは、企業が意思決定を行うために、機械学習やさまざまなモデルを導入するようになるにつれ、AI管理の重要性が高まっていることを浮き彫りにしている。企業幹部は、こうした技術を支えるモデルやデータサイエンスを理解するのに苦労するはずだ。またIBMは、企業がAIを大規模に本番環境で導入するのをためらっているのは、AIモデルに対する信頼と透明性が欠けているからだとしている。
そのようなAIの管理は企業にとって、今後最大の課題の1つになるかもしれない。この課題に対する企業の取り組みや考え方などについて参考になる記事をまとめた。
