人工知能(AI)は着実に普及が進んでいる。また、ビッグデータや機械学習(ML)、ニューラルネットワークとともに、テクノロジ分野の流行語となっている。しかし、こうしたかたちで語られるAIという言葉には、多少の誇張が含まれており、AIの土台となる詳細や、AIが業務にもたらす意味について十分に知られていない場合がある。このまま普及していくと、企業はマネジメントにおける難題を抱える可能性も考えられる。
例えば、アナリティクスの結果が、元となるデータの品質によって歪曲される可能性がある。そうしたことを考慮し、ブラックボックスでの意思決定を避ける必要があるとの見方がある。一方で、そのようなAIによる判断の根拠を説明することが難しいというブラックボックスの問題の解決に向けた技術の開発も一部で進められている。
