多くの従業員が自分の理解を超えたAIのアウトプットを無視、AI投資効果を妨げる要因に
現場の従業員がAIのアウトプットを無視する最大の理由は、AIがその判断に至った根拠を説明できないこと
大多数の組織でAIの信頼性と収益性を高めるために必要なデータ基盤が不足
データとAIのリーディング・カンパニーである米国SAS Institute Inc.(以下、SAS)は、IDCの考察を踏まえた最新の調査レポートを発表しました。調査によると、AI投資から高い利益を得るには、信頼できるAIに向けた方策を取り入れることが極めて重要になっています。信頼できるAIに向けた取り組みを実践している組織では、AIプロジェクトによる高い投資利益率(ROI)を実現する可能性が15倍高くなっています。
SASの第二弾レポートとなる「データとAIのインパクトレポート:信頼が生み出す新たな経済価値(Data and AI Impact Report: The New Economics of Trust)」( (リンク ») )で示されている通り、ガバナンス、データ品質、監査可能性に向けた取り組みをしっかりと実践している組織(市場では比較的少数派)は、同業他社を一貫して上回り、AI導入によるROIで2倍以上の成果をあげています。これに対し、信頼できるAIの取り組みで「遅れを取っている」企業で同じ回答をしたのは、20社に1社未満にとどまっています。
SASのCTOであるブライアン・ハリス(Bryan Harris)は、次のように述べています。「AIが機能すれば、そのインパクトは絶大なものとなります。しかし、最先端のエージェントであっても、複雑なタスクにおいてエラー率が25%を超えることは立証されています[1]。これは、重要な意志決定が求められる場面ではとうてい受け入れられません。正確さと再現性を確保するには、エージェント型ワークフローに専門的知見を組み込むと同時に、人間が中心になってガバナンスと監視を担い続ける必要があります。これをうまく実践できれば、信頼性のギャップを埋め、AIによって市場での競争力を高めることができるはずです」
[1] 出典:Stanford HAI, 2026 AI Index Report; independent AI agent benchmark evaluations.
IDCのバイスプレジデントであるクリス・マーシャル(Chris Marshall)氏は、次のように述べています。「AIの自律性が高まる中、組織は新たな課題に直面しています。それは、人々が十分に理解していないシステムに対する信頼を確保することです。今回の調査結果は、監視、説明可能性、アカウンタビリティ(説明責任)、データ基盤の強化が、AI拡張を成功させるための絶対条件となりつつあることを示しています」
日本における主な調査結果
日本の調査結果からは、AIの信頼性が向上する一方、データ基盤の整備や、AIへの信頼を実際のビジネス成果につなげる取り組みが、引き続き課題となっていることが明らかになりました。
AIの信頼性は向上する一方、ビジネスへのインパクトは低下: 日本のAI信頼性指数は、2025年の52.2から2026年には56.4へと4.2ポイント上昇しました。また、認識上の信頼と実際の信頼性との差を示す「信頼ギャップ」は、24ポイントから11.5ポイントへと大幅に縮小しました。一方、AIによるビジネスへの影響を示すインパクト指数は、50.2から48.1へと低下しています。
AIのアウトプットを無視する最大の理由は説明不足: 日本で従業員がAIの推奨事項を無視する理由として最も多かった点は、AIが判断の根拠を十分に説明できないこと(35.3%)です。これに続き、偏りのある、または不公平なアウトプット(20.6%)、事実誤認(14.7%)が挙げられました。
データ基盤の未整備がAI投資の成果を制限: 日本では、最適化されたデータインフラストラクチャを持つ組織はわずか8.7%にとどまり、AI投資から「非常に高い」または「高い」リターンを見込む組織も8.6%にとどまりました。一方、23.1%は損益分岐点にとどまると回答しており、データ基盤の未整備がAIによるビジネス価値の創出を制約している可能性が示されました。
本レポートでは、以下の3つのテーマについてまとめています。
AIが自らの判断を説明できないことは、企業にとって重大なリスクに
今回の調査により、多くの組織において、正しいアウトプットが得られるかどうか判断がつかなかったり、AIが最終的な判断に至った根拠について説明できないようなシステムに依存することをためらう従業員が増えていることが明らかになりました。AIの自律性が高まるにつれ、このリスクも高まることから、成功には説明可能性が不可欠になります。
本レポートでは、AIの導入を妨げる重大な障壁についての検証も行っています。それは、AIの判断に対する不信感から、従業員がそれを無視(オーバーライド)して、手動で修正を加えるというものです。このような行為はAIに対する信頼のさらなる低下を招くだけであり、時間、生産性、収益の損失につながりかねません。AIによる意志決定の質は、基盤となるデータによって決まります。そのため、オーバーライド率を低減しようとするのであれば、強固なデータ基盤の構築が何よりも重要になってきます。
主な調査結果:
ユーザーの97.2%が、少なくとも一部のケースにおいて、AIが生成した推奨事項を無視しています。
AIのアウトプットが正しいと考えるかどうかにかかわらず、従業員がAIの判断を無視することにした理由で最も多かった点は、AIがその判断の根拠を説明できないというものでした。
AIシステムの自律性が高まるにつれ、信頼度は低下しており(生成AIが76%であったのに対し、エージェント型AIは66%)、懸念の拡大が浮き彫りになっています。
信頼できるAIに向けた取り組みがビジネスの成功を後押し
本レポートによって、信頼できるAIに向けた取り組みを優先する組織とそうでない組織との間で、ROIの格差が広がりつつあることが明らかになりました。調査結果を見ると、AIから最大の価値を引き出している組織は、必ずしも他と異なる技術を導入しているわけではなく、AIの管理の仕方に違いがあることが分かります。
主な調査結果:
信頼できるAIに向けた方策に投資している組織では、AIプロジェクトにおいて「非常に高い」または「高い」ROIを達成する可能性が15倍高くなっています(62%対4%)。
信頼できるAIに向けた取り組みに力を注いでいる組織は、売上拡大、コスト削減、カスタマーエクスペリエンス(顧客体験)の向上をはじめとする13のビジネス成果において、1.85倍高い成果を実現しています。
信頼性の高いAIに向けた取り組みを実践しているAIリーダーの85%が、今年、同分野への投資を10%以上増やしており、パフォーマンスの格差がさらに広がる結果となっています。
あまりにも多くの組織が脆弱なデータ基盤によって時間と予算を浪費
非常に多くの組織が、未整備もしくは時代遅れのデータやデータインフラストラクチャを基盤としてAIを導入しています。絶対条件である透明性と説明可能性を支える強固なデータ基盤がないままでは、AIを効果的に管理し、成果を得ることは容易ではありません。
主な調査結果:
完全に最適化され、エージェント型AIに対応できるほど十分に成熟したデータインフラストラクチャを整備している企業はわずか17.5%にとどまっており、これがパフォーマンスに悪影響を及ぼしています。
最適化されたデータ基盤を持つ組織の場合、AIプロジェクトによる高ROIが見込まれるという割合が4倍高くなっています。また、信頼構築に不可欠なデータ品質や説明可能性の管理を義務付けることにしているという回答は6倍になっています。
調査の詳細
本調査は、グローバルにおいて、自社のデータおよびAIの取り組みを把握し、それらに対し影響力を持つ意志決定者2,699名を対象に行われました。調査は世界28カ国において実施され、対象となったのは、銀行、保険、ライフサイエンス、公共部門の4分野です。本レポートでは、業界ごとのユースケースと調査結果に焦点を当て、世界各地のこれらの業界のリーダーのAIに対するアプローチを紹介しています。また、日本の調査結果は、2025年6月に国内の意志決定者100名を対象として実施した調査と、2026年4月に104名を対象として実施した調査に基づいています。
主な調査結果:
銀行部門のリーダーは、法令遵守のためだけでなく、強固なAIガバナンスを競争上の強みおよび業務に不可欠なものとして捉えています。AI活用をリードする銀行の85%がガバナンスの枠組みを整備しているのに対し、AI活用で後れを取る銀行では29%にとどまっています。
公共部門のリーダーの41%が、信頼できるAIへの投資を今後1年間で20%以上増やす予定です。これは、調査対象となった業界の中でも、最も意欲的な投資姿勢の一つといえます。
ライフサイエンス企業の23%がAIを全社規模で展開しており、これはすべての業界の中で最も高い割合です。
調査レポートの全文は、sas.com/ai-impact( (リンク ») )を参照ください。
信頼できるAIとはどのようなものなのか
信頼できるAI( (リンク ») )とは、信頼性があり、公平かつ安全で、規制基準に適合しており、決断に至った根拠を明確に示すことのできる人工知能のことです。AIのアウトプットに誤りや欠落があった場合、組織内のあらゆる階層のユーザーや意志決定者が、あらかじめ定められた説明責任の連鎖(chain of accountability)に沿って、AIシステムの責任を検証できるようにする必要があります。AIシステムは、明確なルールのもと管理され、それらに準拠していることが証明できなければなりません。
信頼できるAIのリーダーになる組織の特長とは
今回の調査では、信頼できるAIの持つ5つの側面と照らし合わせて組織を評価し、100点満点でスコアリングしました。本レポートにおける信頼できるAIのリーダーとは、総合スコアの平均が80点以上の組織を指します。
組織を評価するにあたって、信頼できるAIの条件である5つの基準を用いました。
データ品質とガバナンス
モデルのガバナンスと監視
説明可能性と公平性
責任あるAIに関するポリシー
監査とアカウンタビリティ(説明責任)
*2026年9月1日に米国SAS Institute Inc.より発表されたプレスリリース( (リンク ») )の抄訳に、日本市場の調査結果を追記しています。
本プレスリリースの正式言語は英語であり、その内容および解釈については英語を優先します。
SASについて
SASはデータとAIのリーディング・カンパニーです。SASの革新的なソフトウェアと業界特化型のソリューションが、世界中のお客様にデータを信頼できる意志決定に変換するパワーを届けています。SASは「The Power to Know®(知る力)」をお届けします。
*SASとその他の製品は米国とその他の国における米国SAS Institute Inc.の商標または登録商標です。その他の会社名ならびに製品名は、各社の商標または登録商標です。
お問い合わせにつきましては発表元企業までお願いいたします。

