人が担う「責任」と「教育」 ―― AIエージェントで価値を生み出すための道筋

DataRobot Japan 副社長 AI＆サービス統括部長 小川幹雄氏

生成AIと予測AIの分断が招く停滞

　AI技術は、人気の生成AIサービスを筆頭に、多くの企業で日常的に使われるツールの1つとなった。ところが「AIエージェント」については、高度な業務を遂行できる技術として関心こそ高いものの、概念実証（PoC）の段階で足踏みしてしまい、本番で成果を上げるところまで至っている企業はまだ少ない。

　DataRobotは、この“PoCの壁”を越えようとする企業を強力に支援する。同社がNVIDIAと共同開発した「エージェントワークフォースプラットフォーム」は、クラウドから自社のデータセンター、外部から遮断された閉域環境まで、どんな環境でも同一のアーキテクチャーでAIエージェントを構築・実行できるという特長がある。自社開発のAIや他社製のAIも同じ基盤上で運用でき、組み込みのガバナンスを一貫して適用できる点も有用だ。

　日本市場でAIエージェントの導入が進まないのはなぜか、企業はAIとどのように向き合うべきか。米DataRobotの日本法人DataRobot Japanで副社長 AI＆サービス統括部長を務める小川幹雄氏に話を聞いた。

　小川氏は、データベース関連のソリューションアーキテクトを経て、日本法人の3人目のメンバーとして同社に参画した。当初はインフラやサポートを担当していたが、1年ほどで以前から強い関心のあったデータサイエンティストへ。ミッションクリティカルで要求レベルの高い金融分野のチームを率いたのち、現在は日本の技術部門全体を統括している。

　日本企業におけるAI活用の現状について、小川氏は次のように捉えている。

　生成AIが登場した当初、多くの日本企業は手軽に成果が出る生成AIのための独立した組織を立ち上げた。しかし、従来のデータ分析・活用部門と切り離されてしまい、小さな成功しか積み上げられなかった。今、ようやく「生成AIだけでは足りない」という認識が広がり、両者の組織を合流させようとする動きが見え始めている。

　しかし、ここで障害となるのがAIエージェントの位置付けだ。AIエージェントの中核技術である大規模言語モデル（LLM）は一般的な生成AIと共通するため、多くの企業でAIエージェントは生成AIを担当するチームの持ち物という認識であった。その結果、予測AIやデータ活用を担うチームとKPIがぶつかり、連携しにくい状況が生まれている。

　「いったん立ち止まって、生成AIの定義を小さくしたほうがよいと考えています。生成AIとは、要約や翻訳、文章の生成といったシンプルな機能に限定する。外部のデータベースを使用するRAG（検索拡張生成）のように、何かを参照しながら判断・行動する仕組みはAIエージェントとして整理する。そうして境界を明確に分けておかないと、“予測AIの技術を少しでも使うテーマは生成AIチームでは扱えない”という壁ができ、価値あるテーマを逃してしまいます。予測と生成で組織を分けず、AIチームとしてひとくくりにしたほうがうまくいく段階だと感じます」（小川氏）

最後に人に残るのは「責任」と「教育」

　AIエージェントを3つのレベルで整理すること ―― 小川氏は真剣に取り組もうとする企業へ、そうアドバイスする。

　レベル1は、個人の生産性を高める対話型のAIアシスタント。レベル2は、各SaaSに組み込まれた業務エージェント。そしてレベル3、企業ごとにカスタマイズされたドメイン特化型のエージェントが、システムや部門を横断して動く「エージェントワークフォース」である。レベル1はすでに多くの企業が利用し、レベル2に取り組んでいる企業も増えているだろう。DataRobotが特に力を入れているのはレベル3だ。

　レベル3では業務そのものを変える必要がある。そこで小川氏は、外部に委託していた業務や人の責任範囲が小さい業務など、できるだけ痛みを伴わない領域から着手できるよう、自社のどこにレベル1～3が適合するのかを整理すべきだと説く。

　ここでよくある誤りが、「データが整ってから」と考えることだ。足りないデータは、やってみて初めて分かるものである。そもそも人の手で回っている業務は、組織のシステムとしてはすでに完成している。業務の流れはそのまま活かし、担い手の一部をエージェントに移す。最終確認と責任は人が持つ。この発想はRPAに近いが、AIであればルールに書き切れないあいまいな判断にも対応できる点が決定的に異なる。ただしAIの判断には誤りも起こり得るため、後述する監視や安全装置、人による確認と組み合わせることが前提となる。

　では、人には何が残されるのだろうか。小川氏は、「責任」と「教育」だと主張する。

　「最終的に人が確認して責任を持つ自動化された工程がある一方で、自動化できたとしても人材育成のためにあえて人の手で続けたい工程もあるはずです。多くの業務ステップは自動化の対象になり得ます。だからこそ、絶対に残したい業務ステップを決めて、それ以外はROIの高い順に自動化していけばよい。もし目先のROIだけを追って教育の機会まで手放してしまうと、10年後には組織を支える根幹が失われてしまうでしょう」と、小川氏は忠告する。

AI専業10年の人材力、本番を支えるプラットフォーム

　DataRobotの強みは、日本市場で10年以上、AIのみに取り組んできた専業ならではの人材力だと、小川氏は強調する。総合ベンダーではAIが主力製品の付属品になりがちで、専任組織を拡充することが難しい。同氏によれば、DataRobotは、事業会社出身も多く、自身の経験からAIが事業を変革できると本気で信じているメンバーが集まっており、エージェントの設計思想から実装技術まで、顧客に深く助言できる点も特長の1つだという。

　DataRobotのサービスの1つとして、顧客の現場に直接入り込んで支援するFDE（フォワード・デプロイド・エンジニア）チームが組織されている。顧客の業務と課題を深く理解したうえで、システムへのデプロイからビジネス価値の創出までエンド・ツー・エンドで支援する。日本では、特にFDEの強化に注力しているとのことだ。

　「これまでもパートナー各社と連携してご支援してきましたが、AIの進化が激しく、最新のベストプラクティスを弊社自らお届けする体制を強化しています。DataRobotは毎月のように新機能をリリースしているため、DataRobot Japanがリリース前から調査・検証を実施して、直接お客さまへ届けたいと考えたのです」（小川氏）

　小川氏が最も重視するのが、AIエージェントを動かす実行環境である。DataRobotは、個人のPCで動くエージェントではなく、組織で共用でき、権限管理とモニタリングが有効な本番環境を簡単に用意できる。ワンコマンドでデプロイし、リソース・サービスの正常性・使用状況・トレースの4層の監視が標準で有効になる。想定外の入出力には、ガードレールでリアルタイムに介入できる。

　小川氏はガードレールとトレースを「自動ブレーキとドライブレコーダー」にたとえて重視する。AIが業務に組み込まれるほど、判断の根拠を組織として説明する責任が重くなるためだ。

　DataRobotが力を入れているレベル3のエージェントは企業の業務の根幹になる部分である。当然問題を起こすべきではないため、自動ブレーキの質が大切になる。ただ、運転と同じで自分の判断は正しかったのに、その判断が正しいことの説明を、影響を受けた側から求められる場合がある。その時、ブラックボックス状態では説明責任を果たすことができない。トレースは常に見続けるものではなく、問題があった時にドライブレコーダーのように該当の部分をステップごとに見ていくことができる。AIエージェントを簡単かつ安全に動かすことができる実行環境を備えているのがDataRobotの強みである。

共創の先へ、“自社らしさ”を見いだすAI活用

　こうした共創の姿勢は、顧客の取り組みにも表れている。商工中金は、専門知識の活用を支援するAIエージェントを一から企画・開発。PoCで得たDataRobotのFDEチームの知見も活用しながら、自ら本番アプリを内製し、全国の営業店へ展開した。またシスメックスは、DataRobotのエンジニアと伴走する人材育成プログラムを通じて各部門にAI活用の推進役を育て、その修了者が中心となってAIエージェント開発に取り組んだとのことだ。

　小川氏は、日本企業が今後、ビジネスプランニングや業務オペレーションといったレベル3の領域へ本格的に投資していくと予測する。

　「DataRobot創業者の『Think like a CEO』ということばを大事にしています。AIの判断は、会社自身の判断です。だからこそAIエージェントに取り組むのならば、KPIだけでなく、組織として本当に意味があるのかを問い続けなければなりません。どの会社も同じAI・同じ意思決定を行うなら、自社の価値はなくなってしまいます。責任として、教育として、何を後に残すのか。その教育自体が組織のブランドになるのかもしれません。ぜひ熱い想いを持つお客さまとともに、本気でAIに取り組んでいきたいですね」（小川氏）

DataRobot Japan 株式会社
100-0005東京都千代田区丸の内1-6-5 丸の内北口ビルディング9階
https://www.datarobot.com/jp

＜関連資料＞