ガートナージャパンは6月12日、企業で拡大するAIの利用とリスクへの対応で「ガーディアンエージェント」が重要な役割を担うとの見解を発表した。ガーディアンエージェントは、2030年までにエージェント型AI市場の10~15%を占めると予想している。
同社によれば、ガーディアンエージェントとは、「AIとの安全で信頼できるやりとりを支援するために設計されたAIベースのテクノロジー」になる。コンテンツのレビューやモニタリング、分析などのタスクによりユーザーを支援するAIアシスタントとして機能するほか、半自律型または完全自律型のAIエージェントとして、行動計画の策定と実行、事前定義済みの目的に沿った行動の修正やブロックも行う。
同社は、5月19日にウェビナーを開催し、ここで147人の最高情報責任者(CIO)とITのリーダーにアンケートを実施。その結果、回答者の24%が12個未満のAIエージェントを既に導入し、4%が12個以上を導入済みだと回答した。現時点でAIエージェントを推進しているのは50%、調査/実験には未着手ながら2026年末までの導入を予定しているのは17%だった。回答者125人のうち、AIエージェントの現在または将来の主な用途として、52%が社内の管理業務(IT、人事、経理など)、23%が顧客対応業務を挙げたという。
AIエージェントの整合性と安全性を維持するには、信頼やリスク、セキュリティを自動で制御する仕組みが必要になり、これをガーディアンエージェントが担うという。“安全柵”のないエージェント型AIは、入力操作やデータポイズニングなどを通じて改ざんされたデータや誤って解釈されたデータを使用してしまい、(1)認証情報の乗っ取りや不正使用により不正な操作やデータ窃取が実行される、(2)偽または犯罪目的のウェブサイトや情報源とのやりとりによりエージェントが有害な動作を実行する、(3)内部の欠陥や外的要因に起因するエージェントの逸脱や意図しない行動が評判の失墜や業務の混乱をもたらす――といった問題につながりかねないとしている。
米Gartner ディスティングイッシュト バイス プレジデント アナリストのAvivah Litan氏は、「ガーディアンエージェントは、幅広いエージェント型AIの能力とAIベースの決定論的評価を活用して、エージェントの能力全般を監督/管理しながら、実行時の意思決定とリスクマネジメントのバランスを取る」と解説する。
CIOやセキュリティ、AIのリーダーは、AIとのやりとりの安全確保と防御を促進するため、以下のガーディアンエージェントの3つの主な役割に注目すべきだとしている。
- レビュアーとしてのガーディアンエージェント:AIが生成した出力やコンテンツが正確で適切かを確認/レビューする
- モニターとしてのガーディアンエージェント:AIやエージェントの行動を観察、追跡し、人間またはAIの追加対応を支援する
- プロテクターとしてのガーディアンエージェント:オペレーション中に自動アクションを使用し、AIやエージェントのアクションや権限を調整、ブロックする