拡大するAIの利用とリスクには「ガーディアンエージェント」が鍵--ガートナー

ZDNET Japan Staff

2025-06-12 11:50

 ガートナージャパンは6月12日、企業で拡大するAIの利用とリスクへの対応で「ガーディアンエージェント」が重要な役割を担うとの見解を発表した。ガーディアンエージェントは、2030年までにエージェント型AI市場の10~15%を占めると予想している。

 同社によれば、ガーディアンエージェントとは、「AIとの安全で信頼できるやりとりを支援するために設計されたAIベースのテクノロジー」になる。コンテンツのレビューやモニタリング、分析などのタスクによりユーザーを支援するAIアシスタントとして機能するほか、半自律型または完全自律型のAIエージェントとして、行動計画の策定と実行、事前定義済みの目的に沿った行動の修正やブロックも行う。

 同社は、5月19日にウェビナーを開催し、ここで147人の最高情報責任者(CIO)とITのリーダーにアンケートを実施。その結果、回答者の24%が12個未満のAIエージェントを既に導入し、4%が12個以上を導入済みだと回答した。現時点でAIエージェントを推進しているのは50%、調査/実験には未着手ながら2026年末までの導入を予定しているのは17%だった。回答者125人のうち、AIエージェントの現在または将来の主な用途として、52%が社内の管理業務(IT、人事、経理など)、23%が顧客対応業務を挙げたという。

 AIエージェントの整合性と安全性を維持するには、信頼やリスク、セキュリティを自動で制御する仕組みが必要になり、これをガーディアンエージェントが担うという。“安全柵”のないエージェント型AIは、入力操作やデータポイズニングなどを通じて改ざんされたデータや誤って解釈されたデータを使用してしまい、(1)認証情報の乗っ取りや不正使用により不正な操作やデータ窃取が実行される、(2)偽または犯罪目的のウェブサイトや情報源とのやりとりによりエージェントが有害な動作を実行する、(3)内部の欠陥や外的要因に起因するエージェントの逸脱や意図しない行動が評判の失墜や業務の混乱をもたらす――といった問題につながりかねないとしている。

 米Gartner ディスティングイッシュト バイス プレジデント アナリストのAvivah Litan氏は、「ガーディアンエージェントは、幅広いエージェント型AIの能力とAIベースの決定論的評価を活用して、エージェントの能力全般を監督/管理しながら、実行時の意思決定とリスクマネジメントのバランスを取る」と解説する。

 CIOやセキュリティ、AIのリーダーは、AIとのやりとりの安全確保と防御を促進するため、以下のガーディアンエージェントの3つの主な役割に注目すべきだとしている。

  • レビュアーとしてのガーディアンエージェント:AIが生成した出力やコンテンツが正確で適切かを確認/レビューする
  • モニターとしてのガーディアンエージェント:AIやエージェントの行動を観察、追跡し、人間またはAIの追加対応を支援する
  • プロテクターとしてのガーディアンエージェント:オペレーション中に自動アクションを使用し、AIやエージェントのアクションや権限を調整、ブロックする

ZDNET Japan 記事を毎朝メールでまとめ読み(登録無料)

ZDNET Japan クイックポール

所属する組織のデータ活用状況はどの段階にありますか?

NEWSLETTERS

エンタープライズコンピューティングの最前線を配信

ZDNET Japanは、CIOとITマネージャーを対象に、ビジネス課題の解決とITを活用した新たな価値創造を支援します。
ITビジネス全般については、CNET Japanをご覧ください。

このサイトでは、利用状況の把握や広告配信などのために、Cookieなどを使用してアクセスデータを取得・利用しています。 これ以降ページを遷移した場合、Cookieなどの設定や使用に同意したことになります。
Cookieなどの設定や使用の詳細、オプトアウトについては詳細をご覧ください。
[ 閉じる ]