AIエージェントは、現在最も注目されている技術である。それには理由があり、これまでAIチャットボットが提供してきたアシスト能力を一歩進め、ユーザーに代わってタスクを実行するからだ。例えば、メールの送受信や返信といったシンプルなものから、調達注文の承認のような複雑なタスクまでさまざまだ。ただ、エージェントはユーザーデータにアクセスするため、特に安全性が重要となる。
Microsoftは米国時間5月19〜22日、ワシントン州シアトルで開発者会議「Build 2025」を開催している。基調講演ではプラットフォームのアップデートが発表され、AIエージェントが大きな話題となった。Microsoftは、「Microsoft 365」アプリや「GitHub」などで人々のワークフローを最適化できる強力なエージェントをリリースしただけでなく、信頼できるエージェントの構築を容易にする新機能も発表している。
MicrosoftのResponsible AI担当CPOであるSarah Bird氏は、米ZDNETに対して次のように語った。「エージェントの素晴らしい点は、はるかに多くのことができるようになることだ。エージェントはツールを使用し、ユーザーに代わって行動を起こす。そのため、問題が発生する可能性のある範囲がはるかに広がる」
AIエージェントの監視について
AIエージェントは組織の機密データにアクセスするため、これらのツールをテストし、可能な限り正確で、攻撃から保護されていることを確認する必要がある。Microsoftは、このタスクを容易にする新しいツールを発表した。
Microsoftによると、「Agent Evaluators」は、エージェントがユーザーの目標をどの程度理解し、実行しているか、要求に沿っているか、ツールを適切に選択しているかを測定するのに役立つ。新しい「AI Red Teaming Agent」は、現実的な攻撃シナリオを再現することで、生成AIシステムのレッドチーム活動を自動化し、リスクを軽減するための脆弱（ぜいじゃく）性の特定を支援する。
Bird氏は、「新しいエージェントテクノロジーを使用し、当社の安全性評価システムをエージェントに変えることで、システムに対して敵対的なレッドチーム活動を行える。これは、はるかに使いやすく、より良いテスト結果ももたらす。なぜなら、エージェントがシステムを反復的に敵対的に攻撃し、突破しようと試みるからだ」と述べている。
同様に、「Azure AI Foundry」の「Agent Observability」機能は、開発者がパフォーマンス、品質、コスト、安全性などの指標を単一のダッシュボードから確認可能にする。Azure AI Foundryは、AIアプリやエージェントを構築、展開、管理するためのプラットフォームになる。
これらの指標は、「Agents Playground」での初期の実証段階から、GitHubと「Azure DevOps」を使用した本番展開まで、AI開発サイクル全体で利用可能である。評価は全てのコード更新で自動的に実行されるため、AIシステムの監視と反復が容易になる。
Azure AI Foundryの「Defender」アラートは、モデル展開におけるセキュリティ脅威に対するリアルタイムの可視性を提供し、開発者が不審な活動を評価し、対応できるようにする。これらのアラートには、コンテキストに応じた推奨事項と、「Azure Portal」での解決策への直接リンクが含まれている。「Microsoft Purview」との新しい統合により、ユーザーはAzure AI Foundryモデルを使用して構築されたAIシステムに、エンタープライズグレードのセキュリティガバナンスとコンプライアンスコントロールを適用できる。
