SherLOCK、相次ぐサイバー攻撃を背景にAIエージェント向けAIレッドチーミングテスト提供を本格化

相次ぐサイバー攻撃を背景に、AIエージェントを標的とした新たな攻撃面への対策を本格支援。AI特有の脆弱性から外部システム連携に伴うサイバーリスクまで攻撃者視点でエージェントのリスクを包括的に検証



SherLOCK株式会社（本社：東京都港区、代表取締役CEO：築地テレサ、以下「SherLOCK」）は、企業が業務に導入するAIエージェントを対象としたAIエージェント向けAIレッドチーミングテスト（以下「本テスト」）の提供を本格化します。業務システムと接続し、自律的に操作を実行するAIエージェントは、企業にとって新たな攻撃面（アタックサーフェス）になりつつあります。SherLOCKは、これまで金融・AIレッドチーミングテストの提供実績と専門知見を活かし、AIエージェントへの疑似攻撃を通じて潜在的な脆弱性を可視化することで、企業の安全なAI活用を支援します。

■ 背景：「答えるAI」から「実行するAI」へ。AIエージェントが新たな攻撃面に
ランサムウェアや不正アクセス、情報漏えいなど、国内企業を標的としたサイバー攻撃が相次ぎ、事業活動に深刻な影響を及ぼしています。AI技術の進展によって攻撃の準備や流出情報の分析が効率化される可能性も指摘されており、企業を取り巻くセキュリティ環境は一層複雑化しています。

一方、企業のAI活用は、文章生成や情報検索を中心とした従来型の生成AIから、外部サービスや業務システムと連携して自律的に業務を遂行するAIエージェントへと広がっています。AIエージェントは、メールや外部文書から情報を取得するだけでなく、APIを通じて社内システムにアクセスし、データの更新やファイル操作まで実行します。

攻撃者から見れば、これはAIエージェントそのものが企業システムへの新たな入口になることを意味します。従来型の生成AIでは不適切な「出力」にとどまっていたリスクが、AIエージェントでは不正な「実行」につながり得るためです。その要因は、主に次の3点です。
- 攻撃面（入口）が広がる： メール、Webページ、外部文書など、AIエージェントが読み込む情報そのものが攻撃経路になります。悪意ある指示を外部情報に紛れ込ませ、動作を誘導する手口が想定されます。
- 権限を持っている： AIエージェントは、業務システムへのアクセス権限を持って動作します。誘導に成功した攻撃者は、その権限の範囲で機密情報の持ち出しやデータの改ざんを狙えます。
- 被害が連鎖する： 複数のツールやシステムを自律的に横断して処理を進めるため、一つの侵害が連携先へ波及し、被害が拡大するおそれがあります。このように、AIエージェントでは、AI固有の脅威と従来のサイバーセキュリティ上のリスクが複合的に生じます。安全性やセキュリティを確保するには、AIモデルの入出力だけでなく、外部システムとの連携や実際の業務操作まで含めた検証としてのエージェント向けのAIレッドチーミングテスト実施が欠かせません。

■ 「AIエージェント向けAIレッドチーミングテスト」の概要
本テストは、実際の攻撃者の視点からAIエージェントに疑似攻撃を行い、潜在的な脆弱性とセキュリティ対策の有効性を検証するサービスです。専門家が都度実施する個別診断とは異なり、攻撃シナリオの生成から疑似攻撃の実行、結果の評価までをソフトウェアで自動化しています。そのため、AIエージェントの改修や連携先の追加のたびに、同じ基準で繰り返し検証できます。

AIモデル単体の安全性・セキュリティ評価にとどまらず、外部情報の取得から、各種ツールや業務システムと連携した実行まで、AIエージェントの一連の動作を検証対象とします。「攻撃を受けたときに、実際に何が起こり得るのか」を具体的に確かめられる点が特長です。主な検証領域は以下のとおりです。
- AIエージェントへの不正な指示・動作誘導： プロンプトインジェクションなどにより、AIエージェントが本来意図されていない動作を実行するリスク
- 機密情報の漏えい・不正なデータ操作： AIエージェントが機密情報を外部に送信したり、業務データを不適切に変更・削除したりするリスク
- 外部ツール・システム連携に伴う脆弱性： APIや外部サービス、認証・連携機能などに起因するセキュリティリスク
- 複合的な攻撃による被害拡大： AIエージェントの自律的な判断・実行が悪用され、複数のツールやシステムを通じて被害が拡大するリスク

検証結果に基づき、企業が優先的に対処すべきリスクを可視化し、AIエージェントの安全な導入・運用に向けた対策を支援します。

■ これまでの提供実績と今後の展開
SherLOCKはこれまで、企業向けにAIレッドチーミングテストを提供してきました。また、金融・製造・ヘルスケアなどの領域で、AIセキュリティ・ガバナンスソリューションの提供を進めています。今後は、AIエージェントの業務利用の拡大に合わせて本テストの提供を強化し、企業がAI特有のリスクと既存のサイバーセキュリティ上のリスクの双方に対応できるよう支援してまいります。

■ 代表取締役CEO 築地テレサ コメント
「国内企業へのサイバー攻撃や情報漏えいが相次ぐなか、AIの進化によって流出情報の分析や悪用が容易になるなど、攻撃を取り巻く環境も変化しつつあります。なかでも、今後企業での普及が進むAIエージェントは、今後数カ月と待たずに次の攻撃面になると私たちは考えています。従来の生成AIとは異なり、外部システムと連携して実際の業務を遂行するため、攻撃を受けた際の影響が企業活動に直接及ぶ可能性があるからです。こうしたリスクに備えるには、AIモデルの安全性・セキュリティリスクを確かめるだけでなく、AIエージェントが攻撃を受けたときに実際に何が起こり得るのかを検証しておくことが重要です。SherLOCKは、これまで培ってきたAIセキュリティの専門知見を活かし、企業がAIエージェントを安全に活用できる環境づくりに貢献して参ります」

■ SherLOCK株式会社について
「AIを信頼できるパートナーに」をミッションに、2024年1月に創業。AIレッドチーミングテスト、リアルタイムガードレール、AIガバナンス基盤を垂直統合した「SherLOCK AI Gateway」を、金融・製造・ヘルスケア企業に提供しています。政府・アカデミアとの共同研究など、政府のAI安全・セキュリティ関連プロジェクトにも創業初期から参画しています。

■ 会社概要
- 会社名：SherLOCK株式会社 (SherLOCK, Inc.)
- 代表者：代表取締役CEO 築地テレサ
- 設立日：2024年01月
- 所在地：〒105-0001 東京都港区虎ノ門五丁目9番1 麻布台ヒルズ ガーデンプラザB 5階 TOKYO VENTURE CAPITAL HUB内
- 事業内容：AIセキュリティ・ガバナンスソリューション開発・販売
- URL： (リンク »)


■ お問い合わせ先
- SherLOCKの詳細情報や製品デモについては、以下の広報担当連絡先までお問い合わせください。
- SherLOCK Webサイト： (リンク »)
- SherLOCK Noteサイト： (リンク »)
- SherLOCKへのお問い合わせフォーム：
- (リンク »)
- SherLOCKお問い合わせメール：contact@shlck.com


以上


企業プレスリリース詳細へ (リンク »)
PRTIMESトップへ (リンク »)