シスコシステムズ（シスコ）とNECは3月26日、AIガバナンス分野で協業し、2025年1月に米国で発表されたAI向けセキュリティソリューション「CISCO AI Defense」とNECのコンサルティングサービスを組み合わせたNECのAIガバナンスサービスを国内で2025年秋に提供開始すると発表した。
概要を説明したシスコ 代表執行役員社長の濱田義之氏は、近年セキュリティやAIへの注力が目立つ同社について「シスコがネットワークを基盤にした会社であることに変わりはない。われわれは、卓越したネットワーク企業になりたいと考えている。卓越したネットワーク企業になるには、卓越したセキュリティの会社でなければいけない。卓越したセキュリティ企業であるには、卓越したAI企業でなければならない。卓越したAI企業になるには、卓越したデータ企業でなければいけない」と語り、近年のSplunk買収などの積極的なM＆A戦略の背景を明かした。
シスコ 代表執行役員社長 濱田義之氏
濱田氏は、今回のテーマであるAI保護のための包括的なソリューション・CISCO AI Defenseについて「企業がセキュアな環境でAIのトランスフォーメーションを支援するソリューション」だと説明し、さらに「AIの活用が進むと同時に、安全上の懸念やセキュリティの脅威もこれまでにないスピードで進む。従来のサイバーセキュリティソリューションでの対応が難しくなる中で、組織のAIへのセキュアなアクセス制御アルゴリズム、レッドチーミング、高度なリアルタイム脅威検出、AIセーフティー、AIセキュリティなどで企業のAI活用をリスクから保護するソリューションだ」とした。
CISCO AI Defenseを含むAIセキュリティの開発責任者と紹介されたシスコ セキュリティ ビジネス グループのバイスプレジデント（VP）でAI製品担当のDJ Sampath（DJ サンパス）氏は、AIが急速に発展し、AIエージェントがタスクを処理してくれる現状に関して「世界人口が突然10倍になったかのような労働生産性が実現されようとしている」と語り、従来は人間が処理するしかなかったタスクをAIが効率よく処理できるようになることで、生産性に関する考え方の基準がこれまでとは根本的に変わると指摘した。
シスコ セキュリティ ビジネス グループのVPでAI製品担当のDJ Sampath氏
その上でSampath氏は「リスクに関しても前例のない規模で新たな種類のリスクが生じることになる」とし、その理由として「AIが非決定論的であること」を挙げた。その意味について同氏は「生成AIのチャットボットに同じ質問を2回繰り返してみると、その度に違う答えが返ってくる」と端的に説明した。
従来のプログラムのように、同じ状況に対しては常に全く同じ反応が返ってくるのであればテストも容易だが、毎回答えが異なるのであれば、正しい答えが返ってくるのかどうか、不適切な回答を返すことがないかどうか、どうやって確認すればよいのだろうか。「非決定論的な挙動をするAIモデルをシステム内に取り込むことで、新たな種類のリスク要因が生じる」とSampath氏は指摘する。
CISCO AI Defenseでは、AIに対する保護を「Safety（セーフティー）」と「Security（セキュリティ）」の2つの側面から考える。SafetyはAIモデルが期待通りの挙動をすることで、ハルシネーションと言われるような不適切な回答を返すことがないように保護することを意味する。一方、Securityは外部からの悪意ある攻撃からAIシステムを保護することを意味する。AIアプリケーションの活用が拡大し、重要なタスクの処理に使われるようになることが想定されるため、SafetyとSecurityの両方を担保することが喫緊の課題となっている。
CISCO AI Defenseに実装される保護手法の一つが「ガードレール」だ。不適切な回答を返さないよう、回答をチェックして必要に応じてブロックする仕組みとして導入されるガードレールは、主要な大規模言語モデル（LLM）などではあらかじめ実装されることが増えているが、企業内でさまざまなAIモデルを多数併用するようになっていることから、保護レベルをそろえる必要からも別途一貫したガードレール機能を全てのAIシステムに対して包括的に適用することが有効だと考えられる。
