生成AIシステム用のセキュリティ対策を提供--イスラエル発のKELA

ZDNET Japan Staff

2024-04-22 06:00

 セキュリティインテリジェンスを手掛けるKELAは、生成AIのシステムや開発環境を狙う脅威に対処するセキュリティソリューション「AiFort」を発表した。生成AIや大規模言語モデル(LLM)の開発者およびユーザー向けに、4月19日から提供している。

 同社は、イスラエルに本拠を置き、サイバー犯罪者や攻撃者が活動するアンダーグラウンド空間の常時監視、分析、解析によるサイバーセキュリティの脅威インテリジェンスを手掛ける。昨今では、生成AIを悪用するための情報がアンダーグラウンドで活発に交換、売買されているとし、生成AIのセキュリティ対策に特化したAiFortを開発したと説明する。

 AiFortは、スイートとして「AiFort Data」「AiFort Red」「AiFort Protect」の3つのモジュールで構成されている。

 AiFort Dataは、同社の生成AIに関する脅威インテリジェンスを用いて、脅威から保護するためのAIのトレーニングデータセットになる。例えば、生成AIに巧妙な指示を与えて不適切なコンテンツを表示させる「ジェイルブレイク」攻撃の手口を学習させることにより、AIチャットボットが暴力的な発言や誤情報などを出力するといった脅威に対処する。

 AiFort Redは、AIモデルの脆弱(ぜいじゃく)性やセキュリティリスクを分析、診断する。攻撃を模倣するプログラムのアドバーサリーエミュレーションを用いてユーザーが簡単な操作でテストプランを作成でき、ユーザーはこのプランに基づいて生成AI環境に対する模擬攻撃を実施することにより、ダッシュボードで結果を把握して安全性を確認、検証できるとする。

AiFort Redのダッシュボード画面イメージ
AiFort Redのダッシュボード画面イメージ

 AiFort Protectは、悪意のある不正なプロンプトの入力をリアルタイムに検知、通知する機能で、データの漏えいやハッキングなどの不正行為をブロックする。モジュールの提供は2024年中を予定している。

 モジュール単体の価格は年額300万円から。スイートもしくはモジュール単体で、クラウド型やオンプレミス型で導入できる。

ZDNET Japan 記事を毎朝メールでまとめ読み(登録無料)

ホワイトペーパー

新着

ランキング

  1. セキュリティ

    従来型のセキュリティでは太刀打ちできない「生成AIによるサイバー攻撃」撃退法のススメ

  2. セキュリティ

    マンガでわかる脆弱性“診断”と脆弱性“管理”の違い--セキュリティ体制の強化に脆弱性管理ツールの活用

  3. セキュリティ

    クラウドセキュリティ管理導入による投資収益率(ROI)は264%--米フォレスター調査レポート

  4. セキュリティ

    ISMSとPマークは何が違うのか--第三者認証取得を目指す企業が最初に理解すべきこと

  5. セキュリティ

    情報セキュリティに対する懸念を解消、「ISMS認証」取得の検討から審査当日までのTo Doリスト

ZDNET Japan クイックポール

所属する組織のデータ活用状況はどの段階にありますか?

NEWSLETTERS

エンタープライズコンピューティングの最前線を配信

ZDNET Japanは、CIOとITマネージャーを対象に、ビジネス課題の解決とITを活用した新たな価値創造を支援します。
ITビジネス全般については、CNET Japanをご覧ください。

このサイトでは、利用状況の把握や広告配信などのために、Cookieなどを使用してアクセスデータを取得・利用しています。 これ以降ページを遷移した場合、Cookieなどの設定や使用に同意したことになります。
Cookieなどの設定や使用の詳細、オプトアウトについては詳細をご覧ください。
[ 閉じる ]