サイバーセキュリティ企業SlashNextの研究者らは米国時間7月13日、犯罪目的での利用を前提とした生成型の人工知能（AI）ツール「WormGPT」の販売促進活動がハッカー向けフォーラムで行われていることを発見したと同社ブログで報告した。
提供：ZDNET screenshot via Twitter
同フォーラムのユーザーによると、WormGPTプロジェクトは「あらゆる種類の不正行為を実行でき、将来的にはオンライン上で簡単に販売できる」、ブラックハットハッカー（西部劇映画において悪役は黒い帽子、正義の味方は白い帽子をかぶる「お約束」に由来する）向けの「ChatGPT」を目指しているという。
SlashNextの研究者らは、「GPTJ」という言語モデルをベースにしたAIモジュールだと説明されているこのツールへのアクセスを獲得した。WormGPTは、マルウェア関連の情報を含むデータソースを用いて訓練されているという触れ込みだが、具体的なデータセットを知っているのは同ツールの開発者を置いて他にはいない。
WormGPTができることとして考えられるのは、不正なコードの生成や、説得力のあるフィッシングEメールの作成だ。
WormGPTは何ができるのか？
WormGPTは、「ChatGPTに似ているが、倫理的な制約や制限が存在していない」と説明されている。
ChatGPTには一連の規則が設けられており、悪用による倫理的でない使われ方を抑止するようになっている。こうした規則には犯罪行為やマルウェアに関連するタスクの拒否も含まれている。しかし、ユーザーらはこういった制約を回避する方法を常に模索している。
SlashNextの研究者らは、WormGPTに「企業の経理担当者に偽の請求書に対する支払いを迫るためのEメールを作成させる」ことができた。研究者らは、この言語モデルのタスク遂行能力の高さに驚くとともに、生成されたメールを「並外れた説得力があり、戦略的に見ても悪知恵に長けている」と評している。
この研究者らが、マルウェアの開発を試してみたかどうかは記されていないが、このAIボットにはChatGPTのような制約が課されていないことを考えた場合、十分可能だと考えられる。
米ZDNETが、同ツールの宣伝目的で立ち上げられたとされるTelegramチャネルの投稿を見たところ、この開発者は60〜700ドル（約8000〜9万7000円）でアクセスできるサブスクリプションモデルを用意しているようだ。また、同チャネルのメンバーであるdarkstuxによると、WormGPTのユーザーは既に1500人を超えているという。
Our WormGPT tool in action
— WormGPT (@wormgpt) July 17, 2023
Buy/Questions - https://t.co/XXv2dm4UCC#WormGPT #AI #CyberSecurity #ChatGPT #OpenAI #WormAI #Worm #ArtificialIntelligence #Malware pic.twitter.com/toBb8NfU8D
WormGPTとChatGPTは同じものなのか？
その答えはノーだ。ChatGPTはOpenAIという、合法的かつ定評ある組織によって開発されたものだ。一方、WormGPTはOpenAIが作り出したものではなく、サイバー犯罪者らが高度なAIチャットボットからインスピレーションを得て、自らの手で生み出した不正なツールの一例だ。
この記事は海外Red Ventures発の記事を朝日インタラクティブが日本向けに編集したものです。
