富士通は、偽情報の検知・評価・システム化に関する研究開発に着手したと発表した。これは、新エネルギー・産業技術総合開発機構(NEDO)の公募事業「偽情報分析に係る技術の開発」に採択されたことを受けたもの。
従来、ディープフェイクなどの偽情報を見破る技術は個別に検討されてきたが、抽出から分析までを一貫して行うシステムは存在しなかった。富士通は、複数の根拠から偽情報を検知・評価し、総合的に分析するシステムの開発を目指す。
開発するシステムは、SNS投稿などの情報の真偽判定において、文章、画像、音声、動画の生成AIによる作為性を判定。さらに、さまざまな根拠の関係性をつなぎ合わせた「エンドースメントグラフ」により、整合性や矛盾を分析し、真偽判定と社会的な影響度評価を支援する。エンドースメントグラフとは、対象とする情報に付加される発信者(人や組織とその属性)、位置、日時などの真偽判定の根拠となる情報のこと。
※クリックすると拡大画像が見られます
同システムでは、(1)メディアごとの情報分析と偽情報検知、(2)根拠、エンドースメント管理、(3)総合真偽判定支援、(4)偽情報影響度評価ーーという研究開発内容で構成される。この内容は、民需/官需向けのユースケースに合わせてそれぞれ要件定義を基にしている。
(1)では、SNS投稿などからメディアを分解・抽出、内容を分析し、根拠として利用するとともに、作為性を判定する技術開発を行う。
(2)では、(1)で抽出した、インターネットの情報に対するさまざまな根拠を、グラフ構造化して管理するシステムを構築する。
(3)では、大規模言語モデル(LLM)により根拠の整合性や矛盾を分析し、情報の真偽判定を支援する技術開発を行う。
(4)では、偽情報の特徴を分析し、拡散規模や社会的な影響度を評価する技術を開発する。