中国のインターネット環境は、特定のコンテンツに対する厳しい検閲が存在する。政府に不利益をもたらす可能性のある情報をはじめ、性的／暴力的なコンテンツは厳しく制限されており、アップロードを試みるとアカウントがブロックされることもある。このような規制はテキストだけでなく、動画にも及んでいる。検閲システムは自動的なフィルタリングを通じて疑わしいコンテンツを検出し、検閲員が手動で確認を行っている。この工程を支えるため、地方都市には専用のオフィスが設けられ、多数の若者が従事している。
検閲を通過した情報の中には、AIによって作成された虚偽の情報が含まれていることがある。インターネット上で話題となったある事件について、地元警察が調査したところ、ページビュー数やインプレッション数を稼ぐ目的で作られた虚偽情報であることが判明した。過去にも虚偽情報は多く見られたが、2023年には「ChatGPT」に続き、百度（バイドゥ）や阿里巴巴（アリババ）などのネット大手からもAI生成ツールがリリースされ、大規模言語モデル（LLM）を活用したツールは、ニュース記事のような文章や画像の生成を容易にし、AIを利用した虚偽情報の拡散が問題となっている。
2024年になり、中国各地の警察当局はデマ発信者の逮捕に動き、その成果を情報発信することで、公的機関の活動をアピールしている。逮捕された事例を集約すれば、中国の検閲システムを回避しつつ、注目されたデマの傾向が見えてくるだろう。そこで調べてみると、中国各地で発生したデマには一定のパターンが存在していることが分かった。
まずは爆発に関連したデマ情報である。特に、電動二輪車や電気自動車（EV）に搭載されるバッテリーの発火事故は、SNSなどで頻繁に拡散されている。しかし、最近ではこれらの個人向け製品の事故よりも、工場での爆発事故の方がより大きな注目を集めている。例えば、「湖南省衡陽市の化学工場で爆発事故があり、多くの人と連絡が取れなくなった」「浙江省紹興市の工業団地で大規模火災が発生した」といったものだ。大規模な爆発や危険物質の漏えいなど、周辺地域の生活にも影響を及ぼす可能性があり、注目が集まりやすい。生成AIで文章を作成するだけでなく、過去の動画なども活用して映像を作る傾向があるという。
生成AIで作ったデマ情報を流して逮捕された事例も存在する。例えば、2023年末には「炭鉱で事故が発生し12人が死亡」という虚偽の記事を生成AIで作成し、投稿した事件があった。また、インフラ施設の事故に関するデマも注目を浴びており、「（福建省）福州市上流のダムが崩壊した」「（陝西省）宝鶏市で鉄道の斜面保護材が崩壊し、3人が死亡した」といった内容が拡散された。これらのデマは、災害寄付を装った詐欺に利用されることもある。ほかにも、人身売買組織に誘拐されたとする動画付きのデマ記事は、多くの人がSNSなどで拡散したことで警察まで動く事態となった。
警察はデマを流す者に対して積極的に取り締まりを行い、発信者を特定して逮捕することがある。デマを流した者には、一般的に500元（約1万円）の罰金が科されている。しかし、集団で1万8000件以上の偽情報を流し、プラットフォームから4万元（約80万円）以上のリベートを受け取っていたケースもあり、より厳しい罰則が適用されるだろう。
警察は、インターネットやソーシャルメディアで拡散されている情報が虚偽であるかどうかは実際に確認するほかない。アリババの研究機関である達摩院は、AIでデマ情報を判別するツールを発表し、警察機関などでも利用できるとしている。このツールは、情報の最初の発信者を特定し、その発信者の個人／組織としての属性や登録時間、活動パターンなどを分析して信頼度を評価する。また、国営メディアや政府サイトからの情報であるかどうかを確認し、記事内の重要用語を抽出して事実関係や矛盾点を検証する機能を持っているという。
AIによるデマ情報の拡散は深刻な問題であり、専門家もその増加に警鐘を鳴らしている。しかし、インターネット上でのデマを未然に防ぐ具体的な対策はまだ確立されていない。警察は影響力のあるアカウントに対する監視を強化し、ブラックリスト制度を確立することで対応を試みている。また、プラットフォーム事業者には管理体制を強化し、利用規約の改定を促すことで対策を講じている。AIが進化し続ける中で、特に言論の自由が制限されている中国では、生成AIとどのように折り合いをつけ、対策を講じるかが今後の課題となる。
- 山谷剛史（やまや・たけし）
- フリーランスライター
- 2002年から中国雲南省昆明市を拠点に活動。中国、インド、ASEANのITや消費トレンドをIT系メディア、経済系メディア、トレンド誌などに執筆。メディア出演、講演も行う。著書に『日本人が知らない中国ネットトレンド2014』『新しい中国人 ネットで団結する若者たち』など。
