中国は、ディープフェイクや仮想現実（VR）など、「ディープラーニング（深層学習）による合成（deep synthesis）」技術の悪用を防止する基本ルールを定めた。こうしたサービスのユーザーは、同国の法令に違反する活動への利用を控えなければならない。
中国サイバースペース管理局（CAC）と中華人民共和国工業情報化部、中華人民共和国公安部は、ディープラーニングによる合成技術／サービスの提供事業者に自己規律を強化するよう義務づける共同声明を発表した。
現地時間2023年1月10日から適用されるこの新しい規制は、国家の安全と核心となる社会的価値、ならびに市民や組織の権利と利益を守るのが目的だ、とこれらの政府機関は述べている。
声明によると、合成技術はユーザー体験を向上させてきたが、その一方で、なりすましや、人の評判をおとしめる偽の有害な情報の拡散に利用されており、それによって、国家の安全と社会の安定が脅かされているという。
こうしたリスクを軽減して新技術の「健全な」発達を促すには、規制が必要だ、と声明は続けている。基本規則は、ディープラーニングによる合成サービスの開発を標準化し、データセキュリティや個人情報保護に関連する法など、中国の他の関連規制に沿うものでもあるという。
テキストの音声変換、音声編集、ジェスチャーによる操作、デジタルシミュレーション、3次元復元など、テキストや画像、動画、音声、仮想シーンの作成に、ディープラーニングやVRなどの合成アルゴリズムを利用する技術に、新ルールが適用される。
新たな規制は、ディープラーニングによる合成技術を利用して、中国の法で禁じられている情報を生成したり拡散したりしないよう義務付けているほか、サービス事業者がユーザーの実際の身元に関するデータ認証システムや、ユーザー登録、アルゴリズムのメカニズム評価、データセキュリティ、緊急対応、倫理審査のような他の管理システムを実装する必要性についても説明している。また、安全技術対策を取ることも義務付けられる。
これらの管理規則およびサービス規約は、公開しなければならない。ディープラーニングによる合成サービスの利用が偽情報の公開や拡散に悪用された場合に、ユーザーが適切なタイミングでうわさに対処する仕組みを導入する必要もある。また、関連政府機関への通知も必要となる。
この記事は海外Red Ventures発の記事を朝日インタラクティブが日本向けに編集したものです。
