――一方でAIネットワーク化のもたらすリスクには、どのようなものがありますか。
検討会議においては、AIネットワーク化の進展が社会・経済にもたらすリスクについては、AIネットワークシステムの機能に関するリスクと法制度や権利利益に関するリスクとに二分して整理しています。機能に関するリスク、すなわち技術的なリスクとしては、AIと情報通信ネットワークの双方に関連するリスクであるセキュリティに関するリスクのほか、情報通信ネットワークそのものに関するリスクのほかに、AIならではのリスクである不透明化のリスクと制御喪失のリスクが挙げられています。
法制度や権利利益に関するリスク、すなわち社会的なリスクとしては、事故、犯罪、消費者などの権利利益に関するもの、プライバシー・個人情報関連、人間の尊厳と個人の自律、そして民主主義と統治機構などが挙げられています。ただし、リスクの中には、事故に関するリスクのように、機能に関するリスクと法制度や権利利益に関するリスクの両面を有するものもあります。
検討会議においては、AIネットワークシステムを活用する具体的な場面を想定したシナリオを作成して、シナリオに即して想定されるリスクを分析するとともに、リスクへの対処の在り方を検討するという「リスク・シナリオ分析」をすべきことが提言されています。「報告書2016」には、20のリスク・シナリオ分析の試行例を掲げています。今後、AIネットワーク化の進展が社会・経済の各分野にもたらすポジティブなインパクトをしっかりと踏まえながら、リスク・シナリオ分析を継続し、その成果を国内外のステークホルダーと共有しつつ、継続的に見直しを進めていくことが期待されます。
リスク・シナリオの具体例 機能に関するリスク（出所：総務省AIネットワーク化検討会議 報告書2016 2016.20）
リスク・シナリオの具体例 法制度・権利利益に関するリスク
検討会議においては、AIネットワーク化が社会・経済にもたらすインパクトとリスクを踏まえ、今後注視し、又は検討すべき社会的・経済的・倫理的・法的課題として20項目にわたる課題を挙げています。
なかでもとりわけ重要な課題は、「AIの開発原則」の策定です。「AI開発原則」は、AIネットワーク化がもたらすインパクトとリスクを踏まえ、AIネットワークシステムの構成要素となり得るAIの研究開発にあたって留意しておくべき事項を整理し、国際的に参照される枠組みとして共有しておくものです。AIネットワークシステムの社会における受容を向上させ、AIネットワーク化の進展を円滑化する効果が期待されます。
この課題については、具体的には、OECDのプライバシーガイドライン、セキュリティガイドラインなどを参考にしながら、研究開発にあたって留意しておくべき事項を「AI開発原則」として端的に整理して、その「AI開発原則」に具体的な説明を加えたものを「AI開発ガイドライン」という形で国際的に参照される枠組みとして策定することに向けて、関係する産学民官のステークホルダーの参画を得つつ、国内外において検討及び議論を進めていくべきと提言されています。
「AI開発原則」の内容については、透明性の原則、利用者支援の原則、制御可能性の原則、セキュリティ確保の原則、安全保護の原則など８項目を少なくとも盛り込むべきと提言されています。
