神戸市は4月30日、「神戸市におけるAIの活用等に関する条例」について記者説明会を開催した。同条例は3月29日に公布されており、2024年9月末には条例の完全施行を予定しているという。
同市は2023年5月に生成AIの利用を制限する「『ChatGPT』の利用における指針」を発表している。今回の「神戸市におけるAIの活用等に関する条例」は、生成AI以外のAIも包括したAI条例になる。対象は、神戸市および市の業務を請負・受託等する事業者。条例は、第1条から第11条で構成される。
神戸市AI条例の詳細。第11条は雑則となる
この取り組みに関する経緯として神戸市は、行政においても機械学習(ML)や生成AIなどの活用が進む一方、AIによる誤った判断が市民の権利利益を侵害するリスクがあることを挙げた。このことを踏まえて、同市では市役所の業務においてAIを用いる際の実践的なルールを策定したという。
今回のAI条例のポイントは、生成AI以外のAIも対象にした包括的なAI条例であること。また、政府の事業者ガイドライン案でいう「AI利用者」としての神戸市の自主的な取り組みを具体化したことだという。
神戸市 正木氏
同条例は、あくまで市民や事業者の活動に制約を課すものではないとし、神戸市 デジタル監(最高デジタル責任者)の正木祐輔氏は「(条例を作ることで)萎縮効果を生むべきではない。リスクは回避したいが、条例があることで市民や事業者が萎縮してしまうのはよくない。市民や事業者に対して規制するというよりは、メリットもありつつ、リスクもあることを伝えたい」と説明した。
同条例の第1条では、「市民の権利利益を保護しつつ効果的かつ効率的な市政を推進する」ことを目標に掲げ、一定のルールの下でのAIの効果的かつ安全な活用を推進するとしている。また第3条の基本理念では、AIのリスクに対して技術的な手法で解決することも重要だが、それ以上にどのようにAIを使えばリスクを下げられるかを考えるAIの使い手の運用部分で、リテラシーを持った職員の育成に努めるとしている。
同条例にはリスクアセスメントの実施(第6条)も盛り込まれており、市民の権利利益に影響を与える行政処分(課税、各種給付認定など)や、市の基本計画などの策定に対して実施される。
具体的には、AIの活用が市民の権利利益に影響を与える可能性とその大きさを評価することに加え、行政運営の効率化と被害を可能な限り低減するための手法を検討する。そのため、どのような学習データを用いているかなどのAI自体の評価だけでなく、職員が最終判断する仕組みになっているかといった市側の運用面も評価する。
リスクアセスメントの詳細
そのほかに、生成AIについてはプロンプトへの個人情報の入力の禁止や市会における答弁内容を生成AIに委ねることを禁止することを条例に盛り込んでいる。市会における答弁内容においては、首長と議会の二元代表制の考え方とAIの効果的な活用のバランスを取ったもので、事例調査や文献の要約など、答弁の参考とする資料の作成への活用は可能にするという。
また、市民や事業者に向けたAIに関する知識の着実な普及として、今後、市立学校(小・中・高等学校)において、児童・生徒に向けてAIを適正に活用するための教育を実施する予定だとしている。
神戸市では職員約130人を対象に、2023年6~9月にAI活用の試行を実施。Microsoftが提供する「Azure OpenAI Service」を活用し、同市の独自環境を職員が内製した。
生成AI検証環境の構築
試行は、利用環境が安全かつ適切に利用できるかの検証や検証用ガイドラインのブラッシュアップ、活用方法のアイデア収集・ナレッジの蓄積、課題・問題点の収集、利用コストと業務改善効果の検証を目的に行われた。
利用者に対して行ったアンケート結果では、71人の回答者のうち96%が「仕事の効率が向上する」と回答。利用場面としては、文章要約、文章生成、アイデア出し、「Excel」の関数やプログラミングコードの生成が挙げられた。ほかにも、外国語翻訳やペルソナ作りにも役立つことが分かったという。
同市では、2月から生成AIの全庁利用を開始しており、今後は神戸市の独自データを活用した生成AIの利用を検討しているという。庁内の各種マニュアルや通知文を投入した独自データの活用により、庁内のFAQ(よくある質問)の自動生成ツールとして活用し、業務の効率化を図りたいとしている。
神戸市のAIへの取り組み