横浜市は、検索拡張生成（RAG）技術を活用した生成AIの実証実験を行った。NTT東日本 神奈川事業部が伴走支援し、その結果を4月18日発表した。
「選挙管理事務」「権利擁護業務（成年後見制度等）」「データ活用業務」をテーマに、2024年11月から2025年3月まで実施。精度の高いデータ取り込みの検証、各テーマを通じた実用性の検証、RAG環境の運用に関する検討が行われた。
NTT東日本グループは、この実証実験において、生成AIの基礎知識や「Copilot」（Microsoftが提供するAIアシスタント機能）に関するハンズオン研修を実施した。加えて、業務課題のヒアリングとプロンプト作成を組み合わせたユースケース創出支援なども担った。検証ポイントの特定と合意形成、検証・課題共有・改善プロセスのサポート、プロンプトエンジニアリングやチューニングなども実施した。
実証成果（提供：NTT東日本）
まず「選挙管理事務」においては、これまでに蓄積されてきたデータや法令集、選挙関連書籍といった、約4500ページ分にも及ぶPDFデータを機械判読性の高い形式へと整理し、その上で選挙関連業務に特化したRAG環境が構築された。さらに、実証実験の期間中に実際の選挙が実施されたことにより、より実践的な検証を進めることが可能となった。この検証過程では、業務上の要件を踏まえながらプロンプトのチューニングが繰り返し行われ、その結果として回答精度は約9割という高い正解率を達成するに至った。これにより、検索の効率化と回答精度の向上という両面において、満足のいく成果が得られた。
一方、「権利擁護業務（成年後見制度等）」では、参照すべき根拠データが根拠法令や要綱、マニュアル、FA（よくある質問）など多岐にわたるという背景があった。このため、複数の根拠データから総合的に結論を導き出すことは、現状の技術ではやや困難であるという結論に至った。今回の実証実験においてはナレッジ検索やそれに基づく回答生成が中心となったものの、将来的にはナレッジ自体の蓄積・更新プロセスや、手引きにおける用語の修正、さらには人材育成といった、多くの検証すべき要素が残されていることが確認された。
次に「データ活用業務」では、まず生成AIの活用が見込める業務箇所を特定し、その上で活用可能性についての検証が行われた。データ分析業務を個々のフェーズに分けて詳細に分析を進めた結果、業務の特性に応じてRAGを活用すべきか、あるいは大規模言語モデル（LLM）のみを利用すべきか、その使い分けが必要であることが判明した。
具体的に述べると、分析設計フェーズにおいては、調査設計に関連するドキュメントをRAGに取り込ませることによって、質問形式を用いた対話的な方法で分析設計を進めるためのアドバイスを得ることが可能となった。さらに、推奨されるサンプルサイズの算出も実現できるなど、RAGの有用性が確認された。
一方、分析フェーズに目を向けると、単に既存のドキュメントを取り込むだけでは十分な活用が難しいという課題が浮上した。このため、キーワードを適切に盛り込むといった、ドキュメント生成上の工夫が求められることも明らかになった。ただし、複数年度にわたるデータについては、生成AIが各年度を正確に認識できる状態であれば、正しい情報を出力できることが確認されている。加えて、自然言語を用いた簡単な指示によって分析を実行することも可能であると分かった。
近年、自治体において職員数の減少が進む中、AIの導入は、限られた人員で質の高い行政サービスを維持するための重要な手段として注目を集めている。総務省が2023年12月末時点で実施した調査によると、政令指定都市においては約4割が既に生成AIを導入しており、実証実験中の自治体を含めると、その割合は約9割に達する状況にあるという。
しかしながら、その一方で導入や活用を進めるための人材が不足しているという課題も存在しているのが現状だ。こうした状況下、横浜市では2023年12月から生成AIに関する実証実験を開始し、全庁的な導入を推進してきた。そして、さらなる実用性の高い活用を目指すべく、今回、RAG技術を用いた実証実験へと進んだのである。NTT東日本グループは、これまでにも自治体向けの生成AI環境構築や活用支援に関する実績を有していることから、今回の横浜市におけるRAG実証を伴走支援することとなった。
今後の取り組みに関し、NTT東日本グループは、単に生成AI環境を構築するだけでなく、その導入段階から実際の業務における活用が組織内に定着するまでの一連のプロセスを、一気通貫で伴走支援していくという方針を掲げている。
