NEC Corporate EVP 兼 COD 吉崎敏文氏
NECは7月6日、日本市場に向けた生成AIの提供を開始すると発表した。同日に行われた説明会では、同社が開発した生成AIおよび日本語特化の大規模言語モデル（LLM）の紹介とデモンストレーションを行った。
同社は、生成AIによる産業の変化に合わせた日本企業の新しい価値創造への挑戦に向けて、顧客に合わせてカスタマイズできる生成AIを開発した。今回、LLMのライセンスから日本市場のニーズに合わせた専用のハードウェア、ソフトウェア、コンサルティングサービスなどを「NEC Generative AI Service」として提供するという。
NEC Generative AI Hubのリーダーを務めるNEC Generative AI Chief Navigatorの千葉雄樹氏
同サービスでは、生成AIを利用するに当たり必要なハードウェア／ソフトウェアの提供やコンサルティングサービスなどの「NEC Generative AI Service Menu」を7月から順次提供する（図1）。同サービスは、7月1日付で最高デジタル責任者（COD）直下に設立された生成AIの専門家組織「NEC Generative AI Hub」がメニューを基に顧客に合った支援を行う。
NEC Generative AI Service Menuの一覧
NEC Generative AI Hubは、AIモデルに対する入力データ（プロンプト）の設計や作成を行うプロンプトエンジニア、コンサルタント、データサイエンティストなど、さまざまな人材が集まり、NECの成長を支えるとともに、顧客に対して価値のある生成AIを提供することを目的にしているという。
また、NEC Generative AI Service Menuの一つとして、顧客の業務にLLMを組み込みやすくするためのソフトウェア「NEC Generative AI Framework」を提供する。これは、プロンプトテンプレートや質問応答の強化、モデル切り替え機能などを搭載しており、生成AIを便利に使うための機能として提供するという（図2）。LLMは、「Microsoft Azure OpenAI Service」やNECが開発したLLMを顧客のニーズに合わせて提供する。
NEC Generative AI Frameworkの提供機能（図2）
今回、NECとMicrosoftとのグローバルアライアンスのもと、「Microsoft Azure ExpressRoute」への接続拠点があるNEC印西データセンターを中核に提供する。NECのLLMやNEC Generative AI Framework、オンプレミス利用ができるハードウェア基盤「NEC Generative AI Appliance Server」を組み合わせることで、低遅延かつセキュアなLLM環境をつくるとしている。
また、NECの知見と顧客のナレッジを連携し、顧客向けのモデル作成やLLM活用のためのソフトウェア整備、組織立ち上げなどを包括的に支援する「NEC Generative AI Advanced Customer Program」を立ち上げた。7月6日時点で、住友生命保険、大和証券グループ、三井住友銀行、積水ハウス、東日本旅客鉄道（JR東日本）、三井住友信託銀行、セブン銀行、三井住友海上火災保険、早稲田大学が参画している。同プログラムでは参加企業同士の交流による新しいビジネスパターンの創出も考えているという。
NEC Generative AI Advanced Customer Programの概要
生成AIの開発に伴い、同社は日本語特化のLLMの開発も行った。同LLMは、同社が独自に収集・加工した多言語データを利用して開発した基盤モデルになる。
NEC Corporate EVP 兼 CTO 西尾氏
NEC Corporate EVP 兼 最高技術責任者（CTO）の西原基夫氏によると、同LLMを自然言語処理分野で標準的なベンチマークである日本語言語理解ベンチマーク（JGLUE）を用いて評価したところ、知識量に相当する質疑応答で81.1％、推論能力に相当する文書読解力は84.3％と世界でも高いレベルの性能を達成したという。
また、海外のトップレベルのLLMはモデルサイズ（パラメーターサイズ）が1750億だが、NECが開発したLLMは13分の1に軽量化し、130億とモデルサイズをコンパクトに抑えることができた。これまで、高い性能を有するLLMはGPUが8枚必要だったが、同LLMではGPU1枚搭載の標準的なサーバーでの動作が可能になる。
これにより、LLMを組み込んだ業務アプリケーションがレスポンス良く動作し、業務運用時の電力消費やサーバーコストの抑制につながるという。また、オンプレミス化が可能になり、秘匿性の高い業務への展開や業務にカスタマイズした顧客専用のLLMを短期間で作成できるとしている。
NECでは同LLMを既に社内業務で活用しており、文書作成や社内システム開発におけるソースコード作成など、さまざまな業務の効率化に応用している。同社は今後、基盤モデルを基に顧客のクローズドデータを用いた業種特化型・個社向けのLLMモデルの開発を推進する。また、基盤モデル自体の性能改良も進めていくとしている。
NEC データサイエンスラボラトリー 主幹研究員 小山田氏
同LLMの開発リーダーを務めたNEC データサイエンスラボラトリー 主幹研究員の小山田昌史氏がデモンストレーションを実施した。同LLMは文字列を保管する能力だけを持った非常に基礎的なモデルだが、顧客データや業種特化のデータを取り入れることで、業種に特化したモデルができる一方でチャットに特化したモデルもつくれるという。
プロトタイプのチャットツール「NEC Generative AI Framework Chat」を用いて質問を打ち込むと返答があり、その返答に対してユーザーが問い返しをすることができる。ほかにも、プログラミングや文書の生成、要約にも使うことができる。
NEC Generative AI Framework Chatの利用イメージ
同社は今後、これら生成AI関連事業において今後3年間で500億円の売り上げを目指すとしている。
