NECは、自社開発の生成AI「cotomi」のサービスラインナップを拡充したと発表した。専用アプライアンスサーバー「cotomi Appliance Server」を、ソフトウェアやサービスと組み合わせたソリューションとして6月から販売する。2025年度末までに約500億円の売り上げを目指すという。この専用アプライアンスサーバーには、軽量で高性能な「cotomi Light」を搭載する。
cotomi Lightは、世界トップクラスの日本語能力を持つ生成AI。パラメーター数をコンパクトに抑えることで、モデルの省電力化・軽量化・高速化を実現し、運用コストを抑制できる。
今回開発した専用アプライアンスサーバーは、NVIDIA GPUを搭載しており、「推論モデル」と「推論+ファインチューニングモデル」の2モデルを展開する。ユーザーの拠点へ設置することで、レスポンス時間が短く、セキュアな生成AI利用環境が可能になる。
オンプレミス環境での利用は秘匿性の高い業務に適しており、金融業とコンタクトセンターでの活用が期待できるという。また推論+ファインチューニングモデルを活用することで、ユーザーの業務に特化させた生成AIモデルを短期間で構築できるとしている。
さらに同サーバーを利用するユーザーには、用途に合わせたプロンプトテンプレートの設定など、cotomiの利用に必要な機能をソフトウェアにした「NEC Generative AI Framework」を合わせて提供する。これによりプロンプトエンジニアリングなどの専門知識が不要で、ウェブ画面での簡単な操作により「cotomi」を活用できる。
.jpg)
NEC Generative AI Serviceメニュー
.jpg)
LLMの提供形態
