野村総研、データ漏えいリスクに対処する「プライベートLLM」を提供へ

ZDNET Japan Staff

2024-01-11 12:35

 野村総合研究所(NRI)とグループ企業のNRIデジタルは1月11日、2024年春以降にデータ漏えいリスクに対処する「プライベート大規模言語モデル(LLM)」を企業ごとに提供すると発表した。性能と効果はNRIの社内業務で検証済みという。

 プライベートLLMは、米OpenAIの「GPT-4」など外部サービス型LLMに対して、ユーザーの機密情報や機微情報のデータを送信してしまいかねないリスクに対応するという。プライベートLLMでは、オープンソース型LLMをNRIのデータセンターのプライベートクラウドサービスや企業のオンプレミス環境で動作させる。機密性の高いデータの漏えいリスクを極少化してLLM学習に用いるとする。これにより金融機関など高次の情報セキュリティ統制が必須の企業におけるLLM利用に対応できるとしている。

外部型LLMとプライベート型LLMの特徴
外部型LLMとプライベート型LLMの特徴
プライベートLLMのサービス内容
プライベートLLMのサービス内容

 NRIは、オープンソース型LLMをベースに企業が保有するデータを組み合わせてカスタマイズ(プリトレーニング、ファインチューニングなど)したプライベートLLMを使うことで、タスク内容により業務適用可能な水準の性能を発揮できる可能性があると解説。同社は、顧客企業ごとの業務にLLMを最適化して提供する。例えば、コンタクトセンターや対面による問い合わせ対応などでは適用可能な業務の幅を大きく広げつつ、個人特定可能な音声データの漏えいリスクを極小化する「プライベート音声認識」モジュールなどを提供していく。

 同社では、社内の会計事務手続きサポート業務にプライベートLLMを適用して効果を検証したとのこと。6万件のカスタマイズ用の学習データを使い、同社データセンターのGPU上でMetaのLLM「Llama 2」をファインチューニングした結果、業務適用可能な水準にまで性能が向上した。業務の一部を代替でき、質疑応答を作成する作業時間を60%削減したとしている。

野村総研の検証結果
野村総研の検証結果

ZDNET Japan 記事を毎朝メールでまとめ読み(登録無料)

ホワイトペーパー

新着

ランキング

  1. セキュリティ

    「デジタル・フォレンジック」から始まるセキュリティ災禍論--活用したいIT業界の防災マニュアル

  2. 運用管理

    「無線LANがつながらない」という問い合わせにAIで対応、トラブル解決の切り札とは

  3. 運用管理

    Oracle DatabaseのAzure移行時におけるポイント、移行前に確認しておきたい障害対策

  4. 運用管理

    Google Chrome ブラウザ がセキュリティを強化、ゼロトラスト移行で高まるブラウザの重要性

  5. ビジネスアプリケーション

    技術進化でさらに発展するデータサイエンス/アナリティクス、最新の6大トレンドを解説

ZDNET Japan クイックポール

注目している大規模言語モデル(LLM)を教えてください

NEWSLETTERS

エンタープライズ・コンピューティングの最前線を配信

ZDNET Japanは、CIOとITマネージャーを対象に、ビジネス課題の解決とITを活用した新たな価値創造を支援します。
ITビジネス全般については、CNET Japanをご覧ください。

このサイトでは、利用状況の把握や広告配信などのために、Cookieなどを使用してアクセスデータを取得・利用しています。 これ以降ページを遷移した場合、Cookieなどの設定や使用に同意したことになります。
Cookieなどの設定や使用の詳細、オプトアウトについては詳細をご覧ください。
[ 閉じる ]