NTTデータは3月19日、NVIDIAのGPUを用いた大規模機械学習向け基盤サービス（GPU as a Service）を10月から提供すると発表した。大規模言語モデル（LLM）や自動運転技術などの開発需要に対応する。
このGPU as a Serviceでは、NVIDIAの「Blackwell」アーキテクチャーを採用する「NVIDIA DGX B200」システムのクラスターで構築された「NVIDIA DGX SuperPOD」を提供基盤とする。提供可能なGPUリソースは日本最大級だといい、LLM構築、サプライチェーン最適化、大量データからのインテリジェンス抽出など、複雑かつ多様なAIワークロードに対応できるとしている。
NTTデータの生成AI関連オファリングにおけるGPUサービスの位置付け（出典：NTTデータ）
このサービスは、NVIDIA DGX SuperPODの基盤を顧客などのプライベートクラウド環境に提供する。提供予定先のデータセンターでは、警備員による24時間の有人監視、入退室をICカードと生体情報による多要素認証による管理、顧客要件に合わせた専用ケージ区画での提供を可能にする。これにより、顧客ごとのニーズに合わせたセキュリティレベルの担保やカスタマイズなどが可能で、機密データや知的財産の外部漏えいリスクが低く、システムの柔軟性を高められるという。
また、今後のデータセンター関連ビジネスについて同社は、災害リスクの分散化やグリーンエネルギー確保などの観点からデータセンターの地方への分散需要がより高まると予想し、NTTグループが推進する次世代通信技術「IOWN」を活用した分散データセンター間での高速、低遅延の大容量データおよびデータ秘匿性を担保しての通信の実現を検討しているという。
クラスター構成のNVIDIA DGX SuperPODのイメージ（出典：NTTデータ）
