NTTは2月20日、「IOWN」技術を用いて郊外型データセンターを活用したリアルタイムなAI分析を省電力で実現する技術を開発したと発表した。Red HatおよびNVIDIA、富士通が協力している。
IOWNは、光関連技術を活用した高速大容量通信を用いて、膨大な計算リソースを提供可能にする端末およびネットワーク、情報処理基盤を指す。超低消費電力機器を利用できるようになり、カーボンニュートラルの実現にも貢献する。さらに、高速大容量化によって1000Tbpsの通信が可能となり、5Gを超える速度での大容量データ通信ができるようになる。
実証実験の構成
この技術を評価する実証実験では、神奈川県横須賀市のセンサー設置拠点と、東京都武蔵野市の郊外データセンターの間をAPN（All-Photonics Network）で接続し、AI分析基盤を評価した。両拠点の光ファイバーの距離は約100㎞になる。
検証の結果、郊外型データセンターによるAI分析において、従来方式に比べ遅延時間を最大で60％削減できることを確認したという。ここでの遅延時間は、センサー設置拠点でデータを受信してから郊外型データセンターでのAI分析を完了するまでの時間を意味するという。
また、センサー設置拠点のカメラ1台当たりのAI分析に要する消費電力（1GPUでの実測値）を最大40％削減した。加えて、今回利用したAI分析基盤は、GPUを増設することで、CPUのボトルネックを生じさせることなく、より多くのカメラを収容できるとしている。このことから、1000台のカメラの収容を想定した見積りにおいて、最大で60％の消費電力の削減効果を見込めるとしている。
郊外型データセンターによるAI分析の必要性
今回の検証を実施した背景には、環境とコストに配慮したリアルタイムAI分析環境の需要の増加があるとしている。NTTソフトウェアイノベーションセンタ システムソフトウェアプロジェクトグループリーダの榑林亮介氏は次のように話す。
「従来、AI分析を行う場所としてセンサー設置拠点に分析環境を構築した場合、リアルタイム性や即応性のメリットを得られるが、高いメンテナンスコストが生じる。また、分析環境の変更が困難になることも多く、最新の分析環境にアップデートし続けることは困難。一方で、郊外の大規模データセンターに分析環境を構築した場合、ネットワーク遅延や大量のデータ収集によるオーバーヘッドの増加が生じる。こうしたことを解決するために大都市圏でのエッジデータセンターによるAI分析が考えられるが、エッジデータセンターでは用地と電力不足が懸念材料になる。その中で高速大容量の分析リソースをエッジデータセンターでまかなっていくことは困難となる」
実証で活用した分析環境の概要
今回の実証で利用した分析基盤には、IOWN Global Forumで検討されている、APNによる低遅延・ロスレス通信ならびに「DCI（Data Center Interconnection：データセンター間接続）」におけるデータ処理高速化手法を活用している。これにより、オーバーヘッドの増加を抑えて、大都市圏内に設置されたセンサーからデータを収集し、郊外型データセンターでAI分析を実行できる。低コストで遅滞なくエッジデータセンターと同等もしくはそれ以上の分析能力を得られることになる。
なお郊外型データセンターは、大都市圏内に設置されたデータセンターと異なり、再生可能エネルギーを最大限活用できるというメリットがあり、これはエッジデータセンターでは実現できないとのこと。今回開発された技術を本格的に商用化することで、今後は遠隔地からのさまざまな機器の操作や自動運転などに利用される情報処理サービスを大きく進展させることにつながると期待される。
同基盤は、AI推論のデータ処理高速化技術「RDMA over APN」により、センサー設置拠点におけるセンサーデータを、郊外型データセンターに設置されたアクセラレーターのメモリー上に直接転送する。これによって、従来型ネットワークにおけるプロトコル処理のオーバーヘッドを大幅に削減した。また、CPUによる制御オーバーヘッドを抑えつつ、アクセラレーター内でAI分析処理を完結させ、その電力効率を改善したという。
ここでは、Red HatのKubernetesベースのハイブリッドクラウド向けアプリケーションプラットフォーム「Red Hat OpenShift」を活用した。GPUなどのアクセラレーターの複雑性が解消され、より多くのエンジニアが今回の分析環境を利用できるようになるとしている。これにより、データ処理高速化が適用されたワークロードを、郊外型データセンターをはじめとする複数のサイトへ柔軟かつ容易に配備できるようになる。
また、郊外型データセンターにおけるAI推論には、「NVIDIA A100 Tensor コア GPU」と「NVIDIA ConnectX-6 NIC」を搭載した「Fujitsu PRIMERGY RX2540 M7」を利用している。さらに、データ処理の高速化に「NVIDIA Rivermax」「nvJPEG」「CV-CUDA」「Unified Communication X フレームワーク」などのNVIDIAのライブラリー群も活用した。
今後NTTは、同AI分析基盤に光電融合技術を組み合わせ、さらなる電力効率の向上を図り、カーボンニュートラルの実現に向けて貢献していくという。今回の成果については2026年の商用化を目指している。
