サイバーエージェントは、和製生成AI開発とデジタル広告の機械学習基盤に「Dell PowerEdge XE9680」サーバーを採用した。デル・テクノロジーズが7月31日に発表した。
サイバーエージェントは、2016年から広告事業領域においてAIの研究開発を積極的に行っている。2020年には効果予測AIで広告効果を最大化する「極予測AI」の提供を開始。その当時、最新の「NVIDIA A100 GPU」が登場したことを機に、独自の機械学習基盤のためのデータセンターで運用するGPUサーバーとして同GPUを搭載した「Dell PowerEdge XE8545」を採用していた。
その後、同社は130億パラメーターからなる、独自の日本語大規模言語モデル（LLM）を開発した。極予測AIをはじめとするAIを活用した広告クリエイティブ制作領域のサービスにおいて活用を始め、各広告媒体のユーザー層に適した広告キャッチコピーなどの制作に生かしている。また、2023年5月には、和製生成AIの開発基盤用に、最大68億パラメーターの日本語LLMを「OpenCALM」（オープンカーム）という名称で商用利用可能なオープンソースのLLMとして公開した。
また、LLMへの最適化も見据え、新規のAI開発基盤導入の検討を開始。サーバーメーカー各社のモデルを比較した結果、最終的に8基の「NVIDIA H100 GPU」を搭載したPowerEdge XE9680を採用するに至った。
PowerEdge XE9680の導入により、従来製品に比べて約5.14倍の性能向上を実現した。今後、LLMを含めた特定の計算アルゴリズムを高速化する「Transformer Engine」への最適化を行うことで十数倍の性能向上ができることを期待している。
加えて、日本語LLMの更新をより早く頻繁に行えるようになるだけでなく、最新のデータセットに合わせた機械学習モデルのファインチューニングも高速に行えるようになることで、キャッチコピー候補の精度を上げることにも期待を寄せる。
また、より大量のリソースを確保できて、課金額を気にせずに利用できる点なども好評価を得ている。同社の顧客がビジネスインパクトを出せるように、ハイスペックなインフラを提供することができたことは大きな成果となったという。さらに、リモート対応ができるサーバー管理ツール「iDRAC」（Integrated Dell Remote Access Controller）は、OSを介さずにGPUの温度や状態を確認することができ、ファームウェアの更新もできるなど管理負荷を低減している。
