クラウドモニタリングのDatadogは米国時間8月2～3日、カリフォルニア州サンフランシスコで年次イベント「DASH 2023」を開催した。3日の基調講演では、モニタリングのAIスタックへの拡大、生成AIアシスタント「Bits」を発表するなどAIを強化した。ここ数年注力するセキュリティ、オブザーバビリティー（可観測性）でも新製品や機能強化を発表した。
AIスタックのモニタリングと自社製品への生成AIの組み込みを発表
Datadogは、DevOpsのプラットフォームとしてスタートし、その後オブザーバビリティー、最近ではセキュリティに事業領域を拡大しているSaaSベンダーだ。2010年に創業し、日本法人は2019年に設立された。
Datadog 共同創業者兼CEOのOlivier Pomel氏
基調講演に立った共同創業者兼CEO（最高経営責任者）のOlivier Pomel氏は、「どうやってイノベーションのペースを維持しているのか、どうやって製品を構築しているのかと聞かれる。その鍵を握るのは、Datadogコミュニティーだ。顧客のパートナーとして、顧客が抱えている問題をすぐに解決できるようにするのがわれわれの使命だ」と述べた。なお、DASH開催の直前に、アプリケーション性能監視（APM）で競合するNew Relicが投資会社に買収されることが発表されている。この分野の淘汰（とうた）が始まりつつあると見ることもできる。
DASHでは、18の新製品、機能強化が発表された。目玉と言えるのが、AIに関連した発表だ。
DASHでは大きな発表として、18の新機能、機能強化が紹介された
Pomel氏と共にDatadogを創業し、現在CTO（最高技術責任者）を務めるAlexisLê-Quôc氏は、Datadogが追跡しているGPU使用のデータを参加者らに見せながら、「GPUの使用が急増しており、AIが関連するテクノロジーエコシステムも拡大している」と述べる。そして、生成AIスタックのモニタリング機能「AI Stack Observability」を発表した。
Datadog CTOのAlexisLê-Quôc氏
大規模言語モデル（LLM）はさまざまな用途に適用できるものの、それらを組み込むAIアプリケーションは、新しいアプリケーションフレームワーク、モデル、ベクターデータベースなどが用いられている。テキスト、画像、音声など扱うデータの種類も量も増え、プロンプトテンプレートなどワークフローも異なる。
シニアプロダクトマネージャーのShri Subramanian氏は、「機械学習やデータサイエンスチームとアプリケーション開発者のコラボレーションが要求される」と語り、「運用環境における機械学習のモデルの精度や信頼性を維持するためには、データ担当側とインフラエンジニアとの協力が必要で、アプリケーションクラウド開発者の負荷は大きくなる一方だ」と続けた。
そこでDatadogは、インフラ、データ間の管理、モデル、オーケストレーションまで主要なプレイヤーと組んでLLMベースのアプリケーションの開発、デプロイ、運用を支援するモニタリングを実現するという。
AIObservability
「LLM Observability」のベータリリースも発表した。アプリケーション、モデル、さまざまなインテグレーションについてのデータを利用し、リアルタイムに問題を検出できるものになる。
モデルに関するアラートなど一元的なビューを得られる「Model Catalog」、モデルのパフォーマンスに関連した問題を特定する「Model Performance」、プロンプトと回答のカテゴリーをクラスタ化して、インタラクションのパターンを見ながら精度劣化（ドリフト）を検出する「Model Drift」などが含まれる。
