機械学習（ML）モデルの訓練は、その用途に応じたテクニックを用いる場合がしばしばある。これにより、サーバ間やさまざまな分野間でのモデルの配備に課題がもたらされている。
Oracleは、テンソルデータをやり取りするための高性能な標準ネットワークプロトコルを新たにオープンソース化することで、こうした課題を解決しようとしている。「GraphPipe」というこの新しい標準によって、企業はフレームワークに縛られることなく、MLモデルの配備や、それに対するクエリの実行を容易に行えるようになる。
GraphPipeが解決しようとしているのは次の3つの課題だ。1つ目の課題とは、モデルに付随するAPIが標準化されていないところにある。このため、業務アプリケーションはたいていの場合、配備されたモデルとの通信に専用のクライアントが必要になる。2つ目の課題は、モデルのサーバを構築するのは簡単な作業ではなく、すぐに使える配備ソリューションがほとんど存在していないというところにある。そして3つ目の課題は、企業が現在使用しているpython-JSON APIなどのソリューションは、パフォーマンスに対する要求がシビアな業務アプリケーションに応えるだけの性能を有していないところにある。
GraphPipeには、フラットバッファの定義一式と、そのフラットバッファ定義に準じたモデルを確実に提供するためのガイドライン、「TensorFlow」と「ONNX」「caffe2」のモデルを取り扱う際の実例、GraphPipe経由でモデルにクエリを発行する際に使用するクライアントライブラリが含まれている。
こういったツールを用いることで、複数のサーバをまたがってモデルを配備したり、さまざまなフレームワーク間で、共通のプロトコルを用いてモデル同士を連携させたりできるようになる。またGraphPipeは、遠隔地でモデルを稼働させる必要がある、IoTアプリケーション向けのMLの配備にも活用できるはずだ。
この記事は海外CBS Interactive発の記事を朝日インタラクティブが日本向けに編集したものです。
