SambaNova、オープンソースLLMのスピードと精度が比較可能な「Sambaverse」提供

NO BUDGET

2024-03-11 07:39

 SambaNova Systemsは「Sambaverse」の提供を開始した。開発者が何百ものオープンソースの大規模言語モデル(LLM)を試し、任意のアプリケーションに対する応答を単一のエンドポイントから直接比較することを可能にする。

  Sambaverseを使うと、開発者は1つのプロンプトにより「Hugging Face」で公開されている最も人気のある複数の大規模言語モデルを比較できる。プロンプトを入力するとSambaverseは各モデルに同時に質問し、その応答をリアルタイムで表示する。

 同サービスにより、開発者は自分が取り組むプロジェクトに適したオープンソースモデルを見つけることができるという。また単一のAPIを介して即座にモデルの入れ替えを可能にし、単一インスタンス上で複数のモデルを切り替え、ほんの数ミリ秒で特定のニーズに適応させることができる。

 Sambaverseの単一のインターフェイスで複数のモデルを比較する能力は、独自の「Composition of Experts(COE)」モデルアーキテクチャーによって実現されて、3層のメモリーとデータフローアーキテクチャーを持つSambaNovaの「SN40L」システム上で最適に動作する。「Samba-1」で利用可能なこのアプローチは、企業や政府機関が必要とする性能、拡張性、プライバシーとアクセス制御を提供する。

ZDNET Japan 記事を毎朝メールでまとめ読み(登録無料)

ホワイトペーパー

新着

ランキング

  1. セキュリティ

    「デジタル・フォレンジック」から始まるセキュリティ災禍論--活用したいIT業界の防災マニュアル

  2. 運用管理

    「無線LANがつながらない」という問い合わせにAIで対応、トラブル解決の切り札とは

  3. 運用管理

    Oracle DatabaseのAzure移行時におけるポイント、移行前に確認しておきたい障害対策

  4. 運用管理

    Google Chrome ブラウザ がセキュリティを強化、ゼロトラスト移行で高まるブラウザの重要性

  5. ビジネスアプリケーション

    技術進化でさらに発展するデータサイエンス/アナリティクス、最新の6大トレンドを解説

ZDNET Japan クイックポール

注目している大規模言語モデル(LLM)を教えてください

NEWSLETTERS

エンタープライズ・コンピューティングの最前線を配信

ZDNET Japanは、CIOとITマネージャーを対象に、ビジネス課題の解決とITを活用した新たな価値創造を支援します。
ITビジネス全般については、CNET Japanをご覧ください。

このサイトでは、利用状況の把握や広告配信などのために、Cookieなどを使用してアクセスデータを取得・利用しています。 これ以降ページを遷移した場合、Cookieなどの設定や使用に同意したことになります。
Cookieなどの設定や使用の詳細、オプトアウトについては詳細をご覧ください。
[ 閉じる ]