SambaNova、オープンソースLLMのスピードと精度が比較可能な「Sambaverse」提供

NO BUDGET

2024-03-11 07:39

 SambaNova Systemsは「Sambaverse」の提供を開始した。開発者が何百ものオープンソースの大規模言語モデル(LLM)を試し、任意のアプリケーションに対する応答を単一のエンドポイントから直接比較することを可能にする。

  Sambaverseを使うと、開発者は1つのプロンプトにより「Hugging Face」で公開されている最も人気のある複数の大規模言語モデルを比較できる。プロンプトを入力するとSambaverseは各モデルに同時に質問し、その応答をリアルタイムで表示する。

 同サービスにより、開発者は自分が取り組むプロジェクトに適したオープンソースモデルを見つけることができるという。また単一のAPIを介して即座にモデルの入れ替えを可能にし、単一インスタンス上で複数のモデルを切り替え、ほんの数ミリ秒で特定のニーズに適応させることができる。

 Sambaverseの単一のインターフェイスで複数のモデルを比較する能力は、独自の「Composition of Experts(COE)」モデルアーキテクチャーによって実現されて、3層のメモリーとデータフローアーキテクチャーを持つSambaNovaの「SN40L」システム上で最適に動作する。「Samba-1」で利用可能なこのアプローチは、企業や政府機関が必要とする性能、拡張性、プライバシーとアクセス制御を提供する。

ZDNET Japan 記事を毎朝メールでまとめ読み(登録無料)

ホワイトペーパー

新着

ランキング

  1. セキュリティ

    Pマーク改訂で何が変わり、何をすればいいのか?まずは改訂の概要と企業に求められる対応を理解しよう

  2. セキュリティ

    従来型のセキュリティでは太刀打ちできない「生成AIによるサイバー攻撃」撃退法のススメ

  3. セキュリティ

    2025年はクラウドを標的にする攻撃が増加!?調査レポートに見る、今後警戒すべき攻撃トレンド

  4. セキュリティ

    生成AI活用の潜在的なセキュリティリスクに準備しておくべき「6つの戦略」とは?

  5. ビジネスアプリケーション

    業務マニュアル作成の課題を一気に解決へ─AIが実現する確認と修正だけで完了する新たなアプローチ

ZDNET Japan クイックポール

所属する組織のデータ活用状況はどの段階にありますか?

NEWSLETTERS

エンタープライズコンピューティングの最前線を配信

ZDNET Japanは、CIOとITマネージャーを対象に、ビジネス課題の解決とITを活用した新たな価値創造を支援します。
ITビジネス全般については、CNET Japanをご覧ください。

このサイトでは、利用状況の把握や広告配信などのために、Cookieなどを使用してアクセスデータを取得・利用しています。 これ以降ページを遷移した場合、Cookieなどの設定や使用に同意したことになります。
Cookieなどの設定や使用の詳細、オプトアウトについては詳細をご覧ください。
[ 閉じる ]