オープンウェイトモデルを低レイテンシで提供することに特化した、AI推論プラットフォーム。
独自最適化した推論エンジンでバッチ処理・投機的デコーディングなどを行い、レイテンシに敏感な本番ワークロード向けのホスティングに強みを持つ。
© 2026 ITBGM