AI開発基盤

Baseten

概要

独自モデルを本番用のAPIエンドポイントとしてデプロイできる、モデルサービングプラットフォーム。

独自フレームワーク「Truss」でモデルをパッケージ化し、オートスケーリングやAPI公開までを一括管理する。標準的なLLM推論に限らないカスタムアーキテクチャのモデルに向く。