Baseten Labs, Inc.（米国）が提供する AI 推論プラットフォーム。学習済みのオープンソースモデルやファインチューニング済みの独自モデルを、そのまま本番運用できる API として公開できる。LLM だけでなく画像生成・音声認識・音声合成・埋め込みなど幅広いモダリティに対応し、GPU の自動スケーリングとマルチクラウド構成による高可用性を売りにしている。DeepSeek・Kimi・GLM・gpt-oss といった主要オープンモデルをすぐ叩ける「Model APIs」も用意されており、自前でモデルを持ち込む前に性能とコストを試せる。SOC 2 Type II・HIPAA に準拠し、クラウド・セルフホスト・ハイブリッドから配置方式を選べる。
主な特徴
- オープンモデルをそのまま本番 API に: Hugging Face 等で公開されているモデルや、自社でファインチューニングしたモデルを推論エンドポイントとしてデプロイできる。モデルのパッケージングにはオープンソースのフレームワーク Truss を使う
- Model APIs で主要オープンモデルを即利用: DeepSeek・Kimi・GLM・gpt-oss などの人気モデルが、あらかじめ最適化された状態でトークン課金の API として提供される。インフラを一切用意せずに試せる
- GPU 自動スケーリングとアイドル課金なし: リクエスト量に応じて GPU をスケールさせ、待機時間には課金されない。コールドスタートの短縮にも力を入れている
- マルチクラウド・マルチリージョンの高可用性: 特定のクラウドやリージョンに縛られず、複数の環境にまたがって推論を配置できる。公式は 99.99% の稼働率を掲げる
- 幅広いモダリティに対応: テキスト生成に加え、画像生成（ComfyUI ワークフロー含む）、文字起こしと話者分離、リアルタイム音声合成、埋め込み（Baseten Embeddings Inference）をカバーする
- 配置方式の選択とコンプライアンス: フルマネージドの Baseten Cloud、自社 VPC 内でのセルフホスト、両者のハイブリッドから選べる。SOC 2 Type II 認証と HIPAA 準拠に対応し、シングルテナント構成も可能
料金
プランは 3 段階で、Basic は月額固定費なしの従量課金。実際のコストは「どの GPU を何時間動かしたか」または「Model APIs で何トークン処理したか」で決まる。
| プラン | 月額料金 | 主な特徴 |
|---|---|---|
| Basic | $0（従量課金） | 専用デプロイ、Model APIs、トレーニング、SOC 2 Type II / HIPAA 準拠、メール・アプリ内チャットサポート |
| Pro | 要問い合わせ（ボリュームディスカウントあり） | Basic の全機能に加え、GPU の優先確保、専有コンピュート、エンジニアによる伴走支援、Slack / Zoom サポート |
| Enterprise | 要問い合わせ（ボリュームディスカウントあり） | Pro の全機能に加え、個別 SLA、セルフホストデプロイ、高度なセキュリティ、カスタムリージョン、チーム単位の RBAC |
主な GPU の時間単価（専用デプロイ）は次のとおり。
| GPU | 時間単価 |
|---|---|
| T4 | $0.6312 |
| L4 | $0.8484 |
| A100 | $4.00 |
| H100 | $6.50 |
| B200 | $9.98 |
Model APIs は 100 万トークンあたりの従量課金で、モデルによって単価が異なる（例: GPT OSS 120B は入力 $0.10 / 出力 $0.50、DeepSeek V4 Flash は入力 $0.13 / 出力 $0.26、Kimi K3 は入力 $3.00 / 出力 $15.00）。新規アカウントには初期クレジットが付与される。
料金は2026年8月時点の情報です。最新の料金は公式サイトをご確認ください。
メリット・デメリット
✅ メリット
- オープンモデルや自社ファインチューニング済みモデルを、GPU 調達やオーケストレーションの設計なしで本番 API にできる
- アイドル時間に課金されない従量課金のため、トラフィックが不安定な初期フェーズでもコストが読みやすい
- Model APIs でまず既製モデルを試し、必要になってから専用デプロイに移行する段階的な進め方ができる
- LLM 以外に画像・音声・埋め込みまで同一プラットフォームで扱えるため、複数モダリティを組み合わせたアプリを 1 か所に集約できる
- SOC 2 Type II・HIPAA 準拠とセルフホスト対応があり、医療・金融など要件の厳しい領域でも検討しやすい
⚠️ デメリット
- GPU 時間課金が中心のため、常時稼働の大規模モデルでは月額コストが高額になりやすい
- Pro / Enterprise は価格が公開されておらず、本格導入時は見積もり交渉が前提になる
- モデルのパッケージングや最適化には機械学習・インフラ側の知識が必要で、ノーコード的に使えるサービスではない
- 管理画面・ドキュメントは英語中心で、日本語の情報は多くない
類似サービスとの比較
| 比較項目 | Baseten | Modal | Together AI | Replicate |
|---|---|---|---|---|
| 主な立ち位置 | 自社モデルの本番推論基盤 | 汎用 GPU サーバーレス実行環境 | オープンモデル API + 学習基盤 | 公開モデルの手軽な API 化 |
| 既製モデル API | Model APIs（主要オープンモデル） | 中心ではない | 豊富に提供 | 豊富に提供 |
| 独自モデル持ち込み | 対応（Truss） | 対応（Python 関数単位） | 対応 | 対応（Cog） |
| セルフホスト / VPC 配置 | 対応（Enterprise） | 一部対応 | エンタープライズ向けに提供 | 基本は非対応 |
| 課金の考え方 | GPU 時間 + トークン従量 | 実行秒課金 | トークン / GPU 時間 | 実行秒課金 |
こんな人におすすめ
- ファインチューニング済みのオープンモデルを、社内向け・顧客向けの本番サービスとして公開したいチーム
- クローズドな商用 API から自前モデルへ移行し、単価とレイテンシをコントロールしたい開発者
- 音声認識・音声合成・画像生成など、テキスト以外の推論を含むプロダクトを作っている人
- SOC 2 や HIPAA といったコンプライアンス要件があり、VPC 内での推論配置も選択肢に入れたい企業
- まずは Model APIs で既製オープンモデルの費用感を確かめてから、段階的に自前モデルへ移りたい人
まとめ
Baseten は、オープンモデルや自社モデルを「動くデモ」から「落ちない本番 API」に引き上げるためのプラットフォームである。GPU の調達・スケーリング・監視といった運用の面倒をプラットフォーム側に寄せられる一方、GPU 時間課金という性質上、負荷特性を把握しないままの常時稼働はコストに直結する。まずは Model APIs で既製モデルの品質とコストを測り、自前モデルを載せる価値が確認できた段階で専用デプロイへ進むのが現実的な進め方といえる。