AI Deck

Inception ─ 拡散モデルでテキストを並列生成する、毎秒1000トークン超の高速LLM API

画像生成でおなじみの「拡散モデル(diffusion model)」の考え方をテキスト生成に持ち込んだ、少し変わったLLMを提供する米国のスタートアップ。一般的なLLMがトークンを1つずつ順番に吐き出すのに対し、Inceptionの「Mercury」シリーズは文章全体を粗い状態から一気に整えていくため、トークンを並列に生成できる。結果として公式は市販のNVIDIA GPU上で毎秒1000トークン超、最初の1文字が返るまで300ミリ秒未満という速度を掲げている。OpenAI互換のAPIで提供されるため、既存のアプリのエンドポイントとモデル名を差し替えるだけで試せるのが実用面での特徴である。

主な特徴

  • 拡散型LLM(dLLM)による並列生成: 左から右へ1トークンずつ生成する自己回帰型とは異なり、出力全体を反復的に洗練していく方式。公式は従来型と比べて5〜7倍のスループット、タスクあたり最大70%のコスト削減を示している
  • Mercury 2 ─ 推論対応の主力モデル: 128Kトークンのコンテキストに対応し、推論(reasoning)・ツール利用・構造化出力をサポート。推論の深さは instant / low / medium / high の4段階で切り替えられるため、速度重視と精度重視を用途ごとに使い分けられる
  • Mercury Edit 2 ─ コード編集特化の軽量モデル: コンテキストは32Kと小さいが、コード補完やインライン編集のように待ち時間が体感を左右する処理に向く
  • OpenAI API互換でドロップイン導入: 標準のOpenAIクライアントに加え、LangChain・LiteLLM・AISuite・Vercel AI SDKといった主要ライブラリからそのまま呼び出せる
  • 主要クラウド経由でも利用可能: 自社プラットフォームのほか、AWS BedrockとAzure AI Foundry上でも提供されている。既存のクラウド契約や権限管理の枠組みに載せやすい
  • リアルタイム用途への最適化: 音声エージェント、カスタマーサポート、エディタ内補完、検索クエリの多重実行など、1リクエストあたりの遅延がそのまま体験品質になる領域を主戦場としている

料金

プラン料金主な内容
Free$0無料トークン枠付きで全モデルを試用可能
Developer従量課金余裕のあるレート制限、優先サポート
Enterprise要問い合わせ個別のレート制限、SLA、セキュリティ・プライバシー要件対応、ボリューム割引

モデル別の従量課金は次のとおり(100万トークンあたり)。

モデル入力キャッシュ入力出力コンテキスト
Mercury 2$0.25$0.025$0.75128K
Mercury Edit 2$0.25$0.025$0.7532K

料金は2026年8月時点の情報です。最新の料金は公式サイトをご確認ください。無料枠として付与されるトークン数は公式サイトとドキュメントで記載が異なるため、実際の付与量はサインアップ時に確認することをおすすめします。

メリット・デメリット

メリット

  • 応答が返り始めるまでが速く、音声対話やエディタ補完のように「待たされた感」が致命的になる用途で効果が大きい
  • 100万トークンあたり入力$0.25・出力$0.75と、主要な高性能モデルと比べて低い単価に収まっている
  • キャッシュ入力が入力の10分の1の単価で、同じ前提文を繰り返し送るエージェント用途とは相性がよい
  • OpenAI互換のため、既存コードの変更が最小限で済み、比較検証もしやすい
  • AWS BedrockとAzure AI Foundryから使えるので、社内のクラウド調達ルールに沿って導入しやすい

⚠️ デメリット

  • 拡散型LLMはまだ事例の蓄積が浅く、自己回帰型モデルほど「どんなタスクで崩れるか」の知見が共有されていない
  • モデルのラインアップが少なく、マルチモーダル(画像・音声入力)などの選択肢は現時点で乏しい
  • エンドユーザー向けのチャットアプリではなく開発者向けAPIが主体のため、非エンジニアが単体で使う場面は想定されていない
  • 日本語での公式情報やコミュニティの事例が少なく、情報収集は英語が前提になる

類似サービスとの比較

比較項目Inception (Mercury)GroqCerebras InferenceGoogle Gemini Flash
高速化の手法モデル構造(拡散型・並列生成)専用チップ(LPU)専用チップ(Wafer Scale Engine)モデルの軽量化・最適化
提供モデル自社のMercuryシリーズ主にオープンウェイトモデル主にオープンウェイトモデル自社のGeminiシリーズ
API互換OpenAI互換OpenAI互換OpenAI互換独自+OpenAI互換モード
主要クラウド提供AWS Bedrock / Azure AI Foundry自社中心自社中心Google Cloud(Vertex AI)
無料枠ありありありあり

高速推論を売りにするサービスは複数あるが、GroqやCerebrasが「自己回帰型モデルを専用ハードで速く動かす」方向なのに対し、Inceptionは「モデルの生成方式そのものを変える」方向で速度を稼いでいる点が根本的に異なる。

こんな人におすすめ

  • 音声エージェントやリアルタイム対話を開発していて、応答遅延がボトルネックになっている開発者
  • エディタ内のコード補完・インライン編集など、体感速度が品質に直結する機能を作っているチーム
  • 1回のリクエストでLLMを何度も呼び出すエージェントを運用しており、レイテンシとコストを同時に下げたい人
  • OpenAI互換のまま推論バックエンドを差し替えて、速度とコストのA/B比較をしたい人
  • AWSやAzureの既存契約の中で、高速な推論オプションを追加したい企業

まとめ

Inceptionは、拡散モデルという別ルートからLLMの生成速度に取り組んでいる少数派のプレイヤーである。毎秒1000トークン超・最初の応答まで300ミリ秒未満という数値は、チャット用途では体感しづらくても、音声エージェントやエディタ補完、多段のエージェント処理では設計そのものを変えうる差になる。OpenAI互換で無料枠もあるため、まずは既存アプリのモデル名を差し替えて、自分のタスクで精度が実用水準に乗るかを確かめるところから始めるとよい。

関連リンク

← ブログ