AI モデルを「動かす」段階、つまり推論を担うための統合プラットフォーム。独自開発のプログラミング言語 Mojo と推論エンジン MAX を核に、GPU カーネルの記述からモデルのサービング、クラウドでの配信までを一続きの仕組みでカバーする。NVIDIA と AMD の両方の GPU に対応し、ハードウェアごとにコードを書き換えなくても高速な推論を得られる点が最大の売りである。LLVM と Swift の生みの親である Chris Lattner 氏と、元 Google の Tim Davis 氏が 2022 年に創業。2026 年 6 月に Qualcomm との買収合意が発表され、同年 7 月 29 日に買収が完了した。Mojo・MAX・Modular Cloud はいずれも製品・ブランドとして継続される。
主な特徴
- Mojo ─ Python 風の構文で書ける高速言語: Python に近い書き味でありながら、GPU カーネルのような低レイヤーの処理まで記述できる。既存の Python 資産と行き来しながら、性能が要る部分だけを置き換えられる
- MAX ─ ハードウェアを問わない推論エンジン:
max serveコマンドでモデルをローカルのエンドポイントとして立ち上げられる。NVIDIA（B200 / H200 / H100）と AMD（MI355X / MI325X / MI300X）に対応し、CPU・NPU なども視野に入れた設計 - OpenAI 互換 API: エンドポイントは OpenAI 互換で、OpenAI の Python SDK からそのまま呼び出せる。text-to-text だけでなく画像・動画を入力とする推論にも対応するため、既存アプリの接続先を差し替えるだけで移行できる
- ベンチマークが標準装備:
max benchmarkでデータセットや同時実行数を変えながら性能を計測できる。チューニングの効果を数値で確認しながら進められる - デプロイ形態を選べる: Modular が運営するクラウド、自社の VPC やオンプレミスに置く BYOC（Bring Your Own Cloud）、完全な自己ホストの 3 通り。データを外に出せない要件でも導入しやすい
- オープンソースとコンテナ配布: コア部分は GitHub で公開され、Community License のもと無償で利用できる。配布コンテナは 700MB 未満と軽量
料金
| プラン | 課金方式 | 主な特徴 |
|---|---|---|
| Community（自己ホスト） | 無料 | オープンソースライセンスで利用可。Discord・GitHub でのコミュニティサポート |
| Modular Cloud | 従量課金（共有エンドポイントはトークン単位、専有エンドポイントは GPU 時間単位） | 常時稼働の推論基盤、利用状況メトリクス、SOC 2 Type 2 準拠。無料枠あり |
| Bring Your Own Cloud | GPU 稼働時間（分単位） | 自社クラウド・オンプレミスに配置。データは自社 VPC 内に留まる。カスタム API、専任エンジニアの支援付き |
| Enterprise / Self-Hosted | 要問い合わせ | AWS・GCP・Azure・Oracle 上での稼働、SLA 付きサポート |
共有エンドポイントのモデル別単価は公開されており、たとえば DeepSeek V4 が 100 万トークンあたり入力 $1.74 / 出力 $3.48、軽量版の DeepSeek V4 Flash が入力 $0.14 / 出力 $0.28。ボリューム割引やコミット割引も用意されている。
料金は2026年8月時点の情報です。最新の料金は公式サイトをご確認ください。
メリット・デメリット
✅ メリット
- NVIDIA と AMD をコード変更なしで横断でき、GPU ベンダーへの依存度を下げられる
- OpenAI 互換 API のため、既存アプリケーションからの移行コストが小さい
- 自社クラウド・オンプレミス配置に対応し、データを外部に出せない業務でも使える
- コアがオープンソースで、まず無料の自己ホストから試せる
- Qualcomm 傘下となったことで、開発リソースとハードウェア連携の裏付けが強まった
⚠️ デメリット
- 対象は推論基盤であり、ノーコードで使えるチャットサービスのような手軽さはない。GPU やコンテナの知識が前提になる
- Mojo は比較的新しい言語で、Python エコシステムほどライブラリや事例が揃っていない
- 本格運用の料金は構成依存で、見積もりには問い合わせが必要になる場面が多い
- コンシューマー向け GPU での動作には制限がある
- 買収直後のため、製品ラインや提供形態が今後変わる可能性は残る
類似サービスとの比較
| 比較項目 | Modular（MAX） | NVIDIA TensorRT-LLM | vLLM | Together AI |
|---|---|---|---|---|
| 位置づけ | 推論基盤 + 独自言語 + クラウド | NVIDIA GPU 向け推論最適化 | オープンソース推論サーバー | マネージド推論クラウド |
| 対応ハードウェア | NVIDIA / AMD ほか | NVIDIA のみ | NVIDIA 中心（一部他社対応） | 提供元が管理 |
| 自己ホスト | 可能（無料ライセンスあり） | 可能 | 可能（完全無料） | 不可（API 利用） |
| 独自言語 | Mojo あり | なし（CUDA / C++） | なし（Python） | なし |
| 主な利用者 | 推論基盤を自社で持ちたい企業・開発者 | NVIDIA 環境の最適化担当 | 研究者・個人開発者 | インフラを持ちたくない開発者 |
こんな人におすすめ
- 自社で LLM の推論基盤を構築・運用したいインフラ担当者や MLOps エンジニア
- NVIDIA GPU の調達難や価格に悩み、AMD など他社 GPU も選択肢に入れたい組織
- データを外部 API に送れない制約があり、VPC 内やオンプレミスで推論を回したい企業
- GPU カーネルレベルの最適化に踏み込みたいが、C++ / CUDA の学習コストを避けたい開発者
- 既存の OpenAI 互換クライアントを活かしたまま、推論の実行環境だけを自前に切り替えたいチーム
まとめ
Modular は、言語（Mojo）・エンジン（MAX）・クラウドを一つの流れとしてまとめ、AI 推論を特定の GPU ベンダーから切り離すことを狙ったプラットフォームである。手軽に触れるチャットツールではなく、推論を「自分たちで運用する」側のための道具に位置づけられる。Qualcomm による買収は完了しているが、Mojo・MAX・Modular Cloud は継続が明言されており、オープンな異種ハードウェア対応という方針も維持されている。まずは無料の Community ライセンスで自己ホストを試し、規模が読めてきた段階で Modular Cloud や BYOC を検討するのが現実的な進め方になる。