Mirai Labs が開発するオンデバイスAI基盤。Llama・Gemma・Qwen・Mistral といった公開モデルを、クラウドに送らず macOS/iOS の端末上でそのまま動かすための推論エンジン・モデル変換ツール・量子化方式を一式で提供する。中核となる推論エンジン uzu（Rust製）とモデル最適化基盤 lalamo（Python/JAX製）は MIT ライセンスのオープンソースとして公開されており、Swift・TypeScript・Python・Rust 向けのクイックスタートから数分で組み込みを始められる。「オンデバイスは小さなクラウドではなく、まったく別のシステムである」という立場を掲げ、モデルからハードウェアまでを一体で設計している点が特徴で、必要に応じてクラウド推論に切り替えるハイブリッド構成も選べる。
主な特徴
- Apple Silicon 特化の推論エンジン（uzu）: Rust で書かれた高性能推論エンジン。メモリ帯域に制約のある端末上でのテンソル演算をハードウェア特性に合わせて最適化し、体感的な遅延をなくす方向で設計されている。MIT ライセンスの公開リポジトリで、2026年8月時点で 1,600 を超えるスターが付いている
- モデル変換・量子化のツールチェーン（lalamo）: JAX ベースのモデル最適化基盤。公開モデルをオンデバイス実行向けに変換し、対話品質を保ったまま圧縮する量子化方式を備える。こちらも MIT ライセンス
- 主要オープンモデルに対応: Llama・Gemma・Qwen・Mistral など、広く使われている公開モデルをローカル実行できる。対応モデルの一覧は公式サイトの Local models ページで公開されている
- ローカルとクラウドのハイブリッド: 基本はローカル推論で完結させつつ、端末の能力を超える処理が必要な場面ではクラウド推論に回せる。プライバシー要件と処理能力のバランスを用途ごとに決められる
- 開発者向けの導線が揃っている: Swift・TypeScript・Python・Rust のクイックスタート、モデルとの対話やローカルAPIサーバ起動を担う CLI、そして macOS 向けのチャットアプリが用意されている。アプリ開発から検証まで同じスタックで進められる
- Android 対応を予告: 公式サイトでは Android での推論を「coming soon」として告知している
料金
| プラン | 料金 | 主な内容 |
|---|---|---|
| オープンソース（uzu / lalamo） | 無料 | 推論エンジンとモデル最適化基盤。MIT ライセンスで商用利用も可能 |
| macOS アプリ / CLI | 無料 | ローカルチャットアプリ、モデル管理・ローカルAPIサーバ起動用のCLI |
| クラウド推論・開発者プラットフォーム | 要問い合わせ | ローカルからフォールバックするクラウド推論。公開された料金表は確認できない |
料金は2026年8月時点の情報です。公式サイトに一般公開された料金ページは見当たらないため、クラウド利用や商用サポートの条件は公式サイトから直接確認するのが確実です。
メリット・デメリット
✅ メリット
- 推論が端末内で完結するため、入力したデータが外部に送られない。医療・法務・社内文書など、クラウドに載せづらいデータを扱うアプリに向く
- ネットワーク往復が発生しないので、応答が返り始めるまでの待ち時間が短い。オフラインでも動作する
- 中核ライブラリが MIT ライセンスで公開されており、内部実装を読める。ベンダーロックインの懸念が小さい
- 推論エンジン・モデル変換・量子化・CLI・アプリが一式で揃っており、部品を自前で寄せ集める必要がない
- Swift だけでなく TypeScript・Python・Rust からも入れるため、既存のプロジェクト構成に合わせやすい
⚠️ デメリット
- 対応プラットフォームが Apple Silicon（macOS/iOS）中心。Android は予告段階で、Windows や汎用 Linux は対象外
- ローカル実行できるモデルのサイズは端末のメモリに縛られる。最新の大規模モデルをそのまま動かす用途には向かない
- クラウド側の料金体系が公開されていないため、ハイブリッド構成のコストを事前に見積もりにくい
- 一般ユーザー向けの完成品というより開発者向けの基盤で、導入にはある程度の実装知識が要る
- 比較的新しいプロジェクトで、APIや対応モデルが今後変わる可能性がある
類似サービスとの比較
| 比較項目 | Mirai | Ollama | LM Studio | MLX（Apple） |
|---|---|---|---|---|
| 主な用途 | アプリ組み込み向けオンデバイス推論基盤 | ローカルでのモデル実行・管理 | GUIでのローカルモデル実行 | Apple Silicon 向け機械学習フレームワーク |
| 対象ユーザー | iOS/macOS アプリ開発者 | 開発者・技術者 | 非エンジニアを含む個人ユーザー | 研究者・フレームワーク利用者 |
| 対応プラットフォーム | macOS/iOS（Android は予告） | macOS/Linux/Windows | macOS/Windows/Linux | macOS |
| クラウド併用 | ハイブリッド構成に対応 | 基本ローカルのみ | 基本ローカルのみ | 対象外 |
| ライセンス | uzu / lalamo は MIT | MIT | 無料（プロプライエタリ） | MIT |
こんな人におすすめ
- ユーザーのデータを外部に出せない iOS/macOS アプリに、AI機能を組み込みたい開発者
- 通信のない環境やレスポンス速度が要件になるアプリで、AI応答を扱いたい人
- 推論エンジンの中身を読み、量子化や最適化まで踏み込んで調整したいエンジニア
- クラウドAPIの従量課金を避け、推論コストを端末側に寄せたいプロダクト運営者
- Apple Silicon 上でのローカル推論の実力を、実際のコードで検証してみたい人
まとめ
Mirai は、ローカル推論を「クラウドの縮小版」ではなく別物として設計し直したオンデバイスAI基盤である。推論エンジン uzu とモデル最適化基盤 lalamo が MIT ライセンスで公開されているため、まずは GitHub のリポジトリと公式ドキュメントのクイックスタートから手元の Mac で試してみるのが早い。対応が Apple Silicon 中心という制約はあるものの、プライバシーと応答速度を要件に持つ iOS/macOS アプリにとっては有力な選択肢になる。クラウド推論を併用する構成を検討する場合は、料金条件を事前に公式へ確認しておきたい。