NightRunは、USBメモリやSDカードから直接起動して、LinuxもWindowsも介さずにローカルLLMとのチャットを動かすランタイムです。PCの電源を入れてブートメディアを選ぶと、OSの起動画面を飛ばしてそのままチャット画面が立ち上がります。実体はファームウェア（UEFI）上で動く単一のアプリケーションで、Rustのno_stdコードによって画面描画からトークナイザ、量子化された推論カーネルまで自前で実装されています。手持ちのPCやRaspberry Pi 5を、丸ごとローカルLLM専用機に変えてしまう、という発想のプロジェクトです。開発者はhardraveという個人で、コードはMITライセンスで公開されています。
主な特徴
- OSを介さないUEFI常駐ランタイム: ブートローダーもカーネルも持たず、ファームウェアが直接起動する単一のUEFIアプリケーションとして動きます。OSやドライバの層が間に入らないぶん、構成がきわめて単純です
- モデルをRAMに常駐させてストレージを封印: 起動時にモデル全体（1.3〜2.4GB程度）をRAMへ読み込み、CRC-32で整合性を検証したあとストレージへのアクセスを封じます。以降は読み書きが発生しません
- ネットワークスタックを持たないオフライン動作: そもそも通信する機能を実装していないため、起動後は完全にオフラインで完結します。外部へ送信されるデータが存在しない構造です
- 自前実装の量子化推論カーネル: AVX2（x86_64）とNEON（Arm）向けに手書きされた行列演算カーネルでCPU推論します。Q8_0・Q4_K・Q6_Kの量子化形式に対応しています
- 独自のフレームバッファUI: グラフィックスタックも自作で、チャット画面・入力欄の編集・スクロールバックの表示までを描画します
- x86_64 PCとRaspberry Pi 5に対応: x86_64のUEFI機はUSBメモリから、Raspberry Pi 5はSDカードから起動します。Pi 5向けにはファン制御も含まれています
料金
| プラン | 料金 | 主な内容 |
|---|---|---|
| オープンソース（MIT） | 無料 | 全機能。イメージの作成・利用・改変が可能 |
料金は2026年9月時点の情報です。NightRunはMITライセンスで公開されているセルフホスト型ソフトウェアで、有料プランは存在しません。最新の情報は公式サイトをご確認ください。なお、モデルの重みはNightRunに同梱されず、それぞれのライセンス（Llama Community License、QwenとGraniteはApache-2.0）に従います。
メリット・デメリット
✅ メリット
- OSの起動を待つ必要がなく、電源を入れてから数十秒でチャットに到達できます。「AIを使うためにPCを立ち上げる」という手順そのものが短くなります
- 通信機能を持たない構造なので、外部に情報が出ていないことを構成レベルで説明できます。持ち出しが制限された環境でも導入の相談がしやすくなります
- USBメモリ1本、あるいはRaspberry Pi 5が1台あれば専用のAI端末を仕立てられます。母艦のPCに何もインストールせずに済み、使い終わったらUSBを抜くだけで元の状態に戻ります
- Rustでスクラッチから書かれたコードが公開されているため、推論エンジンやブートの仕組みを読んで学ぶ教材としても使えます
⚠️ デメリット
- 動かせるモデルはLlama 3.2（1B・3B）、Qwen3 4B Instruct、Granite 4.1 3Bの量子化版といった限定されたファミリーで、手持ちのGGUFを自由に持ち込めるわけではありません
- GPUを使う経路がなくCPU推論のみのため、応答速度には上限があります。大きなモデルを高速に回したい用途には向きません
- 起動にはSecure Bootの無効化が必要です（配布イメージは署名されていません）。組織の端末では運用ルールとの兼ね合いを確認する必要があります
- 公開されている速度の計測値は開発者自身によるベンチマークログに基づくもので、第三者による独立した検証は確認できていません
- Raspberry Pi 5向けのファームウェア部分は、コミュニティによるメンテナンスであると公式に明記されています
類似サービスとの比較
| サービス | 動作環境 | NightRunとの違い |
|---|---|---|
| NightRun | UEFI（OSなし） | ブートメディアから直接起動し、ネットワークスタックを持たない |
| Ollama | Linux / macOS / Windows | OS上の常駐サービスとして動き、モデルの追加や切り替えが自由 |
| llama.cpp | Linux / macOS / Windows | OS上で動く推論エンジン。NightRunは精度検証の参照実装として利用 |
| LM Studio | デスクトップOS | GUIクライアントとして手軽に使え、専用ブートメディアは不要 |
日常的にローカルLLMを使うだけであればOllamaやLM Studioのほうが手数は少なく済みます。NightRunが効いてくるのは、「OSを挟まないこと」「通信しないこと」自体に価値がある場面です。
こんな人におすすめ
- オフラインで機密性の高い文書を扱うための、独立したローカルAI端末を用意したい人
- Raspberry Pi 5で専用のAIアプライアンスを自作してみたいハードウェア好きの人
- OSレイヤーを排したシステムプログラミングやRustの実装を、動くコードで学びたい開発者
- 会社のPCに何もインストールせずにローカルLLMを試したい人
まとめ
「ローカルで動かす」という言葉には幅がありますが、NightRunはその一番端まで振り切った実装です。OSを外し、通信を外し、ストレージへのアクセスまで封じたうえで、残った部分だけでチャットを成立させています。実用的な速度やモデルの自由度ではOS上のツールに譲る場面も多く、日常使いの第一候補になるものではありません。一方で、AIを動かすために本当に必要な要素は何か、という問いへの回答としては明快です。USBメモリが1本あれば試せますので、興味があれば手元のPCで起動してみるところから始めるとよいでしょう。