AI Deck

llmfit ─ 手元のPCで動かせるLLMを1コマンドで診断するRust製ターミナルツール

ローカルLLMを試したいとき、最初にぶつかるのが「自分のPCでどのモデルが動くのか分からない」という壁である。llmfitは、この判断をターミナルの1コマンドに置き換えるRust製のオープンソースツール。RAM・CPU・GPU(VRAM)を自動で検出し、モデルごとに「メモリに収まるか」「どれくらいの速度が出るか」「どの量子化を選ぶべきか」を採点して一覧表示する。開発者はイギリスのAlex Jones(AlexsJones)氏で、2026年2月の公開以降、週次に近いペースで更新が続いている。ライセンスはMIT、利用は無料。

主な特徴

  • ハードウェアの自動検出: 搭載RAM・CPU・GPU/VRAM・利用可能なバックエンドを起動時に自動判定する。llmfit doctor を実行すれば、検出結果をレポート形式で確認でき、認識がおかしいときの切り分けにも使える
  • 4軸のフィット評価: モデルを「メモリ適合」「推定速度」「品質」「コンテキスト長」の4つの観点で採点し、ランキング表示する。単に動くかどうかだけでなく、実用に耐える組み合わせかどうかまで見える
  • 量子化の提案と速度推定: 手元のハードウェアに適した量子化レベル(GGUFのQ4/Q5/Q8など)を提示し、トークン毎秒(tok/s)の推定値を出す。推定はメモリ帯域幅のモデルとコミュニティの実測値に基づく
  • 主要ローカルランタイムに対応: Ollama、llama.cpp、MLX、LM Studio、Docker Model Runner、RamaLamaといったローカル実行環境を検出し、すでに導入済みのモデルも把握する
  • MoEとマルチGPUの正しい扱い: Mixture-of-Experts(MoE)モデルは総パラメータ数と実際に使われる部分が異なるため単純計算では見誤りやすいが、llmfitはこれを考慮して採点する。複数GPU構成にも対応
  • TUIとCLIの二本立て: 引数なしで起動すると対話的なTUI(モデルの絞り込み、ダウンロード、ベンチマーク実行が可能)が立ち上がる。llmfit fitllmfit recommend --json などのCLIモードもあり、スクリプトへの組み込みもできる
  • ベンチマークとリーダーボード: llmfit bench で自分の環境の実測値を計測でき、コミュニティのリーダーボードに結果を共有できる。推定値の精度がユーザーの実測で改善されていく仕組み

料金

プラン料金主な特徴
オープンソース版$0(MITライセンス)全機能を無償で利用可能。有料プランの提供なし

料金は2026年8月時点の情報です。最新の情報は公式サイトおよびGitHubリポジトリをご確認ください。

導入方法は複数用意されている。macOS/Linuxは brew install AlexsJones/llmfit/llmfit、Windowsは scoop install llmfit、ほかにMacPorts、uv tool install -U llmfit(Python経由)、Dockerイメージ(ghcr.io/alexsjones/llmfit)、インストールスクリプト、ソースからの cargo build --release が使える。

メリット・デメリット

メリット

  • 「このPCでどのモデルが動くか」という最初の疑問に、数十秒で答えが出る
  • モデルをダウンロードして試す前に判断できるため、数十GBの無駄なダウンロードを避けられる
  • Rust製の単一バイナリで、ランタイムや依存関係を用意する必要がない
  • 特定のランタイムに縛られず、Ollama・llama.cpp・MLXなど複数環境を横断して見られる
  • 更新が活発で、新しいモデルファミリーやハードウェアへの対応が早い

⚠️ デメリット

  • ターミナル前提のツールで、GUIしか使わない層には敷居がある
  • 速度はあくまで推定値。実際の値は量子化形式・コンテキスト長・並行処理などで変動するため、正確さを求めるならベンチマーク実行が必要
  • 個人開発のOSSプロジェクトのため、企業製品のようなサポート窓口や長期保証はない
  • モデルを推論実行する機能そのものは持たない(診断と選定に特化しており、実行はOllama等に任せる)

類似サービスとの比較

比較項目llmfitOllamaLM StudioHugging Face Model Memory Calculator
主な役割モデル選定の診断ローカル実行ランタイムGUI付きローカル実行環境メモリ必要量の概算
インターフェースTUI / CLICLI / APIデスクトップGUIWebフォーム
ハードウェア自動検出あり(RAM/CPU/GPU)限定的あり(動作可否の目安表示)なし(手動入力)
速度推定あり(tok/s推定 + 実測ベンチ)なしなしなし
量子化の提案ありなし一部なし
料金無料(MIT)無料無料(個人利用)無料

llmfitは実行環境の代替ではなく、その手前に置く「診断レイヤー」と捉えると位置づけが分かりやすい。Ollamaで動かす前にllmfitで候補を絞る、という併用が想定された使い方である。

こんな人におすすめ

  • これからローカルLLMを始めたいが、手持ちのPCで何が動くのか見当がつかない人
  • モデルを片っ端からダウンロードして試すのに疲れた、既存のローカルLLMユーザー
  • 新しいマシンやGPUを購入する前に、どのクラスのモデルが射程に入るか確認したい人
  • 社内の複数マシンに対して、同じ基準でモデル選定の目安を出したい開発者
  • CI/スクリプトからJSON出力を使って、環境ごとのモデル選定を自動化したいエンジニア

まとめ

llmfitは、ローカルLLM導入の最初の関門である「機種選定」を、勘と試行錯誤から数値評価へ移すツールである。ハードウェアの自動検出、4軸のフィット評価、量子化提案、tok/s推定という組み合わせは、モデルを落とす前に判断材料を揃えてくれる。推論そのものは行わないため、Ollamaやllama.cppと併用する前提になるが、無料かつ単一バイナリで導入コストは低い。ローカルLLMに手を出す前に一度通してみる価値のあるツールと言える。

関連リンク

← ブログ