Laya ─ 文章を生成せず、型付きの質問に確信度付きで答えるオープンソースの意思決定モデル

Laya(ラヤ)は、インドの Convai Innovations が 2026 年 9 月 18 日に公開したオープンソースの意思決定モデルです。メール・問い合わせチケット・JSON などの「状態」に対して、「どの部署に回すか」「緊急度は何点か」「返金を求めているか」といった型付きの質問を投げると、文章を生成せずに 1 回の推論で確信度付きの答えを返します。TypeSafe AI の判定モデル「Jev」と同じ用途を想定した設計で、重みを公開し自前の環境で動かせる点が特徴です。ライセンスは Apache 2.0 で、pip install laya だけで導入できます。

主な特徴

  • 3 種類の型付き質問: 選択肢から 1 つを選ぶ choice、順序付きの点数を返す score、Yes/No を確率で返す noul の 3 形式で質問できます。答えは文章ではなく構造化された値として返ります
  • 1 回の推論ですべての質問に答える: テキストを 1 語ずつ生成せず、エンコーダーの 1 回の推論で複数の質問にまとめて回答します。公式 README の計測では、T4 GPU で 1 問あたり約 33〜40 ミリ秒、10 問をまとめて処理すると 1 問あたり約 7 ミリ秒です
  • 確信度の較正: 強化学習と温度スケーリングで、出力する確信度が実際の正答率に近づくよう調整されています。「確信度 0.9 の答えはおよそ 9 割当たる」ことを目指した設計で、しきい値を決めて人のチェックに回す運用に向いています
  • 言語の自動ルーティング: 入力の文字体系・言語を判定し、英語用と多言語用のモデルへ自動で振り分けます。独自の言語判定関数を差し込むこともできます
  • 用途別の 3 つのチェックポイント: 英語用の laya(ModernBERT-large、4.21 億パラメータ)、100 以上の言語を扱う laya-multilingual(mmBERT-base、3.22 億パラメータ)、業務の判定向けに追加学習した laya-typed-decisions の 3 種類から選べます
  • Jev 互換の HTTP サーバー: pip install "laya[serve]" で API サーバーを立てられ、Jev と同じ POST /v1/systemone の形式で呼び出せます。Jev を使っているクライアントは接続先の URL を差し替えるだけで移行できる設計です

料金

提供形態料金主な内容
セルフホスト(本体)無料Apache 2.0。3 つのチェックポイントを Hugging Face から取得して自前の環境で実行
ホスト型 API(impossibl.com)Laya の利用はトークン課金なし第三者が運営する API。利用には入金済みのアカウントと API キーが必要

料金は2026年9月時点の情報です。本体はオープンソースのため、費用は実行するマシンの分だけです。ホスト型 API は Convai Innovations ではなく第三者の提供で、条件が変わる可能性があります。最新情報は GitHub リポジトリ と impossibl.com のドキュメント をご確認ください。

メリット・デメリット

✅ メリット

  • 答えが決められた選択肢や数値の中から返るため、分類結果に存在しない部署名や余計な文章が紛れ込む心配がなく、後続の処理にそのまま渡せます
  • 1 問数十ミリ秒で返るため、受信メールやチケットを 1 件ずつリアルタイムに振り分ける処理にも組み込めます
  • 自前のサーバーで動かせるので、顧客のメール本文などの機密データを外部の API に送らずに判定できます
  • 確信度が較正されているため、「確信度が低いものだけ人が見る」という線引きを数値で決められます

⚠️ デメリット

  • 公式 README の「Honest limits」によると、ベースのチェックポイントを業務判定にそのまま使うと、精度がランダムに近い水準(0.362、ランダムは 0.318)にとどまります。実用には追加学習を前提に考える必要があります
  • 選択肢が 20 を超える分類では、既定の設定のままだと精度が大きく落ちます。設定の調整や候補を絞り込む工夫が必要です
  • 多言語チェックポイントは、既定では確信度の較正(温度)が調整されていないと README に書かれており、使う前に自分のデータで較正する手間があります。多言語の score 質問では選択肢の並び順に引っ張られる傾向も報告されています
  • 公開から日が浅く、数日で v0.1.0 から v0.3.11 まで更新が続いています。API の仕様が短期間で変わる可能性があり、実運用の事例もまだ多くありません

類似サービスとの比較

サービス名Laya との違い
Jev(TypeSafe AI)同じ型付き判定 API だが、クローズドな有料サービス(impossibl.com 経由の入力トークン単価は 100 万トークンあたり $0.042)。Laya は重みを公開し、自前の環境で無料で動かせる
OpenAI の構造化出力 / Function Calling生成型の LLM に JSON 形式で答えさせる方式。柔軟だが応答は遅く、トークン課金がかかる。Laya は文章を生成せず 1 回の推論で終わる
Hugging Face のゼロショット分類(BART-MNLI など)単一のラベル分類が中心。Laya は choice・score・Yes/No の複数の質問に、較正済みの確信度付きでまとめて答える

こんな人におすすめ

  • 問い合わせメールやサポートチケットの部署振り分け・緊急度判定を自動化したい開発者
  • 解約の兆候や返金要求の検知、コンテンツの有害性判定などを低コストで回したいチーム
  • 生成型 LLM の API 費用や応答速度が、大量の分類処理のボトルネックになっている人
  • エージェントのタスク振り分けや、プロンプトインジェクション検知のガードレールを軽量なモデルで組みたい人
  • Jev を使っていて、同じ呼び出し形式のまま自前ホストに切り替えたい人

まとめ

判定のたびに生成型 LLM を呼んで JSON を組み立てさせる構成は、速度と費用の両面で重くなりがちです。Laya はその判定部分だけを切り出し、文章を生成しない小型モデルに任せるという割り切った選択肢です。一方で、ベースのままでは業務判定の精度が十分でないことを公式自身が明記しており、追加学習と確信度の較正までを見込んで検証するのが現実的です。まずは手元のメールやチケットの一部で試し、確信度のしきい値と人のチェックを組み合わせた運用から始めるのがよいでしょう。

関連リンク

← ブログ