0
0

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?

話題の「Jev」は何が新しいのか、文章を作らず判断と確率だけを返すAIの仕組みを整理した

0
Posted at

この記事は、筆者が Zennに投稿した記事 の転載です。

結論

Jevは、TypeSafe AIが2026年9月に公開した「System One モデル」と呼ばれる新しい種類のAIです。ChatGPTのようなLLMと違って文章を生成せず、あらかじめ決めた選択肢・段階・真偽に対する答えと、その確率だけを返します。
応答は70〜500ミリ秒、料金は入力100万トークンあたり0.042ドルで出力は無料と、LLMとは桁が違う速さと安さです。
向いているのは「分類・振り分け・採点・真偽判定」で、文章を書かせる用途には使えません。返ってくる確率とconfidenceを閾値にして「自動で進めるか、人に回すか」を分ける、というのが公式の推奨する使い方でした。

背景

ここ1週間ほど、ZennのAI関連の人気記事をJevの話題が占めていました。「既存のLLMがCPUなら、JevはそのGPU版」という記事が200いいねを超えていて、私も何度か目にしています。
ただ、何が新しいのかを人に説明できるほどは分かっていなかったので、公式ブログと公式ドキュメントを読んで、自分の言葉で整理しました。

私は社内ITの担当で、ヘルプデスクへの問い合わせの振り分けや、監視アラートの重要度の判定のように「決まった選択肢の中から選ぶ」仕事が日常的にあります。Jevがまさにそういう用途向けだという触れ込みだったので、実務で使えそうかという目線でも読んでいます。

仕組み

1. LLMとの違いは「文章を1文字ずつ作らない」こと

LLMは、答えを先頭から1トークンずつ順番に生成します。この作り方だと、返事が長くなるほど時間がかかり、出力トークンにも料金がかかります。JSONモードや関数呼び出しで形式を縛っても、生成の仕組み自体は変わりません。

公式ブログによると、Jevは文章生成そのものをやめています。先に「答えの形」を渡しておくと、すべての項目の答えを一度に並列で出す作りです。出力は決められた選択肢の中の値しか取れないので、形式の崩れや、存在しない項目をでっち上げるといった失敗が構造上起きません。
学習方法も独自です。人の好みに合わせるRLHFではなく、確率の精度そのものを高めるRLCD(Reinforcement Learning for Calibrated Decisions)という手法だと説明されています。

2. 質問は3種類だけ

公式ドキュメントでは、Jevに投げられる質問(primitive)は次の3種類です。

種類 聞けること 返ってくる主な値
choice 選択肢の中から1つ選ぶ choice、probabilities、confidence
score 順序のある段階のどこに当たるか score、probabilities、confidence
noul この文は正しいか(はい/いいえ) noul(0〜1の確率)

noul はTypeSafe独自の呼び方で、要するに真偽判定です。他の2種類と違って confidence は付かず、確率そのものが自信の度合いになります。

実際のリクエストは、判定してほしい元データを state に、聞きたいことを questions に入れてJSONで送ります。次は公式ドキュメントの例を、社内ヘルプデスクの問い合わせ振り分けに書き換えたものです。

{
  "model": "jev-latest",
  "state": "先週からVPNにつながりません。明日の朝に客先で使うので急いでいます。",
  "questions": {
    "team": {
      "type": "choice",
      "instructions": "どの担当に回すべきか",
      "criteria": {
        "network": "VPN・Wi-Fi・社内ネットワークの不具合",
        "account": "パスワードや権限に関する依頼",
        "device": "PCや周辺機器の故障"
      }
    },
    "severity": {
      "type": "score",
      "instructions": "業務への影響の大きさ",
      "criteria": ["急がない", "今日中に対応が必要", "業務が止まっている"]
    },
    "needs_callback": {
      "type": "noul",
      "instructions": "電話での折り返しを求めている"
    }
  }
}

返ってくる形のイメージは次のとおりです。文章ではなく、項目ごとの答えと確率だけが返ります。

{
  "answers": {
    "team": {
      "choice": "network",
      "probabilities": { "network": 0.91, "account": 0.06, "device": 0.03 },
      "confidence": 0.87
    },
    "severity": { "score": 1.4, "confidence": 0.62 },
    "needs_callback": { "noul": 0.12 }
  },
  "usage": { "input_tokens": 180, "output_tokens": 24 }
}

score が1.4のように整数でないのは仕様です。「今日中に対応が必要(1)」と「業務が止まっている(2)」の間、という意味になります。

1回のリクエストに複数の質問を入れても、すべて同じ state を見て独立に、しかも同時に評価されます。公式ドキュメントは「使うかどうか分からない質問も先に聞いておいて、どの答えを使うかはコード側で決める」という使い方を勧めていました。

3. 確率とconfidenceの見方

confidence は、一番高い確率の値そのものではなく、確率の分布がどれだけ一点に寄っているかを表す値です。公式ドキュメントでは、選択肢が3つのときの計算式を「(3 × 最大確率 − 1) / 2」と示しています。全部が1つの選択肢に集まれば1.0、均等に散らばれば0.0になります。

たとえば「90%・6%・4%」と「40%・33%・27%」では、どちらも一番高い選択肢が選ばれますが、後者はほとんど当てずっぽうです。最大確率だけを見ると見落とすこの差を、confidence が拾ってくれます。

公式の目安は、0.5未満なら自動で進めず人に回す、0.5〜0.9なら確認を挟む、0.9を超えたら自動で進める、という3段階でした。ただし、この閾値は処理の重さに応じて変えるべきで、読み取りだけの処理は緩く、金銭が動くような処理は厳しくするよう注意書きがあります。

4. 速さと料金

公式ブログでは、応答時間は70〜500ミリ秒とされています。同じ判断をLLMにさせると数秒から数分かかるので、UIの操作に挟んでも待たされない速さです。Doomをリアルタイムで遊ばせるデモでは、1回の判断が0.114秒で、比較対象のLLMは8.566秒でした。

料金は入力100万トークンあたり0.042ドルで、出力トークンは無料です。公式サイトには「193.6倍速く、444.6倍安い」という数字も出ています。ただしこれはTypeSafe自身が用意した業務フローでの比較で、基準となる答えもGPT-6 AstraとFable 5.1の平均を使ったと明記されています。自社評価なので、そのまま受け取らず参考値として見るのがよさそうです。

モデル名は jev-1.13.0 で、jev-latest と jev-preview という別名でも指定できます。API は POST /v1/systemone の1本で、Python と JavaScript の SDK が用意されています。

5. 制限と注意点

公式ドキュメントに書かれている制限は次のとおりです。

  • 入力はテキストのみで、画像・音声・動画は受け付けません。state には文字列・JSONオブジェクト・文字列の配列を渡せます。
  • 1リクエストの上限は64kトークンで、state と一番長い質問を合わせて32kトークンまでです。
  • レート制限は毎秒25万トークン、毎分1,200リクエストですが、「動的に調整中で予告なく変わる」と書かれています。
  • 現時点では早期アクセスで、公式コンソールから申し込む形です。モデルの重みは公開されておらず、自前のサーバーで動かすことはできません。

もう1つ、読んでいて大事だと思ったのが「ハルシネーションしない」という宣伝文句の受け取り方です。Jevが返すのは決められた選択肢の中の値なので、形式が崩れたり、存在しない答えを作ったりはしません。ただ、3つの選択肢の中から自信満々に間違ったものを選ぶことは普通にあります。なくなったのは「壊れた答え」であって「間違った判断」ではない、というのがドキュメントを読んだうえでの理解です。だからこそ confidence で人に回す仕組みが前提になっています。

まとめ

Jevは、LLMの代わりではなく「LLMに頼むと遅くて高い、決まった選択肢から選ぶだけの判断」を切り出して任せるためのモデルでした。文章を書かせたいならこれまでどおりLLMで、振り分け・採点・真偽判定ならJevに投げて、確率が低いものだけLLMや人に回す、という組み合わせが公式の想定する形です。

社内ITの目線では、ヘルプデスクの問い合わせ振り分けや、監視アラートの一次判定、ログの中から人が見るべき行の抽出あたりが試しやすそうだと感じました。一方で早期アクセス段階で仕様が動いていること、入力が外部のAPIに送られることは、実務で使う前に確認が必要です。実際に触れる機会があれば、その結果は別の記事にまとめます。

参考

0
0
0

Register as a new user and use Qiita more conveniently

  1. You get articles that match your needs
  2. You can efficiently read back useful information
  3. You can use dark theme
What you can do with signing up
0
0

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?