0
0

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?

【初心者向け】RAGを速く安くするなら、Jevは「ベクトル検索の後ろ」より「目次の道案内」に置こう

0
Posted at

社内文書を読ませるAIチャット(RAG)を作ってみたものの、「回答が遅い」「APIの請求が思ったより高い」と感じていませんか。2026年9月に公開された判断特化AI Jev を使って、この悩みを解決する方法を全5章の特集にまとめました。この記事では、その要点を初めての方向けに紹介します。

特集トップ: https://corpus2skill.businesshub.trueone.co.jp/feature/withjev/

RAGのおさらい

RAG(Retrieval-Augmented Generation)は、次の3ステップで動きます。

  1. 質問に関係する文書の断片(チャンク)を、ベクトル検索で探す
  2. 見つけた断片を質問と一緒にLLMへ渡す
  3. LLMが断片を根拠に回答を書く
社内文書 → チャンク分割 → 埋め込み → ベクトルDB
質問 → 埋め込み → 近いチャンクを上位k件 → LLMが回答

つまずきポイントは2つ

1. 遅さの正体はLLMの呼び出し回数

ベクトル検索そのものはミリ秒単位で終わります。遅くなるのは、精度を上げるために「質問の言い換え」「並べ替え(リランク)」「再検索」などでLLMを何度も呼ぶからです。LLMは1トークンずつ文章を生成するので、1回ごとに数秒かかります。

2. 細切れにすると「ただし書き」が消える

例えば、出張規程に次のような条文があるとします。

  • 第1項:宿泊費は一律1万円
  • 第5項:ただし役員は実費精算

「社長の宿泊費は?」と聞くと、ベクトル検索は第1項だけを拾い、離れた場所にある第5項を見落としがちです。結果として、AIは「1万円です」と間違えます。

解決策:目次をたどる Corpus2Skill × 選ぶだけの Jev

Corpus2Skill は、文書を細切れにせず、フォルダ階層(スキルツリー)に整理しておく方法です。AIは目次(SKILL.md / INDEX.md)を読んで枝を選び、最後に原文を丸ごと読むので、ただし書きを見落としにくくなります。ただし、枝を1つ選ぶたびにLLMを呼ぶので遅いのが弱点でした。

そこで、「枝を選ぶ」作業を Jev に任せます。Jevは文章を書かず、選択肢から1つ選ぶ(choice)、Yes/Noの確率を返す(noul)、段階評価する(score)だけのAIです。開発元の公表では1回の判断は70〜500ミリ秒です。

工程 担当 理由
どのフォルダを開くか Jev(choice) 有限の選択肢から選ぶだけ
どの文書が必要か Jev(noul を並列) 候補ごとのYes/No判定
回答文を書く LLM(1回だけ) 文章を書けるのはLLM

Jevへのリクエストはこんな形

{
  "model": "jev-1.13.0",
  "state": "インボイスの再発行手順は?",
  "questions": {
    "cluster": {
      "type": "choice",
      "instructions": "回答に参照すべき知識クラスタを選ぶ",
      "criteria": {
        "billing": "請求・支払い・インボイス",
        "hr": "人事・休暇・給与",
        "other": "どれにも当てはまらない"
      }
    }
  }
}

返ってくるのは、選ばれたラベルと確信度(confidence)だけです。文章を解析する必要がないので、プログラムの分岐にそのまま使えます。

特集の構成

  1. RAGの現在地と「文脈の断片化」という罠
  2. Corpus2Skillの仕組みと「遅くて高い」ジレンマ
  3. 判断だけを行う超高速AI「Jev」
  4. 3ホップのハイブリッド設計と弱点の回避策
  5. 標準ライブラリだけで動くPython実装コードとユースケース

図解・表・コードを多めに入れているので、RAGを作ったことがない方でも順番に読めば全体像がつかめるはずです。

👉 特集を読む: https://corpus2skill.businesshub.trueone.co.jp/feature/withjev/

※ Jevの速度・価格は開発元の公表値です。導入前に自分のデータで計測してください。

0
0
0

Register as a new user and use Qiita more conveniently

  1. You get articles that match your needs
  2. You can efficiently read back useful information
  3. You can use dark theme
What you can do with signing up
0
0

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?