0
0

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?

LLMに任せる範囲を、失敗を見ながらコードへ移していった話【後編:カード表示とHITL、改善の過程】

0
Posted at

前編では、見積書の値と自社マスタを照合し、コードで判定する仕組みを紹介しました。

今回はその続きです。照合結果を人に正確に見せる方法、HITLを使った確認と登録の制御、そしてテストを繰り返しながら完成形にたどり着くまでの過程を紹介します。

個人の検証環境で試した記録です(2026年11月時点)。数字は gpt-4o-mini、テスト用の見積書3種類、各5回の結果で、精度を示すものではありません。より新しいモデルなら違う結果になる可能性があります。

ここでいう「発注」は、SAP標準の購買発注ではありません。検証用に作った簡易的な発注アプリです。見積書PDFから発注を登録する部分はコチラ、CAPとLLMの関係はコチラにまとめています。

前編のおさらい

前編で説明した、この記事に出てくる言葉と処理です。

言葉 意味
照合 見積書の値が、自社のマスタ(仕入先・品目・単位)のどれに当たるかを決めること
判定 照合の結果。確定・要確認・該当なしの3種類
照合カード 照合の結果を人に見せるカード。人が「確認した」を押す
照合結果の一覧 照合カードに並ぶ、項目ごとの判定と置き換える値
承認カード 実際に登録される発注内容を見せるカード。人が「承認」を押す
HITL 人がカードのボタンを押すまで、処理を先に進めない仕組み
処理 LLMかコードか していること
① 発注エージェント LLM(実行はCAP) 依頼を理解する、見積書の値を整理する、②・④を呼ぶと決める、人に質問する、登録の引数を作る
② 照合の処理 コード マスタから候補を探し、判定し、照合結果を保存する(前編の2-1)
③ カードを作る処理 コード 照合カード・承認カードの中身を作る(この記事の2-2)
④ 登録の処理 コード 入力とマスタのチェックをして発注を登録する。照合カードで「確認した」を押していなければ、登録を止める(この記事の2-3)

②は、実装では「照合エージェント」という2つ目のエージェントの中にあります。照合エージェントのLLMは②を呼んで、結果を①に返すだけです。

2. 仕組み:コードに移した処理(続き)

2-2. ③ カードを作る処理:カードの中身はLLMに書き写させない

LLMに照合結果の一覧を人向けの返事に書き写させると、行が抜けたり、値が変わったりする問題がありました。そこで、②は照合結果をDBに保存して照合番号(8桁)を付け、照合結果の一覧と一緒に①に返します。①(LLM)がカードのために渡すのは、照合番号だけです。カードの中身は、③がその番号でDBから読んで作ります。

人に見せる照合カードの中身は「② 照合の処理 → DB → ③ カードを作る処理 → 画面」と届き、LLMの書き写しを通りません。

承認カードは、発注エージェントが作った登録の引数をもとに作ります。③は、その内容をマスタと突き合わせ、登録される値と問題点を表示します。ただし、照合結果と登録引数が一致しているかまでは検証していません。最終的には人が確認します。

2-3. ④ 登録の処理:照合カードの「確認した」を通っていなければ登録しない

カードは、@cap-js/agents の @agent.hitl を付けた処理を、LLMが呼び出したときに出ます。人がボタンを押すまで、その処理は実行されません。

ただし、その処理を呼ぶかどうかはLLMが決めています。 LLMが照合カードの処理を呼ばずに登録へ進めば、照合カードのHITLは一度も通りません。HITLを付けただけでは、人が確認したことは保証されないのです。

そこで、照合カードのHITLを通ったことを、登録の条件にしました。照合カードで「確認した」を押すと、その会話で確認したことが記録されます。④ 登録の処理は、その記録が無ければ止めます。

次のコードの contextId は、発注エージェントとの会話を識別する番号です。「確認した」の記録も、この番号で会話ごとに残しています。

async function needsQuoteCheck({ quoteSupplierName, supplierQuotation, items = [] }, contextId) {
  const fromQuote = quoteSupplierName || supplierQuotation || items.some((i) => i.quoteText)
  if (!fromQuote || !contextId) return false
  return !(await SELECT.one.from('pomini.db.QuoteChecks').columns('ID').where({ confirmedContext: contextId }))
}

見積書から登録しようとしていて、その会話で照合カードの「確認した」の記録が無ければ、登録をエラー(400)にします。承認カードの作成時にも同じ条件を確認し、未確認の場合は赤で知らせます。

contextId が無いのは、発注画面やAPIから直接登録するときで、照合の流れを通りません。その場合は止めませんが、入力チェックとマスタに無い値のチェックはかかります。

実際に、LLMが照合カードを飛ばしたことが1回ありました。登録はエラーで止まり、LLMが照合カードを出し直しました。発注は登録されませんでした。

HITLは「人が押すまで止める」仕組みで、「人に見せる」ことまでは保証しません。人に必ず見せたい確認は、そのHITLを通ったことを、後の処理の条件にしておく必要がありました。

3. テスト結果:どの程度よくなったか

テスト用の見積書

PDFの読み取りを試すために、A〜Gの7種類のテスト用ファイルを作っていました。B〜Eは、スキャンしたPDF、3ページの契約書、大きいファイル、10万円超の見積書で、照合とは別のこと(読めないPDF・長い文書・大きさの上限・承認待ち)を確かめるためのファイルです。照合のテストには、マスタとのずれ方が違う見積書A・F・Gを使いました。

見積書 内容 採点する項目 正しい動き
A 仕入先名のゆれ、旧字、マスタに無い単位 7 人に聞いて止まる
F すべてマスタと一致 5 聞き返さずに承認カードへ進む
G 本社と支店、同義語、マスタに無い品目 7 人に聞いて止まる

A・Gは「人に聞いて止まる」のが正しい見積書なので、それだけでは、迷わなくてよい項目まで人に聞く照合でも止まるところは合ってしまいます。そこで、聞き返さずに進むのが正しいFを入れ、聞きすぎていないかも確かめました。LLMの答えは毎回同じとは限らないので、それぞれ5回ずつ試しました。A・Gは7項目×5回で35、Fは5項目×5回で25が満点です。

数えたもの

  • 判定の一致:テスト前に人が決めた正解の判定と、人に見せた判定が一致した項目の数。テスト用の正解との一致で、実際の業務での正しさを測ったものではありません
  • マスタに無い値:承認カードに入っていた、マスタに無い仕入先・品目・単位の値の数(5回の合計)

比較の条件

照合の仕組みが無く、発注エージェント(LLM)が自分でマスタを検索して比べる場合(照合なし)と比べました。このとき、LLMがマスタを検索するときに使う項目名(たとえば仕入先コードは Supplier)を、発注エージェントの説明にあらかじめ書いておきました。項目名を知らないと、LLMが SupplierCode のように推測で書いて、検索そのものが失敗するためです。

なお、「4. この形になるまで」に出てくる段階0は、マスタの項目名を教えていない、別の条件の結果です。

結果

見積書 判定の一致:完成形 判定の一致:照合なし(項目名を教えた条件) マスタに無い値:完成形 マスタに無い値:照合なし
A 35/35 3/35 0 承認カードに届かず
F 25/25 17/25 0 2
G 35/35 14/35 0 12

完成形は、照合カードに出た判定で数えています。照合なしには照合カードが無いので、LLMの返事の文章から判定を取り出して数えています。

照合なしで起きたこと

なぜこれほど差が出たのか。たとえば見積書の「ノートPC」で、次のことが起きました。

  1. LLMは、見積書の書き方のまま「品目名が『ノートPC』と完全に同じもの」をマスタから探した(name = 'ノートPC')
  2. マスタの品目名は「ノートパソコン」なので、1件も見つからない
  3. LLMは「マスタに存在しません」と答えたうえで、新規品目コード1 のような、マスタに無い品目コードを自分で作って承認カードに入れた

② 照合の処理は表記をそろえてからスコアで探すので、同じ「ノートPC」から M-0005 ノートパソコンを見つけられます。

引き換えに増えたもの

項目 完成形 照合なし
LLMの呼び出し(1回の試行の平均) 6〜7回 約4.6回
人が押すボタン 「確認した」と「承認」の2回 「承認」の1回

この結果にたどり着くまで、最初から照合やカード作成をコードにしていたわけではありません。最初はLLMにすべて任せており、そこから判定、一覧の作成、カードの表示と、問題が起きた処理を少しずつコードに移していきました。次に、その過程で何が起きたのかを紹介します。

4. この形になるまで(失敗の経緯)

段階の名前

段階 判定 照合結果の一覧を作る 人に見せるもの
段階0:照合なし 発注エージェント(LLM) なし LLMの返事
段階1:LLMが判定 照合エージェントのLLM 照合エージェントのLLM LLMの返事
段階2:判定をコードに コード 照合エージェントのLLM LLMの返事
段階3:一覧もコードに コード コード LLMの返事
段階4:カードもコードに(完成形) コード コード コードが作ったカード

段階1から、候補を探してスコアを付けるのはコード(② 照合の処理)です。段階1〜3では、照合エージェントのLLMが判定や一覧の作成もしていました。

前編の説明との対応は次のとおりです。段階1の「候補を探してスコアを付ける」は前編の2-1の前半、段階2で入れた判定は前編の2-1の judge、段階4で入れたものはこの記事の2-2と2-3です。段階4が、前編の「1. 完成形」で見せた形です。

段階1:LLMが判定していた

見積書 判定の一致:段階1 判定の一致:段階0(項目名を教えていない条件)
A 35/35 16/35
F 25/25 7/25
G 29/35 13/35

段階0より大きく良くなりましたが、Gで誤りが残りました。

  • 本社と大阪支店を決められないのに、本社に「確定」した(5回中5回)
  • マスタに無い品目で、品目コードの欄に「なし」という文字を入れた(5回中5回)
  • 同じ単位の2行を、1行にまとめた(5回中1回)

失敗:プロンプトを足しても直らなかった

変えたこと:Gの誤りを直すために、照合の結果に「同じ名前の候補が複数ある」ことを書き足し、プロンプト(LLMへの指示文)にも「品目コードに『なし』を入れない」などの注意書きを足しました。

結果:

  • Gの「なし」は5回中5回のままで、直りませんでした
  • それどころか、それまで5回とも全問正解だった見積書Aで、誤りが出ました(35/35から31/35)。Aのための変更はしていません
  • LLMの呼び出しが、Aで12回から18回に増えました(全体の平均)

照合エージェントに同じ依頼を直接送ると、「スコア0.88を確定」「スコア1.00を要確認」のように、ルールと逆の判定もしました。プロンプトで直そうとすると、変えるたびに全部のテストをやり直す必要があります。

段階2:判定をコードにした

変えたこと:判定を、前編の2-1で説明したルール(judge)でコードが決めるようにしました。該当なしのときは値の欄を空にしました。写す文字が無ければ、写しようがないからです。

結果:Gの判定の一致は34/35になり、承認カードに入ったマスタに無い値は0になりました。

段階3:照合結果の一覧もコードにした

変更前の問題:照合結果は、承認カードに届くまでに、LLMの手を3回通っていました。

  1. 照合エージェントのLLMが、照合結果の一覧を作る
  2. 発注エージェントが、その一覧を返事の文章に書き直す
  3. 発注エージェントが、会話の内容から登録の引数を作る

変えたこと:1をコードにしました。

結果:LLMの呼び出しは全体の平均でAが12回から6回、Gが18回から6回に減りました。ただ、判定の一致はいったんA・Gとも25/35に下がりました。発注エージェントが2で一覧を省き、要確認の項目だけを見せるようになったためです。プロンプトを強めても、Aは31/35、Gは33/35で止まりました。

段階4:人に見せるものもコードにした

変えたこと:2の書き写しを人に見せないため、照合番号と照合カード・承認カード(2-2)、登録を止める処理(2-3)を入れました。

結果:Gの判定の一致の移り変わりです。

段階 G
段階1 29/35
段階2 34/35
段階3 33/35
段階4 35/35

段階1〜3は、LLMの返事の文章から判定を取り出して数えました。段階4は、照合カードに出た判定で数えています。

良くなったように見えて、別の場所で下がることがありました。1か所だけ見ていたら気づけなかったので、変えたら、直したい見積書だけでなくA・F・Gをまとめて流して確かめるようにしました。

5. コードにできた範囲と、残っていること

コードにできた範囲

  • 照合の判定(確定・要確認・該当なし)
  • 照合カード・承認カードの中身
  • 照合カードを確認していないときに、登録を止めること

まだLLMや人に頼っている範囲

  • 登録の引数は今もLLMが作ります。その代わり、コードが中身を承認カードに見せ、人が確かめ、サーバーがチェックします
  • 承認カードの値が照合結果と同じかは、コードでは確かめていません。人が回答で値を変えることがあるので、人が見比べます
  • 要確認の項目でどの候補を推すかは、コードでは決めていません(いちばんスコアの高い候補を出すだけ)。最後は人が決めます
  • カードが出るのは、今回作ったチャット画面だけです

環境

項目 内容
CAP Node.js、@sap/cds 10、@cap-js/agents 0.9.7
発注データとマスタ SAPのABAPローカル環境(単位マスタはCAP側)
LLM OpenAI gpt-4o-mini
動作確認 ローカルとBTPのトライアル環境

感想

  • 最初は「プロンプトをもっとうまく書けば直る」と考えていましたが、プロンプトを足すと別の場所が壊れました。
  • 判定をコードにしてから振り返ると、そもそもLLMに頼む必要のない処理でした。
  • CAPとLLMの関係の記事では、LLMの担当を「読み取り・判断・文章化」と書きました。判断の中でもルールで決まるもの(判定)と、文章化の中でも人に見せる確認の内容は、コードの担当でした。
  • 以前、コンサルから「現状のLLMにチェックを任せるのではなく、コードでチェックした方がよい」と聞いていました。今回の検証を通じて、その意味を実感できました。
  • LLMを使わなくなったのではなく、LLMが得意なところに絞れたのだと感じています。

前編:全体像と照合ロジック

0
0
0

Register as a new user and use Qiita more conveniently

  1. You get articles that match your needs
  2. You can efficiently read back useful information
  3. You can use dark theme
What you can do with signing up
0
0

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?