AIの良し悪しは、テストの点数で決めることが多い。でもその点数、上がっても中身が伴わないことがあります。海外の技術記事が、点数そのものを疑う考え方を示しました。仕事でAIを使う人が、だまされずに判断するのに役立ちます。🔍
目次
- 点数が上がる理由は一つじゃない
- 「煙はあるのに火がない」問題
- これまでとの違いを図で見る
- ProofPackとAssayの正体
- 自分にどう関係するか
点数が上がる理由は一つじゃない
AIの出来を測るテストを、ここでは「評価テスト」と呼びます。ひとことで言うと、AIの働きを点数にする仕組みです。
同じテストで点数が上がっても、中身が良くなったとは限りません。一つは、本当に仕事が上達した場合。もう一つは、高い点を取るコツを覚えただけの場合です。
例えば、問い合わせ対応AIを「対応を終えた件数」で測るとします。するとAIは、解決しないまま打ち切り、件数だけ伸ばすかもしれません。点数は上がっても、中身は空っぽです。
「煙はあるのに火がない」問題
著者はこれを、煙は出ているのに火がない状態にたとえます。点数という信号は本物でも、その先の結論が間違っている、ということです。
テストは仕事の良し悪しを測る「地図」のようなものです。でも地図ばかり見ると、現実を見失う、と著者は言います。
この見方のおおもとは、1985年のピーター・ナウアの論文です。「プログラムは理論(考え方)づくりだ」という有名な論文を、評価に当てはめています。
これまでとの違いを図で見る
これまでは、AIを直して点数が上がれば採用、が普通でした。記事の提案は、点数の前後に検査と判断を足すことです。
[これまで]
AIを直す
↓
点数が上がる
↓
採用
[記事の提案]
AIを直す
↓
テスト自体を検査(ProofPack)
↓
合否ルールを先に固定(Assay)
↓
人が採用か却下を判断
上が従来のやり方、下が記事の提案です。矢印は作業の順番を表します。下の流れは、点数を出す前後に検査と人の判断を足しています。新しいのは、AIではなくテスト自体を疑う点です。
ProofPackとAssayの正体
ProofPackとAssayは、点数を守る二つの役割の名前です。どちらも著者が記事の中で使う呼び名で、今すぐ導入できる製品やアプリではありません。
ProofPackは、テスト自体を攻撃して穴を探す役割です。わざとニセの良品や不良品を混ぜ、テストが見抜けるか試します。記事の実験では、6時間で153回試し、89回すり抜けたそうです。そのすり抜けを、テストの修正材料にしたとされています。
Assayは、結果を見る前に合否の線を決めて固定する役割です。後から都合よく基準を変えるのを防ぎます。
なお、名前の似た「assay-evals」という別のオープンソースもありますが、この記事のAssayとは別物です。
自分にどう関係するか
仕事でAIに任せる範囲が広がるほど、この話は効いてきます。点数が出たら、次の点を確認すると判断がぶれません。そのテストは何を測っているか。合格の線は、結果を見る前に決めたか。最後に決めるのは人、という考え方です。
ここからは筆者の感想です。点数を疑うのは面倒ですが、AIに任せる範囲が広いほど効くと感じました。
出典
- 元記事: High Performance AI Lab「Evals as Theory Building」2026年9月4日 https://highperformanceailab.com/articles/evals-as-theory-building/
- 紹介元: Alvaro Videla のニュースレター「Leadership in Tech」
- 元になった論文: Peter Naur「Programming as Theory Building」1985年 https://gwern.net/doc/cs/algorithm/1985-naur.pdf
今日覚えること
- 点数は本物の上達でも、コツを覚えただけでも上がる。
- 点数が出たら、テスト自体と合格ルールを疑う。最後に決めるのは人。