設問671本をどう直すか決めるのに、AI エージェントを5体使いました。観点3 + 反証1 + 統合1 です。
上限5体という制約から出た形ですが、結果として無駄がありませんでした。独立に案を出させるだけでは足りません。潰す役が要ります。
反証役が1案を落とした
3案のうち1つが落ちました。理由がこれです。
自分が最も強く要求した検証を、自分の主軸の数字でやっていない(母数と部分集合を取り違えていた)
3案を並べて眺めるだけでは、この誤りは見つかりませんでした。読む側の私も気づきませんでした。
反証役への指示はこう書きました。
- 賛成するために読むな
- 「これは実行したら失敗する」と言えるところを探せ
- 数字を自分で確かめずに引用していないか疑え
いちばん効いたのは「3案とも共有していた前提」
3案とも、測った指標と、指摘された問題が同じものだと暗黙に仮定していました。 反証役だけがそこを突きました。
実際に運営者へ聞いたら、挙がったのは別の2つでした。主軸に据えていた指標だけを直していたら、的を外していたことになります。
観点を分けても、前提は揃ってしまいます。 独立性は観点にしか効きません。
統合役に折衷案を作らせない
統合役には「反証で潰れた主張は捨てろ」と明示しました。
折衷を許すと、潰れたはずの案が薄まった形で復活します。「両方のいいとこ取り」は、否定された根拠を無効化しません。
全員に同じ実データを先に渡す
各エージェントに自分で集計させると、同じものを何度も数え直すうえに数字がずれます。先に検査結果をファイルへ落として全員に読ませました。
そのうえで「数字は必ず自分で走らせて得たものを書け。推測値を書くな」と指示しました。
それでも1体は自前の再集計を外しました。レポートが完全に再現できるので、外れているのはそのエージェントの方だと反証役が判定できました。 共通の実データがあると、誰が間違えたかまで決まります。
渡した前提そのものの誤りも出た
反証役が、こちらが渡した実データの誤りを2箇所指摘しました。 どちらも本当に誤っていました。
「渡された前提を疑え」と書いておくと、自分のミスも拾えます。
「聞くべきこと」を出力の必須項目にする
統合役の出力に open_question(運営者に判断を仰ぐべき点)を必須で入れさせました。
結果、**「分かりづらいと感じたのは具体的にどれか、10分聞けば方向が決まる」**という提案が出ました。4〜70時間を賭ける前に効きます。
3案とも運営者の一言を出発点にしていたのに、運営者にもう一度聞くことを誰も提案していませんでした。 項目として要求しないと出てきません。
分担表を手で書き写して4分の1を間違えた
これは私の失敗です。
116か所を5体へ配るとき、集計スクリプトが出した割り当てを自分で JSON へ書き写しました。 結果、28か所(4分の1)の名前を取り違えました。 存在しない名前を渡し、実在する28か所を渡し忘れていました。
起動直後に実データと突き合わせて気づき、編集が1件も入る前に止められました。
対処は3つです。
- 渡した一覧と生成元を機械で差分するのを、起動後すぐの手順にする
- 名前はファイルの実在まで確かめてから渡す(スクリプトに
assertを追加) - 書き写しが要る形をやめる。 生成した文字列をそのまま貼れる形に変えた
原因は「手で書き写す工程があったこと」そのものでした。
型を先に文書へ固定してから配る
390本の書き直しを配る前に、先に自分で76本を直し、その型を文書に書きました。 良い例・悪い例・触ってはいけないものまで。
分担でいちばん壊れるのは基準のぶれです。人数分の流儀ができると、揃っていない状態より悪くなります。
機械の検査を門にしつつ、書き方の型は文書で渡す。あわせて「検査を緩めて通すな。厳しすぎると感じたら直さずに報告に書け」も明示しました。門を自分で下げられる状態にしない。
全員が同じ穴に落ちたら、それは渡し方の欠落
動画の6カットを1体1カットで組ませたら、全員が「書体ファイルが無い」という同じ穴に当たり、4通りの別々の解決をしました。素の書体名を書く、別プロジェクトのフォントを埋め込む、ネットから取得する。
担当の報告に「指示と食い違った点」を必ず書かせていたので気づけました。
全員が同じ点を挙げたら、担当のせいではなく渡し方の欠落です。
次の回で前回の失敗4つを指示に入れたら、その4つは1件も再発しませんでした。 ただし塞いだ分だけ次の穴が見えます。今度は別の落とし穴に3体が独立に落ちていました。
報告を書かせ続けることが、次に渡すべきことの入口になります。
まとめ
- 案を並べるだけでは足りない。潰す役を独立に立てる
- 観点を分けても前提は揃う。 共有された前提を突けるのは反証役だけ
- 統合役に折衷させない。 潰れた案は薄めて復活する
- 同じ実データを先に配る。 誰が間違えたかまで決まる
- 渡した前提を疑わせる。 自分のミスが拾える
- 「聞くべきこと」を必須項目にする。 要求しないと出てこない
- 手で書き写す工程を作らない。 4分の1を間違えた
- 全員が同じ穴に落ちたら、渡し方の問題
デスクトップで動く AI エージェント Wisp を作っています。話しかけると答えて、頼めばコマンドも実行します。実行の前に、何をするかを必ず出して許可を取ります。