0
0

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?

3案を並べても間違いは見つからない。潰す役を1体足したら1案落ちた

0
Posted at

設問671本をどう直すか決めるのに、AI エージェントを5体使いました。観点3 + 反証1 + 統合1 です。

上限5体という制約から出た形ですが、結果として無駄がありませんでした。独立に案を出させるだけでは足りません。潰す役が要ります。

反証役が1案を落とした

3案のうち1つが落ちました。理由がこれです。

自分が最も強く要求した検証を、自分の主軸の数字でやっていない(母数と部分集合を取り違えていた)

3案を並べて眺めるだけでは、この誤りは見つかりませんでした。読む側の私も気づきませんでした。

反証役への指示はこう書きました。

  • 賛成するために読むな
  • 「これは実行したら失敗する」と言えるところを探せ
  • 数字を自分で確かめずに引用していないか疑え

いちばん効いたのは「3案とも共有していた前提」

3案とも、測った指標と、指摘された問題が同じものだと暗黙に仮定していました。 反証役だけがそこを突きました。

実際に運営者へ聞いたら、挙がったのは別の2つでした。主軸に据えていた指標だけを直していたら、的を外していたことになります。

観点を分けても、前提は揃ってしまいます。 独立性は観点にしか効きません。

統合役に折衷案を作らせない

統合役には「反証で潰れた主張は捨てろ」と明示しました。

折衷を許すと、潰れたはずの案が薄まった形で復活します。「両方のいいとこ取り」は、否定された根拠を無効化しません。

全員に同じ実データを先に渡す

各エージェントに自分で集計させると、同じものを何度も数え直すうえに数字がずれます。先に検査結果をファイルへ落として全員に読ませました。

そのうえで「数字は必ず自分で走らせて得たものを書け。推測値を書くな」と指示しました。

それでも1体は自前の再集計を外しました。レポートが完全に再現できるので、外れているのはそのエージェントの方だと反証役が判定できました。 共通の実データがあると、誰が間違えたかまで決まります。

渡した前提そのものの誤りも出た

反証役が、こちらが渡した実データの誤りを2箇所指摘しました。 どちらも本当に誤っていました。

「渡された前提を疑え」と書いておくと、自分のミスも拾えます。

「聞くべきこと」を出力の必須項目にする

統合役の出力に open_question(運営者に判断を仰ぐべき点)を必須で入れさせました。

結果、**「分かりづらいと感じたのは具体的にどれか、10分聞けば方向が決まる」**という提案が出ました。4〜70時間を賭ける前に効きます。

3案とも運営者の一言を出発点にしていたのに、運営者にもう一度聞くことを誰も提案していませんでした。 項目として要求しないと出てきません。

分担表を手で書き写して4分の1を間違えた

これは私の失敗です。

116か所を5体へ配るとき、集計スクリプトが出した割り当てを自分で JSON へ書き写しました。 結果、28か所(4分の1)の名前を取り違えました。 存在しない名前を渡し、実在する28か所を渡し忘れていました。

起動直後に実データと突き合わせて気づき、編集が1件も入る前に止められました。

対処は3つです。

  • 渡した一覧と生成元を機械で差分するのを、起動後すぐの手順にする
  • 名前はファイルの実在まで確かめてから渡す(スクリプトに assert を追加)
  • 書き写しが要る形をやめる。 生成した文字列をそのまま貼れる形に変えた

原因は「手で書き写す工程があったこと」そのものでした。

型を先に文書へ固定してから配る

390本の書き直しを配る前に、先に自分で76本を直し、その型を文書に書きました。 良い例・悪い例・触ってはいけないものまで。

分担でいちばん壊れるのは基準のぶれです。人数分の流儀ができると、揃っていない状態より悪くなります。

機械の検査を門にしつつ、書き方の型は文書で渡す。あわせて「検査を緩めて通すな。厳しすぎると感じたら直さずに報告に書け」も明示しました。門を自分で下げられる状態にしない。

全員が同じ穴に落ちたら、それは渡し方の欠落

動画の6カットを1体1カットで組ませたら、全員が「書体ファイルが無い」という同じ穴に当たり、4通りの別々の解決をしました。素の書体名を書く、別プロジェクトのフォントを埋め込む、ネットから取得する。

担当の報告に「指示と食い違った点」を必ず書かせていたので気づけました。

全員が同じ点を挙げたら、担当のせいではなく渡し方の欠落です。

次の回で前回の失敗4つを指示に入れたら、その4つは1件も再発しませんでした。 ただし塞いだ分だけ次の穴が見えます。今度は別の落とし穴に3体が独立に落ちていました。

報告を書かせ続けることが、次に渡すべきことの入口になります。

まとめ

  • 案を並べるだけでは足りない。潰す役を独立に立てる
  • 観点を分けても前提は揃う。 共有された前提を突けるのは反証役だけ
  • 統合役に折衷させない。 潰れた案は薄めて復活する
  • 同じ実データを先に配る。 誰が間違えたかまで決まる
  • 渡した前提を疑わせる。 自分のミスが拾える
  • 「聞くべきこと」を必須項目にする。 要求しないと出てこない
  • 手で書き写す工程を作らない。 4分の1を間違えた
  • 全員が同じ穴に落ちたら、渡し方の問題

デスクトップで動く AI エージェント Wisp を作っています。話しかけると答えて、頼めばコマンドも実行します。実行の前に、何をするかを必ず出して許可を取ります。

0
0
0

Register as a new user and use Qiita more conveniently

  1. You get articles that match your needs
  2. You can efficiently read back useful information
  3. You can use dark theme
What you can do with signing up
0
0

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?