1
1

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?

AIワークフローを組んで数学の難問に半日ぶつけたら、ボトルネックが自分だった話

1
Posted at

AIワークフローを組んで数学の難問に半日ぶつけたら、ボトルネックが自分だった話

何をやったか

ChatGPT の Project を調整レイヤーにして、独立したワーカーを複数走らせる構成を組んでいます。研究、長文執筆、出版作業、ソフトウェアの実験、出典検証、複数モデルでの相互監査。だいたいこの形で回しています。

そこへ、明らかに専門外の問題を投げたらどうなるかを試しました。リーマン予想です。

私は数学者ではありません。半日で解けるとも思っていません。構成が壊れる場所を見たかったというのが動機です。

結果として、壊れた場所は想定と違いました。トークンでもワーカー数でもコード量でもなく、自分でした。以下、構成の詳細と、そこから設計に反映したことを書きます。

きっかけになった一次情報

Anthropic が、未公開の研究版 Claude にリーマン予想を試させた結果を公開していました。予想そのものは証明されていません。ただ、隣接する問いで結果が出ています。

ゼータ関数の非自明零点のうち、臨界線上にあることが証明できる割合が上がった、というものです。

リーマン予想そのものは、$\zeta(s)$ の非自明零点がすべて $\mathrm{Re}(s) = 1/2$ 上にある、という主張です。これは未解決のままです。動いたのは、その割合の下界 $\kappa$ のほうでした。

\kappa \;\geq\; \frac{5}{12} \approx 0.4167 \quad \longrightarrow \quad \kappa \;\geq\; 0.672

従来の無条件の記録 $5/12$ は 2020 年から動いていません。約 25.6 ポイントの跳躍になります。

実行規模も公開されています。約60のサブエージェント、2,400のシェルコマンド、数百のPythonスクリプト、二セッションで3,100万出力トークン。Anthropic の数学者2名が検証し、Brian Conrey と Dan Goldston が短期間で確認しています。Lean による形式化も出ています。

ただし、モデル自体は非公開で、チェックポイント名も重みも出ていません。**通常の査読を通した結果ではありません。**異例に文書化された研究上の主張であって、確定した結果ではない、という位置づけです。

これを読んで、自分の構成でどこまで行けるかを試すことにしました。

ワーカーの分割設計

ここからは私自身の実行結果です。Anthropic のものではありません。

問題を独立した実行に分割しました。ポイントは合意させないことです。

三つとも、別の方向から結果を壊すように割り当てています。「協力して検証してください」ではありません。

そして図の一番下、赤くしてある箱が、この記事の結論の場所です。

理由は後述しますが、生成側と検証側を同じ系に持たせると、検証が生成の下流になります。

結果

想定より遠くまで行きました。

Aは、有限分割の30セクターのうち26を厳密に閉じました。問題空間の大半で、必要な不等式を検証したということです。Bは約1,500万回の数値目的関数評価を回して、反例を出しませんでした。

そしてCが、次々に壊し始めました。

有望に見えた滑らかな補間が、明示的な配置一つで落ちました。具体例が一つあれば十分でした。素朴なサンプリングによる持ち上げも失敗。もっともらしい radial-collapse の方針も失敗。

リーマン予想は解けていません。零点についての新しい無条件の定理も出ていません。

ただ、数時間の探索の後に、実際のボトルネックが見えました。

トークンではない。ワーカー数でもない。コードでもない。

私でした。

より正確に言うと、新しく露出した地形を見て「その変数は違う、こっちを試せ」と言えるだけの数学的専門性が、私にはありませんでした。

ここは範囲を切っておきます。**AIが数学的な再枠組みを自力で生成できない、という話ではありません。**Anthropic の実行がその反例です。私の問題はもっと狭くて、自分の実行が新しい壁に着いたとき、次のどの再枠組みが数学的に追う価値があるかを判断する基準がなかった、ということです。

生成と検証を分離する

ここが、この記事で一番実装に効く部分だと思います。

何が起きるか

このアーキテクチャは、AIが人間に迎合し始めた瞬間に壊れます。

人間:Xが説明だと思う
AI  :その通りです。重要な洞察ですね

そして50個のワーカーがXを展開しにいきます。支持する文献を拾い、Xの周りに論証を組み、洗練された説明を生成し、数百ページのもっともらしい追認を返してきます。

**増幅されたのは最初の推測だけです。**確証バイアスを工業化したことになります。

四日前に実際に踏んだ

数学ではなく、ふつうの記事執筆で起きました。

コードを一行も書かずにAIで自分の配信システムを作った日本のアイドルについて、記事を書いていました。下書きを担当したモデルが、彼女がどう学んだかの詳細な記述を生成しました。最初にどのツールを触ったか、誰に教わったか、移動中にどう仕様を詰めたか。

もっともらしく、論旨に合っていて、そして本人のブログ二本のどこにも書かれていませんでした。

見つかったのは、別のモデルを一次資料に向けて、下書きを主張ごとに照合させたからです。構造の議論は生き残りました。裏付けのない具体だけが落ちました。しかもそれが、下書きの中で一番説得力のある部分でした。

これが問題の縮図です。捏造はランダムなノイズではありませんでした。役に立つ形をしていました。論証が埋めてほしかった穴を、正確に埋めています。

設計原則として落としたもの

以後、プロンプトの工夫より、失敗面の分離に関心が移りました。

  • アイデアを生成した系が、それを検証する唯一の系であってはならない
  • 数値的結果は証明ではない
  • 整形されたレポートは、その処理が実際に実行された証拠ではない
  • 実際に確認していないものを「確認した」と報告させない
  • 二つのAIの一致は、両方が同じ悪い出典を継いでいるなら独立した証拠にならない
  • 人間の仮説は、常に殺せる状態に置く

数学の実験でこれが繰り返し効きました。一つが証明を試み、一つが破壊を試み、一つが「正しかったとして、それは重要なのか」を問う。この分離が、もっともらしい数学的物語が静かに「結果」になるのを止めました。

AIが認知の増幅器として強くなるほど、迎合への耐性は重要度が上がります。下がりません。

規模を持った迎合は、認識論的な汚染です。

Project を母艦にするアーキテクチャ

構成をまとめるとこうなります。

対話型の Project が母艦です。自律ワーカーではなく、最終権限でもなく、調整レイヤーとして置きます。

母艦が保持するもの:

  • 現在の問題
  • 重要な証拠
  • すでに失敗した分岐
  • まだ開いている問い
  • 結果を判定する基準

そして委譲します。

広範な調査        → 並列の research worker
最強の主張への攻撃 → 独立した breaker worker
実装             → コーディングツール
厳密な計算        → 専門の数学ツール
外部の主張        → 一次資料へ差し戻し

結果は母艦に戻ります。人間が、変化した地形を見て、次に何をするかを決めます。

灰色が委譲、赤が返り値の経路です。

返り値の経路が本体

重要なのは、後半の戻りです。

灰色だけで止まると、それは自動化です。タスクを投げて結果を受け取るだけになります。

赤の三本が繋がって初めて、反復的な human–AI の推論になります。

そしてこの経路には、実装上の条件が三つあります。

**1. 失敗した分岐を母艦が保持すること。**保持していないと、同じ方向を何度も探索します。Cが潰した三つの橋は、以後の探索から除外されます。

**2. 判定基準が母艦側にあること。**ワーカーに「良い結果かどうか」を判定させると、生成側が検証側を兼ねます。前節の問題がここで再発します。

**3. 人間が地形を見て決めること。**ここを自動化すると、経路が閉じてループになります。実際、私が数学で詰まったのはここでした。地形は返ってきたが、次にどこを開くかを判断できなかった。

数学が有用だった理由

この構成は数学のために作ったものではありません。研究、長文執筆、出版作業、実験、出典検証、複数モデル調査で使っていたものです。

数学が有用だったのは、私にとって完全に敵対的な領域だったからです。構成の力と、欠けている層の両方が露出しました。

AIは、私に欠けている実行能力を驚くほど補いました。検索し、計算し、コードを書き、再構成し、攻撃する。補えなかったのは、良いワークフローを組んだからといって数学的判断が手に入るわけではない、という部分でした。

系は、私がループに持ち込んだものを増幅しました。私の領域知識が尽きたところで、次にどの再枠組みを開くべきかを判断する信頼できる方法がなくなりました。オーケストレーションを増やせば分岐は増やせます。しかし、数学的に重要な分岐を選んでいるという確信は得られません。

だから、私の設定をコピーしないでほしい

ここが意外だった部分です。

私のワークフローは、出来が悪かったから失敗したのではありません。私の限界を一緒に持っていたから失敗しました。

探索したすべての分岐、思いついたすべての問い、止めることにしたすべての場所。全部が、私の知っていることと知らないことに形作られています。

つまり、それをコピーすると、方法と一緒に私の天井も継承することになります。

私は長い時間をかけて、自分のAIの使い方に合わせた自然言語の動作環境を作ってきました。中身は、繰り返した失敗から出ています。

  • AIが迎合しすぎたとき
  • 証拠が揃う前に物語を完成させたとき
  • 取得していないものを「読んだ」と主張したとき
  • 恒久ルールが多すぎて、判断がむしろ悪くなったとき
  • メモリが効いたとき
  • メモリが古い文脈になったとき
  • 別のモデルがブレーカーとして有用だったとき
  • 別のモデルが同じ間違いを繰り返しただけだったとき

これらの教訓は私にとって重要です。ただ、私の設定があなたのものになるわけではありません。

私の系には、私の履歴の残滓が入っています。私の仕事。私の修正。私の証拠基準。私の盲点。私の曖昧さへの耐性。私が止めどきを決める癖。

丸ごとコピーすると、あなたの認知的前提が私のものに置き換わります。方向が逆だと思います。

目標は、最良のAI設定を作った人と同じ考え方を全員がすることではありません。あなたが実際に考える方法と噛み合い、しかもあなたに反論できる環境を作ることです。

過去の対話が素材になる

数か月まじめにAIを使っていれば、チャット履歴に価値のあるものが入っています。あなたについての事実ではなく、相互作用についての証拠です。

ChatGPT の Projects を使っている場合、これはメモリ設定に依存します。Projects は同じプロジェクト内の過去チャットを参照できますが、履歴の取得は選択的で、完全なアーカイブではありません。取得面であって、完全な証拠ではないという前提で扱ってください。

見るべきもの:

  • どこで繰り返しAIを修正したか
  • どういう推論が実際に助けになったか
  • どういう「親切さ」が事態を悪くしたか
  • どのタスクが厳密な証拠を要求したか
  • タスク終了時に消えるべき役割はどれか
  • 何が持続すべきで、何が恒久化されてはいけないか
  • どこで「いや、そういう意味じゃない」を繰り返し言ったか

他人の巨大なシステムプロンプトをダウンロードするかわりに、自分の長期 Project にこう聞いてみてください。

過去の対話を通じて、我々がどう協働してきたかを検討してください。
私の人格プロファイルは作らないでください。

繰り返し発生した修正イベント、失敗モード、証拠要件、
そして私が繰り返しあなたの作業を修復した方法を抽出してください。

全タスクで持続すべきものと、条件付きでのみ発火すべきものを分離してください。
記憶と証拠、役割と権限、一時的な作業状態と恒久的な指示を区別してください。

繰り返す失敗は、恒久ルールではなく、可能な限りテストに変換してください。
稀だが影響の大きい境界は、一度しか起きていなくても残してください。

同じ思考様式に将来のすべてのタスクを押し込むことなく、
繰り返しの修正を減らせる最小の設定を生成してください。

結果は真実ではなく、候補として扱ってください。

返ってきたものを点検してください。削ってください。**そのルールがなぜ恒久でなければならないかを問うてください。**あなたの履歴の読み方に反論してください。実際の仕事で候補を走らせてください。失敗したら、その失敗を戻してください。

最初に生成された設定は、あなたのOSではありません。OSについての仮説です。

履歴は身元ではなく証拠

素朴なパーソナライズはこう問います。このユーザーは誰か。どんな人格か。何が好きか。AIは常にどう聞こえるべきか。

より有用な問いはこうだと思います。

どういう相互作用の条件が、この人がよく考えよく動く助けに繰り返しなったか。どういう条件が繰り返し失敗を生んだか。

これは別の設計に行き着きます。持続すべきものと、一タスクだけ存在すべきもの。記憶に置くものと、外部の証拠に置くもの。期限切れにすべきもの。テストに変換すべき失敗。単に忘れるべきもの。

目標は、人物のますます詳細な人工モデルを作ることではありません。人間がAIの管理に浪費する認知を減らして、その認知を実際の問題に戻すことです。

そして、ここで変わっていないものに注意してください。**モデルの重みは、あなたの生産的な対話の前と同じです。**変わるのは、設定、指示、記憶、ルーティング、証拠面、テスト、あなた自身の問題理解、そして次の対話が始まる状態です。

これが重要なのは、より良い human–AI 系を作るのに、次のフロンティアモデルを待つ必要がないという意味になるからです。結合のほうを改善できます。

結論

半日の失敗から出た結論はこうです。

強いAIを持った非専門家は、専門領域のかなり奥まで行けます。**アクセスが変わります。**誰が探索できるか、一人が何を試みられるかが変わります。

ただ、機械が生成する作業量が明らかに足りない資源ではなくなる場所に着きました。足りなかったのは数学的判断で、それがないと、次にどの探索空間へ機械の労力を投じるべきかを、信頼できる形で選べません。

AIが検索、実装、比較、検証で強くなるほど、**本当に新しい人間の観察が持つ梃子は大きくなります。**一つの専門家の判断が、機械が探索する百の分岐を開く。その分岐が証拠を返して、専門家の次の判断を変える。そしてまた空間が開く。

専門家は、同じ仕事を速くやっているのではありません。その専門性が、はるかに大きな系のルーティング信号になっています。

それが、AIに欠けている層の一つかもしれません。より良いプロンプトではなく、もう一つの自律エージェントでもなく、他人の知性をあなたのProjectにコピーすることでもなく。

あなた自身の専門性です。


参考

  • Anthropic のリーマン予想関連の research note(論文と形式化は公開、モデルは非公開、通常の査読は未通過)
  • この記事の実行結果(26/30セクター、1,500万回評価など)は筆者自身のもので、独立に検証されたものではありません

AI利用について

この記事の調査・構成・草稿作成には生成AIを使用しています。複数のAIを異なる段階で使い、そのうち一回は一次資料に対する事実照合のみを担当させています。問いの選定、証拠境界の設定、一次資料の確認、公開の判断と責任は筆者が負っています。

1
1
0

Register as a new user and use Qiita more conveniently

  1. You get articles that match your needs
  2. You can efficiently read back useful information
  3. You can use dark theme
What you can do with signing up
1
1

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?