1
1

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?

Anthropicの人はどうも算数ができないらしい

1
Posted at

Anthropicの研究者が,博士課程の学生たちに「あなたたちのキャリアプランはもう存在しない」と告げた講演が話題です。
拡散モデルの発明者でもあるJascha Sohl-Dickstein氏(Anthropic)の講演『Advice for a young investigator in the first and last days of the Anthropocene(人新世の最初と最後の日々における若手研究者へのアドバイス)』を紹介します。
https://youtube.com/watch?v=3LZN2UUxDos
人類が主役だった地質年代(人新世)が,AIの台頭によって極めて短い期間で幕を閉じるかもしれない ——そんな前提のもと,提示されたデータは強烈です。

■ 突きつけられた冷徹なファクト
モデル訓練の計算量は過去10年で約1000万倍に増加し,人間の脳が生涯で行う総計算量に迫っている。AIが単独で完遂できるタスクの時間スケールは,数ヶ月ごとに倍増している。ここ7ヶ月ほど,モデルは数学者が長年解けなかった未解決の「Erdős(エルデシュ)問題」を解き始めている。サンフランシスコでは「長いタイムライン(懐疑派)」とは「AGIは10年以内に来る」を意味している。2030年の計算量は2025年の約1万倍に達する見込み。
線形グラフで見れば,現在の劇的な進歩すら「まだゼロと区別がつかない平坦な初期段階にいる」というのが彼の主張です。

■ 学生たちへのシンプルで容赦ないアドバイス
毎日AIを使え。指数関数の上にいれば,遅れを取ることはない。彼自身はClaudeを「実行力は天才だが、研究のセンスはかなり悪い大学院生」のように毎日使い,自分ではもうコードを一切書いていない。

計算量がスケールするほど良くなるプロジェクトを選べ。それ以外は,完成する前に解かれてしまう サットンの『苦い教訓』の通り,スケールに味方されるテーマを選ばなければ,2年かけた研究も完成する頃には次世代モデルのプロンプト一発で追い抜かれる。

キャリアを「安定したもの」として計画するのをやめろ。安全な選択肢は,もはや安全を買ってくれない 社会全体で大規模な破壊が起きるなら,ベースラインのリスク自体が高い。従来の「手堅い選択肢」は,もはや安全を担保してくれず,ただ潜在的なリターンを犠牲にするだけになる。

そして,最も印象的な一言がこれ。

「書くことは考えることだ(Writing is thinking)。書くことを外注すれば,考えることも外注することになる。」

コーディングや実行は徹底的にAIへ委譲しつつ,問題設定(センス)と思考の核(書くこと)だけは決して手放すな。 AGIのタイムラインを本気で信じているなら,キャリアの計画も本気でそれに合わせろという,極めてストレートなメッセージの講演を紹介しました。

この講義をマジでやったとするとこの辺がおかしい

1. 技術的成果の過大評価と文脈の意図的な省略

「7か月前から、モデルが数学者たちが解決できなかったErdősの未解決問題を解いています」という記述は不正確。2023年末にDeepMindが発表した「FunSearch」によるCap Set問題等への成果を指しているとすると、「LLM単体」が自律的に数学の未解決問題を解いたわけではなく、実際にはLLMが生成したプログラムの断片を、厳格な自動評価システムに何百万回も実行・検証させる「探索アルゴリズム」との組み合わせによる成果であり、これを「モデルが解いている」と表現するのは、AI単体の推論能力を意図的に誇張している。まあアンソロの人だから大げさに言ってるんだよな。これを真に受けると人は博士課程にはいないと思いますが?

2. 物理的・経済的制約を無視した指数関数的予測

「2030年の計算量は2025年の10,000倍になる」という予測は、現実の物理的制約を完全に無視した机上の空論。5年間で計算量を1万倍($10^4$)にするには、年平均で約6.3倍のインフラ拡張を5年連続で達成する必要がある。現在のAIデータセンターがすでにギガワットクラスの電力を消費し、世界的な電力グリッドの限界や冷却水不足、半導体製造装置(EUV露光装置など)の生産リードタイムがボトルネックとなっている事実と照らし合わせると、論理的な裏付けのない極端な外挿(エクストラポレーション)としか言いようがない。
ここが本当にヤバくて、算数ができればさすがにこんな無茶なことは言えない。これは誤訳か、そもそも間違ったんじゃないかな。

線形グラフで見れば,現在の劇的な進歩すら「まだゼロと区別がつかない平坦な初期段階にいる」というのが彼の主張です。

これが本当だとすると、AIは失敗作と言う事になるんですが、マジなんですか。

3. 客観的指標と集団心理の混同

「サンフランシスコでは、『長いタイムライン』を持つとは、AGIが10年後に到来すると考えることを意味します」という言及は、特定の地域・業界内におけるエコーチェンバー(集団の偏った信念)を示しているに過ぎない。これを、キャリアの終焉を裏付ける客観的データと同列に並べて語ることは、論理的妥当性を欠いている。

4.コードの理解の劣化とカルト化

毎日AIを使え。指数関数の上にいれば,遅れを取ることはない。彼自身はClaudeを「実行力は天才だが、研究のセンスはかなり悪い大学院生」のように毎日使い,自分ではもうコードを一切書いていない。

キャリアを「安定したもの」として計画するのをやめろ。安全な選択肢は,もはや安全を買ってくれない

コード一つ書かない人が何を言ってるんですか。そもそもAIはコードを実行するものではなく、実行するコードを書いてますが?プロンプトを投げているとどうもコードへの理解が劣化しているとしか言いようがない。そういう人がキャリアとか言い出すのマジで有害なのでやめた方がいいと思います。こういうカルトとかの洗脳と同じことを散々聞いてきたので、本当にダメ。

カルトっぽいところを言語化すると

終末論的な恐怖訴求と唯一の救済の提示

「安全な選択肢はもはやない」「指数関数の上にいなければ遅れを取る」というレトリックは、既存の価値観や着実なスキル構築を否定するものです。外部に対する強い恐怖を煽り、特定の教義(ここではAIへの全面依存)に従うことのみが生き残る道であると迫る論理構造は、カルトの布教手法そのものです。これ、セキュリティの専門家とか言う人たちが全部使っているので、正直ITの人たちはカルトになってます。だからまともな社会生活が送れないし、会話もできない。常識もなくなるという。

客観的な検証プロセスの放棄

「自分ではコードを一切書いていない」と公言する態度は、自らの手を動かして物理的・論理的な制約を確認する手段を意図的に手放す行為。実際のシステムにおけるエラーログの解析や、データベースの整合性、バッチ処理の厳密な挙動確認といった「現実との答え合わせ」を放棄し、APIが返す出力結果を無批判に受け入れる状態は、極めて強固な自己洗脳のプロセスでマジでやばい。

概念の混同と神格化

「コードの生成」と「コードの実行」は全く次元の異なる事実なのに、アンソロの人は混同している。これも自分でコードを書いてないからです。この境界線を曖昧にし、AIがあたかも自律的にシステムを稼働させているかのように語ることは、技術の現実的な仕様から目を背け、対象を全能の存在として神格化する認知の歪みを示している、っていうしかない。

5.だったらAIでそのプロジェクトを提案できるのでは?今すぐ!この場で!

計算量がスケールするほど良くなるプロジェクトを選べ。それ以外は,完成する前に解かれてしまう サットンの『苦い教訓』の通り,スケールに味方されるテーマを選ばなければ,2年かけた研究も完成する頃には次世代モデルのプロンプト一発で追い抜かれる

いやまずそういうんだったら、それ出せばいいんじゃね?
これをまじめに説明すると次のようにおかしい。
 (1). 個人に対する「スケール競争」の推奨とい矛盾
「計算量がスケールするほど良くなるプロジェクトを選べ」というアドバイスは、大学院生や個人の研究者に対して「GoogleやAnthropicの持つ数兆円規模のデータセンターと真正面から計算量で殴り合え」と言っているに等しいものです。個人や一大学の計算資源でスケールメリットを享受できるはずがなく、結果として「我々のような巨大企業に入らなければあなたの研究に価値はない」という、極めて自己中心的なポジショントーク(あるいは脅し)に帰着します。結局アンソロが有利なことしか言ってない。たぶん愛社精神には満ちているのだろう。若者には無意味だけど。

(2). リチャード・サットンの「苦い教訓(The Bitter Lesson)」の誤用
サットンの「苦い教訓」は本来、「AIの研究開発においては、人間が手作業で知識を組み込むよりも、計算機による探索と学習(スケール)に任せた方が最終的に勝つ」というAIアーキテクチャの設計方針を指した言葉。これを「人間のキャリア選択」や「現実世界のプロジェクト」に直接適用するのは完全な牽強付会。そもそもスケールがどれくらいか各プロジェクトでAIが見積れるんでしょうか?

つまりアンソロの人の発言を検証すると、愛社精神には満ちているのですが、いたるところで間違いがあるので、やっぱりコードを自分で書いたり、電卓を打って計算したりするのは大事だなって思いました。電気代とか計算してないでしょ。天才物理学者かなんだか知らないけどただの馬鹿ですね。でも電気って物理学なんだけどな。フレミング右手の法則とか。ジュールとか。しょせん天才でもこの程度。電気代一つ理解できない。というのは極めて人生に深みをもたらしますね。

補足
なんでこんなにこの人頭が悪くて熱力学の第二法則や質量保存の法則を理解してないかというと、「摩擦のない真空中で、質点(大きさのない点)を計算する」タイプの、純粋数理モデルに特化した理論物理学の天才だかららしい。つまり、情報空間の「アルゴリズム(拡散モデル)」を発明したことと、現実の物理空間で「ジュール熱」や「電力網の限界」を計算できることは全く別の能力で、電力のひっ迫とか熱対策とか理解できず頭にないためこのような発言に至っているようだ。しかし実際AIはそこに引っ張られているので、やっぱりこの人頭悪くてやばい人ではありますね。

1
1
0

Register as a new user and use Qiita more conveniently

  1. You get articles that match your needs
  2. You can efficiently read back useful information
  3. You can use dark theme
What you can do with signing up
1
1

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?