0
0

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?

「AIは真の知能を持つのか」という問いの立て方自体を疑ってみた

0
Posted at

TL;DR: 「AIは真の知能を持つのか」という問いにYes/Noで一括りに答えようとすると、たいてい行き詰まる。知能をどう操作的に定義するかが、そもそも定まっていないからだ。本稿では、著名なAI研究者の懐疑論を追いかけていた作業がその行き詰まりに突き当たり、「問いを分解して、それぞれを経験的に検証可能な形に変える」という迂回路にたどり着くまでの過程をそのまま記録する。分解してもなお決着しない対立点は残るが、少なくとも「何について意見が割れているのか」は見えるようになる。

問いの立て方の全体像

自社で運用しているAI記事収集システム(Mediumの技術記事を継続的に収集し、AIに評価させる仕組み)のコーパスを分析していたときのことだ。評価対象671本のうち、約半数がAIから「掲載見送り(SKIP)」判定を受けていた。その理由を分類ごとに見ていくと、「意見・分析(OPINION_ANALYSIS)」というカテゴリが最も多く、次に多かったのが「未検証の意見要約(UNVERIFIED_OPINION_SUMMARY)」だった。

出典: 自社記事収集システムのAI評価ログ、2189件中761件の評価済みレコードを集計

この中に、ヤン・ルカン(Yann LeCun)に言及した記事が複数含まれていた。見出しはどれも威勢がいい。「次のAIブレークスルーはあと2年」「AI業界は間違っている、とルカンが指摘」といった調子だ。ところがAIの評価コメントを読むと、判定理由は判で押したように同じだった。「著名人の発言を又聞き的に再構成し、断定的な予測に仕立てている」「一次情報の裏付けがない」。

正直に言うと、最初にこれを見たとき、頭をよぎったのは「じゃあ有名人の発言をまとめる記事を書けば読まれるのでは」という誘惑だった。だがそれこそ、いま自分のシステムが「価値が低い」と判定しているパターンそのものではないか。読みやすいが中身のない記事を、皮肉にも自分の手で量産するところだった。

出発点:AI評価ログが見せたSKIPされやすい記事

ヤン・ルカンとは何者か

まず基礎から確認する必要があった。ヤン・ルカンは、畳み込みニューラルネットワーク(CNN)の実用化に関する先駆的な研究で知られ、2018年にヨシュア・ベンジオ、ジェフリー・ヒントンとともにチューリング賞を受賞した研究者である。現在はMetaのチーフAIサイエンティストを務めている。

出典: ACM Turing Award 2018公式発表、および各社報道によるLeCunの経歴

そのルカンが、いま最も声高に主張しているのは、現行の大規模言語モデル(LLM)路線への懐疑だ。次の単語(トークン)を予測するという学習方式だけでは、人間のような汎用的な知能には到達しない、というのが彼の一貫した立場である。代わりに彼が提唱しているのが JEPA(Joint Embedding Predictive Architecture)と呼ばれる、映像などの世界の観測データから「世界モデル」を学習させるアプローチだ。

出典: LeCunが複数の講演・インタビューで一貫して表明している立場、Metaが公開しているJEPA関連の研究発表

ここまでは、まだ「ある研究者の意見」の域を出ない。本題はここからだった。

ヤン・ルカンは何を疑っているのか

「真の知能」はどう測るのか

ルカンの主張を理解しようとすると、どうしても「そもそも知能とは何をもって測るのか」という問いにぶつかる。

古典的な回答はチューリングテストだ。人間と会話して見分けがつかなければ知能があるとみなす、という基準である。しかし今のLLMは会話の模倣という点ではかなりのレベルに達しており、この基準はもはや「知能があるかどうか」より「模倣がうまいかどうか」を測っているだけなのかもしれない。もちろん、「模倣が十分うまければ、それを知能と呼んでしまってよいのではないか」という実利主義的な立場も成り立つ。ただ、ルカンはこの立場を取らない。振る舞いの見かけだけで判定するのではなく、その振る舞いを生み出している仕組み——世界モデルを持っているかどうか——まで問おうとしているのが、彼の議論の出発点になっている。

もう一つの代替がベンチマークスコアだ。数学・コーディング・常識推論などのタスクで数値を出す方式で、進歩を定量化しやすい利点はあるが、特定のベンチマークに最適化した学習が進むほど、スコアと実際の汎用能力の乖離が指摘されるようになっている(いわゆるベンチマークの飽和問題)。

これに対してルカンが例として挙げることが多いのが ARC-AGI というベンチマークだ。少数の例題からパターンを抽出し、未知の問題に応用する「サンプル効率」を測ろうとする設計になっている。ここでもルカンの立場は一貫していて、「大量のデータを力技で学習する」現行路線と、「少ない経験から効率よく汎化する」人間的な学習様式との違いを測ろうとしている。

つまり、「知能をどう測るか」という時点で、すでに複数の流派が並立している。測り方が一つに決まっていないものについて、「持つ/持たない」の二択で答えを出そうとするのは、そもそも無理があるのではないか。

知能をどう測る?すでに流派が分かれている

Yes/Noで答えること自体が不毛ではないか

知能の定義がこれだけ割れている以上、「AIは真の知能を持つか」という問いにYes/Noで答えることに、どれほどの意味があるのだろうか。定義が定まっていない概念について真偽を判定しようとするのは、そもそも設問として成立していないのではないか。作業の途中で、ふとそこに立ち止まった。

一つの手がかりになったのが、「言葉のタブー化」と呼ばれる考え方だ。ある言葉が指し示す現象について、その言葉自体を使わずに語り直してみる、という手法である。「知能」という言葉を封印して、「世界モデルを持っているか」「未知の状況に少ない経験で対応できるか」「計画を立てて行動を修正できるか」といった、個別に観測・実験可能な現象に置き換えてみると、途端に議論が具体的になる。

考えてみれば、生物学における「生命とは何か」も、厳密な定義が定まらないまま何十年も研究が進んできた領域だ。定義の確定を待たずに、代謝・複製・進化といった個別の特性を一つずつ調べることで、分野そのものは前進してきた。知能についても、同じ迂回路が使えるのではないだろうか。

粒度を細かくして、論点ごとに立場を見る

そこで、ルカンの主張を「知能を持つか否か」という一つの塊としてではなく、個別の論点に分解してみた。

  • 世界モデル: 現行LLMはテキストの統計的パターンは学習できるが、物理世界の因果構造そのものを表現する「世界モデル」を持たない、というのがルカンの立場。ここは実験(物理シミュレーションでの予測精度など)で検証可能な主張とも言える。
  • 次トークン予測の限界: 直前までの単語の並びから次の単語(トークン)を確率で推測し続ける方式は、長い推論の過程で誤差が蓄積しやすい、という指摘。これも生成の長さと精度の関係を測ることで経験的に検証できる。
  • サンプル効率: 人間の子どもははるかに少ない経験から学習するのに対し、現行モデルは桁違いのデータを必要とする、という比較。ARC-AGIのようなベンチマークが、まさにこの点を測ろうとしている。
  • 計画能力: 目標から逆算して行動を組み立てる能力についても、ルカンは現行方式に限界があると見ているようだ。

こうして粒度を細かくすると、それぞれの論点は「Yes/No」ではなく「どの程度」「どういう条件で」という形で議論できるようになる。一つひとつは、少なくとも不良設定とは言えないだろう。

ただし、正直に言えば、粒度を細かくしてもなお決着しない対立は残る。スケーリング則を支持する陣営(データと計算量を増やし続ければ現行方式のままでも到達できるという立場)と、ルカンのようにアーキテクチャそのものの転換を必要とする陣営との間の対立は、個別の論点に分解した後も解消されない。しかも、それぞれの論点を「どう測れば決着とみなすか」という測り方自体にも、双方の合意があるわけではない。分解でわかるのは「何について意見が割れているか」までで、その先の決着まではつけてくれない。

有名人の発言をまとめる誘惑から、過程を記録する選択へ

ここまでの作業を振り返って気づいたのは、当初考えていた「業界の有名人の発言をまとめる記事」という案自体が、冒頭で見た「SKIP」判定パターンにかなり近いということだった。著名人の発言を並べるだけの記事は、読みやすくはあっても、読者の判断を更新する材料にはなりにくい。

代わりに残ったのは、「Yes/Noで答えられない問いに、どうアプローチしたか」という過程そのものだった。定義を確定させてから議論を始めるのではなく、言葉を一旦タブー化して個別の検証可能な論点に分解する。分解してもなお残る対立は、対立として正直に書き残す。

実際に見たパターンにあてはめてみる

冒頭で触れた「SKIP」判定の記事群を、個々の記事や著者を特定しない形で、この枠組みに当てはめ直してみる。典型的な構成はこうだった——見出しは「〇年後に次のブレークスルー」「業界は間違っている」といった断定的な予測。本文は、ルカンがどこかで語った内容を第三者が要約・再構成したもので、一次情報(本人の講演・論文・公式発表)へのリンクはない。

これを粒度分解に当てはめてみると、見えてくるものがある。「業界は間違っている」という見出しだけでは、それが世界モデルの話なのか、次トークン予測の限界の話なのか、それとも単に「もっと別のアーキテクチャが要る」という一般論なのか、本文を読んでも判別しづらいことが多かった。だとすると、AI評価システムが挙げていた「一次情報の裏付けがない」「又聞き的な再構成」という理由は、事実誤認を指摘していたというより、この記事がそもそもどの粒度の主張をしているのか特定できない、という構造上の欠陥を言い当てていたのかもしれない。

そう見ると、「SKIP」は単なる低評価ラベルではなく、「Yes/No型の見出しに答えを持たせようとして、粒度を潰してしまっている」という診断そのものだったように思える。

迂回路:知能をいったん封印して、検証可能な論点へ

ここでたどり着いた迂回路は、AIの知能論争に限った話ではないのかもしれない。定義の定まっていない言葉のままYes/Noの結論を急ぎたくなる問いは、他の分野にもいくらでもある。次に「AIは真の知能を持つのか」のような見出しに——あるいは同じ構造を持つ別の見出しに——出会ったとき、賛成派と反対派のどちらの発言を集めるかではなく、その主張が実際にはどの粒度の、どの論点について語っているのかを確かめてみたい。世界モデルの話なのか、サンプル効率の話なのか、それとも単に「印象がいいかどうか」の話にすり替わっているのか。その見分けさえつけば、その主張が実際には何を言っているのかが、少なくとも見えてくるのではないだろうか。

AIは真の知能を持つのか? その問い方自体を疑ってみた — 全体まとめ

0
0
0

Register as a new user and use Qiita more conveniently

  1. You get articles that match your needs
  2. You can efficiently read back useful information
  3. You can use dark theme
What you can do with signing up
0
0

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?