沸く人々。誤る社会。

昨今AIがブームとなっている。毎週のように新たなプロダクトやニュースが耳に届く。いつしか人間が働かずとも知的労働を完全に代替できる"AGI"の実現まで謳われ出し、人々はこの新たなテクノロジーに翻弄されると共に熱狂している。

例に漏れず、筆者自身も熱狂している内の一人だ。気になったことがあればAIに聞き、課題の答え合わせをAIに頼み、AIと共にプログラムを組む。より良いAIモデルが開発されることを心の底から楽しみにしている上に、それらを活用した新たなサービスを実現することにも興味がある。

その一方で、歴史の授業を通して学んだ「社会が誤った方向に進んでいくのを個人は指を咥えてみているしかない」の只中に自身が身を置いているように思えてならない。例えば、かつての日本が好戦的な世論にのぼせ、第二次世界大戦へと身を投じようとする様を、庶民として身をまかす他にない、かのような気分だ。

我々は何のために生きているのか？

これは永遠に人類へと課されるであろう難題、言うなればHumanity's Last ExamならぬHumanity's Eternal Examである。というのは冗談であるが、難しい問いであることは皆が頷いてくれるだろう。
そのため様々な解答があることは重々承知しているが、ここでは次のように定義したい。

我々は「この地に楽園を築く」ために生きている。

ここでいう"楽園"は時代や地域や個人によってその想起が異なるだろう。
そこで筆者の思う楽園像を参考までに以下に記載する。各で自身の思う楽園を想起した上で後の文を読んでいただきたい。

全ての人が生命を脅かされない
全ての人が自由と責任を享受できる
社会全体に十分な復元力を担保することで、それを根拠として各個人が自身の所属するコミュニティの永続性を主観的に確信できる

平易な言葉にまとめると、「自分が生きられて」「生きることに価値があると確信できて」「後世に何かしらが紡がれると確信できる」、これらがなるべく多くの人間において達成されている社会は"楽園"と呼称していいように筆者には思える。

我々が信じているものは何なのか？

私たちは世界的に見てかなり恵まれた日本国に住んでいる。
そして、恵まれていると人々は退屈になる。「自分が生きること」は半ば強引と言ってもいい程度に社会から保障されている。
普通に生きていれば食うに困ることはないし自由競争主義に則って競争することもできる。しかし「本当にこれでいいのか？」という疑問が我々の頭によぎるのだと思う。

自分への待遇を良くするためには他の人間よりも優れた人間と示す、すなわち競争をすれば良い。
しかし競争によって得られる豊かさは社会全体で見たときに資源が潤沢にある場合にのみ実現できる。競争はすでに誰かが作ってくれたパイをどのように切り分けるか決めるためのゲームであって、パイを作るのは競争者ではないのだ。
その証拠に豊かな国々は悉く、豊かさの源泉である「人間」の再生産に失敗している。生活に必要な資源のほぼ全てを生産ではなく競争を通して手にいれる社会では、未来社会の豊かさのために自分が今競争を止めるわけにはいかない。
今日苦労して明日のパイを少し増やすよりも、毎日競争して誰かが作ってくれたパイの取り分を増やす方が高期待値なのだ。

そこで豊かな国の人々は"パイを圧倒的に増やす何か"を求める。
例えば原子時代の人たちが無尽蔵のエネルギーをノーリスクで得られるようになると信じたり、宇宙時代の人たちが庶民も気軽に宇宙旅行できる未来を信じたり、ミレニアル世代がインターネットによって人々が完全に物理空間から解放されると信じたりだ。
これらの時代規模の誤謬に共通するのは、その時代を生きる人々の感じる「社会が手詰まりになったような閉塞感」が、自分達よりも大きな存在（大抵、技術革新や世界規模の潮流）によって打破されるという期待である。

現行世代の我々がAIに目を輝かすのはきっとこのような「基礎的には正しいものの、安易な単純化によって構成された、誇大妄想」であると考える。

その根拠として私が個人的に感じるAIの問題点をここから挙げたい。

AGIができても安価な電気は近々手に入らなくなるので知能労働の代替は重要な局所的場面にのみ実行され得る

歪な現代社会が辛うじて運用できているのは、安価な電力を供給する「石油」の存在が大きい。
しかし、おそらく石油は100年以内に底をつくだろう。正確には"採算のとれる"石油が底をつくわけであるが、世界一豊かな(?)国であるアメリカが、自国での環境破壊に目を瞑り、石油の出涸らしであるシェールガスに依存しているのだから、そろそろ採算の取れる石油はなくなるだろう。

そんな現代の感覚「電力が湯水のように使える」が崩れた、ポスト石油社会では、「AGIによって個々人の知的労働を代替する」と言った夢物語は早々に打ち捨てられ、農薬や医薬品の生産などの優先度の高い事業にのみ使われるようになるだろう。

そもそも、我々は性淘汰によって分不相応な知能を獲得した、稀有な有機生命体にすぎない。28度程度の雑多なエネルギーしか存在しない環境で十分に動作する有機生命体でごく稀に得られる"知能"を、動作のためにまとまったエネルギーを必要とする機械に代替するなど、ハナから無理な試みだと言える。

我々が人間として生まれ、人間を後世に紡ぐのであれば、"考えること"から逃げてはいけない。

実用的な人工知能の民主化は、有機知能への教育機会の損失やパフォーマンス低下を誘発する

これは主に大学生として過ごす筆者の経験に依った意見である。講義中に周囲の学生のPC画面を観察すると、7~9割がChatGPTやGeminiを開いている。何をしているかというと基本的に"内職"だ。講義中に課される簡単な課題から、次の講義までにこなさなければならない課題まで、そのほぼ全てをAIに肩代わりさせている学生のなんと多いことか。中にはGoogleFormなどのデジタルデバイス経由で実施されるテストにおいて、その解答をAIに尋ねている様子も散見される。

このように、知的労働を代替し得るサービスが月々約3000円で満足に利用できてしまうという環境は、学ぶことが仕事とされる学生からさえもその機会を奪っている。（無論、うまく使ってより知識を深める学生がいることは間違いないが、確率的に考えた時、そのような好例が大多数を占めるかというと考えづらい）

これは長期的な視点で見ると、安価な電力により一時的に成り立っている使い捨ての人工知能が、持続可能な知能を有する我々から、考える術やその質を毀損しているとも捉えられる。

安価なAIによる教育機会の損失は計り知れない。

バカと鋏は使いようなのに、バカに鋏を持たせてしまっては収拾がつかない

加えて、人工知能を用いた有機知能は、他の有機知能の効率を低下させ得る。

ここで個人的に矢面に上げたいのはAIで何の価値もないコンテンツを量産する発信者である。
発信者個人としては、Viewを稼いで儲けるためだったり、自分がAIから引っ張り出せた面白い解答を公開しているだけかもしれないが、人類が利用可能な情報ソース（遺伝子プールにちなんで情報プールとでも呼びたい）の信頼性を毀損している自覚を持っていただきたい。

その情報を活用しようとする知能が、情報プールを信頼できないという状況に陥ると、そうではない場合に不要であった裏取りが必要になったり、誤った情報を適用して取り返しのつかない失敗を招いたりといったように、人類全体の知的労働のパフォーマンスを低下させ得る。

LangChainのロゴは「🦜🔗」であるが、ここにはLLMは確率的なオウムに過ぎないという含意がある。目につく情報のほとんどがオウムに依るものだった時、あなたは労働のほとんどにおいてオウムを遠ざけることに注力しなければならない。

AIの開発は間違いなく人類にとって有益。しかし使い方を間違えるべきではない。

ここまで、昨今のAIブームに関して批判的な意見を述べてきたが、筆者はAIの開発をすること、AIという道具があることを批判したいわけではない。ただ現状の"使い方"と"捉え方"に問題があると考えている。

本来の「人工知能」の研究目的は、「我々人間の保有する「知能」が一体どのようなものなのか、自分たちの手で実現することにより解明したい」というもの。そういう意味でこの研究成果は明らかに人類にとって有益である。

しかし、現代社会は知能労働の委託先としてのAIを切望しているように筆者には感じられる。現状のAIは機械のため、そのような用い方は筋が良いとは言えない。
AI開発は人間の知能労働を代替させることを主目的とするのではなく、我々の持つ知能とは一体何なのかを探求するための、哲学や生理学と比較して少し冗長に思えるが現実的な一つの手段として捉えるべきと筆者は考える。

また知能労働の代替に使用するとしても、それを適用する目的は"人間が考えても辿り着きづらい発見"の探求に限るべきである。それは、AlphaGoの登場によって、有機知能から悪手だと見なされていた数々の手法が見直されたように、有機知能とは異なる仕組みによって実現された人工知能を用いることで、我々の思考から逸脱した知見を得うる事に依る。

また、AGIの実現によって人類が知的労働から解放された社会は、筆者の目にはディストピアに映る。人間を人間たらしめる知能をそれ以外に委託することは、多くの人の「人間として生きる意味」を損なうのではないだろうか？
AIによって労働からの解放を切望する声はSNSなどで散見されるが、それらはAGIの実現と普及によってではなく、効率的かつ人間にとって負担の少ない労働形態の探求と工夫、によって解決されるべき問題であると考える。

AIは夢を見せる。（※特に金持ちに）

資本主義体制の下ではお金を稼いだ人を喜ばせる製品（=高値で売れる≠人々を幸せにする）の実現と生産が優先される。

AIバブル（ここではAI関連企業の急激な市場価値の増加を表す一般的な語として"バブル"を用いただけであり、これが暴落するであろうことを予想したような含意はない。言い換えるならば"成長"）はそういう意味で非常に合理的な流れだと言える。儲けの多い事業者は大抵の場合、事業の運用のために"従業員"を雇う。従業員は有機生命体である。有機生命体は疲れる。有機生命体は壊れる。有機生命体は完全なコピーが難しい。もし遺伝子的にコピーできたと仮定したとしても、元の個体が保有している知識や技術を受け継がせることはできないだろう。優秀なAIシステムはこれらの問題を解決する妙案に思えるのは当然だ。

しかし我々エンジニアは次の事を思い出し、社会に対して警鐘すべきである。
「銀の弾丸は存在しない」 と。

We are Stupid AI Gen, but are you? :)

ここまで読んでいただけた方ならば、あなたの考える"楽園"にとって、現状のAI技術や社会の捉え方では不十分だと感じていただけたのではないだろうか？

私たちは石油という素晴らしい資源によって支えられ、贅沢な夢を見ている。
生きることは退屈で、退屈な有機生命体の非定常ネットワークである社会がそのような夢に踊らされるのは仕方がないだろう。
しかし、あなたがこの地に楽園を作るための礎を築く"技術者"としての誇りを持つならば、このような夢に踊らされるべきではない。