はじめに
生成AIを使うために必要な能力として、プロンプトの書き方、質問力、批判的思考、専門知識、検証能力など、さまざまなものが挙げられています。しかし、これらをさらに抽象化すると、必要なものはほとんど一つにまとめられます。それは、AIへの入力とAIからの出力の間が、入力者の頭の中で正しい知識による因果関係によってつながっていることです。
何を入力したのか、その入力からなぜその出力が得られてよいのか、その出力を現実に適用すると何が起こるのか。このつながりを利用者が理解していれば、途中の作業をAIへ大量に任せても構いません。反対に、このつながりがないままAIを利用すると、どれほど自然で高度な成果物が得られても、その妥当性を判断する基準を持てません。
AI時代に重要なのは、AIより速く文章を書くことでも、AIより多くの情報を記憶することでもありません。なぜその入力からその出力に到達してよいのかを理解していることです。
必要なのは因果関係がつながっていること
AI利用は表面的には「入力→AI→出力」という単純な構造に見えます。しかし実際の仕事では、その間に多くの知識、判断、推論、処理があります。
ソフトウェア開発であれば、要求から設計上の条件が導かれ、設計によって実装が決まり、実装によって実行時の挙動が生じます。AIが設計や実装を担当しても、人間がこの構造を理解していれば、AIが作ったものを評価できます。
ここで必要なのは、AI内部のニューラルネットワークを理解することではありません。必要なのは、対象領域についての正しい世界モデルです。「この条件ならこの結果になる」「この前提が変われば結果も変わる」「この情報だけではその結論までは導けない」と判断できる知識です。
専門知識、批判的思考、検証能力なども、この観点から整理できます。専門知識は因果関係を構築する材料であり、批判的思考はその途中の飛躍や欠落を見つける能力です。検証は、その因果関係が現実と一致するかを確認する作業です。プロンプトは、その理解の一部をAIへ伝えるための手段にすぎません。
したがって、AIが賢くなるほどプロンプト技術そのものの重要性は下がっていきます。しかし、なぜその答えでよいのかを判断する能力は、現在のAI利用では依然として人間側に残ります。
因果関係は一本である必要はない
ここで「因果関係がつながっている」という表現について、重要な注意があります。入力から出力までの因果関係は、一本道である必要はありません。
ネットワークの経路を考えると分かりやすくなります。ある端末から別の端末へパケットを届ける場合、途中で通過するルーターは一通りとは限りません。経路Aを通っても届くかもしれませんし、経路Bを通っても届くかもしれません。途中の経路が違っていても、正しく宛先まで届くのであれば、どちらも成立した経路です。
因果関係についても同じです。ある出力を説明する因果関係が一通りしか存在するとは限りません。複数の要因が同じ結果を生み出すこともあれば、異なる説明経路が最終的に同じ結論へ到達することもあります。AIが実際に使った内部の推論経路と、人間が頭の中で持っている説明経路が完全に一致している必要もありません。
重要なのは、入力から出力まで到達できる正しい経路が少なくとも一本存在することです。
ルーターが違っていてもパケットが目的地へ届けば構いません。しかし、途中で途切れて目的地へ届かない経路は使えません。同じように、「なんとなく関係がありそうだ」「AIがそう言っている」「結果だけ見るともっともらしい」というだけでは、入力と出力の間をつないだことにはなりません。
因果関係を理解するとは、世界に唯一の正解ルートを知ることではありません。自分が採用した説明経路について、少なくとも入力から出力まで論理と知識が途切れず到達していることです。
この条件さえ満たしていれば、別の人が別の経路から同じ結論へ到達しても問題ありません。むしろ複雑な現実では、複数の経路が存在するほうが普通です。
電卓と生成AIの決定的な違い
生成AIを電卓のような道具だと説明することがあります。しかし両者には重要な違いがあります。
電卓の場合、利用者は通常、電卓が行っている処理の概念をすでに理解しています。小学生でも掛け算や割り算が何であるかは知っています。桁数の大きな計算を手作業で行うのは面倒でも、何を計算しているのかは理解しています。
つまり電卓とは、主として利用者が理解済みの処理について、その面倒な操作を代行する機械です。
生成AIは違います。生成AIは、利用者自身が理解していない中間工程まで肩代わりしうる機械です。仕様を渡せばプログラムを作り、資料を渡せば分析し、問題を与えれば解決策まで提示します。その過程で必要になる知識や推論を利用者が知らなくても、成果物だけは得られます。
ただし、生成AIが未知の中間工程を肩代わりする機械なのではありません。適切に使っている人は、中間工程を未知のまま任せているとは限りません。因果構造は理解したうえで、実際の処理だけをAIへ任せることができます。
電卓は主として「理解している処理」を代行します。生成AIは「理解している処理」も「理解していない処理」も実行できてしまいます。このできてしまうことが、生成AIの便利さであると同時に大きな危険でもあります。
AIは人間の無知を隠せる
生成AI以前の道具では、利用者が対象を理解していなければ、比較的早い段階で問題が表面化しました。ところが生成AIは、利用者が理解していなくても、それらしい成果物を作れます。
生成されたプログラムが正常に動けば、設計を理解していない人でも「開発できた」と感じられます。もっともらしい分析文が出てくれば、前提や推論を理解していなくても「分析できた」と感じられます。成果物の完成度が、利用者自身の理解不足を覆い隠すのです。
この状態では、利用者の認識は「入力→AI→出力」で止まります。入力から出力まで到達する経路を一本も説明できません。どの条件が変われば結果が変わるのか、どこで誤りが入り得るのか、問題が起きたとき何を調べればよいのかも分かりません。
AIに作業を任せること自体は問題ではありません。問題なのは、パケットが本当に目的地へ届く経路を知らないまま、届いたように見える結果だけを信用することです。
AIが間違えること以上に厄介なのは、AIがかなりの確率で正しいことです。正しい成果物が何度も得られることで、利用者は自分の頭の中に因果経路が存在しないことに気付きにくくなります。
AIに任せてよいもの
AI時代に、人間がすべての作業を自分で再現できる必要はありません。プログラムを一行ずつ自分で書く必要も、大量の資料をすべて自分で読む必要もありません。それではAIを使う意味が薄れます。
重要なのは、実行を委任しても因果関係の管理までは手放さないことです。
自分では実装できないことと、なぜその実装で目的を達成できるのか理解できないことは別です。AIがどの内部経路を使ったのか正確に再現できなくても、自分の知識から入力と出力をつなぐ妥当な経路を一本示せるのであれば、結果を評価できます。
人間が必要とするのは、AIが辿った道を一歩ずつ追跡する能力ではありません。その出力が成立する経路が現実世界の知識の中に存在することを確認できる能力です。
この原則はいずれ不要になるのか
ここまで述べた原則は、永遠に続くとは限りません。
将来、AI自身が十分に優れたアイディアを出し、仮説を作り、複数の因果経路を探索し、反証し、現実を観測し、誤った経路を捨て、成立する経路を自ら見つけられるようになれば、因果関係の制御そのものをAIへ委任できる可能性があります。
現在は、人間が少なくとも一本の正しい経路を頭の中に持ち、その経路を基準にAIの出力を評価する必要があります。しかしAI自身が、パケットの届く経路と届かない経路を十分な精度で識別できるようになれば、その選別まで人間が担当する必要は薄れます。
そのためにAIが人間のような意識を持つ必要はありません。因果制御に必要なのは、知能、仮説生成能力、検証能力、修正能力です。意識や法的人格は、AI自身をどのような存在として扱うかという別の問題です。
したがって、AIのアイディア生成能力が人間を大きく上回り、自ら因果関係を探索して検証できるようになったとき、現在人間に求められている役割の一部はAIへ移るでしょう。
まとめ
現在のAI時代にプロンプトを打つ人に必要なたった一つのことは、AIへの入力とAIからの出力の間を、正しい知識による因果関係でつなげられることです。
ただし、その因果関係は一本である必要はありません。現実には複数の原因や複数の説明経路が存在します。ネットワークで異なるルーターを通ってもパケットが目的地へ届くのと同じように、別の因果経路を通って同じ結論へ到達しても構いません。
必要なのは、入力から出力まで届く経路が少なくとも一本あることです。途中で論理が切れた経路、知識の裏付けがない経路、単なる連想によって飛び越えた経路ではいけません。
生成AIは、利用者がその経路を知らなくても結果を作れてしまいます。だからこそ、自分では処理を実行しなくても、なぜその結果へ到達できるのかだけは理解しておく必要があります。
そして、この条件が不要になるとすれば、AI自身が複数の因果経路を発見し、届く経路と届かない経路を識別し、誤った経路を捨てながら因果関係全体を管理できるようになったときです。
それまでは、AIを使う人間に必要なことは一つです。入力から出力まで、パケットがきちんと届く因果経路を一本は持っていることです。