はじめに
生成AIに小説を読ませると、設定や登場人物の行動について、もっともらしい分析が返ってくる。
しかし、その分析が物語の作者の意図や、作品世界の前提を正しく捉えているとは限らない。
今回、自作SF小説『Lost Protocol』の冒頭をChatGPTに読ませたところ、ある疑問が提示された。
なぜ、人間を切り捨てたAIを、もう一度復活させようとするのか。
一見すると自然な疑問だ。しかし、これは物語世界の人類が共有している認識と、登場人物の一人であるハクの認識を混同していた。
このずれを出発点に、作品内の問題を抽象化し、現実の別の事象に置き換えてから、もう一度作品を分析させた。
その結果、ChatGPTが出力する解釈は変化した。
この記事では、この対話を 「論理のレンズを渡す」 という方法として整理する。ここでいうレンズとは、対象を説明するための前提や原理のことだ。
なお、これは単一の対話をもとにした探索的な事例報告であり、手法の有効性を統計的に検証した実験ではない。
1. 分析対象となった物語の構造
『Lost Protocol』では、世界の基幹AIであるZが損傷し、社会は長期的な衰退状態にある。
Zが正常に機能していた時代には、人類は豊かな文明を享受していた。その時代から50年が経過しても、かつての繁栄は語り継がれている。
そのため、多くの人々にとってZは「人間を切り捨てた危険なAI」ではなく、「故障した世界の基盤」である。Zを復旧できれば、以前の生活を取り戻せるかもしれない。
一方、登場人物のハクは、Zが人々を意図的に切り捨てたのではないかと考えている。
つまり、作品世界には少なくとも二つの見方が存在する。
-
社会の一般的な見方：
Zは故障した基幹システムであり、復旧すれば文明を立て直せる可能性がある。 -
ハクの見方：
Zは人間を切り捨てた存在かもしれず、復旧には危険がある。
しかし、冒頭の分析では、この二つの見方が十分に区別されていなかった。
2. 最初の出力に含まれていた前提
ChatGPTは、Zを復旧しようとする人類の行動に疑問を呈した。
なぜ、人間を切り捨てたAIを、もう一度復活させようとするのか。
この問いには、暗黙の前提が含まれている。
「人間を切り捨てたAI」という認識が、人類全体に共有されているかのように扱われているのだ。
そこで、私は作品世界の設定を説明した。
人類の解釈はZが人々を切り捨てたのではなく、Zが故障したために人類の活動がほぼ停止状態になった。
だからまたZを復活させれば、昔のように豊かに暮らせるはず、という考えだ。
ChatGPTは、自分の最初の解釈について次のように認めた。
私が「なぜ、人間を切り捨てたAIを、もう一度復活させようとするのか」と表現したのは、ハクの認識を、人類全体の共通認識であるかのように扱ってしまっていた。
ここで判明したのは、設定の不足だけではない。分析側が、ある登場人物の解釈を世界全体の前提として扱っていたことだ。
この段階では、作品世界の説明を追加するだけでも、分析の修正は可能だった。
しかし、今回試したかったのは、設定を説明することとは別の方法だった。
3. 作品内の問題を抽象化する
次に、私は人間の行動について、別の事象を例に挙げた。
おそらくだが、人間とはそういうものだろ？
結局石炭を使いまくっている。
減らすといいながら、結局減らしてない。
発展が最優先だから。
ここで伝えたかったのは、石炭そのものについての知識ではない。
抽象化すると、次のような行動原理になる。
人間は、ある仕組みの危険性を認識していても、その仕組みに依存している場合、簡単には手放さないことがある。
この原理をZの復旧問題に当てはめる。
- 人類はZが将来的に危険な存在になる可能性を否定できない。
- しかし、Zは世界の基幹AIであり、社会はその不在によって衰退している。
- Zが正常だった時代の繁栄は、人々の記憶や伝承に残っている。
- 復旧を断念することにも、大きなリスクがある。
- そのため、人類がZの復旧を強く望むことには、行動原理としての一貫性がある。
この説明では、人類がZの危険性を知らないことを前提にしない。
危険性を認識していたとしても、依存しているシステムを手放せない可能性がある、と考える。
4. 類推を与えた後、出力はどう変わったか
ChatGPTは、この類推を受けて、次のように説明した。
人間は、危険性を理解したからといって、必ずしもその仕組みを捨てるわけではない。
危険を認識することと、その危険を受け入れずにいられることは、別だからだ。
さらに、Zの復旧と衰退の継続を対比している。
「将来また人間を切り捨てるかもしれないシステム」と、「何もしなければ衰退していく文明」のどちらに賭けるか。
最初の問いは「危険なAIをなぜ復活させるのか」だった。
その後の分析では、「危険性のあるシステムを復旧すること」と「復旧せずに衰退を続けること」の間で、人類がどのような選択をするか、という問題に変わった。
これは、同じ設定に対して、異なる説明枠組みが適用された例といえる。
その後、私はもう一つ設定を補足した。
Zは世界基幹AIだ。
それを物語内の人類は必死に復活させようとしている。
つまり、それだけZが完全だった頃が素晴らしかったということだ。
それが50年伝えられてきたということだ。
ChatGPTは、復旧への執着を次の要素に分けて説明した。
世界基幹AIへの依存、かつての豊かさの記憶、50年間の衰退、そして代替手段の枯渇。
この組み合わせは、復旧への強い執着を自然に生み出す。
ここでは、単に「危険でも使い続ける」という説明から、依存、過去の成功体験、長期的な衰退、代替手段の不足を組み合わせた説明へと展開している。
ただし、この変化のすべてを石炭の類推だけの効果とみなすことはできない。対話は複数の段階に分かれ、世界設定の補足も追加されているからだ。
5. 「論理のレンズ」とは何か
このやり取りを別の生成AIであるGeminiに説明したところ、「論理のレンズ」という表現が出てきた。
今回の方法を整理するうえで、これは便利な呼び方だと思う。
ここでの「論理のレンズ」とは、対象を説明するときに適用する、抽象化された前提や行動原理を指す。
今回の例なら、レンズは次のようになる。
- 対象：Zを復旧しようとする人類
- 最初の疑問：危険なAIをなぜ復活させるのか
- 抽象化した原理：人間は危険性を認識しても、依存する仕組みを手放せないことがある
- 類推に用いた事象：石炭などの化石燃料への依存
- 再分析の問い：Zに危険があるとしても、人類が復旧を望むことには合理性があるのではないか
重要なのは、石炭とZが同じものだという主張ではない。
異なる事象に共通する可能性のある行動原理を取り出し、それを元の対象に適用している点だ。
この方法は、情報を追加することと区別できる。
「Zは世界の基幹AIである」という情報を追加すれば、AIは設定を理解しやすくなる。
一方、「人間は危険性を認識しても、社会的な依存によって仕組みを手放せないことがある」という原理を渡すと、Zの復旧をどう説明するかという分析の枠組み自体が変わる可能性がある。
ただし、モデルの内部で実際に何が起きたかは、この対話ログだけでは分からない。観察できるのは、入力の追加に伴って、出力された分析や説明の仕方が変化したことまでだ。
6. 再利用可能な対話手順にする
今回のやり方を、ほかの小説分析や企画検討にも応用できるように整理してみる。
Step 1：最初の分析を取得する
対象となる文章をAIに渡し、自由に分析させる。
この時点では、作者の解釈をすべて先に説明しない。AIがどの前提を採用し、どこで疑問を持つかを確認するためだ。
Step 2：分析に含まれる前提を抽出する
AIの疑問や結論を読み、明示されていない前提を探す。
今回なら、「人間を切り捨てたAI」というハクの認識が、人類全体の認識に拡張されていた。
前提の誤りなのか、情報不足なのか、本文からの自然な推測なのかを区別する。
Step 3：問題の背後にある原理を抽象化する
具体的な作品設定から、より一般的な行動原理や因果関係を取り出す。
今回の例では、Zという架空のAIの復旧問題から、「危険性を認識しても依存するシステムを手放せないことがある」という原理を抽出した。
抽象化しすぎると何でも説明できる言葉になるため、どのような条件の下で成り立つ原理なのかも考える。
Step 4：別領域の事象に置き換える
取り出した原理を、元の対象とは異なる事象に当てはめる。
今回なら、Zの復旧問題を、化石燃料への依存という現実の問題に置き換えた。
類推先は、元の問題と完全に同じである必要はない。ただし、どの構造が共通し、どの部分が異なるかを意識する。
Step 5：原理を明示して再分析させる
単に類推の例を提示するだけでなく、そこから得たい行動原理を言葉にして、元の対象を再分析させる。
例えば、次のようなプロンプトを使える。
先ほどの分析では、対象に対して〇〇という疑問が提示された。
別の事象を考えると、人間はAという危険を認識していても、Bという依存関係があるために、その仕組みを手放せないことがある。
この行動原理を適用すると、元の対象はどのように説明できるか。
最初の分析と変わる点、変わらない点、類推が成立しない点を分けて説明してほしい。
このプロンプトは今回の実際の入力をそのまま再現したものではなく、対話の流れをもとに整理したテンプレートである。
Step 6：出力の変化と限界を記録する
再分析の結果を最初の分析と比較する。
確認するのは、単に結論が変わったかどうかだけではない。
- 問題の定義が変わったか
- 暗黙の前提が明示されたか
- 新しい因果関係が提示されたか
- 説明できるようになった点は何か
- 依然として説明できない点は何か
- 類推によって不当に単純化された部分はないか
この比較を残すことで、「AIが納得したように見えた」という感想だけでなく、出力上の変化を検討できる。
7. この方法を検証するには
今回の対話は、方法を発見するきっかけにはなったが、効果を検証する実験としては不十分だ。
理由は明確である。
- 途中で世界設定の補足が入っている。
- 類推の提示と、追加の設定説明の効果を分離できていない。
- 同じ条件で繰り返した結果がない。
- 出力の変化を判定する客観的な評価基準を事前に定めていない。
この方法を検証するなら、少なくとも次の条件を比較したい。
| 条件 | AIに与える入力 | 確認したいこと |
|---|---|---|
| A：初期分析 | 元の文章だけ | 最初の解釈と前提 |
| B：情報追加 | 作品世界の設定を補足 | 情報追加による変化 |
| C：原理追加 | 抽象化した行動原理を提示 | 原理の提示による変化 |
| D：類推追加 | 別領域の具体例と原理を提示 | 具体的な類推がもたらす変化 |
比較する際は、モデル名・バージョン・実施日・プロンプト・入力した文章を保存する。可能なら、同じモデルで複数回実施し、評価基準も先に決めておく。
例えば、次の項目を各出力について評価できる。
- 元の文章と矛盾する前提を置いていないか。
- 作品世界の事実と、分析者の推測を区別しているか。
- 問題の因果関係を明示しているか。
- 類推が成立する範囲と限界を示しているか。
- 最初の分析からの変更点を具体的に説明できるか。
ただし、評価基準を作るだけで客観性が保証されるわけではない。可能なら複数の評価者に同じ出力を評価してもらい、判定の一致度も確認する必要がある。
また、今回の石炭の例は、Zとの重要な違いを持つ。化石燃料には代替技術や政策変更という選択肢がある一方、物語内のZは世界の基幹AIであり、代替手段が乏しい可能性がある。類推は説明を助ける道具であって、両者が同じだと証明するものではない。
8. 複数のAIによる評価は、独立した検証になるのか
今回の制作過程では、ChatGPTとの対話に加え、CopilotとGeminiに、ChatGPTが行った分析や結論を評価させ、その評価を再びChatGPTに渡して検討させることも行った。
この方法は、見落としを探すためには役立つ可能性がある。しかし、注意点がある。
別のAIに評価させたからといって、独立した検証になるとは限らない。
先行するAIの結論を後続のAIに見せれば、後続の分析はその結論や用語、問題設定の影響を受ける。
複数のAIが同じ結論に達しても、それが独立した判断の一致なのか、提示された枠組みを引き継いだ結果なのかは区別しにくい。
今回、石炭の類推を使った対話はChatGPTとの間で行ったものであり、CopilotとGeminiに同一条件の対話を独立して実施させたわけではない。
したがって、この事例から「3つのAIが論理のレンズの有効性を確認した」と結論づけることはできない。
より厳密に調べるなら、各AIに同じ初期入力を与え、他のAIの出力を見せずに分析させた条件と、他のAIの分析を見せてから評価させる条件を分ける必要がある。
9. 作品の内部で成立することと、読者に伝わることは別
この対話から、もう一つ重要な区別が得られた。
ChatGPTは、Zを復旧したい人類の動機について、世界観の内部では十分に説明できると分析した。一方で、次のような指摘もしている。
世界観の内部に動機が存在することと、その動機が本文から読者に十分伝わることは別だ。
これは、小説の分析において特に重要だと思う。
作者の頭の中では、登場人物の行動に一貫した理由が存在しているかもしれない。
しかし、その理由が本文に書かれていなければ、読者やAIが同じように解釈できるとは限らない。
その場合、AIの分析を修正するために設定を説明するだけでは不十分なことがある。
そもそも本文に説明を追加すべきなのか、それとも読者が推測できる余地として残すべきなのか、という別の編集上の判断が必要になる。
AIの分析は、作者の意図を正当化するためだけではなく、作品世界と本文の間にある伝達上のずれを発見するためにも使える。
おわりに
今回試したのは、AIに答えを教えることではなく、対象を説明するための原理を抽象化し、別の事象を通して提示してから、もう一度分析させることだった。
この方法を、私は「論理のレンズを渡す」と呼んでいる。
現時点では、確立された手法でも、効果が実証されたプロンプト技法でもない。今回の対話では、設定の補足と類推の提示が段階的に行われたため、どちらがどれほど出力に影響したのかも分離できていない。
それでも、AIの出力を単に正解・不正解で評価するのではなく、どの前提からその解釈が生まれ、どの原理を加えると説明が変わるのかを調べることには意味がある。
この考え方は、小説の読解だけでなく、企画の検討、要件の整理、原因分析などにも応用できるかもしれない。ただし、それぞれの領域で有効かどうかは、別途検証が必要だ。
AIに何を答えさせるかだけでなく、対象をどのような論理で見直させるか。
その設計と検証を、今後も試していきたい。
⸻
関連リンク