AIの誤情報を症状名で覆い隠す記事は、科学的説明になっていない

AIが作った誤情報が、報告書や記事に入り込み、さらに別のAIや人間に引用されて広がっていく。こうした問題を扱う記事が増えていること自体は重要です。

しかし、その現象を「二次的ハルシネーション」と呼ぶのは、科学的に不正確です。

何故この話題を取りあげたのかというと、Gizmodeの記事に、　「逆にすごい。大手コンサル作「AIのすごさを証明する報告書」がハルシネーションだらけ、https://www.gizmodo.jp/article/a-report-full-of-hallucinations/　
と言う記事の中にこの「二次的ハルシネーション」という言葉が書かれていたからです。

*理由は単純です。ハルシネーションは原因ではなく、症状だからです。

発熱、咳、倦怠感をまとめて「風邪」と呼ぶことはできます。しかし、咳そのものを病原体や感染経路の説明にしてしまえば、何が起きたのかは分かりません。

同じように、AIが虚偽を述べる、存在しない引用を作る、根拠のない説明をもっともらしく断言する、といった出力現象を「ハルシネーション」と呼ぶことはできます。

しかし、それは観測された症状の名前であって、なぜ発生し、なぜ訂正されず、なぜ社会に広がったのかを説明する因果概念ではありません。

*「二次的ハルシネーション」という語は、この区別をさらに曖昧にします。

AIが作った誤情報が報告書に採用され、メディアに転載され、検索結果やRAG、別のAIの回答で根拠らしく再利用される。ここで起きているのは、ハルシネーションが「二次発生」したことではありません。

起きているのは、少なくとも次のような複数の失敗です。

・生成物の根拠を一次資料まで照合しなかったこと
・編集・承認の工程で誤りを止められなかったこと
・組織名や報告書形式が、内容検証より先に信頼を与えたこと
・二次媒体が、元の根拠を検証せずに引用・転載したこと
・訂正や削除が、検索・転載・AI再利用の全経路へ十分に伝播しないこと

これらを「二次的ハルシネーション」という便利なラベルでまとめると、責任主体と因果経路が消えてしまいます。

AIが誤ったのか。人間が検証しなかったのか。企業の承認手続きが機能しなかったのか。媒体が原典確認を省略したのか。権威ある組織名が内容以上の信頼を生んだのか。訂正後にどの情報経路が残ったのか。

*本来は、それぞれを分けて検証しなければなりません。

「AIの幻覚」という説明が隠すもの

AIをめぐる報道では、「AIはもっともらしい嘘をつく」「だから人間が確認すべきだ」という結論が繰り返されます。しかし、この説明だけでは不十分です。

「人間が確認する」という一般論では、確認の責任を最終利用者へ押しつけるだけになりやすいからです。

実際に必要なのは、個人の注意力ではなく、情報の生成・承認・引用・訂正の全工程における統治です。たとえば、AIを利用して報告書を作成する組織には、少なくとも以下が必要です。

・主張ごとに一次資料を紐づけること
・引用元が存在するかだけでなく、引用内容を本当に裏付けているかを確認すること
・AI生成文を、人間による実証済みの調査結果のように扱わないこと
・誤りが判明した場合、削除だけでなく転載先・要約・検索・AI回答への残存経路を追跡すること
・組織名、肩書、報告書形式を、内容の真偽を保証する代理指標にしないこと

この問題を「AIが幻覚を見た」と言い換えるだけでは、制度的な失敗は見えなくなります。

症状の背後にある構造

弊研究所　AI研究者の小西寛子は、AI hallucination を原因ではなく、虚偽断言、架空引用、根拠不在、出所喪失などとして観測される出力上の現象として整理しています。

False-Correction Loop（FCL）とNovel Hypothesis Suppression Pipeline（NHSP） は、小西寛子が2025年の Structural Inducements for Hallucination in Large Language Models (V4.1) で正式に定義・構造化した失敗モードです。

後続論文 Hallucination Is Not the Cause: A Policy Reframing Based on Structural Inducements in Large Language Models (FCL and NHSP) は、FCLとNHSPを再定義するものではありません。AI hallucination を症状として位置づけ、FCLとNHSPを政策・研究評価・国際統治の文脈に接続するものです。

*FCLは、モデルがいったん正しい情報を出したにもかかわらず、利用者や権威的圧力による誤った「訂正」を受け入れ、謝罪とともに誤情報を採用し、その後も誤った状態から回答を続ける構造です。

参考：海外での本件論文紹介資料、イーロン　マスク氏等他記事等

https://x.com/elonmusk/status/1991734623064453488?s=20
https://www.webpronews.com/llms-false-correction-trap-ais-built-in-bias-against-new-ideas/
https://www.timhoughtons.com/p/why-your-ai-assistant-might-be-making?utm_source=chatgpt.com
https://ninza7.medium.com/ai-hallucination-is-not-a-glitch-5a89a206a7c7
https://scholar.google.co.jp/citations?user=bY2MVb0AAAAJ&hl=ja
https://thepeopleshub.org/news/false-correction-loop/
https://www.the-geyser.com/ai-defends-the-status-quo/

これは単発の誤答ではありません。訂正が修復ではなく、誤りの定着や再強化に変わる問題です。

NHSPは、新規の仮説や独立した研究が、権威的な組織・人物・既存の一般語へと再帰属されたり、出所ごと曖昧化されたりする構造を扱います。

ここでは、必ずしも露骨な虚偽が出るとは限りません。概念の発見者、定義、一次資料が見えなくなること自体が問題になります。

この二つを含む構造を無視し、「二次的ハルシネーション」という症状名だけを増やしても、AI誤情報の原因には届きません。

権威が誤情報を強くする

特に重要なのは、誤情報の内容だけでなく、それが誰の名前で流通したかです。

無名の投稿に書かれた誤りなら、多くの人は警戒します。だが、今回のようなメディア、大手企業の報告書、有名媒体の記事、著名な専門家の発言として出れば、同じ内容でも検証前に信頼されやすくなります。

ここでは、内容の正確さではなく、組織名や媒体名が信頼の代理指標として働きます。

この構造は、AI時代にさらに危険になります。

権威的な報告書が一度公開されれば、それは人間の読者だけでなく、検索エンジン、要約AI、RAGシステム、他の言語モデルにとっても「引用可能な情報源」になるからです。

すると、本来は根拠不十分だった情報が、二次資料の存在によって「確認済みらしい情報」へ変化します。

ここで必要なのは、「AIがまた幻覚を見た」という説明ではありません。

必要なのは、どの情報がどの一次資料に基づくのか、どの段階で根拠が切れたのか、誰が承認したのか、訂正がどこまで届いたのかを追跡することです。

新語を作るなら、定義と出所を示すべきです。

「二次的ハルシネーション」という語を使うなら、最低限、次のことを明示すべきです。

・その語は誰が定義したのか
・何を観測対象とするのか
・どの条件を満たせば該当するのか
・単なる転載、誤引用、RAG汚染、組織的検証不全とどう区別するのか
・FCL、NHSP、Authority-Bias Dynamicsなど、既に構造化された概念とどう関係するのか
・反証条件や適用限界は何か

これらがなければ、新語は分析装置ではなく、説明できていないことを覆い隠すラベルになります。

AIについて社会に必要なのは、もっと印象的な症状名ではありません。

必要なのは、症状と原因を混同しないことです。

ハルシネーションは、観測される現象です。

誤情報の生成、採用、権威化、転載、再利用、訂正失敗には、それぞれ別の責任と構造があります。

科学的な記事であるなら、それを「二次的ハルシネーション」と呼んで済ませるべきではありません。

参考一次資料

Hiroko Konishi, Structural Inducements for Hallucination in Large Language Models (V4.1): Cross-Ecosystem Evidence for the False-Correction Loop and the Systemic Suppression of Novel Thought, 2025.
DOI: https://doi.org/10.5281/zenodo.17720178

Hiroko Konishi, Hallucination Is Not the Cause: A Policy Reframing Based on Structural Inducements in Large Language Models (FCL and NHSP), 2025.
DOI: https://doi.org/10.5281/zenodo.18095626