1. はじめに
旅行の計画を立てているとき、AIに「このお店の営業時間を教えて」と尋ねました。返ってきた答えは自然で、開店時間も閉店時間も、もっともらしく説明されていました。
ところが、教えてもらった時間に現地へ行ってみると、お店自体は存在していたものの営業時間外でした。AIが答えた時間と、実際の営業時間はずれていたのです。
この経験をきっかけに、AIの「ハルシネーション」と呼ばれる現象について、あらためて調べ直すことにしました。
2. この記事はこんな方におすすめ
- AIに教えてもらった情報をもとに旅行や外出の計画を立てたことがある方
- AIの回答をどこまで信じていいか、判断基準を持ちたい方
- ハルシネーションがなぜ起こるのか、仕組みを大まかに理解したい方
- AIを使う際の「確認の習慣」を見直したい方
3. 営業時間の誤りは、なぜ起きたのか――2つの可能性
まず前提として整理しておきたいのは、今回のケースにどのような背景が考えられるかという点です。お店の営業時間が実際と異なっていた原因には、大きく分けて2つの可能性が存在します。
-
情報の陳腐化
かつては正しかったものの、その後の店舗側の変更（時短営業や定休日の改定など）が学習データや検索機能に反映されておらず、古い情報が出力されてしまったパターンです。 -
確率的な情報の捏造
AIが該当店舗の正確な営業時間を把握していないにもかかわらず、周辺の単語のつながりや一般的な店舗の傾向から「10:00〜19:00」といった、それらしい数値を言語モデルの計算によって生成してしまったパターンです。
前者は単なる「データの古さ」、後者は「事実の捏造」という違いはありますが、どちらも「根拠の薄い情報を、もっともらしい回答として出力してしまう」という点では共通しています。したがって、今回のケースは狭義のハルシネーションと断定はできないものの、広義には含まれると考えられます。本記事では、この両方を含めた「誤情報の提示」という広義の意味で、ハルシネーションの対策を考えていきます。
4. なぜ、こうした誤りが起こるのか
要因①：AIは「今の状態」をリアルタイムに参照しているわけではない
AIの多くは、あらかじめ収集・学習されたテキストデータをもとに文章を構成します。ウェブ検索機能と連動していない場合や、連動していても最新のページを正しく読み込めていない場合、出力は古い情報に依存せざるを得ません。これが、前章で述べた「陳腐化」が起こる主な仕組みです。
要因②：「わからない」より「それらしい答え」を優先しやすい
AIの仕組み上、情報が不足している場合でも「わかりません」と答えるより、学習データにある文脈パターンを組み合わせて回答を補完しようとする傾向があります。これは、流暢で自然な文章を作り出す能力の裏返しとも言え、前章の「確率的な情報の捏造」を引き起こす直接的な要因です。
要因③：出力の「文体」から確信度の差を読み取れない
人間であれば自信のない情報を話すとき「たしか」「おそらく」といった前置きを添えますが、AIの出力は根拠の強弱に関わらず一様に自然で確信に満ちた文体になりがちです。そのため、文面の印象だけで回答の正確性を判断することはできません。この特性は、陳腐化・捏造のどちらのケースにも共通して当てはまります。
5. あのとき旅行前にできたこと
AIの回答を盲信するのではなく、検証可能な形で利用し、確実なソースで裏取りを行うことで今回のケースは防げた可能性があります。
対策①：AIに「情報源（一次ソースや参照URL）」の提示を求める
単に「この営業時間はいつ時点の情報ですか？」とAIに尋ねるだけでは、AIがその日付すら誤って答えてしまうリスクがあります。
そのため、「根拠となったWebサイトのURLを教えてください」と指示するか、検索機能の併用を明示的に求めることが有効です。参照元が示せない回答は、少なくとも検証可能性という点で確度が低いと判断できます（ただし、参照元が示されたからといって内容が正確とは限らない点には注意が必要です）。
対策②：変動しうる情報は、必ず一次情報で裏取りする
営業時間や定休日などは変更されやすいため、AIの回答をそのまま採用せず、店舗の公式サイト、公式SNS、地図サービス（Googleマップなど）といった最新情報が更新されやすい一次情報で確認します。
対策③：「AIの回答は未確定の候補」として行動する
AIから得た情報はあくまで計画の「下書き」として扱い、事前確認が取れた情報のみで旅行のスケジュールを確定させる、というルールを設けておくと安心です。
6. まとめ
「営業時間が違っていた」という現象には、古い情報が出力されたケース（陳腐化）と、それらしい数値をゼロから生成したケース（捏造）の両面が考えられます。
** AIの出力は根拠の有無に関わらず一様に自然で自信に満ちた文体になるため、文章の雰囲気で確信度を測ることはできません。
** AIを使う際は、参照元（一次ソースのURL等）を出力させるなど、客観的に検証できる形をとらせることが重要です。
** 最終的には、公式サイトや公式SNSなどの一次情報による事前裏取りを習慣化することが、失敗を防ぐ最も現実的な対策になります。
あの日の営業時間の誤りも、今にして思えば、AIが出した「下書き」を「確定情報」としてそのまま扱ってしまったことが原因でした。次に旅行の計画を立てる際、AIの回答の後に必ず一次情報での裏取りをワンクッション挟むようにしたいと思います。