はじめに
GPT-5のポンコツっぷりという記事を投稿したら物議を醸してしまった。その過程でコメントをしてきた人たちの反応が興味深かったので記事にしておきたい。
内容
発端は僕がGPT-5に「富士駅から１時間で行ける映画館を教えてください」と質問をなげたら返答がおかしかったという記事を投稿したことにある。GPT-5は正しい映画館を挙げたが以下のようなまとめをつけてくれた
-
まとめと提案
一番近くて便利なのは「イオンシネマ富士宮」。電車＋徒歩で1時間以内、最新作やファミリー向け映画が豊富にあります。 -
バリエーションを見たいなら「沼津」や「三島」も候補に。アクセス・上映作品は多彩で、選択肢が広がります。
-
ご希望があれば、特定の作品や字幕／吹替の有無などもお調べできますので、気軽にお知らせください！
論争になったのは「バリエーションを見たいなら「沼津」や「三島」も候補に」という部分である。僕はこの部分を以下のように補った
（映画館の）バリエーションを見たいなら「沼津」や「三島」（の映画館）も候補に
しかし、多くの人は
（作品の）バリエーションを見たいなら「沼津」や「三島」（の映画館）も候補に
と補った。僕は前者の解釈で「すでに沼津や三島の映画館をリストに挙げているのに更に三島や沼津の映画館も候補になるというのは変じゃないの？」というようなコメントをした。その結果GPT-5は言い回しの不適当さを認めて終わりになった。
しかし、後者の解釈をした人は「僕が誤読をしただけでありGPT-5の返しには問題ない」という立場だった。正直、僕は後者の解釈を思いつかなかったのでコメントでのやりとりでは「そういう解釈もありますね」と返していた。
ところが、である。後者の解釈の人達は両論併記に納得しなかった。どうしてもGPT-5の「まとめと提案」部分には問題が無いという後者の解釈以外は認めない、というのである。
特に僕が「まとめと提案」の中の「 バリエーションを見たいなら「沼津」や「三島」も候補に」という部分だけを引用したことに「意図的な誘導だ」という批判が集まった。
どっちが正しいのか？
後者の意味であれば正確にはGPT-5は
作品のバリエーションを見たいなら「シネプラザサントムーン（三島）」や「シネマサンシャイン沼津」も候補に
と書いておけば誤解は無かったろう。しかし、GPT-5は映画館の名前をかかず、地名に留めたので、僕は「沼津」や「三島」を映画館の意味ではなく地域の意味だと解釈したので異なった意味になってしまった。
ここで「どっちが正しいか？」という質問には意味がない。人間ならどっちの意味で言っていたかという問題がありえるが、生成AIが出力した文字列はただの文字列なので正しいとか間違っているという事はないのである。
後者の方が正しい、と思うためにはGPT-5は脈絡のないことを言わない、という仮定が必要である。しかし、元記事にコメントした人たちはそこに非常にこだわっていることに気付いた。最後は「別の意見があると本文に加筆しろ」とまで言い始めた（なので加筆しておきました）
分かったこと
人間はすでに生成AIは本質的に正しいことを言うはずだ、と思い始めている。だから、多義性のある文章の場合、生成AIはつじつまが合っていると思える方を選ぶ。それどころか、つじつまが合わない解釈する人間は技術者・科学者として失格だ、みたいな話になりかけている（元記事のコメント欄をごらんください）
人間より生成AIが正しいと思いこむは時代はすでに来ていたのだった。