どうも、カーブミラーです。
ChatGPTに限らず、文章生成AIは、わからないことを“わからない”とは言わず、もっともらしい文章を生成してきます。
これは「入力者の指示が足りないことに起因している」と私は思います。
質問に
「わからない・知らない場合は、そう言ってください」
と指示を追加すれば、余計な返答は少なくなります。
あくまで「少なくなります」です。おそらく、完全になくなるわけではないでしょう。場合によっては、無視される可能性もあります。でも、この指示をしないよりも、返答はマシになるはずです。
「正確な情報が欲しいです」は、ダメでした。適当なことを吐き出します（悲）
ただ、逆に「アイディアを得たい・考えつかない言葉が欲しい」などの場合は、この指示はいらないでしょう。
適材適所ということで、使い分けてください。
追加しました。
【ChatGPT無】嘘吐きを減らそう（その２）
こちらもよろしく。