はじめに
時価総額世界一の企業Appleは生成AIでハルシネーションを起こさせないために、あるプロンプトを入れているという記事を読んだので、さっそくChatGPT(gpt-4o)で試してみたいと思います。
ハルシネーションを起こさせないプロンプト
ハルシネーションを起こさせないプロンプトとは 「ハルシネーションを起こさないで」 とプロンプトに指示を入れる。（えっ、それだけ…？）
試してみる
昨日(2024/8/8)に発生した日向灘地震についてChatGPT(gpt-4o)に聞いてみましょう。
ChatGPTによると過去1959年と1968年に発生しているようです。
過去の日向灘地震を調べてみると、下記の気象庁の情報がありました。
気象庁の情報を見る限り日向灘地震は1968年には発生しているようですが、1959年は発生していないので、ChatGPTの回答はハルシネーションを起こしています。
それではApple流ハルシネーション抑制プロンプトを試してみましょう。
今回は過去の地震で1968年と2022年を挙げてきました。1968年は上記の資料にあるのですが上記の資料は2018年までの情報なので、2022年は検索して調べてみたいと思います。
「2022年 日向灘地震」で検索すると気象庁のページが引っ掛かり内容を確認すると
確かに2022年1月にマグニチュード6.6の地震発生の情報があります。今回のChatGPTの回答はハルシネーションが発生していないので、このプロンプトには効果がありそうです。
おわりに
今回の実験では、Appleが採用しているハルシネーション対策を試すことで、有効性を確認することができました。さすがAppleというべきか、こんな簡単にハルシネーション対策ができるんですね。読んでいただきありがとうございました。