どうも、カーブミラーです。
今回は、ハルシネーション対策 5選をご紹介です。
本記事は、ChatGPT（Plus版）
で行なっております。
画像はありません。あしからず。
ChatGPT等の動作状況を知らせる
OpenAIのステータスページ。
OpenAIステータス
こちらも載せますね。
ChatGPTが使えない？ログインできない・反応しない原因やエラー時の対処法を解説
まずは、ニュースです。
昨日（2025/02/16）
書きましたとおり、
GPT-4oが新しくなりました。
それと
Web版では
“編集ができない”とも
書きました。
それが直って、
編集できるようになりました。
また、
編集だけでなく、
コピーもできるように。
ただし、
このコピー、
クセがあります。
セッション最初の入力には
カスタマイズの文言が
含まれていますし、
ほかの場合は
コピーできないことも。
ChatGPTからの回答のコピーは
ふつうに行なえます。
次に
イーロン・マスクが
ポストしました。
イーロン・マスクポスト
“Grok 3を、
月曜夜8時（PT）に
ライブデモとともにリリース予定”
日本時間(JST)では
2025年2月18日(火)午後1時ね。
では、【本題】です。
今回は、
ハルシネーション対策
５選をご紹介します。
ハルシネーションは、生成AIが
事実とは異なる情報を生成したり、
架空の内容を作り出したりする
ことを言います。
すぐるさんのポストを
参考にしました。
すぐるさんポスト
すぐるさんは
AIの研修・開発を行なう
株式会社UravationのCEOです。
すぐるさんのポストは
Anthropicが出した
Claudeのための
ハルシネーション対策をもとに
作成された模様です。
Anthropic公式ページ
なお、すぐるさんのポストは
画像のため、ChatGPTに
読み込ませ、体裁を整えました。
（ChatGPT）
ハルシネーション対策 5選
近年、AIの活用が進む中で「ハルシネーション」と呼ばれる誤情報や事実と異なる回答の生成が問題視されています。本記事では、AIのハルシネーションを防ぐための5つの方法を紹介します。
1.「わからない」と言える環境を作る
AIが不確実な情報を生成しないようにするためには、AIに「わからない」と回答する許可を明示的に与えることが重要です。AIが無理に回答を作成するのではなく、確実な情報がない場合は正直に答えるよう促します。
例：
この質問に確信が持てない場合は、「わかりません」と正直に答えてください。
2. 直接引用を使用して事実を根拠付ける
長文の分析や回答を行う際には、まず関連する直接引用を抽出し、その情報に基づいて回答を作成するようにします。これにより、AIが独自に情報を生成するリスクを減らし、正確な事実に基づいた回答を得ることができます。
例：
まず、文書から関連する直接引用を3つ抽出し、それらに基づいて回答を作成してください。
3. 引用による検証
AIの回答が信頼できるかどうかを確認するために、各主張の根拠となる引用を求めるようにします。これにより、AIが適当な回答を生成するのを防ぎ、回答の信頼性を向上させることができます。
例：
あなたの回答の各ポイントについて、文書から直接引用を提供してください。
4. 段階的思考の検証
AIの推論過程を段階的に説明させることで、論理の誤りを発見しやすくなります。特に、複雑な問題や推論が求められる質問に対しては、結論を出す前にその過程を明確に説明させるとよいでしょう。
例：
最終的な結論を出す前に、あなたの推論過程を段階的に説明してください。
5. 反復的な改善
AIの出力をそのまま使用するのではなく、前回の回答を確認し、誤りや不一致がないかを検証するプロセスを取り入れます。不正確な情報が含まれている場合は、それを修正し、より信頼性の高い回答に改善していくことが重要です。
例：
前回の回答を再確認し、不一致や不正確な点があれば修正してください。
まとめ
AIを活用する際には、ハルシネーションを防ぐための対策を意識することが重要です。
- AIに「わからない」と言わせる環境を作る
- 直接引用を用いて事実を根拠付ける
- 引用を求めて回答の正確性を確認する
- 段階的な思考を促して論理の誤りを防ぐ
- 反復的な確認と修正を行う
これらの対策を実践することで、より正確で信頼性の高いAIの利用が可能になります。
ハルシネーションは
うまく使えば、
アイディアになりますが、
事実とは異なるという点では
実務執行には
障害となります。
事実とすぐにわかるレベルなら
問題はありませんが、
文脈からそれを判断するには
事実を知っている必要が
あります。
生成AIから得たい
回答の多くは、
得てして、事実を知らない場合が
多いかと思います。
ハルシネーションをなくすことは
難しいと聞きます。
しかし、今回紹介したことを使えば、
ハルシネーションを抑えることは
可能です。
みなさんの
作品制作の糧に
なれば、幸いです。
今回は、ここまで。