【実務で撃沈】LLMを実装していたのに「ハルシネーション」を知らなかった話

はじめに

〇〇さんは実装しているときにハルシネーション対策って何を考えているのですかって？って同僚に聞かれて答えられませんでした、、そもそもハルシネーションってなんだよwってとこから始まりました

ハルシネーションとは

ハルシネーションとはAIが事実と異なる情報を、もっともらしく生成してしまう現象のことです

• そもそもなぜこれが起こるのか？
  • AIは必ずしも事実を確認してから回答をしない
    • 学習したパターンや文脈から次に続く言葉を予測して解答を生成している
      • そのために、事実を確認できていない場合でも、自然で説得力のある解答をつくってしまうことがある

ハルシネーション対策とは？

大きく3つあります。

1. 防ぐ：RAGなどを利用して信頼できる情報を参照させる

2. 検証する：AIの回答を元データと照合する

3. 影響を抑える：AIの生成結果を確認してからデータに反映する

ただし、これらの対策でも完全に防げるわけではありません。

まとめ

今回学んだのは、

AIが回答できることと、その回答が正しいことは別物だということですね、、

そして、AIの回答が正しいか判断するには、自分自身の基礎知識も必要だと感じました。

AIを使って実装するだけでなく、AIの特性やリスクも理解できるエンジニアになりたいと思いました！✨