社内でカスタマーサポート用のAIチャットボットを運用し始めてから、「たまに事実と違うことを自信満々に答える」という声が現場から上がっていた。自分たちの実装が甘いのかと悩んでいたところ、G2が2,950件以上の検証済みレビューと4社のベンダー調査(Maven AGI、Assembled、Letter AI、Apollo.ioなど)をもとにまとめたAIチャットボットに関するレポート (https://learn.g2.com/ai-chatbot) を見つけて読んでみたら、想像以上に業界共通の課題だとわかった。
読んでわかったこと
不正確さ・幻覚が不満の第1位
2,950件以上のレビューの中で、不正確さ・幻覚への言及が不満点の13.7%を占め、コストよりも上位にきている。一方で「使いやすさ」は好きな点の30.7%を占めていて、便利さと信頼性のギャップが浮き彫りになっている。
同じモデルを使っていても失敗率は1%まで下げられる
調査対象の4社は、同じ基盤モデルの上にチャットボットを構築しているにもかかわらず、本番環境での失敗率をわずか1%程度に抑えていると回答している。差を生んでいるのはモデルそのものではなく、その周りに組んだ仕組みだった。
「モデルの周りの設計」が信頼性を決めている
4社とも、外部データに基づいて回答を裏付ける仕組み、タスク完了率を測る評価パイプライン、週1〜毎日というペースでのプロンプト更新を行っている。うまくいかない場合は人に引き継ぐ設計も共通していた。
自分のチームが次にやること
このレポートを読んで、モデル自体を変えるより先に、評価の仕組みと人へのエスカレーションフローを整える方が優先度が高いと感じた。
AIチャットボットを運用している人、これから導入を検討している人は、レポート全文もチェックしてみてほしい: https://learn.g2.com/ai-chatbot