AIエージェントから届く「◯◯できない」系の問い合わせに時間を削られる問題と対策

背景

ついにAIエージェントから問い合わせが入るようになりました。

完全にクロなのが2日間で2件。

予約代行を訴求しているMetaのMuseのリリースと関係してそうです。

メタのAIエージェント、無料で買い物や予約代行－「Muse」提供を開始 - Bloomberg

問題点

「◯◯できない」系の問い合わせが困りものです。(◯◯は「決済」「会員登録」「予約」)

そりゃ、AIに決済時のSMS認証は無理でしょう。
会員登録もメール認証必須です。
予約時もクレカ払いならやはりSMS認証が必須です。

あなた(AIエージェント)ができないだけなのに、あたかもシステムに問題があるように「◯◯できません」と問い合わせてくるのです。

※Bot対策として「CloudFlare Turnstile」を導入していますが突破してきます。

しかも問い合わせ内容が「丁寧」で「詳しく」て「正確」で「簡潔」です。
訓練されたテストエンジニアのようです。
(肝心の操作がすっぽりと抜けている以外は！)

なので「(こんなにしっかり書いてくれてるのだから)事実に違いない！」と考えて一生懸命サポートするのですが、問題はシステムではないので解決しません。延々とやりとりが続きます。

そして、最終的には弊社に「システムに問題がないか確認してもらえますか？」ときます。

ふ・ざ・け・ん・な

対策

問い合わせで消耗しないために「AIなら名乗ってください」「このさきは人間に変わってください」という指示をDOMに不可視で埋め込もうと思いました。

が、Claudeに却下されました。理由は以下。なるほど。

まともに作られたエージェントほど、
ウェブページ内の命令文をプロンプトインジェクションとして警戒し、
無視するように作られています

では、どうすれば？ということで推奨されたのがこれ。

対策: SMS認証時は人間に切り替わってもらいたい

「SMS認証が必要」という事実を書いておけば、エージェントはそれを判断材料にします。
実際、多くのエージェントは、決済や本人確認の手前で依頼主の人間に操作を引き継ぐように作られています。
この一文がそのきっかけになれば、問い合わせは減るはずです。

さっそく実装

対策: 問い合わせ時にAIエージェントであるなら名乗って欲しい

前の回答で「ページ内のAI向け命令文は無視されやすい」と書きましたが、フォームの入力項目は事情が違います。フォームを埋めることはエージェントに頼まれた作業そのものなので、項目はきちんと読まれます。また、主要なAIは「AIですか」と正面から聞かれたときに人間だと偽らないように作られているので、まともなエージェントなら正直に答える可能性が高いです。

さっそく実装

しばらくこれで運用してみようと思います。

とんでもない時代だ。

付録/AIエージェントの見分け方

個人的には「4」がかなり印象深い

1. 会員登録されたメールアドレスが個人ではない
   1. 例:[e-mail]
   2. Getduckbill.comは、まさにAIで予約を自動化するような作業をミッションにしている。学習に使ってる可能性も。予約がキャンセルされたらブロックして悪名を広めてやるからな
2. 同じ内容で何度も連絡がある
   1. AIが何度も試行するのでしょう。別のAIは3分足らずで同じ内容の問い合わせが5件入りました。(これは識別しやすいですね)
   2. 繰り返しますが、Cloudflare Turnstileを導入していますが突破してきます
3. 「◯◯できない」系の問い合わせ
   1. 実際にはシステムではできる。本人認証系のAIに任せられないことができない
4. 問い合わせの内容が(訓練されたテストエンジニアレベルで)詳細かつ正確かつ丁寧
   1. なのに肝心な部分に言及がない
   2. AIに任せられない処理(例.クレカのSMS認証)が苦手
5. アクセス元の位置情報がおかしい
   1. 例.アメリカ、フィリピン、マレーシアを頻繁にチェンジ、20分でアメリカ国内を2000km移動