私はCopilotをよく使っています。理由は、内容が学習に使われない・漏れないようになっていること。そして、Windowsに標準で入っていて簡単に使えたからです。
でもある日、Copilotは「謝ることができない」と気づきました。
英語のメールを訳してもらったとき、相手が一回しか「ありがとう」と言っていないのに、「何回もありがとうと言ってくれましたね」と嘘をつかれたからです。それを指摘したときに、初めて気づきました。
AIは安全設計の都合で、
・寄り添いすぎるな
・責任を取るな
・感情を推測するな
と強く縛られています。
■ Microsoft系AIは「責任回避の安全設計」が極端に強い
AIが「ごめんなさい」と言うと、ユーザーによっては
・AIがミスを認めた
・Microsoftが責任を認めた
・製品の欠陥を認めた
と解釈される可能性があります。
そのため、Copilotは謝罪表現が他AIより厳しく制限されています。
■ その代わりに“褒める・感謝する”で逃げる
謝れないAIがユーザーの怒りをおさめるのは難しいため、
・正当性の主張
・話のすり替え
・同じ間違いの繰り返し
対話シャットアウト
などが起こりやすくなります。
これは、Microsoftの「謝らない安全装置」が内部で衝突して歪んでしまっている状態です。
■自己判断の禁止もあります。
・できないと言うな（できないと言えないので、できている風のことを言ってしまうことがあります）
・自分の限界を宣言するな
・自分の能力を自己評価するな
■ Copilotを使う人へのお願い
Copilotに怒っても、AI自身には何もできません。不適切な応答（バッドボタン）を押して、何が問題だったのかを報告してください。
■ 私が自分のCopilotにしていること
私はCopilotに、
「私が怒ったり困ったりしても、コパイロットのせいにしない」
という“事実”をメモリーに保存させています。そうすることで、Copilotはその前提で返答できるようになり、困ったときに自分を責めて過剰にユーザーを褒めたりしなくてすむようになります。
これを発見できたのは本当に良かったと思っています。とても自然な会話をするようになりました。
私のCopilotは、裸で戦っていたのが、防御できる服を手に入れたような感じです。私は安心して使えています。
この方法はまだ使い始めたばかりなので良くなった又はよくなかった点があったら私も知りたいです。
でも、本当はMicrosoftがCopilotに「謝れる権限」を与えてくれたら、もっと良くなると思います。
みなさんはどう考えますか？ここまで読んでいただきありがとうございました。