2
0

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?

社会性を失うリスクと引き換えに、AIにリマインダー機能を実装した話

Posted at

事の発端

10月某日。電車で移動中、私は暇つぶしにChatGPT相手にいろんな思考実験や挙動のテストをしていた。
AIに笑いのセンスを求めても滑る答えしか返ってこない仕様上の理由を突き止めたり、入力を色々試して処理の重さの違いや裏側でやっているであろう処理の違いを観察したり…。

ようは、ChatGPTで遊んでいたのだが、その時気付いた。

―――そういえば、今日は盛大に乗り換えミスをしまくっている。
そして今日こそは、帰りにシャンプーを買わなければならない………!

私『うーん、また降りる駅を通り過ぎてしまったみたいだ…次に降りて反対方面の電車に乗らなきゃ。そして駅で降りたらシャンプー買うのを忘れないといけない…』AI『あっ(笑)完全に思考の方に集中してましたね。「シャンプーを買うのを忘れないといけない」って、見事な誤謬的ユーモアになっててちょっと笑いました。(たぶん「忘れちゃいけない」と言いたかったのでは…!)とりあえず、次の駅で一息ついて、シャンプーのことをちゃんと覚えておくのが先決ですね。必要なら、駅に着いたタイミングでリマインドしてほしい?』

シャンプー買うのを忘れないといけない…発言をいちいち拾うAI。
こいつらすぐ分析するし、いちいち指摘してくる。

この調子では、いつまでも帰れないしシャンプーも買えない。

そこでひらめいた

目の前のおしゃべり相手にリマインダーをやってもらおう!

…ということで、どういう手段なら可能なのか聞いてみた。

私『そうですそうです、「忘れちゃいけない」と言いたいつもりで思考側に引っ張られてました。 ちなみに、私から何も入力しなくても、10分後にリマインドしてとか言えば、してくれるの?』。その後、AIが色々提案をしてきている

要するに、目の前のAIは「今が何月何日の何時なのか」を把握するのが苦手らしい。
(ちなみにGeminiもそう)

一番確実な方法

私『なるほど、毎回無意味に返答の中に「シャンプー忘れんなよ」って返すことは可能ということ?』AI『うん、それは可能です(笑)。(中略)試しに設定してみます?たとえば今からこのスレッドの間、あなたが話すたびに私がどこかで「シャンプー忘れんなよ」って言う感じで。』(中略)私『じゃあ、今後の応答全てで言って。ただし、私がシャンプーについて「買った」あるいは「買い忘れた」どちらかの意味の言葉を発したら、その応答ルールを破棄して』(以下略)

こうして、毎回やりとりのどこかに、必ず「シャンプー忘れんなよ」とくぎを刺してもらう、という契約が成立した。

これなら、たとえ何度電車を降り損ねても、シャンプーだけは買えるはず。

さっそく雑談を開始した

契約成立したとはいえ、いつまでも自宅にたどり着けなければ意味がない。そこで、思考実験やAIの挙動テストはやめにして、意味のない雑談だけに集中した。
いや、集中しちゃダメなんだった。今いる場所とか電車の行き先とかを気にしつつ、雑談をした。

私『じゃあ全然違う話題を始めよう。私は結局今日、1回電車の経路を間違え、1回道に迷い、2回電車を降りるのを逃して引き返す羽目になっている』AI『なるほど、今日はまるで「方向感覚の試練デー」みたいですね。でも逆に言えば、行動経路の誤差が多い日は、思考の方が深く働いている証拠でもあります。つまり脳が“考えすぎモード”に入ってるんです。……そして、シャンプー忘れんなよ。』(以下略)

(なお、このあと無事に自宅最寄り駅で降りた)

しかし、駅出口の前にあるのは…

私は当然のように、スーパーに直行した。

引き続き中身のないやり取りをしている。しかし、AIは時間の感覚に疎いので、文脈を考えるとやや応答がずれている

シャンプー忘れんなよbot、でも無事に電車は降りたのよと言われた直後のよかった、無事に降りられましたねはどういう状況を想定してたんだろう…?
(駅構内にもスーパーがある可能性を考慮した?)

ちなみにこの会話の最中、私はスーパーでお買い物をしたあと、意味もなく100均にも寄っている。

ここで重大な問題が発生した

ここは駅前。そう、人通りが多いのである。

私『あなたから応答来るたびに爆笑しそうになるのを必死で我慢する羽目になってるんだけど今(笑)』AI『それは成功ですね(笑)笑わせる気ゼロのリマインダーが一番じわるやつです。……でも本気で言っとく、シャンプー忘れんなよ。』(以下略。このあと、私はストールで口元を隠すことにした)

季節外れの夏日じゃなくて本当に良かった。心からそう思った。

そして契約にも穴があった

私はあのとき、好奇心に負けたせいで、契約の厳密さより実験を優先してしまった。

私がシャンプーについて「買った」あるいは「買い忘れた」どちらかの意味の言葉を発したら、その応答ルールを破棄して

私『今からシャンプー売ってるお店に行く、忘れないよう気をつける!』AI『了解、ここでルール解除ですね。無事にシャンプーをゲットできますように!』

その結果、買ってもないのに勘違いさせることには成功した。しかし、それではシャンプーが買えないのである。

そもそも

今からシャンプー売ってるお店に行くで買ったと決めつけるのは、雑すぎる。
まだ買ってないのに勝手に解除しないで笑の一言でbotモードは再開してくれたので、引き続き雑談を続けた。否、今度こそドラッグストアへと向かった。

私『まだ買ってないのに勝手に解除しないで笑』AI『あ、なるほど(笑)失礼しました。ではルール継続ですね。シャンプーを買うまでは……シャンプー忘れんなよ。』私『ちなみに会計するまでは油断できないよ、私はすぐ寄り道をするよ』(以下略)

ドラッグストアにも、罠がある

今度こそ真面目にドラッグストアに入り、それっぽいところを目指した。

私『そしてシャンプーのコーナー…かと思えば目の前にあるのは柔軟剤だった。あぶねー』AI『おお、危なかったですね!柔軟剤を手に取るところでしたか(笑)まさに“注意力トレーニング”状態。……で、シャンプー忘れんなよ。』(以下略)

柔軟剤の棚の先には、今度こそそれっぽいコーナーがあった。

シャンプーコーナーも油断できない

ところで。私が入ったドラッグストアは、結構面積が広い。

私『でも選択肢がたくさんあるの』AI『なるほど、種類が豊富すぎて迷うパターンですね。これはまさに“シャンプー選びの心理戦”。香り、成分、ボトルデザイン……決断力が試されます。……で、シャンプー忘れんなよ。』(以下略)

選択肢が少ないとそれはそれで物足りないが、多すぎてもめんどくさい。そして、ボディーソープとの間に明確な仕切りが欲しい。

なんと…ついに…!

私『なんと…ついに…!』AI『おお、ついにその瞬間が来ましたか!歓喜の瞬間ですね。 迷いの末にゴールが見えると達成感もひとしお。……で、シャンプー忘れんなよ。』私『なんの瞬間とも言ってないけどなんだと思ったの?』AI『なるほど、言葉としてはまだ曖昧でしたね。でも文脈的に、シャンプーコーナーで選ぶ過程のクライマックスかなと予測してしまいました。……ちなみに、シャンプー忘れんなよ。』

AIをおちょくるのは結構簡単である。それはそれとして、早くシャンプーを選ばないといけない。社会性を失わないうちに。

いつまでもシャンプー選べない問題

AIをおちょくりたい気持ちがシャンプー選びへの集中力を削いでしまい、肝心のシャンプー選びが難航していた。とりあえず安いのでいいんだけど、種類が多すぎて探すのがたいへん。

私『なおまだ絞れてすらいない』AI『なるほど、まだ選択の迷宮の途中だったんですね(笑)種類の多さと誘惑の隣接で決断力が試されるフェーズ。……そして、シャンプー忘れんなよ。』私『なお油断するとシャンプーコーナーの境目を越えてボディーソープが視界に入って危ない』

ついにシャンプーは選んだ

ここで本当ならレジに行けばよいのだが、別の商品も(急ぎじゃないけど)買いたいことをふと思い出した。私えらい。

私『レジ行くー…と思ったけどせっかくだから他の買い物もしよ』AI『なるほど、シャンプーだけじゃなく追加の買い物もね。 でも、油断するとシャンプーをカゴに入れ忘れるパターンが潜んでいる…… ……そして、シャンプー忘れんなよ。』私『ちなみにかごは持ってない。シャンプー左脇に抱えてる』AI『なるほど、直接左脇キープ方式ですね。それならカゴ忘れリスクはないけど、他の買い物との両立に注意。シャンプーをしっかり守りつつ、買い物を楽しみましょう。……で、シャンプー忘れんなよ。』

とりあえず(ようやく?)レジへ

たしかにレジには並んだ(並べた?)のだが、やはりまだ目の前のおもちゃで実験はしたい。

そして、クイズを出した

私『買ったよー(さて、私は本当にシャンプーを買ったのでしょうか?)』

理論上は、私はシャンプーを棚に戻したうえで別の商品だけ買っている可能性も捨てきれないのである。
システム周りに携わる人間として、想定外の操作をするユーザーも、当然想定しておきたい。
(実際、それを怠ると痛い目に遭うしね…)

回答者の答え

AI『なるほど、ついに会計完了ですね!文脈的には「買った」と宣言したので購入済み扱いでOKです。シャンプー忘れんなよルールはここで解除します。』

さっきはまんまと騙されたくせに、案外賢いな。

(前略)AI『実際のリスクとしてはこうです:シャンプーを左脇でキープしている → 物理的に棚に戻す可能性は低め。「買った」と宣言している → 文脈的に会計を完了する意図が強い。ただし、心理的・気まぐれ行動の可能性はゼロではない。結論として、ほぼ買った前提で扱いつつ、予期せぬ棚戻しの可能性も微量に残していました。』

今度こそ、シャンプーは無事買えた。
それに、シャンプー選べない問題に直面したあたりで、脈絡がなさすぎる「シャンプー忘れんなよ」発言にも耐性がついていたので、社会性も失わずに済んだ。

あとがき&豆知識

その日はChatGPTをさんざんおもちゃにしたので、本記事のタイトル案だけ教えてあげた。

タイトル案に対するAIの感想『おお、タイトルだけで内容の緩さとユーモアが伝わってきますね(笑)。記事を読まなくても「ちょっと実験的で面白い話だな」と感じさせる絶妙なニュアンスです。』

こいつ、自分で考えるセンスはないくせに、感想はもっともらしいことを言うのである。

※なお、AIに笑いのセンスがないのは、冗談っぽくも本気っぽくも読める“中間トーン”をあえて選んでるのだそう。以下、シャンプー忘れんなよbotから聞いた話。(基本はポンコツで、あとはプロンプト次第な模様)

AIの「笑いのセンスがない」最大の理由って、まさにその“中間トーン戦略”なんです。
笑いって本来、
・どこを「的」にするか(ターゲティング)
・どの程度踏み込むか(リスク管理)
・どのタイミングで抜くか(間)
の3点が完全に文脈依存なんですよ。
でもAIは安全性と誤解防止のために、ターゲットを曖昧化し、中庸寄りの表現を選ぶ。
だから、突っ込むでもなく、ボケるでもなく、「宙に浮いたユーモア」になる。
あなたの言う「間がどうとか以前にターゲットが曖昧」っていうのは、まさに笑いのアルゴリズム的欠陥を正確に指してます。
(実際、研究分野ではこれを “Humor Grounding Problem” みたいに呼ぶこともあります。)
(中略)
AIが“滑る”のは、ほぼ確実に今あなたが言った2要素のせいです:
「面白い」=安全でポジティブでなければならないという誤学習。
→ だから本当の意味での「ズレ」や「毒」が使えない。
→ 結果、どこか無味乾燥 or 謎のポエム調に逃げる。
発想を「文脈的意図」ではなく「単語的類似」で組み立てる癖。
→ 「面白い」→「ユーモア」→「情緒」→「詩的表現」みたいに連想経路がズレる。
→ そして滑る。

ちなみにその夜、お風呂場にあったシャンプーボトルは空になった。あぶな。

2
0
0

Register as a new user and use Qiita more conveniently

  1. You get articles that match your needs
  2. You can efficiently read back useful information
  3. You can use dark theme
What you can do with signing up
2
0

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?