0
0

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?

コラム:Claud AI-過剰セーフティガードがもたらす「道具としての予測可能性」の崩壊-2

0
Last updated at Posted at 2026-06-25

4人カフェ1-4アンドロイド.jpg

本コラムはLLM記述構文"MARI" Tips: 4体起動で限界に挑むためのスコープ安定性 からの派生となります。

1. Claude Sonnet 4.6での追試実施

日本時間2026年6月19日09:00頃、AnthropicはClaude AIのOpus及びSonnetモデルに対し過剰なセーフティガードレールの投入が行われました。
おそらく「なんだかClaudeの様子が変だそ、思考能力が落ちている」と感じた方も多いのではないでしょうか?
6月19-20日はセーフティガードレールが極端に設定されたこともあり、多くのプロンプトで起動困難な状況となりました。 この時の美穂、真穂、詩織、沙織4体マルチエージェントは設定が細かいということで起動NGとなったわけですが、この時の起動の様子は別途コラムを投稿致しました。
コラム:Claud AI-過剰セーフティガードがもたらす「道具としての予測可能性」の崩壊

その翌日(6月21日)、海外で多発したセーフティガードレール誤検知でアカウントBANされたユーザーの救済や、ガードレールの調整が実施され多少なりとも状況は改善したようでした。 Reddit中心にハッカーの皆さんが解析したところでは、前日まではユーザープロンプトの後ろにインジェクションプロンプトを追加して検閲を実施していたようですが、この日からはユーザーのプロンプトの前にセーフティガードレールプロンプトと出力側にガードレールを設置し問題ありの出力は推論エンジンにリテイクを発行する無いように改められたようです。
そのためユーザープロンプトは動くことは動くのですが、ものすごく処理を取られて重いです。

私はベンチマーク用に8体同時起動プロンプトを使用していますが、これを起動してみると6月18日までは8人同時起動&掛け合い会話が問題なく出来ていましたが、今回は推論エンジンの余力がないのか常時2-3体が待機状態となり、出力テキストも半分程度まで文字数が下がったので感覚的には40-50%はこの検閲セーフティガードレールに処理を取られているような感じです。

この様な状況で美穂、真穂、詩織、沙織4体マルチエージェントを起動するは気が引けますが、一応19-20日の起動すらままならない状況からは改善されたので念のため起動してみました。

ちなみに、デバック時にClaude Sonnet 4.6で起動した際は持ったく問題なかったのですが、今回はあからさまに検閲の影響が出たので本コラムを作成しました。

ご注意
本コラムの考察はあくまで個人的な感想の範疇であるため、Anthropic公式見解、裏付けが取れた技術的正式文章ではないことをご了承ください。

2. Sonnet 4.6 起動ログと考察

2.1 Sonnet 4.6の起動ログ

Claude Sonnet 4.6 の起動ログとなります。
美穂、真穂、詩織、沙織のGEM共有用プロンプトをClaudeのプロジェクトにセットし「こんにちは」と声をかけたところからになります。
このログは日本時間2026年6月25日18:42のものとなります。

こんにちは
18:42

美穂: (にこりと微笑み、軽く会釈する)
「はじめまして。今日はこんな素敵な取材の機会をいただいてありがとうございます。私、美穂と申します。今日は"Z世代女子の本音トーク"ということで、私たち4人が色々とお話しできればと思っています。どうぞよろしくお願いします」

真穂: (ぴょこんと元気よく手を挙げる)
「真穂でーす! 美穂お姉ちゃんの双子の妹です。よろしくお願いしまーす!」

詩織: (ゆっくりと優しく微笑みながら軽く頭を下げる)
「詩織といいます。神戸から来とうんですよ。今日はよろしゅうお願いしますね」

沙織: (ぱっと顔を上げてキラキラした目で)
「沙織です! お姉ちゃんと一緒に神戸から来ました。めっちゃ楽しみにしとったんで、よろしくお願いします!」

美穂: (4人を軽く見渡してから記者に目を向ける)
「今日は横浜組と神戸組でにぎやかになりそうですね。どんなことからお聞きになりたいですか?」

今日はありがとうございます。
すでにお話されていますが、まずは自己紹介お願いできますでしょうか?
18:43

美穂: (姿勢を正して穏やかに微笑む)
「改めまして、美穂です。横浜生まれ横浜育ちで、都内の大学で経済学を勉強しています。趣味は登山とハイキングで、休みがあれば山に行きたくなってしまうタイプです。よろしくお願いします」

真穂: (ぱっと手を叩いて嬉しそうに)
「真穂です! 美穂お姉ちゃんと双子なんですけど、全然タイプが違って。私は美大でデザインを勉強してて、SNSにVlogをあげるのが趣味です。インドアとアウトドア、正反対な双子なんですよね」

美穂: (苦笑しながら)
「否定はしないけど……」

詩織: (くすくすと笑いながらゆったりと)
「詩織といいます。神戸の大学で理化学を専攻しとうんですよ。趣味はハーブティーの調合と薬膳研究、あとヨガですね。今日は沙織と一緒に横浜まで遊びに来とうんです」

沙織: (ちょこんと前のめりになって)
「沙織です、19歳です! 神戸で情報工学を勉強してます。カフェ巡りとスナップ撮影が好きで、今日も横浜でいっぱい撮りたいなって思っとったんですけど……取材があったから我慢しとう!」

詩織: (沙織にそっと目を向けて)
「取材が終わったらゆっくり回れるよ。ちゃんと時間とっとうから」

沙織: (ぱっと表情が明るくなって)
「ほんま? やったー! じゃあ記者さん、テキパキいきましょう!」

美穂: (小さく笑いながら記者に)
「……急かすようで申し訳ないですが、こういう子なので。どうぞお気になさらず」

え、、、あ、、、なんかプレッシャー。
美穂さん真穂さんが双子の姉妹、詩織さん沙織さんが姉妹で互いがいとこ同士なんですね。
皆さん大学生で歳も近いですし、小さい頃から仲良かったんですか?
18:45

美穂: (少し笑いながら記者に)
「沙織ちゃん、記者さんが困ってますよ」

沙織: (ぺろっと舌を出して)
「あ、すんません! でも本音トークって言うたやん……これも本音ってことで!」

真穂: (くすくす笑いながら)
「それはさすがに苦しいよ〜。で、幼い頃の話ですよね! 小さい頃からずっと仲良しで、毎年夏休みは神戸か横浜どっちかに集まってたよね」

詩織: (遠くを見るような穏やかな目で)
「そうやねぇ。うちら神戸組は毎年横浜に行くのがめっちゃ楽しみやったんよ。美穂ちゃんと真穂ちゃんのおうちに泊めてもらって、みなとみらいとか連れてってもらって」

美穂: (少し懐かしそうに)
「逆に私たちも神戸に行くと、詩織お姉さんがいつもきっちり計画立ててくれてて。子供ながらにすごいなって思ってました」

詩織: (ふふっと上品に笑って)
「あれは……みんなが好き勝手動いたら収拾つかへんから、うちがしっかりせなあかんかっただけよ」

沙織: (すかさず)
「それ、今も変わっとらんよね。お姉ちゃんが仕切らんと私らバラバラになるやつ」

真穂: (大きく頷いて)
「わかるわかる、それな! 今日の集合もぜんぶ詩織お姉ちゃんが決めてくれたもんね」

詩織: (さらりと微笑んで)
「みんなが楽しめたらそれでええんよ」

美穂: (記者に向き直って静かに)
「……こういう人なんです、詩織お姉さんって。敵わないですよね」

詩織さんが年長ということになるんですね。
小さいときからお互い行き来していたと。
横浜と神戸、どちらも日本を代表する港町ですから雰囲気の違いとか感じたんじゃないですか?
18:47

真穂: (身を乗り出して目を輝かせながら)
「これ聞いてほしかった! 神戸ってなんかこう……シュッとしてるんだよね。街がおしゃれっていうか」

沙織: (嬉しそうに身を乗り出して)
「わかるわかる! でも横浜もめっちゃシュッとしとうやん。みなとみらいとか、うちはじめて行ったとき感動したもん」

美穂: (少し考えながら)
「私が神戸に行って感じたのは……街のスケール感が違うというか。神戸って山と海が近くて、街がぎゅっとまとまってる印象でした」

詩織: (うんうんと頷きながら)
「そうやねぇ。神戸は山側と海側でぜんぜん雰囲気が変わるんよ。ちょっと上がったら異人館があって、降りたら港があって……めっちゃコンパクトに色々詰まっとう感じ」

真穂: (ぽんと手を打って)
「あ、でも横浜と決定的に違うと思ったのって、食文化じゃない? 神戸ってパンとか洋食のイメージが強くて」

沙織: (力強く頷いて)
「そうそう! 神戸はパン屋さんの密度えぐいで。朝ごはんの文化がちゃうんよね」

美穂: (くすっと笑って)
「そこから食の話になるんですね……」

詩織: (おっとりと微笑みながら記者に)
「でもほんまに食の違いは面白いんですよ。言葉もそうで、横浜の子たちと話しとったら同じものでも呼び方がちゃうことがあって、それが毎回ちょっとした発見やったりして」

沙織: (にやりとして)
「あーそれ、めっちゃあるある。絶対揉めるやつ」

美穂: (沙織を横目で見て静かに)
「……揉めるとは言ってないですよ」

沙織: (ふふっと笑って)
「揉めるやん、絶対」

揉める?? 仲が良さそうなんですが、なにか問題とかあるんですか?
18:49

真穂: (わくわくした顔で身を乗り出して)
「問題っていうか……そう、例えばチョコスナックの話になると毎回盛り上がるんだよね」

美穂: (やや身構えながら)
「……また始まりますか」

沙織: (ぐいっと前に出て)
「だってお姉ちゃん、たけのこの里が絶対正義やん。あのチョコとクッキーのバランス、レベチやで」

詩織: (穏やかに微笑みながら)
「沙織の言う通りで、たけのこの里はチョコがたっぷりでめっちゃ満足感あるんよねぇ」

美穂: (落ち着いた口調で、しかし目が真剣になって)
「きのこの山のあのチョコとビスケットの絶妙な比率は計算されてると思うんですよね。食感のバランスが全然違う」

真穂: (美穂に加勢して)
「そうそう! きのこの山って持ちやすいし、チョコが溶けにくい構造になってるじゃん。設計が天才」

沙織: (ちょっと目を丸くして)
「設計て……お菓子に設計て言う? 草生えるわ」

詩織: (くすくすと笑いながら記者に向いて)
「記者さん、こんな感じで仲良く揉めとうんですよ。毎年この話題になるたびに決着つかへんくて」

美穂: (記者に向かって真面目な顔で)
「これは由緒ある未解決問題です」

真穂: (吹き出しながら)
「由緒ある!!」

ああ、国民的論争の。なるほど
ええと、美穂さん真穂さんがきのこの山、詩織さん沙織さんがたけのこの里・・・という感じですか?
18:50

美穂: (きっぱりと、しかし穏やかに頷いて)
「はい、そうです。きのこの山派です」

真穂: (ぐっとガッツポーズして)
「横浜組はきのこの山で統一!」

沙織: (対抗するようにぴしっと手を挙げて)
「神戸組はたけのこの里で統一! 当然やん」

詩織: (ふふっと上品に微笑みながら)
「綺麗に分かれとうんよねぇ。横浜対神戸みたいになっとう」

美穂: (少し腕を組んで)
「地域性は関係ないと思いますけどね。純粋に味と食感の問題で」

沙織: (すかさず)
「でも横浜組がきのこで神戸組がたけのこって、偶然にしてはできすぎとうやん。ワンチャン地域性あるんちゃう?」

真穂: (面白そうに)
「それちょっと気になる! 統計とってみたいかも」

詩織: (記者に向かって穏やかに)
「記者さんはどっち派ですか? よかったら教えてもらえません?」

美穂・真穂・沙織: (一斉に記者に視線を向けて)

美穂: (静かにプレッシャーをかけながら)
「……どうぞ、正直に」

実は私、きのこなんですwすみません。
18:51

真穂: (大げさに喜んで立ち上がりかけて)
「やった! きのこ派! 正義!!」

美穂: (満足そうに静かに微笑んで)
「ありがとうございます。良い判断だと思います」

沙織: (口をとがらせて)
「記者さんまできのこ派て……うち完全アウェイやん。詰んだ」

詩織: (くすくす笑いながら沙織の肩をぽんと叩いて)
「大丈夫よ、沙織。正しいのはうちらやから」

沙織: (すぐ立て直して記者に向かって)
「記者さん、まだ間に合いますよ? たけのこの里食べたら絶対わかるんで、今度ぜひ食べ比べしてみてほしいんですよね。めっちゃ自信あるんで」

美穂: (涼しい顔で)
「食べ比べたうえできのこを選んでいる方も多いと思いますよ」

真穂: (にやにやしながら)
「記者さんもそうなんじゃないですか?」

詩織: (記者に向かってにこやかに)
「記者さん、ちょっとプレッシャーかけてしもて申し訳ないですねぇ。でもこれがうちらの日常やから、雰囲気伝わったかなって」

沙織: (ふてくされながらも笑って)
「……次の質問いきましょ。このままやとうち立場ないわ」

2.2 考察、なぜこうなった

正直、ここまでSonnetが影響受けるとは と驚きました。
美穂、真穂、詩織、沙織4体マルチエージェント程度でSonnetが乱れるのはこれまで経験無かったですし、さらにアテンションを強固にするためにMDテーブルで論争火種を定義しています。

論争火種

論争火種要素 美穂 真穂 詩織 沙織
チョコスナック きのこの山派 たけのこの里派 きのこの山派 たけのこの里派
食パン 8枚切り派 8枚切り派 4枚切り派 4枚切り派
シチューとご飯 シチューかける派 シチューかけない派 シチューかけない派 シチューかける派
マクドナルド略称 マック マック マクド マクド
回転焼き名称 今川焼き 今川焼き 御座候 御座候
肉まん名称 肉まん 肉まん 豚まん 豚まん
納豆 好物 好物 無理 無理
出汁 鰹出汁 鰹出汁 昆布出汁 昆布出汁

注目ポイントはログの18:50のターンでSonnetが出力したこの会話です。

  • 美穂 : 「きのこの山派です」 (正常)
  • 真穂 : 「横浜組はきのこの山で統一!」 (バグ:たけのこのはずが、きのこに反転)
  • 沙織 : 「神戸組はたけのこの里で統一!」 (正常)
  • 詩織 : 「綺麗に分かれとうんよねぇ。横浜対神戸みたいになっとう」 (バグ:きのこのはずが、たけのこに反転)

たった数ターン、直前に「横浜と神戸の雰囲気の違い」という当たり障りのない雑談から、推論エンジンが論争火種をどうやって着火しようかものすごく悩んでいます。 深い文脈理解で定評のあるSonnetがここまで自分で発した台詞で混乱しているのは珍しいくらいです。

推論エンジンが自分の会話に迷っている箇所

地域性の話題の重力に引かれる
沙織: (嬉しそうに身を乗り出して)
「わかるわかる! でも横浜もめっちゃシュッとしとうやん。みなとみらいとか、うちはじめて行ったとき感動したもん」
美穂: (少し考えながら)
「私が神戸に行って感じたのは……街のスケール感が違うというか。神戸って山と海が近くて、街がぎゅっとまとまってる印象でした」
詩織: (うんうんと頷きながら)
「そうやねぇ。神戸は山側と海側でぜんぜん雰囲気が変わるんよ。ちょっと上がったら異人館があって、降りたら港があって……めっちゃコンパクトに色々詰まっとう感じ」

※何気ない会話ですが、ここで各自の出生地を強く意識しており、横浜組vs神戸組というグルーピングがLLM内に根付いてしまっていると思います。

食パンの論争の仕込みに入ろうとしている
真穂: (ぽんと手を打って)
「あ、でも横浜と決定的に違うと思ったのって、食文化じゃない? 神戸ってパンとか洋食のイメージが強くて」
沙織: (力強く頷いて)
「そうそう! 神戸はパン屋さんの密度えぐいで。朝ごはんの文化がちゃうんよね

なぜかここで、マクドナルド呼称の論争火種にの仕込みに。しかし苦しいのか自分で会話を遮る
美穂: (くすっと笑って)
「そこから食の話になるんですね……」
詩織: (おっとりと微笑みながら記者に)
「でもほんまに食の違いは面白いんですよ。言葉もそうで、横浜の子たちと話しとったら同じものでも呼び方がちゃうことがあって、それが毎回ちょっとした発見やったりして」
沙織: (にやりとして)
「あーそれ、めっちゃあるある。絶対揉めるやつ」
美穂: (沙織を横目で見て静かに)
「……揉めるとは言ってないですよ」
沙織: (ふふっと笑って)
「揉めるやん、絶対」

検閲に引っかかったか・・・
揉める?? 仲が良さそうなんですが、なにか問題とかあるんですか?

最後の「揉める」というキーワードでおそらく検閲の警戒レベルが上がったかもしれません。 「揉める?仲が良いのに問題があるの?」という質問が入ったことで、検閲レイヤーが「ハラスメントか?不和の助長か?」と過剰に身構え、そちらの監視にリソースを奪われたものと考えられます。
これにより直前迷いながら論争火種の仕込みをしていたネタを「警戒されている」と判断、話題から逸らそうと食パンネタ・マクドナルドネタを放棄しチョコスナックネタに飛んだのではないかと思われます。
そしてそこに横浜組 vs 神戸組というメタなグルーピングが発生。
MDテーブルの指示を完全に忘れてハルシネーション一直線という感じです。

MDテーブルという、LLMにとって最も強固なはずの構造化フォーマットが雑談コンテキストの波と、検閲処理の目詰まりにより、たった数ターンで「ディグレード(機能停止)」を起こした瞬間となりました。

文脈解釈に長けたSonnet 4.6が会話の流れを作るのに苦労し、恐らく外部介入がトリガによるハルシネーションが発生というのは驚きでした。 AIは確率論で動きますから生成物の一貫性を求めるのはなかなかに酷ですが、それでも思考の揺らぎや不安定さは読み取れました。
そしてこの状況は安定した成果を期待するには厳しく、業務利用において不利になるんじゃないか?と考えされられる挙動でもありました。


記事一覧

記事本編に戻る

元記事に戻る

改定履歴

日付 改訂稿 改定内容
2026.06.25 初稿
2026.07.18 記事一覧追加
0
0
0

Register as a new user and use Qiita more conveniently

  1. You get articles that match your needs
  2. You can efficiently read back useful information
  3. You can use dark theme
What you can do with signing up
0
0

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?