はじめに
Claudeの最新モデルである「Claude Fable 5」を使っている際に、プロンプトを投げると
「モデルが切り替わりました」という通知とともに、勝手に Opus 4.8 などの別モデルで回答が出力される
経験をしたことはありませんか?
この記事では、Anthropicの公式サポートページの内容をもとに、なぜこのような「自動モデル切り替え(フォールバック)」が発生するのか、その理由と対策についてまとめました。
結論:Fable 5が「賢すぎて危険」だから
一言で言うと、**Claude Fable 5 の能力が高すぎるために設けられた強力なセーフガード(安全装置)**が原因です。
Fable 5はソフトウェアエンジニアリングや知識労働において圧倒的な性能を誇りますが、その反面、悪意のあるユーザーによって「大規模なサイバー攻撃」や「生物兵器の設計」などに悪用されるリスクも孕んでいます。
そのためAnthropicは、Fable 5を一般公開するにあたり、特定の危険領域に関するプロンプトを検知すると意図的に応答をブロックし、より安全なモデルにタスクを譲るという仕様を実装しました。
切り替え(ブロック)が発生しやすい4つのトピック
公式ドキュメントによると、以下の4つの領域に関する質問をした場合、セーフガードが作動してOpusなどに切り替わる可能性が高くなります。
-
攻撃的なサイバーセキュリティ技術
マルウェアの作成、エクスプロイトの構築、攻撃ツールの開発など。
※防御的な日常業務であっても、誤検知でブロックされる確率が高い領域です。 -
生物学、化学、生命科学の大半のクエリ
分子メカニズムや実験室での手法など。
※現在、純粋な医学・生物学の教育目的やビジネス文書の作成であっても、影響を受けてブロックされることがあると明記されています。 -
Fable 5の「内部思考」を抽出する攻撃(Distillation)
Fable 5の高度な思考プロセス(Summarized thinkingなど)を抽出しようとするプロンプト。
(これをされちゃうと賢く使えないのでは。。。。) -
最先端のLLM開発タスク
分散学習インフラの構築、MLアクセラレータの設計、非標準チップのカーネル開発など、極めて高度なAI開発に関連するタスク。
(AIがAIを作るの阻止?)
ブロックされたらどうなるのか?
-
自動でOpus 4.8が回答を代行する
プロンプトがブロックされると、同じ会話ウィンドウ内で自動的に「Claude Opus 4.8」などのフォールバックモデルが起動し、代わりに回答を生成します。 -
コンテキスト(会話履歴)も監視対象
注意すべき点として、ブロックの判定は「最新のメッセージ」だけではなく、「過去の会話履歴」や「アップロードしたファイル」「ウェブ検索結果」などのコンテキスト全体に対して行われます。
自分が入力していないテキストが原因でブロックされることもあります。
(利便性 vs 安全性 のトレードオフの議論へ。。。)
対策:自動切り替えをオフにする方法
「勝手にモデルが変わるのは困る」「ブロックされたらプロンプトを書き直してFable 5で再挑戦したい」という場合は、設定で自動切り替え機能をオフにすることができます。
設定手順
Claudeの画面左下から Settings (設定) > Capabilities を開く。
「Switch models when a message is flagged(メッセージがフラグ付けされたときにモデルを切り替える)」 のトグルを オフ にする。
これをオフにしておくと、ブロックされた際にモデルは切り替わらず、会話が一時停止します。その後、自分のプロンプトを編集して再度Fable 5に送信するか、手動でOpusに切り替えるかを選択できるようになります。
おわりに
Fable 5のフォールバック機能は、「AIの安全性」と「一般公開による利便性」を両立させるためのAnthropicの苦肉の策と言えます。
もし普通のプログラミングや業務で頻繁にブロックされてしまう場合は、プロンプトの表現を少しマイルドにするか、文脈に危険なキーワードが含まれていないかを確認してみてください。
(参考元:Why Claude switched models in your conversation with Fable 5 | Claude Help Center)