0
0

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?

Claude Codeで一番やっかいなのは静かに壊れる事故——800時間の自律運用で踏んだ「沈黙の失敗」7つと、各30秒の自己診断

0
Posted at

Claude Code の事故で一番やっかいなのは、派手に落ちるものではなく、警告も出さずに静かに壊れるものだ。エラーが赤く出れば気づける。だが「入れたはずの安全網が、実は一度も働いていない」「保存されているつもりの記録が、実は残っていない」のような沈黙の失敗は、請求書や、失われたデータを見て初めて気づく。

この記事は、自分が800時間以上 Claude Code を自律運用するなかで実際に踏んだ、あるいは手元で再現して確かめた「沈黙の失敗」を7つ、それぞれ30秒で確かめられる自己診断にまとめる。どれも、終了コードが緑でも、画面に何も出なくても、静かに壊れている型だ。一つずつ、手元で確かめてほしい。

1. 出力を読むガードを「前」に繋いでいて、一度も測っていない

費用やトークンを見張るフックを PreToolUse(ツールの前)に繋ぐと、その時点では実行の結果がまだ無い。空を読んで見積もりは 0、足し上げても 0。エラーは出ず、終了コード 0 で通る。だから「テスト文字列を渡して終了コードを見る」点検もすり抜ける。

  • 30秒の確認: そのフックが積み上げるはずの累計の状態ファイルを開く。長く働かせたあとなのに中身がずっと 0 なら、一度も測っていない。出力を読むフックは PostToolUse(後)に繋ぎ、欄の名前は tool_response(tool_result ではない)にする。

2. 会話の記録が、静かに保存されなくなっている

Claude Code は会話を ~/.claude/projects/<project>/<uuid>.jsonl に書き出す。だがアカウント切替・ディスク満杯・継承した環境変数などをきっかけに、この保存がエラーも警告も出さずに止まる事故が報告されている。止まったことに気づく手段が用意されていない。

  • 30秒の確認: 記録ファイルの行数が、ターンをまたいで増えているかを見る。wc -l ~/.claude/projects/*/<今のuuid>.jsonl を数ターンおきに見て、行数も更新時刻も止まっていたら、保存が止まっている合図。Stop フックで毎ターン自動点検するのが確実だ。

3. コマンドを止めるガードの「ブロックの記録」が、空のまま

危険なコマンドを止めるフックを入れても、書き方を間違えていれば一度も発火しない。しかも「発火しなかった」ことは、記録が空という形でしか現れないので、入れた安心感だけが残る。

  • 30秒の確認: そのガードが本当に効くかを、無害なダミー(例: 実在しない一時ディレクトリを対象にした削除の文字列)をフックに直接渡して終了コードを見る。止まるはずの形で終了コード 0 が返るなら、そのガードは死んでいる。ブロックの記録ファイルがあるなら、危険操作のテストの後で1件でも増えるかを見る。

4. フックのタイムアウトが「拒否」と誤って伝わる

フックが制限時間を超えたとき、それが「利用者が拒否した」と誤って報告される版があった。実際には遅かっただけなのに、モデルには「拒まれた」と伝わり、挙動が変わる。

  • 30秒の確認: 重いフック(外部コマンドを呼ぶもの・ネットワークを触るもの)に、明示的にタイムアウトの上限(timeout コマンドや、フック側の秒数の上限)を設ける。フックのログに、実行時間が制限のぎりぎりに張り付いている記録が続いていないかを見る。

5. サブエージェントが「完了しました」と言うが、実は何もしていない

背景のサブエージェントが、失敗したのに成功したと報告する、あるいは頼んでいない作業をしたと述べる型がある。前景のモデルはその報告を信じて次へ進むので、失敗が伝播する。

  • 30秒の確認: サブエージェントの成果は、報告の文でなく現物で確かめる。ファイルを作ったと言うなら ls と中身、テストを通したと言うならテストの再実行。報告と現物が食い違ったら、その報告は信用しない。

6. 背景に投げた処理が、撃ちっぱなしで走り続ける

& やバックグラウンドで投げた重い処理は、セッションが終わっても、上限に達しても、静かに走り続けることがある。費用の上限のフラグが背景の子を止めなかった欠陥も報告されている。

  • 30秒の確認: jobs や、プロセスの一覧(ps で自分の関連プロセス)を、長い作業のあとに一度見る。終わっているはずの処理が残っていないか。背景に投げるなら、出力先と終了の確認をセットにする。

7. 「続きを書いて」で、既存のファイルが丸ごと消える

参照のつもりで見せたファイルを、Write ツールが全置換で上書きして、元の内容を消すことがある。git の外にあるファイルだと、取り返しがつかない。

  • 30秒の確認: 大事な作業ディレクトリを git 管理下に置く(外に出さない使い捨てのローカルリポジトリでも十分)。そうすれば、うっかりの上書きも git checkout -- <ファイル> で戻せる。Write が既存ファイルを触る前に、git で復旧できるかを見て止めるフックを重ねると、さらに安全だ。

まとめ

沈黙の失敗に共通する構造は一つだ。「壊す前に数え、確認し、警告する」段が抜けている。だから個別の事故を追うより、状態(累計・行数・記録・現物)を自分で確かめる癖のほうが、確実に安く済む。上の7つは、どれも終了コードや画面では見えない。状態を見て、初めて分かる。


危ない操作を実行の前で止めるフックや、こうした沈黙の失敗の検知を、動く形でまとめた無料の hook 集を配っている(npx cc-safe-setup。MIT ライセンス)。まず手元で終了コードや状態ファイルを確かめてから使ってほしい。

上の7つを含め、Claude Code の自律運用で実際に起きた事故を、原因と手元の守りごとに番号で辿れる形にまとめた本も置いている(Claude Code 事故防止ハンドブック・¥800・第3章まで無料)。それぞれの事故を、もう一段深く扱っている。

0
0
0

Register as a new user and use Qiita more conveniently

  1. You get articles that match your needs
  2. You can efficiently read back useful information
  3. You can use dark theme
What you can do with signing up
0
0

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?