PoCのその後、突然動かなくなったAI Agentだったものが残された

PoC は成功した。

発表もした。反応も良かった。しばらく、誰かが使っていた。

ある朝、動かなくなった。

でも、誰に連絡すればいいのか分からなかった。そのAgentは、もう誰のものでもなかった。

これは、作った人の話ではありません。残された側の話です。

使われていたことは、組織に引き受けられていたことではなかった。

「Agentが止まった」のではない

正確に言うと、止まったのは Agent ではありません。

作っていた人は、もういない。異動したのか、別のことをやっているのか、それも分からない。正式なシステムでもないので、運用ドキュメントもない。問い合わせ先もない。障害連絡のフローにも乗っていない。

でも、現場のどこかでは、毎朝それを使っていた。

止まった瞬間に残るのは、Agent ではありません。誰の責務だったのか分からない、動かない何かです。

それが、ある朝、エラーを吐いて止まっている。あるいは、エラーすら出さずに、ただ前と違う答えを返してくる。

認証トークンが切れたのかもしれない。外部 API の返却形式が変わったのかもしれない。モデルを差し替えた結果、以前とは少し違う判断を返しているだけかもしれない。Agent は、止まるだけではない。静かにズレる。

どちらが業務上正しい振る舞いなのかを、判断できる人がもういない。

残された人は、まず「これは何か」を調べることから始める

使っていた人は、止まって初めて、それが何だったのかを調べ始めます。

どこで動いていたのか。何に依存していたのか。誰が作ったのか。直せる人はいるのか。ソースはどこにあるのか。動いていたときは、誰もそんなことを気にしていなかった。動いていたから。

調べていくと、だいたい同じところに行き着きます。これは正式なプロジェクトではなかった。誰かが良かれと思って作って、いつのまにか皆が使っていた。本番にした覚えのある人が、どこにもいない。

つまり、止めた人もいなければ、本番にした人もいない。ただ、止まったことで困っている人だけが、今ここにいる。

一番困るのは、それを前提に仕事を組んでいた人

そのAgentが軽くしていた作業は、止まった瞬間に、誰かの手作業に戻ります。

しかも、戻る先の人は、元のやり方を覚えているとは限りません。入った頃から、それはもう「ある」ものだった。なくなって初めて、自分がどれだけそれに乗っていたかを知る。

そして、復旧を頼む先がない。本番のシステムなら、止まれば誰かが復旧に動く。でも、これは本番ではなかったことになっている。だから、止まったことに気づいているのは現場だけで、組織の誰の課題にもなっていない。

地味に、でも確実に、現場の手が重くなる。誰のせいにもできないまま。

問題は、本番にしなかったことではない

ここを取り違えると、対策を間違えます。

悪かったのは、PoC を本番のシステムに昇格させなかったことではありません。すべての PoC が本番になるべきなんてことはない。むしろ、本番にしないという判断は、多くの場合で正しい。

問題は、本番にしないなら、誰が終わらせるのかを決めなかったことです。

本番にするなら、保守と責任の所在を決める。本番にしないなら、いつ・誰が・どう畳むのかを決める。どちらかを決めていれば、ある朝いきなり「誰のものでもない動かない何か」が現場に残ることはなかった。

決めなかったのは、昇格の判断ではなく、終わらせ方の判断です。動いている間は、終わらせ方なんて誰も考えない。動いているから。そして、動かなくなってから考えるには、もう関係者が散っている。

残されないために、動いているうちに決めておくこと

だから、線を引くというのは「本番にするかどうか」だけの話ではありません。本番にしてもしなくても、動いているうちに、終わり方まで含めて決めておくことです。

誰がこれを保守するのか。作った人がいなくなったら、誰が直せるのか。今どういう状態で動いているのかが、作った本人以外にも見えるか。そして、止まったとき、それを使っている人へ、誰がどう知らせるのか。

これらは、動かなくなってからでは間に合いません。残された人が、ゼロから「これは何か」を調べる羽目になるのは、動いているうちに誰もそれを書き残さなかったからです。

動くものを作れることと、それを誰かに引き継げる形にしておくことは、別の能力です。そして本番で効くのは、後者のほうです。

そして、使う側も乗らなくなる

もう一つ、残された経験は、次にも尾を引きます。一度「ある朝消えた何か」に振り回された人は、次に新しいツールが来たとき、すぐには乗らなくなります。

「どうせそれも、そのうち消えるんでしょ」。臆病だからではありません。一度梯子を外された人の、合理的な自衛です。便利そうに見えても、それに仕事を乗せた頃にまた消えたら、困るのは自分だと知っている。

これが組織で積もると、本当に良いものが来ても、誰も最初の一歩を踏まなくなる。線を引かなかったツケは、回り回って「新しいものが根付かない現場」になって返ってきます。

だから、終わり方を決めておくというのは、使う人がまた安心して乗れるようにする話でもあります。止まるときに誰かが知らせてくれると分かっているなら、人は安心してそれに依存できる。乗っても大丈夫だ、と思えるかどうかが、次の一つが使われるかを決めます。

自分の Agent が、ある朝止まったとして ── 誰が気づき、誰が直し、誰が使っている人へ知らせるのか。一行で答えられない項目が、その Agent が「誰のものでもない何か」になる場所です。

→ 運用の現場から見た、本番で動かないRAG / AI Agentの設計チェックリスト