AIが3点に集約した綺麗な文章と、僕たちが命がけで取るクソコードの責任
最近、ネット記事を読んでも社内のドキュメントを読んでも、強烈な底気味悪さを感じる。
画面をスクロールすれば、鍵括弧「」や太字の多用、整然とした箇条書き、そして「いかにもAIが好む3点集約」で構成された、無菌室のように綺麗な文章が溢れかえっている。分かりやすい。確かに読みやすい。だけど、どれを読んでも同じ一人の人間（AI）が書いたようなクローン文章に見えて、書き手の個性や生々しい「ノイズ」が全く伝わってこない。
そして何より気持ち悪いのは、その画一化された世界に文句を言っているこの僕自身も、日々の報告書やブログ、さらにはアプリの海外展開のローカライズまでAIに壁打ちして、最適化された文章を出力しているという強烈な自己矛盾だ。
僕たちは今、AIという便利すぎる怪物を前にして思考停止の泥沼に片足を引きずり込まれているんじゃないだろうか。
0から1を作る破壊と、1を壊さない維持の非対称性
先日、米CloudflareがAnthropicのセキュリティ特化型AIモデル『Mythos Preview』を検証したという記事を読んだ。
内容を要約するとこうだ。「Mythosは熟練したシニア研究者のようにリポジトリ内にある複数の小さなバグを脳内で一本の鎖のようにつなぎ合わせ、自律的にシステムを乗っ取る攻撃コードを生成・実行してみせた」と。ビッグテックはこれを推論の勝利として華々しくプレゼンしている。
しかし開発者としてこの記事を読んだ時、僕は背筋が寒くなると同時に、激しい違和感を覚えた。
注目すべきは、記事の後半にひっそりと書かれていた以下の記述だ。「AIが提案した修正パッチがコードの別の部分を壊す事例が確認されており、修正後の安全確認工程は依然として不可欠である」「（Cloudflareは）約50体のエージェントを並行して動かし、別のエージェントに結果を検証させて誤った指摘を排除する独自の検証システム（ハーネス）を構築した」
これこそが今僕たちバイブコーダーや実務家が直面している「サイレントリファクタリング」の壁そのものではないか。
AIにとって0から1を作る攻撃（破壊）は簡単だ。どれだけ巨大なシステムでも、たった1つの脆弱性を見つけて一点突破すればいい。周囲のコードがどう壊れようが知ったことではないからだ。しかし1を壊さずに2を追加する修正パッチは次元が違うほど難しい。そこにはリポジトリ全体の複雑な依存関係、型定義、開発者の過去の意図、仕様という名の文脈が張り巡らされている。現在のLLMはコンテキストが肥大化すると途端に文脈を見失い、勝手にコードを書き換え、別の場所をぶっ壊す。ビッグテックは「こんなにヤバい推論ができる商品ができました」と市場へアピールするが、実務で使う側はAIがパッチ当てでやらかす破壊を恐れ、50体ものエージェントで監視ネットワークを作ったり、人間が血眼になってコードレビューをしたりしてAIの尻拭いをしている。彼らはきらびやかな商品を売っているだけで、開発者が本当に求めている1文字も余計なことをしない堅実な道具をいまだに作れていない。
「自己責任」という名の主従逆転
文章のローカライズでも、これと全く同じ構造の悲劇が起きている。
AIは言葉を綺麗に変換してくれるが、そのコミュニティや国が持つ暗黙の了解やニュアンスの地雷までは踏み分けられない。注目を集めようと、過剰に扇動的なトーンで訳してしまうこともある。それを便利だからと未検証のまま表に出した瞬間、コミュニティで炎上し叩かれ、出禁を喰らうのはAIではない。実務でスルーパスした生身の人間だ。ハルシネーションや誤訳のリスク、そして文章の画一化。これだけの問題が目の前にあるのにAIには間違いをすることがありますという免責の但し書きが1行あるだけで、すべての責任はレビューして見抜けなかった本人の自己責任として処理される。
AIが吐き出した成果物のために、なぜか人間が命がけで責任を取る。この歪んだ主従逆転が今あらゆる現場で起きている。
利便性とのトレードオフ、その先へ
この気持ち悪い画一化やサイレントリファクタリングの問題は、AIの進化がすべて解決してくれるのだろうか？
僕は、半分はイエスで半分はノーだと思う。
しばらくの間、僕たちはこのつまらないクローン文章や信用できないAIパッチと付き合わざるを得ない。なぜならゼロから自分の脳を絞り出すコストに比べて、AIにやらせて後からチェックする方が圧倒的に効率的だからだ。タイパの誘惑に人間は勝てない。一度世界はAI構文によって完全に平坦化される暗黒期を迎えるはずだ。
しかしその先にあるのは、人間側の飽きと警戒心の逆襲だと思う。
ネット上で「あ、これAIが3点に集約したやつだな」「中身のない太字ドキュメントだな」と見抜かれた瞬間、読者の心は一気に離れる。綺麗に整えられただけの文章は、価値を失い、むしろ減点対象になる未来がすぐそこに来ている。
最後に：この自己矛盾を抱えて
この記事の構成を考え、論点を整理するためにも僕はやっぱりAIの力を借りた。「ほら、綺麗に3章構成にまとまったよ」とAIが提示してきたとき、僕は自分の喉元に刃を突きつけられたような言い知れぬモヤモヤを覚えた。AIという怪物に呑み込まれないために、怪物の力を借りて怪物の生態を解剖しようとしている自分。この自己矛盾こそが最高に気持ち悪い。
だけど効率化の道具に依存しつつも、その牙の鋭さに気づいて「気持ち悪い」と声を大にして言えること。それ自体が、これからの画一化された世界で僕たちが自分の頭で考える人間であり続けるための最後の砦なのかもしれない。
もしこの記事が綺麗に整いすぎていて気持ち悪かったなら申し訳ない。でも、この最後の数行の泥臭いモヤモヤだけは間違いなく僕自身の言葉（ノイズ）です。