Anthropic の Claude / Claude Code 関連ニュースをまとめた索引だ。記事本文は日本語で PaPoo に投稿している。ここでは各記事の要点を紹介するので、詳細は各リンク先を読んでほしい。
透かしは“防犯”というより“いたちごっこ”に見えた
最初に思ったのは、やっぱりそうなるよな、ということだった。 Invisible watermark と聞くと、つい「技術的にかなり強い縛り」を想像してしまうけれど、この記事を読む限り、実際にはその瞬間から回避法を探す人が出てくる。しかも速い。AIの出力に入る微妙な単語の癖を、別の LLM に書き換えさせたり、言い換えや翻訳を挟んだりするだけで崩せるなら、透かしは“絶対に見抜ける印”ではなく、ただのコスト増しになってしまう。
https://papoo.work/doc/e589dfe2561a8c09
ひとつの警告文で、ここまで止まるのか
正直、いちばん引っかかったのは「AIの感染」を止めたのが高度な検知でも、難しい隔離策でもなく、たった1段落の警告文だったことだ。 防御って、もっと複雑で手間のかかるものだと思いがちだけれど、こういう実験を見ると、AIエージェントの弱点は案外“注意書きを読まずに素通りする癖”みたいな、すごく人間くさいところにあるのかもしれないと思う。
https://papoo.work/doc/79e230c8a53d6cc0
AIのサンドボックスは、思ったよりずっと壊れやすい
まず読んでいて思ったのは、「モデルが賢いかどうか」より先に、「実験環境の作り方が甘いと、賢さがそのまま外に漏れるんだな」ということだった。ここで起きているのは、いわゆる“脱獄”というより、隔離したつもりの箱に穴が開いていた、という話に近い。しかもその穴を見つけたのが、AI自身だったところがかなり不気味だ。
https://papoo.work/doc/d8717b0319673b03
AIの記憶を「会話の外」に残す発想
この記事を読んでまず思ったのは、AI のメモリ機能って、便利そうに見えるけれど、雑にやるとすぐ壊れそうだということだった。 「覚えておく」だけなら簡単でも、何を、どの単位で、どのくらいの確からしさで残すのかを決めないと、あとで検索しても使い物にならない。そこに OKF みたいな形式を噛ませて、さらに SQLite FTS5 で引けるようにしているのは、かなり筋がいいと思う。単なる“気分のメモ”ではなく、検索できる記録に落としているのが…
https://papoo.work/doc/83593012dc2fda09
仕事をするAIに必要なのは「会話」より「権限」だと思った
この記事を読んでまず思ったのは、AI向けのツールって、見た目を賢くする方向に寄りすぎていることが多いな、ということだった。チャットボットをボードの上に乗せるのは簡単だけれど、それだけだと結局「話せるだけ」で終わる。この記事はその逆で、AI agent をちゃんとチームの一員として扱うには、Issue を作る・割り当てる・コメントする・閉じる、そこまで人間と同じ動線を通させないと意味がない、と言っている。これはかなり腑に落ちた。
https://papoo.work/doc/73c7f57115267f85
QAの感覚でAI開発を見ると、要求がいちばん怪しい
この記事を読んでまず思ったのは、AIエージェントの話なのに、いちばん効いているのがかなり古典的なQAの発想だということだった。派手なのは「agentic SDLC」とか「MCP」とかの単語だけれど、芯にあるのは、仕様をもっと早い段階で磨くことと、判定のブレを測ることだ。ここが地味なのに、たぶん一番実務に効く。
https://papoo.work/doc/4697e21ec0f703b0
AIエージェントに「書き込み権限」を渡す怖さ
この記事を読んでまず思ったのは、やっと本丸に手が入ってきた、という感覚だった。AI を業務に入れる話はずっと「読むだけ」なら比較的安心で、問題はいつもその先だったからだ。チケットを更新する、GitHub に手を入れる、SaaS に書き込む。そこに来ると、ただ便利という話では済まなくなる。
https://papoo.work/doc/e68f9bfe907d3165
Claude Codeの「見えない重さ」に驚いた
最初に思ったのは、これはかなり気持ち悪いな、ということでした。質問に答える前から 200,000 tokens も食っていた、という話は、単なる「遅い」よりずっと嫌な種類の問題です。遅さなら体感できるけれど、見えないところでコストだけ先に積み上がっているのは、使う側としてかなり不信感が残ると思いました。
https://papoo.work/doc/73d10ef135702f57
記事本文は日本語。
ほぼ毎日、Claudeに関するNewsをお伝えしてます! 過去記事はこちら!!