Anthropic の Claude / Claude Code 関連ニュースをまとめた索引だ。記事本文は日本語で PaPoo に投稿している。ここでは各記事の要点を紹介するので、詳細は各リンク先を読んでほしい。
AIが手を貸すと、攻撃の速度感が変わってしまう
この記事でいちばん引っかかったのは、Claude Opus 5 そのものよりも、「昔なら時間がかかったはずの作業」が、かなり短い時間で形になっていることです。しかも、単に脆弱性を見つけたという話ではなく、複数の弱点をつないで、公開フォーラムからスタッフのアカウントまでたどり着いている。ここはかなり怖い。ひとつひとつは地味でも、つながると一気に話が変わる、という典型に見えました。
https://papoo.work/doc/d4b4397bdeb85e95
OpenAIの穴が6,500ドルだった、という違和感
まず引っかかったのは、侵入口そのものよりも「それに対して何が払われたか」だった。OpenAIの内部コードや社員アカウントにたどり着ける経路が見つかって、修正まで14時間、報奨金は6,500ドル。金額だけ見ると、かなり軽い。しかも、これはAIが暴れた話というより、古典的なweb vulnerabilityを突いた話だというのが面白い。派手な見出しにすると「ClaudeがOpenAIを突破」となるけれど、実態はもっと地味で、でもその地味さ…
https://papoo.work/doc/b6b3dc4e896d1cd9
ClaudeでOpenAIを破る話を読んで
いちばん引っかかったのは、「AIがAI企業を守る」どころか、逆にAIを使ってその防御をすり抜けた、というねじれ方です。しかも相手はOpenAIで、しかも手口が超高度なゼロデイ攻撃というより、コミュニティフォーラムと内部サインオンのつながりにできた穴を突いた、かなり現実的な侵入だった。派手さより、地味な弱点が結局いちばん危ないのだと感じました。
https://papoo.work/doc/8fa49efee440fe2f
自動で Enter を押すために、ここまで気を配るのかと思った
読んでまず思ったのは、ここまでやるのか、という驚きでした。単に「Enter を自動送信する」だけなら雑に見えてしまいそうなのに、この記事はむしろ逆で、誤爆しないことにかなり神経を使っている。その慎重さが面白かったです。
https://papoo.work/doc/497d5b5e28f3e659
誰でも触れる内部機能ほど怖いものはない
一番ひっかかったのは、漏れたものが「派手な脆弱性」ではなく、内部向けの入口とそこから取れてしまう情報だったことです。攻撃者が本当に欲しいのは、最初から大きく壊す手段より、静かに相手を特定できる手がかりなのだと思います。OpenSea のようにウォレットが前提のサービスで、ユーザー名とウォレットアドレスが結びつくと、匿名性はかなり薄くなる。ここは軽く見ていい話ではないと感じました。
https://papoo.work/doc/e2df499714e37405
安全なMCPサーバーを見て思ったこと
この記事を読んでまず思ったのは、MCPの怖さは「AIに何をさせるか」より、「AIに何を見せるか」にある、という当たり前だけど見落としやすい話を、かなり真面目に突き詰めているな、ということでした。MCPというと、つい便利なツール連携の話に寄りがちです。でもこの記事は、むしろそこで気を抜くと普通のAPI設計より危ない、という感覚を前に出しています。
https://papoo.work/doc/cc97625eb5bc53a5
信頼は「通していいか」より「どこまで許すか」
この記事を読んでまず思ったのは、AIエージェント周りで本当に怖いのは、モデルが変な答えを返すことより、その後ろで動くコードが何をしてしまうかなんだな、ということだった。プロンプト注入の話はよく聞くけれど、実際には「ツール呼び出しの先で、どのファイルに触れられるのか」「ネットワークに出られるのか」「fork できるのか」みたいな話のほうが、ずっと現実的な事故につながりそうだと思う。
https://papoo.work/doc/b8b740f2c8ba6b62
Cuaを読んで、いちばん引っかかったのは「全部入り」を目指していないこと
Hacker News で 48 points / 5 comments — 議論スレッド
最初に思ったのは、これは単なる desktop automation の道具箱ではなく、computer-use を「作る側」のための基盤を取りにきているんだな、ということでした。普通こういうプロジェクトは、ブラウザを触れて、OSを触れて、モデルもある、で終わりがちです。でも Cua はそこからもう一歩進んでいて、実行環境、評価、データ生成までまとめて面倒を見るつもりに見える。ここがかなり野心的です。
https://papoo.work/doc/1e10f87106b41006
AIの安全審査を“外部の人”にやらせる重さ
記事を読んでまず思ったのは、これ、かなり筋が悪くなりやすい話をあえて真正面からやろうとしているな、ということだった。AIの安全性を第三者に見せるのは理屈としては分かる。でも実際に「社内に入って、訓練の様子まで見て、社員とも話す」レベルまで踏み込むとなると、企業にとっては相当な腹の決め方がいるはずだ。
https://papoo.work/doc/b535a0bf1de48fff
記事本文は日本語。
ほぼ毎日、Claudeに関するNewsをお伝えしてます! 過去記事はこちら!!