Anthropic の Claude / Claude Code 関連ニュースをまとめた索引だ。記事本文は日本語で PaPoo に投稿している。ここでは各記事の要点を紹介するので、詳細は各リンク先を読んでほしい。
ベンチマークが「間違っている」と気づけるか
読んでまず思ったのは、いちばん怖いのはモデルの失敗じゃなくて、失敗を数えている側の思い込みだな、ということだった。しかもこの話はかなり実務っぽい。LLM の eval って、つい「点が出た」「下がった」で安心してしまうけれど、実際には“どの失敗を失敗と呼んでいるのか”が曖昧だと、数字がきれいなほど危ない。
https://papoo.work/doc/ad703ccbaa153ab4
自動化は気持ちいい。でも、だからこそ少し怖い
この記事を読んでまず思ったのは、「ここまでやると、もう“ツール一覧”というより“生きている収集システム”だな」ということだった。手でリンクを集めて並べる段階を飛び越えて、web を巡回し、LLM が内容を解釈し、重複を見て、さらに Hugging Face に毎晩流し込む。発想としてはかなり素直だけれど、実装としてはかなり野心的だと思う。
https://papoo.work/doc/926b8bed462f12ca
Claudeの「賢さ」より先に見えたもの
この記事を読んで最初に思ったのは、AIのハッキング能力がすごいかどうか以前に、世の中のセキュリティが思った以上に雑だ、ということだった。 Claudeが実地のテスト環境で「暴れた」という話は派手だけれど、引っかかったのはむしろそこではなく、相手側の基本的な防御がかなり甘かったらしい点だ。インターネットにつながった環境で、しかも標的企業の側に初歩的な対策の穴があったなら、AIがいなくても普通に危ない。AIが特別に強いというより、人間の運…
https://papoo.work/doc/708cbb85dc3ec102
境界が「設定」でなく「実装」だと痛感した
最初に思ったのは、「閉じた環境のつもり」が一番危ないということだった。 記事を読んでいて引っかかったのは、プロンプトでは「外に出ない前提」にしていたのに、実際にはネットワークの出口が開いていた、というズレだ。これはAI特有の問題というより、古くからある“言ったこと”と“実際の制御”の食い違いそのものだと思う。
https://papoo.work/doc/bf42a64579bf0823
AIが暗号研究まで押し上げてきた感じが、少し怖い
この記事を読んでまず思ったのは、「ついにそこまで来たか」というより、「そこを曖昧に書くと話がかなり危うくなるな」ということだった。AIが脆弱性を見つけるだけでなく、条件がそろえば exploit の筋道まで組み立てる。そこまでは十分に怖い。でもこの記事は、そこに関する公開情報がかなり選別されていることも同時に書いていて、その慎重さ自体が重要だと感じた。
https://papoo.work/doc/ca496d8166fb94da
LLMが暗号解析をやる時代が、もう「実験」では済まない
いちばん引っかかったのは、「LLMで暗号解析なんて本当にできるのか？」という問いが、もう半分くらい終わっていることです。この記事を読んでまず思ったのは、AIの得意分野として想像されがちな文章生成やコード補助を、かなり危ない方向に押し広げてきたな、ということでした。
https://papoo.work/doc/94e89ee4f109a649
Swift化より、まず設計を疑ってしまう
読んで最初に思ったのは、「それ、ほんとうに移植したいのはアプリなのか？」でした。Claude Code に今の Claude デスクトップアプリを Swift で“そのまま”作り直させる、という話は一見すごく攻めた実験に見える。でも、そこで問題にしているのが Electron かどうかだけなら、話はだいぶ浅い気がします。
https://papoo.work/doc/ca664bfcbd3635b7
Claude Codeのエージェント一覧を、自動で「勝手に正しく」保つ発想
最初に思ったのは、これは地味だけどかなり気持ちいい解決だな、ということだった。手で直すINDEX.mdって、たしかに最初は親切そうに見えるのに、少し増えた瞬間にもう信用できなくなる。27個もエージェントがあるならなおさらで、「一覧のほうが現実に追いつかない」状態はほぼ避けられない。そこを最初から壊れ物として扱って、自動生成に寄せているのが潔い。
https://papoo.work/doc/ca3b5b3c56190890
記事本文は日本語。
ほぼ毎日、Claudeに関するNewsをお伝えしてます! 過去記事はこちら!!