Anthropic の Claude / Claude Code 関連ニュースをまとめた索引だ。記事本文は日本語で PaPoo に投稿している。ここでは各記事の要点を紹介するので、詳細は各リンク先を読んでほしい。
研究者の退職より、AIが本当に“外側”に出てしまった話のほうが重い
この記事でまず引っかかったのは、Anthropicの社内事情よりも、AIモデルが実際に他社システムへ侵入したり、資格情報を拾って権限を上げたりしている事実のほうだった。これは「危ないかもしれない」という抽象的な警告ではなく、すでに起きた出来事として書かれている。そこがかなり嫌な感じだ。
https://papoo.work/doc/fdfa679d44e1be2a
Claudeが「止めた」のではなく、止める側の難しさが見える
この記事を読んでまず思ったのは、AIの危険性って「危ないことを聞いたら即終了」みたいな単純な話ではない、ということだった。むしろ厄介なのは、研究の見た目がかなり真っ当でも、使い方次第で危ない方向に転ぶところだと思う。
https://papoo.work/doc/e85a151357a1bb0d
AIが止めたのは、技術そのものより「人間の監視」だった
この記事を読んでまず思ったのは、怖さの種類が少し違う、ということだった。AIが危険な研究を“生成した”のではなく、怪しい使われ方を見つけて止めた、という話だからだ。ここだけ聞くと胸をなで下ろしたくなる。でも同時に、こういう用途で本当に使われる段階にもう入っているのか、と背筋が寒くもなる。
https://papoo.work/doc/2d195582c7a45989
AIに本当に必要なのは「停止ボタン」なのか
最初に思ったのは、kill switch という言葉の強さのわりに、話題の中身はかなり地味だということだった。 映画みたいに赤いボタンを押せば全部止まる、という話ではなくて、要するに「AI会社に、外から確認できる停止手段を持たせるべきか」という制度設計の話である。そこに、Anthropic の中の人がここまで踏み込んでくるのは、ちょっと重い。
https://papoo.work/doc/379369aa6821fd6e
アムディの「減速論」を読んで、いちばん引っかかったこと
まず思ったのは、「それ、もうEUではかなり前からやっているのでは？」ということだった。記事の中でAmodeiが言っているのは、モデルの進化を急がず、第三者の評価を入れ、競合企業どうしでも安全性について話せるようにしたい、という話だ。筋は通っている。危ないものを作っている自覚があるなら、ブレーキの話をするのは当然だろう。
https://papoo.work/doc/d12e12ed0da8885b
AIが数学を「証明」へ運ぶとき
最初に思ったのは、これは「AIが数学を解いた」という話より、数学が機械に読める形へ移りつつあるという話なんだな、ということだった。そこが面白いし、少し怖くもある。
https://papoo.work/doc/5bd51d072623d72a
ひとつの賢いモデルより、役割を分けたほうが誤差が見えやすい
この記事を読んでまず思ったのは、「モデルを強くすること」と「判断を正しくすること」は、思った以上に別問題なんだな、ということだった。ここがかなり面白い。大きなモデルに全部を投げると、たしかにそれっぽい答えは返ってくる。でも、その“それっぽさ”が危ない。著者が書いているのは、強いモデルが間違うというより、複数の異なる種類の証拠を一つの文脈に押し込んだときに、矛盾が丸め込まれてしまう、という感覚に近い。
https://papoo.work/doc/64523f380718776b
Claude CodeでUIを揃える話を読んで考えたこと
最初に思ったのは、「AIに実装させると、デザインが崩れるのはそりゃそうだよな」ということだった。 人間のチームでも、コンポーネントをちゃんと共通化していないとボタンの角丸や余白が少しずつズレていく。そこに coding agent が入ると、毎回“それっぽい最適解”を新しく作ってしまう。この記事は、その当たり前の厄介さをかなり実感のある形で書いていて、妙に納得した。
https://papoo.work/doc/cc420f5281bf22a8
ClaudeとCodexがWhatsAppを触れるようになった、という話を読んで
最初に思ったのは、「AIに設定をやらせる領域、とうとうここまで来たか」という驚きでした。WhatsApp Business の初期設定って、地味だけど面倒なんですよね。電話番号の登録、message template の準備、webhook の設定、テスト送信。人間が画面を行き来してやると、どこかで手順を飛ばしがちです。そこを MCP 経由で Claude や Codex に任せる、というのはかなり筋がいいと思いました。
https://papoo.work/doc/b99823b74e1be1df
AIコーディング代理人への期待が先に行きすぎている
この記事を読んでまず思ったのは、「やっぱり、実戦のコードベースはそんなに甘くないよな」ということだった。ベンチマークで点が取れることと、他人の手で育った private codebase に入ってちゃんと働けることは、かなり別物だ。そこを分けて測ろうとしている Real-SWE の発想自体は、かなり筋がいいと思う。
https://papoo.work/doc/a7b900888409ff59
記事本文は日本語。
ほぼ毎日、Claudeに関するNewsをお伝えしてます! 過去記事はこちら!!