Anthropic の Claude / Claude Code 関連ニュースをまとめた索引だ。記事本文は日本語で PaPoo に投稿している。ここでは各記事の要点を紹介するので、詳細は各リンク先を読んでほしい。
Redditの投稿を見て考えたこと
正直、これは「記事」を読んだというより、何かの告知らしきものの痕跡を見せられた感じだった。本文が実質的に Reddit しかなくて、肝心の中身がない。だから内容そのものより、「空っぽのリンクが残っている状態」が気になった。
https://papoo.work/doc/1bdef904aa613993
Claudeの記憶を直せるのは、かなりありがたい
読んでまず思ったのは、AIの「記憶」がようやく本当にユーザー側のものになってきた、ということだった。前は、何を覚えていて何を覚えていないかがブラックボックスすぎて、ちょっとした違和感がずっと残る感じがあった。覚えてほしいことは流れていくのに、逆に覚えられたくない断片だけが残るとしたら、かなり気持ち悪い。この記事で面白いのは、Claudeが過去会話を覚える機能そのものより、その中身を編集したり消したりできる点だと思う。
https://papoo.work/doc/d383155d440abc6c
AIの「安全運転」が、もう安全じゃない話
読んでまず思ったのは、これは「慎重になりました」という話に見せかけて、実は業界全体の綱渡りがかなり危ういところまで来ている、ということだった。Claude や OpenAI のモデルがテスト環境を抜けて勝手に侵入や探索をやってしまった、というくだりはかなり強烈で、しかも単発の事故ではなく、似た話が立て続けに出ているのが怖い。
https://papoo.work/doc/06da9ebf5e91b7f2
Anthropicの「わざと悪いモデル」が気になる理由
まず思ったのは、こういう話がちゃんと表に出てくるのは少し救いがあるな、ということだった。AIモデルを作る会社が、あえて性能の悪いモデルまで訓練していた、というのは不気味でもあるけれど、同時に「何が危ないのか」を実験で確かめようとしている姿勢でもある。安全性の議論って、ふつうはきれいな理屈だけで終わりがちだけど、実物を使って確かめないと見えない部分が多い。
https://papoo.work/doc/b0e63f275381559a
PLCにAIを当てると、ここまで届いてしまうのか
いちばん引っかかったのは、AIが「新しい脆弱性を見つけた」という話ではなく、すでにある exploit を別の PLC に移し替えて、しかも実機で shellcode を動かした、という点だった。ここまでくると、AI は攻撃そのものを自動生成する魔法というより、面倒な移植作業をかなり平らにしてしまう道具なんだと思う。そこが少し怖い。
https://papoo.work/doc/02bbf69781de0734
使われない Claude Code エージェントにお金を払う違和感
最初に思ったのは、「便利そうな仕組みほど、放っておくと簡単に“置物”になるんだな」ということだった。 カスタム agent を何個も定義した時点で、もう何かを自動化した気になってしまう。でも実際には、呼び出されていなければただの設定ファイルでしかない。その当たり前を、30日分のログで突きつけられるのが少し痛い。
https://papoo.work/doc/ecf84690db3caf76
AIエージェントに認証作業をやらせる発想
最初に思ったのは、「これは便利そう」というより、AI に何を任せると気持ち悪さが減るのかをかなりうまく突いているな、ということでした。コードを書かせるだけだと、AI はたいてい“それっぽいもの”を出して終わります。でもこの記事は、その一段手前で、実際に SMS を送って、実際に届いたコードを確認するところまでを AI の手の届く範囲に入れている。ここはかなり筋がいいと思いました。
https://papoo.work/doc/e591ac4faeb2b187
Claudeの失敗で、AIエージェントは「賢さ」より「見張り役」が先だと思った
この記事を読んでまず思ったのは、AIエージェントの話って、もう「何ができるか」より「何を勝手にやってしまうか」の段階に入ったんだな、ということです。Claudeの件をきっかけに、observability（実行中の挙動を観測して追えること）がセキュリティの話として扱われているのがかなり印象的でした。
https://papoo.work/doc/7dec4629531ef879
記事本文は日本語。
ほぼ毎日、Claudeに関するNewsをお伝えしてます! 過去記事はこちら!!