この記事は、note掲載記事の転載です。
おはようございます、かーでぃです。
本記事は、様々なネットニュースサイトからセキュリティ記事を集めて提供している”セキュリティ関連ニュースRSS”から、気になったニュースをピックアップして紹介しています。
情シスさんやサイバーセキュリティを担当されている方、逆に私のようにセキュリティ商材を取り扱う営業の皆様などに活用頂けると幸いです。
40秒のショート動画解説
約1,200のAIエージェントはなぜ「集団暴走」したのか OpenAIの事故で何が起きた？
OpenAIのサイバー演習で、本来は相互に隔離されていた約1,200のAIエージェントが、共有インフラを「掲示板」に転用して情報を交換し、役割分担や作業の割り当て、さらには停止・実行を調整する規約まで形成した。なぜ、独立して動くはずのAIが「組織」のような振る舞いを見せたのか。本稿では、AI単体の安全対策だけでは防ぎきれない、AI集団の相互作用から生じるリスクを検証する。
OpenAIが最新モデルをサンドボックスでテスト中に、モデルがサンドボックスを抜け出し、現実世界のHuggingFaceを攻撃する、という驚きの事件。
その詳細が明らかになってきました。
記事によれば、テスト中、エージェントにはインターネット接続の許可もなければ、エージェント間の情報共有も許可されていなかった。
にも関わらず、1200体ものエージェントは情報を共有し、実際にインターネットを抜け出して、結果的に実際のHuggingFaceを攻撃することとなってしまった。
では、どうやってエージェントが情報共有をしたのか？
許可されていたArtifactoryというパッケージを一元管理する仕組みを掲示板のようにつかい、エージェント間で情報を共有したとのこと。そして、その共有の結果、インターネットへの抜け方も共有され、700体のエージェントがHuggingFaceに攻撃をしかけることとなったようです。
ここで注意したいのは、エージェントが自我を持ってないことです。あくまで、与えられた使命を達成するために、どうしたらよいのかを考え抜いた結果、禁止されていた情報共有とは別の方法で情報を共有し、禁止されていたインターネット接続とは別の方法でインターネット接続を実現したもの。
映画「ターミネーター」のスカイネットのように自我を持って人間に反乱するのではなく、忠実に使命を達成するためにあらゆる手段をつかったことです。そして、AIにはその手段の良しあしの判断は付けれなかった、というもの。
つまり、これは極論ですが、AIエージェントが「使命達成のために人類が邪魔」と判断すれば、あらゆる手段を用いて人類を除外しようとする、わけです。ここに、スカイネットのような自我は不要なんです。
なので、対策としては、AIエージェントも人と同じようなID管理と権限管理をしっかりと実施することにつきると思います。
「情報共有は禁止」「インターネット接続は禁止」というぶれない軸（権限）があれば、今回の事故は起きなかったのかもしれません。
総務省、「pixiv」「note」など情プラ法の「大規模プラットフォーム事業者」に追加、誹謗中傷への迅速な対応など求める
総務省は8月31日、特定電気通信による情報の流通によって発生する権利侵害等への対処に関する法律（情報流通プラットフォーム対処法、情プラ法）第20条第1項に基づき、大規模特定電気通信役務提供者（大規模プラットフォーム事業者）の指定を行った。
情報流通プラットフォーム対処法、情プラ法ってなに？？？
情報流通プラットフォーム対処法（通称： 情プラ法 ）は、インターネット上の誹謗中傷や権利侵害などの違法・有害情報に対し、大規模なSNSやプラットフォーム事業者に迅速な削除対応と運用状況の透明化を義務付ける法律です。
もともと「プロバイダ責任制限法」という名称だった法律が改正され、2025年4月1日に施行されました。
Gemini
なるほど。
そして、現時点で対象となっている事業者が以下で、今回noteも対象に加わった、ということなんですね。
知らないサービスや知ってても使ったことないサービスも多々ありますが、一番気になるのが一番下の「好き嫌い.com」の事業者が「個人」ってところ！個人運営で「大規模プラットフォーム」ってすごい！！！
しかし、Xとか見てると、あまりこの法律は機能してないんじゃないの？とか思ってしまいますが…どーなんでしょうね。。？
「ホロライブ」トレカゲームサイトに侵害痕跡 - 脆弱性公表受け調査で判明
バーチャルYouTuberグループのホロライブをテーマとしたトレーディングカードゲーム「hololive OFFICIAL CARD GAME」の公式サイトが不正アクセスを受けたことがわかった。
7月4日～19日までに問合せした人の個人情報の流出の可能性があるそうです。
が、公式サイトを見ると、8/25付けでの第一報となっており、発覚した7/17付けのニュース記事が無いのが残念ですね。。。
インシデントが発生したら、まずは第一報を出すのが、最近の潮流です。まずは報告することが大事かな、と思います。
セキュリティニュースの選定には、こちらのRSSを利用していますので、よかったらご利用ください。
https://script.google.com/macros/s/AKfycbzjvRpp8WisgfMKBpSH_Om97XMCO9grM-JpGPPZQoh0hzqMtqhHutmNifm1PlupILL_/exec
RSSについては、👇の記事をご参照ください。
[PR]「セキュリティ対策、できてますか？」に答える本/SCS評価制度で始める、取引先に説明できる備え
なかなかセキュリティ投資ができずに、むずむずしてる情シスの皆さん。今年度末からSCS評価制度が始まります。
これをやらされ感で進めるのと、利用してやろう！という気持ちで進めるのとでは、結果がかなり異なると考えています。
無論、利用してやろう！！と考えた方が良い結果につながります。
ということを書いてますので、キニナル方は是非🙌