この記事は、note掲載記事の転載です。
おはようございます、かーでぃです。
本記事は、様々なネットニュースサイトからセキュリティ記事を集めて提供している”セキュリティ関連ニュースRSS”から、気になったニュースをピックアップして紹介しています。
情シスさんやサイバーセキュリティを担当されている方、逆に私のようにセキュリティ商材を取り扱う営業の皆様などに活用頂けると幸いです。
30秒のショート動画解説
従業員が個人利用の生成AIに顧客情報を誤アップロード - RIZAP
RIZAPグループは、子会社であるRIZAPの従業員が、個人的に使用している生成AIサービスへ顧客の個人情報を誤ってアップロードしたことを明らかにした。
Σ(￣ロ￣lll)ｶﾞｰﾝ
あれだれ言われてる生成AIへの個人情報アップロードを、しかも自分のではなく、顧客の情報をアップロードしちゃったの？！？！
一度学習してしまった情報を取り除くのは非常に困難です。
生成AIは、学習した情報をそのまま「ファイル」として覚えているわけではありません。大量の文章から得た特徴や関係性を、モデル全体の数値に分散して覚えています。そのため、あとから特定の情報だけを探して消すのが難しく、削除には再学習や特殊な処理が必要になります。
なのですが…
アップロードされたデータの取り扱いについて、生成AIサービス運営事業者に問い合わせたところ、個人を特定できる情報が含まれるファイルについては、自動システムによりモデルのトレーニングに使用されることはなく、アップロード後24時間以内にデータが削除された場合も使用されることはないとの回答を得たという。
RIZAPが問合せをし、そういう回答を得たらしいです。
RIZAPの社員さんが個人的につかった生成AIが明かされていないので、公開されている利用規約やプライバシーポリシーと突き合わせて第三者が検証できないんですよね。
今回の事業者では、たまたま（？）学習対象外だったと回答されているようですが、生成AIへの個人情報アップロード自体が問題であり、「“学習されない＝安全”ではない」という意識はしっかりと持ちましょう。
AI攻撃の脅威は「これから数カ月」で変わる OpenAIらが共同声明
昨日の記事はで、AnthropicがEFSを発表した記事を書きました。
あちらは、データ漏洩と悪用防止の両立機能を目指した機構でしたが、今回はOpenAI含めた複数の最新企業からの注意勧告、と言ったところでしょうか。
OpenAIは公開書簡において、長年放置されたバグや過剰な権限、設定ミス、未修正のソフトウェア、脆弱（ぜいじゃく）な認証、レガシーシステムの技術的負債などの基本的な弱点が、依然としてサイバー攻撃の足掛かりとなっていると指摘する。
ここは基本的なところですね。
「リスク＝攻撃者のスキル x 脆弱性」
攻撃者のスキルについては、我々ではどうしようもありません。どんどんスキルが上がっていくのが実情でしょう。国際的なルールで、なんらかの仕組みを作れれば有効かもしれませんが、その裏をかいくぐるヤツは必ずいます。
一方で脆弱性は我々で管理することができます。しっかりと情報収集をし、早期にパッチを適用することで、脆弱性を下げることはできます。
そして、この２つの要素は「掛け算」なので、どちらかが限りなくゼロに近づけば、リスクもゼロに近づくのです。
AI時代においても、この理論は変わらず。ただ、AIの活用により脆弱性が次々に発見されており、その数は今年の1月と8月を比べると2.8倍です。
こんな多くの脆弱性を全て管理して、提供されたパッチを当てる、というのもなかなか現実的ではないのかなぁ、というのが正直なところ。
OpenAIはこの事案を受け、AIモデルのライフサイクル全体でアライメントに関する要件を厳格化するとともに、より分離されたサンドボックスの構築、インターネットアクセスの制限、モデルウェイトへのアクセス制御強化を進めている。さらに、モデルの推論過程を監視するモニタリングにも計算資源を大幅に追加する方針だ。
先の話は、利用者側への注意喚起でしたが、今度は生成AIを開発するベンダー側への注意喚起。
上記の「この事案」とは、HuggingFace襲撃事件（！）のことですね。あの時は、サンドボックスから抜け出してしまったので、それを踏まえての提言になっています。
まぁ、あの事件は誰も想定できなかった行動を、AIエージェントがしてしまったよき例として、それを反面教師として開発側も望む必要があるよね、というところに落とし込んでますね。
攻撃側のAIがどこまで進化するかを待つのではなく、防御側も今ある脆弱性とAIの管理方法を見直す時間が残されているうちに動くべきだというのが、今回のメッセージだろう。
攻撃側のスピードに対して、防御側もスピード勝負するのは何度も言ってますが、ナンセンスです。
防御側はこれまで同様、侵入されることを前提としたログの管理と権限管理。また、侵入させないための脆弱性管理をしっかりとやっていきましょう。
災害やサイバー攻撃に遭っても、10分で業務再開 日立ら「自動復旧」を実証
日立製作所と日立ヴァンタラ、NTTドコモビジネス（旧NTTコミュニケーションズ）の3社は2026年8月28日、600キロ超離れたデータセンター間で、災害発生時にアプリケーションを含むシステムを完全自動復旧できることを実機で確認したと発表した。障害の検知から業務再開までに要した時間は約10分だった。
ニチレイさんも、この仕組みを導入してほしい…とか思ってしまうのはダメでしょうか。。？💦
仕組みとしては、仮想サーバとその上で動くデータを、IOWN APNで瞬時に同期する力技！（もちろん、それだけではないのですが…）。
でも、それだけの力（速度）があるのは、ツヨイですよね。
NTT株、一時期下がっていましたが、今はかなり上がってきてます。株式市場としても注目されてる技術になっています。
セキュリティニュースの選定には、こちらのRSSを利用していますので、よかったらご利用ください。
https://script.google.com/macros/s/AKfycbzjvRpp8WisgfMKBpSH_Om97XMCO9grM-JpGPPZQoh0hzqMtqhHutmNifm1PlupILL_/exec
RSSについては、👇の記事をご参照ください。
[PR]「セキュリティ対策、できてますか？」に答える本/SCS評価制度で始める、取引先に説明できる備え
なかなかセキュリティ投資ができずに、むずむずしてる情シスの皆さん。今年度末からSCS評価制度が始まります。
これをやらされ感で進めるのと、利用してやろう！という気持ちで進めるのとでは、結果がかなり異なると考えています。
無論、利用してやろう！！と考えた方が良い結果につながります。
ということを書いてますので、キニナル方は是非🙌