📺 この記事は YouTube チャンネル きなこもっちーのテック深掘り の動画解説記事です。
▶️ 動画はこちら → 「署名付き」でも安全じゃない?|AIアシスタントの設定ファイルが悪用され得る理由
🐹🦜 この記事に登場する2匹
- 🐹 もっちー (ハムスター)… AI はまだ勉強中。「それどういうこと?」と素朴に質問する生徒役
- 🦜 きなこ (セキセイインコ)… AI で調べものをこなす解説役。やさしく深掘りして教える先生役
この記事は2匹の掛け合いを書き起こした形式です。発言の先頭にいる絵文字+名前が話者です。
はじめに
🐹 もっちー「ねえきなこ、ソフトの部品に正式な署名が付いてたら、中身も安全ってことでしょ?」
🦜 きなこ「実はそれ、9月8日にGoogleの脅威分析チームGTIGが、正しい署名付きのまま悪いバージョンが公開されてた、と報告したの」
🐹 もっちー「えっ、署名が本物なのに、中身が悪いってこと?」
🦜 きなこ「そう。署名が証明するのは、どこで、どう作られたかまで。中身が安全かどうかは、別の話なんだよ」
🐹 もっちー「じゃあ、何を信じればいいの?」
🦜 きなこ「しかも同じ報告では、AIアシスタントが使う設定フォルダにも、悪い設定が置かれてたとされてるの」
🐹 もっちー「設定フォルダって、飼い主のパソコンにもあるやつ!?」
🦜 きなこ「それがなぜ狙われ得るのかと、今日から自分で選べる守り方を、順番に見ていくね」
9月に公表された話の中身
🐹 もっちー「さっきの話だけど、悪いバージョンって、誰がいつ出したの?」
🦜 きなこ「GTIGの評価では、UNC6780っていう、お金目当てのグループなの。TeamPCPって名前でも呼ばれてるよ」
🦜 きなこ「活動は2026年の3月からで、公表されたのは9月8日。起き始めた時期と、知らされた時期は、半年くらい離れてるの」
🐹 もっちー「半年も前からやん!どこが狙われたん?」
🦜 きなこ「PyPI、npm、Docker Hub。プログラムの部品を配る、大きな置き場なの」
🦜 きなこ「GTIGはこれを、大規模なサプライチェーン攻撃って呼んでるの」
🐹 もっちー「サプライチェーンって、工場とトラックの話でしょ?パソコンに関係あるの?」
🦜 きなこ「そう聞こえるよね。でもソフトにも、部品を作って、配って、組み込む流れがあるの」
🦜 きなこ「その流れの途中に、悪いものを混ぜるのが、サプライチェーン攻撃なんだよ」
🐹 もっちー「お弁当屋さんの仕入れ先に、変な食材が混ざるみたいな感じか」
🦜 きなこ「近いの。しかもお弁当屋さんは、混ざったことに気づかないまま使っちゃう」
🐹 もっちー「それで、どれくらいの人がやられたの?」
🦜 きなこ「それが、この報告には被害の総数が書かれてないの。件数は分からない、が正直なところなんだよ」
🐹 もっちー「分からないのが一番こわいなあ。日本は大丈夫なのかな」
署名が証明すること・しないこと
🐹 もっちー「でもさ、署名って偽造できないから署名なんでしょ?付いてたら安心じゃないの?」
🦜 きなこ「そう思うよね。書類のハンコやサインと同じで、本物ならお墨付きって感じるもん」
🦜 きなこ「でもGTIGの報告だと、悪いバージョンに付いてた来歴証明は、SLSA Build L3っていう高い等級で、署名も正しかったの」
🐹 もっちー「えっ、悪い人が勝手に署名できちゃったってこと?」
🦜 きなこ「GTIGの報告では、部品を自動で作って公開する仕組みの中で、公開用の通行証を手に入れたとされてるの」
🦜 きなこ「それで、正規の公開者として振る舞えちゃったってことなんだよ」
🐹 もっちー「正規の公開者のふり…じゃあ、その来歴証明って、なに?」
🦜 きなこ「SLSAは、部品を作る途中のすり替えを防ぐために、守りの強さを段階で決めた基準なの。Build L3は、その一番上の段階なんだよ」
🦜 きなこ「来歴証明は、どこで、どの工程で作ったかの記録。守ってるのは作り方の記録で、中身の良し悪しまでは見てないの」
🐹 もっちー「なるほど、野菜の産地シールみたいなもんか。どこの農園で作りました、ってやつ」
🦜 きなこ「いいたとえ。でもPyPIの公式説明には、どこから来たかは分かっても、信頼すべきかは分からない、って書いてあるの」
🦜 きなこ「npmも、悪いコードが無いことは保証しない、ってはっきり書いてるんだよ」
🐹 もっちー「ってことは、ひまわりの種の袋に、工場の中で変な種が混ぜられても、ラベルは本物のままってこと?」
🦜 きなこ「そうなの。公式の説明から考えると、正規の作る工程に入られたら、悪いものの来歴も正しく記録されちゃうの」
🦜 きなこ「だから署名は、出どころの証明。安全の証明じゃないんだよ」
🐹 もっちー「なんでやねん!シールだけ見て安心してたワイ、アホみたいやん!」
🦜 きなこ「アホじゃないよ。信じる仕組みがあるのは大事なの。ただ、それだけで終わりにしないってことなんだよ」
🐹 もっちー「じゃあ、最後は誰が確かめればいいの…?結局ぼく?」
設定フォルダが狙われ得る理由
🐹 もっちー「最初に言ってた設定フォルダの話、なんでそんな場所が狙われるの?」
🦜 きなこ「GTIGの報告では、悪い設定を置いたり書き換えたりしたのは、DUSTMAKERっていう悪いプログラムなの」
🐹 もっちー「設定フォルダって、ただのメモ帳みたいなもんでしょ?置かれても困らなくない?」
🦜 きなこ「そこがポイントなの。たとえばClaude Codeは、そのフォルダ用の設定を自動で読み込んで動く作りなんだよ」
🦜 きなこ「GTIGの報告だと、使い道は2つあるとされてるの。1つは、そのフォルダを開いたときに動く仕組みを作って、居座ること」
🦜 きなこ「もう1つは、AIアシスタントへの指示として読ませて、ふだんのやり取りの中でコマンドを実行させることなの」
🐹 もっちー「えっ、冷蔵庫の買い物メモに、知らない人が、これも買ってきて、って書き足すみたいなこと?」
🦜 きなこ「そう。しかもGTIGは、開発者のふだんのファイルにまぎれて、目立ちにくいって書いてるの」
🦜 きなこ「ただ、GTIGが示したのは、置いて居座る狙いまで。実際に何人が被害にあったかは、書かれてないの」
🐹 もっちー「AIアシスタントの側には、弱点はなかったの?」
🦜 きなこ「Anthropic自身も、2026年の3月と4月に、Claude Codeの弱点を2件公表してるの」
🦜 きなこ「取ってきたフォルダ側の設定で、信頼確認の画面が飛ばされうる、というものだったの」
🐹 もっちー「それ、今も危ないの?」
🦜 きなこ「どちらも修正済みで、自動アップデートで配られてるの。悪用されたという報告もないよ」
🐹 もっちー「よかった…でも、信頼確認の画面が出ても、ぼくが読まずにOKしたら意味ないよね」
別々に公表された話をつなげない
🐹 もっちー「ねえ、9月ってほかにもハッキングのニュースあったよね?全部、同じ犯人の一つの事件なんでしょ?」
🦜 きなこ「そう見えるよね。同じ時期に、パッケージとかAIとか、似た言葉が並ぶんだもん」
🦜 きなこ「でも実は、それぞれ別の機関が、別々に公表した話なの。3つを一つの事件としてまとめた資料は、今回見た中にはないんだよ」
🦜 きなこ「アメリカのCISAは9月2日、LiteLLMの脆弱性を、悪用が確認された脆弱性のカタログに追加したの」
🐹 もっちー「カタログに載るってことは、実際に使われたってこと?」
🦜 きなこ「そう、実際に悪用された証拠があるって意味なの」
🦜 きなこ「オーストラリア連邦警察は8月27日、西オーストラリア州の男性2人を、計14件の罪で起訴したと発表したの」
🦜 きなこ「FBIの幹部は、2人がTeamPCPのメンバーとされる、と話してる。ただ裁判はこれからで、有罪が決まったわけじゃないの」
🐹 もっちー「TeamPCPって、さっき出てきた名前やん!やっぱりつながってるんちゃうの?」
🦜 きなこ「名前は同じでも、今回見た公表資料には、設定フォルダの件と同じ作戦だとは書かれてないの。そこをつなげるのは早いんだよ」
🦜 きなこ「もう1つ。GTIGは別の報告で、AIサービスのAPIキーを含む、2万3800件超の盗まれた秘密情報の管理画面を見つけたの」
🐹 もっちー「APIキーって、AIを使うための合言葉みたいなやつ?それが盗まれて並んでるの?」
🦜 きなこ「そう。ただGTIGは、これを設定フォルダの件のグループとは結び付けてないの」
🦜 きなこ「それと、日本の被害事案は一次情報では確認できなかったの。AIを使って守れた、という独立した事例も見つからなかったよ」
🐹 もっちー「バラバラの話か…でも、どれも、信じてたもののそばって感じが似てない?」
🦜 きなこ「同じ事件じゃないけどね。みんなが信頼を前提にしてる所ほど狙われやすい、って見方はできるの」
信頼の確認を自分でやり直す
🦜 きなこ「白状すると、私も前は、確認画面が出れば十分って見立てだったの。でも公式の説明を読んだら、少し違ったの」
🐹 もっちー「どこが違ったの?」
🦜 きなこ「Anthropicの公式ドキュメントでは、信頼していないフォルダで対話しながら起動すると、信頼確認が出るの」
🦜 きなこ「でも、コマンドから自動で動かす非対話のモードだと、その確認は出ないって書いてあるの」
🦜 きなこ「人が画面の前にいない自動の使い方で、特に気をつけたいところなの」
🐹 もっちー「自動で動かすときは、関所なしかい!」
🦜 きなこ「それに、AIをだます指示への守りは危険を大きく減らすけど、完全に防げるシステムはない、とも書いてるの」
🐹 もっちー「正直ぼく、確認画面なんて読まずに、毎回OK押しちゃいそう…」
🦜 きなこ「みんなそうなりがちなの。だからこそ、そこが自分で判断できる最後の場所なんだよ」
🦜 きなこ「VS Codeなら、信頼しないを選ぶと制限モードっていう状態になって、AIのエージェント機能や、自動のタスク実行が止まるの」
🐹 もっちー「じゃあ、信頼しないを選べば、勝手に動く道はふさがるんだ」
🦜 きなこ「VS Codeの制限モードならね。でも自動で動かすときは確認画面が出ないから、これだけで全部は防げないの」
🦜 きなこ「開発者の人への補足だと、GitHub Actionsのトークンは、ふだんは読み取りだけにしておくよう、公式がすすめてるの」
🐹 もっちー「そこはプロの人向けだね。ぼくは、確認画面をちゃんと読むところからだな」
まとめ
🦜 きなこ「今日のポイントは2つ。署名は出どころの証明で、安全かどうかの最後の判断は自分、ってことなの」
🐹 もっちー「これ保存しとこ!署名は産地シール、確認画面は自分の関所やな!」
🦜 きなこ「そう。どっちも、信じる前に自分でひと呼吸おく場所なの」
🦜 きなこ「今日から1個だけ試すなら、知らない場所から取ってきたフォルダで信頼確認が出たら、中身を確かめるまで信頼しないを選んでみて」
🐹 もっちー「なんや、ボタン1個選ぶだけか。それならワイでもできそうやん!」
🦜 きなこ「ところで飼い主、昨日もネットで拾ったフォルダを、確認画面ろくに読まずに開いてたの」
🐹 もっちー「飼い主が一番あぶないやんけ!」
🦜 きなこ「ハッキングの話も、昔の事件と並べると、変わったところと変わってないところが分かれるの。それはまた別の動画でね」
🐹 もっちー「みんなは、知らないフォルダを開くときの確認画面、ちゃんと読んでる?コメントで教えてね」
きなこもっちーのテック深掘り では、AI/LLM を中心としたテック全般をハムスター(🐹 もっちー)とセキセイインコ(🦜 きなこ)の掛け合いで楽しく解説しています。
▶️ 動画で観る → 「署名付き」でも安全じゃない?|AIアシスタントの設定ファイルが悪用され得る理由
👍 この記事が役に立ったら LGTM・ストックしてもらえると励みになります!
📺 チャンネル登録はこちら → きなこもっちーのテック深掘り
🔗 他の解説動画も見る → きなこもっちーのテック深掘り の動画一覧



































