1
0

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?

「署名付き」でも安全じゃない?|AIアシスタントの設定ファイルが悪用され得る理由

1
Posted at

📺 この記事は YouTube チャンネル きなこもっちーのテック深掘り の動画解説記事です。
▶️ 動画はこちら → 「署名付き」でも安全じゃない?|AIアシスタントの設定ファイルが悪用され得る理由

🐹🦜 この記事に登場する2匹

  • 🐹 もっちー (ハムスター)… AI はまだ勉強中。「それどういうこと?」と素朴に質問する生徒役
  • 🦜 きなこ (セキセイインコ)… AI で調べものをこなす解説役。やさしく深掘りして教える先生役

この記事は2匹の掛け合いを書き起こした形式です。発言の先頭にいる絵文字+名前が話者です。

はじめに

🐹 もっちー「ねえきなこ、ソフトの部品に正式な署名が付いてたら、中身も安全ってことでしょ?」

🦜 きなこ「実はそれ、9月8日にGoogleの脅威分析チームGTIGが、正しい署名付きのまま悪いバージョンが公開されてた、と報告したの」

🐹 もっちー「えっ、署名が本物なのに、中身が悪いってこと?」

🦜 きなこ「そう。署名が証明するのは、どこで、どう作られたかまで。中身が安全かどうかは、別の話なんだよ」

テキストカード:「署名が証明するのは『どこで・どう作られたか』まで」

🐹 もっちー「じゃあ、何を信じればいいの?」

隠し設定フォルダのアイコン(.claude/ .vscode/ .cursor/)と「GTIGの報告」ラベル

🦜 きなこ「しかも同じ報告では、AIアシスタントが使う設定フォルダにも、悪い設定が置かれてたとされてるの」

🐹 もっちー「設定フォルダって、飼い主のパソコンにもあるやつ!?」

🦜 きなこ「それがなぜ狙われ得るのかと、今日から自分で選べる守り方を、順番に見ていくね」

9月に公表された話の中身

🐹 もっちー「さっきの話だけど、悪いバージョンって、誰がいつ出したの?」

カード:「GTIGの評価:UNC6780(TeamPCPとも呼ばれる)・金銭目的」

🦜 きなこ「GTIGの評価では、UNC6780っていう、お金目当てのグループなの。TeamPCPって名前でも呼ばれてるよ」

時系列図: 2026年3月〜 活動開始(GTIGの評価)/2026年9月8日 GTIGが公表

🦜 きなこ「活動は2026年の3月からで、公表されたのは9月8日。起き始めた時期と、知らされた時期は、半年くらい離れてるの」

🐹 もっちー「半年も前からやん!どこが狙われたん?」

3つの置き場のアイコン: PyPI / npm / Docker Hub(「プログラムの部品を配る置き場」)

🦜 きなこ「PyPI、npm、Docker Hub。プログラムの部品を配る、大きな置き場なの」

🦜 きなこ「GTIGはこれを、大規模なサプライチェーン攻撃って呼んでるの」

🐹 もっちー「サプライチェーンって、工場とトラックの話でしょ?パソコンに関係あるの?」

図: ソフトの部品の流れ「作る → 配る → 組み込む」

🦜 きなこ「そう聞こえるよね。でもソフトにも、部品を作って、配って、組み込む流れがあるの」

🦜 きなこ「その流れの途中に、悪いものを混ぜるのが、サプライチェーン攻撃なんだよ」

たとえ図: お弁当屋さんの仕入れルートに怪しい食材が1つ混ざる

🐹 もっちー「お弁当屋さんの仕入れ先に、変な食材が混ざるみたいな感じか」

🦜 きなこ「近いの。しかもお弁当屋さんは、混ざったことに気づかないまま使っちゃう」

🐹 もっちー「それで、どれくらいの人がやられたの?」

カード:「被害の総数:GTIGの報告には記載なし」

🦜 きなこ「それが、この報告には被害の総数が書かれてないの。件数は分からない、が正直なところなんだよ」

🐹 もっちー「分からないのが一番こわいなあ。日本は大丈夫なのかな」

署名が証明すること・しないこと

🐹 もっちー「でもさ、署名って偽造できないから署名なんでしょ?付いてたら安心じゃないの?」

🦜 きなこ「そう思うよね。書類のハンコやサインと同じで、本物ならお墨付きって感じるもん」

図: 悪いバージョンのパッケージ + 正しい署名(SLSA Build L3 の来歴証明)※GTIGの報告

🦜 きなこ「でもGTIGの報告だと、悪いバージョンに付いてた来歴証明は、SLSA Build L3っていう高い等級で、署名も正しかったの」

🐹 もっちー「えっ、悪い人が勝手に署名できちゃったってこと?」

🦜 きなこ「GTIGの報告では、部品を自動で作って公開する仕組みの中で、公開用の通行証を手に入れたとされてるの」

🦜 きなこ「それで、正規の公開者として振る舞えちゃったってことなんだよ」

🐹 もっちー「正規の公開者のふり…じゃあ、その来歴証明って、なに?」

説明カード: SLSA=作る途中のすり替えを防ぐための段階つき基準(Build L1〜L3・L3が最上位)

🦜 きなこ「SLSAは、部品を作る途中のすり替えを防ぐために、守りの強さを段階で決めた基準なの。Build L3は、その一番上の段階なんだよ」

説明カード: 来歴証明=「どこで・どの工程で作ったか」の記録

🦜 きなこ「来歴証明は、どこで、どの工程で作ったかの記録。守ってるのは作り方の記録で、中身の良し悪しまでは見てないの」

たとえ図: 野菜の産地シール「〇〇農園で作りました」

🐹 もっちー「なるほど、野菜の産地シールみたいなもんか。どこの農園で作りました、ってやつ」

引用カード: PyPI公式「どこから来たかは分かるが、信頼すべきかは分からない」(要約)

🦜 きなこ「いいたとえ。でもPyPIの公式説明には、どこから来たかは分かっても、信頼すべきかは分からない、って書いてあるの」

引用カード: npm公式「来歴があっても、悪いコードが無いことは保証しない」(要約)

🦜 きなこ「npmも、悪いコードが無いことは保証しない、ってはっきり書いてるんだよ」

🐹 もっちー「ってことは、ひまわりの種の袋に、工場の中で変な種が混ぜられても、ラベルは本物のままってこと?」

たとえ図: 工場の中で変な種が1粒混ぜられても、袋のラベル(来歴)は本物のまま

🦜 きなこ「そうなの。公式の説明から考えると、正規の作る工程に入られたら、悪いものの来歴も正しく記録されちゃうの」

2列表: 署名が証明すること「どこで・どう作られたか」/証明しないこと「中身が安全か」

🦜 きなこ「だから署名は、出どころの証明。安全の証明じゃないんだよ」

🐹 もっちー「なんでやねん!シールだけ見て安心してたワイ、アホみたいやん!」

🦜 きなこ「アホじゃないよ。信じる仕組みがあるのは大事なの。ただ、それだけで終わりにしないってことなんだよ」

🐹 もっちー「じゃあ、最後は誰が確かめればいいの…?結局ぼく?」

設定フォルダが狙われ得る理由

🐹 もっちー「最初に言ってた設定フォルダの話、なんでそんな場所が狙われるの?」

カード: GTIGの報告「DUSTMAKER」が悪い設定を置いた・書き換えた先 ― .claude/ / .vscode/ / .cursor/

🦜 きなこ「GTIGの報告では、悪い設定を置いたり書き換えたりしたのは、DUSTMAKERっていう悪いプログラムなの」

🐹 もっちー「設定フォルダって、ただのメモ帳みたいなもんでしょ?置かれても困らなくない?」

🦜 きなこ「そこがポイントなの。たとえばClaude Codeは、そのフォルダ用の設定を自動で読み込んで動く作りなんだよ」

図: 悪い設定の2つの使われ方 ①開いたときに動いて居座る ②AIアシスタントへの指示として読ませる(GTIGの報告)

🦜 きなこ「GTIGの報告だと、使い道は2つあるとされてるの。1つは、そのフォルダを開いたときに動く仕組みを作って、居座ること」

🦜 きなこ「もう1つは、AIアシスタントへの指示として読ませて、ふだんのやり取りの中でコマンドを実行させることなの」

たとえ図: 冷蔵庫の買い物メモに、知らない筆跡で1行書き足されている

🐹 もっちー「えっ、冷蔵庫の買い物メモに、知らない人が、これも買ってきて、って書き足すみたいなこと?」

🦜 きなこ「そう。しかもGTIGは、開発者のふだんのファイルにまぎれて、目立ちにくいって書いてるの」

カード:「示されたのは『置いて居座る狙い』まで/被害人数:記載なし」

🦜 きなこ「ただ、GTIGが示したのは、置いて居座る狙いまで。実際に何人が被害にあったかは、書かれてないの」

🐹 もっちー「AIアシスタントの側には、弱点はなかったの?」

お知らせカード: Anthropic が Claude Code の弱点を2件公表(2026年3月18日・4月24日)/どちらも修正済み

🦜 きなこ「Anthropic自身も、2026年の3月と4月に、Claude Codeの弱点を2件公表してるの」

🦜 きなこ「取ってきたフォルダ側の設定で、信頼確認の画面が飛ばされうる、というものだったの」

🐹 もっちー「それ、今も危ないの?」

カード: Claude Code の2件の弱点「どちらも修正済み・自動アップデートで配信/悪用の報告なし」

🦜 きなこ「どちらも修正済みで、自動アップデートで配られてるの。悪用されたという報告もないよ」

🐹 もっちー「よかった…でも、信頼確認の画面が出ても、ぼくが読まずにOKしたら意味ないよね」

別々に公表された話をつなげない

🐹 もっちー「ねえ、9月ってほかにもハッキングのニュースあったよね?全部、同じ犯人の一つの事件なんでしょ?」

🦜 きなこ「そう見えるよね。同じ時期に、パッケージとかAIとか、似た言葉が並ぶんだもん」

3枚の別々のカードを線でつながずに並べる: CISA(9月2日)/オーストラリア連邦警察(8月27日)/GTIG(盗まれた秘密情報の管理画面)

🦜 きなこ「でも実は、それぞれ別の機関が、別々に公表した話なの。3つを一つの事件としてまとめた資料は、今回見た中にはないんだよ」

カード: CISA が9月2日に LiteLLM の脆弱性(CVE-2026-59822)を悪用確認済みカタログ(KEV)に追加

🦜 きなこ「アメリカのCISAは9月2日、LiteLLMの脆弱性を、悪用が確認された脆弱性のカタログに追加したの」

🐹 もっちー「カタログに載るってことは、実際に使われたってこと?」

🦜 きなこ「そう、実際に悪用された証拠があるって意味なの」

カード: オーストラリア連邦警察が8月27日に発表「男性2人を計14件の罪で起訴」(係争中)

🦜 きなこ「オーストラリア連邦警察は8月27日、西オーストラリア州の男性2人を、計14件の罪で起訴したと発表したの」

🦜 きなこ「FBIの幹部は、2人がTeamPCPのメンバーとされる、と話してる。ただ裁判はこれからで、有罪が決まったわけじゃないの」

🐹 もっちー「TeamPCPって、さっき出てきた名前やん!やっぱりつながってるんちゃうの?」

🦜 きなこ「名前は同じでも、今回見た公表資料には、設定フォルダの件と同じ作戦だとは書かれてないの。そこをつなげるのは早いんだよ」

カード: GTIGの報告「AIサービスのAPIキーを含む、23,800件超の盗まれた秘密情報を管理する画面」

🦜 きなこ「もう1つ。GTIGは別の報告で、AIサービスのAPIキーを含む、2万3800件超の盗まれた秘密情報の管理画面を見つけたの」

🐹 もっちー「APIキーって、AIを使うための合言葉みたいなやつ?それが盗まれて並んでるの?」

🦜 きなこ「そう。ただGTIGは、これを設定フォルダの件のグループとは結び付けてないの」

カード:「日本の被害事案:一次情報で確認できず/AIで守った独立事例:確認できず」

🦜 きなこ「それと、日本の被害事案は一次情報では確認できなかったの。AIを使って守れた、という独立した事例も見つからなかったよ」

図: 3つの別々の話に共通する見方「信頼していた仕組みのすぐそば」(同じ作戦という意味ではない)

🐹 もっちー「バラバラの話か…でも、どれも、信じてたもののそばって感じが似てない?」

🦜 きなこ「同じ事件じゃないけどね。みんなが信頼を前提にしてる所ほど狙われやすい、って見方はできるの」

信頼の確認を自分でやり直す

🦜 きなこ「白状すると、私も前は、確認画面が出れば十分って見立てだったの。でも公式の説明を読んだら、少し違ったの」

🐹 もっちー「どこが違ったの?」

確認画面のイメージ:「このフォルダを信頼しますか?」(信頼する/信頼しない)

🦜 きなこ「Anthropicの公式ドキュメントでは、信頼していないフォルダで対話しながら起動すると、信頼確認が出るの」

比較図: 対話モード=信頼確認が出る/非対話モード(-p)=出ない

🦜 きなこ「でも、コマンドから自動で動かす非対話のモードだと、その確認は出ないって書いてあるの」

🦜 きなこ「人が画面の前にいない自動の使い方で、特に気をつけたいところなの」

🐹 もっちー「自動で動かすときは、関所なしかい!」

カード: 公式ドキュメント「危険を大きく減らすが、完全に防げるシステムはない」(要約)

🦜 きなこ「それに、AIをだます指示への守りは危険を大きく減らすけど、完全に防げるシステムはない、とも書いてるの」

🐹 もっちー「正直ぼく、確認画面なんて読まずに、毎回OK押しちゃいそう…」

🦜 きなこ「みんなそうなりがちなの。だからこそ、そこが自分で判断できる最後の場所なんだよ」

一覧カード: VS Code 制限モードで止まるもの(エージェント/ターミナル/タスク実行/デバッグ)

🦜 きなこ「VS Codeなら、信頼しないを選ぶと制限モードっていう状態になって、AIのエージェント機能や、自動のタスク実行が止まるの」

🐹 もっちー「じゃあ、信頼しないを選べば、勝手に動く道はふさがるんだ」

🦜 きなこ「VS Codeの制限モードならね。でも自動で動かすときは確認画面が出ないから、これだけで全部は防げないの」

開発者向け補足カード: GitHub Actions のトークン権限は既定を「読み取りのみ」に(GitHub公式)

🦜 きなこ「開発者の人への補足だと、GitHub Actionsのトークンは、ふだんは読み取りだけにしておくよう、公式がすすめてるの」

🐹 もっちー「そこはプロの人向けだね。ぼくは、確認画面をちゃんと読むところからだな」

まとめ

保存版まとめカード: ①署名=出どころの証明(安全の証明ではない)②信頼確認は自分でやり直す

🦜 きなこ「今日のポイントは2つ。署名は出どころの証明で、安全かどうかの最後の判断は自分、ってことなの」

🐹 もっちー「これ保存しとこ!署名は産地シール、確認画面は自分の関所やな!」

🦜 きなこ「そう。どっちも、信じる前に自分でひと呼吸おく場所なの」

1アクションカード:「知らない場所のフォルダで信頼確認が出たら、中身を確かめるまで『信頼しない』」

🦜 きなこ「今日から1個だけ試すなら、知らない場所から取ってきたフォルダで信頼確認が出たら、中身を確かめるまで信頼しないを選んでみて」

🐹 もっちー「なんや、ボタン1個選ぶだけか。それならワイでもできそうやん!」

🦜 きなこ「ところで飼い主、昨日もネットで拾ったフォルダを、確認画面ろくに読まずに開いてたの」

🐹 もっちー「飼い主が一番あぶないやんけ!」

テキストカード:「昔の事件と並べると? 変わったところ/変わっていないところ」

🦜 きなこ「ハッキングの話も、昔の事件と並べると、変わったところと変わってないところが分かれるの。それはまた別の動画でね」

🐹 もっちー「みんなは、知らないフォルダを開くときの確認画面、ちゃんと読んでる?コメントで教えてね」


きなこもっちーのテック深掘り では、AI/LLM を中心としたテック全般をハムスター(🐹 もっちー)とセキセイインコ(🦜 きなこ)の掛け合いで楽しく解説しています。

▶️ 動画で観る → 「署名付き」でも安全じゃない?|AIアシスタントの設定ファイルが悪用され得る理由

👍 この記事が役に立ったら LGTM・ストックしてもらえると励みになります!

📺 チャンネル登録はこちら → きなこもっちーのテック深掘り

🔗 他の解説動画も見る → きなこもっちーのテック深掘り の動画一覧

1
0
0

Register as a new user and use Qiita more conveniently

  1. You get articles that match your needs
  2. You can efficiently read back useful information
  3. You can use dark theme
What you can do with signing up
1
0

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?