Geminiをハッカーたちはどんなことに使ってるの？ Googleの報告から

Posted at 2026-02-13

AIを使ったセキュリティ記事の勉強をしていくのっておもしろいんですけど、ハッカーこそAI使いまくってる時代に突入してるよ～という記事が上がってました。

北朝鮮のハッカー集団（UNC2970）の事例

例えば国家ぐるみで動いてるであろう北朝鮮のハッカー集団「UNC2970」とかの事例。

「この会社にはこの技術に詳しい人がいる！そしてこれだけ給料もらってる！」と調べるときにAI使ってるそうです。SNSとか企業のWebサイトとかの公開情報（OSINT）ってもう膨大なんですけど、Geminiを使ってささっと調べてたそうな。

なんで給料？と思いますが、誘い出すときの手口で必要だからですって。「あ、この人、的確な相場を言ってくるな…プロだな」と信じますよね。

北朝鮮のハッカーたちは「ドリームジョブ作戦」というのをやってるんですって。「いい旅、夢気分」みたいな、「いい職、夢気分」なものでしょうか。でもそういった作戦って設定がシビアですよね。

「あなたと孫さんと前澤さんのドリームチームができるんです！」 とか言われましても…みたいなね。 「1億差し上げますからどうか私と会ってください…！」 という出会い系詐欺メールのタイトルが好きなんですけど、あれはあり得ないからこそ素敵なんですよね。

かつての北朝鮮チームは不自然な英語が弱点だったそうです。そんなものバリバリに改善されそうですよね。そしてGoogle、Gemini側にとっても「ふつうに技術職を探してる採用担当者」と区別がつかないんだそうです。

そうです、何より変わったのは時間でしょう。今までちまちま調べてたり精度上げてたのが、AIでばか早くなってると。しかも中国、イラン…各国に国家のハッカーたちがいて、AIがワークフローの中に組み込まれてるよっていう話なんです。

例えば中国には「ムスタングパンダ」というのもいれば「ジャッジメントパンダ」というのがいるんですけどね。パンダと呼ばれてるのにかわいくないんですよ。

ジャッジメントパンダ（審判パンダ）なんて、「自分はセキュリティ研究者だ」とGeminiに言って、Geminiの安全装置をとっぱらおうとしてた（jailbreak）痕跡があったりね。悪い！

他にもGithubにある正規ツールの説明書をGeminiにぶちこんで理解させて攻撃コードを作ったり、PHPで働いてるサーバーに勝手口作るWebシェル作ったり。イランのチームもWinRARの脆弱性の利用とか、色んなことに使おうとした痕跡などなどがあると。

ノーコードとかあるし、悪いものも作り放題ですよね。暗号資産交換所の偽サイトを数分で作ってたりとか。ましてや情報の精度も上げられますから、偽サイトと見破るのも難しいですよね。

さっきの北朝鮮のグループは軍事防衛のとこを標的にしてたんですけど、もちろん金銭目的のグループもいますし、民間を狙うのも今後増えるでしょうね。

Googleは 「ClickFix」 という手法について注意をうながしてます。これ、Geminiとかの「履歴共有」機能を使ってるそうんです。

これもう私は一発でやられる自信がありますが。「こういうPCトラブルありますよね、Geminiによるとこういう解決策あるみたいですよ」と共有されてるのが悪意あるやつ。

AIの画面の中にウソの解決コマンド。あ、gemini.google.com って書いてるし本物じゃん、と信じますよね。

私、Geminiの言いなりになってお菓子とか作ったりしてますから、もうムリ。クッキーの中に陀羅尼助（奈良県の吉野で作られてる苦い薬）入れてる未来しか見えない。

他にも「モデル抽出攻撃」っていうのもあるらしくて、生成AIに質問をぶつけてその答えから、「あ、こういう生成AIですね」って本体を盗み出すそうなんです。ラーメン屋に通い詰めて味を盗むみたいな。

1000回くらいの質問からトレーニングして80%くらい複製できたって報告もあるそう。

「Behavior is the model（振る舞いこそがモデルだ）」 って専門家は言ってました。

AIはデータの重み付けでできてるようなものじゃないですか。味付けみたいなとこありますけど、「その味付け（重み）を公開せんかったらええんや」ではなく、もうその味（振る舞い）から分かられてしまうと。

もうラーメン屋に来る客を疑って、問い詰めてからラーメン食わせるしかないですね。

私はこの勉強するの好きですけど、全く暗い未来しか見えないんですよね、はっはっは。