導入
2024年2月19日、tech.coにて投稿された記事 「ChatGPT Used by North Korean Hackers to Scam LinkedIn Users」 は、UCLでデジタル人類学を学んだ後、フリーランスのテクノロジー研究者としても活躍したtech.coのシニアライター、Isobel O'Sullivanによって書かれた。
この記事では、北朝鮮のハッカー集団が、ChatGPTなどのAIツールを駆使し、LinkedInを舞台に洗練された詐欺を仕掛けていること、彼らの目的は、サイバー攻撃による資金調達であり、その資金は核兵器開発に充てられていることを報告する。
以下tech.coホームページ
以下翻訳記事ページ
北朝鮮ハッカーによるLinkedIn詐欺のためのChatGPT活用法
北朝鮮がLinkedInユーザーを騙すためにChatGPTやその他のAIツールを利用 - 最終的には核兵器開発資金源に LinkedInユーザーを狙う北朝鮮ハッカーのChatGPT悪用
マイクロソフトは、北朝鮮のハッカー集団が、ChatGPTなどのAIツールを使用して、LinkedInなどのプラットフォームで人々から機密情報を詐取し、核兵器開発プログラムへの資金調達を図っていることを確認した。
北朝鮮は一般市民のインターネット使用を禁止しているが、最近の報告によると、大規模言語モデル（LLM）を使用して、高度な新しいタイプのマルウェアを開発している可能性もあるという。また、FacebookやWhatsAppも、詐欺師の狩場となっているとのことである。
ただし、平壌のAI詐欺は必ずしも説得力があるとは限らない。この国際的に孤立した国の最新のサイバー攻撃について詳しく知り、それらをあざ笑うための実用的なアドバイスを読み進めていただきたい。
北朝鮮のハッカーがLinkedInのリクルーターを装っている
朝鮮民主主義人民共和国（北朝鮮）を高度な技術リテラシーと関連付けることはないかもしれないが、マイクロソフトは最近、同国のハッカー集団がChatGPTを使用して、米国のホワイトカラー労働者に対してますます洗練されたサイバー攻撃を仕掛けていることを、フィナンシャル・タイムズ紙に確認したのである。
ChatGPTの開発者であるOpenAIと提携しているマイクロソフトが最近発表した報告書では、北朝鮮のハッカーが大規模言語モデル（LLM）を使用して、「おそらくスピアフィッシングキャンペーンで使用されるコンテンツ」を生成していることが明らかにされた。また、イラン、ロシア、中国などの国々に対しても同様の非難がなされているのだ。
北朝鮮は内部の活動について有名なほど不透明だが、国連の専門家パネルによると、犯罪活動から調達した資金は、弾道ミサイルと核兵器プログラムの資金調達に使用されているとのことである。
これらの攻撃は、主にグローバルなサイバーセキュリティ、グローバル防衛、暗号通貨企業の従業員を標的としているようで、Facebook、WhatsApp、Discord、Telegramなどのソーシャルメディアプラットフォームで行われているのだ。しかし、フィッシング詐欺の大半は、プロフェッショナルなネットワーキングサイトであるLinkedInのユーザーを標的としているようである。
サイバーセキュリティ企業Chainalysisのヴァイスプレジデントであるエリン・プランテ氏によると、北朝鮮のハッカー集団はAIツールを使用して、LinkedInで洗練されて信憑性の高いリクルーターのプロファイルを作成しているという。生成AIはチャット、メッセージ送信、画像作成、新しいアイデンティティの作成など、ターゲットとの緊密な関係を築くために必要なすべてのことに役立つと、プランテ氏は述べているのだ。
「攻撃はとても洗練されてきている。『このリンクをクリックしてください』と書かれた、言葉遣いの悪いメールの話ではない」 - サイバーセキュリティ企業Chainalysisのヴァイスプレジデント、エリン・プランテ氏
北朝鮮のフィッシングキャンペーンは珍しいものではなく、2009年から活動している有名な国家支援のサイバー犯罪組織であるLazurusは、昨年、スペインの航空宇宙企業を標的にしてMetaのリクルーターを装ったことで話題になったのだ。しかし、プランテ氏は、LLMモデルの急速な進歩により、詐欺がますます説得力を持つようになっていると考えているのである。
プランテ氏は、日本の暗号通貨取引所のシニアエンジニアが、LinkedInの偽のリクルーターに「技術的な演習」を行うよう騙され、その結果、会社のシステムに北朝鮮のスパイウェアが感染してしまった事例を取り上げた。
また、ハッカー集団は、要求を可能な限り正当なものに見せるために、長い時間をかけてこれらのキャンペーンに投資しているのだ。「LinkedInやその他のソーシャルメディアプラットフォームには詳細なプロフィールがあり、それを使って数週間から数ヶ月にわたって関係を築いているのです」と彼女は説明するのである。
北朝鮮はAIを使ってマルウェアを開発している可能性もある
しかし、北朝鮮の集団がAIを利用しているのは、フィッシングの試みを仕組むためだけではない。
ソウルに拠点を置く情報サービスNK Proのアナリスト、シュレヤス・レディ氏によると、国家が支援する者たちは、ChatGPTのようなAIツールを使って、さらに洗練されたマルウェアを開発し、被害者のネットワークに侵入している可能性もあるという。
「これらのサービスには悪用を防ぐためのセーフガードがありますが」とレディ氏はフィナンシャル・タイムズ紙に語っており、「人々はそれを回避する方法を見つけることができました」と付け加えている。
インターネットへのアクセスは一般の北朝鮮市民には厳しく禁止されているが、同国のAIの利用は、Lazarusのような著名なハッキンググループの起源よりもかなり前からのものである。隠者王国と呼ばれるこの国は、金日成が初めて弾道ミサイルと核兵器計画を開発した1980年代から1990年代にかけて、サイバープロジェクトを強化し始めたのだ。
それ以来、北朝鮮の出版社は人工知能に関する数百の研究論文を発表しており、2022年の最近の研究では、ゲーム状況での「強化学習」と呼ばれる機械学習の方法を探求している。
しかし、北朝鮮はAIへの長年のコミットメントにもかかわらず、その応用は万全ではなく、次に述べるように、従業員が偽の採用詐欺と本物を見分ける方法はいくつかあるのだ。
偽の北朝鮮LinkedIn リクルーター詐欺を見抜く方法
北朝鮮はAIを利用したサイバー攻撃に多額の資金を投入しているかもしれないが、それが常に成功するとは限らない。ハッカー集団は、ソーシャルエンジニアリング活動を行う際に大きな言語の壁に直面しており、外国語の言い回しを理解できないことでしばしば見抜かれてしまうのだ。
北朝鮮人が応募者を装った同様の詐欺は、同じような問題で阻止された。いくつかの米国企業は、アメリカ人の求職者を装った北朝鮮の関係者が、カメラをオンにすることを拒否したり、台本のような回答をしたり、流暢な英語で応答できなかったりするなど、異常な事例を指摘しているのである。
このような課題があるため、LinkedInユーザーが注意すべき兆候は、英語力の低さ、文化的な誤解、カメラをオンにすることへの躊躇などである。一般的に、リクルーターのプロフィールを注意深く調べ、企業の背景調査を行うことも良い習慣だと言えよう。
最後に
北朝鮮のハッカーが取引所から仮想通貨を盗んだり、アメリカのハッキング大会で優勝したりと優秀であることは周知の事実だが、
生成AIと組み合わせると、まさに鬼に金棒感がある。昔は(今もそうだが),メールにあるリンクを押してはいけません。ファイルは開いてはいけません。リンクを事前に調べれば、リテラシーOKな感じだが、こうして、実際の現在の事例を見るとその手法はより巧妙になっている。私たちが日常で目にするような、迷惑メールの類は、高確率で人間ではないことを直感的にわかる。しかし、AIによって人間に関わるコンテンツが生成されて、それが半年メールを交わしていた人物の正体であったではかなわない。
人物の情報を生み出すのは簡単だろうし、ある人格の言動を再現することも過去の発言を学習させれば可能だろう。これまで以上のフェイクソースの氾濫が起きるであろうインターネットの世界という警報を鳴らすとともに、インターネット上で人間を一意に定めるためのIDは何によって達成されるだろうかと想像する。