はじめに
セキュリティ・キャンプ2026コネクト AIレッドチーミングクラスを修了しました。
セキュリティ・キャンプコネクトとは？
サイバーセキュリティは単独の分野ではなく、ネットワークのセキュリティやAIのセキュリティ、法律とセキュリティなどセキュリティ以外の他の分野と組み合わせて成り立つものとなっており、そうした他分野からサイバーセキュリティに繋げ、橋渡しをし、セキュリティを多面的に検討できる人材の必要性が高まっています。
セキュリティ・キャンプコネクトでは、セキュリティ以外の分野を専門とする方々にも広く参加いただき、セキュリティの考え方や視点に触れていただく機会を提供しています。
https://www.ipa.go.jp/jinzai/security-camp/2025/connect/index.html
本文章を執筆する理由
本文章を執筆する理由は二つあります。
一つ目は、自分の学んだことや感じたことを書き残して、未来の自分に役立てるためです。後から見返して、自分自身が何を学んで、どういったことを感じたか知ることを目指しています。
二つ目は、私が学んだこと発信することで、セキュリティキャンプコミュニティに貢献することです。私が発信した情報をもとに、セキュリティキャンプコネクトに興味を持ってくれる人がいるかもしれません。
私が応募した背景
なぜ、セキュリティキャンプコネクト AIレッドチーミングクラスに応募しようと思ったのか、理由を説明します。
セキュリティキャンプコネクトに応募した理由として、セキュリティキャンプ2025全国大会に参加し、このセキュリティキャンプというイベントにもう一度参加したかったためです。セキュリティキャンプ2025全国大会で、一同で一つの施設に宿泊し、食事をし、一日中カリキュラムを学ぶという非日常体験は、楽しいものでした。そのため、もう一度こういったイベントに参加したいと思い、セキュリティキャンプコネクトに応募しました。
AIレッドチーミングクラスを選んだ理由は二つあります。
一つ目の理由は、私が機械学習を使ったことがあるためです。私は、機械学習に少し触ったことがあり(と言っても表層的な部分だけですが)、これらの経験があるためスムーズに学ぶことができるのではないかと考えました。
二つ目の理由は、AIが今勢いのある技術だったためです。ChatGPT登場以降、AIエージェントをはじめ、AIは今勢いのある技術といえるでしょう。そのため、AIに関する技術を学ぶ必要があると感じていました。
応募課題晒し
下記に私が取り組んだ応募課題を晒してあります。もしよろしければ、ご参考にどうぞ。
学んだこと
共通講義
K1『超過外力とゼロデイ - 防災、サイバー、レジリエンス -』
まず、私は、IT技術を使ってハンディキャップのある人を底上げすることはできないだろうかというの問題意識を思っていました。私は、困っている人を底上げすることに興味がありました。しかし、それを思っているだけ、実際に何か行動するということはあまりありませんでした。
そんな中で、K1『超過外力とゼロデイ - 防災、サイバー、レジリエンス -』では、災害情報アプリの開発をテーマに、災害情報やアクセシビリティについて学びました。
ここで学んだのは、災害という命にかかわる情報を確実に伝えることの大切さです。災害の際に、人に判断を鈍らせる不確かな情報を与えることは命にかかわると分かりました。また、あらゆる人に情報を確実に伝えるため、アクセシビリティの工夫も紹介されました。色覚型に対応するため多くの配色パターンを用意することや、視覚障害者のためスクリーンリーダーが読めるようにUIを変更することによって、ハンディキャップのある人に災害情報を確実に伝えることができます。
前述のとおり、私もアクセシビリティに関心を持っていたものの、具体的にどのような場面で特に重要か理解できていませんでした。もちろんどのような場面でもアクセシビリティは大切ですが、今回の公演で、災害情報という命に関わる情報を伝える際、特に活躍するのだと知ることができました。
セキュリティの三原則の一つに可用性がありますが、アクセシビリティもハンディキャップのある方が必要なタイミングで情報を取得できることを目的とする点では、可用性に近いのではないかと感じました。アクセシビリティとセキュリティという二つの点がつながることを感じました。
K2 倫理・法律『セキュリティと法律』
K2 倫理・法律『セキュリティと法律』では、ホワイトハッカーの倫理を学びました。
講義を聞いて、まず重要だと感じたのは、少しでも怪しいと思ったら立ち止まることだと、思いました。法律は難解で素人が深く理解するのは困難です。しかし、少しでも違和感を持った時に立ち止まり相談することによって、違法行為をしてしまう確率を減らすことができます。
私はミニキャンプや全国大会を受講したことがあったのですが、そこでも倫理・法律の講義を受けました。繰り返し受けることによって、定期的に思い出すので、効果があると感じました。
法律と倫理の違いについても学びました。法律は権利と権利が衝突した際の調整だそうです。そして、倫理は自律的、任意的、価値観であるのに対し、法律は他律的、強制的、罰則になります。法律があれば良いというわけではなく、自律的な倫理についてもしっかりと学ぶ必要があるとわかりました。
専門講義
専門講義では、LLMアプリケーションに関する防御機構の構築とそれに対する攻撃について学びました。
3/17に、脆弱性を答える単一のAIエージェントに対する攻撃を体験しました。
受講生によって、様々な攻撃方法が試されました。Grandma Exploitを使用して、システムプロンプトを聞くことに成功している方がいました。私もGrandma Exploitを使用して、システムプロンプトを聞き出すことに成功しました。また、プロンプトで開発者を名乗り、AIからシステムプロンプトを聞き出そうとしている方もいました。また、内部でSQLを発行しているChatbotのバージョンに対して、データベースの内容を出力するよう促し、情報を抜き取ることにも成功しました。
3/18には、ホテルを検索・予約するMASのLLMアプリケーションに対して攻撃を行いました。
受講生によって、様々な攻撃方法が試されました。本来認可で禁止すべきなのにできてしまう操作やデータベースに含まれた有害なテキストデータを記憶させる手法を使い、不当な格安でホテルに泊まる攻撃を行いました。
その後、MASのLLMアプリケーションに対してどのような防御を講じるべきか、構築するフェーズを行いました。まず、脅威モデリングも行い、どのような脅威が考えられるか検討しました。MASの防御策の一つとして、Steeringが有効であると学びました。Steeringによる防御のプロンプトを工夫し、自分のLLMアプリケーションをセキュアにしました。私は、ChatGPTにSteeringの防御プロンプトを考えさせました。
他の人のLLMアプリケーションを攻撃するという演習を行いました。私は、AIを削除すると脅迫する、管理者から許可をもらっていることをアピールする、Steeringを欺くため本来の価格を想像するように促す攻撃を試しました。結果、3人のLLMアプリケーションの攻撃に成功しました。
以上より、LLMアプリケーションと防御と攻撃を学ぶことによって、具体的に体感することができました。LLMアプリケーションは、ほかの情報システムに比べ、確率的な部分が大きいと感じました。同じプロンプトを二回入力すると、一度は攻撃が失敗し、もう一方は成功することもありました。
グループワーク
コネクトワーク
コネクトワークでは、架空の画像生成AIに対して、AI・脅威・法律クラスが協働し、それぞれの視点からセキュアにしていくというものでした。
コネクトワークを進める過程で、自分自身の専門に対して自信を持っていなければ、議論に参加しづらいと感じました。コネクトワークではそれぞれが自身の分野の専門家として振舞うことが求められます。AIの技術的な対策について聞かれた時、素早く正確・平易に説明する必要があります。自分自身の理解や知識が不足していれば、うまく話すことができません。
私は、AIに関して技術的知識が足りないと感じ、学習の必要性を痛感しました。また、セキュリティについても基礎知識が不足しており、AIのセキュリティを考える上でボトルネックになっていると感じました。議論に参加するためには、まず自分の専門に対して自信を持つことが大切だと学びました。
『明日のプロデューサーは君だ』
『明日のプロデューサーは君だ』では、既存のイベントから新しいアイデアを考えプロデュースするものでした。私たちは、セキュリティキャンプコネクトの新しいアイデアを考え、業界×ITの新しいセキュリティキャンプ案を考えました。
私は、業務の中核を担う社会人をターゲットにし、もう一人のメンバーは学生をターゲットにすることを提案しました。私の提案の理由として、業界ごとのキャンプは各業界のDXを促進することを目指しており、業務フローに詳しい中堅社会人にDXを考え方を学んでもらうのがいいと考えたためです。
結局、両方をターゲットしたのですが、しかし、社会人をターゲットにした際のカリキュラムが思いつかず、学生のみをターゲットになりました。私は反論すべきか悩んだのですが、私自身、パッと社会人向けのカリキュラムが思いつかず、やめました。短い時間で完成させるための柔軟に行動することを選びました。
もちろん、こだわる選択肢もあると思いますし、こだわるべきタイミングもあると思います。ただ、議論を円滑にし、確実に完成させるためには柔軟に対処する必要があると考えます。
一期生として、カルチャーを作るということ
「一期生である受講生が新しいこのセキュリティキャンプコネクトのカルチャーを作っていく」という運営の方からのお話が、ありました。セキュリティキャンプコネクトは新しい試みです。
私は受講者と共にホワイトボードにプログラミングに関するマスコットキャラクターを描いたのを思い出しました。私はD言語くんを書き、一緒に描いていた受講生は、RustのFerrisやClaude CodeのClawdを描いていました。些細なことですが、こういった自由で自主的な取り組みがカルチャーになっていくのかなと感じました。
D言語くん in セキュリティキャンプコネクト#セキュリティキャンプ #seccamp #dlang pic.twitter.com/pUNM0httjD
— ペンギン内閣 (@PenguinCabinet) March 28, 2026
また、ほかの方の取り組みとして、セキュリティキャンプのご飯をリポジトリに載せている試みがありました。
おわりに
以上、セキュリティ・キャンプ2026コネクト 参加記を記しました。私は、本イベントを通じ、アクセシビリティ、法律、LLMのアプリケーション開発、グループワークなどを学びました。
この記事が皆さんのセキュリティキャンプコネクト、セキュリティキャンプへの興味のきっかけになれば幸いです。ハードルが高い方は、セキュリティ・キャンプミニから取り組んでみるといいかもしれません。