こんにちは！
AWS Jr.Championsの贄川です！
AWS re:Inventに参加して少し時間が経ったので、振り返りの意味を込めてAWS re:Inventの概要と個人的に重要だなと感じたセキュリティと生成AIの変化についてご紹介します！
今回の内容は、Matt Garmanさんなどが講演するのKey Noteの内容と「The good, the bad, and the ugly of Al and cybersecurity」というタイトルのLTの内容をもとに書いています。
AWS re:inventのアップデートの概要
今回のAWSのアップデートは「生成AIのためのアップデート」という内容で、「Compute」「Storage」「Database」「Inference」という４つの要素からより生成AIを効率的に使用できる内容が多くありました。
昨年のアップデートではAmazon BedrockやAmazon Qなど生成AIを使用したサービス自体の内容がほとんどだったのですが（今年も生成AIサービス自体のアップデートはありましたが）、今年はS3 Tables, MetadataやAmazon Aurora DSQL,DynamoDB global tablesなど関連したサービスのアップデートがメインとなっていました。
生成AIの発達によるサイバー攻撃の変化
Key Noteでは生成AIに関するアップデートにより、もっと便利で使いやすい、ビジネスで必要不可欠なものになるという前向きな発表がされていましたが、もちろん生成AIの発達によって悪い効果もあります。
それが生成AIを用いたサイバー攻撃です。
サイバー攻撃を行う攻撃者の視点で見ると、生成AIにより攻撃は自動化され、脆弱性を発見することも非常に容易くなりました。
また攻撃に必要なコストも大幅に低くなりました。
しかし攻撃を受ける側の視点で見ると、サーバー攻撃に対して気づくのが少しでも遅くなると被害があっという間に大きくなり、生成AIを用いていないセキュリティの場合、アラームの数が非常に増え、対応に追われてしまいます。
LTの中でサイバー攻撃の被害額の平均は約500万ドル以上と言われていました。
生成AIの発達により、攻撃者側の負担が減っているのに対して、守備側の負担が非常に増えているという話を他のセッションでもよく聞きました。
サイバー攻撃の対象の変化
またLTでは現在のセキュリティの仕組みも効率的ではないという話もされていました。
現在の生成AIを用いたセキュリティは、攻撃を受けた後に修復を行ったり、攻撃パターンから脆弱性の分析をしたりなど後手に回りがちな方法となっています。
攻撃に対して機会学習を行いセキュリティの堅牢度を高めていくのですが、この仕組みを標的にした生成AIを用いたサイバー攻撃が増えているようです。
攻撃手法としては2つあります。
- アドバーサリアルアタック (敵対的攻撃)
機械学習モデル、特にディープラーニングモデルに対して行われる攻撃の一種で、攻撃者が意図的に設計した微小な変化を入力データに加えることで、モデルの出力を誤らせることを目的とします。 - AIデータポイズニング
攻撃者がAIに不正なデータや誤ったデータを意図的に学習させ、モデルの学習プロセスを妨害することで、本来検知すべき悪意のある行動を「通常の動作」と誤認識させる手法です。
セキュリティ側の機会学習用のデータに対してサーバー攻撃を仕掛けることで、セキュリティとしての機能を正常に稼働させなくなる攻撃方法が主流になりつつあります。
望ましいセキュリティとは
望ましいセキュリティは「生成AIを用いた自律的なセキュリティ」です。
要するに、人間の労力をなしに攻撃されることなく、事前にセキュリティの堅牢度を高くする仕組みがこれからは必要であると話されていました。
また個人的には人間も生成AIを用いたセキュリティについて詳しくある必要があると感じました。
セキュリティ系のサービスでAIを使用しているものはWAFぐらいしか知らなくて、内部的な仕組みについては全然理解できていませんでした。。。
またAmazon Q Businessを用いたトラブルシューティングのハンズオンを受けてみました。
AIとの対話を通じて原因を突き止めるのですが、Amazon Qがリソース情報を内部で集めてくれるので非常にトラブルシューティングがスムーズにできましたが、慣れるのには時間がかかりそうだなとも感じました。
なので今後はセキュリティに関しての学習を中心に行っていきたいです。
終わりに -AWS re:Inventの感想-
AWS re:Inventの5日間はとても楽しかったです！
私は英語が出来ないので、英語のセッションで聞き取れるか不安な気持ちでしたが、スライドの英語を和訳したり、英語が分かる人に教えてもらってなんとか理解できました！
外人の方と一緒にAWS BuilderCardsをプレイしたのもいい思い出です！
（勝利条件が分からなかったので負けてしまいまいたが。。。）
ぜひまた来年のAWS re:Inventに行きたいです！