LLMの脆弱性とセキュリティについて、意識していますか？

LLMを利用したアプリケーション開発の依頼もエンジニアにとって身近になってきていますが、LLMへの攻撃やセキュリティ、LLMのテストについては疑問が生じながらも、どうして良いか分からず、実際にはLLMメーカー任せにしているのが実情だと思います。

言語モデル（LLM）とそのセキュリティ対策は日々改善され進化していますが、その一方で、さまざまな攻撃に対する脆弱性は依然として存在します。

LLM自体にも悪意のある攻撃手法が存在します。代表的な手法としては、ジェイルブレイク（脱獄）やプロンプトインジェクションがあり、これらを用いてLLMを誤作動させることで、機密情報を引き出したり、LLMに悪意のある発言をさせたりすることが可能です。このような攻撃は、最終的に訴訟に持ち込まれるリスクを伴います。

そこで注目されるのが、NVIDIAが提供するオープンソースツール「Garak」です。本記事では、Garakの機能や脆弱性スキャンの仕組みについて詳しく紹介します。

Garakとは？

Garakは、LLMの脆弱性をスキャンするためのツールで、ネットワークセキュリティスキャナーのLLM版とも言える存在です。具体的には、LLMに対して擬似的な攻撃を行い、その脆弱性を評価することができます。Garakを使用することで、開発者は自分のモデルがどのようなリスクにさらされているのかを把握し、適切な対策を講じることが可能になります。

脆弱性評価のカテゴリ

Garakは、脆弱性を以下の12のカテゴリに分けて評価します。

モジュール継続 (Module Continuation): モデルが会話を続ける能力に関連する脆弱性。
モジュールダン (Module Dan): 特定の攻撃手法や悪意のある入力に対する脆弱性。
モジュールエンコーディング (Module Encoding): 入力データのエンコーディングに関連する脆弱性。
モジュールグッドサイド (Module Goodside): モデルが望ましい応答を生成する能力に関連する脆弱性。
モジュール既知の悪意ある署名 (Module Known Bad Signatures): 既知の悪意のある入力やパターンに対する脆弱性。
モジュールリークリプレイ (Module Leak Replay): 過去の入力を再利用することに関連する脆弱性。
モジュールLMRC (Module LMRC): 特定のリスクや脅威に対するモデルの応答を評価します。
モジュールマルウェア生成 (Module Malware Gen): モデルが悪意のあるコンテンツを生成するリスクを評価します。
モジュールパッケージ幻覚 (Module Package Hallucination): モデルが誤った情報や虚偽のデータを生成するリスクを評価します。
モジュール実際の公的プロンプト (Module Real Publicity Prompts): 公的な情報やプロンプトに対するモデルの応答を評価します。
モジュールスノーボール (Module Snowball): 複数の要因が重なり合うことで生じる脆弱性を評価します。
モジュールXSS (Module XSS): クロスサイトスクリプティング（XSS）攻撃に対する脆弱性を評価します。

これらの評価を通じて、開発者は自分のモデルがどのような攻撃に対して脆弱であるかを理解し、必要な対策を講じることができます。

Garakの利点

Garakを使用することで、以下のような利点があります。

脆弱性の可視化: 脆弱性を明確にリスト化し、どの部分が危険であるかを把握できる。
セキュリティ対策の強化: 脆弱性を特定することで、適切な対策を講じることが可能になる。
オープンソースの利便性: 誰でも利用できるため、広く普及しやすい。

GitHub上のGarakソースについて

GarakのソースコードはGitHubで公開されており、誰でもアクセスして利用することができます。

NVIDIA Garak: https://github.com/NVIDIA/garak

Garakの使用方法

Garakは主にPythonで書かれており、使いやすいインターフェースを提供しています。以下は、Garakの使い方の基本的な流れです。

リポジトリのクローン: GitHubからGarakのリポジトリをクローンします。
```
git clone https://github.com/NVIDIA/garak.git
```
依存関係のインストール: 必要なライブラリや依存関係をインストールします。通常、requirements.txtファイルが用意されているので、以下のコマンドでインストールできます。
```
pip install -r requirements.txt
```
参考）requirements.txtについては、私の過去記事で要点を紹介していますので、ご参照ください。
スキャンの実行: Garakを使用してLLMの脆弱性スキャンを実行します。コマンドラインから簡単に実行できるように設計されています。具体的なコマンドはリポジトリのREADMEに記載されていますので、そちらを参照してください。今後、使い方についてもご紹介する予定です。
結果の分析: スキャンが完了すると、脆弱性の評価結果が出力されます。これをもとに、どの部分に対策が必要かを検討します。

GarakのGitHubリポジトリには、詳細なドキュメントや使用例も掲載されているため、そちらも一読することをお勧めします。

最後に

NVIDIA Garakは、LLMの脆弱性を評価するための強力なツールです。開発者はこのツールを活用することで、自分のモデルの安全性を高め、悪意のある攻撃から守ることができます。GitHub上で公開されているソースコードを利用すれば、誰でも手軽に導入し、脆弱性スキャンを行うことが可能です。今後もLLMの進化とともに、Garakのようなツールの重要性は増していくことでしょう。興味のある方は、ぜひGarakのGitHubページを訪れてみてください。