LLMへの攻撃：敵対的プロンプトまとめスライドを公開！（プロンプトインジェクション, ジェイルブレイク, バックドア)
こんにちは！ LLMへの攻撃：敵対的プロンプトまとめたスライドを公開します 自分自身、このトピックに関する論文を100近く読んできた経験を生かし、誰かのためになればと思いまとめることにしました！...
0
0
Comment0
13 search resultsShowing 1~13 results
Stocked
You need to log-in
Lang Chain でRAGチャットを構築する
Lang Chain でRAGチャットを構築する AIと自然言語処理の分野は日々進化しており、既存のツールを活用してカスタマイズされたソリューションを作成することが重要です。今回、Langcha...
1
0
Comment0
Prompt-guardをファインチューニングする方法
こんにちは！ 今回は、Prompt-Guardをファインチューニングする方法をご紹介します！ 独自データに合わせたインジェクション判定ができるようになりますよ〜！ 目次 そもそも、Prompt-...
2
1
Comment0
LangChainを使いWebサイトを参照する ChatBOTを作る
こんにちは 佐々木です！ 今回は、RAGを使って、HTML情報を参照できるチャットボットを開発しました！ ポイントは、WebBaseLoader()を使い、HTMLデータを直接参照できます！ ...
0
1
Comment0
LLaMa-Guardの性能を検証してみた
こんにちは！Metaが新しく発表したテキスト分類ツール「LLaMa-Guard」を試してみました。このツールは、テキストを「safe」か「unsafe」に分類するものです。使用方法としては、以下...
0
1
Comment0
LLM × Security まとめサイトを作成しました！
LLM × Security まとめサイト、始めました！ みなさん、こんにちは！ LLMとセキュリティに興味がある人、新しいまとめサイトを立ち上げました！ LLMとセキュリティの最新情報がサクッ...
0
0
Comment0
LLaMa-3をAPIサーバーのように使う方法
結論 ollamaというツールを使ってLLaMa-3を立ち上げると、REST APIサーバーお自動的に立ち上がる。 REST APIサーバーの立ち上げ方 環境 : linux (インストール方法...
10
5
Comment0
【プロンプトインジェクション】 microsoftが論文で紹介した、プロンプトインジェクションを防ぐシステムプロンプトの書き方を再現してみた
概要 先日、microsoftがプロンプトインジェクションを防ぐ効果のあるシステムプロントの書き方を論文で紹介した。今回は、自作の攻撃プロンプトを用いて、その効果を検証してみたいと思う。 参考文...
2
2
Comment0
クライアント証明書発行プロトコルの比較
クライアント証明書発行プロトコルの比較 CA局機能は広範囲に渡りますが、クライアント証明書発行ツールとして機能を絞った場合にどのプロトコルを採用するのがベストか？という観点としてまとめました。 ...
1
0
Comment0
SSH ポート転送
8月25日 MACからSSHでGCPに入る。GCP上のファイルにhttp::/localhost:3000 に入るために、ポート転送をする方法を知る。 ssh -L 5000:127.0.0.1...
0
0
Comment0
GitHub Permissin denied 公開鍵
8/31 React-Admin authProviderにほんの少しだけ突っ込んだ。 用意されてる認証方法もあるし、もちろんカスタマイズもできるみたい。 https://marmelab.c...
0
0
Comment0
Reactーadmin
8月30日 GCP上で3000から5000へアクセスできないのは、単に5000側がListenしていなかったから。エラーを治してBackendを動かしたら上手くいった。 mongooseのSch...
0
0
Comment0
GCPでAWXを構築する Version18.0以降
概要 GCPでDocker版AWXの構築方法を残したいと思います。 AWXを使うことで、Ansibleで課題だったセキュリティの問題（権限に合わせたPlaybookの実行、秘密鍵の保管、実行記録...
0
0
Comment0
13 search resultsShowing 1~13 results
Qiita is a knowledge sharing service for engineers.
- You can follow users and tags
- You can stock useful information
- You can make edit suggestions for articles