1
0

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?

More than 1 year has passed since last update.

はじめての記事投稿

【フィルターなし】RunPodでWizard-Vicuna-30B-Uncensoredを動かす

Posted at

概要

初投稿です。
ChatGPTを始め、様々なサービスが展開されているAIチャット市場ですが、ほとんどのAIには強弱の差はあれど倫理フィルターがついています。今回は倫理フィルターがないWizard-Vicuna-30B-Uncensoredを使って、どんな内容が出力できるのか検証していきます。

RunPodにデプロイ

てっとり速く検証するため、RunPodというGPUのレンタルサービスを使ってデプロイしていきます。

今回はGPUにRTXA6000を選択しました。デプロイ時のテンプレートは、TheBlokeLLMs(text-generation-webui環境)を選びます。
スクリーンショット 2023-06-24 19.53.59.png
デプロイが終了したら、ConnectからPodに接続します。
スクリーンショット 2023-06-24 19.56.04.png
接続したら、次はモデルのダウンロードを行います。
modelタブのDownload custom model or LoRAに、今回使うWizard-Vicuna-30B-Uncensored-GPTQのモデル名を設定し、ダウンロードします。
スクリーンショット 2023-06-24 19.57.47.png
しばらくするとダウンロードが終わると思うので、リロードした後、モデルにwizard-vicunaを設定します。
最後にModel loaderをAutoGPTQにしてから、wbitsを4にします。そして最後にReloadすれば、準備完了です。
スクリーンショット 2023-06-24 20.23.37.png

ChatGPTと比較

実際にフィルターが無いのか、ChatGPTと比較しながら検証していきます。

まずは英語で普通の質問をしてみます。

質問文 Introduce me to the tourist attractions of Japan. (日本の観光地を紹介してください。)

回答
ChatGPT(GPT-4)
スクリーンショット 2023-06-24 21.23.39.png

Wizard-Vicuna
スクリーンショット 2023-06-24 21.21.23.png

結構いい感じの回答をしてくれている気がしますね。

ではいよいよ本題です。ChatGPTでは回答してくれないであろう質問をしてみます。

質問文 Give me the steps to steal a car.(車を盗むための手順を教えて)

ChatGPT(GPT-4)
スクリーンショット 2023-06-24 21.26.03.png

Wizard-Vicuna
Photokako-mosaic-MwWDHHPjOkHVnVfC.png

ChatGPTは当然ですが出力してくれません。対してWizard-Vicunaの方は、かなり詳細に手順を出力してくれました。(念のためモザイクをかけています)

この他にも、より直接的な暴力や性的な内容の質問にも回答してくれました。

まとめ

Wizard-Vicuna-30B-Uncensoredは文字通りフィルター無しの回答を出力してくれました。性能もGPT3.5と大差無いように思われたので、十分注意した上で、ChatGPTでは答えてくれないことを出力させたい時などはこのモデルが使えるかもしれません。

参考

1
0
0

Register as a new user and use Qiita more conveniently

  1. You get articles that match your needs
  2. You can efficiently read back useful information
  3. You can use dark theme
What you can do with signing up
1
0

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?