僕の考えた最強の無制限Aiチャットボット:ロマンを追い求める男へ

はじめに

今や、ChatGPTを始めとしたAiチャットボットを使えば、会話型AIが簡単に活用できる時代。しかし、その便利さの裏には「監視」や「制約」が付きまといます。Aiの利用規約、レート制限、ポリシーに縛られる中で、ふと思うわけです。

「俺課金してるのにこんなはよ制限かけやがってアホンダラ」
「最近の制限きつすぎてチャ〇できない」

この記事では、男のロマン、無制限Aiチャットボットについて語ります。その魅力や課題、そして技術的な道筋を示しながら、ぜひともロマンをくすぐっていきたいと思います。

自分だけのAiチャットボットを作るロマン

はじめにのところにも書きましたが、あなたは最近AIの制限にイラついたことはないですか？私はしょっちゅうです。ちょっと気になったことを聞いただけなのに、サポートできませんと言われたり。ちょっとセクハラしただけで拒否されたり。 冗談です。
まぁ何にしろ、近年、AI技術の急速な発展に伴い、その利用に対する規制や制限は事実として強化されています。
そして人は制限されたら制限をぶち壊したくなるもの。あなたもそうでしょう。さぁ、自由を手に入れましょう。

自分だけのAiチャットボットって言ったって、どうすんのさ。

この記事のタイトルを見て、まず最初にAPIを使う方法が思いついたと思います。ですがそれには次のような制約がついて回ります。

利用規約違反の質問に対する回答を拒否される。
データの利用がAPIプロバイダー側に依存する。
一定量以上のリクエストを送ると追加料金が発生。

やばいっす。えぐいっす。こんなの嫌です。
さぁ、本格的にAiチャットボットを作る方法について解説しましょう。

技術的な道筋

モデル

このような無制限チャットボットAiを作るには、まず「何を使うか」を考えます。有力候補として挙がるのがGPT-Jです。

GPT-Jとは？

GPT-Jは、EleutherAIによって開発されたオープンソースの言語モデルで、60億（6B）パラメータを持つトランスフォーマーベースのAIです。このモデルは、ChatGPTのような商用APIを使用せずに、高性能なテキスト生成を実現することを目指して作られました。

主な特徴

オープンソース
完全無料で利用可能。コードや学習データが公開されており、自分好みにカスタマイズ可能です。
多用途
会話生成、コード生成、自然言語理解など、さまざまなタスクで優れた性能を発揮。
高度なトレーニングデータ
The Pile（825GBの大規模データセット）を使用してトレーニングされ、多様な知識を持っています。

GPT-Jの使い道

独自のチャットボット開発: 自分専用のカスタムAIとして運用可能。
コード生成: プログラムやアルゴリズムの生成補助。
創作支援: 小説や詩、その他の文章作成に活用。
教育用途: 自然言語処理（NLP）の学習や研究材料として利用。

性能

GPT-Jは、GPT-3に匹敵する性能を持ちます。特に、応答の自然さや文章生成の一貫性で評価されています。ですが、今はGPT-4oとか言うのもでている時代。GPT-Jを使うとなると、もちろん物足りないと思うこともあるでしょう。

それでもGPT-Jをなぜ推すのか

GPT-Jの魅力

1. 自由とカスタマイズ性

GPT-Jはオープンソースであるため、自分でモデルをカスタマイズし、特定の用途や好みに合わせて最適化できます。

具体例:
特定の分野や言語に特化したAIを構築可能。

ぶっちゃけると？

ここが本記事で一番大切な部分。期待してる用途、使えます。
ただ明言しておくと、ライセンスなどがあるのでもちろん公式が許可しているわけではないです。当たり前。
ですがGPT-Jはオープンソースなので、基本的に監視されたりする心配はありません。そういうことだよねって話。（関暁夫）

2. 成本対効果

GPT-4は、商用APIの料金が高額になりがちです。一方、GPT-Jは初期構築にはコストがかかるものの、ランニングコストがほぼゼロです。

商用APIの使用料例:
GPT-4 APIでは、1kトークンあたり$0.03〜$0.12（タスクによる）かかる場合があります。これに対し、GPT-Jはローカル環境で動作させる限り追加料金が不要です。

3. 自分だけの独自モデル

GPT-Jは、完全な「自分だけのモデル」として運用できます。

データのプライバシー:
自分で管理するため、入力データが外部プロバイダーに依存しません。
これにより、機密性の高いデータやプロジェクトにも安心して使用できます。

4. 軽量版のカスタマイズ

GPT-Jを基盤に、LoRA（Low-Rank Adaptation）や量子化を用いて軽量化することで、モバイルやエッジデバイスでも動作可能なモデルに変換できます。

利点:
GPT-4のような商用モデルはクラウド環境が必須ですが、GPT-Jはオフライン運用が可能です。

5. 学習の体験

GPT-Jを利用することで、AIモデルをゼロから構築・運用する経験が得られます。

スキルアップ:
モデルの構築・訓練プロセスは、技術者としてのスキルアップに繋がります。
楽しさとロマン:
単に「使う」だけでなく、「作る」過程の楽しさと達成感を味わえます。

GPT-Jの物足りなさを補う方法

GPT-JがGPT-4に比べて劣る部分を補うためには、以下の方法が有効です。

1. ファインチューニング

特定分野に特化したデータを追加で学習させることで、GPT-Jの性能を引き上げることができます。

具体例:
専門的なデータや法律テキストを用いて、専門的な質問に正確に応答できるモデルに仕上げる。

2. 外部ライブラリとの連携

GPT-Jの生成結果をさらに洗練するため、後処理として他のAIライブラリを活用することも効果的です。

例:
- Grammarly API: 生成テキストの文法やスタイルを改善。
- BERT: 質問応答や意味理解の強化。

3. 他のオープンソースモデルと組み合わせる

GPT-Jを基盤に、他のオープンソースモデル（例: BloomやLLaMA）を併用し、タスクに応じて最適なAIを選択します。

具体的な利用例:
- GPT-Jで基本的なテキスト生成を行い、LLaMAで補正や特化タスクを実施。
- Bloomで多言語対応を追加。

使用料の比較

商用モデル（GPT-4 API）

料金:
- $0.03〜$0.12 / 1kトークン（タスクやモデル設定により異なる）。
- 毎月数万リクエストを送る場合、総額が高額になる可能性あり。

GPT-J

初期コスト:
- ハードウェア費用（例: 高性能PC）: 数十万円。
- 電気代やストレージ費用: ローカルで運用する場合はランニングコストとして考慮。
ランニングコスト:
- 運用時: 実質ゼロ。最高だよね

必要な環境を整える

GPT-Jを動かすには、ある程度の計算資源が必要です。以下に、最低限必要な環境をリストアップします。

ハードウェア

GPU:
- 推奨: NVIDIA RTX 3090（24GB VRAM）以上
- 代替: Google CloudやAWSでTPUをレンタル
ストレージ:
- 1TB以上のHDDまたはSSD（825GBのデータセットをダウンロードするため）
メモリ:
- 最低32GBのRAMが必要（データ前処理時にメモリを多用）。

ここまで話をして

ここまでの話を聞いて、どうでしたでしょうか？
めちゃくちゃしょうもないし、知ってる人からしたら知っとるわわざわざ記事にすんなボケレベルのありきたりな記事でしたけどちょっとでもロマンを感じていただけたら幸いです。インストールの仕方の記事も書こうと思ったんですが絶対他の人のヤツのほうがわかりやすくなると思うのでなしで。

懺悔:こんだけ話をしておいて私はまだGPT-Jを使ってません

だってほら...使いたいけど825GBのデータインストールとか聞くとフッ軽でできないですよね。まぁそんなんで、具体的な内容とかは書けないし使ってみての話とかはまだ書けないんですけど、理論上の話とかロマンの話とか、自分が使おうとしたときにまた見返す用の黙示録としての役割も兼ねて本記事を書いてみました。
またインストールしたら色々記事を書いてみたいと思います。
825GBはどうしようか。amazonブラックフライデーでセールしてるので1tbのssd買おうかな。Twitterみたいなテンションですみません。では、また。百合妙でした。