人気のあるHugging Faceの大規模言語モデル（LLM）とその環境構築方法

はじめに

この記事では、2024年6月時点で、Hugging Faceにて人気のある大規模言語モデル（LLM）を調査してみて、それぞれのモデルの特徴や得意分野、さらにそれらを利用するために必要な環境についてまとめてみました。

人気のある大規模言語モデル（LLM）

まずは人気のある大規模言語モデル（LLM）でどんなものがあるか見てみましょう。

1. miqu-1-70b-sf

特徴: 65Bパラメータを持ち、最新のテキスト生成に特化しています。
得意: 高度なテキスト生成。

2. Nyxene-v2-11B

特徴: 11Bパラメータで、精度と流暢さが高い。
得意: 詩やスクリプト、メール、レターなどの生成。

3. ShiningValiant

特徴: 70Bパラメータで、クリエイティブなコンテンツ生成に適しています。
得意: 物語や詩、音楽作品などの生成。

4. MiniChat-1.5-3B

特徴: 小型で効率的な推論速度を提供し、3Bパラメータ。
得意: 会話型AI、カスタマーサービス、バーチャルアシスタント。

5. Una Xaberius 34B v1Beta

特徴: 34Bパラメータで、多様なプロンプトに対応。
得意: カスタマーサービスやバーチャルアシスタント。

6. DeepSeek LLM 67B Base

特徴: 67Bパラメータを持ち、コード生成やバグ修正に優れています。
得意: コード生成、コード補完、バグ修正。

7. Marcoroni-7B-v3

特徴: 7Bパラメータで、多言語対応の生成モデル。
得意: 高精度な機械翻訳。

8. TomGrc_FusionNet_34Bx2_MoE_v0.1_DPO_f16

特徴: 34BパラメータとMoE（Mixture of Experts）アーキテクチャを採用。
得意: 高度なテキスト生成。

9. Pearl-34B-ties

特徴: 30Bパラメータを持ち、多様なタスクに対応可能。
得意: 多用途対応。

10. ShiningValiant

特徴: 70Bパラメータで、多様なクリエイティブコンテンツを生成。
得意: 物語、詩、音楽作品の生成。

大規模言語モデル（LLM）を使用するための環境構築

次に、大規模言語モデル（LLM）を利用するためにはどのような環境が必要なのかまとめてみました。

共通の準備手順

Pythonのインストール: 最新のPythonバージョンをインストールします。
```
sudo apt update
sudo apt install python3 python3-pip
```

仮想環境の設定:

python3 -m venv llm_env
source llm_env/bin/activate

Hugging Face Transformersのインストール:
```
pip install transformers
```
GPUドライバとCUDAのインストール（必要に応じて）:
- NVIDIA GPUを使用する場合、適切なドライバとCUDAツールキットをインストールします。

各モデルに必要な環境

miqu-1-70b-sf

環境: 強力なGPU（例：NVIDIA A100、V100）、大量のメモリ（最低64GBのRAM推奨）。
ツール: PyTorchまたはTensorFlowをサポートするディープラーニングフレームワーク。
インストール:
```
pip install torch transformers
```

Nyxene-v2-11B

環境: 高性能GPU（例：NVIDIA A100、V100）、32GB以上のメモリ。
ツール: PyTorchまたはTensorFlow。
インストール:
```
pip install torch transformers
```

ShiningValiant

環境: 大規模なデータセンタークラスのGPU（例：NVIDIA A100）、64GB以上のRAM。
ツール: PyTorch。
インストール:
```
pip install torch transformers
```

MiniChat-1.5-3B

環境: ミッドレンジのGPU（例：NVIDIA T4、RTX 3090）、16GB以上のメモリ。
ツール: PyTorch。
インストール:
```
pip install torch transformers
```

Una Xaberius 34B v1Beta

環境: 高性能GPU（例：NVIDIA A100）、64GB以上のメモリ。
ツール: PyTorchまたはTensorFlow。
インストール:
```
pip install torch transformers
```

DeepSeek LLM 67B Base

環境: 非常に強力なGPU（例：NVIDIA A100）、128GB以上のメモリ。
ツール: PyTorchまたはTensorFlow。
インストール:
```
pip install torch transformers
```

Marcoroni-7B-v3

環境: 高性能GPU（例：NVIDIA T4、RTX 3090）、32GB以上のメモリ。
ツール: PyTorchまたはTensorFlow。
インストール:
```
pip install torch transformers
```

TomGrc_FusionNet_34Bx2_MoE_v0.1_DPO_f16

環境: データセンタークラスのGPU（例：NVIDIA A100）、128GB以上のメモリ。
ツール: PyTorch。
インストール:
```
pip install torch transformers
```

Pearl-34B-ties

環境: 高性能GPU（例：NVIDIA A100）、64GB以上のメモリ。
ツール: PyTorch。
インストール:
```
pip install torch transformers
```

モデルのロードと使用例

from transformers import AutoModelForCausalLM, AutoTokenizer

model_name = "モデル名"  # 使用したいモデル名を指定
tokenizer = AutoTokenizer.from_pretrained(model_name)
model = AutoModelForCausalLM.from_pretrained(model_name)

# テキスト生成の例
input_text = "ここに入力テキストを入力します"
inputs = tokenizer(input_text, return_tensors="pt")
outputs = model.generate(inputs["input_ids"])
generated_text = tokenizer.decode(outputs[0], skip_special_tokens=True)

print(generated_text)

まとめ

この記事では、2024年6月時点で人気のあるHugging Faceの大規模言語モデル（LLM）について、それぞれのモデルの特徴や得意分野と、それらを利用するために必要な環境について解説してみました。それぞれモデルによって得意不得意があり、ある分野の特定のタスクに対して高いパフォーマンスを発揮してくれるようですので、ユーザーのニーズに合わせてそれぞれのLLMモデルを選択することで、効率的に作業を進めることができるでしょう。

詳しい情報やモデルの使用例は以下のリンクから確認できます：