毎度、ググっても出てこない小ネタを取り扱っております。
本記事は個人的な見解であり、筆者の所属するいかなる団体にも関係ございません。

0. はじめに

第65回ニフクラエンジニアミートアップで講演しました。
クラウドストレージ「Nextcloud」入門　Nextcloud Hub 6でAIを動かす！ - AI動かす編 -
https://www.youtube.com/watch?v=MkfbrcKlANU

Nextcloud Hub 6が9月16日にリリースされました！

Nextcloud Hub 6ではAIを使った「Nextcloud Assistant」が実装されましたテキスト、メール、Talkで利用できます

1. Nextcloudで使えるGenerativeAIは2つ

2. セットアップ

2-1. アプリを有効化

「アプリ」>「連携」>「OpenAI and LocalAI Integration」を有効化

2-2. NextcloudでAIプラグインを設定(OpenAI編)

「管理者画面」>「接続済みアカウント」>「OpenAI and LocalAI Integration」
APIキーを入力
モデルを選択

2-3. NextcloudでAIプラグインを設定(LocalAI編)

2-3-1. LocalAIを動かす

Git Cloneする

git clone https://github.com/go-skynet/LocalAI
cd LocalAI

モデルをダウンロードする

wget https://huggingface.co/TheBloke/Luna-AI-Llama2-Uncensored-GGUF/resolve/main/luna-ai-llama2-uncensored.Q4_0.gguf -O models/luna-ai-llama2

ダウンロードしたモデルにマッチするテンプレを作成

cp -rf prompt-templates/getting_started.tmpl models/luna-ai-llama2.tmpl

Dockerコンテナを起動

docker compose up -d --pull always

モデルを追加ダウンロード

curl $LOCALAI/models/apply -H "Content-Type: application/json" -d '{
    "id": "huggingface@TheBloke/WizardLM-13B-V1-0-Uncensored-SuperHOT-8K-GGML/wizardlm-13b-v1.0-superhot-8k.ggmlv3.q4_K_M.bin"
}'

2-3-2. NextcloudでAIプラグインを設定(LocalAI編)

「管理者画面」>「接続済みアカウント」>「OpenAI and LocalAI Integration」

3. まとめ

Nextcloudで生成AIを使う事ができると夢が広がります。