AI屋さんの　LLMに２００万トークン全文入力と「ずんだもん」と私　実践編

LLMとvoicevoxとstreamlitとdockerとcloud runで
LLMに２００万トークン全文入力　追加学習ずみの専門分野特化のLLMの作り方

まずは、ずんだもん先生のための　voicevox サーバーを建てましょう
中身は、pythonの　fastAPI　で出来ています。

いくつか方法がありますが、簡単です。
dockerコマンド一発です。

docker run -d -p 50021:50021 voicevox/voicevox_engine

イメージ図

すると、ローカルにサーバーが完成します。
動作確認でポートを開きます。

fastAPI　ですので、取説サイトを見れます。
次は、動作確認です。

下記コマンドを実行します。
公式　取説参照

echo -n "こんにちは、音声合成の世界へようこそ" >text.txt

curl -s
-X POST
"127.0.0.1:50021/audio_query?speaker=1"
--get --data-urlencode text@text.txt
> query.json

curl -s
-H "Content-Type: application/json"
-X POST
-d @query.json
"127.0.0.1:50021/synthesis?speaker=1"
> audio.wav

無事に、音声ファイルが出来ていれば
ずんだもん先生の完成です。
簡単でしたね。
おめでとうございます。

まずは、動く環境を構築できました。

　→voicevox　ローカル（今回ここ）
　→pythonで　実行
　→voicevox　クラウド
　→pythonで　実行
　→streamlit　クラウド
　→完成

一番の難関を　今回クリアできました。
あとは、ちょいと足していくだけですし
基本的にはdocker イメージを作ってから　クラウドのサーバーレスでデプロイするだけです。
既知の内容です。

第十一回：AI屋さんの　dockerでWebアプリをクラウドデプロイ　実践編

https://
qiita.com/bono0/items/c9c7add64cb3c593f776

参照　voicevox　公式

目次

https://
qiita.com/bono0/items/dc1d000c98af7e07c9a7

今回も、無事に　ローカルずんだもん先生　をお迎えできました。
　AI屋さんの　LLMに２００万トークン全文入力と「ずんだもん」と私　実践編
完成です。おめでとうございます。
まずは、たっぷり、LLMとお喋りしてください。

ー続くー