AI屋さんの LLMに２００万トークン全文入力と「ずんだもん」と私
LLMとvoicevoxとstreamlitとdockerとcloud runで
LLMに２００万トークン全文入力 追加学習ずみの専門分野特化のLLMの作り方
今回はwebアプリを クラウドのサーバーレスで
大規模言語モデル ＋ 音声合成 ずんだもん 先生とのコラボです。
インターネット上でサービスしていますので 皆様もれなく
可愛い ずんだもん先生の 美声を満喫できます。
当然、ローカルの自宅パソコンの非公開版も作れます。
完成イメージ：
大規模言語モデルの コンシューマーアプリとして市場要求の高い 「可愛いいキャラとお喋りを 満喫したい」 気配を感じました。
そこで、早速音声合成の巨匠 ずんだもん先生にご協力いただきます。
全文入力追加学習済みLLMと組み合わせて
１、居酒屋のメニュー全部入れて、「AIオススメ 大宴会 居酒屋システム」や
２、観光地とレストラン情報を全部入れて、「AIコンシェルジュ デートプランナー」や
３、百貨店の外商顧客向け、「AI黒執事 オートクチュール特別注文部」等
全てのお客様の全てのご要望に即時回答します。
ここまでくるとマネーの匂いがしてきそうな気がします。
誰でも（？）簡単に作れます。
実は今回の内容は 超簡単に クラウドデプロイを行えます。
ずんだもん先生も、streamlitも dockerイメージから
webのボタンをポチポチだけで cloud run を設定できます。
docker run -d -p 8080:8080 bono0/st
イメージを プッシュ・プル 出来れば 勝ったも同然です。
サンプル
大規模言語モデルに資料を全文入力済みLLM
Webアプリ
お喋り ずんだもん先生
スマホ版の図
https://
zunda-ghc4uieygq-an.a.run.app
flet
スマホのネイティブアプリ版の図
https://
flet-ghc4uieygq-an.a.run.app
Streamlit
https://
bono0-ghc4uieygq-an.a.run.app
Gradio
https://
bono0-grd-ghc4uieygq-an.a.run.app
Flask
https://
www.bono0.com
webAPI
flask
https://
llm001-v01-ghc4uieygq-an.a.run.app
目次
今回も無事に 音声合成機能付き 大規模言語モデルの
AI屋さんの LLMに２００万トークン全文入力と「ずんだもん」と私
デプロイ完成です。 おめでとうございます。
ー続くー