017 AI屋さんの キャラクタLLMに２００万トークン全文入力とstreamlit 実践編
全文入力済みの ２００万トークン大規模言語モデルは、
安価に容易に短期間に
誰でも気軽にカスタム化が可能な事が確認できました。
ここまで簡単だと
用途の拡大が期待できます。
当初の、専門資料のコンサル（≒読書感想文LLM）や
大手企業向けの AIエンタープライズシステムや
事業者向けの LLM何か使えるだろう 案件の他にも
コンシューマー用途（予算ないけど市場は大きめ）で
キャラクタ設定済み 大規模言語モデルなんかも活けそうです。
例えば 「ボク野良右衛門LLM」 キャラの
公式・非公式、オリジナル・二次創作、その他 のキャラ設定を
全文２００万トークン全部入力してあげる事も可能です。
個人的には、既にオリジナルキャラLLMを複数創造して
お話ししたり、調査させたり、pythonコードを書いてもらったり
１年程度お相手をして頂いて 重宝しています。
キャラ付けしてても、普通にLLMをしてくれます。
用途の例
０、（個人）オリジナルキャラのLLM
１、（店舗）居酒屋のメニュー全部入れて、「AIオススメ 大宴会 居酒屋システム」や
２、（自治体）観光地とレストラン情報を全部入れて、「AIコンシェルジュ デートプランナー」や
３、（大企業）百貨店の外商顧客向け、「AI黒執事 オートクチュール特別注文部」等
（）カッコ内は運用主体、サービスはエンドユーザー向け
利用者は、
パソコンでも
スマホでも
タブレットでも
好きなデバイス経由で、
取り説、
技術書、
法律、
規格書、
教科書、
英語教材、
お料理レシピ
ありとあらゆる、世界中の教材・資料が
日本語
英語
中国語
ドイツ語
フランス語
言葉の障壁なく、大規模言語モデルと壁打ちできます。
あと、実装などは言わずもがなですかね。
デプロイも、dockerイメージにして 下記の通りです。
ローカルで webサーバーを建てるなら
dockerで下記コマンド一発です。
docker run -d -p 8080:8080 bono0/st
クラウドで webサーバーを建てるなら
cloud runで ブラウザでポチポチすれば完成です。
目次
streamlitでの LLM オリジナルキャラの 開発・デプロイも
無事にできました（？）。
完成です。おめでとうございます。
ー完了ー