AI屋さんの LLMとfletとdockerとcloud runと私
LLMに２００万トークン全文入力 追加学習ずみの専門分野特化のLLMの作り方
今回はwebアプリの部分を flet に置き換えです。
flet は flutter(≒google) 由来の 次世代技術のwebアプリで、
flutterは、HTML,CSS,各種言語 の次世代 代替品です。
完成イメージ図
flet で見た目もweb屋さんの市販品相当を実現可能ですので、
例えば、コンシューマーアプリを作るならば、
全文入力追加学習済みLLMと組み合わせて
１、居酒屋のメニュー全部入れて、「AIオススメ 大宴会 居酒屋システム」や
２、観光地とレストラン情報を全部入れて、「AIコンシェルジュ デートプランナー」や
３、百貨店の外商顧客向け、「AI黒執事 オートクチュール特別注文部」等
全てのお客様の全てのご要望に即時回答します。
ここまでくるとマネーの匂いがしてきそうな気がします。
誰でも（？）簡単に作れます。
flet は flutter(≒google) 由来の 次世代技術のwebアプリで なおかつ、
pythonのみ（Dartなし）で開発可能、
ブラウザ以外の スマホ、タブレット、パソコン などのネイティブアプリもいけます。
概要
大規模言語モデルのwebアプリを クラウドのサーバーレスでデプロイする
最小構成の資料です。
gemini
flet（今回ここ）
docker
cloud run
だけで作れちゃいます。
雛形で一度デプロイできれば、あとは簡単です。
既知の組み合わせで構成されています。
応用は自由自在です。
https://
flet-ghc4uieygq-an.a.run.app
パソコン向けローカルアプリの図
実際の開発は、flet 起因の記載のみで
文字列入力の文字列出力の 薄皮一枚、薄っぺらのwebアプリです。
２００万トークン全文入力、追加学習済み大規模言語モデルは、
第一回で作成した webAPIを利用しています。
全ての開発済みアプリは、API経由で叩いています。
中身は、どれで作っても一緒です。
それ以外は、従来通りです。
docker 関連
さらに、前回 dockerHUB からのデプロイも実行できていますので
クラウドのサーバーレスも、そこのイメージを run しますので、
コマンド gcloud 無しでデプロイできます。
webのボタンをポチポチだけで cloud run を設定できます。
docker run -d -p 8080:8080 bono0/st
イメージを プッシュ・プル 出来れば 勝ったも同然です。
目次
今回も無事に fletにて
AI屋さんの LLMとfletとdockerとcloud runと私
LLMに２００万トークン全文入力 追加学習ずみの専門分野特化のLLMの作り方
デプロイ完成です。 おめでとうございます。
ー続くー