027 AI屋さんの LLMにトークン全文入力 streamlit+cloudrun+Gemini
すでに何度か、大規模言語モデルのwebアプリをクラウドのサーバーレスでデプロイしてきました。
一度、手順をまとめておきましょう。
色々方法はありますが、簡単な方法で行きます。
streamlitをクラウドのサーバーレスで インターネット公開は、超絶難易度高そうなイメージですが、いえいえ、そんなことはございません。
むしろ
streamlitのマルチページ
だから超簡単なのです。全てのwebフレームワークの中で最も簡単かもしれません。
ブラウザ画面 ポチポチ のみで、完成します。
全体の構成は
1、cloudrunにdockerイメージデプロイ bono0/st
2、ストレージをマウント /app/pages
3、ストレージにpythonファイルをコピー app01.py
で完成です。
特にトラブルが無ければ、数分で完成します。
注意点としては、用意するイメージの内容です。
事前の pip install 済みのライブラリと
アプリのディレクトリの場所です。
上記のサンプルの設定内容で、一通りは動きます。
アプリの内容は、最小限度です。
必要な部分を後から足してください。
#app01.py
import streamlit as st
st.write("hello")
st.write("hello end")
cloudrunの設定
まずは、ストレージ向けの設定
続いて、docker向けの設定
ついでに、環境変数の設定
たった、これだけで streamlit をクラウドデプロイできてしまします。
ほんと、簡単すぎて びっくりします。
しかも、アプリの修正も追加も 何個でも後から可能です。
目次
今回も無事に
027 AI屋さんの LLMにトークン全文入力 streamlit+cloudrun+Gemini
できました。
完成です。おめでとうございます。
ー続くー