0
1

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?

027 AI屋さんの LLMにトークン全文入力 streamlit+cloudrun+Gemini

Posted at

027 AI屋さんの LLMにトークン全文入力 streamlit+cloudrun+Gemini

すでに何度か、大規模言語モデルのwebアプリをクラウドのサーバーレスでデプロイしてきました。
一度、手順をまとめておきましょう。
色々方法はありますが、簡単な方法で行きます。

streamlitをクラウドのサーバーレスで インターネット公開は、超絶難易度高そうなイメージですが、いえいえ、そんなことはございません。
むしろ

 streamlitのマルチページ 

だから超簡単なのです。全てのwebフレームワークの中で最も簡単かもしれません。

ブラウザ画面 ポチポチ のみで、完成します。
全体の構成は

 1、cloudrunにdockerイメージデプロイ bono0/st
 2、ストレージをマウント /app/pages
 3、ストレージにpythonファイルをコピー app01.py
 
で完成です。
特にトラブルが無ければ、数分で完成します。
注意点としては、用意するイメージの内容です。
事前の pip install 済みのライブラリと
アプリのディレクトリの場所です。
上記のサンプルの設定内容で、一通りは動きます。

スクリーンショット 2024-12-23 21.00.19.png

アプリの内容は、最小限度です。
必要な部分を後から足してください。


#app01.py

import streamlit as st

st.write("hello")
st.write("hello end")


cloudrunの設定

まずは、ストレージ向けの設定

スクリーンショット 2024-12-23 20.41.39.png

続いて、docker向けの設定

スクリーンショット 2024-12-23 20.43.00.png

ついでに、環境変数の設定

スクリーンショット 2024-12-23 20.44.02.png

たった、これだけで streamlit をクラウドデプロイできてしまします。
ほんと、簡単すぎて びっくりします。
しかも、アプリの修正も追加も 何個でも後から可能です。

目次

今回も無事に

 027 AI屋さんの LLMにトークン全文入力 streamlit+cloudrun+Gemini
 できました。

完成です。おめでとうございます。

ー続くー

0
1
0

Register as a new user and use Qiita more conveniently

  1. You get articles that match your needs
  2. You can efficiently read back useful information
  3. You can use dark theme
What you can do with signing up
0
1

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?