Bedrockアプリに画面と認証を付けてインターネットに公開する一番簡単な手順 - Amazon Bedrock APIで始めるLLM超入門⑧

Last updated at 2024-02-23Posted at 2024-02-18

作成したBedrockアプリのデモを行う際に、インターネットに公開したくなる事もあると思うので、一番簡単そうな手順を整理してみます。
インターネットに公開するので申し訳程度の認証機能も付けます。

初稿ではnon-SSL(HTTP)だったのですがSSL(HTTPS)の手順に変更しました

アーキテクチャ図

画面はStreamlitで作成しCloud9上で稼働させます。
インターネットからのアクセスはエッジロケーションのCloudFrontにてSSL(HTTPS)で受け、AWSネットワークバックボーンをnon-SSL(HTTP)で通って、Elastic IPをアタッチしたCloud9上のStreamlitにアクセスします。
AWSネットワーク内はnon-SSLなのでプロダクション環境では望ましくない場合があるかもしれませんが、デモ程度であれば問題ないかなと思います。

Bedrockへのモデルアクセスは許可済、リージョンはClaude2.1が使える前提です。

認証画面

こんな認証画面を付けます。

Cloud9環境の作成

名前を適当に付けて全てデフォルトでCloud9環境を作成します。（Admin権限で…）
（デフォルト）タイムアウトが30分なので、30分経つと終了しお財布にもセキュリティにも安心です。30分では短すぎる場合は伸ばして作成してください。

EC2インスタンスが作成されたら、ElasticIPの割り当て・作成したCloud9のEC2に対する関連付けを行います。

必要ライブラリのインストール

LangChainとStreamlitを使います（LangChainは使わなくても良いんですが、サンプルプログラムをスッキリさせる為だけに使っています）。認証用にstreamlit_authenticatorを使います。

pip install -U boto3 langchain langchain-community streamlit streamlit_authenticator

今回久しぶりにlangchainを触っていて気付いたのですが、私が過去に作ったlangchainを使うサンプルプログラム、今のバージョンだときっと全部動かないですね。どこかで直さないといけません。

プログラムの作成

認証機能は「付いていれば良い」の精神で、IDとパスワードは固定です。行儀が悪いですがプログラムにハードコーディングしています。
サンプルはIDがadmin、パスワードがpassとしていますが、これも行儀が悪いので適当に直してください。

凝れば色々出来そうなので詳しくは以下

hogehoge.py

from langchain_community.llms import Bedrock
import streamlit as st
import streamlit_authenticator as sa

# admin/pass 固定で認証情報を作成
authenticator = sa.Authenticate(
    credentials={"usernames":{"admin":{"name":"admin","password":"pass"}}},
    cookie_name="streamlit_cookie",
    key="signature_key",
    cookie_expiry_days=1
)

# ログイン画面描画
authenticator.login()

if st.session_state["authentication_status"]: #ログイン成功
    # ログイン後画面の描画

    authenticator.logout() #ログアウトボタン
    st.title("LangChainからのBedrock呼出し") #タイトル
    input_text = st.text_input("このテキストをBedrockに送信します")
    send_button = st.button("送信")
    
    # 送信ボタン押下
    if send_button:
        llm = Bedrock(model_id="anthropic.claude-v2:1") #Claude2.1
        answer = llm.invoke(input_text)
        st.write(answer)

elif st.session_state["authentication_status"] is False: #ログイン失敗
    st.error('Username/password is incorrect')
elif st.session_state["authentication_status"] is None: #未入力
    st.warning('Please enter your username and password')

上記の「ログイン後画面の描画」の部分がログイン後の本体、「送信ボタン押下」の部分がBedrockアクセスを行っている箇所になるので、ここだけ各自の処理に差し替えてもらえば良いかなと思います。チャットなりRAGなりAgentsなりKnowledge baseなり。

Streamlitから起動する

後でセキュリティグループに穴を開けるので、ポート番号はデフォルト（8501）で起動します。

python3 -m streamlit run hogehoge.py

Cloud9のプレビュー機能から見えれば充分な場合はポート番号8080を指定して起動してプレビュー機能で参照できます。

python3 -m streamlit run hogehoge.py --server.port 8080

セキュリティグループの穴開け

Cloud9のEC2インスタンスのセキュリティグループのインバウンドルールに対して、ポート：8501をプレフィックスリストのcom.amazonaws.global.cloudfront.origin-facingに対して許可をし、CloudFrontからのポート番号8501（Streamlit）宛のアクセスのみ許可します。