職場や学校のPCを使う場合など、ローカル開発環境を使えない(インストールやUpdateができない)状況でBedrockやLangChainを試す場合にはCloud9を使用するのがお手軽です。
必要なもの
閉じて30分経てばコンピューティングの課金は止まるはずですが(EBSは月額なので停止しててもかかり続けます)、「もういいかな」ってなればcloud9環境を消してしまえば更に安心です。
Cloud9環境の作成
使えるモデルの関係で手っ取り早くバージニア北部(us-east-1)リージョンで作成します。
名前以外は全てデフォルト(インスタンスタイプ t2.micro、Amazon Linux2、タイムアウト30分)でOKです。
Bedrock基盤モデルの有効化
以下を参考にClaude、Claude Instantを有効にします。
Pythonライブラリのインストール
Administrator権限を持ったユーザーで、作成したCloud9環境に入ります。
2023/10/29時点のCloud9環境を確認します。
Admin:~/environment $ python --version
Python 3.8.16
Admin:~/environment $ pip list | grep boto3
Admin:~/environment $ pip list | grep langchain
Admin:~/environment $
Amazon Linux 2023 の場合は、python
ではなくpython3
で実行
Python自体のバージョンは問題ないので、boto3とlangchainとついでにstreamlitをインストールします。
Admin:~/environment $ pip install -U boto3 langchain streamlit
これでPythonの実行環境が出来ました。
Pythonプログラムの作成
方法は色々ありますが、慣れない方の為に説明すると、例えば左のツリー部分で右クリック→New Fileで新しいファイルが作成されます。
ファイル名を適当に変えてダブルクリックするとエディタが起動します。
編集が終わったらCtrl+Sで保存できます。
Pythonプログラムの実行
右上の「▶Run」をクリックすると実行できます。
或いはターミナルのWindowからも実行できます。
Admin:~/environment $ python test.py
Hello! Nice to meet you.
Streamlitを簡易的に実行する為には以下のようにポート番号に8080を指定して起動します。
Admin:~/environment $ python -m streamlit run test.py --server.port 8080
Amazon Linux 2023 の場合は、python
ではなくpython3
で実行
Streamlit起動後、画面上部の「Preview」から「Preview Running Application」を選択します。
画面下部にプレビューWindow(ブラウザ)が立ち上がります。ここで操作可能です。
簡易的な実行としては充分では無いでしょうか。
サンプルプログラムが必要な場合は以下をご参照ください。
Cloud9以外の方法
Google ColabであればCloud9分の費用は掛かりませんが、AWS環境への接続にcredentialを発行・設定する必要があるので、ほんのちょっとだけ手間です。制約のある環境の場合、ColabからAWS環境に接続しようとすると別の制約を乗り越える必要がありそうな気がするので細かいご紹介は省略しますが、必要なものをpip installしてcredentialを使用してboto3セッションで接続する感じです。環境が許すなら難しくはないです。
無料のAmazon SageMaker Studio Labを使う方法もありますがGoogle Colabと一緒の話かなと思います。
SageMakerインスタンスを立ち上げてJupyterノートブックを使用する方法もありますが、Cloud9よりもお高めなのでBedrock APIをお触りするだけであれば敢えて使う必要は無いかなと思います。こちらも細かいご紹介は省略しますが、一番小さいインスタンスタイプでPython環境を立ち上げて必要なものをpip installするだけです。
或いは、LambdaからBedrock APIを呼び出す事も可能ですが、boto3のバージョンを上げる必要がある(Lambdaレイヤーを作る必要がある)ので、お試しであれば敢えてLambdaを使う必要は無いかなと思います。