Dify楽しそう
すぐ飛びつくw
何それ?って方はこちらへどうぞ。
- ラズパイのdocker imageは無さそう(そもそもスペック怪しい)
- PCは余ってるのがあるけど、常時通電をどこかに置いておくのはちと面倒
- というかAPI化したらインターネット経由でも使いたくないか?
そうだ、AWS EC2にインストールしよう (判断ミス) ※私に限って、ですけどね。
レシピ
- 大前提:
- OpenAIに課金していること。
- というか使いたいモデルのAPI keyが取得できる状態であること。
-
AWS EC2インスタンスにdockerとdocker-composeをインストール...(後略)
- composeのバージョンはv2.27.0にしてみました
-
Difyインストール(Docker篇)
- gitのCLIは使える状態でした。使えない方はこちら(未検証):
sudo yum install -y git
-
docker-compose
ではダメでしたのでdocker compose
に変えました
- gitのCLIは使える状態でした。使えない方はこちら(未検証):
これだけみたいです。
現場からは以上です。
トラブルシュート
まさかのEBS容量足りない事件が勃発ww
2.xGBあったんですけど、 docker compose up -d
して(おそらくimageの)pullが実行されるんですけど
apiってやつを処理している最中に以下のエラーが発生しました。
failed to register layer: Error processing tar file(exit status 1): write /usr/local/lib/python3.10/site-packages/readabilipy/javascript/node_modules/acorn/dist/acorn.js.map: no space left on device
いろいろ調べた結果、単純な容量不足っぽかったので容量追加しておきました。
AWS EC2インスタンスのディスク容量(EBSボリュームサイズ)を増やす方法
ちなみに上記手順の中で「デバイス名」はAWSコンソールと df -hT
の表示結果が異なっていたので
そこはよしなに処理してます。
- AWSコンソール表示:
/dev/xvda
- terminal表示:
/dev/nvme0n1p1
なので→sudo growpart /dev/nvme0n1 1
と実行
nginxだけコケる
Error response from daemon: driver failed programming external connectivity on endpoint docker-nginx-1 (74***************7e): Error starting userland proxy: listen tcp4 0.0.0.0:80: bind: address already in use
無事compose upできましたが、nginxのコンテナだけ立ち上がりません。
「さて、こいつもトラブルシュートしよう」
と思ったら・・・・
はて?
自前のサイトが見れなくなってる。
はてはて?
sshに繋がらなくなった。
まずい。
・・・・・・・。
・・・・・・・。
・・・t3a.microじゃスペック全然足りない!!www
2コアでメモリは4GB必要です!!
くそっ!!www
ストレージは容量増やしたのに!!くそっ!!www
(AWSコンソールからインスタンスを再起動しました、とさ)
結末
まずはローカルに環境を作ることにします
AWSがダメならMacがあるじゃない
と、かのマリーアントワネット姫が言ったとか言わないとか。
レシピ(再挑戦)
-
dockerとdocker-composeのインストール(mac編)
- 余談ですがIntel復活してほしいのは私だけでしょうか?
- インストール後、起動するとAcceptとかSign up(or Sign in)とかやる
- 余談ですがフリーランスはfull-stack engineerでしょうか?
- デスクトップアプリを入れたら
docker-compose
使えるようになってました。- なのでcurlで取ってきてbinの中に収める、という手順は不要のはず
-
Difyインストール(Docker篇)
- gitのCLIは(以下同文
-
http://localhost/install にアクセスして無事起動できました
- くるくる終わらなかったので http://localhost にアクセスし直したら初期化画面になりました
- メアド、ユーザ名、パスワードを入れたらできあがり!
(おまけ) OpenAIだけ接続しておく
- 画面右上のユーザー名をクリック
- 表示されるメニューから「設定」を選択
- 左のメニューから「モデルプロバイダー」を選択
- OpenAIの「セットアップ」をクリック
- ダイアログ左下の「Get your API Key from OpenAI」をクリック
- 別タブで開いたOpenAIにログイン
- ログイン後はAPI keysの画面なので「Create secret key」をクリック
- 任意の値を入力して「Create secret key」をクリック
- API keyが表示されるので「Copy」をクリック
- Difyのタブに戻ってAPI Keyを入力し、「保存」をクリック
最後に
また新しいオモチャを手に入れて満足です。
(作るのを断念した「My秘書」を作りたい)