IBM Cloud Virtual Server x PodmanでFlowiseを起動するまで

この記事について

Podmanの事例であまり聞かない、Ubuntu22.04 Server x Podman環境で、生成AIを使ったノーコード/ローコード開発ツール「Flowise」を動かすまでの備忘録です。Ubuntu22.04 Server x Podman環境に慣れておくことで、Raspberry Pi 等のようなエッジサーバー/エッジデバイスにも応用できます。

なお、試行錯誤結果を整理して書いていますが、今後の各ソフトウェアのバージョンアップ次第では、ここで書いていることが使えないことが十分に考えられますのでご注意ください。

Podman（ポッドマン）を選んだ理由

Podmanは、RedHat社が中心となって開発したコンテナ管理ツールです。ここ数年のIBM Cloudの動きは、RedHat社がIBMとの繋がりが増えたあたりからKubernetesやOpenShiftといったコンテナ関係に集中してアップデートや新機能の追加が増えているため、IBM Cloudを使うことを前提にした場合、ドキュメントの豊富さやOpenShiftとの繋がりからコンテナ管理ツールとしてPodmanを選んでいます。

２つ目にPodmanを使って、KubernetesのYAMLファイルを生成することができるので、パブリッククラウドのみならず、Newオンプレミス（コンテナ等のクラウドコンピューティング技術を適用し、クラウドネイティブ化したオンプレミス環境）に向けたコンテナ活用として、Podmanは取り組みやすいと言えます。
KubernetesのYAMLファイルを作成する際には、なるべく手間を省きたいものです。

３つの理由を挙げるとすれば、インストールが手軽なことでしょう。Dockerのインストールマニュアルをご覧いただくとわかりやすく、より少ない手順でインストールできることは、学習者の心理的ハードルを下げ、トラブルが減ります。

今回の使用環境

IBM Cloud Virtual Server for VPC または、IBM Cloud Virtual Server for Classicのどちらかで、サーバーを用意します。

• 開発や検証環境として使う場合：IBM Cloud Virtual Server for Classic の「一時サーバー」を選択
• 本番環境として使う場合：IBM Cloud Virtual Server for VPCを利用。

この記事では、ロケーションは東京、OSにUbuntu 22.04 Server、2つの仮想CPUと8GBのメモリを選択した仮想サーバーになります。

< IBM Cloud Virtual Server for Classic の場合 >

< IBM Cloud Virtual Server for VPC の場合 >

Podman環境の構築

作業用ユーザーを作成し、作業用ユーザーを使って、Podmanを実行する環境を整えていきます。以下の順番で作業を進めます。

作業用ユーザーの作成

ここでは、rootユーザーしかない状態で、workuser1 というユーザーを作り、管理者権限を付与します。
rootユーザー以外の作業用の管理者権限を持つユーザーが登録されていれば、そちらを使うのも良いでしょう。
SSH接続で、サーバーにアクセスします。次のコマンドを実行します。

# adduser workuser1
# usermod -aG sudo workuser1

SSH接続からログアウトし、作成した作業用ユーザーを使って、SSH接続し直します。以後、作成した作業用ユーザーで進めます。

podman インストールの前段の準備

サーバーのタイムゾーンや日本語言語パック、Pythonでpipを使えるようにしておくことも必要です。

sudo apt-get update
sudo apt-get upgrade
sudo timedatectl set-timezone Asia/Tokyo
sudo apt-get install curl gcc git make language-pack-ja 
sudo apt-get install python3-pip

podmanおよびpodman-dockerのインストール

Podmanをインストールします。また、Podmanコマンドの代わりに、Dockerコマンドも使えるように、podman-dockerも一緒にインストールしておきます。

sudo apt-get install podman
sudo apt-get install podman-docker

Ubuntu22.04で、ソースコードからビルドする以外でPodmanをインストールする場合、バージョン 3.4.4 が入ります。
2023年9月現在、aptを使ってインストールしたPodmanで、後述のpodman-composeを使うと「exit code: 125」のエラーが出るため、Podmanを動かしているGo言語のバージョンを下げるため、次のコマンドを実行します。

sudo apt install podman=3.4.4+ds1-1ubuntu1 --allow-downgrades

ダウングレード実行前のGo言語のバージョン

Version:      3.4.4
API Version:  3.4.4
Go Version:   go1.18.1
Built:        Thu Jan  1 09:00:00 1970
OS/Arch:      linux/amd64

ダウングレード実行後のGo言語のバージョン

Version:      3.4.4
API Version:  3.4.4
Go Version:   go1.17.3
Built:        Thu Jan  1 09:00:00 1970
OS/Arch:      linux/amd64

Podmanのバージョンに変化はありませんが、Go言語のバージョンが変わっています。Ubuntu 22.04かつPodmanバージョン3.4.4で起きていることですので、今後改善されるはずです。あるいはPodmanをソースコードからビルドしてインストールするかどうか。

Podman環境で、Docker-Composeを使用可能にする

コンテナを扱う場合、多くのソフトウェアでは、Dokcer-Composeに対応する定義ファイル「docker-compose.yml」が配布されているので、Podman環境でも「docker-compose.yml」を利用できるようにします。

podman-composeおよびスタンドアローン版docker-composeのインストール

次のコマンドを実行します。

pip3 install podman-compose
sudo curl -SL https://github.com/docker/compose/releases/download/v2.20.3/docker-compose-linux-x86_64 -o /usr/local/bin/docker-compose
sudo chmod +x /usr/local/bin/docker-compose

スタンドアローン版Docker Composeは、2023年9月現在の最新版である、バージョン 2.20.3 を使っています。
https://docs.docker.com/compose/install/standalone/ を見てインストール時に使えるバージョンを確認しましょう。

Podman APIソケットサービスの起動

Docker-Composeを使えるようにするため、Unixソケット作成を行います。

systemctl --user daemon-reload
systemctl --user enable --now podman.socket

実行結果(作業用ユーザーが、workuser1の場合）

Created symlink /home/workuser1/.config/systemd/user/sockets.target.wants/podman.socket → /usr/lib/systemd/user/podman.socket.

docker-composeは、DOCKER_HOST経由操作するので、作業用ユーザーの「.profile」に、「DOCKER_HOST=unix://」を追記します。

podman.sockのパスを確認

podman info --format '{{.Host.RemoteSocket.Path}}'

実行結果例(この結果は、それぞれ異なるので、自分の環境で上記コマンドを必ず実行しましょう。コピペに意味はありません。)

/run/user/1001/podman/podman.sock

作業用ユーザーの「.profile」に、「DOCKER_HOST=unix://」を追記します。エディタはnanoを使っていますが、vimでも良いです。

nano .profile

末尾に、下記を追記します。追記後、上書き保存します。

export DOCKER_HOST=unix:///run/user/1001/podman/podman.sock

export DOCKER_HOST=unix://の後ろは、podman info --format '{{.Host.RemoteSocket.Path}}' の実行結果になります。

保存後、sourceコマンドを使って反映します。

source .profile

Ubuntu22.04におけるPodman3.4.4のCNI関係の警告回避方法

Ubuntu22.04で、Podman3.4.4を実行する際に、次のような警告が表示されることがあります。
関連情報 Ubuntu 22.04.1 LTS libpod (package podman 3.4.4+ds1-1ubuntu1.22.04.1): broken network functionality for CNI plugins

WARN[0000] Error validating CNI config file /home/あなたのユーザー名/.config/cni/net.d/docker_default.conflist: [plugin bridge does not support config version "1.0.0" plugin portmap does not support config version "1.0.0" plugin firewall does not support config version "1.0.0" plugin tuning does not support config version "1.0.0"] 

対処方法として、「containernetworking-plugins」を、インストールすることで解決できる。

curl -O http://archive.ubuntu.com/ubuntu/pool/universe/g/golang-github-containernetworking-plugins/containernetworking-plugins_1.1.1+ds1-1_amd64.deb
sudo dpkg -i containernetworking-plugins_1.1.1+ds1-1_amd64.deb

Flowise

Flowiseは、大規模言語モデル（LLM）を用いたアプリケーションを作るための開発ツールで、Webブラウザ上で使うノーコード/ローコードツールです。
Webサイト：https://flowiseai.com/

この章では、構築したPodman環境でFlowiseを動かすまでを説明します。

Gitからダウンロード

FlowiseのGitリポジトリから、ソースコードを取得します。

git clone https://github.com/FlowiseAI/Flowise.git
cd Flowise/docker
ls -l

ダウンロードしたFlowiseのdockerディレクトリには、次のファイルが格納されています。(作業用ユーザー名が、workuser1の場合)

-rw-rw-r-- 1 workuser1 workuser1  721 Sep 12 13:08 .env.example
-rw-rw-r-- 1 workuser1 workuser1  441 Sep 12 13:08 Dockerfile
-rw-rw-r-- 1 workuser1 workuser1 1309 Sep 12 13:08 README.md
-rw-rw-r-- 1 workuser1 workuser1  686 Sep 12 13:27 docker-compose.yml

docker-compose.ymlの編集

Podman環境で、docker-compose.ymlを使うために、docker-compose.ymlを編集します。
編集には、nanoエディタを使っていますが、vimでも構いません。編集後、上書き保存します。

nano docker-compose.yml

編集前

image: flowiseai/flowise

編集後

image: docker.io/flowiseai/flowise

これで、docker hubに公開されている、Flowiseのコンテナイメージを取得できるようになります。

.envファイルの複製と編集

.envファイルを、.env.exampleから複製します。

cp .env.example .env

編集には、nanoエディタを使っていますが、vimでも構いません。編集後、上書き保存します。

nano .env

編集前

PORT=3000
PASSPHRASE=MYPASSPHRASE # Passphrase used to create encryption key
DATABASE_PATH=/root/.flowise
APIKEY_PATH=/root/.flowise
SECRETKEY_PATH=/root/.flowise
LOG_PATH=/root/.flowise/logs

編集後

PORT=3000
PASSPHRASE=MYPASSPHRASE # Passphrase used to create encryption key
DATABASE_PATH=/root/.flowise
APIKEY_PATH=/root/.flowise
SECRETKEY_PATH=/root/.flowise
LOG_PATH=/root/.flowise/logs
FLOWISE_USERNAME=adminuser
FLOWISE_PASSWORD=admin1234admin

「FLOWISE_USERNAME」と「FLOWISE_PASSWORD」を追加し、Flowiseの作業画面に認証機能を追加しました。環境変数は他にもあるので、詳しくは以下を確認すると良いでしょう。
https://github.com/FlowiseAI/Flowise/blob/main/CONTRIBUTING.md#-env-variables

Podman環境で、Flowiseをまっさらな状態から起動し直すような場合

「DATABASE_PATH」、「APIKEY_PATH」、「SECRETKEY_PATH」は、rootディレクトリ下の自動作成される「.flowise」となり、ログは、「.flowise」下の「logs」になっています。
もし、Podman環境で、Flowiseをまっさらな状態から起動し直すような場合は、rootディレクトリ下の自動作成される「.flowise」ディレクトリを削除してから、Flowiseを起動しましょう。

Flowiseの起動

Podman環境で、docker-compose.ymlを使って、Flowiseを起動します。

podman-compose -f docker-compose.yml up -d

実行結果

podman-compose version: 1.0.6
['podman', '--version', '']
using podman version: 3.4.4
** excluding:  set()
['podman', 'ps', '--filter', 'label=io.podman.compose.project=docker', '-a', '--format', '{{ index .Labels "io.podman.compose.config-hash"}}']
['podman', 'network', 'exists', 'docker_default']
['podman', 'network', 'create', '--label', 'io.podman.compose.project=docker', '--label', 'com.docker.compose.project=docker', 'docker_default']
['podman', 'network', 'exists', 'docker_default']
podman run --name=docker_flowise_1 -d --label io.podman.compose.config-hash=617a2761390ef7fb87c75b4f759ba82e3f0bc7ad247aeca8815929dd450404e0 --label io.podman.compose.project=docker --label io.podman.compose.version=1.0.6 --label PODMAN_SYSTEMD_UNIT=[e-mail] --label com.docker.compose.project=docker --label com.docker.compose.project.working_dir=/home/workuser1/Flowise/docker --label com.docker.compose.project.config_files=docker-compose.yml --label com.docker.compose.container-number=1 --label com.docker.compose.service=flowise -e PORT=3000 -e PASSPHRASE=MYPASSPHRASE -e FLOWISE_USERNAME=adminuser -e FLOWISE_PASSWORD=admin1234admin -e DEBUG= -e DATABASE_PATH=/root/.flowise -e APIKEY_PATH=/root/.flowise -e SECRETKEY_PATH=/root/.flowise -e LOG_LEVEL= -e LOG_PATH=/root/.flowise/logs -v /home/workuser1/.flowise:/root/.flowise --net docker_default --network-alias flowise -p 3000:3000 --restart always docker.io/flowiseai/flowise /bin/sh -c sleep 3; flowise start
Trying to pull docker.io/flowiseai/flowise:latest...
Getting image source signatures
Copying blob 751194035c36 done  
Copying blob 7264a8db6415 done  
Copying blob eff5dce73b38 done  
Copying blob c8ce5be43019 [======================================] 447.0b / 447.0b
Copying blob 253e3c6f8f4f done  
Copying blob e9a82e626ce4 done  
Copying blob 3a80f4d63265 [======================================] 21.8MiB / 21.8MiB
Copying blob dcea9fb00269 done  
Copying blob fee78030adc2 done  
Copying blob 89aa40859ec2 [======================================] 94.0b / 94.0b
Copying config 4a72673c7a done  
Writing manifest to image destination
Storing signatures
1e49e09c3b14b4c9bee4071879642ecdd3008c1e9778704cbed180d45e9511a9
exit code: 0

Podmanのコンテナ起動状況を確認します。

podman ps -a

実行結果

CONTAINER ID  IMAGE                               COMMAND               CREATED             STATUS                 PORTS                   NAMES
1e49e09c3b14  docker.io/flowiseai/flowise:latest  /bin/sh -c sleep ...  About a minute ago  Up About a minute ago  0.0.0.0:3000->3000/tcp  docker_flowise_1

もし、コンテナが停止した場合は、「podman start コンテナID」を実行することで、再びコンテナが動きます。この辺りは、dockerコマンドとほぼほぼ同じです。

Webブラウザで確認

Webブラウザで、http://Podmanを実行しているサーバーのIPアドレス:3000 にアクセスします。IPアドレスの代わりに、FQDN(ホスト名+ドメイン名)の方が良いですが、独自ドメインが必要なので、本格的に運用する時までに独自ドメインを取得しておきましょう。

Login画面で、.envファイルで設定した「FLOWISE_USERNAME」と「FLOWISE_PASSWORD」の値を入れ、「Login」をクリックします。
作業画面が利用可能になります。

画面左側の「Marketplaces」をクリックすることで「Chatflow」タブには、いくつかのLLMを前提としたアプリケーションを作るための雛形（テンプレート）を確認することができます。

テンプレート名をクリックすると詳細が表示されます。

画面右上の「Use Templace」をクリックすることで、テンプレートを使って、LLMアプリケーションの開発をスタートすることができます。

まとめ

2023年9月現在、Flowiseの公式ドキュメントには、IBM Cloudで動かす手順というものがありません。
https://docs.flowiseai.com/deployment
そこで、今回は、IBM Cloudを使い、Dockerではなく、PodmanでFlowiseを動かす手順を書くことにしました。Ubuntuを使っていますので、Rasberry Pi等のシングルボードコンピュータを用いたエッジサーバー/エッジデバイスにも応用することができます。

参考資料

Flowiseのドキュメント:https://docs.flowiseai.com/
YouTubeでFlowiseを使ってLLMアプリケーションを作ることを扱った動画：https://www.youtube.com/hashtag/flowise