さくらのアドベントカレンダー2022 12日目の記事です。(すみません。12日に書いたものではないです)

さくらインターネットの稲垣です。
本記事ではcloud-initのモジュールの作成の仕方と、そのモジュールを使えるマイアーカイブの作成について紹介します。

今回は、urlを指定するとスクリプトをダウンロードして実行するモジュールを作成します。

開発環境

Ubuntu 20.04で開発を行いました。

moduleのスクリプトを作成する

cloud-initをgit cloneする

git clone https://github.com/canonical/cloud-init.git
cd cloud-init/

モジュールのソースコードを作成する

cloudinit/config/ディレクトリにcc_というプレフィクスをつけたファイルを作成します。

今回はcc_http_scripts.pyというファイルで作成しました。

vim cloudinit/config/cc_http_scripts.py

内容を以下のように編集します。(公式ドキュメントをベースに変更しています。)

基本的にやりたいことをhandle関数に書いていきます。
metaのidにはcc_http_scriptsを、activate_by_schema_keysには["http_scripts"]を指定します。

# This file is part of cloud-init. See LICENSE file for license information.
"""Example Module: Shows how to create a module"""
import sys
import urllib.request
import subprocess
from subprocess import PIPE, STDOUT, CalledProcessError
from logging import Logger

from cloudinit.cloud import Cloud
from cloudinit.config import Config
from cloudinit.config.schema import MetaSchema, get_meta_doc
from cloudinit.distros import ALL_DISTROS
from cloudinit.settings import PER_INSTANCE

MODULE_DESCRIPTION = """\
Description that will be used in module documentation.

This will likely take multiple lines.
"""

meta: MetaSchema = {
    "id": "cc_http_scripts",
    "name": "Example Module",
    "title": "Shows how to create a module",
    "description": MODULE_DESCRIPTION,
    "distros": [ALL_DISTROS],
    "frequency": PER_INSTANCE,
    "activate_by_schema_keys": ["http_scripts"],
    "examples": [],
}

__doc__ = get_meta_doc(meta)


def handle(
    name: str, cfg: Config, cloud: Cloud, log: Logger, args: list
) -> None:
    http_scripts = cfg.get("http_scripts", [])
    for http_script in http_scripts:
        if "url" not in http_script:
            raise ValueError(f"Missing required key 'url' from {http_script}")

        url = http_script.get("url")
        req = urllib.request.Request(url)
        with urllib.request.urlopen(req) as res:
            script = res.read()
            p = subprocess.run(
                ["/bin/sh"],
                input=script,
                stdout=PIPE,
                stderr=STDOUT,
            )
            if p.stdout:
                sys.stdout.write(p.stdout.decode("utf-8"))

設定ファイルのテンプレートを編集します。

vim config/cloud.cfg.tmpl

cloud_config_modules:にhttp_scriptsを追記します。

$ git diff
diff --git a/config/cloud.cfg.tmpl b/config/cloud.cfg.tmpl
index fdd5a357..22bf6bd9 100644
--- a/config/cloud.cfg.tmpl
+++ b/config/cloud.cfg.tmpl
@@ -160,6 +160,7 @@ cloud_config_modules:
 {% if variant in ["ubuntu", "unknown", "debian"] %}
  - byobu
 {% endif %}
+ - http_scripts

 # The modules that run in the 'final' stage
 cloud_final_modules:

変更内容をコミットしておきます。

git add -A
git commit -m 'Add http_scripts'

debパッケージを作成する

まずは、依存パッケージをインストールします。

sudo apt update
sudo apt install make devscripts debhelper dh-python dh-systemd python3-pytest python3-pytest-cov python3-pytest-mock python3-responses python3-configobj python3-debconf python3-jinja2 python3-jsonpatch python3-jsonschema python3-oauthlib python3-serial python3-setuptools

Makefileにdebパッケージを作成するターゲットが用意されていためそちらを実行します。
また上記依存パッケージ以外にも必要なパッケージがある場合はエラー文中に表示してくれます。

make deb

以下のようにdebファイルが作成されていることが分かります。

$ ls -lah *.deb
-rw-r--r-- 1 ubuntu ubuntu 502K Dec 30 02:16 cloud-init_22.4-51-g75953781-1~bddeb_all.deb
lrwxrwxrwx 1 ubuntu ubuntu   44 Dec 30 02:16 cloud-init_all.deb -> cloud-init_22.4-51-g75953781-1~bddeb_all.deb

カスタムcloud-initをインストールしたアーカイブを作成する

先ほど作成したdebをインストールしてさくらのクラウドのマイアーカイブを作成します。

さくらのクラウドでマイアーカイブ作成用サーバーを作成する

ベースになるディスクを作成するだけなので最小限のスペックで作成しました。

項目	スペック
CPU	1コア
メモリ	1GB
ディスク容量	20GB
ネットワーク	共有
アーカイブ	Ubuntu Server 20.04.2 LTS 64bit (cloudimg)

マイアーカイブ作成用サーバーにカスタムcloud-initをインストールする

debを作成した環境でscpを使いファイルをマイアーカイブ作成用サーバーに転送します。

scp cloud-init_22.4-51-g75953781-1~bddeb_all.deb ubuntu@<ip address>:~/

マイアーカイブ作成用サーバーでカスタムcloud-initをインストールします。

sudo apt install ./cloud-init_22.4-51-g75953781-1~bddeb_all.deb

cloud-initをリセットする

以下のようにcloud-initが実行済みになっているためリセットします。

$ cloud-init status
status: done

$ sudo cloud-init clean
$ cloud-init status
status: not run

シャットダウンしさくらのクラウドコンパネでマイアーカイブを作成する

sudo shutdown -h now

アーカイブソースにディスクを選択しマイアーカイブ作成用サーバーのディスクを選択します。

カスタムcloud-initインストール済みのマイアーカイブを使ってみる

ディスクからマイアーカイブへのコピーが完了するとマイアーカイブが利用可能になります。

マイアーカイブを使ってサーバーを作成する

現在さくらのクラウドではマイアーカイブをソースとする場合にコンパネからuser-dataを挿入することができません。
そのため、サーバーを起動せずに作成し、usacloudを利用してuser-dataを挿入してサーバーを起動します。

※ usacloudはさくらのクラウド用の公認CLIクライアントです。
※ 以下usacloudセットアップ済みの前提で進みます。

先ほど作成したアーカイブをマイアーカイブから選択します。

その他の設定項目で「作成後すぐに起動」を外しておきます。

usacloudでサーバーが作成されていることを確認します。

usacloud iaas server list

user-dataを作成しサーバーを起動する

user-dataを記述したファイルを作成します。

今回作成したモジュールを利用してdockerとk0sをインストールしてみます。

cat <<EOF > user-data
#cloud-config
users:
- name: ubuntu
  ssh_import_id: gh:<GitHub のユーザー名>
  lock_passwd: false
  shell: /bin/bash
  sudo: ALL=(ALL) NOPASSWD:ALL
  uid: 1000

http_scripts:
- url: https://get.docker.com
- url: https://get.k0s.sh
EOF

user-dataを指定して起動します。

usacloud iaas server boot my-cloud-init --zone=is1b --user-data=./user-data

カスタムcloud-initが動作していることを確認する

以下のコマンドで共有セグメントに接続しているIPアドレスでsshコマンドを実行できます。

usacloud iaas server ssh my-cloud-init

user-dataで指定したgithubに登録している公開鍵に対応する秘密鍵でsshができました。

Welcome to Ubuntu 20.04.2 LTS (GNU/Linux 5.4.0-80-generic x86_64)

 * Documentation:  https://help.ubuntu.com
 * Management:     https://landscape.canonical.com
 * Support:        https://ubuntu.com/advantage

  System information as of 2022年 12月 30日 金曜日 04:33:19 JST

  System load:  0.0               Processes:             96
  Usage of /:   7.7% of 19.21GB   Users logged in:       0
  Memory usage: 17%               IPv4 address for ens3: <ip address>
  Swap usage:   0%


0 updates can be applied immediately.

New release '22.04.1 LTS' available.
Run 'do-release-upgrade' to upgrade to it.


Last login: Fri Dec 30 04:26:45 2022 from <ip address>
ubuntu@sv-113402280888:~$

cloud-initが実行されていることを確認します。
--waitオプションをつけることで完了するまで待つことができます。

$ cloud-init status
status: running
$ cloud-init status --wait
................................................................................................................................................................................................................................................................................................................................................................................................................................................................................
status: done

ログを確認する

cloud-initのログは/var/log/cloud-init.logと/var/log/cloud-init-output.logがあります。
cloud-init.logにはcloud-init自体のログがcloud-init-output.logはモジュールのログが出力されます。

$ grep http_scripts /var/log/cloud-init.log
2022-12-29 19:48:51,729 - modules.py[DEBUG]: Running module http_scripts (<module 'cloudinit.config.cc_http_scripts' from '/usr/lib/python3/dist-packages/cloudinit/config/cc_http_scripts.py'>) with frequency once-per-instance
2022-12-29 19:48:51,729 - handlers.py[DEBUG]: start: modules-config/config-http_scripts: running config-http_scripts with frequency once-per-instance
2022-12-29 19:48:51,729 - util.py[DEBUG]: Writing to /var/lib/cloud/instances/nocloud/sem/config_http_scripts - wb: [644] 24 bytes
2022-12-29 19:48:51,730 - helpers.py[DEBUG]: Running config-http_scripts using lock (<FileLock using file '/var/lib/cloud/instances/nocloud/sem/config_http_scripts'>)
2022-12-29 19:51:03,066 - handlers.py[DEBUG]: finish: modules-config/config-http_scripts: SUCCESS: config-http_scripts ran successfully

https://get.docker.comのログ(最大10行)

$ grep "Executing docker install script" /var/log/cloud-init-output.log -A10
# Executing docker install script, commit: 4f282167c425347a931ccfd95cc91fab041d414f
+ sh -c apt-get update -qq >/dev/null
+ sh -c DEBIAN_FRONTEND=noninteractive apt-get install -y -qq apt-transport-https ca-certificates curl >/dev/null
+ sh -c mkdir -p /etc/apt/keyrings && chmod -R 0755 /etc/apt/keyrings
+ sh -c curl -fsSL "https://download.docker.com/linux/ubuntu/gpg" | gpg --dearmor --yes -o /etc/apt/keyrings/docker.gpg
+ sh -c chmod a+r /etc/apt/keyrings/docker.gpg
+ sh -c echo "deb [arch=amd64 signed-by=/etc/apt/keyrings/docker.gpg] https://download.docker.com/linux/ubuntu focal stable" > /etc/apt/sources.list.d/docker.list
+ sh -c apt-get update -qq >/dev/null
+ sh -c DEBIAN_FRONTEND=noninteractive apt-get install -y -qq --no-install-recommends docker-ce docker-ce-cli containerd.io docker-compose-plugin docker-scan-plugin >/dev/null
+ version_gte 20.10
+ [ -z  ]

https://get.k0s.shのログ

$ grep "k0s" /var/log/cloud-init-output.log
Downloading k0s from URL: https://github.com/k0sproject/k0s/releases/download/v1.25.4+k0s.0/k0s-v1.25.4+k0s.0-amd64
k0s is now executable in /usr/local/bin

dockerとk0sがインストールされていることを確認できました。

$ sudo docker version
Client: Docker Engine - Community
 Version:           20.10.22
 API version:       1.41
 Go version:        go1.18.9
 Git commit:        3a2c30b
 Built:             Thu Dec 15 22:28:08 2022
 OS/Arch:           linux/amd64
 Context:           default
 Experimental:      true

Server: Docker Engine - Community
 Engine:
  Version:          20.10.22
  API version:      1.41 (minimum version 1.12)
  Go version:       go1.18.9
  Git commit:       42c8b31
  Built:            Thu Dec 15 22:25:58 2022
  OS/Arch:          linux/amd64
  Experimental:     false
 containerd:
  Version:          1.6.14
  GitCommit:        9ba4b250366a5ddde94bb7c9d1def331423aa323
 runc:
  Version:          1.1.4
  GitCommit:        v1.1.4-0-g5fd4c4d
 docker-init:
  Version:          0.19.0
  GitCommit:        de40ad0

$ k0s version
v1.25.4+k0s.0

ちなみに... ubuntuユーザーが初期化されるわけではないのでdebファイルが残っていたり、最初の起動時に指定した公開鍵が.ssh/authorized_keysに残っていたりします。
マイアーカイブ化する前にubuntuユーザーは削除するのが良いのかなと思います。

$ ls
cloud-init_22.4-51-g75953781-1~bddeb_all.deb
$ head -n1 .ssh/authorized_keys
ssh-rsa AAAAB3NzaC1yc2EAAAADAQABAAABgQD0x++fAvsnjj5/BviVPDSEEg9fxTvvMhFRVqCNG0uwNP+sQ6Ng9joTcQONFeTRDIK/VwYAhQvhSnQztu3ybp/0vLFXvbBUtp1sQLZiI5l/aUh+Nfo+Kq26T0cBtXVOp4Leyug3nYK+T/kFLU2u/utbzJbD9bhn/1+gUdY2VLo28bSdz+9jlXSo9YzisETZm2PuAUH2cMc1dk1O0UpmvuPKGX+iEiiJHsb1dWj7HfGnJquYHJ2hQSXVpsR2o0hsGapBFbpiq/MHqzSZA71OxHIujqlrnQ1SVQsW7S0w5oNZVoMK1IYw055//iytNjLc9f8QpcWXG9sY4sOySbFUUiNg7j1aoDjWxpPA0lvLPOXeQNZXT+z7zqd52fz+QrsjwNvGErod3UP0WFPy5/tJrnmeZxbNSVmfX+O8npswGs7Y4Nb1AGgNpKK2vTkaCFVHgfwJ5oLTYdbh3AFrC2Do3Zomk2XHxXFxxZRHAixKMe/79Nxi2F95/6EEDMK+89ReeI8= ubuntu@vm

さいごに

今回は、urlを指定するとスクリプトをダウンロードして実行するcloud-initのモジュールを作成する流れを紹介させていただきました。
cloud-initでこんなことできたらいいのに！というアイデアをお持ちの方はぜひモジュール自作をしてみてはいかがでしょうか。
もしこの記事がその助けになれば幸いです。

余談ですが、このhttp_scriptsに実行時に環境変数も指定できる機能を追加しcanonical/cloud-initにPRを出してみました。マージされるかはわかりませんが、もしマージされれば各ディストリビューションが配布しているcloudimgに標準で取り込まれることになります。その際はぜひ使っていただけたらなと思います。

参考