nutanixをインストールして、Cloud-Initしてみるまで
はじめに
社内環境に検証サーバーを追加するのにあたり、使ったことがないハイパーバイザー使ってみようという話になり、nutanixをインストールしてみました。
このドキュメントには、インストーラーのダウンロードから、シングルノードクラスタを作成し、CloudーInitでVMを作成するまでの過程。
インストール時に発生したトラブル等をまとめてあります。
おおきなシステムなので、下の書籍に目を通し、概念だけでも頭に入れて置いた方が分かりやすいかも…(あとから読んだ人)
install
- インストール前にやっておく事
- CE 2.0 Download & USBの作成
- CEのライセンス登録
- CE 2.0のインストーラー通りにインストール
- ネットワーク設定
- ディスク指定
- ライセンス同意
- 自動で初期セットアップが行われるため待機 AHV起動→初回セットアップ(firstboot)
- clusterの作成(single nodeにチェックを入れていると自動)
- clusterコマンドでcluster作成
- web consoleから初期設定
- CEライセンス認証
- ディスク設定・DNS設定・VLAN他(必要ならば)
以下の手順に従い、インストールをしていきます。
公式
とても参考になった個人ブログ
インストーラーの準備 & インストールUSB作成、(アカウントに)ライセンス登録
参考:Nutanix CE 環境構築の流れ。(2020 年版)
Nutanix Next Community Download Software.
を開き、必要なisoファイルをダウンロードします。
ログインしていないと、下の様な画面が表示されるため、アカウントの作成・ログインして開きます。
また、Prism(WEBコンソール)設定時にライセンス認証が必要となるので、それも行っておきます。
たとえば、この記事を書いている時だと、インストーラーはphoenix-ce2.0-fraser-6.5.2-stable-fnd-5.3.4-x86_64.iso
USB作成
参考:Preparing to Install Community Edition
Rufusで任意のUSBメモリに焼く
インストールUSBを起動しインストール
2画面だけ。
商用版だと、インストーラーのイメージングツールが別にあり、そちらは強力な設定が可能な様子(その辺で差別化を測っている様子)
create single-node clusterにチェックしていると、自動的にクラスタが構成されるため、クラスタ作成は不要(がしかしトラブルがあったため手動でセットアップした)
勿論BIOSからUSB起動と仮想化支援機能を有効にする設定をしておく。
ハイパーバイザー・ディスク・ネットワークの設定
ディスクは3つ必要な様子。それぞれ文字を指定する。
同じアドレス圏の2つのアドレスを指定する。
参考:Recommended Community Edition Hardware
letter | desc | size |
---|---|---|
h | ハイパーバイザー | 32G~ |
c | CVM (早い方のディスク) | 200G~ |
d | データ | 500G?~ |
ライセンス同意
ちゃんと最後までスクロールしてチェックボックスを入れないとインストールエラーになる。
Clusterの作成
CVMにsshでログインできるようになったらClusterを作成する。
# password: nutanix/4u
ssh nutanix@CVM_IPAddress
single nodeのチェックを入れず、手動で構成する場合、下の様に実行する。
single nodeの場合--redundancy_factor 1
を指定しないといけないらしい。
# single node
cluster -s 192.168.x.xxx --redundancy_factor 1 create
WEB Consoleへのログイン & 初期セットアップ
指定したCVMのアドレスへブラウザからアクセス。
参考:Logging into the Web Console
- 下でログイン
key | value |
---|---|
user | admin |
password | nutanix/4u |
- パスワード変更を求められるのでその通りに
- 変更したパスワードで再度ログイン
- インストーラー準備時に利用したアカウントを入力する(ここでCEのライセンス登録が必要になる)
参考:Nutanix CE の Prism と最初の NEXT アカウント認証の様子。
ライセンス登録・日本語化
バグ?でadminユーザの場合、設定→Language Settingsでは設定が反映されない。
admin→プロファイル更新から言語設定を行う。
最低限名前などを入力して保存。
NWの追加・VMの作成等
Cloud-Initの設定
参考:Nutanix Cloud-Init Quick Lab
上の通り。
ディスクはDisks項のペンマークから編集し、拡大できる。
Proxmoxの様に任意のCloud-Initの設定をUIからは行えない様子(yamlを編集する)
前提・トラブルシューティング
内部はCVM・AHV(Host)ともにCentOSがベースな様子
管理コマンド等
command | target | desc |
---|---|---|
cluster | CVM | クラスタ作成・管理ツール |
ncli | CVM | クラスタの内部設定ツール(クラスタ作成後) |
acli | CVM | AHV・VMの設定 |
genesis | CVM | CVMのサービス関連の設定 |
virsh | AHV | VMの管理 |
logなど
主だったログ出力先
name | dir |
---|---|
CVM | ~/data/logs |
AHV | /root |
AHV | /var/log |
インストール時に発生したトラブル
ディスクシリアルが重複し、ディスク健全性を確保するサービスで適切にマウント出来なくなる
- RAIDコントローラーを使用し、RAIDを構成したディスクを二つ用意したら発生
- CVMもVMなので、AHV(インストールしたホストにログインし)
virsh edit CVM_NAME
で書き換えてあげる
ディスクがSSDとして認識される
- RAIDコントローラーを使用したら発生
- 上記同様に書き換える
VM上にインストールしたらCPUの機能が足りんと言われる
CPUタイプをKVM→host, 必要な機能をONに
Prism(Webコンソールにアクセスできない)
デフォルトの証明書の問題だった様子
参考:NutanixのWEBコンソールがsafariで開けない時の対処法
インストール時にNIC指定できない
最小構成でインストール後、設定・書き換え
RAIDコントローラーの問題仔細
以下の構成のHPE ML150で発生
Spec | |
---|---|
CPU | Intel(R) Xeon(R) CPU E5-2660 v4 @ 2.00GHz x2 |
memory | 256GB |
RAID Controller | Smart Array Gen9 Controllers P440 |
おそらくは他のRAIDコントローラーでも発生する可能性があり、下記に起因する。
- HDDのSerialに成り代わり、RAIDコントローラーのSerialが渡される
- RAIDコントローラー1つで2つのRAIDを構成していた
つまり、Serialが同じディスクが2つ存在することになる。
その結果、Serialをマウントポイント名として使用するhadesなるサービスでトラブルが発生していたようだった。
(同じマウントポイントに2つのディスクをマウントしようとする)
ならばどうにかしてSerial変えてあげれば良いよね?という…
virsh editの内容
AHVはほとんどKVMと同様に扱えるらしい
...etc...
<disk type='block' device='disk'>
<driver name='qemu' type='raw' cache='none' io='native'/>
<source dev='/dev/disk/by-id/scsi-3600508b1001c449ab1fdd604e20d6eb1'/>
<backingStore/>
<target dev='sda' bus='scsi'/>
<serial>PDNMF0ARH890OS-A</serial> ← コレ
<wwn>600508b1001c449a</wwn>
<vendor>ATA</vendor>
<product>LOGICAL VOLUME</product>
<alias name='scsi0-0-0-0'/>
<address type='drive' controller='0' bus='0' target='0' unit='0'/>
</disk>
<disk type='block' device='disk'>
<driver name='qemu' type='raw' cache='none' io='native'/>
<source dev='/dev/disk/by-id/scsi-3600508b1001c05e1b6aa134e89343d40'/>
<backingStore/>
<target dev='sdb' bus='scsi'/>
<serial>PDNMF0ARH890OS-B</serial> ← コレ
<wwn>600508b1001c05e1</wwn>
<vendor>ATA</vendor>
<product>LOGICAL VOLUME</product>
<alias name='scsi0-0-0-1'/>
<address type='drive' controller='0' bus='0' target='0' unit='1'/>
</disk>
...
xmlns:qemu='http://libvirt.org/schemas/domain/qemu/1.0'
の追記
<domain type='kvm' id='15' xmlns:qemu='http://libvirt.org/schemas/domain/qemu/1.0'>
SSDとして認識されるのを回避する
オプションとして、渡す。
<qemu:commandline>
<qemu:arg value='-set'/>
<qemu:arg value='device.scsi0-0-0-0.rotation_rate=1'/>
</qemu:commandline>
参考
- How to add virtual storage as SSD in KVM
- CE 2.0 Nested on ESXiによるマルチノードクラスタ作成に失敗する件の原因と回避方法
- 【HW】Nutanix CEをHP ML380G7/P410i構成に入れようとしてドハマりした話
- フィールドインストールガイド - トラブルシューティング
NIC生やす
82599ESのNICのを追加
ドライバはデフォで当たっている(流石intel nic)
参考:
- インストール後の Nutanix CE AHV に追加した NIC を認識させてみる。
- Configuring Load Balancing active-backup and balance-slb modes on AHV
(必要ならば)NIC名をeth[0-9]に変更
AHV(Host)側で
[root@NTNX ~]# cat << EOF > /etc/sysconfig/network-scripts/ifcfg-eth2
DEVICE=eth2
TYPE=Ethernet
NM_CONTROLLED=no
NOZEROCONF=yes
ONBOOT=yes
BOOTPROTO=none
HWADDR=__NIC_HW_ADDR__
EOF
下の手順のようにNICをUIから追加する。
メンテナンスモードに移行できないとタスクが失敗した。
インストール時の設定
一例として(installerで入力していた情報)
key | value |
---|---|
AHV IP | 192.168.0.88 |
CVM IP | 192.168.0.89 |
subnet mask | 255.255.255.0 |
gateway | 192.168.0.1 |
デフォルトのユーザ名・パスワード
AHVのデフォルトパスワード
key | value |
---|---|
user | root |
password | nutanix/4u |
CVMのデフォルトパスワード
key | value |
---|---|
user | nutanix |
password | nutanix/4u |
prism(Webコンソール)のデフォルトパスワード
key | value |
---|---|
user | admin |
password | nutanix/4u |
参考文献
- Getting Started with Community Edition
- フィールドインストールガイド - トラブルシューティング
- Configuring Load Balancing active-backup and balance-slb modes on AHV
- ホストとクラスターの停止・起動手順
- Nutanixバイブル
- CE 2.0 Nested on ESXiによるマルチノードクラスタ作成に失敗する件の原因と回避方法
- 【HW】Nutanix CEをHP ML380G7/P410i構成に入れようとしてドハマりした話
- Nutanix Community Edition 5.18 徹底解説 / Nutanix CE 5.18 Deep Dive
- そんなことまで!?Nutanix CEを使い倒そう!
- Nutanix CE に acli で VM を作成してみる。
- Nutanix CE 環境構築の流れ。(2020 年版
- インストール後の Nutanix CE AHV に追加した NIC を認識させてみる。
- Nutanix Enterprise Cloud クラウド発想のITインフラ技術
(おまけ)独断と偏見に基づくハイパーバイザーの比較
記事を書いている私はProxmoxユーザー
名前 | UI | 機能 | 分かりやすさ | ドキュメント量 | 備考 |
---|---|---|---|---|---|
ESXi | ○ | ◎ | ○ | ◎ | HW制約がキビシイ、CPUの制約がネック? |
Proxmox VE | ○ | △ | ◎ | ◎ | debian baseで実家の様な安心感、NWが若干貧弱? |
nutanix CE | ◎ | ◎ | ○ | △ | インストールさえ乗り越えれば? |
- Proxmox以外は、独自に開発しているハイパーバイザーだったり、独自インターフェースだったりする。
- Proxmoxはネットワーク周りの設定をUIから行えない
- UIはNutanixが一番かっこいいと思う(小並感)
- Nutanixはコミュニティがあるが、トラブルシューティング時の情報はあまり多くない印象
- ESXiやProxmoxはその辺が充実している気がする。(Proxmoxに至ってはDebianだし)