ODF (OpenShift Data Foundation) のストレージ使用量は、OpenShift Web コンソールで確認することができます。ここで確認できる各値の意味とそれらの値をどのメトリクスで取得できるかを整理しました。
環境:
OpenShift 4.12 で、ローカルストレージデバイスを使用した内部モードのODFクラスター
OpenShift Web コンソールを使用した確認
- ストレージ → Data Foundation をクリックします。
-
ストレージシステム
タブでリストされたストレージシステムリンクをクリックします。 -
ブロックおよびファイル
タブをクリックします。
RAW 容量
クラスター上のレプリケーションを含む RAW ストレージ容量の合計が表示されています。
この環境では、3つのストレージノードで構成されているため、実際のデータ量の3倍のストレージ容量が使用済みとなっています。
なお、このクラスターでは3つのストレージノードが各2.62TBのSSDを持っており、RAW 容量は7.85TiBとなっています。
メトリクス
odf_system_raw_capacity_used_bytes (または、ceph_cluster_total_used_raw_bytes)
使用済み容量の内訳
クラスターに保存されているレプリカ以外の実際のデータ量が表示されています。下の画面イメージではプロジェクト
別での使用量を表示させていますが、他にストレージクラス
、Pod
別に表示することができます。
メトリクス
kubelet_volume_stats_used_bytes
参考:cephコマンドを使用した確認例
上のようにメトリクスで確認する以外にも、ceph
コマンドを使って使用量を確認することもできます。rook-ceph-operator
podでコマンドを実行します。
確認例:
# oc -n openshift-storage exec -it rook-ceph-operator-b9d9d4577-7lnv8 -- ceph -c /var/lib/rook/openshift-storage/openshift-
storage.config df
--- RAW STORAGE ---
CLASS SIZE AVAIL USED RAW USED %RAW USED
hdd 7.8 TiB 6.0 TiB 1.8 TiB 1.8 TiB 23.46
TOTAL 7.8 TiB 6.0 TiB 1.8 TiB 1.8 TiB 23.46
--- POOLS ---
POOL ID PGS STORED OBJECTS USED %USED MAX AVAIL
ocs-storagecluster-cephblockpool 1 32 602 GiB 162.85k 1.8 TiB 26.75 1.6 TiB
device_health_metrics 2 1 637 KiB 3 1.9 MiB 0 1.6 TiB
ocs-storagecluster-cephobjectstore.rgw.log 3 32 4.4 MiB 340 15 MiB 0 1.6 TiB
ocs-storagecluster-cephobjectstore.rgw.meta 4 32 3.8 KiB 16 168 KiB 0 1.6 TiB
.rgw.root 5 32 5.3 KiB 16 180 KiB 0 1.6 TiB
ocs-storagecluster-cephobjectstore.rgw.buckets.index 6 32 9.6 MiB 22 29 MiB 0 1.6 TiB
ocs-storagecluster-cephobjectstore.rgw.buckets.non-ec 7 32 0 B 0 0 B 0 1.6 TiB
ocs-storagecluster-cephobjectstore.rgw.control 8 32 0 B 8 0 B 0 1.6 TiB
ocs-storagecluster-cephobjectstore.rgw.otp 9 32 0 B 0 0 B 0 1.6 TiB
ocs-storagecluster-cephfilesystem-metadata 10 32 256 MiB 148 769 MiB 0.02 1.6 TiB
ocs-storagecluster-cephobjectstore.rgw.buckets.data 11 32 20 GiB 25.73k 60 GiB 1.20 1.6 TiB
ocs-storagecluster-cephfilesystem-data0 12 32 4.0 GiB 1.29k 12 GiB 0.24 1.6 TiB
参考資料