2
1

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?

More than 1 year has passed since last update.

Elastic CloudでHotに溜まっているデータを別のティアに移動するやり方

Last updated at Posted at 2023-08-17

はじめに

Elasticソリューションアーキテクトの関屋です。
Elastic Cloudでは、データを格納するノードを選択できます。基本(必須)のHot Tier以外に、よりコストの安いWarm/Cold/FrozenのTierを選択的に設けることができます。

しかし、Warm/Cold/Frozenはそれらのノードを立ち上げただけではデータはデフォルトではそちらに移動してくれません。
Index Lifecycle Management (ILM)を使ってライフサイクルを設定する必要があります。

ILMですが、インデックスの作られ方によって、状況は少し異なります。

  1. Filebeat, Metricbeat, Elastic Agentなどを使ってデータを集めている場合は、自動的にILMポリシーが作成されていて、それがインデックスに割り当てられていると思います。
  2. ElasticsearchのAPIなど、その他の方法を使っている場合、ILMポリシーは割り当てらていないです。ILMポリシーを作成し、割り当てる必要があります。

本記事はこの1. のケースの場合の設定手順について説明します。

前提: 事前に使用したいTierをElastic Cloudの管理画面で作成してください。あるいはオートスケールを有効にしておくと、Tierが必要となったときに自動的に作成されます。

手順

今回は扱うログのインデックスはこちらの2つです。
image.png
logs-elastic_agent.filebeat-defaultのデータストリームの中に、末尾が0000001と0000002のインデックスがあります。000001が最初に作られたインデックスです。0000001にデータが溜まり、ロールオーバー条件を満たすとロールオーバー行われ、0000002が作成されます。そして0000002が今度は新たに書き込みされる対象のインデックスとなります。
このようなケースでは、0000001のロールオーバーされたインデックスがWarm/Cold/Frozen のTierに移動できます。

0000001のインデックスのリンクをクリックすると、ILMの状態が確認できます。Current phaseがhotと確認できます。また、ロールオーバー済みの移動可能なインデックスはCurrent actionがcompleteとなっているので、それも確認しましょう。
image.png

logsのLifecycle Policyのリンクをクリックすると、ILMポリシーの設定画面にいきます。デフォルトではずっとHotに保存され続ける設定となっています。
image.png

ここで変更を行い、今回は試しにWarmを有効化しました。またMove data into phase when:は0 daysにしました。つまり、ロールオーバーされたインデックスは0日後(すぐに)Warmに移動するという意味です。
image.png

ILMポリシーの変更を保存し、さきほどの末尾0000001のインデックスが、すぐにCurrent phaseがwarmになりました。移動が完了するまでに少し時間が必要ですが、Current actionがcompleteになっていれば、移動が完了しています。

image.png

ちなみに、末尾が0000002のインデックスですが、こちらはRolloverされていない、Write可能なインデックスですので、やはりhotのままです。
image.png

最後に

インデックスがどのTierにあるかは、このようにインデックス管理画面でフィルタリングして確認できます。
image.png

2
1
0

Register as a new user and use Qiita more conveniently

  1. You get articles that match your needs
  2. You can efficiently read back useful information
  3. You can use dark theme
What you can do with signing up
2
1

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?