LoginSignup
2
2

More than 5 years have passed since last update.

fluentd -> Elasticsearch 大量データ転送でトラブル

Last updated at Posted at 2014-02-02

長くなったので詳細はブログに移行します

目的

  • fluentd でサービスの情報を転送し、Kibana で分析したい
  • これまでの過去データを一度に放り込みたい

問題

  • データの件数が合わない
  • Kibana でエラーが発生する

対応案

  • indx をあらかじめ作成しておく
    index 作成コストは大きい

  • ThreadPool の設定
    デフォルトでは閾値以上のキューが破棄される

  • データマッピングの設定
    特に日付型のフィールドに注意

  • 空の index の削除
    Kibana で作成されるクエリにてエラーの原因となる

  • リクエスト長の設定
    デフォルトは短すぎるため、
    広範囲の日付(=多くの index)を対象としたクエリを
    投げる際にエラーの原因となる

詳しくは
fluentd -> Elasticsearch 大量データ転送でトラブル | diaspora

2
2
0

Register as a new user and use Qiita more conveniently

  1. You get articles that match your needs
  2. You can efficiently read back useful information
  3. You can use dark theme
What you can do with signing up
2
2