Help us understand the problem. What is going on with this article?

データ分析におけるワークフローツール

More than 3 years have passed since last update.

はじめまして、普段はサービス開発やら収集したデータをごちゃごちゃ整形したりしているakito1986です。
この記事はIDCフロンティア Advent Calendar 2015の7日目の記事です。
さてあれよあれよという間に7日目もあと残すところ一時間!
担当した日に公開しないとあまり意味がないと思い、さっと書けそうで最近興味があり必要性を感じているワークフローについて調べたことを書きます。

はじめに

冒頭に書いた収集したデータをごちゃごちゃ整形の部分の話。
サービス事業者でエンジニアをしていると、「このデータとこのデータをがっちゃんこして、こういう形式のデータにして欲しい」と頼まれることが多いのではないでしょうか?

私も頼まれることがあり、「定期的に送られてくるCSVをテーブルにインポートしてクエリで集計してその結果を出力するだけでいいんでしょ?」という最初は軽い気持ちで引き受けたのですが、実際にやってみると、

  • CSVファイルが送られてこない
  • CSVファイルが送られてきても中身は空
  • 送られてこないCSVファイルがあると、集計結果が異常になる
  • 中間テーブル作成用のクエリが失敗すると、集計結果が異常になる

という問題が発生しました。
最初はcronで十分だろうと思っていましたが、各Jobが独立していればcronで十分だと思いますが、各Jobが依存している場合はcronでは不十分で、「依存関係にある前のJobが全て成功したらこのJobを実行する」、ということが制御できるツールが必要となります。

そこで他の人はどうしているんだろうと思い調べたのが、ワークフローツールです。

使えそうなワークフローツール

ちょっと時間がなくなってきたので、以下に使えそうなワークフローツールと説明されているリンクを記載します。

Azkaban

https://azkaban.github.io/

もともとはHadoopのJobを管理するためのツールだったようですが、普通にあるコマンドを一つのJobとして扱うことができるようです。
最近Version3.0が出ました。

インストールの仕方から簡単な使い方まで

Luigi

https://github.com/spotify/luigi

こちらももともはHadoopのJob管理をするために作られたツール。
以下のTreasureDataさんのLuigiの運用の記事が興味深い。

Luigi によるワークフロー管理

Airflow

https://github.com/airbnb/airflow

Airbnb社が開発したデータフローツール。
Jobの定義はpythonスクリプトで書く。
ユーザー管理やタスクの実行時間の計測やクエリでタスクの実行結果を確認できたりで便利そう。

おわりに

冒頭の部分と「はじめに」が長くて肝心の中身が薄くなってしまいました^^;
Azkaban, Luigi, Airflowは実際に構築して触っているので別の機会にその結果と、実際のデータ活用でワークフローツールをどのような構成で利用しているかをご紹介できればと思います。

おしまい。

Why not register and get more from Qiita?
  1. We will deliver articles that match you
    By following users and tags, you can catch up information on technical fields that you are interested in as a whole
  2. you can read useful information later efficiently
    By "stocking" the articles you like, you can search right away