概要

kintoneを使っている方は、売上、顧客、案件データを分析することがあると思います。
しかし肝心の分析を行うためには、kintoneのデータを分析環境に統合するという、手間のかかる作業が待っています。
そこで、今回はtroccoを用いてkintoneのデータをRedshiftに出来るだけ簡単に統合する方法を紹介します。
さらに、Redshiftに統合したデータをLookerで可視化する方法も紹介します。

今回、データの転送手段として採用したtroccoは、kintoneの他にも、様々な広告・CRM・DBなどのデータソースにも対応しています。
troccoの使い方まとめ（CRM・広告・データベース他）

ゴール

このようなkintoneのデータから

このようなダッシュボードを30分程度で作りあげます（当然、作成後は自動で最新値が更新されるようにします）

こんな人におすすめ

kintoneのデータを分析基盤やDWH（データウェアハウス）に取り込みたい方
データをcsvファイルにエクスポートして分析基盤に取り込むまでの作業時間が長く、無駄が多いと感じている方
データ取得の作業に疲れている方

1. DWHと同期する手段の選定

1-1. DWHの選定

まずはデータの集約先であるDWHを選定します。

Amazon Redshift
Google BigQuery
MySQL
PostgreSQL など

今回はAmazon Redshiftを利用することにします。

1-2.転送手段の選定

データの集約先がRedshiftに決まったので、次は転送するための手段を以下の4つから選びます。
1. データをcsvエクスポートし、手動でRedshiftにアップロードする。
2. kintoneとRedshiftの各APIを用いて、自分でプログラムを書いて連携させる。
3. Embulkを利用し、自分で環境を構築する。
4. troccoを利用し、画面上で設定する。

1は単発の実行なら特に問題はありませんが、定期的に取り込む必要がある場合は非効率な作業になります。
2はAPIのキャッチアップ工数・プログラムを書く工数・環境構築工数が発生する他、エラー対応などの運用工数も継続的に発生します。
3も2と同じく、Embulkはある程度の専門知識が必要になり、自分で環境構築・運用を行う手間が発生します。さらに、エラーの内容が専門的で、詰まると大幅に時間を浪費してしまいます。

そこで、今回はEmbulkの課題も解決してくれて、プログラムを書かずに画面上の設定のみで作業が完結する、4のtroccoというSaaSを利用します。

2. troccoでkintone→Redshiftの転送自動化

2-0. 事前準備

ここからの作業には、troccoのアカウントとkintoneのアカウントが必要になります。
無料トライアルも実施しているので、申し込み・登録をしておいてください！
https://trocco.io/lp/index.html
（申込時に、この記事を見た旨を記載して頂ければスムーズにご案内することができます）

2-1. 転送元・転送先を決定

troccoにアクセスし、「ダッシュボード」にある「転送設定を作成」ボタンを押します。

転送元にkintone、転送先にAmazon Redshiftを選択し、「この内容で作成」ボタンを押します。

すると、設定画面になるので、転送に必要な情報を入力していきます。

2-2. kintoneとの連携設定

後に見た時に、一目で何の転送設定か把握できるように、転送設定の名前とメモを入力します。

転送設定の名前を決めたら、「転送元の設定」内の「接続情報を追加」ボタンを押し、kintoneの接続情報の設定を行います。

データを取得したいkintoneの情報を入力し、接続情報を作成します。

これでkintoneとの連携は完了です。

2-3.kintoneからのデータ抽出設定

次に、kintoneのアプリや取得データを設定します。
kintoneの画面に記載されていないメタデータ（idや更新日時など）は、Cybouzuの開発者向けサイトにを参考に設定していきます。
クエリによる転送レコードの絞り込みも可能です。
今回は、今年のデータだけに絞って転送を行なっています。

また、カスタム変数を使うことにより、ジョブ実行時に指定の値に置き換えることができます。

以上でkintone側の設定は完了です。

2-4. 転送先Redshiftの設定

次に、転送先のRedshiftの設定を行います。
基本的には転送元と同じ要領です。
「接続情報を追加」ボタンからRedshiftの接続設定を行い、データベース名、スキーマ、テーブルを入力します。

troccoでは一時データの保存にS3を利用するため、S3パケット・S3キープレフィックス・転送モードも必須項目です。これらも入力します。

最後に、「この内容で接続を確認」ボタンを押して、接続確認が問題なく通るか確認します。

これで入力は完了です。「保存して自動データ設定・プレビューへ」ボタンを押して、確認作業に進みましょう。

2-5. データのプレビュー

少し待つと、転送元のデータがプレビューされます。kintoneから取り込んだデータが表示されているのが確認できると思います。
問題なければ、「設定を完了する」ボタンを押して、スケジュールや通知設定に進みます。

2-6. スケジュール設定

「スケジュール・トリガー設定」タブを開きます。

以下のように実行スケジュールを設定することで、転送を自動化することができます。

2-7. 通知設定

必須の設定ではないですが、通知タイプ・通知条件・通知先を選択し設定を保存することで、EmailやSlackに通知を行うことができます。

また、必要な時のみ実行したい場合は、転送設定詳細の「実行」ボタンを押すと、手動で転送を実行することもできます。

3. Redshiftの設定

特に設定することはありません。
データがきちんと送られているかプレビューで確認してみます。
データが溜まっているので、今すぐに分析・可視化を行うことができます。

これで、kintoneのデータがRedshiftに同期されていることが確認できました。

4. Lookerで可視化

4-1. RedshiftとLookerの接続設定

ここから、Redshiftに集約されたデータを可視化していきます。
Lookerの画面から、「管理 > Database > Connections」を開きます。

すると、接続しているデータベースが一覧で表示されます。
この画面で「Add Connection > Database Connection」を開き、「Connection Setting」に接続するデータベース情報を入力します。

これで、RedshiftとLookerの接続設定が完了です。

4-2. LookMLプロジェクトの作成

次に、データを可視化するのに必要なLookMLプロジェクトを作成していきます。
「開発 > LookML プロジェクトの管理」を開きます。

「New LookML Project」を押して、新しいLookMLプロジェクトを作成します。

これで、LookMLプロジェクトを作成できました。

4-3. モデルとビューの定義

次に、表示されたエディタで、モデルとビューを定義します。
後々必要になるので、モデルにデータベース接続とその接続を使用するExploreを定義します。
(書き方はLookerの公式ドキュメントを参考にしてください)

これでグラフを作成する準備ができました。

4-4. グラフの作成

最後に、今回のゴールであるグラフを作成します。
トップページに戻り、「New > Dashboard」を押して、ダッシュボードを作成していきます。

このように白紙のダッシュボードが作成されました。
「Dashboardの編集」を押し、「タイルの追加」を押し、先ほどのモデルで定義したExploreを選択します。

「DIMENSIONS」に横軸にしたいデータ、「MEASURES」に縦軸にしたいデータを選択し、「実行」を押すことで、グラフを作成することができます。
試しに、日毎の契約数を可視化してみます。

これで一つグラフが完成しました。
このような感じで他のグラフも作成すると、今回のゴールであるkintoneのダッシュボードが完成します。

まとめ

いかがでしたでしょうか。troccoを使うと管理画面を触ることなく、簡単にkintoneのデータを取得し、DWH(Redshift)に貯めることが出来ました。
また、今回のようにRedshiftにデータを貯めると、Lookerを用いてデータを可視化することができます。
実際に弊社サービスのtroccoにおいても、広告データやマーケティングKPI等をこのような流れで収集・分析しています。

troccoは、kintoneの他にも、様々な広告・CRM・DBなどのデータソースにも対応しています。
troccoの使い方まとめ（CRM・広告・データベース他）

実際に試してみたい場合は、無料トライアルを実施しているので、この機会にぜひ一度お試しください。（申込時に、この記事を見た旨を記載して頂ければスムーズにご案内することができます）