NTTデータ ソリューション事業本部 デジタルサクセスソリューション事業部 の nttd-nagano です。
12月13日の記事 で、Informaticaのクラウドデータマネージメントプラットフォーム「Intelligent Data Management Cloud」(※1)をご紹介しましたが、今回は、そのIDMCのデータ統合サービスである「Cloud Data Integration」(※2)と、同社の旧来のデータ統合製品である「PowerCenter」を比べ、その違いをまとめてみました。
記事が長くなってしまったため、全4回に分割してご説明しております。
前回は第1回目として「まとめのまとめ」「差異の概要」「コンポーネントレベルでの比較」をご説明しました。
今回は第2回目として「ソースやターゲットの設定方法の比較」「トランスフォーメーションの種類や使用方法の比較」「トランスフォーメーション間の接続の方法の比較」をご説明します。
※1. Intelligent Data Management Cloud
略称はIDMC。旧称はIICS。クラウドデータマネジメントプラットフォーム。以下IDMCと記載。※2. Cloud Data Integration
略称はCDI。データ統合サービス。ETL処理(※3)やELT処理(※4)を担う。以下CDIと記載。「データ統合」というのは、ETL(※3)と呼ばれていたこともある領域の処理です。
※3. ETL処理
データベースなどに蓄積されたデータから必要なものを抽出(Extract)し、目的に応じて変換(Transform)し、データを必要とするシステムに格納(Load)すること。※4. ELT処理
ETL処理(※3)と対比して使われることが多い言葉。データ統合処理の順序を従来型のE→T→Lの順ではなく、E→L→Tの順でおこなう。近年ではDBMSの性能が爆発的に向上したことから、その性能を有効活用するために使われる手法。なお、IDMCにはCDIをはじめ様々なサービスがありますが、本記事はPowerCenterとの比較であるため、CDIのみにフォーカスしてご説明していきます。
ソースやターゲットの設定方法の比較
公式の動画「IICS for PowerCenter Developers: Building a Mapping - No Source Qualifier?」をベースに筆者の解釈を交えて説明します。
- PowerCenterでは、PowerCenter DesignerのSource Analyzerにてソースをインポートし、Target Designerにてターゲットをインポートあるいは作成していました。
- 一方、CDIでは、マッピングを作る前のこれらの初期操作は不要です。その代わりに、マッピングを作るウィザードの中でソースとターゲットを選択することができます。
- さて、CDIでマッピングを作ると、自動的にソースとターゲットが1個ずつ配置されます。PowerCenterに慣れている方はマッピング内にSource Qualifier(略称はSQ。ソース修飾子)がないこと、また、画面左のトランスフォーメーション一覧内にもSQトランスフォーメーションがないことに気づくと思います。
- PowerCenterのSource Qualifierで設定していたような項目は、CDIでは、ソーストランスフォーメーションで設定できます。
- CDIのソーストランスフォーメーションでは、まずはじめにソース側の「接続」を選びます。 この「接続」は、PowerCenterでの「接続」に相当します。「接続」の詳細は、 公式ドキュメント をご覧ください。
- 次に「ソースタイプ」にて「単一オブジェクト」または「複数のオブジェクト」または「クエリ」を選びます。
- PowerCenterのSource Qualifierの「ソースフィルタ」で設定していたフィルタ条件は、CDIではソーストランスフォーメーションの「クエリオプション」で設定します。
- PowerCenterのSource Qualifierの「Pre SQL」や「Post SQL」で設定していたSQLクエリは、CDIではソーストランスフォーメーションの「アドバンスプロパティ」で設定します。
- PowerCenterでやっていたマルチソースの結合やSQLオーバーライドも、CDIではソーストランスフォーメーションで設定できます。
- ソーストランスフォーメーションの詳細は、 公式ドキュメント をご覧ください。
- CDIのターゲットの設定方法はソースの設定方法とほぼ同様です。
- ターゲットトランスフォーメーションの詳細は、 公式ドキュメント をご覧ください。
トランスフォーメーションの種類や使用方法の比較
公式の動画「IICS for PowerCenter Developers: Similarities and Differences in Mapping Transformations」をベースに筆者の解釈を交えて説明します。
- CDIのマッピングデザイナーを開くと、画面左に、PowerCenterで使っていたようなトランスフォーメーションがあります。 使用感も非常に似ています。
- たとえば、式トランスフォーメーションについて比較してみます。CDIでマッピングに追加すると、「式」タブで新しいフィールドを作れます。これが、PowerCenterの式トランスフォーメーションでいうところの出力ポートに相当する設定です。使える関数の一覧もPowerCenterと同一です。
- 次に、アップデートストラテジーについて比較してみます。CDIではアップデートストラテジーというトランスフォーメーションはありません。代わりに、ターゲットトランスフォーメーションの「操作」を「Data Driven」に設定すると実現できます。
- クレンジング、データマスキング、階層データの取り扱いなど、PowerCenterで見慣れた機能の中には、CDIではトランスフォーメーションとして実装されているものもあります。
- トランスフォーメーションの詳細は、 公式ドキュメント をご覧ください。
トランスフォーメーション間の接続の方法の比較
公式の動画「IICS for PowerCenter Developers: Building a Mapping - No Ports?」をベースに筆者の解釈を交えて説明します。
- PowerCenterのマッピングでは、トランスフォーメーション内に「ポート」があり、他のトランスフォーメーションの「ポート」と接続していました。
- 一方、CDIにはトランスフォーメーションの「ポート」という概念がありません。
- その代わりに、CDIでは「フィールドルール」と「フィールドマッピング」を使います。
- まず、CDIでは下流側のトランスフォーメーションの「受信フィールド」の下に、「フィールドルール」という項目があります。デフォルトでは上流側のトランスフォーメーションのすべてのフィールドを引き継ぎ、下流側のトランスフォーメーションの入力側のフィールドとするための初期ルールが作成されます。 引き継ぎたくないフィールドがある場合は、様々な方法で絞り込むことができます。
- 次に、CDIでは下流側のトランスフォーメーションに「フィールドマッピング」という項目があります。入力側フィールド(「受信フィールド」)の各フィールドを出力側フィールド(「ターゲットフィールド」)の各フィールドに紐づけるためには、「受信フィールド」側の各フィールドを「ターゲットフィールド」側の各フィールドへドラッグアンドドロップします。 あるいはPowerCenterにあったようなオートリンク機能もCDIにあります。
- PowerCenterのトランスフォーメーションの「ポート」は静的でした。一方、CDIの「フィールドルール」は動的に作用します。そこに利点があります。というのも、PowerCenterでは上流のトランスフォーメーションに新しい「ポート」を追加するたびに、下流のトランスフォーメーションにも「ポート」を追加していく必要がありました。CDIではその必要がないからです。
- トランスフォーメーション間の接続方法の詳細は、 公式ドキュメント をご覧ください。
おわりに
以上、「PowerCenterとCDIの違いをまとめてみた」の第2回目でした。
次回の第3回目は、「マッピングを包む定義体とその実行方法や実行状況の確認方法の比較」「コマンドでの実行方法の比較」「パラメーターの比較」をご説明します。
※.2022.12.21追記:第3回目を投稿しました。 → Informatica PowerCenterとCloud Data Integrationの違いをまとめてみた(第3回/全4回)
IDMCのCDIは30日間の無料体験ができる ので、この機会に試してみてはいかがでしょうか。
IDMCには今回ご紹介したCDIの他にも、API統合、マスターデータ管理、データガバナンス関連など様々なサービスがあります。
これらについても、今後、当Organization の記事でご紹介していく予定ですので、ご興味がございましたらご覧ください。
仲間募集
NTTデータ ソリューション事業本部 では、以下の職種を募集しています。
1. クラウド技術を活用したデータ分析プラットフォームの開発・構築(ITアーキテクト/クラウドエンジニア)
クラウド/プラットフォーム技術の知見に基づき、DWH、BI、ETL領域におけるソリューション開発を推進します。
https://enterprise-aiiot.nttdata.com/recruitment/career_sp/cloud_engineer
2. データサイエンス領域(データサイエンティスト/データアナリスト)
データ活用/情報処理/AI/BI/統計学などの情報科学を活用し、よりデータサイエンスの観点から、データ分析プロジェクトのリーダーとしてお客様のDX/デジタルサクセスを推進します。
https://enterprise-aiiot.nttdata.com/recruitment/career_sp/datascientist
3.お客様のAI活用の成功を推進するAIサクセスマネージャー
DataRobotをはじめとしたAIソリューションやサービスを使って、
お客様のAIプロジェクトを成功させ、ビジネス価値を創出するための活動を実施し、
お客様内でのAI活用を拡大、NTTデータが提供するAIソリューションの利用継続を推進していただく人材を募集しています。
https://nttdata-career.jposting.net/u/job.phtml?job_code=804
4.DX/デジタルサクセスを推進するデータサイエンティスト《管理職/管理職候補》
データ分析プロジェクトのリーダとして、正確な課題の把握、適切な評価指標の設定、分析計画策定や適切な分析手法や技術の評価・選定といったデータ活用の具現化、高度化を行い分析結果の見える化・お客様の納得感醸成を行うことで、ビジネス成果・価値を出すアクションへとつなげることができるデータサイエンティスト人材を募集しています。https://nttdata-career.jposting.net/u/job.phtml?job_code=898
ソリューション紹介
Trusted Data Foundationについて
~データ資産を分析活用するための環境をオールインワンで提供するソリューション~
https://www.nttdata.com/jp/ja/lineup/tdf/
最新のクラウド技術を採用して弊社が独自に設計したリファレンスアーキテクチャ(Datalake+DWH+AI/BI)を顧客要件に合わせてカスタマイズして提供します。
可視化、機械学習、DeepLearningなどデータ資産を分析活用するための環境がオールインワンで用意されており、これまでとは別次元の量と質のデータを用いてアジリティ高くDX推進を実現できます。
TDFⓇ-AM(Trusted Data Foundation - Analytics Managed Service)について
~データ活用基盤の段階的な拡張支援(Quick Start) と保守運用のマネジメント(Analytics Managed)をご提供することでお客様のDXを成功に導く、データ活用プラットフォームサービス~
https://www.nttdata.com/jp/ja/lineup/tdf_am/
TDFⓇ-AMは、データ活用をQuickに始めることができ、データ活用の成熟度に応じて段階的に環境を拡張します。プラットフォームの保守運用はNTTデータが一括で実施し、お客様は成果創出に専念することが可能です。また、日々最新のテクノロジーをキャッチアップし、常に活用しやすい環境を提供します。なお、ご要望に応じて上流のコンサルティングフェーズからAI/BIなどのデータ活用支援に至るまで、End to Endで課題解決に向けて伴走することも可能です。
NTTデータとInformaticaについて
データ連携や処理方式を専門領域として10年以上取り組んできたプロ集団であるNTTデータは、データマネジメント領域でグローバルでの高い評価を得ているInformatica社とパートナーシップを結び、サービス強化を推進しています。
https://www.nttdata.com/jp/ja/lineup/informatica/
NTTデータとTableauについて
ビジュアル分析プラットフォームのTableauと2014年にパートナー契約を締結し、自社の経営ダッシュボード基盤への採用や独自のコンピテンシーセンターの設置などの取り組みを進めてきました。さらに2019年度にはSalesforceとワンストップでのサービスを提供開始するなど、積極的にビジネスを展開しています。
これまでPartner of the Year, Japanを4年連続で受賞しており、2021年にはアジア太平洋地域で最もビジネスに貢献したパートナーとして表彰されました。
また、2020年度からは、Tableauを活用したデータ活用促進のコンサルティングや導入サービスの他、AI活用やデータマネジメント整備など、お客さまの企業全体のデータ活用民主化を成功させるためのノウハウ・方法論を体系化した「デジタルサクセス」プログラムを提供開始しています。
https://www.nttdata.com/jp/ja/lineup/tableau/
NTTデータとAlteryxについて
Alteryx導入の豊富な実績を持つNTTデータは、最高位にあたるAlteryx Premiumパートナーとしてお客さまをご支援します。
導入時のプロフェッショナル支援など独自メニューを整備し、特定の業種によらない多くのお客さまに、Alteryxを活用したサービスの強化・拡充を提供します。
NTTデータとDataRobotについて
NTTデータはDataRobot社と戦略的資本業務提携を行い、経験豊富なデータサイエンティストがAI・データ活用を起点にお客様のビジネスにおける価値創出をご支援します。
NTTデータとDatabricksについて
NTTデータではこれまでも、独自ノウハウに基づき、ビッグデータ・AIなど領域に係る市場競争力のあるさまざまなソリューションパートナーとともにエコシステムを形成し、お客さまのビジネス変革を導いてきました。
Databricksは、これら先端テクノロジーとのエコシステムの形成に強みがあり、NTTデータはこれらを組み合わせることでお客さまに最適なインテグレーションをご提供いたします。