概要
Azure Data Factory にて CSV 形式のファイル内容をそのまま取得する方法を共有します。ルックアップ(参照)アクティビティを利用した場合には json 形式で出力されてしまうのですが、 Web アクティビティ経由であればファイル内容をそのまま取得できました。
<ルックアップ(参照)アクティビティの出力結果>
<想定結果>
"Name","ExternalId__c"
"A Company","1"
"B Compan","2"
"C Company","3"
CSV 形式のファイル内容をそのまま取得するユースケースの1つは、 Salesforce の Bulk API 2.0 を利用するケースです。API の仕様により CSV 形式で
引用元:ステップ 5: 一括更新/挿入 | Bulk API 2.0 および Bulk API 開発者ガイド | Salesforce Developers
実施手順
事前準備
- Azure Storage の構築
- Azure Data Factory の構築
- Azure Data Factory にて Azure Storage のリンクサービスを作成 *1
*1 Azure Storage に対するリンクサービスは、 Web 接続として下記のように作成します。
# | 項目 | 値 |
---|---|---|
1 | ベース URL | https://{storageName}.dfs.core.windows.net |
2 | リソース | https://storage.azure.com/ |
1. Azure Data Factory にて Web アクティビティを追加
# | 項目 | 値 |
---|---|---|
1 | 接続の種類 | リンク サービス |
2 | リンク サービス | 作成した Web 接続のリンクサービス |
3 | 相対 URL | ファイルのパス |
4 | メソッド | Get |
2. Azure Data Factory にてパイプラインを実行
3. 出力結果を確認
"Response": ""Name","ExternalId__c"\r\n"A Company","1"\r\n"B Compan","2"\r\n"C Company","3"\r\n",