0
0

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?

DatabricksAdvent Calendar 2023

Day 9

Delta Live Tablesのチュートリアルを通じた新機能のウォークスルー

Posted at

こちらのチュートリアルを実行しながら、最近の新機能をウォークスルーします。

以下のように、ノートブックでデータパイプラインを実装します。なお、新たなセルUIをオンにしています。

Screenshot 2023-12-06 at 10.31.04.png

DLTパイプラインを作成します。
Screenshot 2023-12-06 at 10.34.11.png

ここでいきなりパイプラインを実行するのではなく、新機能の検証(Validate)機能を試します。
Screenshot 2023-12-06 at 10.34.50.png

検証を実行すると、ターゲットテーブルにデータを書き込まずにパイプラインのロジックの検証を行うことができます。
Screenshot 2023-12-06 at 10.35.22.png

検証がスタートします。
Screenshot 2023-12-06 at 10.37.12.png

少し待つとパイプラインのグラフ構造が表示されます。
Screenshot 2023-12-06 at 10.42.44.png

指定したターゲットスキーマにもデータは書き込まれません。実際に処理を実行する前にロジックを確認する開発フェーズでは有用ですね。
Screenshot 2023-12-06 at 10.45.20.png

ちなみにリストタブも追加されています。気付いてませんでした。パイプラインの各ステップを一覧することができ、フィルタリングも可能です。
Screenshot 2023-12-06 at 10.45.20.png

パイプラインを実行すると、リストビューでもリアルタイムで進捗を確認できます。
Screenshot 2023-12-06 at 10.47.52.png
Screenshot 2023-12-06 at 10.48.55.png

Databricksクイックスタートガイド

Databricksクイックスタートガイド

Databricks無料トライアル

Databricks無料トライアル

0
0
0

Register as a new user and use Qiita more conveniently

  1. You get articles that match your needs
  2. You can efficiently read back useful information
  3. You can use dark theme
What you can do with signing up
0
0

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?