2
2

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?

Databricks認定データエンジニアプロフェッショナルに再認定で合格しました (Associate合格者向けロードマップ付き)

2
Posted at

はじめに

Databricks Certified Data Engineer Professional の再認定試験を受験し、合格しました。2022年に初めて取得してから2回目の更新になります。

認定証はこちらです。

Screenshot 2026-08-13 at 11.55.46.png

2022年の合格記事はこちらです。

「Associateは取ったので、次はProfessionalを狙いたい」「どの順番で何を読めばいいのか」という声をいただくことがあります。しかし正直に言うと、この2022年の記事はもう道案内としては使えません。試験そのものが別物になっているからです。Delta Live Tablesという名前は消え、Unity Catalogが前提になり、Databricks Asset Bundlesが出題範囲に入りました。当時の「求められる知識」をそのまま追いかけても、今の試験には届きません。

そこで本記事では、まず現行の試験がどうなっているかを整理し、そのうえで Associate合格者がProfessionalに到達するまでの道筋を、自分の過去記事に紐づけたロードマップ としてまとめます。これからAssociateを受ける方にも、その先に何が待っているかの見取り図として使えるはずです。

4年で試験はここまで変わった

2022年に私が受験したときと、現行の試験を並べてみます。

項目 2022年当時 現在
問題数 60問 採点対象59問 (採点対象外の問題が別途含まれる場合あり)
言語 英語のみ 英語、日本語、ブラジルポルトガル語、韓国語
受験方法 オンライン監督試験 オンライン監督試験またはテストセンター
出題範囲 6セクション 10セクション
中心的な技術 構造化ストリーミング、Delta Lake、Delta Live Tables、Jobs 左記に加えてUnity Catalog、Lakeflow Spark宣言型パイプライン (SDP)、DAB、サーバーレス
推奨経験 - 試験ガイドに記載のタスクで1年の実務経験

大きいのは日本語受験ができるようになったことです。2022年に私が受験したときは英語一択で、問題文の読解にそれなりの時間を取られました。

ところが今回、日本語が選べることを認識していながら、申し込みの際に間違って英語で登録してしまいました。結果として英語で受験することになったので、日本語版の読みやすさについては報告できません。これから受験される方は、申し込み画面で言語を選ぶところを見落とさないでください。日本語で受けられるものをわざわざ英語で受ける理由はありません。

なお制限時間については、認定ページ には90分、試験ガイド には120分と記載されており、記述が食い違っています。実際に受験したところ 120分 でした。試験ガイドの記載が正しいようです。

出題範囲は10セクションに細分化された

現行の試験ガイドに記載されている出題範囲と比率は以下のとおりです。

セクション 比率
1. PythonとSQLを用いたデータ処理用コードの開発 22%
2. データの取り込みと取得 7%
3. データの変換、クレンジング、品質 10%
4. データ共有とフェデレーション 5%
5. モニタリングとアラート 10%
6. コストとパフォーマンスの最適化 13%
7. データセキュリティとコンプライアンスの確保 10%
8. データガバナンス 7%
9. デバッグとデプロイ 10%
10. データモデリング 6%

2022年当時は「Databricksツール」「データ処理」「データモデリング」「セキュリティとガバナンス」「モニタリングとログ記録」「テストとデプロイ」の6セクションでした。項目が増えたというより、運用フェーズの話が分解されて重みを持った と見るのが正確だと思います。データ共有とフェデレーション、コスト最適化、デバッグとデプロイが独立したセクションになったのがその現れです。

学習目標のレベルで目を引いたものをいくつか挙げます。

  • DABに最適化されたスケーラブルなPythonプロジェクト構造の設計と実装
  • assertDataFrameEqualassertSchemaEqual、組み込みデバッガーを用いたユニットテストと統合テストの開発
  • ストリーミングテーブルとマテリアライズドビューの利点・欠点の説明
  • Spark構造化ストリーミングとSDPを比較して最適なアプローチを判断する
  • 削除ベクトルやリキッドクラスタリングといったDeltaの最適化技術
  • 匿名化・仮名化 (ハッシュ化、トークン化、抑制、一般化) の適用
  • Databricks Git Foldersを用いたGitベースのCI/CDワークフロー

「パイプラインを書ける」ではなく「本番のパイプラインをテストし、監視し、デプロイし、コストを説明できる」ことを問う試験になっています。

Associateから始めるロードマップ

ここからが本題です。私の過去記事を、学習の順番に並べ直します。

AssociateとProfessionalの間にある溝

Associateに合格した方がまず知っておきたいのは、Professionalが「Associateの難しい版」ではないということです。問われる軸そのものが違います。

Associateで問われるのは、おおむね「その機能が何をするものか」です。レイクハウスの概念、メダリオンアーキテクチャ、Delta Lakeの基本操作、Unity Catalogの3階層といった、用語と役割の対応関係が中心になります。

これに対してProfessionalで問われるのは、本番運用の判断 です。試験ガイドのサンプル問題を見ると性格がよく分かります。たとえばストリーミングの設問は、「トリガー間隔が10秒、通常時のマイクロバッチは3秒未満、ピーク時に30秒を超える」というシナリオを示したうえで、SLAを満たす調整はどれかを選ばせるものになっています。用語を知っているだけでは選べません。

Associateから見て新しく立ちはだかるのは、具体的には次の領域です。

  • テストとデプロイ: assertDataFrameEqual によるユニットテスト、DABによるデプロイ、Git FoldersでのCI/CD
  • コストとパフォーマンスの最適化: リキッドクラスタリング、削除ベクトル、クエリプロファイルによるボトルネック特定 (13%)
  • セキュリティの実装: 行フィルターと列マスク、ハッシュ化・トークン化・抑制・一般化といった匿名化手法 (10%)
  • モニタリングとデバッグ: システムテーブル、SDPのイベントログ、Spark UI、ジョブの修復 (合計20%)
  • データ共有とフェデレーション: Delta SharingのD2D/D2O、Lakehouse Federation (5%)

配点で見ると、この「運用の判断」に関わる部分だけで半分近くを占めます。Associateの延長で機能の使い方をなぞるだけでは届かないのは、この構造のためです。

ステップ0: 手を動かす環境を用意する

まずFree Editionのアカウントを作ってください。クレジットカード不要で、以降のハンズオンはほぼすべてここで動きます。座学だけで受かる試験ではないので、環境がないと何も始まりません。

Free Editionを前提に全面改訂した入門記事です。ここが出発点になります。

ステップ1: 製品の地図を最新化する

Associateの学習からしばらく間が空いている方ほど、ここを飛ばさないでください。Lakeflow、サーバーレス、DABのように、この1〜2年で名前も位置づけも変わったものが少なくありません。古い地図のまま個別の機能に入ると、記事やドキュメントで見かける名称と試験の用語が噛み合わなくなります。

ステップ2: まだAssociateを取っていない方へ

すでにAssociateをお持ちの方は、この節は飛ばして次に進んでください。

Professionalの前にAssociateを挟むのは、今でもおすすめです。いきなりProfessionalに挑むこともできますが、Associateで用語と概念の土台を作っておくと、Professionalのシナリオ問題を読む速度がまったく変わります。

Associate側の試験ガイドも改訂されているので、記事の内容は「雰囲気をつかむもの」として読み、範囲は必ず最新の試験ガイドで確認してください。

ステップ3: 出題範囲を1セクションずつ埋める

ここからが本番です。10のセクションに対して、参考になる記事を対応させます。Associate合格者であれば、セクション2と3の基礎部分はある程度の貯金があるはずなので、配点の重い1をしっかりやったうえで、5・6・7・9といった運用系に時間を厚く配分するのが効率的だと思います。

セクション1、3: コード開発、変換・品質 (合計32%)

配点が最も重いのがここです。SDPを軸に、まとまった量の手を動かす時間を取ってください。

ストリーミングテーブルとマテリアライズドビューの使い分けは、試験ガイドに学習目標として明記されています。「どっちを使えばいいのか」を自分の言葉で説明できる状態にしておくと、複数の設問がまとめて解けるようになります。

セクション2: データの取り込みと取得 (7%)

Auto Loaderは「使ったことがある」と「チェックポイントに何が入っているかを説明できる」の間に大きな差があります。後者まで行っておきたいところです。

セクション4: データ共有とフェデレーション (5%)

配点は5%と小さいですが、Delta SharingのD2DとD2Oの違いはおさえておいてください。

セクション5、9: モニタリングとアラート、デバッグとデプロイ (合計20%)

2022年当時と比べて明確に重くなった領域です。

DABは出題範囲に入っているだけでなく、セクション1のPythonプロジェクト構造の学習目標にも顔を出します。databricks bundle init から一度は自分でデプロイして壊してみてください。

セクション6: コストとパフォーマンスの最適化 (13%)

リキッドクラスタリングはセクション6と10の両方に登場します。「パーティショニングやZORDERに対する利点を特定する」という学習目標があるので、旧来の手法との対比で理解しておくのが効率的です。

セクション7、8: セキュリティとコンプライアンス、ガバナンス (合計17%)

セクション10: データモデリング (6%)

リキッドクラスタリングとディメンションモデルの2本立てです。前者は上のセクション6の記事でカバーできます。ディメンションモデリングは一般的なデータウェアハウス設計の知識なので、Databricks固有の記事より、手元のデータモデリングの教科書を1冊読み直したほうが早いかもしれません。

記事だけでは埋まらないところ

正直に書いておくと、記事を読むだけで受かる試験ではありません。2022年の記事にも同じことを書きましたが、4年経ってこの点はより強くなっています。

埋めるべきものが3つあります。

1つ目は Databricks Academyの講座 です。試験ガイドが推奨しているのは以下です。

  • Advanced Data Engineering With Databricks (講師主導型)
  • Databricks Streaming and Lakeflow Spark Declarative Pipelines
  • Databricks Data Privacy
  • Databricks Performance Optimization
  • Automated Deployment with Databricks Asset Bundle

2つ目は 試験ガイドのサンプル問題 です。9問掲載されており、それぞれに「目標」が併記されています。この目標の書きぶりを見ると、問われ方の粒度がわかります。たとえばストリーミングの設問は、トリガー間隔とマイクロバッチの処理時間の関係を、シナリオの中で判断させるものになっています。単語の意味を知っているだけでは選べません。

3つ目は 自分で壊した経験 です。パラメーターや設定と挙動がどう関連しているかは、動かして初めて腹落ちします。ここは2022年から変わらない結論です。

受けてみて手が止まったところ

今回いちばんきつかったのは、PySparkで適切な処理を選択する問題 でした。配点が最大のセクション1がそのまま体感の重さに直結しています。「このAPIは何をするか」ではなく、示された要件に対してどの処理を選ぶべきかを問われるので、書き方をいくつか知っているだけでは決めきれません。なぜその処理なのかを自分で説明できる状態になっている必要があります。

もう一点、地味に効いてくるのが 字数の多さ です。設問も選択肢も長く、コードが添えられるものもあります。採点対象59問に対して120分なので、単純計算で1問あたり2分ほど。ここに採点対象外の問題が加わります。読んで、理解して、判断するまでを短時間で回し続けることになるので、読む量そのものが負荷になります。

私は英語で受験してしまったぶん、この負荷をまともに受けました。日本語で受けられる試験を英語で受ける必然性はどこにもありません。繰り返しになりますが、申し込み時の言語選択は確認してください。

まとめ

再認定を受けて分かったことをまとめます。

  • 2回目の更新。認定の有効期間は2年で、維持には現行バージョンの試験を受け直す必要がある
  • 出題範囲は6セクションから10セクションへ細分化され、運用フェーズ (モニタリング、デバッグ、デプロイ、コスト) の比重が明確に増えた
  • 日本語での受験が可能になった。テストセンターでの受験も選べる
  • Delta Live Tablesという呼称は消え、Lakeflow Spark宣言型パイプライン (SDP) として出題される
  • DABがCI/CDとプロジェクト構造の両面で出題範囲に入った
  • 制限時間は実際には120分。認定ページには90分と書かれているが、試験ガイドの120分が正しかった
  • Associateとの差は難易度ではなく問われる軸。「機能が何をするか」から「本番運用でどう判断するか」に変わる
  • PySparkで適切な処理を選択する問題が重い。設問も選択肢も長く、読む量そのものが負荷になる

一番の収穫は、この試験が測ろうとしているものがはっきり見えたことでした。4年前は「機能を知っているか」の比重がまだ残っていましたが、今は要件を渡されて処理を選ばせる問題が中心です。手を動かした量がそのまま出る作りになっているので、対策としても実務としても、遠回りに見えて自分で書いて壊すのが結局は近道だと思います。

Associateを取った方に向けて学習の順番をもう一度書いておくと、Free Editionで環境を用意する → 製品の地図を最新化する → 運用系のセクション (テストとデプロイ、コスト最適化、セキュリティ、モニタリング) に時間を厚く配分して1つずつ手を動かす、これに尽きます。記事は地図であって、道そのものではありません。地図を見ながら実際に歩いてください。

参考リンク

はじめてのDatabricks

はじめてのDatabricks

Databricks無料トライアル

Databricks無料トライアル

2
2
0

Register as a new user and use Qiita more conveniently

  1. You get articles that match your needs
  2. You can efficiently read back useful information
  3. You can use dark theme
What you can do with signing up
2
2

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?