1
1

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?

manabianAdvent Calendar 2024

Day 1

Databricks 環境提供時に Personal Compute 設定の管理ミスによる失敗談と対応策

Posted at

概要

Databricks 環境では、クラスターの作成権限(Unrestricted cluster creation を OFF)がなくても Personal Compute が有効であれば Personal Compute を作成できます。最近、Databricks 環境を提供する機会がありましたが、この仕様に気づかずに環境を提供してしまい、結果として大量の Personal Compute が作成されてしまいました。皆様が同様の失敗をしないように、この仕様についての情報を共有します。

image.png

image-3.png

Personal Compute は基本的に無効化することを推奨しますが、有効化する場合はポリシーの修正をおすすめします。自動停止時間のデフォルトが 72 時間であるため、今回は無駄なコスト支出となってしまいました。利用する際は計画的に行いましょう。

image.png

引用元:個人用コンピューティング ポリシーを管理する - Azure Databricks | Microsoft Learn

Personal Compute について

Personal Compute とは、Personal Compute policy により作成できるクラスターです。ドキュメントには以下のように記載されており、すべてのユーザーが Personal Compute を作成できるようになっています。

既定では、Azure Databricks アカウント内のすべてのユーザーは、パーソナル コンピューティングの既定のポリシーにアクセスできます。 これは管理者が変更できます。

image.png

引用元:個人用コンピューティング ポリシーを管理する - Azure Databricks | Microsoft Learn

上記ドキュメントには、管理者がこの設定を変更する方法も記載されています。基本的には、アカウントレベルでの有効/無効を設定するようです。

image-6.png

引用元:個人用コンピューティング ポリシーを管理する - Azure Databricks | Microsoft Learn

Personal Compute を作成できる仕様の確認

1. 管理アカウントで Personal Compute の機能を有効化

image.png

2. 検証用ユーザーをワークスペースに追加し、クラスターを作成できないように設定(Unrestricted cluster creation を OFF)

image-1.png

3. 検証用ユーザーで Databricks ワークスペースにログインし、Personal Compute を作成できることを確認(Compute -> All-purpose compute -> Create with Personal Compute を選択)

image-2.png

image-3.png

Personal Compute を作成できる仕様への対応方法

1. アカウントレベルでの Personal Compute の無効化

1-1. 管理者アカウントで Personal Compute の機能を無効化

image-4.png

1-2. 検証用アカウントでクラスターを作成できないことを確認(Create with Personal Compute が非アクティブであることを確認)

image-5.png

1
1
0

Register as a new user and use Qiita more conveniently

  1. You get articles that match your needs
  2. You can efficiently read back useful information
  3. You can use dark theme
What you can do with signing up
1
1

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?