Azure OpenAI Service の PTU って?
PTUを使用すると自分だけのGPUを予約すること処理能力やパフォーマンスを安定化させることができます。
PTU の何ができるようになったの?
これまでは Microsoft の営業さんに使いたいよー!と伝えて承認を得られてからでないと使えなかったのですが、誰でも使えるようになりました!
驚くべき金額
誰でもデプロイできるようになったものの、恐ろしい金額がかかるようです。
デプロイする際は計画的にしないと痛い目にあいそうです。
意図するデプロイを防ぐには?
デプロイの種類を Provisioned managed の場合デプロイをできなくするような、Azure Policy のルールを設定できるようです。
Microsoftのサポートチームのブログで紹介されてましたー。