0
0

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?

Microsoft Foundry モデルの使用量制限整理

0
Posted at

Microsoft Foundry ModelsのPAYG(従量課金)では、モデルの利用量を制御する仕組みとして、主にUsage Tier、Quota、TPM/RPMがあります。

それぞれの違いと管理単位を整理します。

image.png

1. クォータ管理の全体像

項目 管理単位 役割
Usage Tier テナント × モデル 月間トークン使用量に基づく性能の目安
Quota Pool サブスクリプション × モデル・バージョン × デプロイ種類 × スコープ 割当可能なTPMの総枠
TPM / RPM 個々のモデルデプロイ 実行時のレート制限

① Usage Tier(性能の目安)

  • テナント全体で、モデル別に月間トークン使用量を集計
  • 全サブスクリプション・全リージョン・全デプロイの使用量を合算
  • 超過すると、応答時間が長くなったり、ばらつきが増える可能性がある
  • Standard / Global Standard / Data Zone Standardが対象

Usage Tierは、超過時に必ず429エラーとなるハードリミットではありません。

② Quota Pool(申請・総枠)

サブスクリプションを最上位の管理単位として、モデル・デプロイ種類・スコープごとにTPMの総枠を管理します。

2026年5月から、リージョン別管理からサブスクリプション共有型への移行が始まっています。

デプロイ種類 クォータの共有範囲
Global Standard 全リージョン共有
Data Zone Standard Data Zone単位で共有
Regional Standard リージョン別

※Global / Data Zoneの共有方式は移行済みモデルに適用されます。実際の管理方式はFoundryポータルのQuota画面にある「Scope」列で確認できます。

また、Quota Tier(Free / Tier 1~6) により、モデルごとのクォータ上限が異なります。使用量などに応じて自動的に上位Tierへ移行する仕組みもあります。

③ TPM / RPM(実行時のレート制限)

Quota Poolから、個々のモデルデプロイにTPMを割り当てます。

  • TPM:1分間あたりのトークン数
  • RPM:1分間あたりのリクエスト数
  • RPMはモデルごとに決められた比率でTPMと連動

例えば、あるQuota Poolが100万TPMの場合:

割当先 TPM
Deployment A 600,000
Deployment B 300,000
未割当 100,000
合計 1,000,000

このように、総枠を複数のデプロイに配分します。

2. 管理グループやテナント単位のクォータは?

TPM/RPMのハードクォータは、テナント単位や管理グループ単位では管理されません。

  • 同じサブスクリプション内でFoundryリソースを増やしても、共有Quota Poolは増えない
  • 別のサブスクリプションには独立したクォータが適用される
  • ただし、Usage Tierはテナント全体の使用量を合算する

まとめ

Foundry ModelsのPAYGでは、次の3つを区別すると理解しやすくなります。

  1. Usage Tier: テナント全体・モデル別の使用量に対する性能の目安
  2. Quota Pool: サブスクリプションを中心としたTPMの総枠
  3. TPM / RPM: 各モデルデプロイに割り当てる実行時の制限

なお、本記事はStandard系デプロイを対象としています。Provisioned(PTU)やBatchではクォータ体系が異なります。

参考資料

参考リンク

0
0
0

Register as a new user and use Qiita more conveniently

  1. You get articles that match your needs
  2. You can efficiently read back useful information
  3. You can use dark theme
What you can do with signing up
0
0

Delete article

Deleted articles cannot be recovered.

Draft of this article would be also deleted.

Are you sure you want to delete this article?