Microsoft Foundry ModelsのPAYG(従量課金)では、モデルの利用量を制御する仕組みとして、主にUsage Tier、Quota、TPM/RPMがあります。
それぞれの違いと管理単位を整理します。
1. クォータ管理の全体像
| 項目 | 管理単位 | 役割 |
|---|---|---|
| Usage Tier | テナント × モデル | 月間トークン使用量に基づく性能の目安 |
| Quota Pool | サブスクリプション × モデル・バージョン × デプロイ種類 × スコープ | 割当可能なTPMの総枠 |
| TPM / RPM | 個々のモデルデプロイ | 実行時のレート制限 |
① Usage Tier(性能の目安)
- テナント全体で、モデル別に月間トークン使用量を集計
- 全サブスクリプション・全リージョン・全デプロイの使用量を合算
- 超過すると、応答時間が長くなったり、ばらつきが増える可能性がある
- Standard / Global Standard / Data Zone Standardが対象
Usage Tierは、超過時に必ず429エラーとなるハードリミットではありません。
② Quota Pool(申請・総枠)
サブスクリプションを最上位の管理単位として、モデル・デプロイ種類・スコープごとにTPMの総枠を管理します。
2026年5月から、リージョン別管理からサブスクリプション共有型への移行が始まっています。
| デプロイ種類 | クォータの共有範囲 |
|---|---|
| Global Standard | 全リージョン共有 |
| Data Zone Standard | Data Zone単位で共有 |
| Regional Standard | リージョン別 |
※Global / Data Zoneの共有方式は移行済みモデルに適用されます。実際の管理方式はFoundryポータルのQuota画面にある「Scope」列で確認できます。
また、Quota Tier(Free / Tier 1~6) により、モデルごとのクォータ上限が異なります。使用量などに応じて自動的に上位Tierへ移行する仕組みもあります。
③ TPM / RPM(実行時のレート制限)
Quota Poolから、個々のモデルデプロイにTPMを割り当てます。
- TPM:1分間あたりのトークン数
- RPM:1分間あたりのリクエスト数
- RPMはモデルごとに決められた比率でTPMと連動
例えば、あるQuota Poolが100万TPMの場合:
| 割当先 | TPM |
|---|---|
| Deployment A | 600,000 |
| Deployment B | 300,000 |
| 未割当 | 100,000 |
| 合計 | 1,000,000 |
このように、総枠を複数のデプロイに配分します。
2. 管理グループやテナント単位のクォータは?
TPM/RPMのハードクォータは、テナント単位や管理グループ単位では管理されません。
- 同じサブスクリプション内でFoundryリソースを増やしても、共有Quota Poolは増えない
- 別のサブスクリプションには独立したクォータが適用される
- ただし、Usage Tierはテナント全体の使用量を合算する
まとめ
Foundry ModelsのPAYGでは、次の3つを区別すると理解しやすくなります。
- Usage Tier: テナント全体・モデル別の使用量に対する性能の目安
- Quota Pool: サブスクリプションを中心としたTPMの総枠
- TPM / RPM: 各モデルデプロイに割り当てる実行時の制限
なお、本記事はStandard系デプロイを対象としています。Provisioned(PTU)やBatchではクォータ体系が異なります。
参考資料
参考リンク
