Azure AI FoundryのProvisioned throughputとは?PTUサイジングと運用注意点を解説

Azure AI Foundryで本番向けのAIアプリを安定稼働させたい場合、「Provisioned throughput for Foundry Models」は最初に確認すべき重要項目です。結論から言うと、これはリクエストごとの従量課金ではなく、PTUという単位でAIモデルの専用処理容量を確保し、予測しやすいレイテンシとスループットを得るためのデプロイ方式です。Microsoft Learnの該当ページは2026年5月26日に更新されており、PTUのサイジング、クォータ、キャパシティ、Spillover、Azure Reservationsによる課金最適化まで、運用設計に必要な情報が整理されています。(Microsoft Learn)

特に影響を受けるのは、Azure AI Foundryでチャットボット、Copilot、エージェント、社内検索、問い合わせ対応などの生成AI機能を本番運用している管理者・開発者です。Standardデプロイのまま負荷増加に対応するのか、Provisioned throughputへ移行して専用容量を確保するのかを、コストだけでなくレイテンシ、クォータ、リージョン、障害時の逃がし先まで含めて判断する必要があります。

目次

Provisioned throughput for Foundry Modelsとは

Provisioned throughput for Foundry Modelsは、Microsoft Foundryでモデルをデプロイする方式の一つです。Standardデプロイでは推論処理のキャパシティを複数顧客で共有しますが、Provisioned throughputでは指定したPTU分の処理容量が自分のデプロイ専用に確保されます。リクエストが来ていない時間帯でも容量は保持されるため、安定した応答時間を求める本番ワークロードに向いています。(Microsoft Learn)

向いているのは、次のようなケースです。

利用シーンProvisioned throughputが向いている理由
社内向けCopilotや業務チャットユーザーの待ち時間が長いと業務効率に直結するため
カスタマーサポートのAI応答ピーク時にも応答時間を安定させたい場合が多いため
エージェント型ワークフロー複数回の推論を連続実行するため、遅延のばらつきが全体時間に影響しやすいため
大量アクセスが見込まれる本番APIトークン単位課金より、容量確保型のほうが費用を見通しやすい場合があるため

一方で、開発・検証、少量利用、アクセス数が読みにくいPoCでは、Standardデプロイのほうが扱いやすいことがあります。Microsoftの説明でも、Standardは開発・テスト・低ボリューム・変動の大きいトラフィックに適しているとされています。(Microsoft Learn)

2026年5月26日更新情報で押さえるべき変更点

今回の公式情報で重要なのは、「Provisioned throughputを使えば速くなる」という単純な話ではなく、運用前に確認すべき条件が明確になっている点です。特に管理者と開発者は、以下の観点で見直しが必要です。

確認ポイント内容影響を受ける人
PTUの考え方PTUはモデル処理容量の単位。指定したPTU数がデプロイに確保される管理者、開発者
クォータとキャパシティクォータがあっても、実際のキャパシティがなければデプロイやスケールアップは失敗する管理者、インフラ担当
デプロイタイプGlobal Provisioned、Data Zone Provisioned、Regional Provisionedを要件で選ぶ管理者、セキュリティ担当
課金デプロイ済みPTU数に対する時間課金、またはAzure Reservationsによる割引適用管理者、FinOps担当
高負荷時の挙動使用率が上限に達すると429が返る。Spilloverやリトライ設計が必要開発者、SRE
削除・スケールダウン削除しない限り課金が続く。スケールダウンした容量は再確保できる保証がない管理者、運用担当

特に注意したいのは、PTUクォータと実際のキャパシティが別物である点です。Microsoftは、PTUクォータがあっても対象リージョンに十分なキャパシティがなければデプロイは失敗すると説明しています。予約購入前や本番展開前には、FoundryポータルまたはモデルキャパシティAPIで利用可能なキャパシティを確認する必要があります。(Microsoft Learn)

Standard、Priority、Provisioned、Batchの違い

Azure AI Foundryでは、モデルの使い方に応じて複数のデプロイ方式があります。Provisioned throughputだけを見て判断すると、PoCや小規模利用で過剰なコストを抱える可能性があります。

デプロイ方式課金の考え方レイテンシ要件向いている用途
Standardトークン単位の従量課金ばらつきは許容開発、検証、アクセス変動が大きい本番
Priority processing優先ティアの従量課金低レイテンシを重視長期コミットなしで応答安定性を高めたい本番
Provisioned throughputPTU単位の時間課金、または予約予測可能な低レイテンシミッションクリティカルで高スケールな本番
Batch非同期・割引型の従量課金即時応答は不要大量処理、文書処理、集計、夜間バッチ

Microsoftの比較では、Provisioned throughputは「保証されたスループットと一貫したレイテンシが必要な、高スケールの本番ワークロード」に向くとされています。逆に、トラフィックが読めない段階ではStandardやPriority processingを検討するほうが現実的です。(Microsoft Learn)

PTUとは何か

PTUはProvisioned throughput unitsの略で、Provisioned throughputにおけるモデル処理容量の単位です。デプロイ作成時にPTU数を指定すると、Foundryがその分の計算資源をデプロイに割り当てます。(Microsoft Learn)

PTUを理解するうえで重要なのは、次の3点です。

PTUはモデル専用に購入するものではない

PTUクォータは、特定モデルだけに紐づくものではありません。公式情報では、同じPTUクォータをサポート対象モデルのデプロイに利用できると説明されています。ただし、実際に同じPTU数で処理できるトークン量はモデルによって異なります。(Microsoft Learn)

たとえば、軽量モデルと大型モデルでは、同じ100 PTUでも処理できるTPMが変わります。そのため「以前のモデルで100 PTUだったから、新しいモデルでも100 PTUで足りる」と考えるのは危険です。

PTUクォータはリージョンやデプロイタイプ単位で見る

PTUクォータは、サブスクリプション、リージョン、デプロイタイプの単位で管理されます。East USで使えるクォータがWest Europeでそのまま使えるとは限りません。Global Provisioned、Data Zone Provisioned、Regional Provisionedも別のクォータプールとして扱われます。(Microsoft Learn)

本番環境を複数リージョンに分ける場合は、単に「合計PTU数」を見るのではなく、どのリージョン・どのデプロイタイプで何PTU使えるかを棚卸しする必要があります。

モデルごとに最小PTU数とスケール単位がある

各モデルには、デプロイに必要な最小PTU数とスケール増分があります。Microsoftのサイジング情報では、モデルごとにInput TPM per PTU、output-to-input ratio、最小デプロイサイズ、スケール増分が示されています。(Microsoft Learn)

このため、計算上は18 PTUで足りるように見えても、モデルやデプロイタイプの最小値・増分に合わせて20 PTU、25 PTU、50 PTUなどに丸める必要が出ます。

PTUサイジングの実務手順

PTUサイジングでは、平均値だけでなくピーク時の利用形状を見ることが重要です。Microsoftは、ピークRPM、平均プロンプトサイズ、平均レスポンスサイズ、キャッシュ率を使って必要PTUを見積もる方法を示しています。(Microsoft Learn)

基本の流れは次のとおりです。

手順やること失敗しやすいポイント
現在の利用量を集めるピーク時RPM、入力トークン、出力トークンを確認1日平均だけで見積もり、ピークに耐えられない
モデルを決める利用予定モデルのInput TPM per PTUを確認旧モデルの値を流用する
出力トークンの重みを反映するoutput-to-input ratioを使って正規化する出力が長い用途を過小評価する
キャッシュ率を見込むプロンプトキャッシュが効く割合を考慮キャッシュ前提で過小に見積もる
余裕を持って検証するベンチマークで実トラフィックに近い負荷をかける計算だけで本番投入する

計算式は以下のように整理できます。

Input TPM = ピークRPM × 平均入力トークン数

Output TPM = ピークRPM × 平均出力トークン数

Normalized TPM =
  Input TPM × (1 - キャッシュ率)
  + Output TPM × output-to-input ratio

必要PTU =
  Normalized TPM ÷ 対象モデルのInput TPM per PTU

公式例では、1,000 RPM、平均入力200トークン、平均出力20トークン、gpt-5.2、Data Zone provisioned throughputを想定した場合、キャッシュなしでは110 PTU、入力トークンの50%がキャッシュされる場合は80 PTUに丸められる例が示されています。(Microsoft Learn)

ここで重要なのは、出力トークンの重みです。生成AIアプリでは「入力は短いが回答が長い」ケースが珍しくありません。要約、レポート生成、メール文面作成、コード生成のような用途では、出力トークンがPTU消費を大きく押し上げます。

管理者が確認すべき設定と運用ポイント

Provisioned throughputは、開発者がモデルを選ぶだけでは安全に運用できません。管理者は、サブスクリプション、リージョン、デプロイタイプ、課金、予約、削除手順まで含めて管理する必要があります。

クォータは「あるか」ではなく「どこに、何用であるか」を見る

Foundryポータルでは、Operate > Quota > Provisioned throughput unitから、サブスクリプションとリージョンごとのPTU利用状況を確認できます。追加クォータが必要な場合は、Foundryポータルまたはクォータ申請フォームからリクエストします。(Microsoft Learn)

確認すべき項目は次のとおりです。

項目確認内容
サブスクリプション本番で使うサブスクリプションにPTUクォータがあるか
リージョン実際にデプロイするリージョンで使えるか
デプロイタイプGlobal、Data Zone、Regionalのどれに割り当てられているか
既存利用量他のデプロイがPTUを消費していないか
追加申請承認までのリードタイムを本番スケジュールに織り込んでいるか

クォータ承認には時間がかかる場合があります。リリース直前に申請すると、本番スケジュールの遅延要因になります。

キャパシティ確認は予約購入より先に行う

Azure Reservationsはコスト削減に有効ですが、予約はキャパシティを保証するものではありません。Microsoftは、まずデプロイを作成してキャパシティがあることを確認し、その後に予約を購入する順序を推奨しています。(Microsoft Learn)

順序を間違えると、予約を購入したのに対象リージョンで必要PTUをデプロイできない、という事態が起こり得ます。

実務では、次の順番で進めると安全です。

順番作業
1必要PTUを見積もる
2対象リージョンとデプロイタイプを決める
3FoundryポータルまたはAPIでキャパシティを確認する
4Provisionedデプロイを作成する
5ベンチマークと監視でPTU数を調整する
6安定稼働するPTU数が見えたらAzure Reservationsを購入する

デプロイタイプはデータ処理場所で選ぶ

Provisioned throughputには、Global Provisioned、Data Zone Provisioned、Regional Provisionedがあります。違いは主に推論データの処理場所です。Microsoftのデプロイタイプ説明では、Globalは任意のAzureリージョン、Data ZoneはUSまたはEUなどの指定データゾーン内、Regionalはデプロイした単一リージョンで処理されると整理されています。(Microsoft Learn)

デプロイタイプSKU名向いているケース
Global ProvisionedGlobalProvisionedManagedグローバルにルーティングして可用性やキャパシティを重視したい
Data Zone ProvisionedDataZoneProvisionedManagedUSまたはEUなど、データゾーン単位の要件を満たしたい
Regional ProvisionedProvisionedManaged単一リージョンでのデータ処理が必要

社内規程や顧客契約で「日本リージョン内で処理すること」「EU域内に限定すること」などの条件がある場合、価格や空きキャパシティだけでGlobalを選ぶのは避けるべきです。

開発者が確認すべき実装上の注意点

Provisioned throughputへ移行しても、アプリケーションコードを完全に意識しなくてよいわけではありません。特にデプロイ名、429処理、max_tokens、Spilloverの扱いは見直しが必要です。

推論呼び出しではモデル名ではなくデプロイ名を使う

Microsoftの運用ガイドでは、Provisionedデプロイへの推論コードは他のデプロイタイプと同じで、modelパラメーターにはモデル名ではなくデプロイ名を使うと説明されています。(Microsoft Learn)

既存アプリで環境変数にモデル名を直接入れている場合は、次のように設定値を分離しておくと移行しやすくなります。

AZURE_OPENAI_MODEL_NAME=gpt-4.1
AZURE_OPENAI_DEPLOYMENT_NAME=prod-chat-ptu
AZURE_OPENAI_ENDPOINT=https://example.openai.azure.com/

アプリ側ではモデル名ではなく、デプロイ名を参照します。これにより、StandardからProvisionedへ切り替えるときも、コード修正ではなく設定変更で対応しやすくなります。

429は障害ではなく負荷制御のシグナルとして扱う

Provisionedデプロイでは、使用率が100%に達するとHTTP 429が即時に返され、retry-after-msretry-afterヘッダーで待機時間が示されます。Microsoftは、Provisionedデプロイの429をサービスエラーではなくトラフィック管理のシグナルとして説明しています。(Microsoft Learn)

実装上は、次のように扱いを分けると現実的です。

要件429発生時の対応
多少遅れても同じ品質で返したいretry-afterに従ってリトライ
ユーザー待ち時間を増やしたくないStandardデプロイへ逃がす
重要ユーザーだけ品質を維持したいリクエスト単位でSpilloverを制御
バックグラウンド処理キューに戻して後で再実行

SDKの既定リトライに頼るだけでは、ユーザー体験やSLAに合わない場合があります。アプリの画面、API、バッチ処理で許容できる待ち時間を分けて設計しましょう。

max_tokensを大きくしすぎない

Provisionedデプロイでは、リクエスト受付時にプロンプトトークン数とmax_tokensなどをもとに計算コストが見積もられます。Microsoftは、最高の同時実行性を得るにはmax_tokensを実際の生成サイズにできるだけ近づけることを推奨しています。(Microsoft Learn)

たとえば、実際には200トークン程度の回答しか返さないチャットで、常にmax_tokens=4000を指定していると、必要以上に重いリクエストとして扱われ、同時実行性が下がる可能性があります。

実務では、用途別に上限を分けるのが有効です。

用途max_tokens設定の考え方
FAQチャット短めに設定し、必要なら追加質問に誘導
要約入力文量に応じて段階的に設定
コード生成長めに設定するが、ストリーミングや分割生成を検討
レポート生成非同期処理やBatchも候補に入れる

Spilloverは高負荷時の保険として検討する

Spilloverは、Provisionedデプロイが使い切られたときに、超過リクエストを対応するStandardデプロイへ自動的にルーティングする仕組みです。Microsoftの説明では、PTU枯渇による429などの非200レスポンスが発生した場合に、同じFoundryリソース内のStandardデプロイへ逃がすことで、トラフィック急増時の中断を減らせるとされています。(Microsoft Learn)

ただし、Spilloverを有効にすればすべて解決するわけではありません。Standardデプロイへ流れたリクエストは、Provisionedの時間課金ではなく、Standard側のトークン課金対象になります。Microsoftも、SpilloverではProvisionedで処理された分はProvisionedの時間課金、Standardへルーティングされた分はStandardの入力・キャッシュ・出力トークン料金で課金されると説明しています。(Microsoft Learn)

Spilloverを使うべきケース

Spilloverは、次のような場合に有効です。

ケース理由
短時間のアクセス集中があるPTUをピーク最大値に合わせすぎると平常時の無駄が増える
ユーザーにエラーを返したくない429をStandardへ逃がすことで成功率を高められる
重要処理だけProvisionedを優先したいリクエストヘッダーでSpilloverを制御できる
エージェント処理を止めたくない一部の推論失敗がワークフロー全体の失敗につながるため

Spillover利用時に確認すべきこと

Spilloverには前提条件があります。公式情報では、Provisioned managed deploymentとStandard deploymentが同じFoundryリソース内に必要であり、Spillover先は同じAzure OpenAIリソース内のStandardデプロイ名として設定するとされています。(Microsoft Learn)

運用前には、少なくとも以下を確認してください。

確認項目内容
Standardデプロイの有無同じモデル・バージョンのStandardデプロイを用意しているか
課金影響Spillover時のトークン課金を予算に含めているか
レイテンシStandardへ逃がした場合の応答時間を許容できるか
監視IsSpilloverやデプロイ名別のメトリックで流量を見られるか
優先制御全リクエストで有効にするか、ヘッダーで一部だけ有効にするか

Azure Reservationsでコストを最適化する

Provisioned throughputは、デプロイしたPTU数に対して時間課金されます。リクエストが少ない時間帯でも、確保した容量に対して課金される点がStandardデプロイと大きく異なります。Microsoftの課金説明では、Provisionedデプロイは消費トークン数ではなく、デプロイ済みPTU数に基づいて時間単位で課金されるとされています。(Microsoft Learn)

短期検証や一時イベントでは時間課金が便利です。しかし、継続的な本番利用ではAzure Reservationsを検討すべきです。Reservationsは、1か月または1年のコミットメントと引き換えに、PTU課金メーターに割引を適用する仕組みです。(Microsoft Learn)

予約購入で失敗しやすいポイント

失敗パターンなぜ問題か対策
デプロイ前に予約を買うキャパシティがなく使えないPTUにコミットする恐れがある先にデプロイしてから予約
GlobalとRegionalを混同する予約はデプロイタイプ間で互換ではないデプロイタイプごとに予約を分ける
スコープを狭くしすぎる対象デプロイに割引が当たらないサブスクリプション、リソースグループ、管理グループを確認
削除後に予約を放置するデプロイがなくても予約費用が残る可能性があるReservation利用率を定期確認
スケールダウン後に見直さない予約済みPTUが未使用になるUtilizationを確認して調整

Microsoftの説明では、予約割引はデプロイタイプ、リージョン、スコープが一致した実行中デプロイに自動適用されます。モデル名やデプロイIDで一致するわけではありません。(Microsoft Learn)

既存環境から移行する場合の注意点

既存のStandardデプロイや古いProvisioned運用から移行する場合は、単純な切り替えではなく、段階的な検証が必要です。

StandardからProvisionedへ切り替える場合

StandardからProvisionedへ移行する場合は、次の流れが安全です。

フェーズ作業
現状把握ピークRPM、入力・出力トークン、429、レイテンシを確認
見積もりPTUサイジング式またはCapacity calculatorで必要PTUを算出
並行構築Provisionedデプロイを別名で作成
ベンチマーク本番に近いリクエスト形状で負荷試験
段階切替一部ユーザーや一部APIからルーティング変更
監視PTU使用率、429、レイテンシ、Spillover量を確認
最適化PTU数、max_tokens、リトライ、予約を調整

特に、デプロイ名をアプリ設定に埋め込んでいる環境では、切り替え時に思わぬ停止が起きやすくなります。環境変数や設定ファイルでデプロイ名を管理し、ロールバックしやすい構成にしておきましょう。

2024年8月以前のCommitmentモデル利用者は課金モデルを確認する

Microsoftの課金ページでは、2024年8月のセルフサービス更新前からFoundry provisionedを利用している顧客にはCommitment modelという購入モデルがあり、既存顧客は時間課金・Reservationsと併用できる一方、新規顧客や2024年8月以降に導入された一部モデルでは利用できないと説明されています。(Microsoft Learn)

既存の契約や予約がある組織では、技術移行だけでなく、課金モデルの棚卸しも必要です。特に、部門別にAzureサブスクリプションを分けている場合は、どの予約がどのスコープに効いているかをFinOps担当と確認してください。

スケールダウンは「一時停止」ではない

Provisionedデプロイは一時停止できず、課金を止めるには削除が必要です。Microsoftは、Provisionedデプロイは停止できず、課金が止まるのはデプロイ削除時だと説明しています。(Microsoft Learn)

また、スケールダウンすると解放した容量はリージョンプールに戻ります。後で同じ容量を再確保できる保証はありません。Microsoftも、スケールアップにはその時点のキャパシティが必要であり、スケールダウンで解放した容量を後から再取得できる保証はないと説明しています。(Microsoft Learn)

イベント前後の一時的な増減でコスト最適化を狙う場合は、キャパシティ再確保リスクを必ず考慮しましょう。

監視で見るべきメトリック

Provisioned throughputの運用では、単にエラー率を見るだけでは不十分です。PTUが十分か、過剰か、Spilloverが多すぎないかを継続的に確認する必要があります。

Microsoftは、Provisionedデプロイの利用状況をAzure MonitorのProvisioned-managed utilization V2メトリックで追跡できると説明しています。複数デプロイがある場合は、分割を適用してデプロイ別に確認できます。(Microsoft Learn)

運用ダッシュボードには、以下を入れておくと判断しやすくなります。

メトリック見る理由
PTU使用率100%に近い状態が続くと429やSpilloverが増える
429件数容量不足、max_tokens過大、急激な負荷増の兆候
レイテンシProvisionedの効果が出ているかを確認
入力・出力トークン数サイジング前提との差異を確認
Spillover件数Standard側への逃がしが常態化していないか確認
Reservation Utilization予約済みPTUが無駄になっていないか確認

Spillover利用時は、Azure MonitorでModelDeploymentNameStatusCodeによる分割、IsSpillover分割を使って、Provisioned側とStandard側の処理状況を分けて確認できます。(Microsoft Learn)

展開前チェックリスト

本番展開前には、以下を確認してください。

チェック項目確認済み
ピークRPM、平均入力トークン、平均出力トークンを取得した
必要PTUを計算し、モデルごとの最小PTU数・増分を確認した
デプロイタイプをGlobal、Data Zone、Regionalから選定した
データ処理場所が社内規程・顧客契約に合っている
対象サブスクリプション、リージョン、デプロイタイプのPTUクォータを確認した
デプロイ前にキャパシティを確認した
予約購入はデプロイ成功後に行う運用にしている
アプリ側でデプロイ名を設定化している
429時のリトライ、待機、Spillover方針を決めた
max_tokensを用途別に見直した
Azure MonitorでPTU使用率、429、Spillover、トークン数を監視できる
削除時はデプロイ削除、リソース削除、必要に応じたパージ、予約確認まで手順化した

よくある誤解

PTUクォータがあれば必ずデプロイできる?

できるとは限りません。クォータは上限枠であり、実際に利用できるキャパシティとは別です。対象リージョン・モデル・PTU数でキャパシティが不足していれば、デプロイやスケールアップは失敗します。(Microsoft Learn)

Provisioned throughputにすれば429は出ない?

出る可能性があります。使用率が100%に達すると429が返ります。Provisioned throughputは無制限に処理できる仕組みではなく、確保したPTU容量の範囲で予測可能な性能を得る仕組みです。(Microsoft Learn)

予約を買えばキャパシティも確保される?

確保されません。Azure Reservationsは課金上の割引であり、サービス側のキャパシティ確保ではありません。先にデプロイしてキャパシティを確認し、その後に予約を購入するのが安全です。(Microsoft Learn)

使わない時間だけ一時停止できる?

Provisionedデプロイは一時停止できません。課金を止めるにはデプロイを削除する必要があります。ただし、削除やスケールダウンで解放した容量を後で再取得できる保証はないため、短期的なコスト削減だけで判断しないことが重要です。(Microsoft Learn)

まず取るべき行動

Azure AI FoundryでProvisioned throughput for Foundry Modelsを検討するなら、最初にやるべきことはPTU購入や予約購入ではありません。まず、現在または想定する本番トラフィックのピークRPM、入力トークン、出力トークン、必要なデータ処理場所を整理してください。

そのうえで、対象モデルのPTUパラメーターを確認し、FoundryポータルのCapacity calculatorや公式のサイジング式で必要PTUを見積もります。次に、対象リージョンとデプロイタイプのクォータ・キャパシティを確認し、小さめの本番相当検証から始めるのが安全です。

Provisioned throughputは、安定したAI推論基盤を作るための強力な選択肢です。ただし、クォータ、キャパシティ、課金、Spillover、監視をセットで設計して初めて効果を発揮します。標準デプロイの延長ではなく、「本番AIサービスの容量設計」として扱うことが、失敗を避ける最大のポイントです。

この記事を書いた人

実務の現場で詰まりがちなポイントを地図にするITブログ「IT trip」を運営。Windows/Office(Teams・Excel)からSQL、サーバ運用、ガジェットまで、再現性のある手順と“なぜそうなるか”を丁寧に解説します。読んだらすぐ試せること、そして迷った人の次の一歩が見えることを大切にしています。

コメント

コメントする

目次