利用額アラートを使うと、月間 API コストを把握できます。集計された利用額が設定金額に達した時点でトラフィックを停止するには、組織または個々のプロジェクトに利用額のハードリミットを適用します。
利用額のハードリミットによって、本番環境のトラフィックが中断されることがあります。
集計された利用額が適用対象のハードリミットに達すると、該当する API リクエストは 429 エラーを返し、
エラーコードは organization_spend_limit_exceeded または project_spend_limit_exceeded になります。
制限の適用は即時ではないため、
記録された利用額が設定金額をわずかに超えることがあります。
利用額の管理方法の選択
利用額アラートと利用額のハードリミットでは、動作が異なります。
| 管理方法 | 設定金額に達したときの動作 | 用途 |
|---|---|---|
| 利用額アラート | 通知を送信し、API トラフィックは継続 | トラフィックを中断せずに利用額を把握 |
| 利用額のハードリミット | 該当する API リクエストが 429 エラーを返します | 組織またはプロジェクトの月間利用額の上限を強制適用 |
利用額アラートは上限を強制適用しません。利用額のハードリミットを追加してもアラートは有効なままなので、ハードリミットによってトラフィックが中断される前に通知を受け取れます。
また、OpenAI は組織に対して、利用ティアに応じた月間利用上限を承認し、割り当てます。この OpenAI が承認した利用上限は、ユーザーが設定する利用額の上限とは別のものです。
利用額の上限の設定
対象の組織またはプロジェクトの設定を管理する権限が必要です。詳しくは、API プラットフォームの権限をご覧ください。
ハードリミットの動作
リクエストには、組織とプロジェクトの両方のハードリミットが適用される場合があります。
- 組織のハードリミットは、その組織内のすべてのプロジェクトの API トラフィックに適用されます。
- プロジェクトのハードリミットは、そのプロジェクトに課金される API トラフィックにのみ適用されます。
- 組織のハードリミットに達すると、エラーコードが
organization_spend_limit_exceededの429エラーが返されます。 - プロジェクトのハードリミットに達すると、エラーコードが
project_spend_limit_exceededの429エラーが返されます。 - 到達した上限を引き上げるか解除すると、更新が反映された後にトラフィックを再開できます。変更しない場合は、次の月次サイクルで制限がリセットされます。
制限の適用は即時ではありません。制限の状態が反映されるまでの間に、API プラットフォームが少量の追加利用を処理することがあるため、記録された利用額が設定金額をわずかに超える場合があります。
利用額アラート
利用額アラートを使うと、利用額がハードリミットに達する前に通知を受け取れます。利用量の調整、上限の引き上げ、想定外のトラフィックの調査に必要な時間を確保できるよう、余裕を持ったしきい値でアラートを追加してください。
API トラフィックの再開
課金に関する上限やクレジット残高が原因でリクエストが失敗する場合は、次の手順で対処します。
error.codeを確認し、リクエストが組織の利用額の上限、プロジェクトの利用額の上限、OpenAI が割り当てた利用上限のいずれに達したのか、または組織のプリペイドクレジットを使い切ったのかを特定します。organization_spend_limit_exceededまたはproject_spend_limit_exceededの場合は、現在の利用状況と利用額の上限を比較します。月次リセットの前にトラフィックを再開する必要がある場合は、到達した上限を引き上げるか解除します。organization_usage_limit_exceededの場合は、承認済みの利用上限の引き上げをリクエストします。credit_balance_exhaustedの場合は、クレジットを追加します。- エラーがリクエスト数またはトークン数のレート制限を示している場合は、レート制限ガイドに従ってください。