サービスティア
異なるサービスティアにより、アプリケーションのニーズに基づいて可用性、パフォーマンス、予測可能なコストのバランスを取ることができます。
Anthropicは3つの「service tier」(サービスティア)を提供しています。
- Priority Tier: 既存のキャパシティコミットメントを持つ組織のみが利用可能
- Standard: 日常的なユースケースの試験運用とスケーリングの両方に対応するデフォルトのティア
- Batch: 待機可能な、または通常のキャパシティの枠外で処理することにメリットがある非同期ワークフローに最適
Standard Tier
Standard Tierは、すべてのAPIリクエストに対するデフォルトのサービスティアです。APIはこれらのリクエストを他のすべてのリクエストと同様に、ベストエフォートの可用性で優先順位付けします。
Priority Tier
APIはこのティアのリクエストを他のすべてのリクエストよりも優先します。この優先順位付けにより、ピーク時であっても「サーバー過負荷」エラーを最小限に抑えることができます。
詳細については、既存のPriority Tierコミットメントを参照してください。
リクエストへのティアの割り当て方法
リクエストを処理する際、Anthropicは以下のシナリオにおいてリクエストをPriority Tierに割り当てることを決定します。
- 組織に十分なPriority Tierキャパシティの1分あたり入力トークンがある
- 組織に十分なPriority Tierキャパシティの1分あたり出力トークンがある
AnthropicはPriority Tierキャパシティに対する使用量を以下のようにカウントします。
入力トークン
- キャッシュ読み取りは、キャッシュから読み取られたトークン1つあたり0.1トークン
- キャッシュ書き込みは、5分のTTLでキャッシュに書き込まれたトークン1つあたり1.25トークン
- キャッシュ書き込みは、1時間のTTLでキャッシュに書き込まれたトークン1つあたり2.00トークン
- Claude 4.6以降のモデルにおける米国内限定推論(
inference_geo: "us")リクエストの場合、入力トークンはトークン1つあたり1.1トークン - その他すべての入力トークンは、トークン1つあたり1トークン
出力トークン
- Claude 4.6以降のモデルにおける米国内限定推論(
inference_geo: "us")リクエストの場合、出力トークンはトークン1つあたり1.1トークン - その他すべての出力トークンは、トークン1つあたり1トークン
それ以外の場合、リクエストはStandard Tierで処理されます。
サービスティアの使用
service_tierパラメータを設定することで、リクエストに使用できるサービスティアを制御できます。
client = anthropic.Anthropic()
message = client.messages.create(
model="claude-opus-4-8",
max_tokens=1024,
messages=[{"role": "user", "content": "Hello, Claude!"}],
service_tier="auto", # Automatically use Priority Tier when available, fallback to standard
)
print(message.usage.service_tier)service_tierパラメータは以下の値を受け付けます。
"auto"(デフォルト) - 利用可能な場合はPriority Tierキャパシティを使用し、利用できない場合は他のキャパシティにフォールバックします"standard_only"- Standard Tierキャパシティのみを使用します。Priority Tierキャパシティを使用したくない場合に便利です
レスポンスのusageオブジェクトには、リクエストに割り当てられたサービスティアも含まれます。
{
"usage": {
"input_tokens": 410,
"cache_creation_input_tokens": 0,
"cache_read_input_tokens": 0,
"output_tokens": 585,
"service_tier": "priority"
}
}これにより、リクエストにどのサービスティアが割り当てられたかを判断できます。
Priority Tierコミットメントのあるモデルでservice_tier="auto"をリクエストした場合、以下のレスポンスヘッダーから詳細な情報が得られます。
anthropic-priority-input-tokens-limit: 10000
anthropic-priority-input-tokens-remaining: 9618
anthropic-priority-input-tokens-reset: 2025-01-12T23:11:59Z
anthropic-priority-output-tokens-limit: 10000
anthropic-priority-output-tokens-remaining: 6000
anthropic-priority-output-tokens-reset: 2025-01-12T23:12:21Zこれらのヘッダーの有無を利用して、制限を超えていた場合でも、リクエストがPriority Tierの対象であったかどうかを検出できます。
既存のPriority Tierコミットメント
Priority Tierコミットメントは以下で構成されます。
- 1分あたりの入力トークン数
- 1分あたりの出力トークン数
- コミットメント期間(1、3、6、または12か月)
- 特定のモデルバージョン
Priority Tierは、優先的に割り当てられた計算リソースにより99.5%の稼働率を目標としています。コミットされたキャパシティを超えるリクエストは、自動的にStandard Tierにフォールバックします。
サポートされているモデル
Priority Tierは、Claude Fable 5.1、Claude Mythos 5.1、Claude Mythos 5、Claude Mythos Preview、Claude Opus 5、およびClaude Sonnet 5を除く、利用可能なすべてのClaudeモデルでサポートされています。
利用可能なモデルの詳細については、モデル概要を確認してください。
Was this page helpful?