DR
キャッシュ済み入力の料金は、大きな不変のプロンプト・プレフィックスを再送するワークロードのコストを大幅に削減し得るが、節約効果はモデル固有のキャッシュ読み取り・書き込み・ストレージ・ルーティング・保持ルールに依存する。「キャッシュ対応」という一般的なラベルだけではコストを見積もれない。正確なモデルとルートに対して公開されている現行価格を用いること。
TL;DR
- GPT-5.6 Terra については、OpenAI、CometAPI、OpenRouter がキャッシュ読み取り/書き込みの明示的な価格を提示しているが、ゲートウェイルートやロングコンテキストの階層により金額が変わることがある。
- Google は Gemini 3.6 Flash の Standard に対して 1M-token あたり $0.15 のコンテキストキャッシング率とストレージ料金を公開している。一方、CometAPI は現時点で同モデルの標準入出力価格のみを掲示し、キャッシュ入力の別行は設けていない。
- 比較すべきは標準入力とキャッシュ読み取りだけではない。初回のキャッシュ書き込み、ストレージ課金の有無、キャッシュ寿命、ルートの一貫性、その後のキャッシュヒット回数も含まれる。
Key messages
- ゲートウェイ全体の倍率を当てはめるのではなく、モデルおよびサービス階層のレベルで価格を確認する。
- コスト計算では、キャッシュ読み取り、キャッシュ書き込み、ストレージ、レスポンスキャッシュを分けて扱う。
- 公開レートから節約を予測する前に、API レスポンスのメタデータで実際のキャッシュ利用を検証する。
大きな不変のプレフィックス(system プロンプト、ツールスキーマの集合、長い参照文書など)を繰り返し送るリクエストは、その都度すべてを標準の入力料金で請求される必要はない。最新世代の多くのモデルは、既に処理済みと認識したプロンプトの一部に対し、割引レート(キャッシュ済み入力料金)を適用する何らかの仕組みを備えている。仕組みや割引幅、その公開の明確さはプロバイダやゲートウェイによって異なるため、「キャッシュ対応」を一様な機能として扱うより、具体的に見る価値がある。
What cached input pricing is, and isn't
キャッシュ済み入力料金は、過去に送信したプレフィックスと一致するリクエストの入力トークンを割引する。出力トークンは割引されず、ゲートウェイが完全に同一のリクエストを重複排除して無料で同一レスポンスを返す仕組みとも別物である。これはあくまで、最近モデルプロバイダが既に見たプロンプト部分に対して、生成を省略するのではなく、より安い料金を適用する仕組みである。
また、作成が無料というわけでもない。OpenAI の GPT-5.6 の料金説明では、キャッシュ書き込みは未キャッシュ入力レートの 1.25 倍で課金され、キャッシュ読み取りは 90% の割引を受けるとされている。初回書き込みのプレミアムは損益分岐点に影響し、割引読取レートだけを示す比較では見落とされがちだ。他のプロバイダは書き込みモデルの代わりにストレージベースの課金を用いる場合があるため、書き込みとストレージのコストは個別に確認すべきである。
実務上、課金の単位となるキャッシュは、任意の繰り返し文の集まりというより「再利用可能なプロンプトのプレフィックス」であることが多い。プロバイダは内容を順序どおりにトークン化して照合するため、再利用素材はリクエスト固有の末尾より前に置く必要がある。安定した system 指示、ツール定義、ポリシー、参照資料は冒頭に置き、変化するユーザーメッセージ、タイムスタンプ、リクエスト ID、検索取得スニペットなどは後方に置くべきだ。前半の見かけ上無害な変更でも、トークン化がずれたり、後続すべての一致が崩れたりする可能性がある。
適用条件もモデル固有である。一定のプロンプト長が必要、文書化された区切りのみを認識、明示的なキャッシュ制御フィールドを公開、などの要件があり得る。キャッシュは呼び出し間に期限切れになることがあり、ゲートウェイが互換性のある上流ルートに紐づけ続ける必要がある場合もある。つまり、キャッシュヒットはプロンプトの類似性から当然視するのではなく、観測された結果として扱うべきである。構造の良いプロンプトは再利用の可能性を高めるが、割引が実際に適用されたかどうかはレスポンスのメタデータと請求が決める。
What's actually published, by model and by gateway
以下の表は 2026 年 7 月 29 日時点で確認した価格スナップショットである。特記がない限り価格単位は 1 million tokens あたりの米ドル。行は GPT-5.6 Terra と Gemini 3.6 Flash を、モデルプロバイダ、CometAPI、OpenRouter にまたがって現在の公開情報で比較している。恒久的な料金表として扱うべきではない。
| モデル | ゲートウェイ | 標準入力 | キャッシュ入力(読み取り) | キャッシュ書き込み | 割引が明示されているか? |
|---|---|---|---|---|---|
| GPT-5.6 Terra | 公式 OpenAI 料金 | $2.50 / 1M | $0.25 / 1M | $3.13 / 1M | はい — 90%オフ、明記あり |
| GPT-5.6 Terra | CometAPI | $2.00 / 1M | $0.20 / 1M | $2.50 / 1M | はい — CometAPI の料金ページに記載 |
| GPT-5.6 Terra | OpenRouter | $2.50 / 1M | 個別の料金としては未掲載 | 未掲載 | いいえ — 集計として「60–80%安い」とのみ記載、モデル別の数値なし |
| Gemini 3.6 Flash | 公式 Google 料金 | $1.50 / 1M | $0.15 / 1M(Google の自社発表による) | 非公開 | はい(ローンチ時)— Google のモデルドキュメントで記載 |
| Gemini 3.6 Flash | CometAPI | $1.20 / 1M | 個別の料金としては未掲載 | 非公開 | いいえ — CometAPI のページは「Caching」対応を示すが、本モデルの割引キャッシュ入力の数値は現時点で未掲載 |
| Gemini 3.6 Flash | OpenRouter | $1.50 / 1M | 個別の料金としては未掲載 | 非公開 | いいえ — OpenRouter のドキュメントは Google のキャッシュ倍率を一般論(リスト入力の 0.25x)として述べるのみで、本モデル固有のレートは未確認 |
この表はモデルとルート単位のスナップショットとして読むこと。CometAPI の GPT-5.6 モデルページは、GPT-5.6 Terra を 1M トークンあたり標準入力 $2.00、キャッシュ入力 $0.20、キャッシュ書き込み $2.50 と個別に示している。Gemini 3.6 Flash のモデルページは現時点で入力 $1.20、出力 $6.00 を掲示しているが、別個のキャッシュ入力やキャッシュストレージ価格は示していない。Google の Gemini Developer API 料金では、Standard 階層が入力 $1.50、コンテキストキャッシング $0.15、ストレージは 1 million tokens あたり毎時 $1.00 と記載されている。OpenRouter は Models API でモデル固有のキャッシュフィールドを公開しており、GPT-5.6 Terra のデフォルトルートにはより低いプロモーション価格と、別に高価格のロングコンテキスト階層がある。一方、Gemini 3.6 Flash のエントリは Standard、Flex、Priority の異なる値を示す。あらゆるモデルに一律のキャッシュ倍率を適用するより、こちらの方が精確である。
Why gateway and provider prices can diverge
ゲートウェイの価格は、固定の上流リスト価格に単純な上乗せをしたものとは限らない。交渉済みキャパシティ、一時的なプロモーション、異なるサービス階層、ルート固有の商業条件などを反映する可能性がある。モデル名が、コンテキスト長やレイテンシ保証によって価格が変わる複数の上流バリアントに対応していることもある。たとえば OpenRouter の GPT-5.6 Terra のエントリは、デフォルトルートに加え、入力がロングコンテキスト閾値に達した際の高価格オーバーライドを公開している。Google は Gemini 3.6 Flash に対して Standard、Batch、Flex、Priority の価格を分けている。したがって、1 行の比較を意味あるものに保つには、日付、ルート、階層、コンテキストの前提が必要である。
逆も重要だ。ゲートウェイのページにキャッシュ読み取りの別行がない場合、それを「キャッシュ非対応」あるいは「プロバイダ直の割引が自動適用される」と解釈してはならない。ゲートウェイは上流の機能を転送するが明細化しない、特定のルートでのみ公開する、あるいは通常の入力レートで課金することがある。妥当なアプローチは、計画にはゲートウェイ自身の最新のモデルページを使い、実際のレートは使用状況や請求データで確認することである。プロバイダのドキュメントは仕組みの理解には有用だが、仲介者の商業条件をそれだけで確定させるものではない。
Where the discount actually matters
この割引が実際のコストを大きく変えるのは、巨大で静的なプレフィックスと小さな可変リクエストを組み合わせるシナリオである。例として、エージェントループで毎回再送される system プロンプトやツールスキーマの集合、異なる質問で繰り返し照会される長い参照文書、各チャットターンで再送される会話履歴などがある。このようなワークロードでは、毎回プレフィックス全体を標準入力価格で支払うのと、初回に書き込みプレミアムを払い、その後は割引読み取りレートで支払うのとで、呼び出し回数に応じて差が累積する。一方、プレフィックスを繰り返さないワークロードでは、そもそも割引対象のキャッシュ済み内容がない。
実務的な損益分岐の計算は、全呼び出しで繰り返されるプレフィックスの未キャッシュコストと、キャッシュ書き込みまたはストレージコストに加え、その後のキャッシュ読み取りの割引コストを比較する。結果はプレフィックスの大きさ、成功したキャッシュヒットの回数、キャッシュの期限、ゲートウェイが互換のプロバイダルートに留めるかに依存する。これらの条件が不安定だと、見出しの割引率は実運用での節約額を過大に示し得る。
A simple cost model for a repeated prefix
P を安定したプレフィックスのトークン数、N をそれを再利用する呼び出し回数とする。未キャッシュの入力単価を U とすれば、キャッシュなしの場合のプレフィックスのコストは N × P × U である。簡略化したキャッシュ有りの見積もりは P × W + (N − 1) × P × R + S となる。ここで W はキャッシュ書き込み単価、R はキャッシュ読み取り単価、S は期間中のストレージ料金である。この式は初回の呼び出しでキャッシュが作成され、その後のすべての呼び出しが成功裏にヒットする前提である。各リクエストの可変な末尾、出力トークン、リトライ、ミスを引き起こすルート変更は除外している。
例として、100,000-token のプレフィックスを 20 回再利用するケースを、公式の GPT-5.6 Terra レートで考える。未キャッシュの入力トークン 1M あたり $2.50 なら、このプレフィックスを繰り返し処理するコストは $5.00 となる。公開されている 1.25 倍の書き込みレートと 90% 割引の読み取りレートを用いると、100,000-token の書き込み 1 回は約 $0.3125、読み取り 19 回は約合計 $0.475、プレフィックスの合計コストは約 $0.7875 となる。差額は可変の入力・出力コストを除いて約 $4.21 である。これはあくまで例であり、19 回すべてが同一の有効なキャッシュにヒットし、追加のストレージやルーティングコストがかからない場合にのみ成り立つ。
損益分岐点は同じモデルから直ちに導かれる。書き込みプレミアムは、有効期限までに十分な回数の割引読み取りが起きる場合にのみ正当化される。セッションが短い、プロンプト編集が頻繁、ルート親和性が弱いといったワークロードでは、キャッシュが予想以上に頻繁に再作成されるかもしれない。逆に、長寿命のエージェントループや、安定したプレフィックスで繰り返す文書分析ではヒット回数が大きくなり得る。したがって、予測では初回後が完璧に続くと仮定するのではなく、観測されたヒット率の範囲を用いるべきである。
Implementation patterns that improve cache reuse
プロンプト構築は、料金表のスプレッドシートが示す以上にヒット率に影響する。最も安定した素材を先頭に置き、そのシリアライズを決定的に保つ。system 指示、ツールスキーマ、ポリシーテキスト、共有の参照コンテキストは、関連する呼び出し間で順序、空白、フィールド表現を変えないようにする。可変の内容は後ろに追加する。タイムスタンプ、ランダムな識別子、連続的に変わるカウンタ、リクエスト固有の検索結果などは、本当に必要な場合を除き再利用プレフィックスに注入しない。
安定素材に明示的なバージョンを付ける。ツールスキーマやポリシーが変わる場合は、ほぼ同一のバリアントが併存しないよう、新バージョンを一貫して割り当てる。会話型やエージェント型のワークロードでは、API がサポートする場合は安定したセッション ID やキャッシュキーを再利用し、同一のキャッシュ依存シーケンス内でプロバイダを切り替えないようにする。OpenRouter はプロンプトキャッシュ用のプロバイダ固定(sticky)ルーティングを文書化しており、session_id や prompt_cache_key などの制御を公開している。これらは継続性を高め得るが、上流のキャッシュがコールドまたは期限切れの場合、ヒットを保証するものではない。
また、ミス時に正しくフォールバックする設計にする。キャッシングはコストとレイテンシの最適化であり、正しさの前提ではない。キャッシュが利用できない場合でも、リクエストは同じ正当な結果を出す必要があり、リトライロジックは無分別に繰り返し書き込みを発生させてはならない。この分離により、ルート比較が安全になる。チームはキャッシュポリシーやゲートウェイ構成を変更しても、アプリケーションの意味的挙動を変えずに済む。
How to verify cache economics in production
月次の請求書より、まずリクエスト単位のテレメトリから始める。正確なモデル識別子、ゲートウェイルートまたはプロバイダ(公開されている場合)、サービス階層、総入力トークン、キャッシュ読み取りトークン、キャッシュ書き込みトークン、出力トークン、レイテンシ、課金額を記録する。OpenRouter の使用状況オブジェクトには cached_tokens と cache_write_tokens が含まれる。他のプロバイダも、名称は異なるが同等の詳細を公開している。後日の料金変更で再構築ができなくならないよう、生の使用状況フィールドを保存しておく。
データはモデルだけでなく、プロンプトバージョンやワークロードで集計する。有用な指標には、対象リクエストのうちキャッシュヒットの比率、読み取りレートで課金された入力トークンの比率、成功した読み取りあたりの書き込み回数、書き込みから最後のヒットまでの時間、リクエストあたりの実現コストなどがある。リクエスト単位のヒット率が高くても、キャッシュしたプレフィックスが小さければ価値は小さい。一方、ヒット率がやや低くても非常に大きなプレフィックスなら節約が大きい場合もある。ルートの比較にはレイテンシのパーセンタイルも組み合わせるべきだ。繰り返しミスやルート変更が起こる安価なルートは、運用面では悪化し得る。
最後に、異常値は均して消さずに精査する。突然キャッシュトークンが減った場合、プロンプトバージョンのロールアウト、シリアライズの不安定化、エントリの期限切れ、ロングコンテキスト階層の境界、ゲートウェイルートの変更などが疑われる。該当リクエストを現在のモデルページやプロバイダのドキュメントと照合し、請求レートを確認する。これにより、公開された割引とアプリケーションが実際に実現した節約のギャップを埋められる。
What to check before assuming a rate applies
予算に公開レートを適用する前に、5 つを確認すること。正確なモデルとサービス階層、再利用可能なプレフィックスの最小長または明示的なキャッシュの区切り、初回書き込みまたはストレージの課金、キャッシュの寿命、リクエストが実際にキャッシュヒットしている証拠。OpenAI は現在、GPT-5.6 についてキャッシュの最短寿命を 30 分と述べているが、これは普遍的な保持ルールではない。Google は Standard、Batch、Flex、Priority で異なるレートを公開している。ゲートウェイもプロバイダや階層間でルーティングする可能性があるため、選択したルートが重要である。OpenRouter のプロンプトキャッシングのドキュメントは、cached_tokens や cache_write_tokens といったレスポンスの使用状況フィールドの確認を推奨している。あらゆる本番見積もりでは、一般的な「キャッシュ対応」ラベルに頼るのではなく、現在のモデルページと実際の請求・使用状況メタデータを突き合わせること。
