DR
Кэштелген енгізу бойынша баға белгілеу өзгеріссіз үлкен промпт префиксін қайта жіберетін жүктемелердің құнын едәуір азайта алады, бірақ үнем нақты модельге тән кэштен оқу, кэшке жазу, сақтау, бағыттау және сақталу ережелеріне байланысты. Жалпы “caching supported” белгісі құнын бағалауға жеткіліксіз; дәл модель мен маршрут үшін жарияланған ағымдағы бағаларды қолданыңыз.
TL;DR
- GPT-5.6 Terra үшін OpenAI, CometAPI және OpenRouter тарапынан кэштен оқу және кэшке жазу бағалары айқын жарияланған, дегенмен шлюз маршруттары мен ұзақ контекст деңгейлері соманы өзгерте алады.
- Google Gemini 3.6 Flash үшін Standard контекстті кэштеу ставкасын $0.15 / 1M токен ретінде және қосымша сақтау ақысын жариялайды; CometAPI қазір модельдің стандартты енгізу және шығару бағаларын бөлек кэштелген енгізу жолынсыз жариялайды.
- Маңызды салыстыру тек стандартты енгізу мен кэштен оқуды ғана емес, алғашқы кэшке жазуды, кез келген сақтау ақысын, кэштің өмір сүру мерзімін, маршрут тұрақтылығын және кейінгі кэш хиттерінің санын қамтиды.
Key messages
- Бағаларды шлюз бойынша жалпы көбейткіш қолданудың орнына модель және сервис деңгейі бойынша тексеріңіз.
- Құнды есептеуде кэштен оқу, кэшке жазу, сақтау және жауапты кэштеуді бөлек ұстаңыз.
- Жарияланған ставкадан үнемді болжаудан бұрын API жауап метадеректерінде нақты кэш пайдалануды тексеріңіз.
Өзгеріссіз үлкен префиксті қайталайтын сұрау — жүйелік промпт, құрал схемаларының жиынтығы, ұзақ анықтамалық құжат — әр шақырылымда толық енгізу ставкасы бойынша есептелмеуі мүмкін. Қазіргі буындағы модельдердің көбісі кэштелген енгізу бойынша баға белгілеуді қолдайды: провайдер бұрын өңделген деп таныған промпт бөлігі үшін төмендетілген ставка. Механизм, жеңілдік көлемі және оны жариялау айқындығы провайдер мен шлюзге қарай өзгеріп тұрады, сондықтан “кэштеу қолданылады” дегенді біркелкі мүмкіндік ретінде қарастырудан гөрі нақтылау маңызды.
What cached input pricing is, and isn't
Кэштелген енгізу бойынша баға белгілеу бұрын жіберілген префикске сәйкес келетін сұраудағы енгізу токендеріне жеңілдік береді. Ол шығыс токендерге жеңілдік жасамайды және шлюз екі толықтай бірдей сұрауды дубликатсыздандырып, бір жауапты тегін қайтаруы дегенмен бірдей емес — бұл кейбір шлюздер бөлек ұсынатын басқа механизм. Кэштелген енгізу бойынша баға белгілеу нақты провайдердің жақында көрген промпт бөлігі үшін аз төлеу туралы, генерацияны мүлде өткізіп жіберу туралы емес.
Оны жасау да тегін емес. OpenAI-дің GPT-5.6 бойынша баға ескертпелері кэшке жазулардың есептелуі кэштелмеген енгізу ставкасының 1.25 есесімен жүргізіліп, ал кэштен оқуларға 90% жеңілдік берілетінін көрсетеді. Бұл алғашқы жазу үстеме ақысы тепе-теңдік нүктесіне әсер етеді және салыстыру тек жеңілдетілген оқу ставкасын көрсетсе, көзден таса қалуы мүмкін. Басқа провайдерлер жазу моделінің орнына сақтау негізіндегі төлемдерді қолдануы мүмкін, сондықтан жазу және сақтау құнын бөлек тексеру керек.
Іс жүзінде есептелетін кэш бірлігі, әдетте, қайталанатын сөйлемдердің кездейсоқ жинағы емес, қайта пайдаланылатын промпт префиксі болады. Провайдерлер мазмұнды ретімен токенизациялап сәйкестендіреді, сондықтан қайта пайдаланылатын материал сұрауға тән соңғы бөліктен бұрын тұруы керек. Тұрақты жүйелік нұсқаулар, құрал анықтамалары, саясаттар және анықтамалық материал басына жақын орналасуы тиіс; өзгермелі пайдаланушы хабарламасы, уақыт таңбасы, сұрау ID немесе алынған үзінді кейінірек орналассын. Алдыңғы жақтағы мағынасыз болып көрінетін өзгерістің өзі токенизацияны жылжытып, одан кейінгі бәрінің сәйкестігін бұзуы мүмкін.
Жарамдылық ережелері де модельге тән. Провайдер ең төменгі промпт ұзындығын талап етуі, тек құжатталған бөліну нүктелерін тануы немесе айқын cache-control өрісін ұсынуы мүмкін. Кэш жазбасы шақырылымдар арасында мерзімі өтіп кетуі ықтимал, ал шлюз байланысты сұрауларды үйлесімді жоғары ағынды маршрутта ұстап тұруы керек болуы мүмкін. Сондықтан кэш хитін алдын ала болжам емес, бақыланған нәтиже ретінде қабылдау керек. Жақсы құрылымдалған промпт қайта пайдалану ықтималдығын арттырады, бірақ жеңілдетілген ставка қолданылғанын жауап метадеректері мен шот-фактура анықтайды.
What's actually published, by model and by gateway
Төмендегі кесте 2026 жылғы 29 шілдеде тексерілген баға күйі. Бағалар, басқа бірлік көрсетілмесе, 1 миллион токенге АҚШ долларымен берілген. Жолдар GPT-5.6 Terra және Gemini 3.6 Flash үшін провайдер, CometAPI және OpenRouter бойынша жария ақпаратты салыстырады; оларды тұрақты тариф ретінде қабылдамаңыз.
| Модель | Шлюз | Стандартты енгізу | Кэштелген енгізу (оқу) | Кэшке жазу | Жеңілдік көрсетілген бе? |
|---|---|---|---|---|---|
| GPT-5.6 Terra | Official OpenAI rate | $2.50 / 1M | $0.25 / 1M | $3.13 / 1M | Иә — 90% жеңілдік, тікелей көрсетілген |
| GPT-5.6 Terra | CometAPI | $2.00 / 1M | $0.20 / 1M | $2.50 / 1M | Иә — CometAPI-дің өз бағалар бетінде көрсетілген |
| GPT-5.6 Terra | OpenRouter | $2.50 / 1M | Белгілі бір ставка ретінде көрсетілмеген | Көрсетілмеген | Жоқ — тек “60–80% арзанырақ” деп жалпы сипатталады, модельге тән сан келтірілмеген |
| Gemini 3.6 Flash | Official Google rate | $1.50 / 1M | $0.15 / 1M (Google-дің өз жариялауына сәйкес) | Жарияланбаған | Иә, іске қосу кезінде — Google-дің модель құжаттамасы арқылы |
| Gemini 3.6 Flash | CometAPI | $1.20 / 1M | Белгілі бір ставка ретінде көрсетілмеген | Жарияланбаған | Жоқ — CometAPI беті “Caching” қолдау бар деп белгілейді, бірақ осы модель үшін жеңілдетілген кэштелген енгізу ставкасы бұл жазба сәтінде жарияланбаған |
| Gemini 3.6 Flash | OpenRouter | $1.50 / 1M | Белгілі бір ставка ретінде көрсетілмеген | Жарияланбаған | Жоқ — OpenRouter-дің өз құжаттамасы Google-дің кэш мультипликаторын жалпы (тізімдегі енгізудің 0.25x) сипаттайды, бірақ осы модель үшін нақты ставканы растамайды |
Кестені модель және маршрутқа тән снэпшот ретінде оқыңыз. CometAPI-дегі GPT-5.6 модель беті GPT-5.6 Terra үшін $2.00 стандартты енгізу, $0.20 кэштелген енгізу және $2.50 кэшке жазу бағаларын 1 миллион токенге көрсетеді. Оның Gemini 3.6 Flash модель беті қазіргі кезде $1.20 енгізу және $6.00 шығару бағаларын жариялайды, бірақ бөлек кэштелген енгізу немесе кэш сақтау бағасын көрсетпейді. Google-дің Gemini Developer API бағалары Standard деңгейі үшін $1.50 енгізу, $0.15 контекстті кэштеу және сағатына 1 миллион токенге $1.00 сақтау төлемін көрсетеді. OpenRouter қазір Models API арқылы модельге тән кэш өрістерін ашады: GPT-5.6 Terra-ның әдепкі маршруты төмен промоциялық бағаны және бөлек жоғары ұзақ контекст деңгейін қамтиды, ал оның Gemini 3.6 Flash жазбасы әртүрлі Standard, Flex және Priority мәндерін көрсетеді. Бұл әр модельге бір жалпы кэш мультипликаторын қолданудан гөрі дәлірек.
Why gateway and provider prices can diverge
Шлюз бағасы міндетті түрде өзгермейтін жоғары жақтағы тізім бағасына үстеме емес. Ол келісілген қуат, уақытша промо, басқа сервис деңгейі немесе маршрутқа тән коммерциялық келісімді көрсетуі мүмкін. Бір модель атауы контекст ұзындығы немесе кідіріс кепілдіктеріне байланысты бағалары өзгеретін бірнеше жоғары ағынды варианттарға да сәйкес келе алады. Мысалы, OpenRouter-дің GPT-5.6 Terra жазбасы әдепкі маршрутты және енгізу ұзақ контекст шегіне жеткенде жоғары бағалы override-ты жариялайды. Google Gemini 3.6 Flash үшін Standard, Batch, Flex және Priority бағаларын бөледі. Сондықтан бір салыстыру жолының мағыналы болуы үшін күн, маршрут, деңгей және контекст болжамы қажет.
Кері жағы да маңызды: егер шлюз беті бөлек кэштен оқуға арналған жолды жарияламаса, бұл жоқтықты “кэштеу қолжетімсіз” немесе “провайдердің тікелей жеңілдігі автоматты түрде қолданылады” деп айналдырмау керек. Шлюз жоғары жақтағы мүмкіндікті баға қоспай-ақ өткізуі, оны тек белгілі маршруттарда ашуы немесе сұрауды өзінің қалыпты енгізу ставкасы бойынша есептеуі мүмкін. Қорғалатын тәсіл — жоспарлау үшін шлюздің өзіндегі ағымдағы модель бетіне сүйеніп, кейін пайдаланым жазбалары немесе биллинг деректері бойынша нақты ставканы растау. Провайдер құжаттамасы механизмді түсінуге пайдалы болып қала береді, бірақ ол аралық тараптың коммерциялық шарттарын өздігінен бекітпейді.
Where the discount actually matters
Бұл жеңілдік нақты шығынды елеулі түрде өзгертетіні — үлкен, статикалық префикс шағын, айнымалы сұраумен жұптасқан сценарий: агенттік циклде әр шақырылымда жіберілетін жүйелік промпт немесе құрал схемалары жиынтығы, әртүрлі сұрақтармен қайта-қайта сұралатын ұзақ анықтамалық құжат немесе әр чатбот айналымында қайта жіберілетін сөйлесу тарихы. Мұндай жүктеме үшін бүкіл префикс үшін әр жолы толық енгізу бағасын төлеу мен жазуға бір мәрте үстеме ақы төлеп, кейінгі оқулар үшін жеңілдетілген ставканы төлеудің арасындағы айырма шақыру көлемімен бірге еселенеді. Префиксті қайталамайтын жүктемелерге оның пайдасы жоқ — бір жолғы сұрауда жеңілдетілетін кэш мазмұны мүлде болмайды.
A simple cost model for a repeated prefix
Тұрақты префикстегі токендер саны P, оны қайта пайдаланатын шақырулар саны N болсын. Егер U — бір токенге кэштелмеген енгізу бағасы болса, кэшсіз префикс құны N × P × U. Жеңілдетілген кэшпен бағалау P × W + (N − 1) × P × R + S, мұнда W — кэшке жазу бағасы, R — кэштен оқу бағасы, S — кезең ішіндегі кез келген сақтау төлемі. Формула бірінші шақыру кэш жасайды және одан кейінгі әр шақыру сәтті хит болады деп ұйғарады. Ол әр сұраудың айнымалы соңғы бөлігін, шығыс токендерді, қайта әрекеттерді және мисске әкелетін кез келген маршрут өзгерісін қамтымайды.
Мысал ретінде ресми GPT-5.6 Terra ставкасы бойынша 20 шақыруда қайта пайдаланылатын 100,000 токендік префиксті қарастырайық. 1 миллион кэштелмеген енгізу токеніне $2.50 болғанда, осы префиксті қайталап өңдеу құны $5.00 болады. Жарияланған 1.25 есе жазу ставкасы және 90% жеңілдетілген оқу ставкасын қолданғанда, 100,000 токенге бір жазу шамамен $0.3125, ал он тоғыз оқу шамамен $0.475 болады, префикс бойынша жиынтық құны шамамен $0.7875. Айырма айнымалы енгізу және шығару шығындарына дейін шамамен $4.21. Бұл иллюстрация, баға ұсынысы емес: ол тек он тоғыз кейінгі шақырудың бәрі бір кэшке сәтті хит болғанда және қосымша сақтау немесе маршрутизация ақылары қолданылмағанда орын алады.
Тепе-теңдік нүктесі осы модельден тікелей шығады. Жазуға үстеме ақы тек жеткілікті жеңілдетілген оқулар мерзімі бітпей тұрып орын алғанда ғана ақталады. Қысқа сессиялармен, промптті жиі редакциялаумен немесе әлсіз маршрут байланыстығымен жұмыс істейтін жүктеме үшін кэш күткеннен жиі қайта жасалуы мүмкін. Ұзақ өмір сүретін агенттік цикл немесе тұрақты префиксі бар қайталанатын құжат талдауы үшін хиттер саны әлдеқайда жоғары болуы ықтимал. Сондықтан болжамдар алғашқы шақырудан кейін мінсіз тізбекке сенуден гөрі бақыланған хит ставкасы диапазонын қолдануы тиіс.
Implementation patterns that improve cache reuse
Промптті құрастыру хит ставкасына бағалар кестесінен де үлкен әсер етеді. Ең тұрақты материалды алға қойып, оның сериализациясын детерминирленген етіңіз: жүйелік нұсқаулар, құрал схемалары, саясат мәтіні және ортақ анықтамалық контекст байланысты шақырулар арасында бірдей реттілік, бос орын және өріс көрсетілімін сақтауы тиіс. Айнымалы мазмұнды кейін қосыңыз. Тұрақты префикске шын мәнінде қажет болмаса, оған уақыт таңбаларын, кездейсоқ идентификаторларды, үнемі өзгеретін есептегіштерді немесе сұрауға тән алынған нәтижелерді енгізуден аулақ болыңыз.
Тұрақты материалды саналы түрде нұсқалаңыз. Құрал схемасы немесе саясат өзгерсе, бірнеше бір-біріне ұқсас варианттардың айналымға түсуіне жол бермей, жаңа нұсқаны бірізді түрде беріңіз. Сөйлесу немесе агенттік жүктемелер үшін API қолдаса, тұрақты сессия идентификаторын немесе кэш кілтін қайта пайдаланыңыз және бір кэшке тәуелді тізбек ішінде провайдерлерді ауыстырудан аулақ болыңыз. OpenRouter кэштеу үшін провайдерге байланған маршрутизацияны құжаттайды және session_id және prompt_cache_key сияқты басқаруларды ұсынады; бұл басқарулар үздіксіздікті жақсарта алады, бірақ жоғары жақтағы кэш суық немесе мерзімі өткен кезде хитті кепілдемейді.
Қолданбалар мисс болғанда да сыпайы деградациялануы тиіс. Кэштеу — құн мен кідірісті оңтайландыру, дұрыстықтың тәуелділігі емес. Кэш қолжетімсіз болғанда да сұрау сол дұрыс нәтижені беруі керек, ал қайта әрекет ету логикасы қайталанатын жазуларды соқыр түрде жасамауы тиіс. Бұл бөліну маршруттарды салыстыруды қауіпсіз етеді: командалар қолданбаның семантикалық мінез-құлқын өзгертпестен кэштеу саясатын немесе шлюз баптауын өзгерте алады.
How to verify cache economics in production
Ай сайынғы шот-фактурадан емес, әр сұрау деңгейіндегі телеметриядан бастаңыз. Дәл модель идентификаторын, шлюз маршрутын немесе провайдерді (ашылғанда), сервис деңгейін, жалпы енгізу токендерін, кэштен оқылған токендерді, кэшке жазылған токендерді, шығыс токендерді, кідірісті және есептелген құнды тіркеңіз. OpenRouter-дің usage объектісі cached_tokens және cache_write_tokens өрістерін қамтиды; басқа провайдерлер эквивалентті мәліметтерді басқа атаулармен береді. Кейін баға өзгерісі дәлелдерді өшіріп жібермеуі үшін бастапқы пайдаланым өрістерін сақтаңыз.
Деректерді тек модель бойынша ғана емес, промпт нұсқасы және жүктеме бойынша агрегаттаңыз. Пайдалы өлшемдерге кэшке жарамды сұраулардың кэшті хиттеу үлесі, енгізу токендерінің оқу ставкасымен есептелген үлесі, сәтті оқуға шақ жазулар, жазу мен соңғы хит арасындағы уақыт және сұрау бойынша нақтыланған құн кіреді. Жоғары сұрау деңгейіндегі хит ставкасы кэш префиксі шағын болса аз пайда әкелуі мүмкін, ал өте үлкен префиксте төмендеу хит ставкасы көбірек үнем береді. Бұл өлшемдерді кідіріс перцентильдерімен жұптастырыңыз, себебі жиі мисс немесе қайта маршрутизация жасайтын арзан маршрут операциялық тұрғыдан нашар болуы мүмкін.
Соңында, ауытқуларды тегістеп жіберудің орнына оларды талдаңыз. Кэштелген токендердің кенет төмендеуі промпт нұсқасын енгізу, сериализацияның тұрақсыздығы, мерзімі өткен жазбалар, ұзақ контекст деңгей шекарасы немесе шлюз маршрутының өзгерісін көрсетуі мүмкін. Әсер еткен сұрауларды ағымдағы модель бетімен және провайдер құжаттамасымен салыстырып, есептелген ставканы растаңыз. Бұл жарияланған жеңілдік пен қолданба жүзеге асырған үнем арасындағы олқылықты жабады.
What to check before assuming a rate applies
Бюджетте жарияланған ставканы қолданар алдында бес тармақты растаңыз: нақты модель мен сервис деңгейі, қайта пайдалануға болатын ең төмен префикс немесе айқын кэш бөліну нүктелері, алғашқы жазу немесе сақтау төлемі, кэштің өмір сүру мерзімі және сұраулардың шынымен кэшті хиттеп жатқанын растайтын дәлел. OpenAI қазіргі уақытта GPT-5.6 үшін кэштің ең төмен өмірін 30 минут деп көрсетеді, бірақ бұл әмбебап сақтау ережесі емес. Google Standard, Batch, Flex және Priority сервис деңгейлері үшін әртүрлі ставкаларды жариялайды. Шлюздер провайдерлер немесе деңгейлер арасында маршрутизация жасай алады, сондықтан таңдалған маршрут маңызды. OpenRouter-дің промптті кэштеу құжаттамасы жауаптағы cached_tokens және cache_write_tokens сияқты пайдаланым өрістерін тексеруді ұсынады. Кез келген өндірістік есеп үшін ағымдағы модель бетін нақты биллинг және пайдаланым метадеректерімен салыстырыңыз; жалғыз “caching supported” белгісіне ғана сенбеңіз.