DR
کیچڈ ان پٹ قیمت کاری ایک بڑے، غیر متغیر پرومپٹ پریفکس کو بار بار بھیجنے والے ورکس لوڈز کی لاگت کو نمایاں طور پر کم کر سکتی ہے، لیکن بچت ماڈل-مخصوص کیچ-ریڈ، کیچ-رائٹ، اسٹوریج، روٹنگ اور ریٹینشن قواعد پر منحصر ہے۔ عمومی "caching supported" لیبل لاگت کے اندازے کے لیے کافی نہیں؛ درست ماڈل اور روٹ کے لیے شائع شدہ موجودہ قیمت استعمال کریں۔
TL;DR
- GPT-5.6 Terra کے لیے OpenAI، CometAPI، اور OpenRouter پر کیچ-ریڈ اور کیچ-رائٹ کی واضح قیمتیں موجود ہیں، تاہم گیٹ وے روٹس اور لانگ-کانٹیکسٹ ٹائرز رقم کو بدل سکتے ہیں۔
- Google، Gemini 3.6 Flash کے لیے فی 1M ٹوکن $0.15 کا اسٹینڈرڈ کانٹیکسٹ-کیچنگ ریٹ اور ساتھ میں ایک اسٹوریج چارج شائع کرتا ہے؛ CometAPI اس وقت ماڈل کی اسٹینڈرڈ ان پٹ اور آؤٹ پٹ قیمتیں شائع کرتا ہے، الگ سے کیچڈ-ان پٹ لائن کے بغیر۔
- متعلقہ تقابل صرف اسٹینڈرڈ ان پٹ بمقابلہ کیچ ریڈ نہیں ہے۔ اس میں پہلی کیچ رائٹ، کسی بھی اسٹوریج چارج، کیچ کی عمر، روٹ کی مستقل مزاجی، اور بعد کے کیچ ہِٹس کی تعداد بھی شامل ہے۔
Key messages
- قیمتیں ماڈل اور سروس-ٹائر کی سطح پر چیک کریں، گیٹ وے-سطحی ضرب لگانے کے بجائے۔
- لاگت کے حساب میں کیچ ریڈ، کیچ رائٹ، اسٹوریج، اور ریسپانس کیچنگ کو الگ رکھیں۔
- شائع شدہ نرخ سے بچت کا اندازہ لگانے سے پہلے API ریسپانس میٹا ڈیٹا میں حقیقی کیچ استعمال کی تصدیق کریں۔
ایک درخواست جو ایک بڑا، غیر متغیر پریفکس — مثلاً سسٹم پرومپٹ، ٹول اسکیماؤں کا مجموعہ، یا طویل حوالہ جاتی دستاویز — بار بار دہراتی ہے، ہر کال پر مکمل ان پٹ ریٹ سے بل ہونے کی ضرورت نہیں۔ موجودہ نسل کے زیادہ تر ماڈلز کسی نہ کسی شکل میں کیچڈ-ان پٹ قیمت کاری کی حمایت کرتے ہیں: پرومپٹ کے اس حصے کے لیے کم نرخ جسے فراہم کنندہ پہلے سے پروسیس شدہ کے طور پر پہچانتا ہے۔ میکانزم، رعایت کا حجم، اور اسے کتنی وضاحت سے شائع کیا گیا ہے — یہ سب فراہم کنندہ اور گیٹ وے کے لحاظ سے مختلف ہوتے ہیں، اور اس فرق کو "caching is supported" کو یکساں فیچر سمجھنے کے بجائے مخصوص طور پر لینا چاہیے۔
کیچڈ ان پٹ قیمت کاری کیا ہے، اور کیا نہیں ہے
کیچڈ ان پٹ قیمت کاری اس درخواست کے ان پٹ ٹوکنز پر رعایت دیتی ہے جو پہلے بھیجے گئے پریفکس سے مطابقت رکھتے ہوں۔ یہ آؤٹ پٹ ٹوکنز پر رعایت نہیں دیتی، اور یہ اس بات کے برابر نہیں کہ کوئی گیٹ وے دو مکمل طور پر ایک جیسے درخواستوں کو ڈی-ڈپلیکیٹ کر کے ایک جواب مفت واپس کر دے — یہ ایک الگ میکانزم ہے جو کچھ گیٹ ویز جداگانہ طور پر پیش کرتے ہیں۔ کیچڈ ان پٹ قیمت کاری خاص طور پر اس پرومپٹ حصے کے لیے کم ادائیگی کے بارے میں ہے جسے ماڈل فراہم کنندہ نے حال ہی میں دیکھا ہے، نہ کہ مکمل طور پر جنریشن کو چھوڑ دینے کے بارے میں۔
یہ بنانا بھی مفت نہیں۔ OpenAI کا GPT-5.6 قیمت سے متعلق نوٹس بتاتا ہے کہ کیچ رائٹس کو غیر کیچڈ ان پٹ ریٹ کے 1.25 گنا پر بل کیا جاتا ہے، جبکہ کیچ ریڈز کو 90% رعایت ملتی ہے۔ یہ پہلی رائٹ کی پریمیئم بریک ایون پوائنٹ کو متاثر کرتی ہے اور اسے نظر انداز کرنا آسان ہے اگر تقابل میں صرف رعایتی ریڈ ریٹ دکھایا جائے۔ دیگر فراہم کنندگان اسی رائٹ ماڈل کی بجائے اسٹوریج-بنیاد چارجز استعمال کر سکتے ہیں، لہٰذا رائٹ اور اسٹوریج لاگتیں الگ سے چیک کی جانی چاہئیں۔
عملی طور پر، قابل-بلنگ کیچ یونٹ عموماً ایک قابلِ استعمال پرومپٹ پریفکس ہوتا ہے، نہ کہ دہرائے گئے جملوں کا کوئی من مانی مجموعہ۔ فراہم کنندگان مواد کو ترتیب سے ٹوکنائز اور میچ کرتے ہیں، لہٰذا قابلِ استعمال مواد کو درخواست کے مخصوص آخری حصے سے پہلے آنا چاہیے۔ مستحکم سسٹم ہدایات، ٹول ڈیفینیشنز، پالیسیاں، اور حوالہ جاتی مواد ابتدا کے قریب ہونا چاہیے؛ بدلتی ہوئی یوزر میسج، ٹائم اسٹیمپ، request ID، یا حاصل شدہ اقتباس بعد میں ہونا چاہیے۔ یہاں تک کہ سامنے کے قریب کوئی معنوی طور پر بے ضرر تبدیلی بھی ٹوکنائزیشن کو بدل سکتی ہے یا بعد میں آنے والی ہر چیز کے لیے میچ کو توڑ سکتی ہے۔
اہلیت کے قواعد بھی ماڈل-مخصوص ہوتے ہیں۔ فراہم کنندہ ایک کم از کم پرومپٹ طول کا تقاضا کر سکتا ہے، صرف دستاویزی بریک پوائنٹس کو شناخت کر سکتا ہے، یا ایک واضح cache-control فیلڈ فراہم کر سکتا ہے۔ کیچ اندراج کالز کے درمیان ختم ہو سکتی ہے، اور گیٹ وے کو متعلقہ درخواستوں کو ایک موزوں اپسٹریم روٹ پر رکھنا پڑ سکتا ہے۔ اس کا مطلب یہ ہے کہ ڈیپلائمنٹ کو کیچ ہِٹ کو مفروضے نہیں بلکہ مشاہدہ شدہ نتیجے کے طور پر لینا چاہیے۔ ایک اچھے طور پر ساختہ پرومپٹ دوبارہ استعمال کے امکان کو بہتر بناتا ہے، لیکن ریسپانس میٹا ڈیٹا اور انوائس یہ طے کرتے ہیں کہ آیا رعایتی ریٹ واقعی لاگو ہوا تھا۔
ماڈل اور گیٹ وے کے لحاظ سے حقیقتاً کیا شائع ہے
ذیل کی جدول 29 جولائی، 2026 کو چیک کیا گیا پرائسنگ اسنیپ شاٹ ہے۔ قیمتیں 1 ملین ٹوکن فی امریکی ڈالر میں ہیں جب تک کوئی اور اکائی بیان نہ ہو۔ قطاریں GPT-5.6 Terra اور Gemini 3.6 Flash کے لیے ماڈل فراہم کنندہ، CometAPI، اور OpenRouter کے موجودہ عوامی معلومات کا موازنہ کرتی ہیں؛ انہیں مستقل ٹیرف نہیں سمجھنا چاہیے۔
| ماڈل | گیٹ وے | اسٹینڈرڈ ان پٹ | کیچڈ ان پٹ (ریڈ) | کیچ رائٹ | رعایت شائع؟ |
|---|---|---|---|---|---|
| GPT-5.6 Terra | OpenAI کا سرکاری ریٹ | $2.50 / 1M | $0.25 / 1M | $3.13 / 1M | ہاں — 90% رعایت، براہِ راست بیان کی گئی |
| GPT-5.6 Terra | CometAPI | $2.00 / 1M | $0.20 / 1M | $2.50 / 1M | ہاں — CometAPI کے اپنے پرائسنگ پیج پر درج |
| GPT-5.6 Terra | OpenRouter | $2.50 / 1M | بطور مخصوص ریٹ درج نہیں | درج نہیں | نہیں — مجموعی طور پر صرف "60–80% سستا" بتایا گیا، فی ماڈل کوئی عدد نہیں |
| Gemini 3.6 Flash | Google کا سرکاری ریٹ | $1.50 / 1M | $0.15 / 1M (Google کے اپنے اعلان کے مطابق) | شائع نہیں | ہاں، لانچ پر — Google کی ماڈل دستاویزات کے ذریعے |
| Gemini 3.6 Flash | CometAPI | $1.20 / 1M | بطور مخصوص ریٹ درج نہیں | شائع نہیں | نہیں — CometAPI کا صفحہ "Caching" کو ایک سپورٹڈ فیچر کے طور پر نشان زد کرتا ہے لیکن اس تحریر کے وقت اس مخصوص ماڈل کے لیے رعایتی کیچڈ-ان پٹ عدد شائع نہیں کرتا |
| Gemini 3.6 Flash | OpenRouter | $1.50 / 1M | بطور مخصوص ریٹ درج نہیں | شائع نہیں | نہیں — OpenRouter کی اپنی دستاویزات Google کے کیچ ملٹیپلائر کو عمومی طور پر بیان کرتی ہیں (0.25x لسٹ ان پٹ) بجائے اس ماڈل کے مخصوص ریٹ کی تصدیق کے |
جدول کو ماڈل-اور-روٹ-مخصوص اسنیپ شاٹ کے طور پر پڑھیں۔ CometAPI GPT-5.6 ماڈل صفحہ میں GPT-5.6 Terra کو فی 1 ملین ٹوکن $2.00 اسٹینڈرڈ ان پٹ، $0.20 کیچڈ ان پٹ، اور $2.50 کیچ رائٹ کے طور پر فہرست کیا گیا ہے۔ اس کا Gemini 3.6 Flash ماڈل صفحہ اس وقت $1.20 ان پٹ اور $6.00 آؤٹ پٹ شائع کرتا ہے، لیکن الگ کیچڈ-ان پٹ یا کیچ-اسٹوریج قیمت نہیں دکھاتا۔ Google کی Gemini Developer API قیمت کاری اسٹینڈرڈ ٹائر کو $1.50 ان پٹ، $0.15 کانٹیکسٹ کیچنگ، اور فی 1 ملین ٹوکن فی گھنٹہ $1.00 اسٹوریج کے طور پر دکھاتی ہے۔ OpenRouter اب اپنی Models API کے ذریعے ماڈل-مخصوص کیچ فیلڈز ظاہر کرتا ہے: GPT-5.6 Terra کا ڈیفالٹ روٹ کم پروموشنل قیمت کاری اور ایک الگ زیادہ لانگ-کانٹیکسٹ ٹائر شامل کرتا ہے، جبکہ اس کا Gemini 3.6 Flash اندراج مختلف Standard، Flex، اور Priority اقدار ظاہر کرتا ہے۔ یہ ہر ماڈل پر ایک عمومی کیچ ملٹیپلائر لاگو کرنے کے مقابلے میں زیادہ دقیق ہے۔
کیوں گیٹ وے اور فراہم کنندہ کی قیمتیں مختلف ہو سکتی ہیں
گیٹ وے کی قیمت لازمی طور پر ایک غیر متغیر اپسٹریم فہرست قیمت پر محض مارک اپ نہیں ہوتی۔ یہ متفقہ صلاحیت، عارضی پروموشن، مختلف سروس ٹائر، یا روٹ-مخصوص تجارتی بندوبست کی عکاسی کر سکتی ہے۔ ایک ماڈل نام متعدد اپسٹریم ویریئنٹس سے بھی نقشہ بند ہو سکتا ہے جن کی قیمتیں کانٹیکسٹ لمبائی یا لیٹنسی ضمانتوں کے ساتھ بدلتی ہیں۔ مثال کے طور پر OpenRouter کا GPT-5.6 Terra اندراج ایک ڈیفالٹ روٹ اور ایک زیادہ قیمت والا اووررائیڈ شائع کرتا ہے جب ان پٹ اپنی لانگ-کانٹیکسٹ حد تک پہنچتا ہے۔ Google، Gemini 3.6 Flash کے لیے Standard، Batch، Flex، اور Priority قیمت کاری کو الگ کرتا ہے۔ اس لیے ایک واحد تقابلی قطار کو معنی خیز رہنے کے لیے تاریخ، روٹ، ٹائر، اور کانٹیکسٹ مفروضے کی ضرورت ہوتی ہے۔
الٹ طرف بھی اہم ہے: اگر کسی گیٹ وے صفحے پر الگ کیچ-ریڈ لائن شائع نہیں ہے، تو اس عدم موجودگی کو "کیچنگ دستیاب نہیں" یا "فراہمن کنندہ کی براہِ راست رعایت خودکار طور پر لاگو ہوتی ہے" میں تبدیل نہیں کرنا چاہیے۔ گیٹ وے اپسٹریم فیچر کو بغیر فہرست کیے پاس کر سکتا ہے، اسے صرف مخصوص روٹس پر ظاہر کر سکتا ہے، یا درخواست کو اپنی معمول کی ان پٹ قیمت پر بل کر سکتا ہے۔ قرینِ قیاس طریقہ یہ ہے کہ منصوبہ بندی کے لیے گیٹ وے کے اپنے موجودہ ماڈل صفحے کو استعمال کریں، پھر استعمال ریکارڈز یا بلنگ ڈیٹا سے حقیقی ریٹ کی تصدیق کریں۔ فراہم کنندہ کی دستاویزات میکانزم کو سمجھنے کے لیے مفید رہتی ہیں، مگر وہ بذاتِ خود کسی ثالث کے تجارتی شرائط قائم نہیں کرتیں۔
رعایت واقعی کہاں معنی خیز ہوتی ہے
وہ منظرنامہ جہاں یہ حقیقی لاگت کو بامعنی طور پر بدلتا ہے ایک بڑا، ساکن پریفکس ہوتا ہے جو ایک چھوٹی، متغیر درخواست کے ساتھ جوڑا ہو — ایک ایجنٹ لوپ میں ہر کال پر دوبارہ بھیجے جانے والا سسٹم پرومپٹ یا ٹول اسکیماؤں کا سیٹ، ایک طویل حوالہ جاتی دستاویز جو مختلف سوالات کے ساتھ بار بار پوچھی جاتی ہے، یا ہر چیٹ بوٹ ٹرن پر دوبارہ بھیجی جانے والی گفتگو کی تاریخ۔ اس قسم کے ورکس لوڈ کے لیے، ہر بار پورے پریفکس پر مکمل ان پٹ قیمت ادا کرنے اور پہلے رائٹ پریمیئم کے بعد رعایتی ریڈ ریٹ ادا کرنے کے درمیان فرق کال والیوم کے ساتھ مرکب ہو کر بڑھتا ہے۔ یہ ان ورکس لوڈز کے لیے کچھ نہیں کرتا جو پریفکس کو دہرائیں نہیں — ایک واحد-بار درخواست میں ابتدا ہی سے کوئی کیچڈ مواد رعایت کے لیے موجود نہیں ہوتا۔
ایک عملی بریک ایون حساب تمام کالز میں دہرائے گئے پریفکس کی غیر کیچڈ لاگت کو کیچ رائٹ یا اسٹوریج لاگت کے ساتھ بعد میں ہونے والی رعایتی کیچ ریڈز سے موازنہ کرتا ہے۔ نتیجہ پریفکس کے سائز، کامیاب کیچ ہِٹس کی تعداد، کیچ کی میعاد، اور آیا گیٹ وے درخواستوں کو موزوں فراہم کنندہ روٹ پر رکھتا ہے، پر منحصر ہے۔ اگر وہ حالات غیر مستحکم ہوں، تو سرخی میں دی گئی رعایت پروڈکشن میں حاصل ہونے والی بچت کو بڑھا کر دکھا سکتی ہے۔
دہرائے گئے پریفکس کے لیے ایک سادہ لاگت ماڈل
فرض کریں P ساکن پریفکس کے ٹوکنز کی تعداد ہے اور N وہ کالز ہیں جو اسے دوبارہ استعمال کرتی ہیں۔ اگر U فی ٹوکن غیر کیچڈ ان پٹ قیمت ہے، تو کیچنگ کے بغیر پریفکس کی لاگت N × P × U ہے۔ ایک سادہ کیچڈ تخمینہ P × W + (N − 1) × P × R + S ہے، جہاں W کیچ-رائٹ قیمت، R کیچ-ریڈ قیمت، اور S اس عرصے میں کوئی بھی اسٹوریج چارج ہے۔ فارمولا فرض کرتا ہے کہ پہلی کال کیچ بناتی ہے اور ہر بعد کی کال کامیاب ہِٹ ہے۔ یہ ہر درخواست کے متغیر آخری حصے، آؤٹ پٹ ٹوکنز، ریٹریز، اور کسی ایسے روٹ تبدیلی کو خارج کرتا ہے جو مِس کا سبب بنے۔
ایک مثال کے طور پر 100,000 ٹوکنز کا پریفکس جو سرکاری GPT-5.6 Terra ریٹ پر 20 کالز میں دوبارہ استعمال ہوتا ہے۔ فی 1 ملین غیر کیچڈ ان پٹ ٹوکنز $2.50 پر، اس پریفکس کو بار بار پروسیس کرنا $5.00 کی لاگت کرے گا۔ شائع شدہ 1.25-گنا رائٹ ریٹ اور 90%-رعایتی ریڈ ریٹ استعمال کرتے ہوئے، ایک 100,000-ٹوکن رائٹ تقریباً $0.3125 کی لاگت کرے گا اور انیس ریڈز تقریباً $0.475، یوں مجموعی پریفکس لاگت لگ بھگ $0.7875 ہوگی۔ فرق متغیر ان پٹ اور آؤٹ پٹ لاگت سے پہلے تقریباً $4.21 ہے۔ یہ ایک مثال ہے، کوٹیشن نہیں: یہ تبھی درست ہے جب بعد کی تمام انیس کالز اسی درست کیچ کو ہِٹ کریں اور کوئی اضافی اسٹوریج یا روٹنگ چارج لاگو نہ ہو۔
بریک ایون پوائنٹ اسی ماڈل سے براہِ راست نکلتا ہے۔ رائٹ پریمیئم اسی وقت جائز ہے جب میعاد ختم ہونے سے پہلے کافی رعایتی ریڈز ہوں۔ مختصر سیشنز، بار بار پرومپٹ ایڈٹس، یا کمزور روٹ افینیٹی والے ورکس لوڈ میں کیچ توقع سے زیادہ بار مرتبہ دوبارہ بنایا جا سکتا ہے۔ طویل عمر والے ایجنٹ لوپ یا مستحکم پریفکس کے ساتھ بار بار کی جانے والی دستاویزاتی تجزیے میں ہِٹس کی تعداد کہیں زیادہ ہو سکتی ہے۔ اس لیے پیش گوئیوں کو پہلی کال کے بعد کامل سلسلہ فرض کرنے کے بجائے مشاہدہ شدہ ہِٹ-ریٹ رینج استعمال کرنی چاہیے۔
کیچ کے دوبارہ استعمال کو بہتر بنانے والے نفاذی پیٹرنز
پرومپٹ کی تشکیل کا ہِٹ ریٹ پر اثر بہت سے پرائسنگ اسپریڈشیٹس کے اشارے سے زیادہ ہوتا ہے۔ سب سے مستحکم مواد کو پہلے رکھیں اور اس کی سیریلائزیشن کو متعین رکھیں: سسٹم ہدایات، ٹول اسکیمائیں، پالیسی متن، اور مشترکہ حوالہ جاتی کانٹیکسٹ کو متعلقہ کالز میں ایک ہی ترتیب، وائٹ اسپیس، اور فیلڈ نمائندگی برقرار رکھنی چاہیے۔ غیر مستحکم مواد بعد میں شامل کریں۔ ٹائم اسٹیمپس، رینڈم شناخت کار، مسلسل بدلتے کاؤنٹرز، یا درخواست-مخصوص ریٹریول نتائج کو قابلِ استعمال پریفکس میں داخل کرنے سے گریز کریں جب تک کہ وہ واقعی وہاں درکار نہ ہوں۔
مستحکم مواد کو ارادی طور پر ورژن کریں۔ اگر کوئی ٹول اسکیمہ یا پالیسی بدلتی ہے، تو نئے ورژن کو مستقل طور پر متعین کریں بجائے اس کے کہ متعدد تقریباً ایک جیسے ویریئنٹس گردش میں رہیں۔ گفتگو یا ایجنٹک ورکس لوڈز کے لیے، جب API سپورٹ کرتی ہو تو ایک مستحکم سیشن شناخت کار یا کیچ کی استعمال کریں، اور اسی کیچ-انحصار سلسلے میں فراہم کنندہ تبدیل کرنے سے گریز کریں۔ OpenRouter پرومپٹ کیچنگ کے لیے پرووائیڈر-اسٹکی روٹنگ دستاویزی طور پر بیان کرتا ہے اور session_id اور prompt_cache_key جیسے کنٹرولز ظاہر کرتا ہے؛ یہ کنٹرولز تسلسل کو بہتر بنا سکتے ہیں، لیکن وہ اس وقت ہِٹ کی ضمانت نہیں دیتے جب اپسٹریم کیچ سرد یا ختم ہو۔
ایپلی کیشنز کو مِس پر خوش اسلوبی سے کم-کارکردگی اختیار کرنی چاہیے۔ کیچنگ ایک لاگت اور لیٹنسی آپٹیمائزیشن ہے، درستگی کی انحصار نہیں۔ کیچ دستیاب نہ ہونے پر درخواست کو پھر بھی وہی درست نتیجہ پیدا کرنا چاہیے، اور ریٹرائی لاجک کو اندھادھند بار بار رائٹس نہیں بنانی چاہئیں۔ یہ تفریق روٹس کا موازنہ کرنا محفوظ بناتی ہے: ٹیمیں ایپلی کیشن کے معنوی رویے کو بدلے بغیر کیچنگ پالیسی یا گیٹ وے کنفیگریشن بدل سکتی ہیں۔
پروڈکشن میں کیچ کی معیشت کی تصدیق کیسے کریں
ماہانہ انوائس کے بجائے فی-درخواست ٹیلیمیٹری سے شروع کریں۔ عین ماڈل شناخت کنندہ، جب ظاہر ہو تو گیٹ وے روٹ یا فراہم کنندہ، سروس ٹائر، کل ان پٹ ٹوکنز، کیچڈ-ریڈ ٹوکنز، کیچ-رائٹ ٹوکنز، آؤٹ پٹ ٹوکنز، لیٹنسی، اور بل شدہ لاگت لاگ کریں۔ OpenRouter کا یوزج آبجیکٹ cached_tokens اور cache_write_tokens شامل کرتا ہے؛ دیگر فراہم کنندگان مساوی تفصیلات مختلف فیلڈ ناموں کے تحت ظاہر کرتے ہیں۔ خام یوزج فیلڈز محفوظ رکھیں تاکہ بعد کی قیمت تبدیلی اس شواہد کو مٹا نہ دے جس کی لاگت کی باز تشکیل کے لیے ضرورت ہے۔
ڈیٹا کو صرف ماڈل کے اعتبار سے نہیں بلکہ پرومپٹ ورژن اور ورکس لوڈ کے اعتبار سے مجتمع کریں۔ مفید پیمائشوں میں شامل ہیں: اہل درخواستوں کا وہ حصہ جو کیچ کو ہِٹ کرتا ہے، ان پٹ ٹوکنز کا وہ حصہ جو ریڈ ریٹ پر بل ہوتا ہے، کامیاب ریڈ پر رائٹس کی تعداد، رائٹ اور آخری ہِٹ کے درمیان وقت، اور فی درخواست حاصل شدہ لاگت۔ ایک بلند درخواست-سطحی ہِٹ ریٹ پھر بھی کم قدر دے سکتا ہے اگر کیچڈ پریفکس چھوٹا ہو، جبکہ بہت بڑے پریفکس پر کم ہِٹ ریٹ زیادہ بچت دے سکتا ہے۔ ان پیمائشوں کو لیٹنسی پرسنٹائلز کے ساتھ جوڑیں، کیونکہ ایسا سستا روٹ جو بار بار مِس کرے یا دوبارہ روٹ کرے عملی طور پر بدتر ہو سکتا ہے۔
آخر میں، بے قاعدگیوں کا جائزہ لیں، انہیں ہموار نہ کریں۔ کیچڈ ٹوکنز میں اچانک کمی پرومپٹ-ورژن رول آؤٹ، غیر مستحکم سیریلائزیشن، ختم شدہ اندراجات، لانگ-کانٹیکسٹ ٹائر کی حد، یا گیٹ وے روٹ تبدیلی کی نشاندہی کر سکتی ہے۔ متاثرہ درخواستوں کو موجودہ ماڈل صفحے اور فراہم کنندہ دستاویزات کے ساتھ موازنہ کریں، پھر بل شدہ ریٹ کی تصدیق کریں۔ یہ شائع شدہ رعایت اور ایپلی کیشن کے ذریعہ حقیقتاً حاصل شدہ بچت کے درمیان خلا کو بند کرتا ہے۔
شرح لاگو سمجھنے سے پہلے کیا چیک کریں
ایک بجٹ میں شائع شدہ ریٹ استعمال کرنے سے پہلے پانچ چیزوں کی تصدیق کریں: عین ماڈل اور سروس ٹائر، کم از کم قابلِ استعمال پریفکس یا واضح کیچ بریک پوائنٹس، پہلی رائٹ یا اسٹوریج چارج، کیچ کی مدت، اور یہ ثبوت کہ درخواستیں واقعی کیچ کو ہِٹ کر رہی ہیں۔ OpenAI فی الحال GPT-5.6 کے لیے کم از کم 30 منٹ کی کیچ زندگی بیان کرتا ہے، لیکن یہ ایک عمومی ریٹینشن قاعدہ نہیں۔ Google، Gemini 3.6 Flash کے لیے Standard، Batch، Flex، اور Priority سروس ٹائرز کی مختلف قیمتیں شائع کرتا ہے۔ گیٹ ویز بھی فراہم کنندگان یا ٹائرز کے درمیان روٹنگ کر سکتے ہیں، لہٰذا منتخب روٹ معنی رکھتا ہے۔ OpenRouter کی پرومپٹ کیچنگ دستاویزات cached_tokens اور cache_write_tokens جیسے ریسپانس یوزج فیلڈز چیک کرنے کی سفارش کرتی ہیں۔ کسی بھی پروڈکشن تخمینے کے لیے، عمومی "caching supported" لیبل پر انحصار کرنے کے بجائے موجودہ ماڈل صفحے کو حقیقی بلنگ اور یوزج میٹا ڈیٹا کے ساتھ موازنہ کریں۔