
المعايير والتقارير / عينة
معيار زمن استجابة AI API: TTFT ومعدل المعالجة والموثوقية
منهجية شفافة لقياس زمن استجابة AI API من دون الخلط بين زمن الوصول إلى أول رمز وسرعة التوليد والزمن الإجمالي للاستجابة.
يقيس TTFT سرعة الاستجابة؛ بينما يقيس عدد الرموز في الثانية سرعة التوليد.
استخدم الإصدار نفسه من النموذج والمطالبة نفسها وهدف المخرجات نفسه ووضع البث نفسه لكل مسار.
اعرض قيم الوسيط وp95 بدلًا من عرض أسرع طلب واحد.
انشر الأخطاء وحالات انتهاء المهلة والمنطقة ونافذة الاختبار إلى جانب أرقام الأداء.