
ベンチマークとレポート / サンプル
AI APIレイテンシベンチマーク:TTFT、スループット、信頼性
time-to-first-token、生成速度、レスポンス全体の所要時間を混同せずにAI APIのレイテンシを測定するための透明性の高い方法論。
TTFTは応答性を測定し、トークン毎秒は生成速度を測定します。
すべてのルートで、同一のモデルバージョン、プロンプト、出力目標、ストリーミングモードを使用します。
最速のリクエストを1件だけ示すのではなく、中央値とp95値を報告します。
パフォーマンス値と併せて、エラー、タイムアウト、リージョン、テスト期間を公開します。