Vercel AI SDK + CometAPI: إنشاء مسار دردشة متعدد النماذج

تثبيت الموفر وتهيئته

import { createOpenAI } from '@ai-sdk/openai';

export const cometapi = createOpenAI({
  apiKey: process.env.COMETAPI_KEY,
  baseURL: 'https://api.cometapi.com/v1',
});

إنشاء مسار دردشة متدفق

import { streamText } from 'ai';
import { cometapi } from '@/lib/cometapi';

const allowedModels = {
  fast: 'your-fast-model-id',
  quality: 'your-quality-model-id',
};

export async function POST(request: Request) {
  const { messages, route = 'fast' } = await request.json();
  const modelId = allowedModels[route as keyof typeof allowedModels];

  const result = streamText({
    model: cometapi(modelId),
    messages,
  });

  return result.toDataStreamResponse();
}

تبديل النماذج حسب عبء العمل

• وجّه الطلبات حسب وضع المنتج الصريح قبل محاولة التصنيف التلقائي.
• سجّل المسار المحدد، ومعرّف النموذج، والرموز، وزمن الاستجابة، ونتيجة الطلب.
• طبّق حدود إنفاق على مستوى الحساب والطلب.

قائمة تحقق الإنتاج