Installeer en configureer de provider
De Vercel AI SDK kan een OpenAI-compatibele provider gebruiken. Configureer de CometAPI-basis-URL één keer en bewaar de API-sleutel in een server-side omgevingsvariabele.
import { createOpenAI } from '@ai-sdk/openai';
export const cometapi = createOpenAI({
apiKey: process.env.COMETAPI_KEY,
baseURL: 'https://api.cometapi.com/v1',
});Maak een streaming chatroute
Kies het model op de server uit een allowlist. Dit voorkomt dat clients een onverwacht duur model selecteren, terwijl multi-model flexibiliteit behouden blijft.
import { streamText } from 'ai';
import { cometapi } from '@/lib/cometapi';
const allowedModels = {
fast: 'your-fast-model-id',
quality: 'your-quality-model-id',
};
export async function POST(request: Request) {
const { messages, route = 'fast' } = await request.json();
const modelId = allowedModels[route as keyof typeof allowedModels];
const result = streamText({
model: cometapi(modelId),
messages,
});
return result.toDataStreamResponse();
}Wissel modellen per workload
Gebruik de snellere route voor conversationele interacties en de kwaliteitsroute voor complexe analyse, grote codewijzigingen of beoordeling met hoge waarde. Houd routeringslogica observeerbaar zodat kosten en kwaliteit later kunnen worden vergeleken.
- Routeer op basis van een expliciete productmodus voordat automatische classificatie wordt geprobeerd.
- Registreer de geselecteerde route, model-ID, tokens, latency en aanvraagresultaat.
- Pas bestedingslimieten toe op account- en aanvraagniveau.
Productiechecklist
Voeg vóór de lancering schema-validatie, time-outafhandeling, retries voor tijdelijke fouten en een compatibele fallback-route toe. Stel de upstream API-sleutel nooit bloot in browsercode.