SolutionsChoose your path
For individualsBuild, learn, and create with simple usage-based access. For businessScale teams, billing, governance, and model workflows. guide/CometAPI ๋ฆฌ์์น
Next.js์ CometAPI๋ก ๋ฉํฐ ๋ชจ๋ธ AI ์ฑํ
์ฑ์ ๊ตฌ์ถํ๋ ๋ฐฉ๋ฒ
ํ๋์ CometAPI ํค์ ํ๋์ ๋ฐฑ์๋ ์๋ํฌ์ธํธ๋ฅผ ํตํด GPT, Claude, Gemini ๋ชจ๋ธ ๊ฐ ์ ํ์ด ๊ฐ๋ฅํ Next.js ๊ธฐ๋ฐ ์คํธ๋ฆฌ๋ฐ AI ์ฑํ
์ฑ์ ๊ตฌ์ถํ์ธ์.

AnnaAI ๋ชจ๋ธ ๋ฐ API ๋ฆฌ์์น ํ ์
๋ฐ์ดํธ๋จ Sep 3, 2026 11 ๋ถ ์ฝ๊ธฐ from openai import OpenAI
client = OpenAI(
api_key="YOUR_COMETAPI_KEY",
base_url="https://api.cometapi.com/v1",
)
response = client.chat.completions.create(
model="gpt-5-mini",
messages=[{"role": "user", "content": "Build this workflow."}],
)
print(response.choices[0].message.content)
์ฌ๋ฌ ๋ชจ๋ธ ์ ๊ณต์๊ฐ ํ์ํ Next.js ์ฑ๋ด์์๋, ์ธ์ฆ์ ์ค์ํํ๋ฉด์ ์์ฒญ๋ง๋ค ์ ํ๋ฆฌ์ผ์ด์
์ด ๋ชจ๋ธ์ ์ ํํ ์ ์๊ฒ ํ๋ ๋ฐฑ์๋๊ฐ ๊ฐ์ฅ ์ ์ฉํฉ๋๋ค. CometAPI๋ ์ด ํจํด์ ์ ๊ณตํฉ๋๋ค. ์๋ฒ๋ ํ๋์ API ํค์ OpenAI ํธํ ๊ธฐ๋ณธ URL https://api.cometapi.com/v1์ ๋ณด๊ดํ๊ณ , ์์ฒญ์ model ํ๋๋ก ์ฌ์ฉ ๊ฐ๋ฅํ GPT, Claude, Gemini ๋๋ ๊ธฐํ ์ฑํ
๋ชจ๋ธ์ ์ ํํฉ๋๋ค.ย
์ด ํํ ๋ฆฌ์ผ์ ์๋ฒ ์ธก ๋ชจ๋ธ ํ์ฉ ๋ชฉ๋ก, ์คํธ๋ฆฌ๋ฐ Route Handler, ๋ธ๋ผ์ฐ์ ๋ชจ๋ธ ์ ํ๊ธฐ, ๋ณดํธ๋ ํ๊ฒฝ ๋ณ์, ์์ ํ ์ฑํ
์ธํฐํ์ด์ค, ๋ฐฐํฌ ๊ฐ์ด๋๋ฅผ ๊ฐ์ถ ์๋ํ๋ App Router ํ๋ก์ ํธ๋ฅผ ๊ตฌ์ถํฉ๋๋ค. CometAPI ํค๋ ๋ธ๋ผ์ฐ์ ๋ก ์ ๋ฌ๋์ง ์์ต๋๋ค.
๋ฉํฐ ๋ชจ๋ธ AI ์ฑํ
์ฑ์ด๋?
๋ฉํฐ ๋ชจ๋ธ AI ์ฑํ
์ํคํ
์ฒ๋ ์ฌ์ฉ์ ์ธํฐํ์ด์ค์ ์ฌ๋ฌ ๋ชจ๋ธ ์ ๊ณต์ ์ฌ์ด์ ์ ํ๋ฆฌ์ผ์ด์
์ด ์ ์ดํ๋ ๋จ์ผ ๋ฐฑ์๋๋ฅผ ๋ก๋๋ค. ์ด ํ๋ก์ ํธ์์ ๋ธ๋ผ์ฐ์ ๋ ๋ํ๋ฅผ /api/chat์ผ๋ก ์ ์กํ๊ณ , ์๋ฒ๋ CometAPI ์๊ฒฉ ์ฆ๋ช
์ ๋น๊ณต๊ฐ๋ก ์ ์งํ ์ฑ ์์ฒญ๋ ๋ชจ๋ธ ID๋ฅผ ๊ฒ์ฆํ๊ณ , ํธํ API๋ฅผ ํตํด ์์ฒญ์ ์ ๋ฌํฉ๋๋ค.
์ต์ข
์
๋ฐ์ดํธ Sep 3, 2026 ๋ช
ํ์ฑ, ์ถ์ฒ ํ๊ธฐ ๋ฐ ์ต์ API ์ฉ์ด์ ๋ํด ๊ฒํ ๋์์ต๋๋ค.
Next.js์ CometAPI๋ก ๋ฉํฐ ๋ชจ๋ธ AI ์ฑํ
์ฑ์ ๊ตฌ์ถํ๋ ๋ฐฉ๋ฒ - CometAPINext.js์์ ๋ชจ๋ธ ์ ํ์ ์ด๋ป๊ฒ ๋์ํ๋์?
๋ชจ๋ธ ๋ณ๊ฒฝ์ ๋ผ์ฐํ
๊ฒฐ์ ์
๋๋ค. ๋ธ๋ผ์ฐ์ ๋ ์น์ธ๋ ๋ชจ๋ธ ID๋ฅผ ๋ํ์ ํจ๊ป /api/chat์ผ๋ก ๋ณด๋
๋๋ค. Route Handler๋ CometAPI ์๊ฒฉ ์ฆ๋ช
์ ์ถ๊ฐํ๊ณ POST /v1/chat/completions๋ฅผ ํธ์ถํ์ฌ ์ ํ๋ ๋ชจ๋ธ์ ์๋ต์ ์คํธ๋ฆผ์ผ๋ก ๋ธ๋ผ์ฐ์ ์ ๋ฐํํฉ๋๋ค.
๊ณต์ ๋ ์๋ํฌ์ธํธ๊ฐ ๋ชจ๋ ๋ชจ๋ธ์ ๋์ผํ๊ฒ ๋ง๋ค์ง๋ ์์ต๋๋ค. ์ถ๋ ฅ ์คํ์ผ, ๋๊ตฌ ๋์, ์ง์ ํ๋ผ๋ฏธํฐ, ์ปจํ
์คํธ ํ๋, ๊ฐ๊ฒฉ์ด ๋ค๋ฅผ ์ ์์ต๋๋ค. ๋ชจ๋ธ ID๋ ์๋ฒ ์ธก ํ์ฉ ๋ชฉ๋ก์ ์ ์งํ๊ณ , ์ฌ์ฉ์์๊ฒ ๊ณต๊ฐํ๊ธฐ ์ ์ ๋์ผํ ์ ํ๋ฆฌ์ผ์ด์
ํ๋กฌํํธ๋ก ๊ฐ ๊ฒฝ๋ก๋ฅผ ํ
์คํธํ์ธ์.
๋ฌด์์ ๋ง๋ค๊ฒ ๋๋์
์์ฑ๋ ์ ํ๋ฆฌ์ผ์ด์
์ ํ๋์ Next.js ๋ฐฑ์๋์ ์ ํ ๊ฐ๋ฅํ ์ธ ๊ฐ์ง ์ฑํ
๋ผ์ฐํธ๋ฅผ ์ ๊ณตํฉ๋๋ค:
|
| gemini-3.7-flash | ๋น์ฉ์ ๋ฏผ๊ฐํ ๋๋ ์ฑํ
| $0.60 input / $3.00 output |
| claude-opus-5 | ์ง์ค๋ ํ๋ฆฌ๋ฏธ์ ์ถ๋ก | $4 input / $20 output |
| gpt-5.6 | gpt-5.6์ GPT-5.6์ฉ ์ผ๋ฐ CometAPI ๋ผ์ฐํธ์ด๋ฉฐ ํ์ฌ Sol ํฐ์ด์ ๋งคํ๋ฉ๋๋ค. | $3.2 input / $16 output in the short-context tier |
๊ฐ๊ฒฉ ์๋ด: ์๋ ๊ฐ๊ฒฉ์ 100๋ง ํ ํฐ๋น USD ๊ธฐ์ค์ด๋ฉฐ 2026๋
8์ 21์ผ์ ํ์ธ๋์๊ณ ๋ณ๊ฒฝ๋ ์ ์์ต๋๋ค. ํ๋ก๋์
์ฌ์ฉ ์ ์๋ ํญ์ ๋ชจ๋ธ ํ์ด์ง์ ์ต์ ์์จ์ ํ์ธํ์ธ์. ์ด ํ๋ ๋ผ์ฐํ
์์์ผ ๋ฟ, ํ์ง ์์๊ฐ ์๋๋๋ค. GPT-5.6์ 272,000 ํ ํฐ์ ์ด๊ณผํ๋ฉด ๋ ๋์ ๊ฐ๊ฒฉ ํฐ์ด๋ฅผ ์ฌ์ฉํฉ๋๋ค. ์ฌ๊ธฐ ์ฌ์ฉ๋ ๋ ์ง ๊ธฐ์ค ์์จ์ ์ฐ๊ฒฐ๋ Gemini 3.7 Flash, Claude Opus 5, GPT-5.6 ๋ชจ๋ธ ํ์ด์ง๋ฅผ ์ฐธ๊ณ ํ์ธ์.
CometAPI๋ ๊ฐ ์ ๊ณต์์ ๊ณต์ API๋ฅผ ๊ธฐ์ค์ผ๋ก ๋ชจ๋ธ ๊ฐ๊ฒฉ์ ํฌ๋ช
ํ๊ฒ ์ฑ
์ ํฉ๋๋ค. OpenAI, Claude, Gemini ๋ฑ ํตํฉ๋ ๊ณต์ ๊ฐ๊ฒฉ์ด ์๋ ๋ชจ๋ธ์ ๊ณต์ ๊ฐ๊ฒฉ ๋๋น 0.8:1 ๋น์จ๋ก ํ ํฐ๋น ๊ณผ๊ธ๋๋ฉฐ, 20% ํ ์ธ๋ฉ๋๋ค. ๊ณต์ API๊ฐ ์๋ ๋ชจ๋ธ(MidJourney, Kling, Luma ๋ฑ)์ CometAPI๊ฐ ์ค์ ํ ํธ์ถ๋น ์์จ๋ก ์ฒญ๊ตฌ๋๋ฉฐ, ์ด ๋ํ 20% ํ ์ธ๋ฉ๋๋ค. ๊ฐ์ฐ ๋ฐฉ์, ๋ชจ๋ธ๋ณ ์์จ, ๊ณผ๊ธ ๋จ์๋ CometAPI Pricing Guide๋ฅผ ์ฐธ์กฐํ์ธ์.
์ธ ๊ฐ์ง ๋ผ์ฐํธ๋ ์๋ก ๋ค๋ฅธ ํธ๋ ์ด๋์คํ๋ฅผ ๋ค๋ฃน๋๋ค. Gemini 3.7 Flash๋ Google์ ํจ์จ์ ์ธ ์์ด์ ํฑ ์ํฌํธ์ค๋ก, ๋ฉํฐ๋ชจ๋ฌ ์
๋ ฅ๊ณผ 1,048,576-ํ ํฐ ์ปจํ
์คํธ ์๋์ฐ๋ฅผ ํตํด ๋๋ ์ฑํ
, ์ฝ๋ฉ, ์ง์ ์ํฌํ๋ก์ฐ์ ์ ํฉํฉ๋๋ค. Claude Opus 5๋ Anthropic์ ํ๋ฐํฐ์ด ์ถ๋ก ๋ชจ๋ธ๋ก, ๋ค๋จ๊ณ ๋ถ์, ์ฝ๋, ์ ์คํ ์ฅ๋ฌธ ์์ฑ์ ๊ฐํ์ง๋ง ํ๋ฆฌ๋ฏธ์ ๊ฐ๊ฒฉ์ ๊ฐ์ต๋๋ค. GPT-5.6์ OpenAI์ ๋ฒ์ฉ ๋ชจ๋ธ๋ก, ๋์ ์ปจํ
์คํธ ์๋์ฐ์์ ์ผ์์ ์ธ ํ๋ก๋์
ํธ๋ํฝ์ ์ํ ์ถ๋ก , ๋๊ตฌ ์ฌ์ฉ, ์์ฑ ๊ท ํ์ ์ ๊ณตํฉ๋๋ค.
์์ ์ ์
Node.js, npm, CometAPI ๊ณ์ , CometAPI Quick Start์์ ๋ฐ๊ธํ ์๋ฒ ์ธก API ํค๊ฐ ํ์ํฉ๋๋ค. ์์ ์ธ ๊ฐ์ง ์ ํํ ๋ชจ๋ธ ID๋ 2026๋
8์ 21์ผ ๋ผ์ด๋ธ ์นดํ๋ก๊ทธ์์ ์ ๊ณต๋์๊ณ , ์์ ์ํ๊ฐ ์๋์์ผ๋ฉฐ POST /v1/chat/completions๋ฅผ ๋
ธ์ถํ์ต๋๋ค.
์ด ํํ ๋ฆฌ์ผ์ ๋ค์์ ๊ณตํต ์ค์ ์ ์ฌ์ฉํฉ๋๋ค:
1๋จ๊ณ: Next.js ์ฑ ์์ฑ
npx create-next-app@latest multi-model-chat --ts --app --eslintcd multi-model-chatnpm run dev
์ด ๋ฒ์ ์๋ ๋ชจ๋ธ ์ ๊ณต์ SDK๊ฐ ํ์ ์์ต๋๋ค. ์๋ฒ๋ ๋ด์ฅ fetch API๋ฅผ ์ฌ์ฉํ์ฌ ์
์คํธ๋ฆผ Server-Sent Events ์คํธ๋ฆผ์ ์ ๋ฌํฉ๋๋ค.
ํ๋ก์ ํธ ๋ฃจํธ์ .env.local์ ์์ฑํ์ธ์:
COMETAPI_API_KEY=replace_with_your_cometapi_keyCOMETAPI_BASE_URL=https://api.cometapi.com/v1
ํค์ NEXT_PUBLIC_ ์ ๋์ฌ๋ฅผ ๋ถ์ด์ง ๋ง์ธ์. Next.js๋ ํด๋น ์ ๋์ฌ๊ฐ ์๋ ๋ณ์๋ง ๋ธ๋ผ์ฐ์ ๋ฒ๋ค์ ๋
ธ์ถํฉ๋๋ค. API ํค๋ ์๋ฒ ์ธก Route Handler์ ์์ด์ผ ํฉ๋๋ค.
3๋จ๊ณ: ๋ชจ๋ธ ์ ์ฑ
์ ์
ํ์ฉ๋ ID๋ฅผ ๋๋กญ๋ค์ด์๋ง ๋์ง ๋ง๊ณ ๋ฐฑ์๋์ ๋์ธ์. ์ฌ์ฉ์๋ ๋ธ๋ผ์ฐ์ ์ ์ด๋ฅผ ์ฐํํด ๋ผ์ฐํธ๋ฅผ ์ง์ ํธ์ถํ ์ ์์ผ๋ฏ๋ก, ์๋ฒ๊ฐ ์ ์ ์๋ ๋ชจ๋ธ ๊ฐ์ ๊ฑฐ๋ถํด์ผ ํฉ๋๋ค.
const ALLOWED_MODELS = [ ย "gemini-3.7-flash", ย "claude-opus-5", ย "gpt-5.6",] as const;โtype ModelId = (typeof ALLOWED_MODELS)[number];
ํด๋ผ์ด์ธํธ๋ ๋์ผํ ์ธ ๊ฐ์ง ID๋ฅผ ์ ํ๊ธฐ์ ์ฌ์ฉํ์ง๋ง, ์๋ฒ๊ฐ ๋จ์ผ ์ง์ค ๊ณต๊ธ์์ผ๋ก ๋จ์ต๋๋ค.
app/api/chat/route.ts๋ฅผ ์์ฑํ์ธ์. ์ด ๋ผ์ฐํธ๋ ํ
์คํธ ์ ์ฉ ์ฑํ
ํ์ด๋ก๋๋ฅผ ๊ฒ์ฆํ๊ณ , stream: true๋ก CometAPI๋ฅผ ํธ์ถํ๋ฉฐ, ์๊ฒฉ ์ฆ๋ช
์ ๋
ธ์ถํ์ง ์๊ณ ์
์คํธ๋ฆผ ์ด๋ฒคํธ ์คํธ๋ฆผ์ ๋ฐํํฉ๋๋ค.
export const runtime = "nodejs";export const dynamic = "force-dynamic";โconst ALLOWED_MODELS = [ ย "gemini-3.7-flash", ย "claude-opus-5", ย "gpt-5.6",] as const;โtype ModelId = (typeof ALLOWED_MODELS)[number];type ChatMessage = { ย role: "system" | "user" | "assistant"; ย content: string;};โfunction isModelId(value: unknown): value is ModelId { ย return ( ย ย typeof value === "string" && ย (ALLOWED_MODELS as readonly string[]).includes(value) );}โfunction isChatMessage(value: unknown): value is ChatMessage { ย if (typeof value !== "object" || value === null) return false;โ ย const message = value as Record<string, unknown>; ย return ( ย ["system", "user", "assistant"].includes(String(message.role)) && ย ย typeof message.content === "string" && ย ย message.content.length > 0 && ย ย message.content.length <= 20_000 );}โexport async function POST(request: Request) { ย const apiKey = process.env.COMETAPI_API_KEY; ย const baseUrl = ( ย ย process.env.COMETAPI_BASE_URL || "https://api.cometapi.com/v1" ).replace(/\/$/, "");โ ย if (!apiKey) { ย ย return Response.json( ย ย { error: "COMETAPI_API_KEY is not configured." }, ย ย { status: 500 }, ย ); }โ ย let payload: { model?: unknown; messages?: unknown };โ ย try { ย ย payload = await request.json(); } catch { ย ย return Response.json({ error: "Invalid JSON body." }, { status: 400 }); }โ ย if (!isModelId(payload.model)) { ย ย return Response.json({ error: "Unsupported model ID." }, { status: 400 }); }โ ย if ( ย ย !Array.isArray(payload.messages) || ย ย payload.messages.length === 0 || ย ย payload.messages.length > 50 || ย ย !payload.messages.every(isChatMessage) ) { ย ย return Response.json( ย ย { error: "messages must contain 1 to 50 valid text messages." }, ย ย { status: 400 }, ย ); }โ ย const upstream = await fetch(`${baseUrl}/chat/completions`, { ย ย method: "POST", ย ย headers: { ย ย ย Authorization: `Bearer ${apiKey}`, ย ย ย "Content-Type": "application/json", ย }, ย ย body: JSON.stringify({ ย ย ย model: payload.model, ย ย ย messages: payload.messages, ย ย ย stream: true, ย }), ย ย cache: "no-store", ย ย signal: request.signal, });โ ย if (!upstream.ok) { ย ย const requestId = upstream.headers.get("x-request-id");โ ย ย console.error("CometAPI request failed", { ย ย ย status: upstream.status, ย ย ย requestId, ย });โ ย ย return Response.json( ย ย { ย ย ย ย error: "The selected model request failed.", ย ย ย ย status: upstream.status, ย ย ย ย requestId, ย ย }, ย ย { status: upstream.status }, ย ); }โ ย if (!upstream.body) { ย ย return Response.json( ย ย { error: "The model returned no response body." }, ย ย { status: 502 }, ย ); }โ ย return new Response(upstream.body, { ย ย status: 200, ย ย headers: { ย ย ย "Content-Type": "text/event-stream; charset=utf-8", ย ย ย "Cache-Control": "no-cache, no-transform", ย }, });}
ํธ๋ค๋ฌ๋ ๋ธ๋ผ์ฐ์ ์ ์ฐ๊ฒฐ ํด์ ์ ํธ๋ฅผ ์
์คํธ๋ฆผ์ผ๋ก ์ ๋ฌํ๋ฏ๋ก, ์์ฒญ์ ๋ซ์ผ๋ฉด ๋ถํ์ํ ์์ฑ์ ์ค๋จํ ์ ์์ต๋๋ค. ๋ํ ์๋ฒ ๋ก๊ทธ์ ์ง๋จ ์ธ๋ถ ์ ๋ณด๋ฅผ ๋ณด๊ดํ๋ฉด์ ํด๋ผ์ด์ธํธ์๋ ์ ์ ๋ ์ค๋ฅ๋ฅผ ๋ฐํํฉ๋๋ค.
5๋จ๊ณ: ๋ชจ๋ธ ์ ํ๊ณผ ์คํธ๋ฆผ ํ์ฑ ์ถ๊ฐ
app/page.tsx์ ํด๋ผ์ด์ธํธ ์ปดํฌ๋ํธ๋ฅผ ์์ฑํ์ธ์. ์ ํ๋ ๋ชจ๋ธ์ ๋ํ์ ํจ๊ป ์ ์กํ๊ณ , ๊ฐ data: ์ด๋ฒคํธ๋ฅผ ํ์ฑํ์ฌ delta.content์ ์ฆ๋ถ ํ
์คํธ๋ฅผ ๋ง์ง๋ง assistant ๋ฉ์์ง์ ์ถ๊ฐํฉ๋๋ค.
๋ธ๋ผ์ฐ์ ๋ CometAPI๋ฅผ ์ง์ ํธ์ถํ์ง ์์ต๋๋ค. ์ค์ง ์๋ฒ์ /api/chat ๋ผ์ฐํธ๋ง ํธ์ถํ๋ฉฐ, ์ด ๋ผ์ฐํธ๊ฐ ํค๋ฅผ ๋น๊ณต๊ฐ๋ก ์ ์งํ๊ณ ํ์ฉ ๋ชฉ๋ก์ ๊ฐ์ ํฉ๋๋ค.
ํต์ฌ ํ๋ก์ ํธ ์ฝ๋
์์ Route Handler๋ ์ ์ฒด app/api/chat/route.ts ํ์ผ์
๋๋ค. ๋ค์์ ํ์ด์ง, ๋ ์ด์์, ์คํ์ผ์ํธ๋ฅผ ์ถ๊ฐํ๋ฉด ์คํ ๊ฐ๋ฅํ ํ๋ก์ ํธ๊ฐ ์์ฑ๋ฉ๋๋ค.
"use client";โimport { FormEvent, useState } from "react";โconst MODEL_OPTIONS = [ { id: "gemini-3.7-flash", label: "Gemini 3.7 Flash" }, { id: "claude-opus-5", label: "Claude Opus 5" }, { id: "gpt-5.6", label: "GPT-5.6" },] as const;โtype Role = "user" | "assistant";type Message = { role: Role; content: string };โfunction textFromSseLine(line: string): string { ย const trimmed = line.trim(); ย if (!trimmed.startsWith("data:")) return "";โ ย const data = trimmed.slice(5).trim(); ย if (!data || data === "[DONE]") return "";โ ย try { ย ย const event = JSON.parse(data); ย ย return event.choices?.[0]?.delta?.content ?? ""; } catch { ย ย return ""; }}โexport default function Home() { ย const [model, setModel] = useState("gemini-3.7-flash"); ย const [messages, setMessages] = useState<Message[]>([]); ย const [input, setInput] = useState(""); ย const [loading, setLoading] = useState(false); ย const [error, setError] = useState("");โ ย function appendAssistantText(text: string) { ย ย if (!text) return;โ ย ย setMessages((current) => { ย ย ย const next = [...current]; ย ย ย const lastIndex = next.length - 1;โ ย ย ย if (lastIndex >= 0 && next[lastIndex].role === "assistant") { ย ย ย ย next[lastIndex] = { ย ย ย ย ย ...next[lastIndex], ย ย ย ย ย content: next[lastIndex].content + text, ย ย ย }; ย ย }โ ย ย ย return next; ย }); }โ ย async function sendMessage(event: FormEvent<HTMLFormElement>) { ย ย event.preventDefault();โ ย ย const content = input.trim(); ย ย if (!content || loading) return;โ ย ย const outgoing: Message[] = [...messages, { role: "user", content }]; ย ย setMessages([...outgoing, { role: "assistant", content: "" }]); ย ย setInput(""); ย ย setError(""); ย ย setLoading(true);โ ย ย try { ย ย ย const response = await fetch("/api/chat", { ย ย ย ย method: "POST", ย ย ย ย headers: { "Content-Type": "application/json" }, ย ย ย ย body: JSON.stringify({ model, messages: outgoing }), ย ย });โ ย ย ย if (!response.ok) { ย ย ย ย const body = await response.json().catch(() => ({})); ย ย ย ย throw new Error(body.error || `Request failed with ${response.status}`); ย ย }โ ย ย ย if (!response.body) throw new Error("Streaming is not available.");โ ย ย ย const reader = response.body.getReader(); ย ย ย const decoder = new TextDecoder(); ย ย ย let buffer = "";โ ย ย ย while (true) { ย ย ย ย const { value, done } = await reader.read(); ย ย ย ย buffer += decoder.decode(value, { stream: !done });โ ย ย ย ย const lines = buffer.split("\n"); ย ย ย ย buffer = lines.pop() ?? "";โ ย ย ย ย for (const line of lines) { ย ย ย ย ย appendAssistantText(textFromSseLine(line)); ย ย ย }โ ย ย ย ย if (done) { ย ย ย ย ย appendAssistantText(textFromSseLine(buffer)); ย ย ย ย ย break; ย ย ย } ย ย } ย } catch (requestError) { ย ย ย setError( ย ย ย ย requestError instanceof Error ? requestError.message : "Request failed.", ย ย ); ย } finally { ย ย ย setLoading(false); ย } }โ ย return ( ย ย <main className="shell"> ย ย ย <section className="chat"> ย ย ย ย <header> ย ย ย ย ย <p className="eyebrow">Next.js + CometAPI</p> ย ย ย ย ย <h1>Multi-model chat</h1> ย ย ย ย ย <label> ย ย ย ย ย Model ย ย ย ย ย ย <select ย ย ย ย ย ย ย value={model} ย ย ย ย ย ย ย onChange={(event) => setModel(event.target.value)} ย ย ย ย ย ย ย disabled={loading} ย ย ย ย ย ย > ย ย ย ย ย ย {MODEL_OPTIONS.map((option) => ( ย ย ย ย ย ย ย ย <option key={option.id} value={option.id}> ย ย ย ย ย ย ย ย {option.label} ย ย ย ย ย ย ย ย </option> ย ย ย ย ย ย ))} ย ย ย ย ย ย </select> ย ย ย ย ย </label> ย ย ย ย </header>โ ย ย ย ย <div className="messages" aria-live="polite"> ย ย ย ย {messages.length === 0 ? ( ย ย ย ย ย ย <p className="empty">Choose a model and send a message.</p> ย ย ย ย ) : ( ย ย ย ย ย ย messages.map((message, index) => ( ย ย ย ย ย ย ย <article className={message.role} key={`${message.role}-${index}`}> ย ย ย ย ย ย ย ย <b>{message.role === "user" ? "You" : "Assistant"}</b> ย ย ย ย ย ย ย ย <p>{message.content || "โฆ"}</p> ย ย ย ย ย ย ย </article> ย ย ย ย ย )) ย ย ย ย )} ย ย ย ย </div>โ ย ย ย ย <form onSubmit={sendMessage}> ย ย ย ย ย <textarea ย ย ย ย ย ย value={input} ย ย ย ย ย ย onChange={(event) => setInput(event.target.value)} ย ย ย ย ย ย placeholder="Ask somethingโฆ" ย ย ย ย ย ย rows={3} ย ย ย ย ย ย maxLength={20_000} ย ย ย ย ย /> ย ย ย ย ย <button disabled={loading || !input.trim()} type="submit"> ย ย ย ย ย {loading ? "Streamingโฆ" : "Send"} ย ย ย ย ย </button> ย ย ย ย </form>โ ย ย ย {error ? <p className="error">{error}</p> : null} ย ย ย </section> ย ย </main> );}
import type { Metadata } from "next";import "./globals.css";โexport const metadata: Metadata = { ย title: "Multi-Model Chat", ย description: "A streaming Next.js chat app powered by CometAPI.",};โexport default function RootLayout({ ย children,}: Readonly<{ children: React.ReactNode }>) { ย return ( ย ย <html lang="en"> ย ย ย <body>{children}</body> ย ย </html> );}
:root { ย color-scheme: dark; ย font-family: Arial, sans-serif; ย background: #07111f; ย color: #eef4ff;}* { box-sizing: border-box; }body { margin: 0; }button, select, textarea { font: inherit; }โ/* Layout shell and chat card */.shell { min-height: 100vh; display: grid; place-items: center; padding: 32px 16px; }.chat { width: min(820px, 100%); background: #0d1b2e; border: 1px solid #223957; border-radius: 20px; padding: 24px; }โ/* Message list and bubbles */.messages { min-height: 360px; display: grid; align-content: start; gap: 12px; margin: 24px 0; }.messages article { max-width: 85%; padding: 12px 14px; border-radius: 14px; white-space: pre-wrap; }.user { justify-self: end; background: #164f8f; }.assistant { justify-self: start; background: #182a42; }โ/* Form controls, buttons, and error states follow the same dark theme. */
6๋จ๊ณ: ์ฑ ์คํ ๋ฐ ๋ฐฐํฌ
http://localhost:3000์ ์ด๊ณ ๋ชจ๋ธ์ ์ ํํ ๋ค ๋ฉ์์ง๋ฅผ ๋ณด๋ด์ธ์. ํ๋ก๋์
Node.js ๋ฐฐํฌ์์๋ ํธ์คํธ์ ์๋ฒ ์ธก ํ๊ฒฝ ์ค์ ์ COMETAPI_API_KEY์ COMETAPI_BASE_URL์ ์ถ๊ฐํ ๋ค์ ๋ค์์ ์คํํฉ๋๋ค:
npm run buildnpm run start
์คํธ๋ฆฌ๋ฐ ์๋ต์ ์ง์ํ๋ ํธ์คํ
๊ฒฝ๋ก๋ฅผ ์ฌ์ฉํ์ธ์. ์ ์ ๋ด๋ณด๋ด๊ธฐ๋ก๋ /api/chat Route Handler๋ฅผ ์คํํ ์ ์์ต๋๋ค.
์คํธ๋ฆฌ๋ฐ ๋ผ์ฐํธ ํ
์คํธ
๊ฐ๋ฐ ์๋ฒ๊ฐ ์คํ ์ค์ผ ๋, ๋ฐฑ์๋๋ฅผ ์ง์ ํธ์ถํ์ธ์:
curl -N http://localhost:3000/api/chat \ ย -H "Content-Type: application/json" \ ย -d '{ ย ย "model": "gemini-3.7-flash", ย ย "messages": [ ย ย {"role": "user", "content": "Explain model routing in two sentences."} ย ] }'
์ฑ๊ณตํ ์์ฒญ์ Server-Sent Events๋ฅผ ๋ฐํํฉ๋๋ค. ์ ํํ ID์ ํ
์คํธ๋ ๋ฌ๋ผ์ง ์ ์์ง๋ง, ์คํธ๋ฆผ์ ๋ค์๊ณผ ๊ฐ์ ํํ๋ฅผ ๋ฐ๋ฆ
๋๋ค:
data: {"choices":[{"delta":{"content":"Model"}}]}โdata: {"choices":[{"delta":{"content":" routing"}}]}โdata: [DONE]
๋ธ๋ผ์ฐ์ ํ์๋ ๊ฐ SSE ์ด๋ฒคํธ๋ฅผ ์ฝ๊ณ choices[0].delta.content๋ฅผ ์ถ์ถํ์ฌ ๋์ฐฉํ๋ ์ฒญํฌ๋ง๋ค assistant ๋ฉ์์ง์ ์คํธ๋ฆฌ๋ฐ ํ
์คํธ๋ฅผ ์ถ๊ฐํฉ๋๋ค.
์ผ๋ฐ์ ์ธ ํตํฉ ์ค๋ฅ
|
| 401 authentication error | ์๋ฒ ์ธก ํค๊ฐ ์๊ฑฐ๋ ์ ํจํ์ง ์์ | COMETAPI_API_KEY๋ฅผ ์ค์ ํ๊ณ , NEXT_PUBLIC_๋ก ๋
ธ์ถํ์ง ๋ง์ธ์. |
| 404 or wrong route | ๊ธฐ๋ณธ URL์ /v1 ๋๋ฝ | https://api.cometapi.com/v1 ๋ฅผ ์ฌ์ฉํ์ธ์. |
| 400 unsupported model | ๋ฐฑ์๋ ํ์ฉ ๋ชฉ๋ก์ ์๋ ID | ์ ํํ ๋ผ์ด๋ธ ํ
์คํธ ๋ชจ๋ธ ID๋ฅผ ์ฌ์ฉํ๊ณ ์์ชฝ ์ ํ๊ธฐ๋ฅผ ์
๋ฐ์ดํธํ์ธ์. |
| The answer appears all at once | ํธ์คํธ ๋๋ ํ๋ก์๊ฐ ์ด๋ฒคํธ ์คํธ๋ฆผ์ ๋ฒํผ๋ง | ์๋ต ๋ณํ์ ๋นํ์ฑํํ๊ณ ์คํธ๋ฆฌ๋ฐ์ ์ง์ํ๋ Node.js ๋ฐฐํฌ๋ฅผ ์ฌ์ฉํ์ธ์. |
ํ๋ก๋์
์ค๋น๋ฅผ ์ํ ์ฑํ
๋ฐฑ์๋ ๊ตฌ์ฑ
- ์์ฒด ์ฌ์ฉ์ ์ธ์ฆ์ ์ํํ์ธ์. ์ต๋ช
ํธ๋ํฝ์ ๋น์ฉ์ ์๋ชจํ๋ ๊ณต๊ฐ ๋ผ์ฐํธ๋ฅผ ๋
ธ์ถํ์ง ๋ง์ธ์.
- ์ฌ์ฉ์์ IP ๊ธฐ์ค์ผ๋ก ๋ ์ดํธ ๋ฆฌ๋ฏธํธ๋ฅผ ์ ์ฉํ์ธ์. ๋์ ์คํธ๋ฆผ ์, ๋ถ๋น ์์ฒญ ์, ๋ฉ์์ง ์, ๋ฉ์์ง ๊ธธ์ด๋ฅผ ์ ํํ์ธ์.
- ๋ชจ๋ธ ํ์ฉ ๋ชฉ๋ก์ ์๋ฒ ์ธก์ ์ ์งํ์ธ์. ๋ธ๋ผ์ฐ์ ์ ํ๊ธฐ๋ ํธ์์ผ ๋ฟ, ๋ณด์ ๊ฒฝ๊ณ๊ฐ ์๋๋๋ค.
- ๋ฐฐํฌ ์ค ๋ผ์ด๋ธ ์นดํ๋ก๊ทธ๋ฅผ ๊ฒ์ฆํ์ธ์.
GET https://api.cometapi.com/api/models๋ฅผ ์กฐํํ๊ณ , ๊ตฌ์ฑ๋ ID๊ฐ ์์ ์ํ์ด๊ฑฐ๋, ์ฌ์ฉ ๋ถ๊ฐ์ด๊ฑฐ๋, chat-completions ์๋ํฌ์ธํธ๊ฐ ์์ผ๋ฉด ๋ฆด๋ฆฌ์ค๋ฅผ ์คํจ ์ฒ๋ฆฌํ์ธ์.
- ๋ผ์ฐํธ๋ณ ๋น์ฉ์ ์ถ์ ํ์ธ์. ์ ํ๋ ๋ชจ๋ธ, ์์ฒญ ID, ์ง์ฐ ์๊ฐ, ํ ํฐ ์ฌ์ฉ๋, ์ฌ์ฉ์ ID๋ฅผ ๋ก๊น
ํ์ธ์. ํ์ ์ CometAPI ๋์๋ณด๋์์ ํค ์ฟผํฐ๋ ์ง์ถ ์ํ์ ์ค์ ํ์ธ์.
- ์ฐ๊ฒฐ ํด์ ์ ํ์์์์ ์ฒ๋ฆฌํ์ธ์.
request.signal์ ๋ณด์กดํ๊ณ ์ ํ๋ฆฌ์ผ์ด์
ํ์์์์ ์ค์ ํ๋ฉฐ, ํด๋ผ์ด์ธํธ๊ฐ ๋ ๋๋ฉด ์์
์ ์ค๋จํ์ธ์.
- ํด๋ฐฑ์ผ๋ก ๊ตฌ์ฑ ์ค๋ฅ๋ฅผ ์จ๊ธฐ์ง ๋ง์ธ์. 400๊ณผ 401 ์๋ต์ ๋
ธ์ถํ์ธ์. ์์ฒญ ์คํค๋ง๊ฐ ํธํ๋๋ ๊ฒฝ์ฐ์ ํํด, ์ฌ์๋ ๊ฐ๋ฅํ ์ผ๋ถ ์คํจ์๋ง ๋ค๋ฅธ ๋ชจ๋ธ์ ์ฌ์ฉํ์ธ์. ๋ ๋จ๊ณ ํด๋ฐฑ ์ฒด์ธ์ CometAPI Model Fallback Guide๋ฅผ ์ฐธ๊ณ ํ์ธ์(CometAPI ๊ธฐ๋ณธ โ CometAPI ํด๋ฐฑ ๋ชจ๋ธ โ ๊ณต์ ์ ๊ณต์).
- ๋ก๊ทธ๋ฅผ ๋ง์คํนํ์ธ์. API ํค, ์ ์ฒด ํ๋กฌํํธ, ๋ฏผ๊ฐํ ๋ชจ๋ธ ์ถ๋ ฅ์ ํ๋ก๋์
์ค๋ฅ ๋ก๊ทธ์ ๋จ๊ธฐ์ง ๋ง์ธ์.
ํ๋์ Next.js ๋ฐฑ์๋, ์ฌ๋ฌ ๋ชจ๋ธ ์ ํ
๋ชจ๋ธ ์ ํ์ ๋ณ๋์ ์ ๊ณต์ ๊ณ์ ์ด ์๋๋ผ ์๋ฒ ์ ์ฑ
์ ์ํฉ๋๋ค. Next.js Route Handler๋ ํ๋์ CometAPI ํค๋ฅผ ๋น๊ณต๊ฐ๋ก ์ ์งํ๋ฉด์ ์์ฒญ๋ง๋ค ์น์ธ๋ ๋ชจ๋ธ ID๋ฅผ ๋ฐ์, ํ๋์ OpenAI ํธํ ์๋ํฌ์ธํธ๋ฅผ ํตํด ์ ํ๋ ๋ชจ๋ธ์ ์คํธ๋ฆฌ๋ฐํ ์ ์์ต๋๋ค. ํ๋ฐํธ์๋๋ ๋จ์ํ๊ฒ ์ ์ง๋๊ณ , ๋ฐฑ์๋๋ ์ ๊ทผ, ๊ฒ์ฆ, ๊ฐ์์ฑ, ๋น์ฉ์ ์ ์ดํฉ๋๋ค. ๋์ผํ ๊ณ์ ๊ณผ ํค๋ก CometAPI์ ๋ค์ดํฐ๋ธ ์ด๋ฏธ์ง ๋ฐ ๋น๋์ค API(์: ์ด๋ฏธ์ง ์์ฑ์ ์ํ Flux, ๋น๋์ค ์์ฑ์ ์ํ Kling)์๋ ์ ๊ทผํ ์ ์์ผ๋ฏ๋ก, ์ด ์ฑํ
๋ฐฑ์๋๋ ๋ ๋ฒ์งธ ํตํฉ ์์ด ๋ฉํฐ๋ชจ๋ฌ ์ํฌํ๋ก์ฐ๋ก ํ์ฅ๋ ์ ์์ต๋๋ค.
์์ฃผ ๋ฌป๋ ์ง๋ฌธ
ํ๋์ Next.js ์ฑ์์ ์ฌ๋ฌ AI ๋ชจ๋ธ์ ์ฌ์ฉํ ์ ์๋์?
๊ฐ๋ฅํฉ๋๋ค. ์๋ฒ ์ธก ๋จ์ผ ๋ผ์ฐํธ๋ฅผ ์ ์งํ๊ณ ๊ฐ ์์ฒญ์ ํ์ฉ ๋ชฉ๋ก์ ์๋ ๋ชจ๋ธ ID๋ฅผ ์ ๋ฌํ์ธ์. ๋ธ๋ผ์ฐ์ UI๋ ๋ชจ๋ธ ์ ํ์ ์ ๊ณตํ ์ ์๊ณ , ์๋ฒ๋ ์ด๋ค ID๊ฐ ํ์ฉ๋๋์ง ์ ์ดํฉ๋๋ค.
GPT, Claude, Gemini ๊ฐ ์ ํ์ ์ด๋ป๊ฒ ํ๋์?
์ ํํ ๋ชจ๋ธ ID๋ฅผ ์์ฒญ ๋ณธ๋ฌธ์ ๋ณด๋ด์ธ์. ์๋ฒ๊ฐ ํ์ฉ ๋ชฉ๋ก๊ณผ ๋์กฐํ์ฌ ๊ฒ์ฆํ๊ณ , ๋์ผํ ์ฑํ
ํ์ด๋ก๋๋ฅผ OpenAI ํธํ ์๋ํฌ์ธํธ๋ฅผ ํตํด ์ ํ๋ ๋ชจ๋ธ๋ก ์ ๋ฌํฉ๋๋ค.
COMETAPI_API_KEY์ ๊ฐ์ ์๋ฒ ์ธก ํ๊ฒฝ ๋ณ์์ ๋ณด๊ดํ์ธ์. NEXT_PUBLIC_ ๋ณ์๋ ํด๋ผ์ด์ธํธ ์ฝ๋๋ก ๋
ธ์ถํ์ง ๋ง์ธ์.
OpenAI ํธํ API๋ฉด ๋ชจ๋ ๋ชจ๋ธ์ด ์ํธ ๋์ฒด ๊ฐ๋ฅํ๊ฐ์?
์๋์. ์์ฒญ ํํ๋ ์ด์ ๊ฐ๋ฅํ์ง๋ง, ์ง์ ํ๋ผ๋ฏธํฐ, ์ปจํ
์คํธ ํ๋, ๋๊ตฌ ๋์, ์ถ๋ ฅ ์คํ์ผ, ์ง์ฐ ์๊ฐ, ๊ฐ๊ฒฉ์ ๋ชจ๋ธ๋ง๋ค ๋ค๋ฆ
๋๋ค. ํ์ฉ ๋ชฉ๋ก์ ๊ฐ ๋ชจ๋ธ์ ํ๋ก๋์
ํ๋กฌํํธ๋ก ํ
์คํธํ์ธ์.
Next.js Route Handler๊ฐ AI ์๋ต์ ์คํธ๋ฆฌ๋ฐํ ์ ์๋์?
์. ๋ฐฐํฌ ํ๋ซํผ๊ณผ ์๋จ์ ํ๋ก์๊ฐ ์๋ต์ ๋ฒํผ๋งํ์ง ์๋๋ค๋ฉด, Route Handler๋ text/event-stream ์ฝํ
์ธ ํ์
์ผ๋ก ์
์คํธ๋ฆผ Server-Sent Events ์คํธ๋ฆผ์ ๋ฐํํ ์ ์์ต๋๋ค.
์ด ์ฑ์ ์ ์ Next.js ์ฌ์ดํธ๋ก ๋ฐฐํฌํ ์ ์๋์?
๋ถ๊ฐ๋ฅํฉ๋๋ค. ์ ์ ๋ด๋ณด๋ด๊ธฐ๋ ์๋ฒ ์ธก /api/chat Route Handler๋ฅผ ์คํํ๊ฑฐ๋ API ํค๋ฅผ ๋ณดํธํ ์ ์์ต๋๋ค. ์คํธ๋ฆฌ๋ฐ ์๋ต์ ์ง์ํ๋ Node.js ๋๋ ํธํ ์๋ฒ ๋ฐํ์์ ์ฌ์ฉํ์ธ์.