Bir AI API geçidi seçmek iki yıl öncekiyle aynı sorun değil. 2024’te çoğu geliştirici ya doğrudan OpenAI’ı çağırıyor ya da yerelde LiteLLM’i ayağa kaldırıyordu. Artık fiyatlandırma panoları, anahtar başına kredi limitleri ve onlarca sağlayıcıyı kapsayan model kataloglarıyla barındırılan seçenekler var. Kategori yeterince genişledi; yanlış seçim yapmak, sonradan gerçek entegrasyon çalışmalarını geri almak anlamına gelebilir.
Bu makale, geliştirici tartışmalarında sıkça geçen dört geçidi karşılaştırıyor: CometAPI, Portkey, LiteLLM ve Cloudflare AI Gateway. Amaç bir kazanan seçmek değil — her biri farklı bir durumda mantıklı — her birinin gerçekte ne yaptığını ortaya koymak; böylece aracı kullanım senaryonuza eşleştirebilirsiniz.
Model adlarıyla ilgili not: Bu makalede kullanılan model tanımlayıcıları (ör.
gpt-5.4,claude-opus-4-7) CometAPI platform tanımlayıcılarıdır. OpenAI veya Anthropic’in resmi adları değildir; bu sağlayıcıların adlandırma yöntemleri farklıdır.
Bu Araçlar Aslında Ne Yapar
Özellikleri karşılaştırmadan önce, bir AI API geçidinin ne yaptığı konusunda net olmak faydalıdır. Asgari olarak: uygulamanız ile bir veya daha fazla AI sağlayıcısı arasında oturur, istekleri iletir ve yanıtları döndürür. Bunun ötesinde, geçitler belirgin şekilde farklılaşır.
Bazı geçitler — örneğin Cloudflare AI Gateway — öncelikle API anahtarınıza veya fiyatlandırmanıza dokunmadan günlükleme ve önbellekleme ekleyen bir aracı geçiş katmanıdır. CometAPI gibi diğerleri bir yeniden satıcı gibi davranır: siz onlara ödersiniz, onlar alttaki sağlayıcıya öder; fiyatlandırma farkı değer teklifinin parçasıdır. LiteLLM ise farklıdır — barındırılan bir hizmet değil, kendinizin çalıştırdığı bir yazılımdır.
Bu ayrımı anlamak, belirli bir özelliği değerlendirmeden önce önemlidir.
Özellik Karşılaştırması
Aşağıdaki tablo, Mayıs 2026 itibarıyla her ürünün resmi dokümantasyonundan veya herkese açık panosundan alınan bilgileri kullanır. Tire (—) ile işaretli özellikler, yazı tarihinde resmi kaynaklarda doğrulanmamıştır.
| Özellik | CometAPI | Portkey | LiteLLM | Cloudflare AI Gateway |
|---|---|---|---|---|
| Dağıtım | Barındırılan (SaaS) | Barındırılan + kendi barındırma | Kendi barındırılan (açık kaynak) | Barındırılan (Cloudflare edge) |
| Model kataloğu | Sağlayıcılar arasında 500+ model | Birleşik API ile 1.600+ LLM | Yapılandırmanıza bağlı | OpenAI, Anthropic, Workers AI |
| Fiyatlandırma modeli | Yeniden satıcı (ödemeyi CometAPI’ye yaparsınız) | Aracı geçiş + platform ücreti | Yalnızca altyapı maliyeti | Aracı geçiş (ücretsiz katman mevcut) |
| OpenAI uyumlu API | Evet (api.cometapi.com/v1) | Evet (api.portkey.ai/v1) | Evet (yerel veya uzaktan) | Evet (geçit URL’si üzerinden) |
| Anahtar başına kredi limitleri | Evet (pano) | Evet | Evet (yapılandırma ile) | — |
| Grup bazlı fiyatlandırma oranları | Evet (varsayılan 0.8x, dahili 0.1x) | — | — | — |
| İstek günlüğü | Evet (4 günlük türü) | Evet | Evet | Evet |
| Başarı oranı takibi | Evet (30 günlük çalışma süresi görünümü) | Evet | Evet | Evet |
| Ücretsiz katman | Evet (yeni hesaplar) | Evet | Açık kaynak (infra maliyeti) | Evet |
| Kendi barındırma seçeneği | Hayır (kurumsal: adanmış sunucu) | Evet | Evet (çekirdek kullanım senaryosu) | Hayır |
Kaynaklar: CometAPI panosu, Portkey ana sayfa, LiteLLM GitHub, Cloudflare AI Gateway dokümantasyonu
Her Geçit’e Bağlanma
Dört geçidin de OpenAI uyumlu bir uç noktası vardır; bu, hepsi için aynı istemci yapısının çalıştığı anlamına gelir — base_url, kimlik bilgileri ve Portkey özelinde model belirtme yöntemi değişir.
Python
import osfrom openai import OpenAIdef require_env(name: str) -> str: """Gerekli bir ortam değişkeni eksikse açık bir hata yükseltin.""" val = os.environ.get(name) if not val: raise ValueError(f"Gerekli ortam değişkeni eksik: {name}") return val# ── CometAPI ────────────────────────────────────────────────────────────────# 500+ model ile barındırılan yeniden satıcı. CometAPI model tanımlayıcılarını kullanın (ör. "gpt-5.4").cometapi_client = OpenAI( base_url="https://api.cometapi.com/v1", api_key=require_env("COMETAPI_KEY"),)# ── Portkey ─────────────────────────────────────────────────────────────────# Gözlemlenebilirlik ve 1.600+ LLM ile barındırılan geçit.# Model adının başına sağlayıcıyı ekleyerek yönlendirin: "@openai/gpt-4o", "@anthropic/claude-3-5-sonnet", vb.# x-portkey-api-key gereklidir; Portkey geçidine yapılan istekleri kimlik doğrular.portkey_client = OpenAI( base_url="https://api.portkey.ai/v1", api_key=require_env("PORTKEY_API_KEY"), default_headers={ "x-portkey-api-key": require_env("PORTKEY_API_KEY"), },)# ── LiteLLM ──────────────────────────────────────────────────────────────────# Kendi barındırdığınız proxy. Sağlayıcı kimlik bilgileri (OPENAI_API_KEY vb.) sunucu tarafında ayarlanır.# Varsayılan olarak proxy, istemci API anahtarını doğrulamaz — "anything" çalışır.# LiteLLM örneğinizde sanal anahtarları etkinleştirdiyseniz, bunun yerine bir sanal anahtar iletin.litellm_client = OpenAI( base_url=os.environ.get("LITELLM_BASE_URL", "http://localhost:4000"), api_key=os.environ.get("LITELLM_API_KEY", "anything"),)# ── Cloudflare AI Gateway ───────────────────────────────────────────────────# URL tabanlı aracı geçiş. Gerçek sağlayıcı API anahtarınızı saklayın — Cloudflare onu değiştirmez.cf_account_id = require_env("CF_ACCOUNT_ID")cf_gateway_id = require_env("CF_GATEWAY_ID")cloudflare_client = OpenAI( base_url=( f"https://gateway.ai.cloudflare.com/v1" f"/{cf_account_id}/{cf_gateway_id}/openai" ), api_key=require_env("OPENAI_API_KEY"),)def ask(client: OpenAI, model: str, question: str) -> str: """ Dört geçidin tümünde ortak çağrı desenini gösteren minimal sarmalayıcı. Model formatı geçide göre değişir: CometAPI: "gpt-5.4", "claude-opus-4-7", vb. (CometAPI tanımlayıcıları) Portkey: "@openai/gpt-4o", "@anthropic/claude-3-5-sonnet", vb. LiteLLM: proxy’nizde yapılandırdığınız model adları Cloudflare: standart OpenAI model adları, ör. "gpt-4o" Bu işlev finish_reason, tool_calls veya sağlayıcı hatalarını ele almaz. Üretimde hata işleme için bkz.: AI API Üretim Başarısızlıklarını Hata Ayıklama. """ response = client.chat.completions.create( model=model, messages=[{"role": "user", "content": question}], ) return response.choices[0].message.content or ""
Node.js
import OpenAI from "openai";function requireEnv(name) { const val = process.env[name]; if (!val) throw new Error(`Gerekli ortam değişkeni eksik: ${name}`); return val;}// ── CometAPI ────────────────────────────────────────────────────────────────const cometClient = new OpenAI({ baseURL: "https://api.cometapi.com/v1", apiKey: requireEnv("COMETAPI_KEY"),});// ── Portkey ─────────────────────────────────────────────────────────────────// Sağlayıcıya, modelin başına ön ek ekleyerek yönlendirin: "@openai/gpt-4o", "@anthropic/claude-3-5-sonnet"const portkeyClient = new OpenAI({ baseURL: "https://api.portkey.ai/v1", apiKey: requireEnv("PORTKEY_API_KEY"), defaultHeaders: { "x-portkey-api-key": requireEnv("PORTKEY_API_KEY"), },});// ── LiteLLM ──────────────────────────────────────────────────────────────────// Kendi barındırdığınız. Varsayılan mod, herhangi bir API anahtarı değerini kabul eder.// Sunucunuz farklı bir host veya portta çalışıyorsa LITELLM_BASE_URL’i ayarlayın.const litellmClient = new OpenAI({ baseURL: process.env.LITELLM_BASE_URL ?? "http://localhost:4000", apiKey: process.env.LITELLM_API_KEY ?? "anything",});// ── Cloudflare AI Gateway ───────────────────────────────────────────────────const cfClient = new OpenAI({ baseURL: `https://gateway.ai.cloudflare.com/v1/${requireEnv("CF_ACCOUNT_ID")}/${requireEnv("CF_GATEWAY_ID")}/openai`, apiKey: requireEnv("OPENAI_API_KEY"),});/** * Ortak çağrı desenini gösteren minimal sarmalayıcı. * Model formatı geçide göre değişir — ayrıntılar için yukarıdaki Python örneğine bakın. * finish_reason veya hata kurtarma işlemez; üretim kullanımı için bunları ekleyin. */async function ask(client, model, question) { const response = await client.chat.completions.create({ model, messages: [{ role: "user", content: question }], }); return response.choices[0].message.content ?? "";}
Dört geçitte de bağlantı deseni aynıdır. Anlamlı farklılıklar başka yerlerde ortaya çıkar: neleri gözlemleyebileceğiniz, neleri kontrol edebileceğiniz ve bir şeyler bozulduğunda ne olduğunda.
Her Bir Araç Neyi İyi Yapar
CometAPI
CometAPI’nin ana teklifi, metin modellerinin yanı sıra görsel ve video üretim modellerini de içeren 500’ün üzerinde model uç noktasına sahip barındırılan bir katalogdur. Fiyatlandırma, grup bazlı bir oran sistemi üzerinden çalışır — varsayılan grup, CometAPI’nin taban ücretlerine 0.8x çarpan uygular. İç kullanım (0.1x) ve ücretli müşteriler için farklı oran grupları yapılandırabilirsiniz; bu da ayrı hesaplar yönetmeden kademeli bir ürün oluşturmayı pratik kılar.
Pano, dört tür günlük (standart API çağrıları, görsel üretimi, video üretimi, Midjourney), 30 günlük çalışma süresi görünümü ve anahtar başına kredi limitleri sunar. Kredi limitleri, müşterilere veya yüklenicilere harcama tavanı olan API anahtarları vermenizi sağlar; bu, paylaşılan bir hesaba erişim dağıtırken gerçek bir sorunu çözer.
CometAPI’nin sunmadığı şeyler: kendi barındırma (kurumsal müşteriler adanmış sunucu talep edebilir, ancak bu standart bir kendi barındırma seçeneği değildir), geçit düzeyinde oran sınırlandırma veya SSO.
En uygun: Tek bir API anahtarı ve tek bir faturalandırma ilişkisi ile — görsel ve video dahil — birçok modele yönlendirmek isteyen ve anahtar başına bütçe kontrollerine ihtiyaç duyan bağımsız geliştiriciler ve küçük ekipler.
Portkey
Portkey, gözlemlenebilirlik etrafında inşa edilmiş barındırılan bir geçittir. Birleşik bir API üzerinden 1.600+ LLM’e erişim sağlar; yönlendirme, model adının başına sağlayıcıyı ekleyerek yapılır (@openai/gpt-4o, @anthropic/claude-3-5-sonnet). Bu, her sağlayıcı için ayrı istemci yapılandırmalarına ihtiyacınız olmadığı anlamına gelir — tek bir Portkey istemcisi hepsini idare eder ve model dizesini değiştirirsiniz.
Yönlendirmenin ötesinde Portkey, istek izleme, istem sürümleme ve kod yerine panoda yapılandırdığınız geri dönüş yönlendirmesi sunar. Kendi barındırma seçeneği, uyumluluk gerektiriyorsa Portkey’i kendi altyapınızda çalıştırabileceğiniz anlamına gelir.
Portkey’in açık kaynak geçidi için GitHub deposu aktif olarak bakım görmektedir — burada belirtilen herhangi bir sayıya güvenmek yerine güncel yıldız sayısını doğrudan kontrol edin; sık değişir.
En uygun: Denetim izi, tek bir istemci yapılandırmasından çoklu sağlayıcı yönlendirmesi ihtiyacı olan veya geliştiriciler arasında API anahtarı maruziyetini yönetmek isteyen ekipler.
LiteLLM
LiteLLM barındırılan bir hizmet değil, bir Python paketi ve proxy sunucusudur. Kendiniz çalıştırırsınız. Bu önemli bir ayrımdır: isteklerinizi işleyen veya API anahtarlarınızı tutan üçüncü bir taraf yoktur. Sağlayıcı kimlik bilgileri (gerçek OpenAI anahtarınız, Anthropic anahtarınız, vb.) sunucu tarafı ortam değişkenleri olarak ayarlanır; istemci sadece yerel proxy’ye işaret eder.
Varsayılan olarak, LiteLLM istemcilerin gönderdiği API anahtarını doğrulamaz — herhangi bir değer çalışır. Sanal anahtar yönetimini etkinleştirirseniz, istemciler LiteLLM’in kendi veritabanına karşı doğruladığı sanal anahtarlar geçirir. Her iki durumda da proxy, OpenAI formatındaki istekleri üstteki sağlayıcının beklediği formata çevirir; böylece yeni bir sağlayıcı eklediğinizde uygulama kodunuz değişmez.
Takas ise operasyonel yük: sunucuyu çalıştırmak, ölçeklemek ve güncellemek sizin sorumluluğunuzdadır.
En uygun: Devops kapasitesi olan ekipler, üçüncü taraf API proxy’lerini yasaklayan uyumluluk kısıtlarına sahip kuruluşlar veya istek içeriğini bir SaaS satıcısına emanet etmeden çapraz sağlayıcı yönlendirme isteyen herkes.
Cloudflare AI Gateway
Cloudflare AI Gateway, diğer üçünden yapısal olarak farklıdır. API anahtarınızı değiştirmez veya model erişimi için Cloudflare’a ödeme yapmazsınız. Bunun yerine, günlükleme, önbellekleme ve uçta oran sınırlandırma ekleyen Cloudflare tarafından yönetilen bir URL ile sağlayıcının temel URL’sini değiştirirsiniz.
Cloudflare, uygulamanız ile sağlayıcı arasında oturduğu için özdeş istekleri önbelleğe alabilir — uygulamanız aynı istemleri tekrar tekrar gönderiyorsa kullanışlıdır. Ücretsiz katman, çoğu bağımsız geliştirici kullanımını kapsar. Sınırlama kapsamdır: Cloudflare sağlayıcılar arasında modelleri bir araya getirmez. Kullandığınız her sağlayıcı için yine ayrı hesaplara ve anahtarlara ihtiyacınız vardır.
En uygun: Halihazırda Cloudflare altyapısını kullanan geliştiriciler veya API anahtarlarını değiştirmeden ve yeni bir faturalandırma ilişkisi eklemeden mevcut sağlayıcı hesapları üzerine önbellekleme ve günlükleme isteyen herkes.
Senaryo Eşleştirme
| Senaryo | Önerilen araç | Gerekçe |
|---|---|---|
| Bağımsız uygulama, tek bir API anahtarıyla 10+ modeli denemek | CometAPI | Geniş katalog, basit kurulum, anahtar başına kredi limitleri |
| Aynı entegrasyonda görsel + video üretimi ihtiyacı | CometAPI | Metin, görsel ve video modelleri için birleşik uç nokta |
| 5 kişilik ekip, kimin hangi modeli kullandığını izlemek | Portkey | İstek izleme, ekip yönetimi |
| Tek istemci yapılandırmasıyla 1.600+ LLM’e yönlendirme | Portkey | @provider/model yönlendirme, sağlayıcı başına kurulum yok |
| Kodsuz sağlayıcılar arası geri dönüş yönlendirmesi | Portkey | Panoda deklaratif geri dönüş yapılandırması |
| Veri yerleşimi gereksinimli kurumsal | LiteLLM (kendi barındırma) | Üçüncü taraf trafik işleme yok |
| Bütçe sıfır, kendi kendine yönetim rahatlığı | LiteLLM | Açık kaynak, platform maliyeti yok |
| Zaten doğrudan OpenAI kullanımı, önbellekleme isteniyor | Cloudflare AI Gateway | Yalnızca URL değişimi, yeni faturalandırma ilişkisi yok |
| Birden çok ekip için RBAC gerekli | Portkey veya LiteLLM | Her ikisinde ekip/rol yönetimi var; CometAPI ve Cloudflare’da yok |
Bu Dörtlünün Kapsamadıkları
Bu karşılaştırma, bağımsız geliştirici tartışmalarında en sık görünen geçitleri kapsar. Piyasada bilinmeye değer başka seçenekler de vardır: Helicone, bir proxy olarak hareket etmeden gözlemlenebilirliğe odaklanır; OpenRouter, açık-ağırlık ve araştırma modellerine yönlendirmede uzmanlaşır; AWS Bedrock ise kurumsal iş yüklerine yönelik Amazon’un yönetilen AI hizmetidir. Gereksinimleriniz yukarıdaki dördüne uymuyorsa bakmanız gereken bir sonraki yerler bunlardır.
Geçiş Yapmak
Halihazırda bir sağlayıcıyı doğrudan çağırıyor ve bir geçidi düşünüyorsanız, kod değişimi küçüktür. CometAPI için bir ortam değişkeni eklersiniz ve base_url’yi değiştirirsiniz. Portkey için bir başlık eklersiniz ve modeli belirtme biçimini değiştirirsiniz (gpt-4o yerine @openai/gpt-4o). Cloudflare için, sağlayıcı API anahtarınıza dokunmadan URL’yi değiştirirsiniz. LiteLLM için önce yerel bir sunucu çalıştırır, sonra istemcinizi ona yönlendirirsiniz.
Daha büyük soru, nasıl geçiş yapılacağı değil, buna ihtiyaç olup olmadığıdır. Tek bir sağlayıcıyı çağırıyor, maliyet görünürlüğü sorunları yaşamıyor ve çapraz model yönlendirmesine ihtiyaç duymuyorsanız, bir geçit fayda olmadan karmaşıklık ekler. Birden fazla sağlayıcıya isabet ediyorsanız, anahtarları yüklenicilere dağıtıyorsanız veya beklenmedik faturaların tekrar eden bir sorun olduğunu görüyorsanız, entegrasyon yükü buna değer.
SSS
Bu geçitleri birlikte kullanabilir miyim?
Evet. Bazı ekipler hassas iş yükleri için LiteLLM’i kendi barındırmalı çalıştırır ve diğer her şey için CometAPI kullanır. CometAPI isteklerinin önüne Cloudflare AI Gateway’i koyabilirsiniz; Cloudflare’ın önbellek katmanını üstüne eklemek isterseniz — ancak bu, bir ağ sıçraması ekler.
Bu geçitler istemlerimi saklar mı?
Araca ve yapılandırmanıza bağlıdır. Portkey ve CometAPI varsayılan olarak istekleri günlüğe kaydeder; her ikisinde de saklama ayarları vardır. LiteLLM yalnızca kendi altyapınızda yapılandırdığınız kadarını saklar. Cloudflare’ın günlükleme davranışı AI Gateway dokümantasyonunda anlatılır. Hassas içerikleri barındırılan bir hizmet üzerinden göndermeden önce gizlilik şartlarını okuyun.
Geçit çökerse ne olur?
Barındırılan geçitler (CometAPI, Portkey, Cloudflare) için geçit kesintisi, uygulamanızın o yol üzerinden AI sağlayıcısına ulaşamaması demektir. Yerelde çalışan LiteLLM, kendi sunucunuzla aynı erişilebilirlik özelliklerine sahiptir. Herhangi bir barındırılan geçide üretim için bağlanmadan önce SLA’sını ve geçidin kendisi kullanılamazsa doğrudan sağlayıcıya geri dönüş sunup sunmadığını kontrol edin.
Bağlanmadan önce ücretsiz değerlendirme yolu var mı?
Evet. CometAPI ve Portkey’in ücretsiz katmanları vardır. LiteLLM açık kaynaktır ve yalnızca çalıştırdığınız altyapının maliyeti vardır. Cloudflare AI Gateway, cömert limitler içinde ücretsizdir. Karar vermeden önce dördünü de aynı test istemleriyle çalıştırabilirsiniz.
Her geçit için doğru model adlarını nasıl seçerim?
Her geçidin kendi kuralı vardır. CometAPI kendi tanımlayıcılarını kullanır (gpt-5.4, claude-opus-4-7). Portkey @provider/model-name biçimini kullanır (@openai/gpt-4o, @anthropic/claude-3-5-sonnet). LiteLLM, proxy yapılandırmanızda tanımladığınız model adlarını kullanır. Cloudflare, standart sağlayıcı model adlarını değiştirmeden geçirir. Kod yazmadan önce her bir geçidin dokümantasyonundaki güncel model listesini kontrol edin.
Geçit değiştirmek mevcut oran limitlerimi etkiler mi?
Evet. Doğrudan OpenAI çağrılarından, sağlayıcı ilişkisini yöneten bir geçide (CometAPI gibi) geçerseniz, efektif oran limitleriniz OpenAI ile geçidin hesabı tarafından belirlenir; kişisel hesabınız değil. Üretim trafiğini taşımadan önce geçitle oran limiti davranışını doğrulayın.