AUTO API

CometAPI’de Auto API Nedir?

CometAPI Auto API, geliştiricilerin her istek için sabit bir model adı belirtmeden uygun AI modellere erişmesini sağlayan akıllı bir model yönlendirme uç noktasıdır. GPT, Claude, Gemini veya desteklenen başka bir modeli seçmek yerine geliştiriciler model=auto gönderebilir ve CometAPI, isteğin özelliklerine ve gereksinimlerine göre uygun bir modeli otomatik olarak belirler.

Daha yüksek yanıt kalitesinin tercih edildiği iş yükleri için geliştiriciler auto-high kullanabilir. Hem auto hem de auto-high, sabit AI modelleri değil, yönlendirme seçenekleridir.

Bu yaklaşım, uygulamaların tutarlı bir API kullanmasına olanak tanırken CometAPI, sahne arkasında model seçimini yönetir.

Auto API Parametreleri ve Özellikleri

Auto API, ilgili CometAPI uç noktasının desteklediği aynı API istek yapısını kullanır. Temel fark, model parametresinin değeridir.

Auto API nasıl çalışır?

Bir istek model=auto veya model=auto-high kullandığında, CometAPI önce isteğin özelliklerini inceler. Bu özellikler; istemci türü, isteğin görüntü veya dosya içerip içermediği, tahmini girdi uzunluğu, araç kullanımı, yapılandırılmış çıktı gereksinimleri, akış ve akıl yürütmeyle ilgili parametreler gibi unsurları içerebilir.

Bu özelliklere göre istek, uygun yönlendirme senaryosuyla eşleştirilir. Ardından CometAPI, yapılandırılan kalite düzeyine, model erişilebilirliğine, önceliğe, ağırlığa, kullanıcı grubu izinlerine, yeteneklere, fiyatlandırmaya ve kanal kullanılabilirliğine göre ilgili model havuzundan uygun bir model seçer.

Model seçildikten sonra istek, CometAPI’nin normal kanal yönlendirme sistemi üzerinden devam eder. Bu nedenle, Auto yönlendirme, isteği hangi modelin ele alması gerektiğini belirlerken; kanal yönlendirme, o model isteğini hangi sağlayıcı kanalının işleyeceğini belirler.

Auto yönlendirme, kanalları otomatik olarak oluşturmaz veya mevcut kanal yapılandırmasını atlamaz. Bir modelin, istekleri başarıyla işleyebilmesi için gerekli fiyatlandırma ve kanal rota yapılandırmasına sahip olması gerekir.

Bu nedenle API yanıtında döndürülen model, istek içinde belirtilen modelden farklı olabilir. Örneğin, model=auto kullanan bir istek, model alanında gerçek bir model adı döndürebilir. Bu beklenen bir davranıştır ve yönlendiricinin nihayetinde hangi modeli seçtiğini gösterir.

Auto ile Auto-High Arasındaki Fark Nedir?

auto ve auto-high aynı akıllı yönlendirme kavramını kullanır ancak farklı kalite seviyelerini hedefler.

Auto genel amaçlı bir yönlendirme seçeneğidir. Yanıt kalitesi, maliyet, hız ve erişilebilirlik arasında pratik bir denge sunmayı amaçlar. Günlük uygulamalar için varsayılan seçim olarak uygundur.

Auto-High, daha güçlü modeller ve daha yüksek yanıt kalitesi tercih eden kullanıcılar için tasarlanmıştır. Karmaşık akıl yürütme, ileri seviye kodlama, detaylı analiz ve diğer kaliteye duyarlı iş yükleri için daha uygundur.

auto-high, her isteğin belirli tek bir premium modele gönderildiği anlamına gelmez. auto gibi, istek özelliklerine göre yapılandırılmış yüksek kaliteli model havuzundan dinamik olarak model seçer.

Kısaca, dengeli bir varsayılan istediğinizde auto kullanın; yanıt kalitesinin daha yüksek öncelik olduğu durumlarda auto-high kullanın.

Kullanım Senaryoları

Genel yapay zeka uygulamaları

Auto; sohbet botları, içerik üretimi, özetleme, sınıflandırma, müşteri desteği ve diğer genel amaçlı yapay zeka uygulamaları için kullanışlı bir seçimdir. Geliştiricilerin her istek için sabit bir model seçimi stratejisi sürdürmesine gerek yoktur.

Kodlama ve geliştirme

Kodlama uygulamaları, kodlamaya ilişkin isteklerin yazılım mühendisliği görevleri için yapılandırılmış modellere yönlendirilebilmesi sayesinde Auto yönlendirmeden fayda sağlar. Bu; kodlama asistanları, IDE entegrasyonları, kod üretimi, hata ayıklama, kod inceleme ve geliştirme ajanları için kullanışlıdır.

Karmaşık analiz ve akıl yürütme

auto-high, yanıt kalitesinin model maliyetini en aza indirmekten daha önemli olduğu görevler için uygundur. Örnekler arasında teknik analiz, karmaşık akıl yürütme, araştırma görevleri, detaylı belge analizi ve gelişmiş ajan iş akışları yer alır.

Çok modlu uygulamalar

Yapılandırılan yönlendirme kuralları ve aday modeller tarafından desteklendiğinde, Auto; görüntü veya dosya içeren istekleri bu girdileri işleyebilen modellere yönlendirebilir.

Yüksek hacimli uygulamalar

Auto, çok çeşitli istekleri işleyen uygulamalar için de yararlı olabilir. Uygulama kodunda model seçimi mantığını uygulamak ve sürdürmek yerine, geliştiriciler model seçimini merkezi olarak CometAPI’ye bırakabilir.

Auto API’nin Sınırlamaları Nelerdir?

Auto, her isteğin aynı model tarafından ele alınacağını garanti etmez. Model seçimi dinamik olduğundan, alttaki model; yönlendirme koşulları ve yapılandırmalar değiştikçe değişebilir.

Auto ayrıca en düşük mümkün fiyatı garanti etmez. En ucuz modeli seçmekten ziyade akıllı model seçimine odaklanır.

Başka bir kısıt, modele özgü yeteneklerin değişken olabilmesidir. Farklı modeller; bağlam uzunluğu, araçlar, görüntü girdileri, yapılandırılmış çıktılar veya diğer özellikleri farklı şekilde destekleyebilir. Bu nedenle Auto, yapılandırılan aday modellerin yetenek bilgilerinin doğru olduğu durumlarda en iyi şekilde çalışır.

Son olarak, bir modelin seçilmesi, isteğin başarıyla tamamlanacağı garantisini vermez. Seçilen modelin ilgili kullanıcı grubu için kullanılabilir bir kanal rotasına sahip olması gerekir. Uygun bir kanal yoksa, Auto bir modeli başarıyla belirlemiş olsa bile istek başarısız olabilir.

Auto, Farklı Türde İstekleri Nasıl Ele Alır?

Auto’nun temel faydası, geliştiricilerin her yaygın istek türü için ayrı model seçimi mantığını manuel olarak sürdürmek zorunda olmamasıdır.

Normal bir metin isteği varsayılan model havuzu tarafından işlenebilir. Bir kodlama isteği, kodlamaya yönelik bir model havuzuna yönlendirilebilir. Geniş bağlamlı bir istek, gereken girdi boyutunu destekleyen modellerle eşleştirilebilir. Bir görüntü isteği, görsel yeteneklere sahip bir modele yönlendirilebilir.

Bu, aynı API giriş noktasının farklı uygulama senaryolarını desteklemesini sağlarken istemci tarafı entegrasyonu basit tutar.

CometAPI Auto API Kullanmanın Faydaları Nelerdir?

Auto’nun temel faydası, uygulama mantığını model seçimi mantığından ayırmasıdır.

Otomatik yönlendirme olmadan, geliştiricilerin her isteği hangi modelin ele alacağını belirlemesi ve modeller kullanılamaz, pahalı veya belirli bir iş yüküne uygun olmadığında geri dönüş stratejilerini sürdürmesi gerekir.

Auto ile uygulamalar, alttaki model stratejisinin merkezi olarak yönetildiği sabit bir yönlendirme tanımlayıcısı kullanabilir.

Bu yaklaşım, çoklu model uygulamalarını basitleştirebilir, model değişikliklerinin dağıtımını kolaylaştırabilir ve uygulama içinde sürdürülmesi gereken modele özgü yönlendirme mantığı miktarını azaltabilir.

Birden fazla AI sağlayıcıyla çalışan ve model yetenekleri hızla değişen ekipler için bu soyutlama özellikle değerlidir.

Auto API ve Belirli Model

CometAPI Auto API Nasıl Kullanılır

CometAPI Auto API, OpenAI ile uyumlu Chat Completions API ile çalışacak şekilde tasarlanmıştır. Belirli bir alttaki modeli seçmenize gerek yoktur. model parametresini auto veya auto-high olarak ayarlamanız yeterlidir; CometAPI, isteğe göre uygun bir modeli otomatik olarak seçecektir.

Adım 1: API Erişimi Alın

cometAPI’ye giriş yapın. Henüz kullanıcımız değilseniz lütfen önce kayıt olun. CometAPI konsolunuza giriş yapın. Arayüzün erişim kimlik bilgisi API anahtarını alın. Kişisel merkezde API token bölümünde “Add Token”a tıklayın, token anahtarını alın: sk-xxxxx ve gönderin.

Adım 2: Auto API’ye İstek Gönderin

API isteğini göndermek için “auto" veya "auto-high” uç noktasını seçin ve istek gövdesini ayarlayın. İstek yöntemi ve istek gövdesi, web sitemizdeki API dokümanından alınır. Ayrıca kolaylık için web sitemizde Apifox testi de sağlanır. Hesabınızdaki gerçek CometAPI anahtarınızla <YOUR_API_KEY> ifadesini değiştirin.

Fark basittir:

• auto — genel iş yükleri için dengeli seçim.
• auto-high — daha yüksek kaliteli model seçimini önceliklendirir.

İkisinden hiçbiri sabit bir altta yatan modeli temsil etmez.

Adım 3: Model, CometAPI Auto tarafından Nasıl Seçilir?

model=auto veya model=auto-high ile bir istek gönderdiğinizde, CometAPI önce isteğin özelliklerini tanımlar ve en iyi eşleşen yönlendirme senaryosunu belirler. Sistem; istemci türü, isteğin görüntü veya dosya içerip içermediği, tahmini girdi bağlam uzunluğu, araç kullanımı, yapılandırılmış çıktı gereksinimleri, akış ve diğer desteklenen yetenekler gibi faktörleri dikkate alabilir.

Uygun yönlendirme hattı belirlendikten sonra CometAPI, ilgili auto veya auto-high model havuzundan aday modelleri seçer. Devre dışı bırakılan, kullanıcı grubuna açık olmayan, istekle uyumsuz olan veya gerekli bağlamı ya da yetenekleri desteklemeyen modeller hariç tutulur. Kalan adaylar, yapılandırılan yönlendirme önceliği, ağırlık ve kullanılabilirliğe göre değerlendirilir.

Seçilen model daha sonra CometAPI’nin mevcut kanal yönlendirme sistemine iletilir; bu sistem, o model ve kullanıcı grubu için kullanılabilir bir kanal bulur. Sonuç olarak, nihai model önceden sabitlenmiş olmak zorunda değildir ve isteğe ile güncel yönlendirme yapılandırmasına göre değişebilir.