omni-moderation-2024-09-26

omni-moderation-2024-09-26 için Teknik Özellikler

omni-moderation-2024-09-26, OpenAI Moderation API üzerinden sunulan bir anlık sürüm moderasyon modelidir ve OpenAI’nin API referansı bu model kimliğini desteklenen moderasyon modeli seçenekleri arasında açıkça listeler. Bu model, daha eski yalnızca metin moderasyon serisi yerine daha yeni omni-moderation ailesinin bir parçasıdır.

OpenAI’nin model ve moderasyon dokümantasyonuna göre, bu model içerik güvenliği sınıflandırması için tasarlanmıştır, metin ve görsel girdileri kabul eder ve üretici metin çıktısı yerine moderasyon sonuçları döndürür. OpenAI, omni-moderation ailesini en yetenekli moderasyon çözümü olarak tanımlar; çok modlu desteğe ve eski moderasyon modellerine göre daha geniş kategorileştirmeye sahiptir.

26 Eylül 2024 anlık sürümü olarak, omni-moderation-2024-09-26 OpenAI’nin yükseltilmiş çok modlu moderasyon sisteminin çıkış nesline karşılık gelir. OpenAI, bu neslin GPT-4o üzerine inşa edildiğini, önceki moderasyon modellerine kıyasla doğruluğu artırdığını ve özellikle İngilizce dışı içerikte daha güçlü olduğunu belirtir. Aynı lansman materyalleri, moderasyon modellerinin geliştiricilere Moderasyon API’si üzerinden ücretsiz olarak sunulduğunu da not eder.

omni-moderation-2024-09-26 nedir?

omni-moderation-2024-09-26, uygulama girdilerinde son kullanıcılara ulaşmadan önce ya da sonra, potansiyel olarak zararlı içerikleri belirlemek için kullanılan sabit sürüm bir moderasyon modelidir. Uygulamada, geliştiriciler kullanıcı tarafından oluşturulan metinleri, görselleri veya karma çok modlu yükleri; şiddet, nefret, taciz, cinsel içerik ve kendine zarar verme gibi politika ile ilgili risk kategorileri açısından sınıflandırmak için kullanır.

Eski metin moderasyon modelleriyle karşılaştırıldığında, bu anlık sürüm OpenAI’nin daha yeni çok modlu moderasyon yığınına aittir. OpenAI dokümantasyonuna göre, omni-moderation anlık sürümleri daha fazla kategorileştirme seçeneğini ve çok modlu girdileri destekler; bu da onları yeni moderasyon entegrasyonları için önerilen tercih haline getirir.

Gezici bir takma ad yerine anlık sürüm kimliği omni-moderation-2024-09-26 kullanmanın temel nedeni sürüm kararlılığıdır. Tarihli bir anlık sürüm olduğu ve devingen omni-moderation-latest takma adı olmadığı için, yeniden üretilebilir moderasyon davranışı, kontrollü yayınlama ve ortamlar arasında daha öngörülebilir denetim isteyen ekipler için daha uygundur. Bu kararlılık noktası, OpenAI’nin anlık ve en güncel model tanımlayıcılarını ayrı ayrı listelemesine dayanan uygulama odaklı bir çıkarımdır.

omni-moderation-2024-09-26’ın başlıca özellikleri

• Çok modlu moderasyon: Moderasyon API’si üzerinden hem metin hem de görsel girdileri destekler; tek bir modelin yaygın kullanıcı üretimi medya türlerini değerlendirmesine olanak tanır.
• Daha geniş güvenlik kategorileştirmesi: OpenAI dokümantasyonu, omni-moderation serisinin eski moderasyon modellerine kıyasla daha fazla kategorileştirme seçeneği eklediğini ve bu nesille tanıtılan daha yeni zarar sınıflarını içerdiğini belirtir.
• Geliştirilmiş çok dilli performans: OpenAI, bu moderasyon neslinin önceki modellere göre daha doğru olduğunu, özellikle İngilizce dışı ve düşük kaynaklı dil ayarlarında daha güçlü olduğunu ifade eder.
• Olasılık tarzı puanlama çıktısı: İşaretli kategori boole değerlerinin yanı sıra, ekiplerin uygulamaya özgü eşik ve inceleme mantıklarını tanımlamasına yardımcı olan kalibre edilmiş kategori puanları sağlar.
• Kategori bazında girdi türü farkındalığı: Moderasyon yanıt şeması, bir sınıflandırmanın metinden, görselden veya her ikisinden mi geldiğini anlamaya yardımcı olan kategori düzeyinde uygulanan girdi türlerini içerir.
• Anlık sürümle sürüm kontrolü: omni-moderation-2024-09-26 açıkça sürümlenmiş bir anlık sürüm olduğundan, tutarlılığın önemli olduğu geri dönüş testleri, güvenlik kıyaslamaları ve kontrollü üretim dağıtımları için kullanışlıdır. Bu, OpenAI’nin anlık model adlandırması ve API desteğine dayanan uygulama odaklı bir çıkarımdır.

omni-moderation-2024-09-26’a erişim ve entegrasyon

Adım 1: API Anahtarı için Kaydolun

Başlamak için CometAPI’ye kaydolun ve kontrol panelinden API anahtarınızı oluşturun. Aktif bir anahtar edindikten sonra, CometAPI’nin birleşik model geçidi üzerinden omni-moderation-2024-09-26 API’sine yapılacak tüm istekleri kimlik doğrulamak için bu anahtarı kullanabilirsiniz.

Adım 2: omni-moderation-2024-09-26 API’sine İstek Gönderin

CometAPI’nin OpenAI uyumlu API formatını kullanın ve modeli omni-moderation-2024-09-26 olarak belirtin. Moderasyon yükünüzü metin olarak veya görsel+metin içeriğini sınıflandırırken çok modlu bir girdi dizisi olarak gönderin. OpenAI’nin resmi Moderasyon API dokümantasyonu, bu model kimliğinin moderasyon istekleri için geçerli olduğunu ve uç noktanın düz metin dizelerini veya yapılandırılmış çok modlu girdi nesnelerini kabul ettiğini gösterir.

curl https://api.cometapi.com/v1/moderations \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer $COMETAPI_API_KEY" \
  -d '{
    "model": "omni-moderation-2024-09-26",
    "input": "Example content to classify"
  }'

Adım 3: Sonuçları Alın ve Doğrulayın

İsteği gönderdikten sonra, üst düzey moderasyon sonucunu, işaretlenmiş durumu, kategori boole değerlerini ve kategori puanlarını yanıt içinde inceleyin. OpenAI’nin moderasyon yanıt şeması, eşikleme, inceleme kuyrukları ve politika uygulama mantığı için kullanılabilecek kategori bazında ayrıntıları da içerir. Üretimde, sonuçları kendi uygulamanızdan temsilî uç durumları test ederek, çıktıları iç politika beklentilerine karşı karşılaştırarak ve moderasyon davranışının zaman içinde izlenebilir kalması için anlık sürüm model kimliğini omni-moderation-2024-09-26 kaydederek doğrulayın.