omni-moderation-latest Teknik Özellikleri
| Özellik | Ayrıntılar |
|---|---|
| Model ID | omni-moderation-latest |
| Sağlayıcı | OpenAI |
| Model türü | Güvenlik sınıflandırması için moderasyon modeli |
| Birincil kullanım amacı | Kullanıcı girdilerinde veya model çıktılarında potansiyel olarak zararlı içeriği tespit etmek |
| Desteklenen girdiler | Metin ve görseller |
| Çıktı türü | İşaretler, kategoriler ve puanlar dahil, metin/JSON biçiminde yapılandırılmış moderasyon sonuçları |
| Uç nokta | Moderations API |
| Çok modlu destek | Evet; görsel URL’leri veya base64 görsel verisi dahil çok modlu girdi nesnelerini destekler |
| Varsayılan/en güncel durum | OpenAI bunu en yeni omni moderasyon modeli olarak belgeliyor ve yeni moderasyon entegrasyonları için önerilen seçenek olduğunu belirtiyor |
| Eski alternatif | text-moderation-latest, daha az kategorizasyon sunan, yalnızca metin odaklı eski seçenektir |
| Performans profili | OpenAI bunu orta hızda yüksek performanslı bir moderasyon olarak listeler |
| Fiyatlandırma | OpenAI, moderasyon modellerini ücretsiz modeller olarak tanımlar |
omni-moderation-latest Nedir?
omni-moderation-latest, OpenAI’nin metin ve görsellerde güvensiz veya politika açısından hassas içeriği tanımlamaya yönelik güncel moderasyon modelidir. Kullanıcı istemlerini, yüklenen medyayı veya model tarafından üretilen çıktıları son kullanıcılara gösterilmeden ya da aşağı akış sistemlerine aktarılmadan önce taraması gereken geliştiriciler için tasarlanmıştır.
OpenAI, omni-moderation-latesti önceki moderasyon modellerine çok modlu bir yükseltme olarak tanıttı. OpenAI’nin belgelerine göre, bu model eski yalnız metin moderasyon seçeneklerinden daha yetkin, daha geniş kategorizasyon desteğine sahip ve moderasyon uç noktasını kullanan yeni uygulamalar için en iyi seçimdir.
Pratikte ekipler, girdi moderasyonu, çıktı moderasyonu, güven ve emniyet hatları, forum filtreleme, sosyal içerik incelemesi ve hızlı otomatik triyajın insan incelemesi veya uygulama mantığından önce gerektiği suistimal tespiti iş akışları için omni-moderation-latesti kullanır. Bu, OpenAI’nin moderasyon yönergeleri ve API tasarımına dayalı uygulama düzeyinde bir çıkarımdır.
omni-moderation-latestin Başlıca Özellikleri
- Multimodal moderasyon: Model hem metin hem görsel girdileri kabul eder; bu da yüklenen görsel içerikle birlikte kullanıcı mesajlarını değerlendirmesi gereken modern uygulamalar için uygun hale getirir.
- Daha geniş güvenlik kategorizasyonu: OpenAI, omni moderasyon ailesinin eski yalnız metin moderasyon modellerinden daha fazla kategorizasyon seçeneğini desteklediğini belirtir.
- Yapılandırılmış güvenlik çıktısı: Yanıtlarda,
flagged, kategori etiketleri ve kategori puanları gibi alanları içeren bir moderasyon nesnesi bulunur; bu da izin verme, engelleme, inceleme veya eskalasyon mantığını otomatikleştirmeyi kolaylaştırır. - Geliştirilmiş doğruluk: OpenAI,
omni-moderation-latestin önceki moderasyon nesline kıyasla, özellikle İngilizce dışı içerikte daha doğru olduğunu bildirmiştir. - Görsel farkındalıklı sınıflandırma desteği: API, moderasyon girdileri olarak görsel URL’lerini veya base64 ile kodlanmış görsel verisini alabilir; bu sayede yüklenen ya da bağlantısı verilen görsel varlıkların taranması mümkün olur.
- Yeni entegrasyonlar için en uygun: OpenAI’nin moderasyon kılavuzu, eski yalnız metin model ailesi yerine yeni omni moderasyon modellerini açıkça önermektedir.
- Sağlayıcı tarafından ücretsiz moderasyon kullanımı: OpenAI’nin model listesi, moderasyon modellerini ücretsiz olarak tanımlar; bu da onları büyük ölçekli güvenlik filtreleme iş akışları için cazip kılabilir.
omni-moderation-lateste Nasıl Erişilir ve Nasıl Entegre Edilir
Adım 1: API Anahtarı Almak İçin Kaydolun
omni-moderation-latesti kullanmaya başlamak için önce CometAPI’ye kaydolun ve panodan API anahtarınızı oluşturun. Anahtarı oluşturduktan sonra, COMETAPI_API_KEY gibi bir ortam değişkeninde güvenli şekilde saklayın. Bu anahtar, modele gönderdiğiniz her isteği kimlik doğrulamak için kullanılacaktır.
Adım 2: omni-moderation-latest API’sine İstek Gönderin
API anahtarınızı aldıktan sonra, modeli omni-moderation-latest olarak belirterek CometAPI’de OpenAI ile uyumlu sohbet uç noktasını çağırabilirsiniz. Örnek:
curl https://api.cometapi.com/v1/moderations \
-H "Content-Type: application/json" \
-H "Authorization: Bearer $COMETAPI_API_KEY" \
-d '{
"model": "omni-moderation-latest",
"input": "Sample text to classify for safety."
}'
İş akışınız görseller içerdiğinde, istemciniz ve istek biçiminiz modelin desteklediği üst akış moderasyon şemasına uyduğu sürece, çok modlu moderasyon girdisi de gönderebilirsiniz. OpenAI’nin moderasyon API belgeleri, omni-moderation-latestin metin dizelerini, dize dizilerini ve çok modlu girdi nesnelerini desteklediğini gösterir.
Adım 3: Sonuçları Alın ve Doğrulayın
API yanıtı; kullanılan modeli, flagged kararını, kategori düzeyindeki etiketleri ve kategori puanlarını içeren bir moderasyon sonuç nesnesi döndürür. Yanıtı aldıktan sonra, içeriği ürün akışınıza almadan önce uygulamanızın politika eşiklerini aşıp aşmadığını doğrulayın. Üretim kullanımında birçok ekip, otomatik eşiklendirmeyi günlükleme, manuel inceleme kuyrukları ve politikaya özgü iş kurallarıyla birleştirir.