Spesifikasi Teknis omni-moderation-latest
| Atribut | Rincian |
|---|---|
| ID Model | omni-moderation-latest |
| Penyedia | OpenAI |
| Jenis model | Model moderasi untuk klasifikasi keamanan |
| Kasus penggunaan utama | Mendeteksi konten yang berpotensi berbahaya dalam masukan pengguna atau keluaran model |
| Input yang didukung | Teks dan gambar |
| Jenis keluaran | Hasil moderasi terstruktur dalam bentuk teks/JSON, termasuk penanda, kategori, dan skor |
| Endpoint | Moderations API |
| Dukungan multimodal | Ya; mendukung objek input multi-modal, termasuk URL gambar atau data gambar base64 |
| Status default/terbaru | OpenAI mendokumentasikannya sebagai model moderasi omni terbaru dan pilihan yang direkomendasikan untuk integrasi moderasi baru |
| Alternatif lama | text-moderation-latest adalah opsi teks-saja yang lebih lama dengan kategorisasi yang lebih sedikit |
| Profil kinerja | OpenAI mencantumkannya sebagai moderasi berkinerja tinggi dengan kecepatan sedang |
| Harga | OpenAI menggambarkan model moderasi sebagai model gratis |
Apa itu omni-moderation-latest?
omni-moderation-latest adalah model moderasi OpenAI saat ini untuk mengidentifikasi konten yang tidak aman atau sensitif terhadap kebijakan dalam teks dan gambar. Model ini dirancang untuk pengembang yang perlu menyaring prompt pengguna, media yang diunggah, atau keluaran yang dihasilkan model sebelum item tersebut ditampilkan kepada pengguna akhir atau diteruskan ke sistem hilir.
OpenAI memperkenalkan omni-moderation-latest sebagai peningkatan multimodal atas model moderasi sebelumnya. Menurut dokumentasi OpenAI, model ini lebih mumpuni dibanding opsi moderasi teks-saja lama, mendukung kategorisasi yang lebih luas, dan merupakan pilihan terbaik untuk aplikasi baru yang menggunakan endpoint moderasi.
Dalam praktiknya, tim menggunakan omni-moderation-latest untuk moderasi input, moderasi output, pipeline trust-and-safety, pemfilteran forum, peninjauan konten sosial, dan alur kerja deteksi penyalahgunaan di mana triase otomatis yang cepat diperlukan sebelum peninjauan manusia atau logika penegakan. Ini adalah inferensi pada tingkat aplikasi berdasarkan panduan moderasi OpenAI dan desain API.
Fitur utama omni-moderation-latest
- Moderasi multimodal: Model ini menerima input teks dan gambar, sehingga cocok untuk aplikasi modern yang perlu mengevaluasi pesan pengguna bersamaan dengan konten visual yang diunggah.
- Kategorisasi keamanan yang lebih luas: OpenAI menyatakan bahwa keluarga omni moderation mendukung lebih banyak opsi kategorisasi dibanding model moderasi teks lama.
- Keluaran keamanan terstruktur: Respons mencakup objek moderasi dengan field seperti
flagged, label kategori, dan skor kategori, sehingga memudahkan otomatisasi logika izinkan, blokir, tinjau, atau eskalasi. - Akurasi yang ditingkatkan: OpenAI melaporkan bahwa
omni-moderation-latestlebih akurat daripada generasi moderasi sebelumnya, terutama untuk konten non-Inggris. - Dukungan klasifikasi peka-gambar: API dapat menerima URL gambar atau data gambar yang dikodekan base64 sebagai input moderasi, sehingga memungkinkan penyaringan aset visual yang diunggah atau ditautkan.
- Paling cocok untuk integrasi baru: Panduan moderasi OpenAI secara eksplisit merekomendasikan model omni moderation yang lebih baru untuk aplikasi baru, alih-alih keluarga model teks-saja yang lama.
- Penggunaan moderasi gratis dari sisi penyedia: Daftar model OpenAI menggambarkan model moderasi sebagai gratis, yang dapat menjadikannya menarik untuk alur kerja penyaringan keamanan skala besar.
Cara mengakses dan mengintegrasikan omni-moderation-latest
Langkah 1: Daftar untuk Kunci API
Untuk mulai menggunakan omni-moderation-latest, terlebih dahulu daftar di CometAPI dan buat kunci API Anda dari dasbor. Setelah membuat kunci tersebut, simpan dengan aman di variabel lingkungan seperti COMETAPI_API_KEY. Kunci ini akan digunakan untuk mengautentikasi setiap permintaan yang Anda kirim ke model.
Langkah 2: Kirim Permintaan ke API omni-moderation-latest
Setelah Anda memiliki kunci API, Anda dapat memanggil endpoint chat yang kompatibel dengan OpenAI di CometAPI sambil menetapkan omni-moderation-latest sebagai model. Contoh:
curl https://api.cometapi.com/v1/moderations \
-H "Content-Type: application/json" \
-H "Authorization: Bearer $COMETAPI_API_KEY" \
-d '{
"model": "omni-moderation-latest",
"input": "Sample text to classify for safety."
}'
Anda juga dapat mengirim input moderasi multimodal ketika alur kerja Anda menyertakan gambar, asalkan klien dan format permintaan Anda mengikuti skema moderasi yang didukung oleh model. Dokumentasi API moderasi OpenAI menunjukkan bahwa omni-moderation-latest mendukung string teks, array string, dan objek input multi-modal.
Langkah 3: Ambil dan Verifikasi Hasil
Respons API akan mengembalikan sebuah objek hasil moderasi yang berisi model yang digunakan, keputusan flagged, label tingkat kategori, dan skor kategori. Setelah menerima respons, verifikasikan apakah konten melampaui ambang kebijakan aplikasi Anda sebelum mengizinkannya masuk ke alur produk. Untuk penggunaan produksi, banyak tim menggabungkan penentuan ambang otomatis dengan pencatatan, antrean tinjauan manual, dan aturan bisnis spesifik kebijakan.