omni-moderation-2024-09-26

Spesifikasi Teknis omni-moderation-2024-09-26

omni-moderation-2024-09-26 adalah model moderasi snapshot yang tersedia melalui OpenAI Moderation API, dan referensi API OpenAI secara eksplisit mencantumkan ID model ini sebagai opsi model moderasi yang didukung. Model ini merupakan bagian dari keluarga omni-moderation yang lebih baru, bukan lini moderasi lama yang hanya teks.

Berdasarkan dokumentasi model dan moderasi OpenAI, model ini dirancang untuk klasifikasi keamanan konten, menerima masukan teks dan gambar, serta mengembalikan hasil moderasi alih-alih keluaran teks generatif. OpenAI menggambarkan keluarga omni-moderation sebagai penawaran moderasi paling kapabel, dengan dukungan multimodal dan kategorisasi yang lebih luas dibanding model moderasi lama.

Sebagai snapshot 26 September 2024, omni-moderation-2024-09-26 sesuai dengan generasi peluncuran sistem moderasi multimodal OpenAI yang ditingkatkan. OpenAI menyatakan bahwa generasi ini dibangun di atas GPT-4o, meningkatkan akurasi dibanding model moderasi sebelumnya, dan terutama lebih kuat untuk konten non-Inggris. Materi peluncuran yang sama juga menyebutkan bahwa model moderasi tersedia melalui Moderation API tanpa biaya bagi pengembang.

Apa itu omni-moderation-2024-09-26?

omni-moderation-2024-09-26 adalah model moderasi versi tetap yang digunakan untuk mengidentifikasi konten yang berpotensi berbahaya dalam masukan aplikasi, sebelum atau setelah konten tersebut sampai ke pengguna akhir. Dalam praktiknya, pengembang menggunakannya untuk mengklasifikasikan teks, gambar, atau payload multimodal campuran yang dibuat pengguna ke dalam kategori risiko yang relevan dengan kebijakan seperti kekerasan, kebencian, pelecehan, konten seksual, dan menyakiti diri sendiri.

Dibandingkan dengan model moderasi teks lama, snapshot ini termasuk dalam tumpukan moderasi multimodal OpenAI yang lebih baru. OpenAI mendokumentasikan bahwa snapshot omni-moderation mendukung lebih banyak opsi kategorisasi dan masukan multimodal, sehingga direkomendasikan untuk integrasi moderasi yang baru.

Alasan utama menggunakan ID snapshot omni-moderation-2024-09-26 daripada alias yang bergulir adalah stabilitas versi. Karena ini adalah snapshot bertanggal, bukan alias bergulir omni-moderation-latest, model ini lebih cocok untuk tim yang menginginkan perilaku moderasi yang dapat direproduksi, peluncuran terkontrol, dan audit yang lebih dapat diprediksi di berbagai lingkungan. Poin stabilitas ini merupakan inferensi berorientasi implementasi berdasarkan daftar terpisah OpenAI untuk pengenal model snapshot dan latest.

Fitur utama omni-moderation-2024-09-26

• Moderasi multimodal: Mendukung masukan teks dan gambar melalui Moderation API, memungkinkan satu model mengevaluasi konten di berbagai jenis media yang umum dibuat pengguna.
• Kategorisasi keamanan yang lebih luas: OpenAI mendokumentasikan bahwa lini omni-moderation menambahkan lebih banyak opsi kategorisasi daripada model moderasi lama, termasuk kelas bahaya yang lebih baru yang diperkenalkan pada generasi ini.
• Kinerja multibahasa yang ditingkatkan: OpenAI menyatakan generasi moderasi ini lebih akurat daripada model sebelumnya, terutama pada konten non-Inggris dan bahasa dengan sumber daya lebih rendah.
• Keluaran penilaian bergaya probabilitas: Selain boolean kategori yang ditandai, OpenAI mengatakan model ini menyediakan skor kategori terkalibrasi yang membantu tim menetapkan ambang khusus aplikasi dan logika peninjauan.
• Kesadaran jenis masukan per kategori: Skema respons moderasi mencakup jenis masukan yang diterapkan di tingkat kategori, yang membantu pengembang memahami apakah suatu klasifikasi berasal dari teks, gambar, atau keduanya.
• Kontrol versi snapshot: Karena omni-moderation-2024-09-26 adalah snapshot dengan versi eksplisit, ini berguna untuk pengujian regresi, benchmarking keamanan, dan penerapan produksi yang terkontrol di mana konsistensi penting. Ini merupakan inferensi berorientasi implementasi dari penamaan model snapshot dan dukungan API OpenAI.

Cara mengakses dan mengintegrasikan omni-moderation-2024-09-26

Langkah 1: Daftar untuk Kunci API

Untuk memulai, daftar di CometAPI dan buat kunci API dari dasbor. Setelah Anda memiliki kunci yang aktif, Anda dapat menggunakannya untuk mengautentikasi semua permintaan ke API omni-moderation-2024-09-26 melalui gateway model terpadu CometAPI.

Langkah 2: Kirim Permintaan ke API omni-moderation-2024-09-26

Gunakan format API CometAPI yang kompatibel dengan OpenAI dan tentukan model sebagai omni-moderation-2024-09-26. Kirim payload moderasi Anda sebagai teks, atau sebagai array masukan multimodal saat mengklasifikasikan konten gabungan gambar-plus-teks. Dokumentasi resmi Moderation API OpenAI menunjukkan bahwa ID model ini valid untuk permintaan moderasi dan bahwa endpoint menerima string teks biasa maupun objek masukan multimodal terstruktur.

curl https://api.cometapi.com/v1/moderations \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer $COMETAPI_API_KEY" \
  -d '{
    "model": "omni-moderation-2024-09-26",
    "input": "Example content to classify"
  }'

Langkah 3: Ambil dan Verifikasi Hasil

Setelah mengirim permintaan, periksa respons untuk hasil moderasi tingkat atas, status penandaan, boolean kategori, dan skor kategori. Skema respons moderasi OpenAI juga mencakup detail per kategori yang dapat digunakan untuk penetapan ambang, antrean peninjauan, dan logika penegakan kebijakan. Dalam produksi, verifikasikan hasil dengan menguji kasus batas yang representatif dari aplikasi Anda sendiri, membandingkan hasil dengan ekspektasi kebijakan internal, dan mencatat ID model snapshot omni-moderation-2024-09-26 sehingga perilaku moderasi tetap dapat ditelusuri dari waktu ke waktu.