Spesifikasi Teknikal bagi omni-moderation-2024-09-26
omni-moderation-2024-09-26 ialah model pemoderasian snapshot yang didedahkan melalui Moderation API OpenAI, dan rujukan API OpenAI menyenaraikan dengan jelas ID model tepat ini sebagai pilihan model pemoderasian yang disokong. Ia merupakan sebahagian daripada keluarga omni-moderation yang lebih baharu, bukannya barisan pemoderasian teks sahaja yang lama.
Berdasarkan dokumentasi model dan pemoderasian OpenAI, model ini direka untuk pengelasan keselamatan kandungan, menerima input teks dan imej, dan mengembalikan hasil pemoderasian bukannya output teks generatif. OpenAI menerangkan keluarga omni-moderation sebagai tawaran pemoderasian paling berkeupayaan, dengan sokongan multimodal dan pengkategorian lebih luas berbanding model pemoderasian legasi.
Sebagai snapshot bertarikh 26 September 2024, omni-moderation-2024-09-26 sepadan dengan generasi pelancaran sistem pemoderasian multimodal dinaik taraf oleh OpenAI. OpenAI menyatakan generasi ini dibina berasaskan GPT-4o, meningkatkan ketepatan berbanding model pemoderasian terdahulu, dan khususnya lebih kukuh untuk kandungan bukan bahasa Inggeris. Bahan pelancaran yang sama turut menyatakan bahawa model pemoderasian disediakan melalui Moderation API tanpa kos kepada pembangun.
Apakah omni-moderation-2024-09-26?
omni-moderation-2024-09-26 ialah model pemoderasian versi tetap yang digunakan untuk mengenal pasti kandungan yang berpotensi berbahaya dalam input aplikasi sebelum atau selepas ia sampai kepada pengguna akhir. Dalam amalan, pembangun menggunakannya untuk mengelaskan teks, imej atau muatan multimodal bercampur bagi kategori risiko berkaitan dasar seperti keganasan, kebencian, gangguan, kandungan seksual dan mencederakan diri.
Berbanding model pemoderasian teks legasi, snapshot ini tergolong dalam timbunan pemoderasian multimodal baharu OpenAI. OpenAI mendokumentasikan bahawa snapshot omni-moderation menyokong lebih banyak pilihan pengkategorian dan input multimodal, menjadikannya pilihan yang disyorkan untuk integrasi pemoderasian baharu.
Sebab utama menggunakan ID snapshot omni-moderation-2024-09-26 dan bukannya alias bergerak ialah kestabilan versi. Memandangkan ia snapshot bertarikh dan bukannya alias bergulir omni-moderation-latest, ia lebih sesuai untuk pasukan yang mahukan tingkah laku pemoderasian yang boleh dihasilkan semula, penggelaran terkawal, dan pengauditan yang lebih boleh dijangka merentas persekitaran. Titik kestabilan ini ialah inferens pelaksanaan berdasarkan penyenaraian berasingan OpenAI bagi pengecam model snapshot dan latest.
Ciri utama omni-moderation-2024-09-26
- Pemoderasian multimodal: Menyokong kedua-dua input teks dan imej melalui Moderation API, membolehkan satu model menilai kandungan merentas jenis media umum yang dihasilkan pengguna.
- Pengkategorian keselamatan yang lebih luas: OpenAI mendokumentasikan bahawa barisan omni-moderation menambah lebih banyak pilihan pengkategorian berbanding model pemoderasian legasi, termasuk kelas kemudaratan baharu yang diperkenalkan dalam generasi ini.
- Prestasi berbilang bahasa yang dipertingkat: OpenAI menyatakan generasi pemoderasian ini lebih tepat daripada model sebelumnya, khususnya dalam tetapan bukan bahasa Inggeris dan bahasa sumber rendah.
- Output pemarkahan berasaskan kebarangkalian: Selain boolean kategori yang ditandai, OpenAI menyatakan model ini menyediakan skor kategori yang ditentukur bagi membantu pasukan mentakrifkan ambang khusus aplikasi dan logik semakan.
- Kesedaran jenis input mengikut kategori: Skema respons pemoderasian merangkumi jenis input yang diterapkan di peringkat kategori, yang membantu pembangun memahami sama ada sesuatu pengelasan datang daripada teks, imej atau kedua-duanya.
- Kawalan versi snapshot: Oleh kerana
omni-moderation-2024-09-26ialah snapshot yang jelas versinya, ia berguna untuk ujian regresi, penanda aras keselamatan, dan pelaksanaan produksi terkawal di mana konsistensi penting. Ini ialah inferens berorientasikan pelaksanaan berdasarkan penamaan model snapshot dan sokongan API OpenAI.
Cara mengakses dan mengintegrasikan omni-moderation-2024-09-26
Langkah 1: Daftar untuk Kunci API
Untuk bermula, daftar di CometAPI dan jana kunci API anda daripada papan pemuka. Setelah anda mempunyai kunci aktif, anda boleh menggunakannya untuk mengesahkan semua permintaan ke API omni-moderation-2024-09-26 melalui gerbang model bersatu CometAPI.
Langkah 2: Hantar Permintaan ke API omni-moderation-2024-09-26
Gunakan format API serasi OpenAI CometAPI dan tetapkan model sebagai omni-moderation-2024-09-26. Hantar muatan pemoderasian anda sebagai teks, atau sebagai tatasusunan input multimodal apabila mengelaskan kandungan imej-plus-teks. Dokumentasi rasmi Moderation API OpenAI menunjukkan bahawa ID model ini adalah sah untuk permintaan pemoderasian dan bahawa titik akhir menerima sama ada rentetan teks biasa atau objek input multimodal berstruktur.
curl https://api.cometapi.com/v1/moderations \
-H "Content-Type: application/json" \
-H "Authorization: Bearer $COMETAPI_API_KEY" \
-d '{
"model": "omni-moderation-2024-09-26",
"input": "Example content to classify"
}'
Langkah 3: Dapatkan dan Sahkan Keputusan
Selepas menghantar permintaan, periksa respons untuk hasil pemoderasian peringkat atas, status ditandai, boolean kategori, dan skor kategori. Skema respons pemoderasian OpenAI juga merangkumi butiran per kategori yang boleh digunakan untuk penetapan ambang, barisan semakan, dan logik penguatkuasaan dasar. Dalam produksi, sahkan keputusan dengan menguji kes pinggiran yang mewakili daripada aplikasi anda sendiri, membandingkan hasil dengan jangkaan dasar dalaman, dan merekodkan ID model snapshot omni-moderation-2024-09-26 agar tingkah laku pemoderasian kekal boleh dikesan dari semasa ke semasa.