Spesifikasi Teknikal bagi omni-moderation-latest
| Atribut | Butiran |
|---|---|
| ID Model | omni-moderation-latest |
| Penyedia | OpenAI |
| Jenis model | Model penyederhanaan untuk pengelasan keselamatan |
| Kes penggunaan utama | Mengesan kandungan yang berpotensi memudaratkan dalam input pengguna atau output model |
| Input yang disokong | Teks dan imej |
| Jenis output | Hasil penyederhanaan berstruktur dalam bentuk teks/JSON, termasuk penanda, kategori dan skor |
| Endpoint | Moderations API |
| Sokongan multimodal | Ya; menyokong objek input multi-modal, termasuk URL imej atau data imej base64 |
| Status lalai/terkini | OpenAI mendokumentasikannya sebagai model penyederhanaan omni terkini dan pilihan yang disyorkan untuk integrasi penyederhanaan baharu |
| Alternatif legasi | text-moderation-latest ialah pilihan lama berasaskan teks sahaja dengan pengkategorian yang lebih sedikit |
| Profil prestasi | OpenAI menyenaraikannya sebagai penyederhanaan berprestasi tinggi dengan kelajuan sederhana |
| Harga | OpenAI menerangkan model penyederhanaan sebagai model percuma |
Apakah omni-moderation-latest?
omni-moderation-latest ialah model penyederhanaan terkini OpenAI untuk mengenal pasti kandungan tidak selamat atau sensitif dasar dalam teks dan imej. Ia direka untuk pembangun yang perlu menapis gesaan pengguna, media yang dimuat naik atau output model sebelum item tersebut dipaparkan kepada pengguna akhir atau dihantar ke sistem hiliran.
OpenAI memperkenalkan omni-moderation-latest sebagai peningkatan multimodal kepada model penyederhanaan terdahulu. Menurut dokumentasi OpenAI, ia lebih berkebolehan daripada pilihan penyederhanaan legasi yang hanya teks, menyokong pengkategorian yang lebih luas, dan merupakan pilihan terbaik untuk aplikasi baharu yang menggunakan endpoint penyederhanaan.
Dalam amalan, pasukan menggunakan omni-moderation-latest untuk penyederhanaan input, penyederhanaan output, saluran kepercayaan-dan-keselamatan, penapisan forum, semakan kandungan sosial dan aliran kerja pengesanan penyalahgunaan di mana triage automatik yang pantas diperlukan sebelum semakan manusia atau logik penguatkuasaan. Ini ialah inferens pada peringkat aplikasi berdasarkan panduan penyederhanaan OpenAI dan reka bentuk API.
Ciri utama omni-moderation-latest
- Multimodal moderation: Model ini menerima input teks dan imej, sesuai untuk aplikasi moden yang perlu menilai mesej pengguna bersama kandungan visual yang dimuat naik.
- Pengkategorian keselamatan yang lebih luas: OpenAI menyatakan bahawa keluarga omni moderation menyokong lebih banyak pilihan pengkategorian berbanding model penyederhanaan teks legasi.
- Output keselamatan berstruktur: Respons merangkumi objek penyederhanaan dengan medan seperti
flagged, label kategori dan skor kategori, memudahkan automasi logik benarkan, sekat, semak atau eskalasi. - Ketepatan dipertingkat: OpenAI melaporkan bahawa
omni-moderation-latestlebih tepat daripada generasi penyederhanaan sebelumnya, khususnya untuk kandungan bukan bahasa Inggeris. - Sokongan pengelasan yang mempertimbangkan imej: API boleh menerima URL imej atau data imej yang dikodkan base64 sebagai input penyederhanaan, membolehkan penapisan aset visual yang dimuat naik atau dipautkan.
- Paling sesuai untuk integrasi baharu: Panduan penyederhanaan OpenAI dengan jelas mengesyorkan model omni moderation yang lebih baharu untuk aplikasi baharu berbanding keluarga model teks sahaja legasi.
- Penggunaan penyederhanaan percuma daripada pihak penyedia: Senarai model OpenAI menerangkan bahawa model penyederhanaan adalah percuma, menjadikannya menarik untuk aliran kerja penapisan keselamatan berskala besar.
Cara mengakses dan mengintegrasikan omni-moderation-latest
Langkah 1: Daftar untuk mendapatkan Kunci API
Untuk mula menggunakan omni-moderation-latest, daftar di CometAPI dan jana kunci API anda daripada papan pemuka. Selepas mencipta kunci, simpan dengan selamat dalam pemboleh ubah persekitaran seperti COMETAPI_API_KEY. Kunci ini akan digunakan untuk mengesahkan setiap permintaan yang anda hantar kepada model.
Langkah 2: Hantar Permintaan ke API omni-moderation-latest
Sebaik sahaja anda mempunyai kunci API, anda boleh memanggil endpoint sembang yang serasi dengan OpenAI pada CometAPI sambil menetapkan omni-moderation-latest sebagai model. Contoh:
curl https://api.cometapi.com/v1/moderations \
-H "Content-Type: application/json" \
-H "Authorization: Bearer $COMETAPI_API_KEY" \
-d '{
"model": "omni-moderation-latest",
"input": "Sample text to classify for safety."
}'
Anda juga boleh menghantar input penyederhanaan multimodal apabila aliran kerja anda merangkumi imej, dengan syarat klien dan format permintaan anda mengikuti skema penyederhanaan huluan yang disokong oleh model. Dokumentasi API penyederhanaan OpenAI menunjukkan bahawa omni-moderation-latest menyokong rentetan teks, tatasusunan rentetan dan objek input multi-modal.
Langkah 3: Dapatkan dan Sahkan Keputusan
Tindak balas API akan memulangkan objek hasil penyederhanaan yang mengandungi model yang digunakan, keputusan flagged, label peringkat kategori dan skor kategori. Selepas menerima tindak balas, sahkan sama ada kandungan melepasi ambang dasar aplikasi anda sebelum membenarkannya memasuki aliran produk anda. Untuk penggunaan produksi, banyak pasukan menggabungkan penetapan ambang automatik dengan pencatatan log, barisan semakan manual dan peraturan perniagaan khusus dasar.