omni-moderation-2024-09-26 техникалық сипаттамалары
omni-moderation-2024-09-26 — OpenAI Moderation API арқылы қолжетімді снапшот модерация моделі, әрі OpenAI-дің API анықтамалығында осы дәл модель идентификаторы қолдау көрсетілетін модерация моделі ретінде нақты көрсетілген. Ол ескі тек мәтіндік модерация желісінен емес, жаңа omni-moderation отбасына жатады.
OpenAI-дің модельдер мен модерация құжаттамасына сәйкес, бұл модель контент қауіпсіздігін жіктеуге арналған, мәтін мен кескін енгізулерін қабылдайды және генеративті мәтін емес, модерация нәтижелерін қайтарады. OpenAI omni-moderation отбасын мультимодальды қолдауы және мұрадағы модерация модельдеріне қарағанда кеңірек санаттауы бар, ең қуатты модерация ұсынымы ретінде сипаттайды.
2024 жылғы 26 қыркүйектегі снапшот ретінде, omni-moderation-2024-09-26 OpenAI-дің жаңартылған мультимодальды модерация жүйесінің іске қосылған буынына сәйкес келеді. OpenAI бұл буын GPT-4o негізінде құрылғанын, бұрынғы модерация модельдеріне қарағанда дәлдігін арттырғанын және әсіресе ағылшынша емес контентте мықтырақ екенін мәлімдейді. Сол іске қосу материалдары модерация модельдері Moderation API арқылы әзірлеушілер үшін тегін қолжетімді екенін де атап өтеді.
omni-moderation-2024-09-26 деген не?
omni-moderation-2024-09-26 — соңғы нұсқасы бекітілген модерация моделі, ол қосымшаға кіретін не пайдаланушыға жетпестен бұрынғы контенттегі ықтимал зиянды мазмұнды анықтау үшін қолданылады. Тәжірибеде әзірлеушілер оны пайдаланушының мәтінін, кескіндерін немесе аралас мультимодальды жүктемелерін зорлық-зомбылық, жеккөрушілік, қудалау, сексуалдық мазмұн және өз-өзіне зиян келтіру секілді саясатқа қатысты қатер санаттары бойынша жіктеуге пайдаланады.
Мұрадағы тек мәтіндік модерация модельдерімен салыстырғанда, бұл снапшот OpenAI-дің жаңа мультимодальды модерация стегіне жатады. OpenAI құжаттамасы omni-moderation снапшоттарының санаттау мүмкіндіктері көбірек және мультимодальды енгізулерді қолдайтынын көрсетеді, сондықтан олар жаңа модерация интеграциялары үшін ұсынылады.
Жылжымалы alias орнына omni-moderation-2024-09-26 снапшот идентификаторын пайдаланудың негізгі себебі — нұсқа тұрақтылығы. Бұл дата белгіленген снапшот болғандықтан, ол жаңарып тұратын omni-moderation-latest alias-қа қарағанда қайталанатын модерация мінез-құлқын, басқарылатын шығарылымдарды және орталар бойынша болжамды аудитті қажет ететін командаларға жақсырақ келеді. Бұл тұрақтылық туралы ой OpenAI-дің снапшот және latest модель идентификаторларын бөлек көрсетуіне негізделген іске асыруға бағытталған тұжырым болып табылады.
omni-moderation-2024-09-26 негізгі мүмкіндіктері
- Мультимодальды модерация: Moderation API арқылы мәтін мен кескін енгізулерін қолдайды, осылайша бір модель пайдаланушы жасаған кең таралған медиа түрлерін бірдей бағалай алады.
- Кеңейтілген қауіпсіздік санаттары: OpenAI құжаттамасы omni-moderation желісі мұрадағы модерация модельдеріне қарағанда көбірек санаттау опцияларын, соның ішінде осы буында енгізілген жаңа зиян түрлерін қамтитынын көрсетеді.
- Көптілді өнімділіктің жақсаруы: OpenAI бұл модерация буынының бұрынғыларға қарағанда дәлірек екенін, әсіресе ағылшынша емес және ресурсы төмен тілдерде нәтижесі жақсарғанын айтады.
- Ықтималдық тәрізді ұпайлау шығарысы: Белгіленген санаттар бойынша логикалық мәндерден бөлек, модель калибрленген санаттық ұпайларды береді, бұл командаларға қолданбаға тән шектер мен шолу логикасын анықтауға көмектеседі.
- Санат бойынша енгізу түрін көрсету: Модерация жауабының схемасы санат деңгейінде қолданылған енгізу түрлерін (мәтін, кескін немесе екеуі де) қамтиды, бұл белгілі бір жіктеудің қай енгізуге негізделгенін түсінуге мүмкіндік береді.
- Снапшот нұсқамен нұсқа бақылауы:
omni-moderation-2024-09-26— нақты нұсқаланған снапшот болғандықтан, регрессиялық тестілеу, қауіпсіздік бенчмаркингі және біркелкілік маңызды өндірістік жөнелтулер үшін пайдалы. Бұл — OpenAI-дің снапшот және API-де қолдау көрсетілетін модель атауларына негізделген іске асыруға бағытталған тұжырым.
omni-moderation-2024-09-26 қолжеткізу және біріктіру жолы
1-қадам: API кілтіне тіркелу
Бастау үшін CometAPI-ге тіркеліп, бақылау тақтасынан API кілтіңізді жасаңыз. Белсенді кілт алғаннан кейін, оны CometAPI-дің бірыңғай модель шлюзі арқылы omni-moderation-2024-09-26 API-іне барлық сұрауларды аутентификациялау үшін пайдалана аласыз.
2-қадам: omni-moderation-2024-09-26 API-іне сұраулар жіберу
CometAPI-дің OpenAI-мен үйлесімді API пішімін пайдаланып, модель ретінде omni-moderation-2024-09-26 көрсетіңіз. Модерация жүктемесін мәтін ретінде немесе кескін мен мәтіннен тұратын мультимодальды енгізу массиві ретінде жіберіңіз. OpenAI-дің ресми Moderation API құжаттамасы бұл модель идентификаторы модерация сұраулары үшін жарамды екенін және эндпойнттың қарапайым мәтін жолдарын да, құрылымды мультимодальды енгізу объектілерін де қабылдайтынын көрсетеді.
curl https://api.cometapi.com/v1/moderations \
-H "Content-Type: application/json" \
-H "Authorization: Bearer $COMETAPI_API_KEY" \
-d '{
"model": "omni-moderation-2024-09-26",
"input": "Example content to classify"
}'
3-қадам: Нәтижелерді алу және тексеру
Сұрауды жібергеннен кейін, жауаптағы жоғарғы деңгейдегі модерация нәтижесін, белгіленген мәртебені, санаттар бойынша логикалық мәндерді және санат ұпайларын тексеріңіз. OpenAI-дің модерация жауабының схемасы шектік мәндерді орнату, шолу кезектері және саясатты қолдану логикасы үшін пайдалануға болатын санат бойынша егжей-тегжейлерді де қамтиды. Өндірісте, өз қолданбаңыздағы өкілдік шеткі жағдайларды сынау арқылы нәтижелерді тексеріңіз, нәтижелерді ішкі саясат күтілімдерімен салыстырыңыз және модерация мінез-құлқы уақыт өте бақыланатындай, снапшот модель идентификаторы omni-moderation-2024-09-26 мәнін журналға жазыңыз.