omni-moderation-latest техникалық сипаттамалары
| Атрибут | Мәліметтер |
|---|---|
| Модель идентификаторы | omni-moderation-latest |
| Қызмет көрсетуші | OpenAI |
| Модель түрі | Қауіпсіздікті жіктеуге арналған модерация моделі |
| Негізгі қолдану мақсаты | Пайдаланушы енгізілімдерінде немесе модель шығуларында әлеуетті зиянды мазмұнды анықтау |
| Қолдау көрсетілетін енгізу түрлері | Мәтін және суреттер |
| Шығыс түрі | Жалаушалар, санаттар және ұпайларды қамтитын мәтін/JSON түріндегі құрылымдалған модерация нәтижелері |
| Эндпоинт | Moderations API |
| Көпмодальды қолдау | Иә; сурет URL-дарын немесе base64 сурет деректерін қоса алғанда, көпмодальды енгізу объектілерін қолдайды |
| Әдепкі/соңғы күйі | OpenAI оны ең соңғы omni модерация моделі және жаңа модерация интеграциялары үшін ұсынылатын таңдау ретінде құжаттайды |
| Мұраға қалған балама | text-moderation-latest — санаттандыруы азырақ, тек мәтінге арналған ескі нұсқа |
| Өнімділік профилі | OpenAI оны орташа жылдамдықпен жоғары өнімді модерация ретінде көрсетеді |
| Баға белгілеу | OpenAI модерация модельдерін тегін модельдер ретінде сипаттайды |
omni-moderation-latest деген не?
omni-moderation-latest — мәтін мен суреттердегі қауіпсіз емес немесе саясатқа сезімтал мазмұнды анықтауға арналған OpenAI-дың қазіргі модерация моделі. Ол әзірлеушілерге пайдаланушының сұрауларын, жүктелген медиафайлдарын немесе модель тудыратын шығуларын соңғы пайдаланушыға көрсету немесе төменгі деңгейдегі жүйелерге өткізу алдында сүзгіден өткізу үшін қажет.
OpenAI omni-moderation-latest моделін алдыңғы модерация модельдерінің көпмодальды жаңартуы ретінде енгізді. OpenAI құжаттамасына сәйкес, ол мұрадағы тек мәтіндік модерация нұсқаларына қарағанда қабілетті, санаттаудың кеңірек ауқымын қолдайды және модерация эндпоинтін пайдаланатын жаңа қолданбалар үшін ең үздік таңдау болып табылады.
Іс жүзінде командалар omni-moderation-latest моделін кіріс модерациясы, шығыс модерациясы, сенім мен қауіпсіздік құбырлары, форумдарды сүзу, әлеуметтік контентті шолу және теріс пайдалану анықтау сияқты, адам шолуынан немесе атқару логикасынан бұрын жедел автоматтандырылған триаж қажет болатын жұмыс ағындары үшін пайдаланады. Бұл OpenAI-дың модерация жөніндегі нұсқаулығы мен API дизайнына негізделген қолданбалық деңгейдегі тұжырым.
omni-moderation-latest негізгі мүмкіндіктері
- Көпмодальды модерация: Модель мәтін мен сурет енгізулерін қабылдайды, бұл пайдаланушы хабарламаларын жүктелген визуалды мазмұнмен қатар бағалау қажет заманауи қолданбаларға жарамды етеді.
- Қауіпсіздік санаттарының кеңейтілген ауқымы: OpenAI omni модерация отбасында мұрадағы мәтіндік модерация модельдеріне қарағанда көбірек санаттау нұсқалары бар екенін атап өтеді.
- Құрылымдалған қауіпсіздік шығысы: Жауаптарда
flagged, санат белгілері және санат ұпайлары сияқты өрістері бар модерация объектісі қайтарылады, бұл рұқсат беру, бұғаттау, шолу немесе эскалация логикасын автоматтандыруды жеңілдетеді. - Дәлдіктің жақсаруы: OpenAI
omni-moderation-latestмоделінің алдыңғы буынға қарағанда, әсіресе ағылшыннан басқа тілдерде, анағұрлым дәл екенін хабарлады. - Суреттерді ескеретін жіктеу қолдауы: API модерация енгізулері ретінде сурет URL-дарын немесе base64-пен кодталған сурет деректерін қабылдай алады, бұл жүктелген немесе байланыстырылған визуалды активтерді тексеруді мүмкін етеді.
- Жаңа интеграциялар үшін ең қолайлы: OpenAI модерация жөніндегі нұсқаулығы мұрадағы тек мәтіндік модельдер орнына жаңа қолданбаларға арналған omni модерация модельдерін пайдалануды айқын ұсынады.
- Қызмет көрсетуші тарапынан модерацияны тегін пайдалану: OpenAI тізімінде модерация модельдері тегін деп көрсетіледі, бұл оларды ауқымды қауіпсіздік сүзгілеу жұмыс ағындары үшін тартымды етеді.
omni-moderation-latest-ке қалай қол жеткізу және интеграциялау
1-қадам: API кілтін алу үшін тіркелу
omni-moderation-latest моделін пайдалануды бастау үшін алдымен CometAPI қызметінде тіркеліп, бақылау тақтасында API кілтіңізді жасаңыз. Кілтті жасағаннан кейін, оны COMETAPI_API_KEY сияқты қоршаған орта айнымалысына қауіпсіз түрде сақтаңыз. Бұл кілт модельге жіберілетін әрбір сұрауды аутентификациялау үшін қолданылады.
2-қадам: omni-moderation-latest API-іне сұраулар жіберу
API кілті болғаннан кейін, CometAPI-дағы OpenAI-мен үйлесімді чат эндпоинтіне сұрау жіберіп, модель ретінде omni-moderation-latest көрсетіңіз. Мысал:
curl https://api.cometapi.com/v1/moderations \
-H "Content-Type: application/json" \
-H "Authorization: Bearer $COMETAPI_API_KEY" \
-d '{
"model": "omni-moderation-latest",
"input": "Sample text to classify for safety."
}'
Егер жұмыс ағыныңызда суреттер болса және клиентіңіз бен сұрау форматы модель қолдайтын жоғары деңгейдегі модерация схемасына сәйкес келсе, көпмодальды модерация енгізуін де жібере аласыз. OpenAI модерация API құжаттамасында omni-moderation-latest мәтін жолдарын, жолдар массивтерін және көпмодальды енгізу объектілерін қолдайтыны көрсетілген.
3-қадам: Нәтижелерді алу және тексеру
API жауабы қолданылған модельді, flagged шешімін, санат деңгейіндегі белгілерді және санат ұпайларын қамтитын модерация нәтижесі объектісін қайтарады. Жауапты алғаннан кейін, мазмұнның өнім ағыныңызға енуіне рұқсат бермес бұрын, ол сіздің қолданбаңыздың саясаттық шекті мәнінен асып кетпегенін тексеріңіз. Өндірістік ортада көптеген командалар автоматтандырылған шекті мәндер қолдануды журналдандырумен, қолмен шолу кезектерімен және саясатқа тән бизнес ережелерімен біріктіреді.