Технические характеристики omni-moderation-2024-09-26
omni-moderation-2024-09-26 — это модель модерации-снимок, доступная через Moderation API OpenAI; в справочнике по API OpenAI этот идентификатор модели прямо указан как поддерживаемый вариант для модерации. Она относится к более новому семейству omni-moderation, а не к прежней линейке модерации, ограниченной только текстом.
Согласно документации OpenAI по моделям и модерации, эта модель предназначена для классификации с точки зрения безопасности контента, принимает на вход текст и изображения и возвращает результаты модерации, а не генерирует текст. OpenAI описывает семейство omni-moderation как своё наиболее мощное решение для модерации, с поддержкой мультимодальности и более широкими категориями по сравнению с устаревшими моделями модерации.
Поскольку это снимок от 26 сентября 2024 года, omni-moderation-2024-09-26 соответствует стартовому поколению обновлённой мультимодальной системы модерации OpenAI. OpenAI заявляет, что это поколение построено на GPT-4o, обеспечивает большую точность по сравнению с предыдущими моделями модерации и особенно лучше работает с неанглоязычным контентом. В тех же материалах запуска также отмечается, что модели модерации доступны через Moderation API бесплатно для разработчиков.
Что такое omni-moderation-2024-09-26?
omni-moderation-2024-09-26 — это фиксированная по версии модель модерации, используемая для выявления потенциально вредного контента во входных данных приложений до или после того, как они достигнут конечных пользователей. На практике разработчики используют её для классификации пользовательского текста, изображений или смешанных мультимодальных данных по релевантным политике категориям риска, таким как насилие, ненависть, домогательства, сексуальный контент и самоповреждение.
По сравнению с устаревшими текстовыми моделями модерации этот снимок относится к более новому мультимодальному стеку модерации OpenAI. В документации OpenAI указано, что снимки omni-moderation поддерживают больше вариантов категоризации и мультимодальные входные данные, поэтому они рекомендуются для новых интеграций модерации.
Ключевая причина использовать идентификатор снимка omni-moderation-2024-09-26 вместо подвижного алиаса — стабильность версии. Поскольку это датированный снимок, а не обновляемый псевдоним omni-moderation-latest, он лучше подходит для команд, которым нужны воспроизводимое поведение модерации, контролируемые релизы и более предсказуемый аудит в разных средах. Этот тезис о стабильности — вывод на уровне реализации, основанный на том, что OpenAI отдельно перечисляет идентификаторы снимков и alias latest.
Основные возможности omni-moderation-2024-09-26
- Мультимодальная модерация: Поддерживает как текстовые, так и графические входные данные через Moderation API, позволяя одной модели оценивать контент в распространённых типах пользовательских медиа.
- Более широкая категоризация по безопасности: В документации OpenAI указано, что линейка omni-moderation предлагает больше вариантов категоризации, чем устаревшие модели модерации, включая новые классы вреда, появившиеся в этом поколении.
- Улучшенная многоязычная точность: По заявлению OpenAI, это поколение модерации точнее предыдущих моделей, особенно для неанглоязычных и низкоресурсных языков.
- Вывод в виде вероятностных оценок: Помимо булевых флагов по категориям, OpenAI отмечает, что модель предоставляет калиброванные оценки по категориям, помогающие командам задавать пороги и логику проверки под нужды приложения.
- Учет типа входных данных по категориям: Схема ответа модерации включает применённые типы входных данных на уровне категории, что помогает понять, была ли классификация получена по тексту, изображению или обоим источникам.
- Контроль версий через снимки: Поскольку
omni-moderation-2024-09-26— это явно пронумерованный снимок, он полезен для регрессионного тестирования, оценки безопасности и контролируемых развёртываний в продакшене, где важна консистентность. Это вывод, ориентированный на реализацию, основанный на схеме именования снимков моделей OpenAI и поддержке в API.
Как получить доступ и интегрировать omni-moderation-2024-09-26
Шаг 1: Зарегистрируйтесь и получите ключ API
Для начала зарегистрируйтесь в CometAPI и сгенерируйте ключ API в панели управления. После получения активного ключа используйте его для аутентификации всех запросов к API omni-moderation-2024-09-26 через единый шлюз моделей CometAPI.
Шаг 2: Отправляйте запросы в API omni-moderation-2024-09-26
Используйте совместимый с OpenAI формат API CometAPI и укажите модель как omni-moderation-2024-09-26. Отправляйте полезную нагрузку модерации как текст или как мультимодальный массив входных данных при классификации контента «изображение + текст». В официальной документации Moderation API OpenAI указано, что этот идентификатор модели допустим для запросов модерации и что конечная точка принимает как обычные текстовые строки, так и структурированные объекты мультимодального ввода.
curl https://api.cometapi.com/v1/moderations \
-H "Content-Type: application/json" \
-H "Authorization: Bearer $COMETAPI_API_KEY" \
-d '{
"model": "omni-moderation-2024-09-26",
"input": "Example content to classify"
}'
Шаг 3: Получайте и проверяйте результаты
После отправки запроса проверьте в ответе итоговый результат модерации, статус флага, булевые значения по категориям и оценки по категориям. Схема ответа модерации OpenAI также включает детализацию по категориям, которую можно использовать для настройки порогов, очередей на ручную проверку и логики соблюдения политики. В продакшене проверяйте результаты, тестируя репрезентативные крайние случаи вашего приложения, сравнивая исходы с ожиданиями внутренней политики и логируя идентификатор снимка модели omni-moderation-2024-09-26, чтобы поведение модерации оставалось отслеживаемым со временем.