Технические характеристики omni-moderation-latest
| Атрибут | Сведения |
|---|---|
| Идентификатор модели | omni-moderation-latest |
| Провайдер | OpenAI |
| Тип модели | Модель модерации для классификации по критериям безопасности |
| Основной сценарий использования | Обнаружение потенциально вредного контента во вводах пользователей или выводах модели |
| Поддерживаемые входные данные | Текст и изображения |
| Тип вывода | Структурированные результаты модерации в виде текста/JSON, включая флаги, категории и оценки |
| Конечная точка | Moderations API |
| Мультимодальная поддержка | Да; поддерживает мультимодальные объекты ввода, включая URL изображений или данные изображений в base64 |
| Статус по умолчанию/последний | OpenAI указывает её как последнюю модель семейства omni moderation и рекомендуемый выбор для новых интеграций модерации |
| Альтернатива из наследия | text-moderation-latest — более старая текстовая версия с меньшим числом категорий |
| Профиль производительности | По данным OpenAI, это высокоэффективная модерация со средней скоростью |
| Цены | OpenAI описывает модели модерации как бесплатные |
Что такое omni-moderation-latest?
omni-moderation-latest — актуальная модель модерации OpenAI для выявления небезопасного или чувствительного к политике контента в тексте и изображениях. Она предназначена для разработчиков, которым необходимо проверять пользовательские запросы, загруженные медиа или сгенерированные моделью ответы до их показа конечным пользователям или передачи в последующие системы.
OpenAI представила omni-moderation-latest как мультимодальное обновление более ранних моделей модерации. Согласно документации OpenAI, она более функциональна, чем устаревшие текстовые варианты модерации, поддерживает более широкую категоризацию и является лучшим выбором для новых приложений, использующих конечную точку модерации.
На практике команды используют omni-moderation-latest для модерации входящих данных, модерации выходов, конвейеров доверия и безопасности, фильтрации форумов, проверки социального контента и рабочих процессов по обнаружению злоупотреблений, когда требуется быстрое автоматическое ранжирование перед ручной проверкой или применением правил. Это вывод на уровне приложений, основанный на руководстве по модерации OpenAI и дизайне API.
Основные возможности omni-moderation-latest
- Мультимодальная модерация: Модель принимает на вход и текст, и изображения, что делает её подходящей для современных приложений, которым необходимо оценивать пользовательские сообщения вместе с загруженным визуальным контентом.
- Более широкая категоризация по безопасности: OpenAI заявляет, что семейство omni moderation поддерживает больше вариантов категоризации, чем устаревшие текстовые модели модерации.
- Структурированный вывод по безопасности: Ответы включают объект модерации с полями, такими как
flagged, метки категорий и баллы категорий, что упрощает автоматизацию логики разрешения, блокировки, отправки на проверку или эскалации. - Улучшенная точность: OpenAI сообщила, что
omni-moderation-latestточнее предыдущего поколения модерации, особенно для неанглоязычного контента. - Поддержка классификации с учётом изображений: API может принимать URL изображений или закодированные в base64 данные изображений в качестве входа для модерации, что позволяет проверять загруженные или связанные визуальные материалы.
- Лучший выбор для новых интеграций: Руководство по модерации OpenAI явно рекомендует более новые модели omni moderation для новых приложений вместо устаревшего семейства текстовых моделей.
- Бесплатное использование модерации со стороны провайдера: В перечне моделей OpenAI модерационные модели описаны как бесплатные, что делает их привлекательными для масштабных рабочих процессов фильтрации по безопасности.
Как получить доступ и интегрировать omni-moderation-latest
Шаг 1: Зарегистрируйтесь и получите ключ API
Чтобы начать использовать omni-moderation-latest, сначала зарегистрируйтесь в CometAPI и сгенерируйте ключ API на панели управления. После создания ключа сохраните его в защищённой переменной окружения, например COMETAPI_API_KEY. Этот ключ будет использоваться для аутентификации каждого запроса к модели.
Шаг 2: Отправляйте запросы к API omni-moderation-latest
Получив ключ API, вы можете вызывать совместимую с OpenAI конечную точку чат-API в CometAPI, указав в качестве модели omni-moderation-latest. Пример:
curl https://api.cometapi.com/v1/moderations \
-H "Content-Type: application/json" \
-H "Authorization: Bearer $COMETAPI_API_KEY" \
-d '{
"model": "omni-moderation-latest",
"input": "Sample text to classify for safety."
}'
Вы также можете отправлять мультимодальные входные данные для модерации, когда ваш рабочий процесс включает изображения, при условии что ваш клиент и формат запроса соответствуют исходной схеме модерации, поддерживаемой моделью. Документация по Moderations API OpenAI показывает, что omni-moderation-latest поддерживает текстовые строки, массивы строк и мультимодальные объекты ввода.
Шаг 3: Получайте и проверяйте результаты
Ответ API вернёт объект результата модерации, содержащий используемую модель, решение flagged, метки категорий и оценки категорий. Получив ответ, проверьте, превышает ли контент порог вашей политики, прежде чем допускать его в продуктовый поток. В продакшене многие команды сочетают автоматические пороги с логированием, очередями ручной проверки и бизнес-правилами, специфичными для политики.