Especificaciones técnicas de omni-moderation-latest
| Atributo | Detalles |
|---|---|
| ID del modelo | omni-moderation-latest |
| Proveedor | OpenAI |
| Tipo de modelo | Modelo de moderación para clasificación de seguridad |
| Caso de uso principal | Detección de contenido potencialmente dañino en entradas de usuario o salidas del modelo |
| Entradas admitidas | Texto e imágenes |
| Tipo de salida | Resultados de moderación estructurados en forma de texto/JSON, incluidos indicadores, categorías y puntuaciones |
| Endpoint | Moderations API |
| Compatibilidad multimodal | Sí; admite objetos de entrada multimodales, incluidos URL de imágenes o datos de imágenes en base64 |
| Estado predeterminado/último | OpenAI lo documenta como el modelo omni de moderación más reciente y la opción recomendada para nuevas integraciones de moderación |
| Alternativa heredada | text-moderation-latest es la opción más antigua solo de texto con menos categorizaciones |
| Perfil de rendimiento | OpenAI lo califica como moderación de alto rendimiento con velocidad media |
| Precios | OpenAI describe los modelos de moderación como modelos gratuitos |
¿Qué es omni-moderation-latest?
omni-moderation-latest es el modelo de moderación actual de OpenAI para identificar contenido inseguro o sensible a políticas en texto e imágenes. Está diseñado para desarrolladores que necesitan filtrar indicaciones de usuario, medios cargados o salidas generadas por modelos antes de mostrarlas a usuarios finales o pasarlas a sistemas posteriores.
OpenAI presentó omni-moderation-latest como una actualización multimodal respecto a modelos de moderación anteriores. Según la documentación de OpenAI, es más capaz que las opciones heredadas solo de texto, ofrece una categorización más amplia y es la mejor elección para nuevas aplicaciones que usen el endpoint de moderación.
En la práctica, los equipos usan omni-moderation-latest para moderación de entradas, moderación de salidas, canalizaciones de confianza y seguridad, filtrado de foros, revisión de contenido social y flujos de detección de abuso donde se necesita un triaje automatizado rápido antes de la revisión humana o la lógica de cumplimiento. Esto es una inferencia a nivel de aplicación basada en la guía de moderación y el diseño del API de OpenAI.
Características principales de omni-moderation-latest
- Moderación multimodal: El modelo acepta entradas de texto e imagen, lo que lo hace adecuado para aplicaciones modernas que necesitan evaluar mensajes de usuario junto con contenido visual cargado.
- Categorización de seguridad más amplia: OpenAI indica que la familia omni de moderación admite más opciones de categorización que los modelos heredados de moderación de texto.
- Salida de seguridad estructurada: Las respuestas incluyen un objeto de moderación con campos como
flagged, etiquetas de categoría y puntuaciones por categoría, lo que facilita automatizar la lógica de permitir, bloquear, revisar o escalar. - Precisión mejorada: OpenAI informó que
omni-moderation-latestes más preciso que la generación previa de moderación, especialmente para contenido en idiomas distintos del inglés. - Compatibilidad con clasificación basada en imágenes: La API puede ingerir URL de imágenes o datos de imágenes codificados en base64 como entradas de moderación, lo que permite filtrar recursos visuales subidos o enlazados.
- Mejor ajuste para nuevas integraciones: La guía de moderación de OpenAI recomienda explícitamente los modelos omni de moderación más recientes para nuevas aplicaciones, en lugar de la familia heredada solo de texto.
- Uso de moderación gratuito por parte del proveedor: La lista de modelos de OpenAI describe los modelos de moderación como gratuitos, lo que puede hacerlos atractivos para flujos de filtrado de seguridad a gran escala.
Cómo acceder e integrar omni-moderation-latest
Paso 1: Regístrate para obtener una clave de API
Para empezar a usar omni-moderation-latest, primero regístrate en CometAPI y genera tu clave de API desde el panel. Después de crear la clave, almacénala de forma segura en una variable de entorno como COMETAPI_API_KEY. Esta clave se usará para autenticar cada solicitud que envíes al modelo.
Paso 2: Envía solicitudes a la API de omni-moderation-latest
Una vez que tengas tu clave de API, puedes llamar al endpoint de chat compatible con OpenAI en CometAPI especificando omni-moderation-latest como el modelo. Ejemplo:
curl https://api.cometapi.com/v1/moderations \
-H "Content-Type: application/json" \
-H "Authorization: Bearer $COMETAPI_API_KEY" \
-d '{
"model": "omni-moderation-latest",
"input": "Sample text to classify for safety."
}'
También puedes enviar entradas de moderación multimodales cuando tu flujo de trabajo incluya imágenes, siempre que tu cliente y el formato de la solicitud sigan el esquema de moderación upstream admitido por el modelo. La documentación del API de moderación de OpenAI muestra que omni-moderation-latest admite cadenas de texto, arreglos de cadenas y objetos de entrada multimodales.
Paso 3: Recupera y verifica los resultados
La respuesta de la API devolverá un objeto de resultado de moderación que contiene el modelo usado, una decisión flagged, etiquetas a nivel de categoría y puntuaciones por categoría. Después de recibir la respuesta, verifica si el contenido supera el umbral de políticas de tu aplicación antes de permitirlo en tu flujo de producto. Para uso en producción, muchos equipos combinan umbrales automatizados con registro, colas de revisión manual y reglas de negocio específicas de políticas.