Spécifications techniques de omni-moderation-latest
| Attribut | Détails |
|---|---|
| ID du modèle | omni-moderation-latest |
| Fournisseur | OpenAI |
| Type de modèle | Modèle de modération pour la classification de sécurité |
| Cas d’usage principal | Détection de contenus potentiellement nuisibles dans les entrées utilisateur ou les sorties de modèle |
| Entrées prises en charge | Texte et images |
| Type de sortie | Résultats de modération structurés au format texte/JSON, incluant des indicateurs, des catégories et des scores |
| Point de terminaison | Moderations API |
| Prise en charge multimodale | Oui ; prend en charge des objets d’entrée multimodaux, y compris des URL d’images ou des données d’images en base64 |
| Statut actuel/par défaut | OpenAI le documente comme le dernier modèle de modération omni et le choix recommandé pour les nouvelles intégrations de modération |
| Alternative héritée | text-moderation-latest est l’ancienne option uniquement texte avec moins de catégorisations |
| Profil de performance | OpenAI l’indique comme une modération haute performance avec une vitesse moyenne |
| Tarification | OpenAI décrit les modèles de modération comme des modèles gratuits |
Qu’est-ce que omni-moderation-latest ?
omni-moderation-latest est le modèle de modération actuel d’OpenAI pour identifier les contenus non sûrs ou sensibles aux politiques dans le texte et les images. Il est conçu pour les développeurs qui doivent filtrer les invites des utilisateurs, les médias téléversés ou les sorties générées par des modèles avant que ces éléments ne soient présentés aux utilisateurs finaux ou transmis à des systèmes en aval.
OpenAI a introduit omni-moderation-latest comme une mise à niveau multimodale par rapport aux modèles de modération antérieurs. Selon la documentation d’OpenAI, il est plus performant que les options héritées uniquement texte, prend en charge une catégorisation plus large et constitue le meilleur choix pour les nouvelles applications utilisant le point de terminaison de modération.
En pratique, les équipes utilisent omni-moderation-latest pour la modération des entrées, la modération des sorties, les flux Trust & Safety, le filtrage de forums, la revue de contenus sociaux et les workflows de détection d’abus où un triage automatisé rapide est nécessaire avant un examen humain ou une logique d’application. Il s’agit d’une inférence au niveau de l’application basée sur les recommandations de modération d’OpenAI et la conception de l’API.
Principales fonctionnalités de omni-moderation-latest
- • Multimodal moderation: Le modèle accepte à la fois des entrées texte et image, ce qui le rend adapté aux applications modernes qui doivent évaluer des messages utilisateur avec des contenus visuels téléversés.
- • Broader safety categorization: OpenAI indique que la famille de modération omni prend en charge davantage d’options de catégorisation que les modèles hérités uniquement texte.
- • Structured safety output: Les réponses incluent un objet de modération avec des champs tels que
flagged, des libellés de catégories et des scores de catégories, ce qui facilite l’automatisation des logiques d’autorisation, de blocage, de revue ou d’escalade. - • Improved accuracy: OpenAI a signalé que
omni-moderation-latestest plus précis que la génération précédente, en particulier pour les contenus non anglophones. - • Image-aware classification support: L’API peut ingérer des URL d’images ou des données d’images encodées en base64 comme entrées de modération, permettant le filtrage des ressources visuelles téléversées ou liées.
- • Best fit for new integrations: Le guide de modération d’OpenAI recommande explicitement les nouveaux modèles de modération omni pour les nouvelles intégrations plutôt que la famille héritée uniquement texte.
- • Free moderation usage from the provider side: La liste des modèles d’OpenAI décrit les modèles de modération comme gratuits, ce qui peut les rendre attractifs pour des workflows de filtrage de sécurité à grande échelle.
Comment accéder à et intégrer omni-moderation-latest
Étape 1 : S’inscrire et obtenir une clé API
Pour commencer à utiliser omni-moderation-latest, inscrivez-vous sur CometAPI et générez votre clé API depuis le tableau de bord. Après avoir créé la clé, stockez-la en toute sécurité dans une variable d’environnement telle que COMETAPI_API_KEY. Cette clé sera utilisée pour authentifier chaque requête envoyée au modèle.
Étape 2 : Envoyer des requêtes à l’API de omni-moderation-latest
Une fois votre clé API disponible, vous pouvez appeler le point de terminaison compatible OpenAI sur CometAPI en spécifiant omni-moderation-latest comme modèle. Exemple :
curl https://api.cometapi.com/v1/moderations \
-H "Content-Type: application/json" \
-H "Authorization: Bearer $COMETAPI_API_KEY" \
-d '{
"model": "omni-moderation-latest",
"input": "Texte d’exemple à évaluer pour la sécurité."
}'
Vous pouvez également envoyer une entrée de modération multimodale lorsque votre workflow inclut des images, à condition que votre client et le format de requête suivent le schéma de modération en amont pris en charge par le modèle. La documentation de l’API de modération d’OpenAI indique que omni-moderation-latest prend en charge des chaînes de texte, des tableaux de chaînes et des objets d’entrée multimodaux.
Étape 3 : Récupérer et vérifier les résultats
La réponse de l’API renverra un objet de résultat de modération contenant le modèle utilisé, une décision flagged, des libellés de catégories et des scores de catégories. Après réception de la réponse, vérifiez si le contenu dépasse le seuil de politique de votre application avant de l’autoriser dans votre flux produit. En production, de nombreuses équipes combinent un seuillage automatisé avec de la journalisation, des files d’examen manuel et des règles métiers spécifiques aux politiques.