omni-moderation-2024-09-26

Spécifications techniques de omni-moderation-2024-09-26

omni-moderation-2024-09-26 est un modèle de modération en version instantanée (snapshot) exposé via l’API Moderation d’OpenAI, et la référence de l’API d’OpenAI répertorie explicitement cet identifiant de modèle exact comme une option de modèle de modération prise en charge. Il fait partie de la nouvelle famille omni-moderation plutôt que de l’ancienne ligne de modération uniquement textuelle.

D’après la documentation des modèles et de la modération d’OpenAI, ce modèle est conçu pour la classification de sécurité des contenus, accepte des entrées texte et image, et renvoie des résultats de modération plutôt qu’une sortie textuelle générative. OpenAI décrit la famille omni-moderation comme son offre de modération la plus performante, avec un support multimodal et une catégorisation plus large que les modèles de modération hérités.

En tant que snapshot daté du 26 septembre 2024, omni-moderation-2024-09-26 correspond à la génération de lancement du système de modération multimodal amélioré d’OpenAI. OpenAI indique que cette génération est bâtie sur GPT-4o, améliore la précision par rapport aux modèles précédents, et est particulièrement plus robuste pour les contenus non anglophones. Les mêmes documents de lancement précisent également que les modèles de modération sont disponibles via l’API Moderation sans frais pour les développeurs.

Qu’est-ce que omni-moderation-2024-09-26 ?

omni-moderation-2024-09-26 est un modèle de modération à version figée utilisé pour identifier des contenus potentiellement nuisibles dans les entrées d’applications, avant ou après qu’elles n’atteignent les utilisateurs finaux. En pratique, les développeurs l’utilisent pour classer des textes, des images ou des charges utiles multimodales mixtes selon des catégories de risque pertinentes pour les politiques, telles que la violence, la haine, le harcèlement, le contenu sexuel et l’automutilation.

Comparé aux anciens modèles de modération textuels, ce snapshot appartient à la pile de modération multimodale plus récente d’OpenAI. OpenAI documente que les snapshots omni-moderation prennent en charge davantage d’options de catégorisation et des entrées multimodales, ce qui en fait le choix recommandé pour les nouvelles intégrations de modération.

Une raison clé d’utiliser l’identifiant snapshot omni-moderation-2024-09-26 plutôt qu’un alias évolutif est la stabilité de version. Étant une version datée plutôt que l’alias roulant omni-moderation-latest, il convient mieux aux équipes qui souhaitent un comportement de modération reproductible, des déploiements contrôlés et un audit plus prévisible entre environnements. Ce point sur la stabilité est une inférence d’implémentation fondée sur la liste distincte par OpenAI des identifiants de modèles snapshot et latest.

Principales fonctionnalités de omni-moderation-2024-09-26

• Modération multimodale: Prend en charge les entrées texte et image via l’API Moderation, permettant à un seul modèle d’évaluer le contenu des types de médias générés par les utilisateurs les plus courants.
• Catégorisation de sécurité plus étendue: OpenAI documente que la ligne omni-moderation ajoute davantage d’options de catégorisation que les modèles hérités, y compris de nouvelles classes de préjudices introduites avec cette génération.
• Performances multilingues améliorées: OpenAI indique que cette génération de modération est plus précise que les modèles précédents, en particulier dans des contextes non anglophones et à faibles ressources.
• Sortie de scoring de type probabiliste: En plus des booléens de signalement par catégorie, OpenAI indique que le modèle fournit des scores de catégorie calibrés qui aident les équipes à définir des seuils et des logiques de revue spécifiques à l’application.
• Prise en compte du type d’entrée par catégorie: Le schéma de réponse de modération inclut, au niveau de chaque catégorie, les types d’entrée appliqués, ce qui aide les développeurs à comprendre si une classification provient du texte, de l’image, ou des deux.
• Contrôle de version par snapshot: Étant un snapshot explicitement versionné, omni-moderation-2024-09-26 est utile pour les tests de régression, les benchmarks de sécurité et les déploiements en production contrôlés, où la cohérence est importante. Il s’agit d’une inférence orientée implémentation tirée de la nomenclature des modèles snapshot et de l’API prise en charge.

Comment accéder et intégrer omni-moderation-2024-09-26

Étape 1: Inscription et clé API

Pour commencer, inscrivez-vous sur CometAPI et générez votre clé API depuis le tableau de bord. Une fois votre clé active, vous pouvez l’utiliser pour authentifier toutes les requêtes à l’API omni-moderation-2024-09-26 via la passerelle unifiée de modèles de CometAPI.

Étape 2: Envoyer des requêtes à l’API omni-moderation-2024-09-26

Utilisez le format d’API compatible OpenAI de CometAPI et indiquez le modèle omni-moderation-2024-09-26. Envoyez votre charge utile de modération sous forme de texte, ou sous forme de tableau d’entrée multimodale lors de la classification de contenus image + texte. La documentation officielle de l’API Moderation d’OpenAI montre que cet identifiant de modèle est valide pour les requêtes de modération et que l’endpoint accepte soit des chaînes de texte simples, soit des objets d’entrée multimodaux structurés.

curl https://api.cometapi.com/v1/moderations \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer $COMETAPI_API_KEY" \
  -d '{
    "model": "omni-moderation-2024-09-26",
    "input": "Example content to classify"
  }'

Étape 3: Récupérer et vérifier les résultats

Après l’envoi de la requête, inspectez la réponse pour le résultat de modération au niveau supérieur, l’état signalé, les booléens par catégorie et les scores de catégorie. Le schéma de réponse de modération d’OpenAI inclut également des détails par catégorie qui peuvent être utilisés pour définir des seuils, des files de revue et des logiques d’application de politique. En production, vérifiez les résultats en testant des cas limites représentatifs de votre application, en comparant les résultats à vos attentes internes, et en journalisant l’identifiant du modèle snapshot omni-moderation-2024-09-26 afin que le comportement de modération reste traçable dans le temps.