Specifiche tecniche di omni-moderation-2024-09-26
omni-moderation-2024-09-26 è un modello di moderazione snapshot esposto tramite la Moderation API di OpenAI, e la documentazione dell’API di OpenAI elenca esplicitamente questo ID di modello esatto come opzione supportata per la moderazione. Fa parte della famiglia omni-moderation più recente, anziché della precedente linea di moderazione solo testuale.
Secondo la documentazione sui modelli e sulla moderazione di OpenAI, questo modello è progettato per la classificazione di sicurezza dei contenuti, accetta input di testo e immagini e restituisce risultati di moderazione anziché output di testo generativo. OpenAI descrive la famiglia omni-moderation come la sua offerta di moderazione più capace, con supporto multimodale e una categorizzazione più ampia rispetto ai modelli di moderazione legacy.
In quanto snapshot del 26 settembre 2024, omni-moderation-2024-09-26 corrisponde alla generazione di lancio del sistema di moderazione multimodale aggiornato di OpenAI. OpenAI afferma che questa generazione è basata su GPT-4o, migliora l’accuratezza rispetto ai precedenti modelli di moderazione ed è particolarmente più solida sui contenuti non in inglese. Gli stessi materiali di lancio notano inoltre che i modelli di moderazione sono disponibili tramite la Moderation API senza costi per gli sviluppatori.
Che cos’è omni-moderation-2024-09-26?
omni-moderation-2024-09-26 è un modello di moderazione a versione fissa utilizzato per identificare contenuti potenzialmente dannosi negli input delle applicazioni prima o dopo che raggiungano gli utenti finali. In pratica, gli sviluppatori lo usano per classificare testo, immagini o payload multimodali per categorie di rischio rilevanti per le policy, come violenza, odio, molestie, contenuti sessuali e autolesionismo.
Rispetto ai modelli di moderazione testuale legacy, questo snapshot appartiene alla nuova stack di moderazione multimodale di OpenAI. OpenAI documenta che gli snapshot omni-moderation supportano più opzioni di categorizzazione e input multimodali, rendendoli la scelta consigliata per nuove integrazioni di moderazione.
Un motivo chiave per usare l’ID snapshot omni-moderation-2024-09-26 invece di un alias dinamico è la stabilità di versione. Poiché è uno snapshot datato piuttosto che l’alias a rilascio continuo omni-moderation-latest, è più adatto per team che vogliono comportamenti di moderazione riproducibili, rollout controllati e audit più prevedibili tra ambienti. Questo punto sulla stabilità è un’inferenza di implementazione basata sull’elenco separato, da parte di OpenAI, degli identificatori dei modelli snapshot e latest.
Caratteristiche principali di omni-moderation-2024-09-26
- Moderazione multimodale: Supporta input sia testuali sia di immagini tramite la Moderation API, consentendo a un singolo modello di valutare contenuti nei comuni tipi di media generati dagli utenti.
- Categorizzazione di sicurezza più ampia: OpenAI documenta che la linea omni-moderation aggiunge più opzioni di categorizzazione rispetto ai modelli di moderazione legacy, incluse nuove classi di danno introdotte con questa generazione.
- Prestazioni multilingue migliorate: OpenAI afferma che questa generazione di moderazione è più accurata rispetto ai modelli precedenti, in particolare in contesti non inglesi e a basso numero di risorse.
- Output di punteggio in stile probabilistico: Oltre ai booleani di categoria segnalati, OpenAI afferma che il modello fornisce punteggi di categoria calibrati che aiutano i team a definire soglie e logiche di revisione specifiche per l’applicazione.
- Consapevolezza del tipo di input per categoria: Lo schema di risposta della moderazione include, a livello di categoria, i tipi di input applicati, il che aiuta gli sviluppatori a capire se una determinata classificazione deriva dal testo, dall’immagine o da entrambi.
- Controllo di versione tramite snapshot: Poiché
omni-moderation-2024-09-26è uno snapshot con versione esplicita, è utile per test di regressione, benchmark di sicurezza e distribuzioni controllate in produzione in cui la coerenza è importante. Si tratta di un’inferenza orientata all’implementazione basata sulla convenzione di denominazione degli snapshot e sul supporto dell’API.
Come accedere e integrare omni-moderation-2024-09-26
Passaggio 1: Registrati per ottenere una chiave API
Per iniziare, registrati su CometAPI e genera la tua chiave API dalla dashboard. Una volta che disponi di una chiave attiva, puoi usarla per autenticare tutte le richieste all’API di omni-moderation-2024-09-26 tramite il gateway unificato dei modelli di CometAPI.
Passaggio 2: Invia richieste all’API di omni-moderation-2024-09-26
Usa il formato dell’API compatibile con OpenAI di CometAPI e specifica il modello come omni-moderation-2024-09-26. Invia il payload di moderazione come testo o come array di input multimodale quando classifichi contenuti immagine+testo. La documentazione ufficiale della Moderation API di OpenAI mostra che questo ID di modello è valido per le richieste di moderazione e che l’endpoint accetta sia stringhe di testo semplice sia oggetti strutturati di input multimodale.
curl https://api.cometapi.com/v1/moderations \
-H "Content-Type: application/json" \
-H "Authorization: Bearer $COMETAPI_API_KEY" \
-d '{
"model": "omni-moderation-2024-09-26",
"input": "Example content to classify"
}'
Passaggio 3: Recupera e verifica i risultati
Dopo aver inviato la richiesta, esamina la risposta per il risultato di moderazione di livello superiore, lo stato di segnalazione, i booleani di categoria e i punteggi di categoria. Lo schema di risposta della moderazione di OpenAI include anche dettagli per categoria che possono essere utilizzati per definire soglie, code di revisione e logiche di applicazione delle policy. In produzione, verifica i risultati testando casi limite rappresentativi della tua app, confrontando gli esiti con le aspettative della policy interna e registrando nei log l’ID del modello snapshot omni-moderation-2024-09-26 in modo che il comportamento di moderazione rimanga tracciabile nel tempo.