Tekniske specifikationer for omni-moderation-2024-09-26
omni-moderation-2024-09-26 er en snapshot-moderationsmodel eksponeret gennem OpenAI Moderation API, og OpenAIs API-reference angiver eksplicit dette præcise model-ID som en understøttet moderationsmodelmulighed. Den er en del af den nyere omni-moderation-familie frem for den ældre, rent tekstbaserede moderationslinje.
Ifølge OpenAIs model- og moderationsdokumentation er denne model designet til klassificering af indholdssikkerhed, accepterer tekst- og billedinput og returnerer moderationsresultater frem for generativt tekstoutput. OpenAI beskriver omni-moderation-familien som deres mest kapable moderationsløsning, med multimodal understøttelse og bredere kategorisering end ældre moderationsmodeller.
Som et snapshot fra 26. september 2024 svarer omni-moderation-2024-09-26 til lanceringsgenerationen af OpenAIs opgraderede multimodale moderationssystem. OpenAI oplyser, at denne generation er bygget på GPT-4o, forbedrer nøjagtigheden i forhold til tidligere moderationsmodeller og er særligt stærkere på ikke-engelsksprogede indhold. De samme lanceringsmaterialer bemærker også, at moderationsmodeller er tilgængelige gennem Moderation API uden omkostninger for udviklere.
Hvad er omni-moderation-2024-09-26?
omni-moderation-2024-09-26 er en fastlåst moderationsmodel, der bruges til at identificere potentielt skadeligt indhold i applikationsinput før eller efter, at de når slutbrugerne. I praksis bruger udviklere den til at klassificere brugergenereret tekst, billeder eller blandede multimodale payloads for politikrelevante risikokategorier såsom vold, had, chikane, seksuelt indhold og selvskade.
Sammenlignet med ældre tekstmoderationsmodeller tilhører dette snapshot OpenAIs nyere multimodale moderationsstack. OpenAI dokumenterer, at omni-moderation-snapshots understøtter flere kategoriseringsmuligheder og multimodale input, hvilket gør dem til det anbefalede valg for nye moderationsintegrationer.
En nøgleårsag til at bruge snapshot-ID'et omni-moderation-2024-09-26 i stedet for et rullende alias er versionsstabilitet. Fordi det er et dateret snapshot og ikke det rullende alias omni-moderation-latest, egner det sig bedre til teams, der ønsker reproducerbar moderationsadfærd, kontrollerede udrulninger og mere forudsigelig revision på tværs af miljøer. Dette stabilitetspunkt er en implementeringsorienteret udledning baseret på OpenAIs separate liste over snapshot- og seneste modelidentifikatorer.
Vigtigste funktioner i omni-moderation-2024-09-26
- Multimodal moderering: Understøtter både tekst- og billedinput via Moderation API, så en enkelt model kan evaluere indhold på tværs af almindelige brugergenererede medietyper.
- Bredere sikkerhedskategorisering: OpenAI dokumenterer, at omni-moderation-linjen tilføjer flere kategoriseringsmuligheder end ældre moderationsmodeller, inklusive nyere skadekategorier introduceret med denne generation.
- Forbedret flersproget ydeevne: OpenAI oplyser, at denne moderationsgeneration er mere nøjagtig end tidligere modeller, især i ikke-engelske og lavressource-sprogmiljøer.
- Sandsynlighedsbaseret scoreoutput: Ud over markerings-booleaner for kategorier leverer modellen kalibrerede kategoriscore, der hjælper teams med at definere applikationsspecifikke tærskler og gennemgangslogik.
- Inputtype-bevidsthed pr. kategori: Moderationssvarets skema inkluderer anvendte inputtyper på kategoriniveau, hvilket hjælper udviklere med at forstå, om en given klassificering kom fra tekst, billede eller begge dele.
- Snapshot-versionskontrol: Fordi
omni-moderation-2024-09-26er et eksplicit versioneret snapshot, er det nyttigt til regressionstest, sikkerhedsbenchmarking og kontrollerede produktionsudrulninger, hvor konsistens er vigtig. Dette er en implementeringsorienteret udledning fra OpenAIs snapshot-modelnavngivning og API-understøttelse.
Sådan får du adgang og integrerer omni-moderation-2024-09-26
Trin 1: Tilmeld dig for at få en API-nøgle
For at komme i gang skal du tilmelde dig på CometAPI og generere din API-nøgle fra dashboardet. Når du har en aktiv nøgle, kan du bruge den til at godkende alle forespørgsler til omni-moderation-2024-09-26-API'en via CometAPI's samlede model-gateway.
Trin 2: Send forespørgsler til omni-moderation-2024-09-26-API'en
Brug CometAPI's OpenAI-kompatible API-format og angiv modellen som omni-moderation-2024-09-26. Send din moderationspayload som tekst eller som et multimodalt input-array ved klassificering af indhold med både billede og tekst. OpenAIs officielle Moderation API-dokumentation viser, at dette model-ID er gyldigt til moderationsanmodninger, og at endepunktet accepterer enten rene tekststrenge eller strukturerede multimodale inputobjekter.
curl https://api.cometapi.com/v1/moderations \
-H "Content-Type: application/json" \
-H "Authorization: Bearer $COMETAPI_API_KEY" \
-d '{
"model": "omni-moderation-2024-09-26",
"input": "Example content to classify"
}'
Trin 3: Hent og verificér resultater
Efter at have sendt forespørgslen skal du gennemgå svaret for det overordnede moderationsresultat, flag-status, boolske værdier for kategorierne og kategoriscore. OpenAIs moderationssvarets skema inkluderer også detaljer pr. kategori, som kan bruges til tærskelsætning, gennemgangskøer og logik til håndhævelse af politikker. I produktion verificeres resultater ved at teste repræsentative randtilfælde fra din egen app, sammenligne udfald med interne policyforventninger og logge snapshot-model-id'et omni-moderation-2024-09-26, så moderationsadfærden forbliver sporbar over tid.