Especificações técnicas de omni-moderation-2024-09-26
omni-moderation-2024-09-26 é um modelo de moderação em snapshot exposto pela Moderation API da OpenAI, e a referência da API da OpenAI lista explicitamente esse ID de modelo exato como uma opção de modelo de moderação compatível. Ele faz parte da família mais recente omni-moderation, em vez da linha mais antiga de moderação apenas de texto.
Segundo a documentação de modelos e moderação da OpenAI, este modelo foi projetado para classificação de segurança de conteúdo, aceita entradas de texto e imagem e retorna resultados de moderação em vez de saída de texto gerativo. A OpenAI descreve a família omni-moderation como sua oferta de moderação mais avançada, com suporte multimodal e categorização mais ampla do que os modelos de moderação legados.
Como um snapshot de 26 de setembro de 2024, omni-moderation-2024-09-26 corresponde à geração de lançamento do sistema de moderação multimodal aprimorado da OpenAI. A OpenAI afirma que essa geração é baseada no GPT-4o, melhora a precisão em relação aos modelos de moderação anteriores e é especialmente mais forte em conteúdo não inglês. Os mesmos materiais de lançamento também observam que os modelos de moderação estão disponíveis por meio da Moderation API sem custo para desenvolvedores.
O que é omni-moderation-2024-09-26?
omni-moderation-2024-09-26 é um modelo de moderação de versão fixa usado para identificar conteúdo potencialmente prejudicial nas entradas de aplicativos antes ou depois de chegarem aos usuários finais. Na prática, os desenvolvedores o utilizam para classificar texto gerado por usuários, imagens ou cargas multimodais mistas em categorias de risco relevantes para políticas, como violência, ódio, assédio, conteúdo sexual e autoagressão.
Em comparação com os modelos legados de moderação de texto, este snapshot pertence à pilha multimodal mais recente de moderação da OpenAI. A OpenAI documenta que os snapshots omni-moderation oferecem mais opções de categorização e entradas multimodais, tornando-os a escolha recomendada para novas integrações de moderação.
Um motivo-chave para usar o ID de snapshot omni-moderation-2024-09-26 em vez de um alias dinâmico é a estabilidade de versão. Por ser um snapshot datado, e não o alias em atualização contínua omni-moderation-latest, ele é mais adequado para equipes que desejam comportamento de moderação reproduzível, implantações controladas e auditorias mais previsíveis entre ambientes. Esse ponto sobre estabilidade é uma inferência de implementação com base na listagem separada da OpenAI de identificadores de modelos snapshot e latest.
Principais recursos de omni-moderation-2024-09-26
- Moderação multimodal: Suporta entradas de texto e imagem por meio da Moderation API, permitindo que um único modelo avalie conteúdo nos tipos de mídia gerada por usuários mais comuns.
- Categorização de segurança mais abrangente: A OpenAI documenta que a linha omni-moderation acrescenta mais opções de categorização do que os modelos de moderação legados, incluindo novas classes de dano introduzidas nesta geração.
- Melhor desempenho multilíngue: A OpenAI afirma que esta geração de moderação é mais precisa do que modelos anteriores, particularmente em idiomas não ingleses e de menor recurso.
- Saída de pontuação em estilo de probabilidade: Além dos booleanos de categorias sinalizadas, a OpenAI diz que o modelo fornece pontuações calibradas por categoria que ajudam as equipes a definir limites específicos de aplicação e lógica de revisão.
- Sensibilidade ao tipo de entrada por categoria: O esquema de resposta de moderação inclui tipos de entrada aplicados em nível de categoria, o que ajuda os desenvolvedores a entender se uma classificação veio de texto, imagem ou ambos.
- Controle de versão por snapshot: Como
omni-moderation-2024-09-26é um snapshot explicitamente versionado, ele é útil para testes de regressão, benchmarking de segurança e implantações controladas em produção, onde a consistência é importante. Esta é uma inferência orientada à implementação baseada na nomenclatura de snapshots da OpenAI e no suporte da API.
Como acessar e integrar omni-moderation-2024-09-26
Etapa 1: Cadastre-se para obter a chave de API
Para começar, cadastre-se na CometAPI e gere sua chave de API no painel. Com uma chave ativa, você pode usá-la para autenticar todas as solicitações à API de omni-moderation-2024-09-26 por meio do gateway unificado de modelos da CometAPI.
Etapa 2: Envie solicitações para a API de omni-moderation-2024-09-26
Use o formato de API compatível com OpenAI da CometAPI e especifique o modelo como omni-moderation-2024-09-26. Envie sua carga de moderação como texto ou como um array de entrada multimodal ao classificar conteúdo de imagem mais texto. A documentação oficial da Moderation API da OpenAI mostra que este ID de modelo é válido para solicitações de moderação e que o endpoint aceita strings de texto simples ou objetos estruturados de entrada multimodal.
curl https://api.cometapi.com/v1/moderations \
-H "Content-Type: application/json" \
-H "Authorization: Bearer $COMETAPI_API_KEY" \
-d '{
"model": "omni-moderation-2024-09-26",
"input": "Example content to classify"
}'
Etapa 3: Recupere e verifique os resultados
Após enviar a solicitação, inspecione a resposta em busca do resultado de moderação de nível superior, do status sinalizado, dos booleanos por categoria e das pontuações por categoria. O esquema de resposta de moderação da OpenAI também inclui detalhes por categoria que podem ser usados para definição de limites, filas de revisão e lógica de aplicação de políticas. Em produção, verifique os resultados testando casos-limite representativos do seu próprio app, comparando os resultados com as expectativas de políticas internas e registrando em log o ID do modelo snapshot omni-moderation-2024-09-26 para que o comportamento de moderação permaneça rastreável ao longo do tempo.