omni-moderation-2024-09-26의 기술 사양
omni-moderation-2024-09-26는 OpenAI Moderation API를 통해 제공되는 스냅샷 모더레이션 모델이며, OpenAI의 API 레퍼런스에 이 정확한 모델 ID가 지원되는 모더레이션 모델 옵션으로 명시되어 있습니다. 이는 구형 텍스트 전용 모더레이션 라인이 아니라 최신 omni-moderation 제품군에 속합니다.
OpenAI의 모델 및 모더레이션 문서에 따르면, 이 모델은 콘텐츠 안전 분류를 위해 설계되었으며 텍스트와 이미지 입력을 모두 받아 생성형 텍스트가 아닌 모더레이션 결과를 반환합니다. OpenAI는 omni-moderation 제품군을 멀티모달 지원과 기존 모더레이션 모델보다 더 넓은 범주의 분류를 제공하는 가장 강력한 모더레이션 제공으로 설명합니다.
2024년 9월 26일자 스냅샷인 omni-moderation-2024-09-26는 OpenAI의 업그레이드된 멀티모달 모더레이션 시스템의 출시 세대에 해당합니다. OpenAI는 이 세대가 GPT-4o를 기반으로 하며, 이전 모더레이션 모델 대비 정확도가 향상되었고 특히 비영어권 콘텐츠에서 더 강력하다고 명시합니다. 동일한 출시 자료에는 모더레이션 모델이 Moderation API를 통해 개발자에게 무료로 제공된다는 점도 언급되어 있습니다.
omni-moderation-2024-09-26란?
omni-moderation-2024-09-26는 최종 사용자에게 도달하기 전후의 애플리케이션 입력에서 잠재적으로 유해한 콘텐츠를 식별하는 데 사용되는 고정 버전 모더레이션 모델입니다. 실제로 개발자는 이를 활용해 사용자 생성 텍스트, 이미지 또는 텍스트+이미지 혼합 멀티모달 페이로드를 폭력, 증오, 괴롭힘, 성적 콘텐츠, 자해 등 정책 관련 위험 카테고리로 분류합니다.
구형 텍스트 모더레이션 모델과 비교할 때, 이 스냅샷은 OpenAI의 최신 멀티모달 모더레이션 스택에 속합니다. OpenAI 문서에 따르면 omni-moderation 스냅샷은 더 많은 분류 옵션과 멀티모달 입력을 지원하며, 새로운 모더레이션 통합에 권장되는 선택지입니다.
이동형 별칭이 아닌 스냅샷 ID omni-moderation-2024-09-26를 사용하는 핵심 이유는 버전 안정성입니다. 날짜가 명시된 스냅샷이므로 재현 가능한 모더레이션 동작, 통제된 롤아웃, 환경 간 더 예측 가능한 감사에 적합합니다. 이러한 안정성 포인트는 OpenAI가 스냅샷과 latest 모델 식별자를 분리해 제공하는 점에 근거한 구현 관점의 추론입니다.
omni-moderation-2024-09-26의 주요 기능
- 멀티모달 모더레이션: Moderation API를 통해 텍스트와 이미지 입력을 모두 지원하여, 단일 모델로 일반적인 사용자 생성 미디어 유형 전반의 콘텐츠를 평가할 수 있습니다.
- 더 넓은 안전 카테고리화: omni-moderation 라인은 기존 모더레이션 모델보다 더 많은 분류 옵션을 추가하며, 이번 세대에서 도입된 새로운 위해 범주도 포함합니다.
- 향상된 다국어 성능: 이번 모더레이션 세대는 이전 모델보다 정확도가 높고, 특히 비영어권 및 저자원 언어 환경에서 더 우수합니다.
- 확률형 점수 출력: 카테고리별 플래그 불리언 외에, 팀이 애플리케이션 특화 임계값과 검토 로직을 정의하는 데 도움이 되는 보정된 카테고리 점수를 제공합니다.
- 카테고리별 입력 유형 인지: 모더레이션 응답 스키마에는 각 카테고리에 적용된 입력 유형(텍스트, 이미지 또는 둘 다)이 포함되어, 분류가 어떤 입력에 근거했는지 파악하는 데 도움이 됩니다.
- 스냅샷 버전 관리:
omni-moderation-2024-09-26는 명시적으로 버전이 지정된 스냅샷이므로, 회귀 테스트, 안전성 벤치마크, 일관성이 중요한 통제된 프로덕션 배포에 유용합니다. 이는 OpenAI의 스냅샷 모델 명명 및 API 지원에서 비롯된 구현 지향적 추론입니다.
omni-moderation-2024-09-26에 접근하고 통합하는 방법
Step 1: Sign Up for API Key
시작하려면 CometAPI에 가입하고 대시보드에서 API 키를 발급하세요. 활성 키를 보유하면 CometAPI의 통합 모델 게이트웨이를 통해 omni-moderation-2024-09-26 API로의 모든 요청을 인증할 수 있습니다.
Step 2: Send Requests to omni-moderation-2024-09-26 API
CometAPI의 OpenAI 호환 API 형식을 사용하고 모델을 omni-moderation-2024-09-26로 지정하세요. 모더레이션 페이로드는 텍스트로 보내거나, 이미지+텍스트 콘텐츠를 분류할 때는 멀티모달 입력 배열로 전송합니다. OpenAI의 공식 Moderation API 문서는 이 모델 ID가 모더레이션 요청에 유효하며, 엔드포인트가 일반 텍스트 문자열이나 구조화된 멀티모달 입력 객체를 모두 수용함을 보여줍니다.
curl https://api.cometapi.com/v1/moderations \
-H "Content-Type: application/json" \
-H "Authorization: Bearer $COMETAPI_API_KEY" \
-d '{
"model": "omni-moderation-2024-09-26",
"input": "Example content to classify"
}'
Step 3: Retrieve and Verify Results
요청을 보낸 후, 최상위 모더레이션 결과, 플래그 여부, 카테고리별 불리언, 카테고리 점수를 확인하세요. OpenAI의 모더레이션 응답 스키마에는 임계값 설정, 검토 대기열, 정책 집행 로직에 활용할 수 있는 카테고리별 세부 정보도 포함됩니다. 프로덕션 환경에서는 자체 앱의 대표적 엣지 케이스를 테스트하고 내부 정책 기대치와 결과를 비교 검증하며, 모더레이션 동작의 추적 가능성을 유지하기 위해 스냅샷 모델 ID omni-moderation-2024-09-26를 로깅하세요.