omni-moderation-latest의 기술 사양
| 속성 | 세부 정보 |
|---|---|
| 모델 ID | omni-moderation-latest |
| 제공사 | OpenAI |
| 모델 유형 | 안전 분류를 위한 모더레이션 모델 |
| 기본 사용 사례 | 사용자 입력 또는 모델 출력에서 잠재적으로 유해한 콘텐츠를 탐지 |
| 지원 입력 | 텍스트 및 이미지 |
| 출력 유형 | 플래그, 카테고리, 점수를 포함한 텍스트/JSON 형식의 구조화된 모더레이션 결과 |
| 엔드포인트 | Moderations API |
| 멀티모달 지원 | 예; 이미지 URL 또는 base64 이미지 데이터를 포함한 멀티모달 입력 객체를 지원 |
| 기본/최신 상태 | OpenAI는 이를 최신 omni 모더레이션 모델로 문서화하고, 신규 모더레이션 통합에 권장되는 선택으로 안내 |
| 레거시 대안 | text-moderation-latest는 더 적은 분류를 제공하는 텍스트 전용 구형 옵션 |
| 성능 프로파일 | OpenAI는 이를 고성능(중간 속도)의 모더레이션으로 표기 |
| 가격 | OpenAI는 모더레이션 모델을 무료 모델로 설명 |
omni-moderation-latest란 무엇인가?
omni-moderation-latest는 텍스트와 이미지에서 안전하지 않거나 정책에 민감한 콘텐츠를 식별하기 위한 OpenAI의 최신 모더레이션 모델입니다. 최종 사용자에게 표시되거나 다운스트림 시스템으로 전달되기 전에 사용자 프롬프트, 업로드된 미디어, 또는 모델 생성 출력물을 선별해야 하는 개발자를 위해 설계되었습니다.
OpenAI는 기존 모더레이션 모델의 멀티모달 업그레이드로 omni-moderation-latest를 도입했습니다. OpenAI 문서에 따르면, 이 모델은 레거시 텍スト 전용 모더레이션 옵션보다 더 높은 역량을 제공하고, 더 광범위한 분류를 지원하며, 모더레이션 엔드포인트를 사용하는 신규 애플리케이션에 가장 적합한 선택입니다.
실무에서는 omni-moderation-latest를 입력 모더레이션, 출력 모더레이션, 트러스트-앤-세이프티 파이프라인, 포럼 필터링, 소셜 콘텐츠 검토, 남용 탐지 워크플로 등에서, 인적 검토나 집행 로직에 앞선 빠른 자동 선별이 필요한 경우에 사용합니다. 이는 OpenAI의 모더레이션 가이드와 API 설계를 바탕으로 한 애플리케이션 수준의 추론입니다.
omni-moderation-latest의 주요 기능
- 멀티모달 모더레이션: 텍스트와 이미지 입력을 모두 수용하여, 업로드된 시각 콘텐츠와 함께 사용자 메시지를 평가해야 하는 최신 애플리케이션에 적합합니다.
- 더 넓은 안전 카테고리화: omni 모더레이션 계열은 레거시 텍스트 모더레이션 모델보다 더 많은 분류 옵션을 지원합니다.
- 구조화된 안전성 출력: 응답에는
flagged, 카테고리 레이블, 카테고리 점수 등의 필드를 가진 모더레이션 객체가 포함되어, 허용/차단/리뷰/에스컬레이션 로직의 자동화를 쉽게 합니다. - 향상된 정확도: 이전 세대 모더레이션 대비 정확도가 향상되었으며, 특히 비영어 콘텐츠에서 더욱 뛰어납니다.
- 이미지 인식 분류 지원: API는 이미지 URL 또는 base64로 인코딩된 이미지 데이터를 모더레이션 입력으로 수집할 수 있어, 업로드되거나 링크된 시각 자산을 선별할 수 있습니다.
- 신규 통합에 최적: OpenAI의 모더레이션 가이드는 레거시 텍스트 전용 모델군보다 최신 omni 모더레이션 모델을 신규 애플리케이션에 권장합니다.
- 제공자 측 무료 모더레이션 사용: OpenAI의 모델 목록은 모더레이션 모델이 무료라고 설명하고 있어, 대규모 안전 필터링 워크플로에 매력적일 수 있습니다.
omni-moderation-latest에 접근하고 통합하는 방법
1단계: API 키 가입 및 발급
먼저 CometAPI에 가입한 뒤 대시보드에서 API 키를 생성합니다. 키를 생성한 후에는 COMETAPI_API_KEY와 같은 환경 변수에 안전하게 저장합니다. 이 키는 모델에 보내는 모든 요청을 인증하는 데 사용됩니다.
2단계: omni-moderation-latest API로 요청 보내기
API 키가 준비되면, CometAPI의 OpenAI 호환 채팅 엔드포인트에 omni-moderation-latest를 모델로 지정하여 호출할 수 있습니다. 예:
curl https://api.cometapi.com/v1/moderations \
-H "Content-Type: application/json" \
-H "Authorization: Bearer $COMETAPI_API_KEY" \
-d '{
"model": "omni-moderation-latest",
"input": "Sample text to classify for safety."
}'
워크플로에 이미지가 포함되어 있다면 멀티모달 모더레이션 입력도 보낼 수 있습니다. 클라이언트와 요청 형식이 모델에서 지원하는 상위 모더레이션 스키마를 따를 경우, OpenAI의 모더레이션 API 문서에 따르면 omni-moderation-latest는 텍스트 문자열, 문자열 배열, 멀티모달 입력 객체를 지원합니다.
3단계: 결과 수신 및 검증
API 응답에는 사용된 모델, flagged 여부, 카테고리별 레이블과 점수를 포함하는 모더레이션 결과 객체가 반환됩니다. 응답을 받은 후에는 콘텐츠가 애플리케이션의 정책 임계값을 넘는지 검증한 다음, 제품 플로우로 허용할지 결정하십시오. 프로덕션 환경에서는 자동 임계값 처리와 함께 로깅, 수동 검토 대기열, 정책별 비즈니스 규칙을 조합하는 경우가 많습니다.