Thông số kỹ thuật của omni-moderation-latest
| Thuộc tính | Chi tiết |
|---|---|
| ID mô hình | omni-moderation-latest |
| Nhà cung cấp | OpenAI |
| Loại mô hình | Mô hình kiểm duyệt dùng để phân loại an toàn |
| Trường hợp sử dụng chính | Phát hiện nội dung có khả năng gây hại trong đầu vào của người dùng hoặc đầu ra của mô hình |
| Đầu vào được hỗ trợ | Văn bản và hình ảnh |
| Loại đầu ra | Kết quả kiểm duyệt có cấu trúc ở dạng văn bản/JSON, bao gồm cờ, danh mục và điểm số |
| Điểm cuối | Moderations API |
| Hỗ trợ đa phương thức | Có; hỗ trợ các đối tượng đầu vào đa phương thức, bao gồm URL hình ảnh hoặc dữ liệu hình ảnh dạng base64 |
| Trạng thái mặc định/mới nhất | OpenAI ghi nhận đây là mô hình kiểm duyệt omni mới nhất và là lựa chọn được khuyến nghị cho các tích hợp kiểm duyệt mới |
| Phương án thay thế cũ | text-moderation-latest là tùy chọn cũ chỉ hỗ trợ văn bản với số lượng phân loại ít hơn |
| Hồ sơ hiệu năng | OpenAI liệt kê đây là kiểm duyệt hiệu năng cao với tốc độ trung bình |
| Giá | OpenAI mô tả các mô hình kiểm duyệt là miễn phí |
omni-moderation-latest là gì?
omni-moderation-latest là mô hình kiểm duyệt hiện tại của OpenAI dùng để xác định nội dung không an toàn hoặc nhạy cảm theo chính sách trong văn bản và hình ảnh. Mô hình được thiết kế cho các nhà phát triển cần sàng lọc lời nhắc của người dùng, phương tiện được tải lên hoặc đầu ra do mô hình tạo ra trước khi các mục đó được hiển thị cho người dùng cuối hoặc chuyển vào các hệ thống hạ nguồn.
OpenAI đã giới thiệu omni-moderation-latest như một nâng cấp đa phương thức cho các mô hình kiểm duyệt trước đây. Theo tài liệu của OpenAI, mô hình này có năng lực tốt hơn các tùy chọn kiểm duyệt chỉ dành cho văn bản cũ, hỗ trợ phân loại rộng hơn và là lựa chọn tốt nhất cho các ứng dụng mới sử dụng điểm cuối kiểm duyệt.
Trên thực tế, các nhóm sử dụng omni-moderation-latest cho kiểm duyệt đầu vào, kiểm duyệt đầu ra, quy trình tin cậy và an toàn, lọc diễn đàn, đánh giá nội dung xã hội và quy trình phát hiện lạm dụng, nơi cần phân loại tự động nhanh trước khi xem xét thủ công hoặc áp dụng logic thực thi. Đây là suy luận ở cấp độ ứng dụng dựa trên hướng dẫn kiểm duyệt của OpenAI và thiết kế API.
Các tính năng chính của omni-moderation-latest
- Kiểm duyệt đa phương thức: Mô hình chấp nhận cả đầu vào văn bản và hình ảnh, phù hợp cho các ứng dụng hiện đại cần đánh giá tin nhắn người dùng cùng với nội dung trực quan được tải lên.
- Phân loại an toàn rộng hơn: OpenAI cho biết dòng mô hình omni moderation hỗ trợ nhiều tùy chọn phân loại hơn so với các mô hình kiểm duyệt văn bản kế thừa.
- Đầu ra an toàn có cấu trúc: Phản hồi bao gồm một đối tượng kiểm duyệt với các trường như
flagged, nhãn danh mục và điểm số danh mục, giúp dễ dàng tự động hóa logic cho phép, chặn, xem xét hoặc leo thang. - Độ chính xác được cải thiện: OpenAI báo cáo rằng
omni-moderation-latestchính xác hơn so với thế hệ kiểm duyệt trước đây, đặc biệt đối với nội dung không phải tiếng Anh. - Hỗ trợ phân loại nhận biết hình ảnh: API có thể nạp URL hình ảnh hoặc dữ liệu hình ảnh mã hóa base64 làm đầu vào kiểm duyệt, cho phép sàng lọc các tài sản trực quan được tải lên hoặc liên kết.
- Phù hợp nhất cho các tích hợp mới: Hướng dẫn kiểm duyệt của OpenAI rõ ràng khuyến nghị các mô hình omni moderation mới cho các ứng dụng mới thay vì họ mô hình chỉ dành cho văn bản kế thừa.
- Sử dụng kiểm duyệt miễn phí từ phía nhà cung cấp: Danh sách mô hình của OpenAI mô tả các mô hình kiểm duyệt là miễn phí, điều này có thể hấp dẫn cho các quy trình lọc an toàn quy mô lớn.
Cách truy cập và tích hợp omni-moderation-latest
Bước 1: Đăng ký khóa API
Để bắt đầu sử dụng omni-moderation-latest, trước tiên hãy đăng ký trên CometAPI và tạo khóa API từ bảng điều khiển. Sau khi tạo khóa, lưu trữ an toàn trong một biến môi trường như COMETAPI_API_KEY. Khóa này sẽ được dùng để xác thực mọi yêu cầu bạn gửi tới mô hình.
Bước 2: Gửi yêu cầu tới API omni-moderation-latest
Khi bạn đã có khóa API, bạn có thể gọi điểm cuối chat tương thích OpenAI trên CometAPI và chỉ định omni-moderation-latest làm mô hình. Ví dụ:
curl https://api.cometapi.com/v1/moderations \
-H "Content-Type: application/json" \
-H "Authorization: Bearer $COMETAPI_API_KEY" \
-d '{
"model": "omni-moderation-latest",
"input": "Sample text to classify for safety."
}'
Bạn cũng có thể gửi đầu vào kiểm duyệt đa phương thức khi quy trình của bạn bao gồm hình ảnh, miễn là client và định dạng yêu cầu tuân theo lược đồ kiểm duyệt được mô hình hỗ trợ. Tài liệu API kiểm duyệt của OpenAI cho thấy omni-moderation-latest hỗ trợ chuỗi văn bản, mảng chuỗi, và các đối tượng đầu vào đa phương thức.
Bước 3: Nhận và xác minh kết quả
Phản hồi API sẽ trả về một đối tượng kết quả kiểm duyệt chứa mô hình được sử dụng, quyết định flagged, nhãn danh mục và điểm số danh mục. Sau khi nhận phản hồi, hãy xác minh liệu nội dung có vượt quá ngưỡng chính sách của ứng dụng bạn hay không trước khi cho phép đi vào luồng sản phẩm. Đối với môi trường sản xuất, nhiều nhóm kết hợp đặt ngưỡng tự động với ghi nhật ký, hàng đợi xem xét thủ công và các quy tắc kinh doanh cụ thể theo chính sách.