Thông số kỹ thuật của omni-moderation-2024-09-26
omni-moderation-2024-09-26 là một mẫu kiểm duyệt dạng snapshot được cung cấp qua OpenAI Moderation API, và tài liệu tham chiếu API của OpenAI liệt kê rõ ID model này như một tùy chọn kiểm duyệt được hỗ trợ. Nó thuộc dòng omni-moderation mới hơn thay vì dòng kiểm duyệt chỉ văn bản cũ.
Theo tài liệu về model và kiểm duyệt của OpenAI, model này được thiết kế cho phân loại an toàn nội dung, chấp nhận đầu vào văn bản và hình ảnh, và trả về kết quả kiểm duyệt thay vì văn bản sinh. OpenAI mô tả dòng omni-moderation là giải pháp kiểm duyệt mạnh nhất của họ, hỗ trợ đa phương thức và có phạm vi phân loại rộng hơn so với các model kiểm duyệt kế thừa.
Với tư cách là một snapshot ngày 26 tháng 9 năm 2024, omni-moderation-2024-09-26 tương ứng với thế hệ ra mắt của hệ thống kiểm duyệt đa phương thức được nâng cấp của OpenAI. OpenAI cho biết thế hệ này được xây dựng trên GPT-4o, cải thiện độ chính xác so với các model kiểm duyệt trước đây và đặc biệt mạnh hơn với nội dung không phải tiếng Anh. Cùng trong tài liệu ra mắt, OpenAI cũng lưu ý rằng các model kiểm duyệt được cung cấp qua Moderation API miễn phí cho nhà phát triển.
omni-moderation-2024-09-26 là gì?
omni-moderation-2024-09-26 là một model kiểm duyệt phiên bản cố định dùng để nhận diện nội dung có thể gây hại trong đầu vào ứng dụng trước hoặc sau khi đến tay người dùng cuối. Trên thực tế, nhà phát triển dùng nó để phân loại văn bản do người dùng tạo, hình ảnh, hoặc gói đa phương thức văn bản-kèm-hình cho các danh mục rủi ro liên quan đến chính sách như bạo lực, thù hận, quấy rối, nội dung tình dục và tự hại.
So với các model kiểm duyệt văn bản kế thừa, snapshot này thuộc ngăn xếp kiểm duyệt đa phương thức mới hơn của OpenAI. OpenAI ghi nhận rằng các snapshot omni-moderation hỗ trợ nhiều tùy chọn phân loại hơn và đầu vào đa phương thức, khiến chúng trở thành lựa chọn khuyến nghị cho các tích hợp kiểm duyệt mới.
Một lý do quan trọng để sử dụng ID snapshot omni-moderation-2024-09-26 thay vì một bí danh luôn thay đổi là tính ổn định phiên bản. Vì đây là một snapshot có ngày tháng thay vì bí danh luân phiên omni-moderation-latest, nó phù hợp hơn cho các đội ngũ muốn hành vi kiểm duyệt có thể tái lập, triển khai có kiểm soát và kiểm toán dự đoán được trên nhiều môi trường. Điểm ổn định này là suy luận mang tính triển khai dựa trên việc OpenAI liệt kê riêng biệt các định danh model snapshot và latest.
Các tính năng chính của omni-moderation-2024-09-26
- Kiểm duyệt đa phương thức: Hỗ trợ cả đầu vào văn bản và hình ảnh qua Moderation API, cho phép một model duy nhất đánh giá nội dung trên các dạng phương tiện người dùng tạo phổ biến.
- Phân loại an toàn rộng hơn: OpenAI cho biết dòng omni-moderation bổ sung nhiều tùy chọn phân loại hơn so với các model kiểm duyệt trước, bao gồm các lớp gây hại mới được giới thiệu cùng thế hệ này.
- Hiệu năng đa ngôn ngữ cải thiện: OpenAI khẳng định thế hệ kiểm duyệt này chính xác hơn các model trước, đặc biệt trong bối cảnh ngôn ngữ không phải tiếng Anh và ngôn ngữ ít tài nguyên.
- Đầu ra chấm điểm kiểu xác suất: Bên cạnh các cờ boolean theo danh mục, OpenAI cho biết model cung cấp điểm số danh mục đã được hiệu chuẩn, giúp đội ngũ xác định ngưỡng và logic duyệt phù hợp với ứng dụng.
- Nhận biết loại đầu vào theo danh mục: Lược đồ phản hồi kiểm duyệt bao gồm các loại đầu vào được áp dụng ở cấp danh mục, giúp nhà phát triển hiểu phân loại đến từ văn bản, hình ảnh, hay cả hai.
- Kiểm soát phiên bản snapshot: Vì
omni-moderation-2024-09-26là một snapshot có phiên bản rõ ràng, nó hữu ích cho kiểm thử hồi quy, đo chuẩn an toàn, và triển khai sản xuất có kiểm soát khi tính nhất quán là quan trọng. Đây là suy luận định hướng triển khai dựa trên cách đặt tên snapshot và hỗ trợ API của OpenAI.
Cách truy cập và tích hợp omni-moderation-2024-09-26
Bước 1: Đăng ký lấy khóa API
Bắt đầu bằng cách đăng ký trên CometAPI và tạo khóa API từ bảng điều khiển. Khi có khóa hợp lệ, bạn có thể dùng nó để xác thực mọi yêu cầu tới API omni-moderation-2024-09-26 thông qua cổng model hợp nhất của CometAPI.
Bước 2: Gửi yêu cầu tới API omni-moderation-2024-09-26
Sử dụng định dạng API tương thích với OpenAI của CometAPI và chỉ định model là omni-moderation-2024-09-26. Gửi payload kiểm duyệt dưới dạng văn bản, hoặc dưới dạng mảng đầu vào đa phương thức khi phân loại nội dung hình ảnh-kèm-văn bản. Tài liệu chính thức về Moderation API của OpenAI cho thấy ID model này hợp lệ cho các yêu cầu kiểm duyệt và endpoint chấp nhận chuỗi văn bản thuần hoặc đối tượng đầu vào đa phương thức có cấu trúc.
curl https://api.cometapi.com/v1/moderations \
-H "Content-Type: application/json" \
-H "Authorization: Bearer $COMETAPI_API_KEY" \
-d '{
"model": "omni-moderation-2024-09-26",
"input": "Example content to classify"
}'
Bước 3: Nhận và xác minh kết quả
Sau khi gửi yêu cầu, hãy kiểm tra phản hồi để lấy kết quả kiểm duyệt cấp cao, trạng thái bị gắn cờ, các boolean danh mục và điểm số danh mục. Lược đồ phản hồi kiểm duyệt của OpenAI cũng bao gồm chi tiết theo danh mục có thể dùng để đặt ngưỡng, lập hàng đợi duyệt và xây dựng logic thực thi chính sách. Trong môi trường sản xuất, hãy xác minh kết quả bằng cách thử nghiệm các trường hợp biên đại diện từ ứng dụng của bạn, so sánh kết quả với kỳ vọng chính sách nội bộ, và ghi lại ID model snapshot omni-moderation-2024-09-26 để hành vi kiểm duyệt có thể truy vết theo thời gian.