omni-moderation-latest 的技術規格
| 屬性 | 詳情 |
|---|---|
| Model ID | omni-moderation-latest |
| Provider | OpenAI |
| Model type | 用於安全分類的審核模型 |
| Primary use case | 偵測使用者輸入或模型輸出中可能有害的內容 |
| Supported inputs | 文字與圖像 |
| Output type | 以文字/JSON 形式提供的結構化審核結果，包括標記、類別與分數 |
| Endpoint | Moderations API |
| Multimodal support | 是；支援多模態輸入物件，包括圖片 URL 或 base64 圖像資料 |
| Default/latest status | OpenAI 文件將其標註為最新的 omni 審核模型，為新審核整合的推薦選擇 |
| Legacy alternative | text-moderation-latest 是較舊的僅文字選項，分類較少 |
| Performance profile | OpenAI 將其列為高效能審核，速度中等 |
| Pricing | OpenAI 表示審核模型為免費模型 |
什麼是 omni-moderation-latest？
omni-moderation-latest 是 OpenAI 目前用於辨識文字與圖像中不安全或政策敏感內容的審核模型。它旨在協助需要在使用者提示、上傳媒體或模型產生的輸出顯示給最終使用者或傳遞至下游系統之前，先行篩檢的開發者。
OpenAI 將 omni-moderation-latest 作為早期審核模型的多模態升級推出。根據 OpenAI 的文件，它比舊版僅文字的審核選項更為強大，支援更廣泛的分類，並且是使用審核端點的新應用的最佳選擇。
在實務中，各團隊會將 omni-moderation-latest 用於輸入審核、輸出審核、信任與安全流程、論壇過濾、社群內容審查與濫用偵測等需要在人工審查或執法邏輯之前進行快速自動分流的工作流程。這是基於 OpenAI 的審核指引與 API 設計的應用層推斷。
omni-moderation-latest 的主要特性
- 多模態審核：模型可同時接受文字與圖片輸入，適合需要評估使用者訊息及上傳視覺內容的現代應用。
- 更廣泛的安全分類：OpenAI 表示 omni 審核系列相較於舊版文字審核模型提供更多分類選項。
- 結構化的安全輸出：回應包含審核物件，提供
flagged、類別標籤與類別分數等欄位，便於自動化允許、封鎖、審查或升級的邏輯。 - 更高的準確度：OpenAI 報告
omni-moderation-latest較上一代審核模型更為準確，尤其在非英語內容方面。 - 支援圖像感知分類：API 可接收圖片 URL 或 base64 編碼的圖像資料作為審核輸入，以篩檢上傳或連結的視覺資產。
- 更適合新整合：OpenAI 的審核指南明確建議新的應用採用較新的 omni 審核模型，而非舊版僅文字的模型系列。
- 供應商側的免費審核使用：OpenAI 的模型列表描述審核模型為免費，適合大型安全過濾工作流程。
如何存取並整合 omni-moderation-latest
第 1 步：註冊取得 API 金鑰
開始使用 omni-moderation-latest 前，先在 CometAPI 註冊並於儀表板產生你的 API 金鑰。建立金鑰後，請安全地將其儲存在環境變數（例如 COMETAPI_API_KEY）中。此金鑰將用於驗證你發送給模型的每個請求。
第 2 步：向 omni-moderation-latest API 發送請求
取得 API 金鑰後，你可以在 CometAPI 上呼叫與 OpenAI 相容的聊天端點，並指定模型為 omni-moderation-latest。示例：
curl https://api.cometapi.com/v1/moderations \
-H "Content-Type: application/json" \
-H "Authorization: Bearer $COMETAPI_API_KEY" \
-d '{
"model": "omni-moderation-latest",
"input": "Sample text to classify for safety."
}'
當工作流程包含圖像時，你也可以發送多模態審核輸入，前提是你的客戶端與請求格式遵循該模型支援的上游審核結構綱要。OpenAI 的審核 API 文件顯示，omni-moderation-latest 支援文字字串、字串陣列與多模態輸入物件。
第 3 步：取得並驗證結果
API 回應會返回一個審核結果物件，其中包含所用模型、flagged 決策、類別層級標籤與類別分數。收到回應後，在允許內容進入你的產品流程之前，請驗證其是否超出你的應用政策門檻。於生產環境中，許多團隊會將自動門檻判斷與記錄、人工審查佇列及特定政策的業務規則結合使用。