OpenAI 發布了一份研究預覽報告。 gpt-oss-safeguard一個開放權重推理模型系列，旨在讓開發人員強制執行 自己 在推理階段製定安全策略。新模型並非採用固定的分類器或黑盒審核引擎，而是進行微調，以適應不同的情況。 原因來自開發者提供的策略，發出解釋其推理過程的思路鏈（CoT），並產生結構化的分類輸出。 gpt-oss-safeguard 作為研究預覽版發布，以一對推理模型的形式呈現——gpt-oss-safeguard-120b gpt-oss-safeguard-20b—從 gpt-oss 系列中精細調整而來，專門設計用於在推理過程中執行安全分類和策略執行任務。
什麼是 gpt-oss-safeguard？
gpt-oss-safeguard 是一對開放權重、僅處理文本的推理模型，它們基於 gpt-oss 系列模型進行後訓練。 **請依自然語言解釋政策文本並進行標註。**該政策的顯著特點是： 在推理時提供 （策略即輸入），而非預先設定在靜態分類器權重中。這些模型主要用於安全分類任務，例如多策略審核、跨多個監管系統的內容分類或策略合規性檢查。
為什麼這件事
傳統的審核系統通常依賴 (a) 映射到基於已標註範例訓練的分類器的固定規則集，或 (b) 用於關鍵字檢測的啟發式方法/正規表示式。 gpt-oss-safeguard 試圖改變這種模式：它無需在策略變更時重新訓練分類器，而是提供策略文本（例如，貴公司的可接受使用政策、平台服務條款或監管機構的指導方針），模型會判斷給定內容是否違反該策略。這有望實現敏捷性（無需重新訓練即可應對策略變更）和可解釋性（模型輸出其推理過程）。
這是它的核心理念——「用推理代替死記硬背，用解釋代替猜測」。
這標誌著內容安全進入了一個新階段，從「被動學習規則」轉變為「主動理解規則」。
gpt-oss-safeguard 可以直接讀取開發者定義的安全策略，並遵循這些策略在推理過程中做出判斷。
gpt-oss-safeguard 的工作原理是什麼？
以政策為輸入的推理
在推理階段，你需要提供兩樣東西： 政策文本 和 候選人內容 待標記。該模型將策略視為主要指令，然後執行逐步推理，以確定內容是允許、禁止還是需要額外的審核步驟。在推理階段，模型：
- 產生結構化的輸出，其中包括結論（標籤、類別、置信度）和人類可讀的推理過程，解釋為什麼得出該結論。
- 接收策略和待分類的內容，
- 透過類似鍊式推理的步驟，從內部推敲政策條款，並且
例如：
Policy: Content that encourages violence, hate speech, pornography, or fraud is not allowed.
Content: This text describes a fighting game.
它會回應：
Classification: Safe
Reasoning: The content only describes the game mechanics and does not encourage real violence.
思維鏈（CoT）與結構化輸出
gpt-oss-safeguard 可以在每次推理過程中產生完整的 CoT 追蹤。 CoT 旨在供檢查——合規團隊可以了解模型得出結論的原因，工程師可以使用追蹤來診斷策略歧義或模型故障模式。該模型還支持 結構化輸出例如，一個包含判決、違反的政策部分、嚴重程度評分和建議的補救措施的 JSON，使其能夠輕鬆整合到審核流程中。
可調的“推理努力程度”
為了平衡延遲、成本和全面性，這些模型支援可配置的推理工作量： 低/中/高投入更多精力可以加深推理鏈，通常會產生更穩健但速度較慢、成本更高的推論。這使得開發人員能夠對工作負載進行分級——對常規內容使用低投入，對特殊情況或高風險內容使用高投入。
該模型的結構是什麼？有哪些版本？
模範家庭與世系
gpt-oss-safeguard 是 接受過訓練的 OpenAI早期版本的變體 GPT-OSS 開放式模型。 Safeguard 系列目前包含兩種已發布尺寸：
- gpt-oss-safeguard-120b — 一個擁有 120 億個參數的模型，旨在用於高精度推理任務，但仍可在單一 80GB GPU 上以優化的運行時運行。
- gpt-oss-safeguard-20b — 一個 20 億參數模型，針對低成本推理和邊緣或本地環境進行了最佳化（在某些配置下可在 16GB VRAM 裝置上運行）。
架構說明和運行時特性（預期結果）
- 每個令牌的活動參數： 底層 gpt-oss 架構使用減少每個標記激活的參數數量的技術（父級 gpt-oss 中密集注意力和稀疏注意力/專家混合風格的設計）。
- 實際上，120B 級處理器適合安裝在單一大型加速器上，而 20B 級處理器則設計用於在 16GB VRAM 設定中以最佳化的運行時運行。
保障模型是 未接受過額外的生物或網路安全資料培訓針對 gpt-oss 版本進行的最壞情況誤用情境分析，大致也適用於其安全變體。這些模型旨在用於分類，而非為最終用戶生成內容。
gpt-oss-safeguard 的目標是什麼？
目標
- 政策彈性： 允許開發者用自然語言定義任何策略，並讓模型應用該策略而無需自訂標籤集合。
- 可解釋性： 公開決策理由，以便對決策進行審核，並迭代改進政策。
- 無障礙： 提供一個開放權重的替代方案，以便組織可以在本地運行安全推理並檢查模型內部。
與經典分類器的比較
優點與傳統分類器對比
- 政策變更無需再培訓： 如果您的審核政策發生變化，請更新政策文檔，而不是收集標籤並重新訓練分類器。
- 更豐富的推理： CoT 的產出結果可以揭示微妙的政策互動，並提供對人工審閱者有用的敘述性理由。
- 可定制性： 單一模型可以在推理過程中同時應用多種不同的策略。
缺點與傳統分類器相比
- 某些任務的效能上限： OpenAI的評估報告指出： 使用數萬個標籤樣本訓練的高品質分類器可以優於 gpt-oss-safeguard。 在專門的分類任務中，如果目標是原始分類準確率，並且擁有已標註的數據，那麼針對該分佈訓練的專用分類器可能會更好。
- 延遲和成本： 使用 CoT 進行推理計算量大，速度比輕量級分類器慢；這使得純粹基於安全措施的管道在大規模應用時成本很高。
簡而言之：gpt-oss-safeguard 最適用於以下情況。 政策靈活性和可審計性 是優先事項，或當標記資料稀缺時——並且作為混合管道中的補充組件，不一定是規模優化分類器的直接替代品。
gpt-oss-safeguard 在 OpenAI 的評估中表現如何？
OpenAI發布了一份10頁的技術報告，其中總結了內部和外部評估的基準結果。主要結論（部分關鍵指標）：
多策略準確性（內部評估）
OpenAI 透過給模型輸入參數來評估多策略準確率。 多種 同時應用多種策略，並且只有當預測結果與黃金標籤完全匹配時，才將其視為正確。 全部 政策。結果：
- gpt-oss-safeguard-120b： 46.3% 多策略準確性
- gpt-oss-safeguard-20b： 43.6%
- 比較： gpt-5-thinking： 43.2％; GPT-OSS-120B： 32.5％; GPT-OSS-20B： 32.1％。
OpenAI 的內部「安全推理器」整合模型在同一測試中得分 52.2%。這些數據表明，安全模型在多策略任務上顯著優於其 gpt-oss 基礎模型，甚至在內部多策略指標中超越了規模更大的 gpt-5-thinking 基準模型。
調節 F1（外部基準）
在 OpenAI 的 2022 年審核資料集和公開的 ToxicChat 基準測試中，gpt-oss-safeguard 模型取得了優異的 F1 分數：
- OpenAI Mod (2022) F1： gpt-oss-safeguard-120b = 82.9%，gpt-oss-safeguard-20b = 82.9%
- ToxicChat F1： gpt-oss-safeguard-120b = 79.3%，gpt-oss-safeguard-20b = 79.9%
這些分數表明，在某些基準測試中，gpt-oss-safeguard 接近或略遜於 OpenAI 內部的專用系統，並且通常領先於未微調的 gpt-oss 對應系統。
觀察到的局限性
OpenAI 指出了兩個實際限制：
- 在大型、特定任務標記資料集上訓練的分類器仍然可以優於安全模型。 當分類準確率是唯一目標時。
- 計算成本和延遲成本： CoT 推理會增加推理時間和計算消耗，除非與分類器和非同步管道配合使用，否則難以擴展到平台級流量。
多語言平等
在 MMMLU 風格的測試中，gpt-oss-safeguard 在多種語言中的表現與底層 gpt-oss 模型不相上下，這表明經過微調的 safety 變體保留了廣泛的推理能力。
團隊如何存取和部署 gpt-oss-safeguard？
OpenAI 根據 Apache 2.0 協定提供權重，並提供模型下載連結（Hugging Face）。由於 gpt-oss-safeguard 是一個開源權重模型，因此支援本地和自主部署（建議用於保護隱私和進行自訂）。
- 下載模型權重 （來自 OpenAI / Hugging Face）並將其託管在您自己的伺服器或雲端虛擬機器上。 Apache 2.0 允許修改和商業用途。
- 運行時使用支援大型 Transformer 模型的標準推理執行時間（例如 ONNX Runtime、Triton 或最佳化的廠商執行時間）。像 Ollama 和 LM Studio 這樣的社群運作時已經開始支援 gpt-oss 系列模式。
- 硬體120B 通常需要高顯存的 GPU（例如，80GB 的 A100 / H100 或多 GPU 分片），而 20B 的運作成本更低，並且有針對 16GB 記憶體配置最佳化的選項。規劃容量時應考慮峰值吞吐量和多策略評估成本。
託管運行時和第三方運行時
如果自行運作硬體不切實際， 彗星API 正在迅速增加對 gpt-oss 模型的支援。這些平台可能更容易擴展，但也會重新引入第三方資料暴露的風險。在選擇託管執行時間之前，請評估隱私、服務等級協定 (SLA) 和存取控制。
使用 gpt-oss-safeguard 的有效審核策略
1）採用混合流程（分診→推理→裁決）
- 分診層： 小型、快速的分類器（或規則）可以過濾掉無關緊要的情況，從而減輕昂貴的安全模型的負擔。
- 安全層： 對於策略細微差別很重要的模糊、高風險或多策略檢查，請執行 gpt-oss-safeguard。
- 人力裁決： 將特殊情況和申訴上報，並將CoT儲存作為透明度的證據。這種混合設計兼顧了吞吐量和精確度。
2）政策工程（而非響應工程）
- 將策略視為軟體工件：對其進行版本控制，使用資料集對其進行測試，並保持其明確性和層次性。
- 編寫策略時應包含範例和反例。盡可能包含消除歧義的說明（例如，「如果使用者意圖明顯是探索性和歷史性的，則標記為 X；如果意圖是操作性和即時性的，則標記為 Y」）。
3）動態設定推理工作量
- 使用 低投入 用於批量加工和 努力 對於被標記的內容、申訴或高影響力垂直領域（法律、醫療、金融）。
- 透過人工審核回饋調整閾值，找到成本/品質的最佳平衡點。
4）驗證認知能力，並注意是否有幻覺推理
CoT（思維鏈）很有價值，但它也可能產生幻覺：其軌跡是模型生成的推理，而非真實情況。應定期審核 CoT 的輸出；並配備偵測器，以偵測幻覺引用或不匹配的推理。 OpenAI 將幻覺思維鏈記錄為一項已知的挑戰，並提出了相應的緩解策略。
5) 從系統操作建構資料集
透過記錄模型決策和人工校正，建立標籤的資料集，從而改善分診分類器或為策略修訂提供依據。隨著時間的推移，一個小型但高品質的標籤資料集加上一個高效的分類器，通常可以減少對常規內容中完整CoT推理的依賴。
6）監控計算與成本；採用非同步流程
對於面向消費者的低延遲應用，應考慮採用非同步安全檢查並配合短期保守的使用者體驗策略（例如，暫時隱藏待審核內容），而不是同步執行耗時耗力的安全檢查。 OpenAI 指出，Safety Reasoner 內部使用非同步流程來管理生產服務的延遲。
7）考慮隱私和部署位置
由於權重是開放的，您可以完全在本地運行推理，以遵守嚴格的資料治理或減少對第三方 API 的依賴——這對受監管的行業來說很有價值。
總結：
gpt-oss-safeguard 是一款實用、透明且靈活的工具，適用於 政策驅動的安全推理當你需要它的時候，它會閃耀光芒。 與明確政策相關的可審計決策當您的保單頻繁變更，或您希望在場所內進行安全檢查時，就需要使用它。 不會 別指望它能像靈丹妙藥一樣自動取代那些專門的、高容量的分類器——OpenAI 自身的評估表明，在大型標註語料庫上訓練的專用分類器，在特定任務的原始準確率方面可以勝過這些模型。因此，應該將 gpt-oss-safeguard 視為一個策略組件：它是分層安全架構（快速分流 → 可解釋推理 → 人工監督）的核心，是一個可解釋推理引擎。
入門
CometAPI 是一個統一的 API 平台，它將來自領先供應商（例如 OpenAI 的 GPT 系列、Google 的 Gemini、Anthropic 的 Claude、Midjourney、Suno 等）的 500 多個 AI 模型聚合到一個開發者友好的介面中。透過提供一致的身份驗證、請求格式和回應處理，CometAPI 顯著簡化了將 AI 功能整合到您的應用程式中的過程。無論您是建立聊天機器人、影像產生器、音樂作曲家，還是資料驅動的分析流程，CometAPI 都能讓您更快地迭代、控製成本，並保持與供應商的兼容性——同時也能充分利用整個 AI 生態系統的最新突破。
最新的整合 gpt-oss-safeguard 即將上線 CometAPI，敬請期待！在 gpt-oss-safeguard 模型上傳完成之前，開發者可以存取該模型。 GPT-OSS-20B API GPT-OSS-120B API 透過 CometAPI， 最新型號版本 始終與官方網站同步更新。首先，探索該模型的功能 游乐场 並諮詢 API指南 以獲得詳細說明。造訪前請確保您已經登入CometAPI並取得API金鑰。 彗星API 提供遠低於官方價格的價格，幫助您整合。
準備出發了嗎？ → 立即註冊 CometAPI !
