gpt-oss-20b-free 的技術規格
| 規格 | gpt-oss-20b |
|---|---|
| 供應商 | OpenAI |
| 模型系列 | gpt-oss 開放權重推理模型 |
| 模型 | gpt-oss-20b-free |
| CometAPI 中的模型 ID | gpt-oss-20b-free |
| 架構 | 專家混合(MoE) |
| 總參數量 | 21B |
| 活躍參數量 | 3.6B |
| 上下文視窗 | 131,072 tokens |
| 最多輸出 tokens | 131,072 |
| 輸入 / 輸出 | 文字輸入,文字輸出 |
| 推理強度 | 低、中、高 |
| 授權條款 | Apache 2.0,受 gpt-oss 使用政策約束 |
| 函式呼叫 | 支援 |
| 結構化輸出 | 支援 |
| 串流 | 支援 |
| 微調 | 透過開放工具/基礎設施支援 |
| 原生部署目標 | 本地、邊緣、私有基礎設施,或託管推理 |
| 知識截止日期 | 2024 年 6 月 1 日 |
什麼是 gpt-oss-20b?
gpt-oss-20b 是 OpenAI 的 gpt-oss 家族中較小的開放權重推理模型。CometAPI 也提供 gpt-oss-20b 的免費使用;其 ID 為 gpt-oss-20b-free。 它具有 210 億總參數,但在每次前向傳播中僅啟用約 36 億參數,透過專家混合架構在保留相當推理能力的同時降低推理需求。OpenAI 將其定位於延遲較低、本地化與專門化工作負載,而非作為其最大專有模型的直接替代。
該模型僅支援文字,旨在用於推理與代理式工作流程。其開放權重可下載、客製化、微調,並在開發者所控制的基礎設施上部署。OpenAI 與 Hugging Face 文件記載的原生 MXFP4 量化可使模型在約 16 GB 記憶體內運行,對於此參數級別的模型而言相當易於取得。
gpt-oss-20b 的主要特性
- 高效的 MoE 架構:總參數 21B,每次前向傳播僅 3.6B 活躍參數,目標是更低延遲與更低部署需求。
- 可配置的推理:開發者可選擇低/中/高推理強度,在回應延遲與運算成本與推理品質之間進行取捨。
- 代理式工具使用:當服務執行環境提供工具時,模型支援包含函式呼叫、網頁瀏覽、Python 執行與結構化輸出的工作流程。
- 開放權重客製化:Apache 2.0 授權允許廣泛修改與商業部署,但需遵循 gpt-oss 使用政策。
- 本地與私有部署:模型設計用於在開發者可控的基礎設施上運行,包括本地或私有環境。
- 長上下文:生產模型文件列出 131,072-token 的上下文視窗與 131,072 的最⼤輸出 token 上限。
gpt-oss-20b 的基準表現
OpenAI 公布的評測結果顯示,相較於其規模,gpt-oss-20b 在數學推理與程式編寫方面表現突出。在高推理強度且使用工具的情況下,AIME 2025 達到 98.7%,AIME 2024 達到 96.0%,SWE-Bench Verified 為 60.7%,Tau-Bench Retail 為 54.8%。在知識與推理評測上,OpenAI 報告 MMLU 為 85.3%,在無工具的情況下 GPQA Diamond 為 71.5%,搭配工具的 Humanity's Last Exam 為 17.3%。結果會隨推理強度與工具使用情況顯著變動,因此不應將這些數字視為通用的生產環境準確率。
| 基準測試 | gpt-oss-20b 成績 | 評測條件 |
|---|---|---|
| AIME 2024 | 96.0% | 高推理強度,使用工具 |
| AIME 2025 | 98.7% | 高推理強度,使用工具 |
| GPQA Diamond | 71.5% | 高推理強度,無工具 |
| MMLU | 85.3% | 高推理強度 |
| SWE-Bench Verified | 60.7% | 高推理強度 |
| Tau-Bench Retail | 54.8% | 高推理強度 |
| Humanity's Last Exam | 17.3% | 高推理強度,使用工具 |
OpenAI 自身的比較顯示,gpt-oss-20b 在多個評測類別上接近 o3-mini,而較大的 gpt-oss-120b 在廣泛知識與代理式工作負載上通常具有優勢。
gpt-oss-20b vs gpt-oss-120b vs o3-mini
| 模型 | 主要優勢 | 上下文 | 最適用場景 |
|---|---|---|---|
| gpt-oss-20b | 高效的開放權重推理 | 131K | 本地推理、程式編寫、數學、專門化代理 |
| gpt-oss-120b | 更高的整體能力 | 131K | 更高要求的推理與生產工作負載 |
| o3-mini | 專有推理模型 | 視部署而定 | 不需要開放權重的受管推理場景 |
實務上的區別在於部署控制。當開發者需要開放權重、本地/私有執行、客製化,或相對溫和的硬體需求時,gpt-oss-20b 是更佳選擇;當更高的整體推理與知識表現足以抵換更大的部署足跡時,gpt-oss-120b 更為合適。
gpt-oss-20b 的限制
gpt-oss-20b 僅支援文字,無法原生接收圖片、音訊或影片輸入。其較小的參數規模也使其在某些知識密集與代理式評測上相對於 gpt-oss-120b 存在性能差距。此外,開放權重的部署將更多營運責任轉移給開發者:託管、擴展、監控、安全控管與執行時配置並非如完整受管的專有 API 般處理。
OpenAI 也指出,開放權重模型與託管模型在安全屬性上有所不同,因為開發者可以修改或微調權重。因此,生產部署應加入適當的應用層防護措施與存取控制。
gpt-oss-20b 的使用情境
gpt-oss-20b 特別適合:
- 在不希望將程式碼發送至專有託管模型時,作為本地程式編寫助理,提供推理與程式碼產生能力。
- 在可為困難問題啟用高推理強度的數學與技術推理場景。
- 需要在受控環境內部署的企業私有工作負載。
- 結合函式呼叫、Python 執行、網路搜尋或應用程式特定工具的工具型代理。
- 當開放權重價值高於使用受管專有模型時的領域微調助理。
- 在資源受限的推理環境中,受益於 MXFP4 量化帶來的約 16 GB 記憶體目標。
透過 CometAPI 存取 gpt-oss-20b
CometAPI 目前將 gpt-oss-20b-free 列為 OpenAI 模型,並描述其為具 210 億參數、3.6 億活躍參數與 128K 級上下文的開源 MoE 模型。它可免費使用,並透過 CometAPI 的統一 API 對外提供。CometAPI 更新日誌指出,該模型遵循 OpenAI chat 標準格式。
在 CometAPI 的整合中,通用流程是建立 CometAPI 金鑰、使用 CometAPI 的基底 URL,並在請求中指定模型名稱。CometAPI 文件提供與 OpenAI SDK 相容的整合方式,目前將 https://api.cometapi.com/v1 列為快速入門的基底 URL。