o1-2024-12-17 的技術規格
| 規格 | 詳細資訊 |
|---|---|
| 模型 ID | o1-2024-12-17 |
| 提供者 / 系列 | OpenAI o1 推理模型系列。 |
| 模型類型 | 前沿級推理大型語言模型,針對複雜問題求解、程式設計、數學、科學與多步分析進行優化。 |
| 發行快照 | o1-2024-12-17 是 OpenAI 於 2024 年 12 月發布的定檔快照。 |
| 輸入模態 | 文字與影像輸入。 |
| 輸出模態 | 文字輸出。 |
| 上下文視窗 | 200K 個 token。 |
| 最大輸出 | 每次請求最多可輸出 100K 個 token。 |
| 效能概況 | 較輕量模型更慢,但針對困難任務提供更深入的推理與更高品質的答案而設計。 |
| 推理控制 | 支援 reasoning_effort,使開發者可調整模型在回答前的思考時長。 |
| 提示行為 | 在 o1 及更新的模型中,開發者訊息取代較舊的系統訊息式指引;自 o1-2024-12-17 起,除非在開發者訊息中明確重新啟用,否則預設會抑制 Markdown 格式。 |
什麼是 o1-2024-12-17?
o1-2024-12-17 是 CometAPI 對 OpenAI 於 2024 年 12 月 17 日釋出的 o1 推理模型快照所使用的平台識別符。它屬於 o1 系列;OpenAI 將該系列描述為通過強化學習訓練、能夠執行複雜推理並「在回答之前先思考」的模型。
與傳統面向聊天的模型相比,o1-2024-12-17 旨在處理更看重正確性、多步邏輯與審慎分析而非速度的任務。OpenAI 將 o1 定位為適用於進階用例的完整推理模型,支援文字與影像輸入以及文字輸出。
此快照作為 o1 的更新後續訓練版本推出,基於回饋改善了模型行為,同時保留針對 o1 系列所評估的前沿級推理能力。OpenAI 亦表示,相較於 o1-preview,其延遲更低,且對於同一請求平均使用少 60% 的推理 token。
o1-2024-12-17 的主要特性
- 進階推理:為需逐步思考的難題而設計,包括數學、科學、邏輯與高難度的程式設計工作流程。
- 視覺輸入支援:除文字外亦能對影像輸入進行推理,適用於視覺分析、圖表、科學工作流程與技術問題求解。
- 長上下文處理:支援 200K-token 的上下文視窗,適合大型文件、長對話與多檔案推理任務。
- 大容量回應:單次請求可生成最多 100K 個輸出 token,有助於詳細報告、長篇推理或大量程式碼生成。
- 可調推理深度:透過
reasoning_effort參數,開發者可依應用需求在延遲與推理深度間取捨。 - 相較預覽版的效率提升:OpenAI 指出,針對同一請求,
o1平均比o1-preview少用 60% 的推理 token,提升實務效率。 - 開發者訊息優先的提示方式:在
o1與更新版本中,開發者訊息是高階行為指示的首選機制,取代傳統的系統訊息模式。 - 預設為純文字行為:自
o1-2024-12-17起,API 回應預設避免使用 Markdown 格式,除非在開發者訊息中明確重新啟用。
如何存取並整合 o1-2024-12-17
步驟 1:註冊取得 API 金鑰
若要使用 o1-2024-12-17,請先在 CometAPI 建立帳戶,並於儀表板產生 API 金鑰。隨後,將金鑰安全地作為環境變數儲存在應用程式中,以便在不將機密硬編碼到原始碼的情況下進行請求驗證。
步驟 2:向 o1-2024-12-17 API 發送請求
準備好 API 金鑰後,透過 CometAPI 相容 OpenAI 的端點發送請求,並將 model 欄位設為 o1-2024-12-17。
curl https://api.cometapi.com/v1/chat/completions \
-H "Content-Type: application/json" \
-H "Authorization: Bearer $COMETAPI_API_KEY" \
-d '{
"model": "o1-2024-12-17",
"messages": [
{
"role": "developer",
"content": "You are a precise reasoning assistant. Formatting re-enabled."
},
{
"role": "user",
"content": "Analyze the trade-offs between recursive descent and Pratt parsers."
}
]
}'
你也可以使用任何相容 OpenAI 的 SDK 進行整合,只需將基底 URL 換成 CometAPI 的端點,並將目標模型 ID 保持為 o1-2024-12-17。
步驟 3:擷取並驗證結果
提交請求後,解析回應 JSON,並視所用的 SDK 或端點,從返回的 choices 或 message content 欄位讀取助理輸出。用於生產時,還應透過應用層級的檢查(例如結構驗證、測試案例、引用流程,或在正確性至關重要時進行人工審核)來驗證輸出。