微軟研究院於 4 年 30 月 2025 日發布了 Phi-4 Reasoning,同時發布的還有兩個姊妹模型——Phi-3.8-Mini-Reasoning(約 4 B 個參數)和 Phi-14-Reasoning-Plus(3 B 個參數,具有強化學習調整功能)。與通用的 LLM 不同,這些模型專門用於推理:它們分配額外的推理計算來驗證和改進每個解決方案步驟。訓練利用高品質的網路資料、合成問題集以及 OpenAI 的 oXNUMX-mini 精心策劃的「思路鏈」演示,從而形成了一個在數學、科學、編碼等領域表現出色的模型。
什麼是 Phi-4 推理?
Phi-4 推理是如何訓練的?
Phi-4 推理是在精心策劃的「可教」提示和詳細推理痕蹟的資料集上對基礎 Phi-4 模型進行監督微調而產生的。研究人員透過促使 o3-mini 解決複雜問題產生了許多這樣的痕跡,然後對其進行了多樣性和教學清晰度的篩選。這個過程確保模型不僅學習答案,也學習結構化的問題解決方法。後續變體 Phi-4-Reasoning-Plus 經歷了基於結果的強化學習階段,鼓勵更長、更徹底的推理鏈,以進一步提高準確性。
哪些功能定義了 Phi-4 推理?
多功能性:其訓練涵蓋數學奧林匹克問題、博士級科學問題、編碼挑戰、演算法難題(3SAT、TSP、BA-Calendar)和空間推理,展示了跨不同領域的強大泛化能力。
詳細的思路鏈生成:透過投入額外的推理步驟來驗證每個中間結論,Phi-4 Reasoning 建構了透明的、逐步的解決方案,而不是不透明的單一答案。
:儘管規模不大,但它的表現優於 DeepSeek-R1-Distill-Llama-70B 等更大的開放權重模型,並且在演算法推理和規劃任務上接近完整的 DeepSeek-R1(671 B 參數)的性能。
