Microsoft Research は、4 年 30 月 2025 日に Phi-4 Reasoning を発表し、姉妹モデルとして Phi-3.8-Mini-Reasoning（約 4 億のパラメータ）と Phi-14-Reasoning-Plus（強化学習チューニングによる 3 億のパラメータ）も発表しました。汎用 LLM とは異なり、これらのモデルは推論に特化しており、各ソリューション ステップの検証と改良のために追加の推論コンピューティングを割り当てます。トレーニングでは、高品質の Web データ、合成問題セット、OpenAI の oXNUMX-mini から厳選された「思考の連鎖」デモを活用し、数学、科学、コーディングなど、幅広い分野で優れたモデルを実現しました。
Phi-4推論とは何ですか?
Phi-4推論はどのように訓練されましたか?
Phi-4 Reasoningは、厳選された「学習可能な」プロンプトと詳細な推論トレースのデータセットを用いて、ベースとなるPhi-4モデルの教師あり微調整から生まれました。研究者たちは、o3-miniに複雑な問題を解かせることでこれらのトレースを多数生成し、多様性と教育的な明瞭性を考慮してフィルタリングしました。このプロセスにより、モデルは単なる解答だけでなく、構造化された問題解決アプローチも学習することができました。その後の派生モデルであるPhi-4-Reasoning-Plusは、結果に基づく強化学習の段階を経て、より長く徹底的な推論チェーンを促し、精度をさらに向上させました。
Phi-4推論を定義する機能は何ですか?
汎用性トレーニングは、数学オリンピックの問題、博士レベルの科学の質問、コーディング チャレンジ、アルゴリズム パズル (3SAT、TSP、BA-Calendar)、空間推論に及び、多様な領域にわたって堅牢な一般化を実証します。
: それぞれの中間結論を検証するために追加の推論ステップを割り当てることにより、Phi-4 Reasoning は不透明な単発の答えではなく、透明で段階的な解決策を構築します。