Microsoft Research는 4년 30월 2025일, Phi‑4 Reasoning과 두 자매 모델인 Phi‑3.8‑Mini‑Reasoning(약 4억 개의 매개변수) 및 Phi‑14‑Reasoning‑Plus(강화 학습 튜닝을 통해 3억 개의 매개변수)를 발표했습니다. 범용 LLM과 달리, 이 모델은 추론에 특화되어 있으며, 각 해결 단계를 검증하고 개선하기 위해 추가적인 추론 컴퓨팅을 할당합니다. OpenAI의 oXNUMX‑mini에서 고품질 웹 데이터, 합성 문제 세트, 그리고 엄선된 "사고의 사슬" 데모를 활용하여 학습한 결과, 수학, 과학, 코딩 등 다양한 분야에서 탁월한 성능을 보이는 모델이 탄생했습니다.
Phi‑4 추론이란 무엇인가요?
Phi‑4 추론은 어떻게 훈련되었나요?
Phi‑4 Reasoning은 신중하게 큐레이팅된 "가르칠 수 있는" 프롬프트와 상세한 추론 추적 데이터 세트를 기반으로 기본 Phi‑4 모델을 지도 학습 방식으로 미세 조정하여 개발되었습니다. 연구원들은 o3‑mini를 사용하여 복잡한 문제를 풀도록 유도하여 이러한 추적을 생성한 후, 다양성과 교육적 명확성을 위해 필터링했습니다. 이 과정을 통해 모델은 단순히 정답만 학습하는 것이 아니라 구조화된 문제 해결 접근법까지 학습할 수 있었습니다. 후속 모델인 Phi‑4‑Reasoning‑Plus는 결과 기반 강화 학습 단계를 거쳤으며, 이를 통해 더 길고 철저한 추론 체인을 통해 정확도를 더욱 향상시켰습니다.
Phi‑4 추론을 정의하는 역량은 무엇입니까?
다재: 이 프로그램은 수학 올림피아드 문제, 박사 수준의 과학 문제, 코딩 챌린지, 알고리즘 퍼즐(3SAT, TSP, BA‑Calendar) 및 공간 추론을 다루며 다양한 영역에서 강력한 일반화 능력을 보여줍니다.
: 각 중간 결론을 검증하기 위해 추가적인 추론 단계를 할당함으로써 Phi‑4 추론은 불투명한 단발성 답변이 아닌 투명하고 단계적인 솔루션을 구성합니다.