2025年3月、OpenAIは推論に重点を置いた4つの新しい言語モデル、o4とo4-miniを発表しました。これは、生成AIが返答前に「考える」能力に大きな進化をもたらしました。これらのモデルの中でも、oXNUMX-miniモデルとその拡張版であるoXNUMX-mini-highは、コンパクトさ、スピード、そしてツール対応の推論機能を兼ね備えていることで注目を集めています。
o4-mini-highとは何ですか？
定義とコンテキスト
OpenAIのo4-mini-highは、4年16月2025日にOpenAIの推論モデル「oシリーズ」の一部として導入された、o4-miniモデルファミリーのバリアントです。o4-miniが高速でコスト効率の高い推論に重点を置いているのに対し、o4-mini-highは「推論努力」設定を高めて動作し、レイテンシを犠牲にして精度を向上させ、より深い分析を実現します。このバリアントはoXNUMX-miniと同じアーキテクチャ基盤を継承していますが、推論中に追加の計算を適用することで内部推論チェーンを洗練させており、厳密な論理的推論や複雑な複数ステップのワークフローを必要とするタスクに特に適しています。
o4-miniおよびo3との関係
oシリーズの階層構造において、o3はパフォーマンスの頂点に位置し、マルチモーダル推論に優れ、難しいタスクにおけるエラー発生率が低いという特徴があります。効率性と速度の点でo3のすぐ下に位置するo4-miniは、アメリカ招待数学試験（AIME）などの学術試験で驚異的なベンチマークを達成しながら、高いスループットもサポートしています。o4-mini-highバリアントは、「high 推論エフォート」モード（モデルに一時的に推論時間の追加計算を付与する機能）を有効にすることでo4-miniのベースライン機能を強化し、速度よりも精度が重視されるシナリオにおいてo4-miniとo3のギャップを埋めます。
o4-mini-highはどのように機能しますか?
建築基礎
o4-mini-highは、その中核において、o4-miniと同じトランスフォーマーベースのアーキテクチャと事前学習方法を採用しています。両モデルとも、インターネット規模の大規模なデータを用いて学習され、人間からのフィードバックに基づく大規模強化学習（RLHF）によって最適化されています。これにより、両モデルは最終的な答えを出す前に中間推論ステップを生成することで「考える」ことを促されます。「high」バリアントは、推論段階で動的な調整を導入します。これにより、自己注意とフィードフォワード計算の数を増やすことができ、ベースの重みを変更することなく推論チェーンを効果的に深化させることができます。この設計は、推論計算量の増加が複雑なタスクにおけるパフォーマンスの向上と一般的に相関するという観察に基づいています。