Spesifikasi Teknis o1-2024-12-17
| Specification | Details |
|---|---|
| Model ID | o1-2024-12-17 |
| Provider / family | Keluarga model penalaran o1 dari OpenAI. |
| Model type | Model bahasa besar penalaran tingkat frontier yang dioptimalkan untuk pemecahan masalah kompleks, pengkodean, matematika, sains, dan analisis multi-langkah. |
| Release snapshot | o1-2024-12-17 adalah snapshot bertanggal yang dirilis oleh OpenAI pada Desember 2024. |
| Input modalities | Input teks dan gambar. |
| Output modalities | Output teks. |
| Context window | 200K token. |
| Max output | Hingga 100K token output per permintaan. |
| Performance profile | Lebih lambat daripada model yang lebih ringan, namun dirancang untuk penalaran lebih mendalam dan jawaban berkualitas lebih tinggi pada tugas-tugas sulit. |
| Reasoning controls | Mendukung reasoning_effort sehingga pengembang dapat menyetel berapa lama model berpikir sebelum menjawab. |
| Prompting behavior | Dengan model o1 dan yang lebih baru, pesan developer menggantikan panduan bergaya system-message yang lama; mulai o1-2024-12-17, markdown dinonaktifkan secara default kecuali diaktifkan kembali secara eksplisit dalam pesan developer. |
Apa itu o1-2024-12-17?
o1-2024-12-17 adalah pengenal platform CometAPI untuk snapshot Desember 17, 2024 dari model penalaran o1 milik OpenAI. Model ini termasuk dalam seri o1, yang oleh OpenAI dijelaskan sebagai model yang dilatih dengan reinforcement learning untuk melakukan penalaran kompleks dan untuk “berpikir sebelum mereka menjawab.”
Dibandingkan dengan model percakapan konvensional, o1-2024-12-17 ditujukan untuk tugas di mana ketepatan, logika multi-langkah, dan analisis yang cermat lebih penting daripada kecepatan. OpenAI memposisikan o1 sebagai model penalaran penuh untuk kasus penggunaan tingkat lanjut, dengan dukungan input teks dan gambar serta output teks.
Snapshot khusus ini diperkenalkan sebagai versi pasca-pelatihan yang diperbarui dari o1, meningkatkan perilaku model berdasarkan umpan balik sambil mempertahankan kemampuan penalaran tingkat terdepan yang dievaluasi untuk keluarga o1. OpenAI juga melaporkan latensi yang lebih rendah dibandingkan o1-preview, dengan rata-rata menggunakan 60% lebih sedikit token penalaran untuk suatu permintaan.
Fitur utama o1-2024-12-17
- Penalaran tingkat lanjut: Dibangun untuk masalah sulit yang memerlukan pemikiran langkah demi langkah, termasuk matematika, sains, logika, dan alur kerja pengkodean yang menantang.
- Dukungan input gambar (visi): Dapat melakukan penalaran atas input gambar selain teks, yang berguna untuk analisis visual, diagram, alur kerja ilmiah, dan pemecahan masalah teknis.
- Penanganan konteks panjang: Mendukung jendela konteks 200K token, cocok untuk dokumen besar, percakapan panjang, dan tugas penalaran multi-berkas.
- Kapasitas respons besar: Dapat menghasilkan hingga 100K token output dalam satu permintaan, membantu untuk laporan mendetail, penalaran panjang, atau pembuatan kode yang substansial.
- Kedalaman penalaran yang dapat disesuaikan: Parameter
reasoning_effortmemungkinkan pengembang menukar latensi dengan kedalaman penalaran sesuai kebutuhan aplikasi. - Efisiensi meningkat vs. preview: OpenAI menyatakan bahwa
o1menggunakan rata-rata 60% lebih sedikit token penalaran daripadao1-previewuntuk suatu permintaan, meningkatkan efisiensi praktis. - Prompt berpusat pada pesan developer: Untuk model
o1dan yang lebih baru, pesan developer menjadi mekanisme utama untuk instruksi perilaku tingkat tinggi, menggantikan pola system-message lama. - Perilaku teks polos default: Mulai
o1-2024-12-17, respons API menghindari format markdown secara default kecuali Anda mengaktifkannya kembali secara eksplisit dalam pesan developer.
Cara mengakses dan mengintegrasikan o1-2024-12-17
Langkah 1: Daftar untuk Kunci API
Untuk menggunakan o1-2024-12-17, terlebih dahulu buat akun di CometAPI dan hasilkan kunci API Anda dari dasbor. Setelah itu, simpan kunci tersebut secara aman sebagai variabel lingkungan dalam aplikasi Anda sehingga Anda dapat mengautentikasi permintaan tanpa menyematkan rahasia secara hard-code di berkas sumber.
Langkah 2: Kirim Permintaan ke API o1-2024-12-17
Setelah kunci API siap, kirim permintaan melalui endpoint CometAPI yang kompatibel dengan OpenAI dan setel field model ke o1-2024-12-17.
curl https://api.cometapi.com/v1/chat/completions \
-H "Content-Type: application/json" \
-H "Authorization: Bearer $COMETAPI_API_KEY" \
-d '{
"model": "o1-2024-12-17",
"messages": [
{
"role": "developer",
"content": "You are a precise reasoning assistant. Formatting re-enabled."
},
{
"role": "user",
"content": "Analyze the trade-offs between recursive descent and Pratt parsers."
}
]
}'
Anda juga dapat mengintegrasikannya dari SDK apa pun yang kompatibel dengan OpenAI dengan mengganti base URL ke endpoint CometAPI dan mempertahankan o1-2024-12-17 sebagai ID model target.
Langkah 3: Ambil dan Verifikasi Hasil
Setelah mengirimkan permintaan, urai JSON respons dan baca output asisten yang dihasilkan dari choices yang dikembalikan atau field message content, tergantung SDK atau endpoint yang Anda gunakan. Untuk penggunaan produksi, Anda juga sebaiknya memverifikasi output dengan pemeriksaan tingkat aplikasi seperti validasi skema, kasus uji, alur kerja sitasi, atau peninjauan manusia ketika ketepatan sangat krusial.