o1-2024-12-17 техникалық сипаттамалары
| Сипаттама | Егжей-тегжейі |
|---|---|
| Модель идентификаторы | o1-2024-12-17 |
| Провайдер / отбасы | OpenAI o1 пайымдау модельдері отбасы. |
| Модель түрі | Күрделі міндеттерді шешу, кодтау, математика, ғылым және көпқадамды талдау үшін оңтайландырылған, алдыңғы қатарлы пайымдауға бағытталған үлкен тілдік модель. |
| Шығарылым снапшоты | o1-2024-12-17 — OpenAI 2024 жылғы желтоқсанда шығарған күнмен белгіленген снапшот. |
| Енгізу тәсілдері | Мәтін және кескін енгізу. |
| Шығыс тәсілдері | Мәтін шығару. |
| Контекст терезесі | 200K токен. |
| Максимал шығыс | Бір сұранымға ең көбі 100K шығыс токені. |
| Өнімділік профилі | Жеңілірек модельдерден баяуырақ, бірақ күрделі тапсырмаларда тереңірек пайымдау мен жоғары сапалы жауаптарға арнап жасалған. |
| Пайымдау басқаруы | reasoning_effort қолдайды, сондықтан әзірлеушілер модельдің жауап берер алдында қанша уақыт “ойланатынын” баптай алады. |
| Промпттау мінез-құлқы | o1 модельдері мен одан жаңаларында әзірлеуші хабарламалары ескі system-message стиліндегі нұсқауларды алмастырады; o1-2024-12-17 бастап, әзепкіде markdown өшірілген, оны әзірлеуші хабарламасында айқын түрде қайта қоспасаңыз. |
o1-2024-12-17 деген не?
o1-2024-12-17 — CometAPI платформасындағы OpenAI-дың o1 пайымдау моделінің 2024 жылғы 17 желтоқсандағы снапшоты үшін берілген сәйкестендіргіші. Ол OpenAI күшейтпелі оқыту арқылы күрделі пайымдауды орындауға және “жауап бермей тұрып ойлануға” үйретілген деп сипаттайтын o1 сериясына жатады.
Дәстүрлі чатқа бағытталған модельдермен салыстырғанда, o1-2024-12-17 жылдамдықтан гөрі дұрыстық, көпқадамды логика және мұқият талдау маңызды болатын тапсырмаларға арналған. OpenAI o1 моделін озық қолдану жағдайларына лайық толыққанды пайымдау моделі ретінде ұсынады; ол мәтін және кескін енгізулерін, сондай-ақ мәтіндік шығысты қолдайды.
Бұл снапшот o1 моделінің кейінгі оқытудан өткен жаңартылған нұсқасы ретінде енгізілді: ол пікірлер негізінде модель мінез-құлқын жақсартады және o1 отбасына тән алдыңғы қатар деңгейіндегі пайымдау мүмкіндіктерін сақтайды. Сондай-ақ OpenAI o1-preview салыстырғанда кідірістің төмендегенін хабарлады: бір сұраным үшін орта есеппен 60% аз пайымдау токендері пайдаланылады.
o1-2024-12-17 негізгі мүмкіндіктері
- Озық пайымдау: Математика, ғылым, логика және күрделі кодтау жұмыс процестері сияқты қадам-қадам ойлануды талап ететін қиын міндеттерге арналған.
- Кескін енгізуді қолдау: Мәтінмен қатар кескіндер бойынша да пайымдай алады; бұл визуалды талдау, диаграммалар, ғылыми жұмыс процестері және техникалық мәселелерді шешу үшін пайдалы.
- Ұзын контекстті өңдеу: 200K-токендік контекст терезесін қолдайды, бұл үлкен құжаттар, ұзақ әңгімелер және көп файлды пайымдау тапсырмалары үшін қолайлы.
- Үлкен жауап сыйымдылығы: Бір сұранымда 100K токенге дейінгі жауап генерациялай алады, бұл егжей-тегжейлі есептер, ұзақ пайымдау немесе ауқымды код генерациясы үшін ыңғайлы.
- Пайымдау тереңдігін реттеу:
reasoning_effortпараметрі арқылы қолданба талабына сай кідіріс пен пайымдау тереңдігі арасындағы теңгерімді таңдауға болады. - Preview-нұсқамен салыстырғанда тиімдірек: OpenAI мәліметінше,
o1бір сұраным үшін орта есеппенo1-previewқарағанда 60% аз пайымдау токендерін пайдаланады. - Әзірлеуші хабарламаларына басымдық берілетін промпттау: o1 және одан жаңа модельдерде жоғары деңгейлі мінез-құлық нұсқаулары system-message тәсілін емес, әзірлеуші хабарламаларын қолданады.
- Әдепкі жай мәтін режимі:
o1-2024-12-17бастап, API жауаптары әзірлеуші хабарламасында арнайы қайта қосылмаса, әдепкіде markdown пішімдеуден бас тартады.
o1-2024-12-17-ке қол жеткізу және интеграциялау
1-қадам: API кілтін алу үшін тіркелу
o1-2024-12-17 пайдалану үшін алдымен CometAPI қызметінде аккаунт жасап, басқару тақтасында API кілтіңізді генерациялаңыз. Одан кейін, кілтті қолданбаңызда орта айнымалысы ретінде қауіпсіз сақтаңыз, осылайша аутентификацияны бастапқы файлдарға құпияларды тікелей жазбай орындай аласыз.
2-қадам: o1-2024-12-17 API-ге сұранымдар жіберу
API кілті дайын болған соң, CometAPI-дің OpenAI-мен үйлесімді endpoint-і арқылы сұраным жіберіңіз және model өрісін o1-2024-12-17 деп орнатыңыз.
curl https://api.cometapi.com/v1/chat/completions \
-H "Content-Type: application/json" \
-H "Authorization: Bearer $COMETAPI_API_KEY" \
-d '{
"model": "o1-2024-12-17",
"messages": [
{
"role": "developer",
"content": "You are a precise reasoning assistant. Formatting re-enabled."
},
{
"role": "user",
"content": "Analyze the trade-offs between recursive descent and Pratt parsers."
}
]
}'
Сондай-ақ кез келген OpenAI-мен үйлесімді SDK қолдана отырып, базалық URL-ді CometAPI endpoint-іне ауыстырып және нысаналы модель ID ретінде o1-2024-12-17 қалдырып интеграциялай аласыз.
3-қадам: Нәтижелерді алу және тексеру
Сұранымды жібергеннен кейін жауаптың JSON-ын талдап, қолданатын SDK немесе endpoint түріне қарай қайтарылған choices не message content өрістерінен көмекшінің генерацияланған нәтижесін оқыңыз. Өндірістік ортада, дұрыстық аса маңызды болса, шығыстарды схеманы тексеру, тестілік жағдайлар, дереккөзге сілтеме жасау жұмыс ағымдары немесе адамдық тексеріс сияқты қолданба деңгейіндегі тексерулермен растаған жөн.