gpt-oss-20b-free техникалық сипаттамалары
| Сипаттама | gpt-oss-20b |
|---|---|
| Ұсынушы | OpenAI |
| Модельдер отбасы | gpt-oss ашық салмақты пайымдау модельдері |
| Модель | gpt-oss-20b-free |
| CometAPI-дегі модель ID | gpt-oss-20b-free |
| Архитектура | Сарапшылар қоспасы (MoE) |
| Жалпы параметрлер | 21B |
| Белсенді параметрлер | 3.6B |
| Контекст терезесі | 131,072 токен |
| Шығыстың максималды токен саны | 131,072 |
| Кіріс / шығыс | Мәтін кіріс, мәтін шығыс |
| Пайымдау күш-жігері | Төмен, орташа, жоғары |
| Лицензия | Apache 2.0, gpt-oss пайдалану саясатына бағынады |
| Функцияларды шақыру | Қолдау көрсетіледі |
| Құрылымдалған нәтижелер | Қолдау көрсетіледі |
| Ағындық беру | Қолдау көрсетіледі |
| Қосымша үйрету | Ашық құралдар/инфрақұрылым арқылы қолдау көрсетіледі |
| Нативті орналастыру нысанасы | Жергілікті, edge, жеке инфрақұрылым немесе хостингтегі инференс |
| Білімнің шектік күні | 2024 жылғы 1 маусым |
gpt-oss-20b деген не?
gpt-oss-20b — gpt-oss отбасындағы OpenAI-дың шағын ашық салмақты пайымдау моделі. CometAPI сондай-ақ gpt-oss-20b-ді тегін пайдалануды ұсынады; оның ID: gpt-oss-20b-free. Ол жалпы 21 миллиард параметрге ие, бірақ бір алға өту кезінде шамамен 3.6 миллиард параметрді ғана белсендіреді; бұл Сарапшылар қоспасы (Mixture-of-Experts) архитектурасы арқылы инференс талаптарын азайтып, елеулі пайымдау қабілетін сақтауға мүмкіндік береді. OpenAI оны ең ірі меншікті модельдерінің тікелей алмастыруы ретінде емес, кідірісі төмен, жергілікті және мамандандырылған жүктемелер үшін ұсынады.
Модель тек мәтінмен жұмыс істейді және пайымдау мен агенттік жұмыс процестері үшін жасалған. Оның ашық салмақтарын жүктеп алуға, баптауға, қосымша үйретіп бейімдеуге және әзірлеуші бақылайтын инфрақұрылымда орналастыруға болады. OpenAI және Hugging Face модельдің шамамен 16 GB жад шегінде жұмыс істеуіне мүмкіндік беретін MXFP4 нативті кванттауын құжаттайды, бұл оны осы параметрлік класс үшін әдеттен тыс қолжетімді етеді.
gpt-oss-20b негізгі мүмкіндіктері
- Тиімді MoE архитектурасы: әр алға өтімде тек 3.6B белсенді параметрмен 21B жалпы параметр, төмен кідіріс пен төмен орналастыру талаптарын көздейді.
- Бапталатын пайымдау: Әзірлеушілер жауап кідірісі мен есептеу құнын пайымдау сапасына айырбастау үшін төмен, орташа немесе жоғары пайымдау күш-жігерін таңдай алады.
- Агенттік құралдарды пайдалану: Қызметтік орта осы құралдарды ұсынғанда, модель функцияларды шақыру, веб-шолу, Python орындау және құрылымдалған нәтижелерді қолдайды.
- Ашық салмақтарды баптау: Apache 2.0 лицензиясы gpt-oss пайдалану саясатына сәйкес кең ауқымды өзгерту мен коммерциялық орналастыруға рұқсат береді.
- Жергілікті және жеке орналастыру: Модель әзірлеушілер бақылайтын инфрақұрылымда, соның ішінде жергілікті немесе жеке ортада жұмыс істеуге арналған.
- Ұзын контекст: Өндірістік модель құжаттамасында контекст терезесі 131,072 токен және максималды шығыс-токен шегі 131,072 деп көрсетілген.
gpt-oss-20b эталондық өнімділігі
OpenAI жариялаған бағалау нәтижелері бойынша gpt-oss-20b өзінің көлеміне қарай математикалық пайымдау мен кодтау салаларында ерекше мықты. Жоғары пайымдау күш-жігері және құралдармен бірге қолданғанда ол AIME 2025 бойынша 98.7%, AIME 2024 бойынша 96.0%, SWE-Bench Verified бойынша 60.7% және Tau-Bench Retail бойынша 54.8% нәтижелеріне жетеді. Білім мен пайымдауды бағалауда OpenAI MMLU бойынша 85.3%, GPQA Diamond (құралдарсыз) бойынша 71.5%, және Humanity's Last Exam (құралдармен) бойынша 17.3% деп хабарлайды. Нәтижелер пайымдау күш-жігері мен құралдарға қолжетімділікке едәуір тәуелді, сондықтан бұл сандарды әмбебап өндірістік дәлдік деңгейлері ретінде қарастыруға болмайды.
| Benchmark | gpt-oss-20b нәтижесі | Бағалау шарттары |
|---|---|---|
| AIME 2024 | 96.0% | Жоғары пайымдау, құралдармен |
| AIME 2025 | 98.7% | Жоғары пайымдау, құралдармен |
| GPQA Diamond | 71.5% | Жоғары пайымдау, құралдарсыз |
| MMLU | 85.3% | Жоғары пайымдау |
| SWE-Bench Verified | 60.7% | Жоғары пайымдау |
| Tau-Bench Retail | 54.8% | Жоғары пайымдау |
| Humanity's Last Exam | 17.3% | Жоғары пайымдау, құралдармен |
OpenAI-дың өз салыстыруы gpt-oss-20b моделін бірнеше бағалау санаттары бойынша o3-mini-ге жақын орналастырады, ал үлкенірек gpt-oss-120b әдетте кең ауқымды білім және агенттік жүктемелерде басымдыққа ие.
gpt-oss-20b vs gpt-oss-120b vs o3-mini
| Модель | Басты артықшылық | Контекст | Ең қолайлы |
|---|---|---|---|
| gpt-oss-20b | Тиімді ашық салмақты пайымдау | 131K | Жергілікті инференс, код жазу, математика, мамандандырылған агенттер |
| gpt-oss-120b | Жалпы қабілетінің жоғары болуы | 131K | Күрделірек пайымдау және өндірістік жүктемелер |
| o3-mini | Меншікті пайымдау моделі | Орналастыруға байланысты өзгереді | Ашық салмақтар қажет емес басқарылатын пайымдау |
Практикалық айырмашылық — орналастыруды бақылау. Әзірлеушілерге ашық салмақтар, жергілікті/жеке орындау, баптау немесе салыстырмалы түрде шағын аппараттық талаптар қажет болғанда gpt-oss-20b жақсырақ таңдау. Жалпы пайымдау және білім көрсеткіштері жоғарырақ болып, үлкен орналастыру ізі ақталатын жағдайда gpt-oss-120b қолайлырақ.
gpt-oss-20b шектеулері
gpt-oss-20b тек мәтінмен жұмыс істейді және сурет, аудио немесе видео енгізулерін нативті түрде қабылдамайды. Параметрлер санының аздығы сонымен қатар білімге бай және агенттік бағалаулардың кейбірінде gpt-oss-120b-мен салыстырғанда өнімділік алшақтығын туғызады. Бұған қоса, ашық салмақты орналастыру операциялық жауапкершілікті көбірек әзірлеушінің өзіне жүктейді: хостинг, ауқымдау, мониторинг, қауіпсіздік бақылаулары және орындау уақыты конфигурациясы толық басқарылатын меншікті API-дегідей тәрізді өңделмейді.
OpenAI сондай-ақ ашық салмақты модельдердің қауіпсіздік профилі хостингтелген модельдерден өзгеше болуы мүмкін екенін атап өтеді, өйткені әзірлеушілер салмақтарды өзгерте немесе қосымша үйрете алады. Сондықтан өндірістік орналастыруларда тиісті қолданба деңгейіндегі қорғаныс шаралары мен қолжетімділік бақылауларын қосу қажет.
gpt-oss-20b қолдану жағдайлары
gpt-oss-20b келесі жағдайларда жақсы сәйкес келеді:
- Жергілікті кодтау көмекшілері — әзірлеушілер кодты меншікті хостингтелген модельге жібермей-ақ пайымдау мен код генерациясын қаласа.
- Математикалық және техникалық пайымдау — күрделі тапсырмалар үшін жоғары пайымдау күш-жігерін қосуға болады.
- Жеке кәсіпорындық жұмыс жүктемелері — басқарылатын орта ішінде орналастыру талап етілгенде.
- Құрал қолданатын агенттер — модель функцияларды шақыруды, Python орындауды, веб-іздеуді немесе қолданбаға тән құралдарды біріктіргенде.
- Қосымша үйретілген домендік көмекшілер — ашық салмақтарға қолжетімділік басқарылатын меншікті модельге қарағанда құнды болғанда.
- Ресурстар шектеулі инференс — MXFP4 кванттауы қамтамасыз ететін шамамен 16 GB жад нысанасы маңызды болғанда.
CometAPI арқылы gpt-oss-20b-ке қол жеткізу
CometAPI қазіргі уақытта gpt-oss-20b-free моделін OpenAI моделі ретінде тізімдейді және оны 3.6B белсенді параметрі бар, 21B-параметрлі ашық бастапқы MoE моделі және 128K класындағы контекст ретінде сипаттайды. Ол тегін пайдалануға қолжетімді және модельді CometAPI-дың бірыңғай API арқылы ұсынады. CometAPI өзгерістер журналында модельдің OpenAI чат стандартты форматын ұстанатыны жазылған.
CometAPI-мен интеграция үшін жалпы жұмыс ағыны: CometAPI кілтін жасау, CometAPI базалық URL-ін пайдалану және сұрауда модель атын жіберу. CometAPI OpenAI-SDK-мен үйлесімді интеграцияны құжаттайды және қазіргі уақытта жылдам бастауға арналған базалық URL ретінде https://api.cometapi.com/v1 көрсетеді.