gpt-oss-20b Бұл портативті, ашық салмақты пайымдау үлгісі Ұсыныс o3-мини-деңгейдегі өнімділік, агентке ыңғайлы құралды пайдалану, және толық ой тізбегі тірегі рұқсат беретін лицензия бойынша. Ол өзінің 120 B аналогы сияқты қуатты болмаса да, ол үшін ерекше қолайлы құрылғыдағы, аз кідіріспен және құпиялылыққа сезімтал орналастырулар. Әзірлеушілер оның белгілі екенін өлшеуі керек композициялық шектеулер, әсіресе білімді қажет ететін тапсырмаларда және қауіпсіздік шараларын сәйкесінше реттеңіз.
Негізгі ақпарат
gpt-oss-20b Бұл 21-миллиард-параметрлі ашық салмақты пайымдау үлгісі бойынша OpenAI шығарған Apache 2.0 лицензиясы, мүмкіндік береді жүктеп алу, дәл реттеу және қайта бөлу үшін толық салмаққа қол жеткізу. Бұл OpenAI-дің осы уақыттан бері бірінші ашық салмақтағы моделінің шығарылымын білдіреді GPT‑2 2019 ж және үшін оңтайландырылған жиекті орналастыру және жергілікті қорытынды бар жүйелерде ≥ 16 ГБ VRAM.
- Параметрлер: Барлығы 21 миллиард, оның 3.6 миллиарды бір токенге белсенді
- Сәулет: Трансформаторы бар сарапшылар қоспасы (МЭ)
- Мәтінмәндік терезе: Ұзақ пішінді түсіну үшін 128 000 токенге дейін
- лицензия: Шектеусіз академиялық және коммерциялық пайдалануға мүмкіндік беретін Apache 2.0 ().
Мүмкіндіктер және техникалық архитектура
Үлгі сипаттамалары
- Параметрлер: барлығы 21 B, Әрбір таңбалауыш үшін 3.6 B белсенді Сарапшылар қоспасы (ММ) архитектурасы арқылы Әр қабатқа 32 сарапшы, Әр токенге 4 белсенді .
- қабаттар: 24, контекстік терезе дейін 128 мың токен, максималды шығыс маркерлеріне дейін 32K кейбір орналастыруларда.
- Назар және жад: Тығыз + сирек зейін үлгілерінің ауысуы; қорытынды нәтижелілігі үшін топтастырылған көп сұрау назары (топ өлшемі = 8).
Тренинг және пайымдауды бақылау
- STEM, кодтау, жалпы білімге бағытталған ағылшын тіліндегі басым мәтін бойынша оқытылды.
- тіректері ойлау тізбегі (CoT) дәлелді және реттелетін пайымдау деңгейлері Тапсырманың күрделілігіне байланысты (төмен, орташа, жоғары).
Эталондық өнімділік
- Сәйкестік немесе OpenAI o3‑mini моделінің өнімділігінен асып түседі сияқты эталондар бойынша MMLU, AIME, HLE, HealthBench, Codeforces, Tau‑Bench тіпті кішірек өлшемде де.
- сияқты меншікті үлгілерден асып түседі OpenAI o1, GPT‑4o және o4‑mini денсаулық және математикалық ойлауда жоғары ойлау деңгейіндегі тапсырмалар.
- Үлкенірек GPT‑OSS‑120B (117 B) салыстырғанда ол терең таңбалық пайымдауға немесе кең білімге (мысалы, GPQA) негізделген тапсырмаларды орындауда артта қалады, бірақ кодтау және денсаулық салаларында тиімді болып қалады.
The 20 B нұсқа да әсер қалдырады: ол бәсекелеседі o3-мини кішігірім ізіне қарамастан бір люкс бойынша, MoE-мен пайымдау мүмкіндіктерін тиімді масштабтауды көрсетеді.
- MMLU (көп тапсырмалы тілді түсіну): ~88% дәлдік
- Codeforces Elo (кодтау дәлелі): ~2205
- AIME (құралдармен математикалық жарыс): ~87.9%
- HealthBench: Клиникалық QA және диагностика тапсырмаларында o4-mini-ден айтарлықтай асып түседі
- Tau-Bench (Бөлшек сауда + Ой қозғау тапсырмалары): орта есеппен ~62%
Модель нұсқасы және салыстыру
| моделі | Параменттер | Белсенді параметрлер | Аппараттық қажеттілік | Эталондық өнімділік |
|---|---|---|---|---|
gpt-oss-20b | 21 B | 3.6 B | ≥ 16 ГБ графикалық процессор немесе құрылғыда | -мен салыстыруға болады o3‑mini |
| gpt‑oss‑120b | 117 B | 5.1 B | 80 ГБ+ графикалық процессор | Сәйкес келеді немесе асып түседі o4‑mini |
Жеңіл аналогы ретінде жасалған gpt‑oss‑120B, GPT‑OSS‑20B ресурс шектелген жерде күшті тапсырма өнімділігін сақтай отырып, тасымалдануды ұсынады. Ол ашық қол жетімді және реттелетін меншікті OpenAI үлгілерінен ерекшеленеді.
шектеулер
- Төмен білімді еске түсіру үлкен үлгілермен салыстырғанда GPQA сияқты күрделі тапсырмалар бойынша.
- Пайдаланушылардың есептері әсіресе кодтау немесе жалпы білім туралы сұраулар үшін нақты әлемдегі өнімділіктің өзгермелілігін көрсету; кейбіреулер мұны ерте іске асыру немесе тез арада дұрыс пайдаланбаумен байланыстырады.
- Қауіпсіздік және теріс пайдалану тәуекелдері: OpenAI қарама-қайшылықты дәл бапталған gpt-oss нұсқаларын бағалағанымен, олар биоқауіпсіздік немесе кибер домендерде жоғары мүмкіндіктерге жете алмады; дегенмен, кең ауқымды пайдалану жағдайларын қолданатын пайдаланушылар қосымша қауіпсіздік шараларын қажет етуі мүмкін.
Cases пайдалану
OpenAI a. қолдауы үшін GPT‑OSS әзірледі қолдану жағдайларының кең спектрі, тұтынушы қолданбаларынан кәсіпорын деңгейіндегі аналитикаға дейін. 20B нұсқасы жергілікті орындау үшін оңтайландырылған, аз құрылғыларда жұмыс істей алады 16Гб жедел жады, сияқты жоғары сапалы ноутбуктер немесе M сериялы чиптері бар MacBook компьютерлері. GPT‑OSS‑20B мыналар үшін өте қолайлы:
- Жергілікті/офлайн қорытынды Windows компьютерлерінде (Windows AI Foundry арқылы), macOS немесе Snapdragon негізіндегі шеткі құрылғыларда.
- Агенттік жұмыс процестері: кодты орындау, құралды пайдалану, браузерге негізделген агенттер немесе шектеулі өткізу қабілеттілігі параметрлерінде автономды көмекшілер.
- Жылдам прототиптеу және дәл баптау, әсіресе бұлттық инфрақұрылымсыз немесе құпиялылық шектеулерімен жұмыс істейтін әзірлеушілер үшін.
Басқа үлгі салыстырулары
gpt-oss-20bo3‑mini / o4‑mini қарсы: GPT‑OSS‑20B дәлдігі және бірлескен ой қорыту бойынша o3‑mini бәсекелестері; ол o4‑mini қарағанда тиімдірек және ашық, бірақ салыстырғанда төмен жұмыс істейді gpt‑oss‑120B дәлелдеу тапсырмаларын талап ету бойынша.gpt-oss-20bқарсы LLaMA 4, GLM‑4.5, DeepSeek: GPT‑OSS‑20B жартылай ашық үлгілерден айырмашылығы, Apache 2.0 астында толық ашық мөлдірлік береді; бірақ пайдаланушылар кейбір жағдайларда дәлелдеу сапасы бойынша GLM‑4.5‑AIR ұнайды деп хабарлайды.
Қалай қоңырау шалуға болады gpt-oss-20b CometAPI ұсынған API
gpt-oss-20b CometAPI ішіндегі API бағасы, ресми бағадан 20% жеңілдік:
| Енгізу токендері | $0.08 |
| Шығару белгілері | $0.32 |
Қажетті қадамдар
- Жүйеге кіріңіз cometapi.com. Егер сіз әлі біздің пайдаланушы болмасаңыз, алдымен тіркеліңіз
- Интерфейстің кіру тіркелгі деректерінің API кілтін алыңыз. Жеке орталықтағы API токеніндегі «Токенді қосу» түймесін басыңыз, таңбалауыш кілтін алыңыз: sk-xxxxx және жіберіңіз.
- Осы сайттың URL мекенжайын алыңыз: https://api.cometapi.com/
Пайдалану әдісі
- “
gpt-oss-20b” API сұрауын жіберуге және сұраудың негізгі бөлігін орнатуға арналған соңғы нүкте. Сұрау әдісі мен сұрау мәтіні біздің веб-сайт API құжатынан алынған. Біздің веб-сайт сізге ыңғайлы болу үшін Apifox сынағын да ұсынады. - Ауыстыру тіркелгіңізден нақты CometAPI кілтімен.
- Мазмұн өрісіне сұрағыңызды немесе сұрауыңызды енгізіңіз — үлгі осыған жауап береді.
- . Жасалған жауапты алу үшін API жауабын өңдеңіз.
CometAPI үздіксіз тасымалдау үшін толық үйлесімді REST API қамтамасыз етеді. Негізгі мәліметтер API құжаты:
- Негізгі параметрлер:
prompt,max_tokens_to_sample,temperature,stop_sequences - Соңғы нүкте: https://api.cometapi.com/v1/chat/completions
- Үлгі параметрі: «
gpt-oss-20b« - Түпнұсқалық растама:
Bearer YOUR_CometAPI_API_KEY - Мазмұн түрі:
application/json.
API қоңырауының мысалы
Салмағы ашық болғанымен, GPT‑OSS үлгілеріне CometAPI және басқалар сияқты API арқылы кіруге болады. үшін gpt‑oss‑20B, CometAPI-ге әдеттегі қоңырау келесідей:
POST https://api.cometapi.com/v1/chat/completions
{
"model": "gpt-oss-20b",
"messages": [{ "role": "system", "content": "Reasoning: high" },
{ "role": "user", "content": "Solve bilateral integral…" }],
"max_tokens": 2048,
"temperature": 0.0
}
Бұл жүйе шақырулары арқылы функцияны шақыруды, құрылымдық шығыс схемаларын, құралдарды біріктіруді және пайымдауды басқаруды қолдайды.
Сондай-ақ, қараңыз GPT-OSS-120B
