Technische Spezifikationen von gpt-oss-20b-free
| Spezifikation | gpt-oss-20b |
|---|---|
| Anbieter | OpenAI |
| Modellfamilie | gpt-oss Open-Weight Reasoning-Modelle |
| Modell | gpt-oss-20b-free |
| Modell-ID in CometAPI | gpt-oss-20b-free |
| Architektur | Mixture-of-Experts (MoE) |
| Gesamtparameter | 21B |
| Aktive Parameter | 3.6B |
| Kontextfenster | 131,072 Token |
| Maximale Ausgabetoken | 131,072 |
| Eingabe/Ausgabe | Text ein, Text aus |
| Reasoning-Aufwand | Niedrig, mittel, hoch |
| Lizenz | Apache 2.0, vorbehaltlich der gpt-oss-Nutzungsrichtlinie |
| Function Calling | Unterstützt |
| Strukturierte Ausgaben | Unterstützt |
| Streaming | Unterstützt |
| Fine-Tuning | Unterstützt über offene Tools/Infrastruktur |
| Natives Bereitstellungsziel | Lokal, Edge, private Infrastruktur oder gehostete Inferenz |
| Wissensstand | 1. Juni 2024 |
Was ist gpt-oss-20b?
gpt-oss-20b ist OpenAIs kleineres Open-Weight-Reasoning-Modell innerhalb der gpt-oss-Familie. CometAPI bietet auch die kostenlose Nutzung von gpt-oss-20b an; die ID lautet gpt-oss-20b-free. Es verfügt über insgesamt 21 Milliarden Parameter, aktiviert jedoch pro Forward-Pass nur etwa 3,6 Milliarden Parameter und verwendet eine Mixture-of-Experts-Architektur, um die Inferenzanforderungen zu senken und dennoch erhebliche Reasoning-Fähigkeiten zu bewahren. OpenAI positioniert es für latenzärmere, lokale und spezialisierte Workloads, nicht als direkten Ersatz für die größten proprietären Modelle.
Das Modell ist rein textbasiert und für Reasoning- und agentische Workflows ausgelegt. Die offenen Gewichte können heruntergeladen, angepasst, feinabgestimmt und auf von Entwicklern kontrollierter Infrastruktur bereitgestellt werden. OpenAI und Hugging Face dokumentieren eine native MXFP4-Quantisierung, die es ermöglicht, das Modell mit etwa 16 GB Speicher zu betreiben, was es für ein Modell dieser Parameterklasse ungewöhnlich zugänglich macht.
Hauptfunktionen von gpt-oss-20b
- Effiziente MoE-Architektur: 21B Gesamtparameter mit nur 3,6B aktiven Parametern pro Forward-Pass, ausgelegt auf niedrigere Latenz und geringere Bereitstellungsanforderungen.
- Konfigurierbares Reasoning: Entwickler können niedrigen, mittleren oder hohen Reasoning-Aufwand wählen und damit zwischen Antwortlatenz/Rechenaufwand und Reasoning-Qualität abwägen.
- Agentische Tool-Nutzung: Das Modell unterstützt Workflows mit Funktionsaufrufen, Web-Browsing, Python-Ausführung und strukturierten Ausgaben, sofern das Serving-Runtime diese Tools bereitstellt.
- Open-Weight-Anpassung: Die Apache-2.0-Lizenz erlaubt weitreichende Modifikationen und kommerzielle Bereitstellung, vorbehaltlich der gpt-oss-Nutzungsrichtlinie.
- Lokale und private Bereitstellung: Das Modell ist für den Betrieb auf von Entwicklern kontrollierter Infrastruktur gedacht, einschließlich lokaler oder privater Umgebungen.
- Langer Kontext: Die Produktdokumentation nennt ein Kontextfenster von 131.072 Token und ein maximales Ausgabe-Token-Limit von 131.072.
Benchmark-Leistung von gpt-oss-20b
Von OpenAI veröffentlichte Evaluationsergebnisse zeigen, dass gpt-oss-20b gemessen an seiner Größe besonders stark in mathematischem Reasoning und Coding ist. Bei hohem Reasoning-Aufwand mit Tools erreicht es 98,7% auf AIME 2025, 96,0% auf AIME 2024, 60,7% auf SWE-Bench Verified und 54,8% auf Tau-Bench Retail. In Wissens- und Reasoning-Benchmarks berichtet OpenAI 85,3% auf MMLU, 71,5% auf GPQA Diamond ohne Tools und 17,3% auf Humanity's Last Exam mit Tools. Die Ergebnisse variieren erheblich in Abhängigkeit von Reasoning-Aufwand und Toolzugang; diese Zahlen sollten daher nicht als universelle Genauigkeitsraten für den Produktionseinsatz betrachtet werden.
| Benchmark | Ergebnis gpt-oss-20b | Evaluationsbedingung |
|---|---|---|
| AIME 2024 | 96,0% | Hoher Reasoning-Aufwand, mit Tools |
| AIME 2025 | 98,7% | Hoher Reasoning-Aufwand, mit Tools |
| GPQA Diamond | 71,5% | Hoher Reasoning-Aufwand, ohne Tools |
| MMLU | 85,3% | Hoher Reasoning-Aufwand |
| SWE-Bench Verified | 60,7% | Hoher Reasoning-Aufwand |
| Tau-Bench Retail | 54,8% | Hoher Reasoning-Aufwand |
| Humanity's Last Exam | 17,3% | Hoher Reasoning-Aufwand, mit Tools |
OpenAIs eigener Vergleich ordnet gpt-oss-20b in mehreren Evaluationskategorien nahe bei o3-mini ein, während das größere gpt-oss-120b bei breitem Wissen und agentischen Workloads im Allgemeinen im Vorteil ist.
gpt-oss-20b vs gpt-oss-120b vs o3-mini
| Modell | Hauptvorteil | Kontext | Am besten geeignet |
|---|---|---|---|
| gpt-oss-20b | Effizientes Open-Weight-Reasoning | 131K | Lokale Inferenz, Programmierung, Mathematik, spezialisierte Agenten |
| gpt-oss-120b | Höhere Gesamtfähigkeit | 131K | Anspruchsvolleres Reasoning und Produktions-Workloads |
| o3-mini | Proprietäres Reasoning-Modell | Variiert je nach Bereitstellung | Verwaltetes Reasoning, wenn offene Gewichte nicht erforderlich sind |
Der praktische Unterschied ist die Kontrolle über die Bereitstellung. gpt-oss-20b ist die bessere Wahl, wenn Entwickler offene Gewichte, lokale/private Ausführung, Anpassung oder relativ geringe Hardwareanforderungen benötigen. gpt-oss-120b ist vorzuziehen, wenn höhere Gesamtleistung bei Reasoning und Wissen einen größeren Bereitstellungs-Footprint rechtfertigt.
Einschränkungen von gpt-oss-20b
gpt-oss-20b ist rein textbasiert und akzeptiert nativ keine Bild-, Audio- oder Videoeingaben. Die geringere Parameterzahl führt zudem bei einigen wissensintensiven und agentischen Evaluationen zu einer Leistungslücke im Vergleich zu gpt-oss-120b. Darüber hinaus verlagert eine Open-Weight-Bereitstellung mehr betriebliche Verantwortung auf die Entwickler: Hosting, Skalierung, Monitoring, Sicherheitskontrollen und Laufzeitkonfiguration werden nicht in gleicher Weise gehandhabt wie bei einer vollständig verwalteten proprietären API.
OpenAI weist außerdem darauf hin, dass Open-Weight-Modelle ein anderes Sicherheitsprofil haben als gehostete Modelle, da Entwickler die Gewichte modifizieren oder feinabstimmen können. Produktionsbereitstellungen sollten daher geeignete Schutzmechanismen auf Anwendungsebene und Zugriffskontrollen ergänzen.
Anwendungsfälle für gpt-oss-20b
- Lokale Programmierassistenten, bei denen Entwickler Reasoning und Codegenerierung wünschen, ohne Code an ein proprietäres gehostetes Modell zu senden.
- Mathematisches und technisches Reasoning, bei dem für schwierige Probleme ein hoher Reasoning-Aufwand aktiviert werden kann.
- Unternehmensinterne Workloads, die eine Bereitstellung in einer kontrollierten Umgebung erfordern.
- Agenten mit Tool-Nutzung, die das Modell mit Funktionsaufrufen, Python-Ausführung, Websuche oder anwendungsspezifischen Tools kombinieren.
- Feinabgestimmte domänenspezifische Assistenten, bei denen offene Gewichte wertvoller sind als der Zugang zu einem verwalteten proprietären Modell.
- Ressourcenbeschränkte Inferenz, bei der das durch MXFP4-Quantisierung ermöglichte Speicherziel von etwa 16 GB wichtig ist.
Zugriff auf gpt-oss-20b über CometAPI
CometAPI führt gpt-oss-20b-free derzeit als OpenAI-Modell und beschreibt es als ein Open-Source-MoE-Modell mit 21B Parametern, 3,6B aktiven Parametern und einem Kontext der 128K-Klasse. Es ist kostenlos nutzbar und stellt das Modell über die vereinheitlichte API von CometAPI bereit. Der Changelog von CometAPI gibt an, dass das Modell dem OpenAI-Chat-Standardformat folgt.
Für die Integration mit CometAPI besteht der allgemeine Ablauf darin, einen CometAPI-Schlüssel zu erstellen, die CometAPI-Basis-URL zu verwenden und den Modellnamen in der Anfrage zu übermitteln. CometAPI dokumentiert eine OpenAI-SDK-kompatible Integration und führt derzeit https://api.cometapi.com/v1 als Quickstart-Basis-URL auf.