Specyfikacje techniczne o1-2024-12-17
| Specyfikacja | Szczegóły |
|---|---|
| Model ID | o1-2024-12-17 |
| Dostawca / rodzina | OpenAI, rodzina modeli rozumowania o1. |
| Typ modelu | Graniczny duży model rozumowania zoptymalizowany pod kątem złożonego rozwiązywania problemów, kodowania, matematyki, nauki i wieloetapowej analizy. |
| Migawka wydania | o1-2024-12-17 to datowana migawka wydana przez OpenAI w grudniu 2024 r. |
| Modalności wejściowe | Wejście tekstowe i obraz. |
| Modalności wyjściowe | Wyjście tekstowe. |
| Okno kontekstu | 200K tokenów. |
| Maksymalne wyjście | Do 100K tokenów wyjściowych na żądanie. |
| Profil wydajności | Wolniejszy niż lżejsze modele, ale zaprojektowany do głębszego rozumowania i wyższej jakości odpowiedzi w trudnych zadaniach. |
| Sterowanie rozumowaniem | Obsługuje reasoning_effort, dzięki czemu deweloperzy mogą regulować czas „myślenia” modelu przed odpowiedzią. |
| Zachowanie dotyczące promptów | W modelach o1 i nowszych wiadomości dewelopera zastępują wcześniejsze wytyczne w stylu system-message; począwszy od o1-2024-12-17, markdown jest domyślnie wyłączony, chyba że zostanie wyraźnie ponownie włączony w wiadomości programisty. |
Czym jest o1-2024-12-17?
o1-2024-12-17 to identyfikator platformy CometAPI dla grudniowej migawki 2024 modelu rozumowania o1 firmy OpenAI. Należy do serii o1, którą OpenAI opisuje jako modele trenowane metodą uczenia ze wzmocnieniem do wykonywania złożonego rozumowania i „myślenia, zanim odpowiedzą”.
W porównaniu z konwencjonalnymi modelami ukierunkowanymi na czat, o1-2024-12-17 jest przeznaczony do zadań, w których poprawność, wieloetapowa logika i staranna analiza liczą się bardziej niż czysta szybkość. OpenAI pozycjonuje o1 jako pełnoprawny model rozumowania do zaawansowanych zastosowań, ze wsparciem dla wejść tekstowych i obrazów oraz wyjść tekstowych.
Ta konkretna migawka została wprowadzona jako zaktualizowana wersja po dodatkowym treningu modelu o1, poprawiająca zachowanie na podstawie opinii, przy jednoczesnym zachowaniu możliwości rozumowania na poziomie frontier ocenianych dla rodziny o1. OpenAI poinformowało także o niższej latencji w porównaniu z o1-preview, przy średnio o 60% mniejszej liczbie tokenów rozumowania na jedno żądanie.
Główne funkcje o1-2024-12-17
- Zaawansowane rozumowanie: Zbudowany z myślą o trudnych problemach wymagających myślenia krok po kroku, w tym matematyki, nauk ścisłych, logiki i złożonych przepływów pracy w kodowaniu.
- Obsługa wejścia w postaci obrazów: Potrafi rozumować na podstawie wejść obrazowych oprócz tekstu, co jest przydatne w analizie wizualnej, diagramach, przepływach naukowych i rozwiązywaniu problemów technicznych.
- Obsługa długiego kontekstu: Wspiera okno kontekstu 200K tokenów, co czyni go odpowiednim do dużych dokumentów, długich rozmów i zadań rozumowania wieloplikowego.
- Duża pojemność odpowiedzi: Może generować do 100K tokenów wyjściowych w jednym żądaniu, co pomaga przy szczegółowych raportach, rozbudowanym rozumowaniu lub obszernym generowaniu kodu.
- Regulowana głębokość rozumowania: Parametr
reasoning_effortpozwala deweloperom równoważyć latencję i głębokość rozumowania w zależności od potrzeb aplikacji. - Lepsza efektywność vs. wersja preview: OpenAI podaje, że
o1zużywa średnio o 60% mniej tokenów rozumowania niżo1-previewdla danego żądania, poprawiając efektywność w praktyce. - Promptowanie sterowane wiadomościami programisty: Dla modeli
o1i nowszych wiadomości dewelopera są preferowanym mechanizmem wysokopoziomowych instrukcji, zastępując wcześniejszy wzorzec system-message. - Domyślne zachowanie: czysty tekst: Począwszy od
o1-2024-12-17, odpowiedzi API domyślnie unikają formatowania markdown, chyba że jawnie włączysz je w wiadomości programisty.
Jak uzyskać dostęp i zintegrować o1-2024-12-17
Krok 1: Zarejestruj się po klucz API
Aby używać o1-2024-12-17, najpierw utwórz konto w CometAPI i wygeneruj klucz API z pulpitu. Następnie przechowuj klucz bezpiecznie jako zmienną środowiskową w aplikacji, aby uwierzytelniać żądania bez twardego kodowania sekretów w plikach źródłowych.
Krok 2: Wysyłaj żądania do interfejsu API o1-2024-12-17
Gdy klucz API jest gotowy, wysyłaj żądania przez punkt końcowy CometAPI kompatybilny z OpenAI i ustaw pole model na o1-2024-12-17.
curl https://api.cometapi.com/v1/chat/completions \
-H "Content-Type: application/json" \
-H "Authorization: Bearer $COMETAPI_API_KEY" \
-d '{
"model": "o1-2024-12-17",
"messages": [
{
"role": "developer",
"content": "You are a precise reasoning assistant. Formatting re-enabled."
},
{
"role": "user",
"content": "Analyze the trade-offs between recursive descent and Pratt parsers."
}
]
}'
Możesz też zintegrować go z dowolnego SDK kompatybilnego z OpenAI, zamieniając bazowy URL na punkt końcowy CometAPI i pozostawiając o1-2024-12-17 jako docelowy identyfikator modelu.
Krok 3: Odbierz i zweryfikuj wyniki
Po przesłaniu żądania zparsuj odpowiedź JSON i odczytaj wygenerowaną odpowiedź asystenta z pól choices lub message content, zależnie od używanego SDK lub punktu końcowego. Na potrzeby produkcyjne powinieneś także weryfikować wyniki za pomocą kontroli na poziomie aplikacji, takich jak walidacja schematu, przypadki testowe, procedury cytowania lub przegląd przez człowieka, gdy kluczowa jest poprawność.