GPT-Realtime-2.1 техникалық сипаттамалары
| Сипаттама | Толық ақпарат |
|---|---|
| Модель атауы | GPT-Realtime-2.1 |
| Провайдер | OpenAI |
| Модельдер сериясы | GPT-Realtime series |
| Модель түрі | Нақты уақыттағы мультимодальды дауысқа негізделген пайымдау моделі |
| Негізгі қабілет | Сөйлеуден сөйлеуге арналған ЖИ агенттері |
| Енгізу түрлері | Мәтін, Аудио, Сурет |
| Шығыс түрлері | Мәтін, Аудио |
| Контекст терезесі | 128,000 токен |
| Шығыс токендерінің ең көбі | 32,000 токен |
| Пайымдау қолдауы | Бапталатын пайымдау күші |
| Функцияларды шақыру | Қолдау бар |
| Құрылымдалған шығыстар | Қолдау жоқ |
| Fine-tuning | Қолдау жоқ |
| Видео кірісі | Қолдау жоқ |
| Негізгі API соңғы нүктесі | Realtime API |
| Білім шектеуі | 30 қыркүйек 2024 |
Дереккөз: OpenAI GPT-Realtime-2.1 моделі құжаттамасы.
GPT-Realtime-2.1 деген не?
GPT-Realtime-2.1 — OpenAI әзірлеген, аудио арқылы тыңдап, пайымдап, табиғи түрде жауап беретін нақты уақыттағы озық дауыс моделі, сөйлесу ЖИ агенттерін құруға арналған.
Дәстүрлі, бөлек сөйлеуді тану, тілдік түсіну және мәтінді дауыстық синтезге бөлінген дауыстық ассистенттермен салыстырғанда, GPT-Realtime-2.1 жергілікті сөйлеуден-сөйлеуге өзара әрекетті қамтамасыз етіп, төменірек кідіріс, үзуді жақсырақ өңдеу және контексті тереңірек түсінуді ұсынады.
Модель тұтынушыларды қолдау агенттері, ЖИ ассистенттер, сату автоматтандыруы, білім беру платформалары және интерактивті дауыстық тәжірибелер сияқты өндірістік дауыс қолданбалары үшін оңтайландырылған.
GPT-Realtime-2.1 эталондық өнімділігі
GPT-Realtime-2.1 жақсартулары практикалық нақты уақыттағы өзара әрекет көрсеткіштеріне шоғырланған:
| Мүмкіндік | Жақсарту |
|---|---|
| Дауыс үзілімін өңдеу | Жақсартылды |
| Шуға төзімділік | Жақсартылды |
| Әріп-сандық тану | Жақсартылды |
| Құралға негізделген дауыс ағындары | Қолдау бар |
| Сөйлеуден-сөйлеуге өзара әрекет | Қолдау бар |
GPT-Realtime-2.1 негізгі мүмкіндіктері
1. Жергілікті сөйлеуден-сөйлеуге өзара әрекет
GPT-Realtime-2.1 бөлек сөйлеуді мәтінге және мәтінді дауысқа айналдыру конвейерлерін қажет етпейді.
Дәстүрлі дауыс архитектурасы:
User Voice
↓
Speech-to-Text
↓
LLM Processing
↓
Text-to-Speech
↓
Voice Response
GPT-Realtime-2.1:
User Voice
↓
GPT-Realtime-2.1
↓
Voice Response
Бұл кідірісті азайтып, әңгімелесу ағынын жақсартады.
2. Дауыстық әңгіме сапасын жақсарту
GPT-Realtime-2.1 нақты әлемдегі дауысқа қатысты бірқатар қиындықтарды жақсартады:
Үзуді жақсырақ өңдеу
Пайдаланушылар ЖИ сөйлеп тұрған кезде оны табиғи түрде үзе алады.
Мысал:
Пайдаланушы:
"Маған ұшаққа билет брондап беріңіз—шынында, оны Токиоға өзгертіңіз."
Модель өзара әрекеттегі өзгерістерге бүкіл сессияны қайта бастамай-ақ икемделе алады.
Үнсіздік пен шуды жақсырақ өңдеу
Модель аудио сапасы мінсіз емес ортаға оңтайландырылған:
- Қоңырау орталықтары
- Мобильді құрылғылар
- Қоғамдық орындар
- Ақылды құрылғылар
3. Дауыстық агенттің құралдарды озық пайдалану мүмкіндігі
GPT-Realtime-2.1 құралдарды шақыруды қолдайды, бұл дауыстық агенттерге әрекеттерді орындауға мүмкіндік береді.
Мысалдар:
Тұтынушыларды қолдау:
User:
"Where is my order?"
AI:
→ Calls order database API
→ Retrieves status
→ Responds by voice
Кәсіптік жұмыс процесі:
Voice command
↓
Reasoning
↓
API execution
↓
Voice confirmation
Бұл GPT-Realtime-2.1-ді автономды дауыстық агенттер үшін қолайлы етеді.
4. Бапталатын пайымдау қабілеті
Алдыңғы, негізінен жылдамдыққа оңтайландырылған нақты уақыттағы дауыс модельдерінен айырмашылығы, GPT-Realtime-2.1 бапталатын пайымдау күшін енгізеді.
Әзірлеушілер мыналар арасындағы тепе-теңдікті баптай алады:
- Жауап кідірісі
- Дәлдік
- Тапсырма күрделілігі
Төмен пайымдау:
- Қарапайым әңгімелер
- Жиі қойылатын сұрақтар бойынша ассистенттер
Жоғары пайымдау:
- Күрделі тұтынушы сұраныстары
- Көпқадамды жұмыс процестері
- Бизнес операциялары
5. Сандар мен техникалық ақпаратты жақсырақ тану
Дауыстық агенттер жиі қиналатын тұстар:
- Есепшот нөмірлері
- Сериялық нөмірлер
- Мекенжайлар
- Өнім кодтары
- Қаржылық ақпарат
GPT-Realtime-2.1 әріп-сандық тануды жақсартып, оны кәсіптік дауыстық жүйелерге лайықты етеді.
6. Мультимодальды енгізуді қолдау
GPT-Realtime-2.1 қолдайды:
| Енгізу | Қолдау |
|---|---|
| Мәтін | ✅ |
| Аудио | ✅ |
| Сурет | ✅ |
| Видео | ❌ |
Сурет енгізу келесі сценарийлерді мүмкін етеді:
- Көрнекі тұтынушыларды қолдау
- Құжаттарды түсіндіру
- Камераға негізделген ассистенттер
GPT-Realtime-2.1 мен GPT-Realtime-2 және GPT-4o Realtime салыстыруы
| Модель | Күшті жағы | Ең қолайлы қолданыс |
|---|---|---|
| GPT-Realtime-2.1 | Нақты уақыттағы ең үздік пайымдау + дауыстық агент мүмкіндіктері | Өндірістік дауыстық агенттер |
| GPT-Realtime-2 | Нақты уақыттағы күшті дауыс пайымдауы | Жетілдірілген сөйлесу қолданбалары |
| GPT-4o Realtime | Жылдам мультимодальды өзара әрекет | Жалпы мақсаттағы дауыстық ассистенттер |
GPT-Realtime-2.1 және GPT-Realtime-2
GPT-Realtime-2.1 мына тұстарды жақсартады:
- Дауыс үзілімінен қалпына келу
- Шуды өңдеу
- Танудың дәлдігі
- Әңгімелесудің орнықтылығы
Екі модельде ортақтары:
- Сөйлеуден-сөйлеуге архитектура
- Құралдарды шақыру
- Пайымдауды қолдау
- Realtime API арқылы қолжеткізу
GPT-Realtime-2.1 және GPT-4o Realtime
GPT-Realtime-2.1 неғұрлым озық агенттік жұмыс процестеріне бағытталған.
GPT-4o Realtime-пен салыстырғанда:
| Мүмкіндік | GPT-Realtime-2.1 | GPT-4o Realtime |
|---|---|---|
| Пайымдау | Күштірек | Жалпы |
| Контекст | 128K | 32K |
| Құралдарды пайдалану | Қолдау бар | Қолдау бар |
| Дауыстық агенттер | Озық | Жалпы |
| Күрделі процестер | Тиімдірек бейімделген | Жарамды |
CometAPI арқылы GPT-Realtime-2.1 API-ін қалай пайдалану керек
GPT-Realtime-2.1 төмен кідірісті дауыстық агент қолданбалары үшін жасалған. Ол нақты уақыттағы сөйлеуден-сөйлеуге өзара әрекетті, аудио енгізу/шығару, сурет енгізу, бапталатын пайымдау күші және құралға негізделген дауыс ағындары үшін функцияларды шақыруды қолдайды. OpenAI оны Realtime API арқылы ұсынады, оған WebRTC, WebSocket және SIP негізіндегі нақты уақыттағы байланыс әдістері кіреді.
CometAPI — озық ЖИ модельдерін біріктіруге арналған бірыңғай API қабаты, ол әзірлеушілерге провайдер аутентификациясын, SDK логикасын және инфрақұрылымды бөлек ұстамай-ақ GPT-Realtime-2.1 стиліндегі жұмыс ағындарына қол жеткізуге мүмкіндік береді.
1-қадам: CometAPI API кілтіңізді алыңыз
CometAPI аккаунтын жасап, әзірлеуші консолінен API токенін жасаңыз.
API сұранысыңызға мыналар кіруі керек:
Authorization: Bearer YOUR_COMETAPI_API_KEY
Content-Type: application/json
API кілті сұраныстарыңызды аутентификациялап, қолданбаңызға CometAPI арқылы қолжетімді ЖИ үлгілерін шақыруға мүмкіндік береді.
2-қадам: GPT-Realtime-2.1 сессиясын жасаңыз
GPT-Realtime-2.1 дәстүрлі сұрау-жауап чат толықтыруынан гөрі тұрақты нақты уақыт сессиясы арқылы жұмыс істейді.
Нақты уақыт сессиясы мыналарды ұстап тұрады:
- Аудио енгізу ағыны
- Модель жауаптары
- Әңгімелесу күйі
- Құрал шақырулары
- Үзулер
OpenAI-дың Realtime API-і WebRTC, WebSocket және SIP интерфейстері арқылы нақты уақыттағы байланысты қолдайды.
Мысал:
curl https://api.cometapi.com/v1/realtime/sessions \
-H "Authorization: Bearer YOUR_COMETAPI_API_KEY" \
-H "Content-Type: application/json" \
-d '
{
"model": "gpt-realtime-2.1",
"modalities": [
"audio",
"text"
],
"voice": "alloy",
"instructions": "You are a helpful customer support voice assistant."
}
'
Мысал жауап:
{
"id": "sess_xxxxx",
"model": "gpt-realtime-2.1",
"status": "active"
}
3-қадам: GPT-Realtime-2.1-ге аудио енгізуді жіберіңіз
Сессия құрылғаннан кейін, пайдаланушы аудиосын ағынмен жіберіңіз.
Мысал жұмыс ағыны:
User microphone
|
↓
Audio stream
|
↓
GPT-Realtime-2.1
|
↓
Generated voice response
Аудио енгізу мынадайларды қамтуы мүмкін:
- Телефон әңгімелері
- Дауыс командалары
- Тұтынушыларды қолдау қоңыраулары
- Интерактивті ассистенттер
GPT-Realtime-2.1 алдыңғы нақты уақыт модельдерімен салыстырғанда үнсіздікті анықтауды, шуды өңдеуді және үзуді басқаруды жақсартып, сөйлеу арқылы өзара әрекетті күшейтеді.
4-қадам: Нақты уақыттағы аудио жауаптарды алыңыз
Модель нақты уақыт қосылымы арқылы жасалған аудио жауаптарды қайтарады.
Мысал оқиға:
{
"type": "response.audio.delta",
"delta": "base64_audio_chunk"
}
Қолданбаңыз алынған аудио фрагменттерін бірден ойнай алады.
Типтік іске асырулар:
- WebRTC дауыстық қолданбалары
- Браузердегі ассистенттер
- Мобильді дауыс қолданбалары
- ЖИ телефон агенттері
5-қадам: Дауыстық агенттер үшін функцияларды шақыруды қосыңыз
GPT-Realtime-2.1 функцияларды шақыруды қолдайды, бұл дауыстық агенттерге сыртқы әрекеттерді орындауға мүмкіндік береді.
Мысал:
{
"tools": [
{
"type": "function",
"name": "check_order_status",
"description": "Retrieve customer order information",
"parameters": {
"type": "object",
"properties": {
"order_id": {
"type": "string"
}
}
}
}
]
}
Мүмкін дауыстық агент жұмыс ағындары:
- "Пакетім қайда?"
- "Ертеңге кездесу брондап бер."
- "Жазылымымды болдыр."
- "Шотымның қалдығын тексер."
Модель сұранысты танып, тиісті құралды шақырып, әңгімені табиғи түрде жалғастыра алады.
6-қадам: Пайымдау мен нұсқауларды баптаңыз
GPT-Realtime-2.1 бапталатын пайымдау күшін қолдайды.
Мысал:
{
"model": "gpt-realtime-2.1",
"reasoning": {
"effort": "medium"
},
"instructions": "Act as a professional travel assistant."
}
Ұсынылатын баптаулар:
| Қолданба | Пайымдау деңгейі |
|---|---|
| Қарапайым дауыс командалары | Төмен |
| Тұтынушыларды қолдау | Орташа |
| Күрделі агенттік процестер | Жоғары |