Клод 4-тің соңғы мүмкіндіктері үлкен тіл үлгілерінің сыртқы құралдармен және API интерфейстерімен өзара әрекеттесуінің маңызды эволюциясын көрсетеді. Бұлардың ішінде, ұсақ түйіршікті құралдар ағыны Әзірлеушілерге толық JSON тексеруін күтпей-ақ, құрал енгізу параметрлерін нақты уақытта алуға мүмкіндік беретін озық мүмкіндік ретінде ерекшеленеді. 2025 жылдың мамырында бета нұсқасы ретінде енгізілген бұл мүмкіндік үлкен параметрлі құрал шақыруларына байланысты кідіріс мәселелерін шешеді және анағұрлым жауап беретін, интерактивті қолданбаларға мүмкіндік береді.
Клод 4-тегі ұсақ түйіршікті құрал ағыны дегеніміз не?
Клод 4-тегі Fine-grained Tool Streaming (FGTS) - бұл модель өзінің табиғи тілінің генерациясын сыртқы немесе кіріктірілген «құралдарға» (мысалы, кодты орындау, іздеу, калькулятор) жеке таңбалауыштардың немесе мәтіннің шағын бөліктерінің түйіршіктілігінде шақырулармен біріктіретін механизм. Толық құрал сұрауын жинақтап, содан кейін толық жауапты блоктаудың орнына, Клод 4:
- Сөйлемнің ортасында құрал-триггер таңбалауышын шығарыңыз,
- Құралдың ішінара шығысын қабылдауды және қабылдауды бастаңыз келгенде,
- Оның келесі токендерін жасауды жалғастырыңыз, әрбір кіріс деректер бөлігіне динамикалық түрде шартталған.
Нәтиже – пайымдау мен әрекеттің үздіксіз үйлесуі: модель «Мен API ауа райына қоңырау шалғым келеді» және «Міне, жауап» арасында ыңғайсыз кідіріс жасамайды. Оның орнына, оның прозасы үзіліссіз ағып, нақты уақытта құралдың ағынды нәтижелерімен байытылған.
Іс жүзінде бұл үлкен параметрлі құралды шақыру үшін күту уақытын айтарлықтай қысқартады. Мысалы, Клодтан файлға ұзақ өлең жазуды сұрағанда a make_file Өлең мәтінінің кез келгенін көргенге дейін стандартты ағынға ~15 секунд кетуі мүмкін. Ұсақ түйіршікті ағынмен жіберу мүмкіндігі қосылғанда, сіз ~3 секундтан аз уақыт ішінде көп жолды бөліктерді ала бастайсыз — әрбір бөлікте еркін JSON сегменттерінен гөрі өлеңнің когерентті фрагменттері бар . Дәл осындай тәсіл үлкен кірістері бар кез келген құралға қолданылады (мысалы, жаппай деректерді түрлендіру, көп сатылы есептеулер немесе көп бөлікті API қоңыраулары), бұл толық пайдалы жүктеменің орындалуын күтпестен бірден өңдеуді немесе нәтижелерді көрсетуді бастауға мүмкіндік береді.
FGTS стандартты ағыннан қалай ерекшеленеді?
Бөлшектеу мінез-құлқы
Стандартты ағынмен Клод серияланған JSON пайдалы жүктемесін шағын фрагменттерге бөледі, көбінесе ортаңғы таңбалауышты немесе орта сөзді бұзады, бұл кез келген маңызды мазмұн пайда болғанға дейін көптеген қысқа бөліктерге әкеледі. Үлкен өлең немесе деректер жүктемесі үшін бұл әрқайсысы 10–20 таңбадан тұратын ондаған шағын бөліктер ретінде көрінуі мүмкін. Ұсақ түйіршікті ағын, керісінше, мәтіннің толық жолдары сияқты үлкенірек, семантикалық жағынан үйлесімді бөліктерді шығарады, нәтижесінде қабылдағыш үшін мағыналырақ азырақ, ұзағырақ бөліктер пайда болады ().
Кешіктіруді жақсарту
Практикалық көрсеткіштерде стандартты ағынды пайдаланатын құрал шақырулары а туындауы мүмкін 15 секунд буферлеуге және JSON тексеруіне байланысты деректердің бірінші жарамды бөлігін шығару алдындағы кідіріс. Ұсақ түйіршікті ағын осы бастапқы кідірісті шамамен қысқартады 3 секунд, клиенттерге ағынды мазмұнды бес есе жылдамырақ тұтынуға мүмкіндік береді. Бұл жеделдету жедел кері байланыс пайдаланушы тәжірибесін түбегейлі жақсартатын тікелей кодты өңдеу, прогрессивті құжат жасау немесе бақылау тақтасының жаңартулары сияқты интерактивті қолданбалар үшін өте маңызды.
Неліктен ұсақ түйіршікті құралдар ағыны енгізілді?
FGTS-ке дейін құрал-қосылған LLM жүйелерінің көпшілігі қолданылған дөрекі құралды шақыру: модель толық «ARGS БАР X ҚҰРАЛЫНА ҚОЛДАУ...» нұсқаулығын жасайды, кідіртеді, құралдың толық жауабын алады, содан кейін генерацияны жалғастырады. Бұл тәсілдің бірнеше шектеулері бар:
- Кідірістің жоғарылауы: Күрделі есептеу немесе дерекқор сұрауының толық жауабын күту блоктау кідірісін қосады.
- Қосымша кері байланыстың болмауы: Толық жауап келгенше үлгі түсіндіруді немесе қайта жоспарлауды бастай алмайды.
- Қатты пішімдеу: Құрал шақырулары мен тіл шығыстары синтаксистік икемділікті шектейтін бөлек фазаларда тұрады.
FGTS модельдің таңбалауыштарын да, құралдың шығыстарын да ағынмен жіберу арқылы осы ауыртпалықтарды шешеді - таңбалауышпен немесе бөлікпен бөлікпен - осылайша генерациялау және құралды орындау блокада жүреді.
Клод 4 шын мәнінде FGTS қалай қолданады?
1. Токен деңгейіндегі триггерлер
Декодтау процесінде Клод 4 функция атымен және аргументтерімен толықтырылған «құрал шақыруын бастау» дегенді білдіретін арнайы маркерлерді (көбінесе соңғы пайдаланушыларға көрінбейтін) таниды. Модель осы триггерді шығарғанда, FGTS орындалу уақыты толық «CALL_TOOL» пәрменін жасауды күтпестен сұрауды дереу жібереді.
2. Ағындық құрал интерфейстері
Клод 4 құралдар жинағы, соның ішінде Anthropic-тің жеке код жүгіргіші, калькулятор және веб-іздеу интерфейстері - ағынды API интерфейстеріне оралған.
- кодынер: Сценарий орындалған кезде шығарылған stdout/stderr жолын жол бойынша қайтарады.
- калькулятор: Ұзақ есептеудің ағындық сандары немесе аралық қадамдары.
- Браузер/Іздеу: беттер алынған және талданған кезде мәтін үзінділерін немесе сілтемелерді ағынмен жібереді.
Әрбір фрагмент Клод 4 мәтінмән буферіне біртіндеп келеді.
3. Қосымша мәтінмәндік жаңартулар
Құрал шығысының әрбір бөлігі ағып жатқанда, Клод 4 оны белсенді мәтінмәндік терезеге қосады. Модельдің келесі таңбалауыш таңдаулары сол жаңа деректерді бірден біріктіреді, сондықтан оның пайымдауы сөйлемнің ортасын айналдыра алады, қателерді түзетеді немесе жаңа ғана үйренген нәрсеге негізделген талдауды тереңдете алады.
Әзірлеушілер нақты құралдар ағынын қалай қосады?
Claude 4 интеграциясында нақты ағынды белсендіру API сұрауының тақырыптары мен конфигурациясына аз ғана өзгерісті қажет етеді.
API тақырыбы конфигурациясы
Бета мүмкіндігіне қосылу үшін тақырыпты қосыңыз:
makefileanthropic-beta: fine-grained-tool-streaming-2025-05-14
бірге "stream": true сізде /v1/messages сұрау.
Мысал пайдалану
bashcurl https://api.anthropic.com/v1/messages \
-H "content-type: application/json" \
-H "x-api-key: $ANTHROPIC_API_KEY" \
-H "anthropic-version: 2023-06-01" \
-H "anthropic-beta: fine-grained-tool-streaming-2025-05-14" \
-d '{
"model": "claude-sonnet-4-20250514",
"tools": [{
"name": "make_file",
"description": "Write text to a file",
"input_schema": {
"type": "object",
"properties": {
"filename": {"type": "string"},
"lines_of_text": {"type": "array"}
},
"required":
}
}],
"messages": ,
"stream": true
}' | jq .
Сұрау орындалғанда, сіз мыналардың қоспасын аласыз content_block_delta және input_json_delta оқиғалар. Соңғысы ағынды параметр фрагменттерін қамтиды, оларды тіркеуге, қадам бойынша тексеруге немесе төменгі ағындық процестерге тікелей жіберуге болады.
Қандай айырбастар мен үздік тәжірибелерді ескеру керек?
Ұсақ түйіршікті құралдар ағыны айтарлықтай артықшылықтар ұсынса да, ол деректер тұтастығы мен клиенттің күрделілігіне қатысты ойларды да енгізеді.
Аяқталмаған JSON өңдеу
Ағын толық JSON нысаны құрылмай тұрып аяқталуы мүмкін болғандықтан (әсіресе таңбалауыш шектеулеріне жеткенде) әзірлеушілер кіріс фрагменттерін буферлеп, қосымша талдауға әрекеттенуі керек. Ағынды JSON талдаушысын пайдалану немесе жақшаларды жабуды күтетін қайта құрастыру буферін енгізу сенімділікті қамтамасыз етуге көмектеседі docs.anthropic.com.
Тексеру және қатені қалпына келтіру
JSON схемасын тексеру әдетте клиент жағында немесе құралдың ішінде орындалатындықтан, орындау алдында параметрдің толықтығын тексеру өте маңызды. Тексеру аяқталмаған ағындарда сәтсіз болған жағдайда қайталап көру стратегияларын немесе резервтік логиканы (мысалы, қайта ашылған құралды шақыруды сұрау) пайдалануға болады.
Бета тұрақтылығы туралы ойлар
Бета-функция ретінде ұсақ-түйек ағындық әрекет дамуы мүмкін. Anthropic мәселелері туралы хабарлау, жақсартуларды ұсыну немесе өнімділік өлшемдерін бөлісу үшін әзірлеушілерді ресми пішіні арқылы кері байланысқа шақырады. Ескерту туралы ескертулерді және шығарылым жазбаларын бақылау үйлесімділікті сақтау үшін өте маңызды.
Басталу
CometAPI кірістірілген API кілтін басқару, пайдалану квоталары және есеп айырысу бақылау тақталары бар тұрақты соңғы нүкте астында жүздеген AI үлгілерін, соның ішінде Клод отбасын біріктіретін бірыңғай REST интерфейсін ұсынады. Бірнеше жеткізушінің URL мекенжайлары мен тіркелгі деректерін араластырудың орнына.
Әзірлеушілер қол жеткізе алады Claude Sonnet 4 API (үлгі: claude-sonnet-4-20250514 ; claude-sonnet-4-20250514-thinking) және Claude Opus 4 API (үлгі: claude-opus-4-20250514; claude-opus-4-20250514-thinking) және т.б. арқылы CometAPI. . Бастау үшін үлгінің мүмкіндіктерін зерттеңіз Ойын алаңы және кеңесіңіз API нұсқаулығы егжей-тегжейлі нұсқаулар үшін. Қол жеткізу алдында CometAPI жүйесіне кіріп, API кілтін алғаныңызға көз жеткізіңіз. CometAPI да қосылды cometapi-sonnet-4-20250514жәнеcometapi-sonnet-4-20250514-thinking арнайы курсорда пайдалануға арналған.
CometAPI-ге жаңадан келдіңіз бе? Жылдам стакт және ең қиын тапсырмаларыңызда Клод 4-ті босатыңыз.
Өтініш берген кезде тек URL мекенжайын ауыстыру қажет https://api.anthropic.com/v1/messages бірге https://api.cometapi.com/v1/chat/completions және жұмыс процесінде xx қосу үшін алған CometAPI кілті бар API кілті.
Сіз не салғаныңызды көруді күте алмаймыз. Егер бірдеңе дұрыс болмаса, кері байланыс түймесін басыңыз — бізге не бұзылғанын айту оны жақсартудың ең жылдам жолы.
қорытынды
Клод 4-тегі нақтыланған құрал ағыны LLM құралының интеграциясындағы парадигманың ауысуын білдіреді — толық пайдалы жүктеме JSON тексеруінің қауіпсіздік желісін саудалайды. өте төмен кідіріс, қадамдық ағын, және жақсартылған интерактивтілік. Іске қосу үшін тек бір бета тақырыбын талап ете отырып, бұл мүмкіндік кодтау, деректерді өңдеу және агенттік жұмыс процестері бойынша қуатты жаңа мүмкіндіктерді ашады. Әзірлеушілер оның әлеуетін зерттей отырып (және ішінара JSON фрагменттері сияқты шеткі жағдайларды есепке алғанда) ұсақ түйіршікті ағын келесі ұрпақтың нақты уақыттағы AI басқаратын қолданбаларының негізіне айналуға дайын.