Phi-4-mini API

Phi-4-Mini API representerer Microsoftsin siste innovasjon innen små språkmodeller innenfor Phi-4-serien, med fokus primært på tekstoppgaver. Med et kompakt rammeverk som rommer 3.8 milliarder parametere, utmerker Phi-4-Mini seg i hastighet og effektivitet takket være sin tette transformatorarkitektur som kun er dekoder.

Nøkkelegenskaper til Phi-4-Mini

Ocuco Phi-4-Mini modell er bemerkelsesverdig for sin evne til å utføre en rekke oppgaver som f.eks tekstresonnement, matematiske beregninger, programmering, og funksjonsanrop. Til tross for sin relativt lille størrelse, konkurrerer Phi-4-Mini med – og overgår ofte – større språkmodeller på disse områdene:

• Tekstbegrunnelse: Den utmerker seg i oppgaver som krever logisk behandling, og tilbyr ytelse som ligner på modeller med vesentlig større parametere.
• Omfattende støtte for lange tekster: Phi-128-Mini er i stand til å behandle sekvenser opp til 4K tokens, og er ideell for å håndtere omfattende tekst effektivt.
• Skalerbar funksjonsintegrasjon: Phi-4-Minis funksjonsanropsmuligheter tillater sømløs integrasjon med eksterne verktøy, APIer og datakilder, noe som øker allsidigheten i applikasjonsscenarier.

Tekniske prinsipper bak Phi-4-Mini

Phi-4-Minis arkitektur er forankret i sofistikert teknisk design som tar sikte på å maksimere effektivitet og tilpasningsevne:

• Transformatorarkitektur: Modellen er bygget på et transformator-rammeverk som kun er dekoder, og bruker selvoppmerksomhetsmekanismer for å effektivt håndtere langsiktige avhengigheter i tekstsekvenser.
• Oppmerksomhet for gruppert søk: Denne mekanismen forbedrer beregningseffektiviteten ved å behandle spørringer i grupperte grupper, og styrker modellens kapasitet for parallell behandling.
• Delt innebyggingsstrategi: Ved å dele inn- og utgangsinnbygginger reduserer Phi-4-Mini parameterbelastningen, og forbedrer oppgavetilpasning og driftseffektivitet.

Disse arkitektoniske valgene skreddersyr Phi-4-Mini til å utmerke seg i generasjon av naturlig språk samtidig som den opprettholder høy ytelse på tvers av ulike brukstilfeller.

Data og opplæringsdetaljer

Språkopplæringsdata

Opplæringsdataene for Phi-4-Mini inkluderer høykvalitets resonnementrike tekstdata, spesielt nøye kurerte kodedatasett for å forbedre ytelsen til programmeringsoppgaver. Førtreningsdataene er forbedret med filtre og datablandingsstrategier for å sikre høy kvalitet og mangfold av dataene. Nærmere bestemt inkluderer før-treningsdataene et korpus på 5 billioner tokens, som er større og høyere kvalitet enn Phi-3.5-Mini.

Visjon-språktreningsdata

Foropplæringsfasen til Phi-4-Multimodal involverer rike bilde-tekst-datasett, inkludert sammenflettede bilde-tekst-dokumenter, bilde-tekst-par, bildelokaliseringsdata, etc. Foropplæringsprosessen involverer 0.5 billioner tokens, som kombinerer visuelle og tekstlige elementer. Den overvåkede finjusteringsfasen (SFT) bruker et offentlig multimodalt instruksjonsinnstilt datasett og et storskala internt multimodalt instruksjonsinnstilt datasett, som dekker oppgaver som naturlig bildeforståelse, diagram-, tabell- og diagramresonnement, PowerPoint-analyse, OCR, multibildesammenligning, videooppsummering og modellsikkerhet.

Visuell-taletreningsdata

Phi-4-Multimodal ble trent på visuelle taledata, og dekket både enkeltbilde- og multibilde-scenarier. Den høye kvaliteten på dataene ble sikret ved å konvertere brukerforespørsler fra tekst til lyd gjennom en intern tekst-til-tale-motor (TTS). Spesielt brukte forskerne en intern ASR-modell for å transkribere lyden og beregne ordfeilfrekvensen (WER) mellom originalteksten og transkripsjonen, og kvaliteten på de endelige visuelle taledataene ble sikret gjennom WER-filtrering.

Opplæringsdata for tale og lyd

Treningsdataene for tale/lydfunksjoner inkluderer transkripsjonsdata for automatisk talegjenkjenning (ASR) og data etter trening, som dekker en rekke oppgaver som automatisk taleoversettelse (AST), svar på talespørsmål (SQA), taleoppsummering (SSUM) og lydforståelse (AU). Førtreningsdataene inkluderer omtrent 2 millioner timer med anonymiserte interne tale-tekst-par, som dekker 8 støttede språk. Dataene etter trening inkluderer rundt 100 millioner nøye kuraterte tale- og lyd-SFT-prøver, som dekker oppgaver som ASR, AST, SQA, SQQA, SSUM og AU.

Beslektede emner:De tre beste AI Music Generation-modellene fra 3

Optimal distribusjon og kompatibilitet

Phi-4-Mini er optimalisert for kompatibilitet på tvers av plattformer, som letter distribusjon i ulike datamiljøer:

• ONNXRuntime Optimalisering: Sikrer at modellen yter effektivt i rimelige innstillinger med lav latens, og støtter bred applikasjon på tvers av plattformer.
• Ressursbegrensede miljøer: Dens lette natur gjør Phi-4-Mini egnet for Edge Computing-distribusjoner der ressursene er begrenset, og maksimerer driftseffektiviteten uten at det går på bekostning av evnene.

Treningsfilosofi og datautnyttelse

Opplæringsprosessen til Phi-4-Mini er streng, med fokus på høykvalitets, varierte datasett for å styrke resonnement og logisk håndtering evner:

• Screenet treningsdata: Inkorporerer syntetiske og målrettede datasett for å forbedre ytelsen til matematiske og programmeringsoppgaver.
• Tilpasning og presisjon: Opplæringsstrategien legger vekt på datakvalitet og mangfold, og forbereder modellen for komplekse resonneringsoppgaver på tvers av varierte applikasjoner.

Reelle brukstilfeller

Phi-4-Mini tilbyr brede applikasjoner i en rekke scenarier, og viser dens tilpasningsevne og nytte:

• Intelligente svarsystemer: Yter eksepsjonelt godt i komplekse spørsmål-svar-oppgaver, og gir nøyaktige og raske svar egnet for kundeserviceapplikasjoner.
• Programmeringshjelp: Tilbyr utviklere kraftige verktøy for kodegenerering og -testing, som øker produktiviteten og arbeidsflyteffektiviteten.
• Flerspråklige evner: Støtter oversettelse og prosessering på tvers av flere språk, noe som gjør den ideell for globale språktjenester og tverrkulturelle applikasjoner.
• Edge Computing og distribusjon: Phi-4-Mini er optimalisert for distribusjon av bærbare enheter, og trives i avanserte databehandlingsscenarier der effektiv prosessering er avgjørende.

Konklusjon:

Phi-4-Mini, med sin innovative design og eksepsjonelle ytelse i tekstbehandlingsoppgaver, representerer et betydelig fremskritt innen teknologi for små språkmodeller. Denne modellen gir utviklere og AI-brukere et høyeffektivt verktøy som er i stand til å administrere omfattende og mangfoldige applikasjoner uten å kreve betydelige beregningsressurser. Etter hvert som Microsofts Phi-4-serie skrider frem, sikrer Phi-4-Minis tilpasningsevne og integrasjonsevne dens fortsatte relevans og nytte i utviklende AI-landskap, og fungerer til slutt som en sentral ressurs for fremtidig utvikling innen kunstig intelligens.

Hvordan kalle denne Phi-4-Mini API fra CometAPI

1.Logg inn til cometapi.com. Hvis du ikke er vår bruker ennå, vennligst registrer deg først

2.Få tilgangslegitimasjons-API-nøkkelen av grensesnittet. Klikk "Legg til token" ved API-tokenet i det personlige senteret, hent tokennøkkelen: sk-xxxxx og send inn.

3. Få nettadressen til dette nettstedet: https://api.cometapi.com/

4. Velg Phi-4-Mini-endepunktet for å sende API-forespørselen og angi forespørselsteksten. Forespørselsmetoden og forespørselsinstansen hentes fra vår nettside API-dok. Vår nettside tilbyr også Apifox-test for enkelhets skyld.

5. Behandle API-svaret for å få det genererte svaret. Etter å ha sendt API-forespørselen, vil du motta et JSON-objekt som inneholder den genererte fullføringen.