Hvad er sprogmodeller, og hvordan fungerer LLM'er?

Informatic Digital » Recursos » Hvad er sprogmodeller, og hvordan fungerer LLM'er?

Sprogmodeller er blevet hjertet i moderne kunstig intelligens: de driver virtuelle assistenter og chatbots , maskinoversættelse og værktøjer, der skriver kode eller udkaster tekst næsten som en person. Selvom det kan virke som magi, kombinerer de faktisk statistik, neurale netværk og enorme mængder data for at forudsige, hvilket ord, sætning eller endda billede der giver mest mening næste gang.

I de senere år er store sprogmodeller (LLM'er ) dukket op som kraftfulde, gigantiske versioner af klassiske sprogmodeller. Disse systemer genererer ikke kun flydende tekst, men opsummerer også dokumenter, besvarer komplekse spørgsmål, oversætter mellem sprog og ræsonnerer endda på et vist niveau. Lad os se nærmere på, hvad de er, hvordan de fungerer internt, de forskellige typer, der er tilgængelige, deres anvendelser i den virkelige verden i virksomheder, og de risici og begrænsninger, der skal tages i betragtning.

Hvad er en sprogmodel præcist?

En sprogmodel er i bund og grund et statistisk eller beregningsmæssigt system, der tildeler sandsynligheder til sekvenser af tokens . Et token kan være et helt ord, et underord eller endda et enkelt tegn. Modellens mål er at estimere, hvilket token der mest sandsynligt vil optræde næste gang i en given sekvens.

Hvis vi betragter en sætning med et hul, beregner modellen, hvilke mulige fortsættelser der passer bedst til konteksten. For eksempel, givet sætningen "Når jeg hører regn på mit tag, _______ jeg i mit køkken", afvejer systemet alternativer som "lav suppe", "varm en kedel" eller "tag en lur", og tildeler hver mulighed en forskellig sandsynlighed. En applikation kan vælge den mulighed med den højeste sandsynlighed eller stikprøve fra flere kandidater over en bestemt tærskel for at skabe variation.

Den samme mekanisme til at forudsige det næste token strækker sig naturligt til mere komplekse opgaver: generering af fuldtekst, oversættelse fra et sprog til et andet, opsummering, besvarelse af spørgsmål, klassificering, informationsudtrækning og så videre. Ved at modellere statistiske sprogmønstre ender systemet med at udvikle meget omfattende interne repræsentationer, der indfanger grammatik, stil og forhold mellem begreber.

For at opnå dette trænes sprogmodeller på store tekstkorpuser og lærer at justere deres interne parametre for at bringe deres forudsigelser tættere på eksempler fra den virkelige verden. Antallet af disse parametre (vægte) er det, vi normalt refererer til, når vi taler om modeller med millioner, milliarder eller endda billioner af parametre.

Kontekst: fra n-grammer til neurale netværk

I lang tid var den mest almindelige tilgang til at bygge sprogmodeller n-gram-modeller . Et n-gram er en ordnet sekvens af N ord: når N=2 kalder vi dem bigrammer; når N=3, trigrammer; og så videre. For eksempel, hvis vi starter med sætningen "du er meget sød", ville bigrammerne være "du er", "er meget" og "meget sød".

Ved hjælp af en trigrammodel, givet en kontekst med to ord, beregner systemet sandsynligheden for hvert muligt tredje ord baseret på, hvor mange gange det har set det pågældende trigram i sin træningskorpus. Hvis vi har observeret mange sætninger som "appelsin er moden" og meget få som "appelsin er munter", vil den første fortsættelse have mere vægt, når konteksten er "appelsin er".

Problemet er, at den tilgængelige kontekst er meget begrænset . Et trigram kan kun se to ord tilbage, hvilket normalt er utilstrækkeligt til at løse tvetydigheder (for eksempel om "appelsin" er en frugt eller en farve) eller til at indfange langsigtede afhængigheder. En stigning i N giver mere kontekst, men forværrer også manglen på data: 6-gram eller 7-gram optræder så sjældent, at det er vanskeligt at estimere pålidelige sandsynligheder.

For at overvinde denne begrænsning opstod der tilbagevendende neurale netværk (RNN'er) , som behandler tekst token for token, samtidig med at de opretholder en intern tilstand, der fungerer som en hukommelse om den foregående kontekst. Varianter som LSTM eller GRU forbedrede evnen til at bevare information i længere perioder, hvilket muliggjorde indfangning af længere afhængigheder end med n-grammer og reducerede forudsigelsesfejl i komplekse sætninger.

RNN'er har dog deres egne ulemper: den strengt sekventielle natur af deres behandling gør parallelisering vanskelig og træning af lange sekvenser dyr og langsom. Desuden lider de af det velkendte gradient vanishing- problem , som begrænser mængden af ​​nyttig kontekst, de kan håndtere i praksis. Denne kombination af flaskehalse motiverede søgningen efter nye, mere effektive arkitekturer.

Transformer-revolutionen og selvplejemekanismen

Det virkelige spring fremad kom med Transformer-arkitekturen , præsenteret i 2017 i den berømte artikel "Attention is all you need." Denne tilgang opgav fuldstændigt rekursion og baserede sig på en nøglemekanisme: selvopmærksomhed , som gør det muligt for modellen samtidig at "se" på alle tokens i en sekvens og afveje, hvilke dele af konteksten der er mest relevante for hver position.

Processen begynder med tokenisering , hvor teksten opdeles i tokens (ord, underord osv.). Hver token er knyttet til en numerisk vektor kaldet en indlejring , som indeholder semantisk og syntaktisk information. Disse indlejringer passerer gennem flere lag i Transformeren, og i hvert lag forfines de gradvist og bliver til rigere kontekstuelle repræsentationer, der inkorporerer information om de andre tokens.

For at modellen kan kende positionen af ​​hvert token, tilføjes positionskodninger . Disse angiver tokenets plads i sekvensen og tillader selvopmærksomhed at skelne mellem for eksempel et ord, der vises i begyndelsen, og et identisk ord, der vises i slutningen – noget afgørende for at forstå rækkefølgen og strukturen af ​​sætninger.

Selvopmærksomhed fungerer ved at projicere hver indlejring på tre forskellige vektorer ved hjælp af lærte vægtmatricer : forespørgsler (Q), nøgler (K) og værdier (V). Forespørgslen repræsenterer, hvad et token "søger efter" i resten af ​​sekvensen, nøglen afspejler den information, som hvert token "tilbyder", og værdien er den information, der vil blive udbredt, vægtet af opmærksomhed.

Modellen beregner derefter justeringsscorer, såsom ligheden mellem hver forespørgsel og alle nøglerne. Efter normalisering af disse scorer (for eksempel med softmax), opnår den opmærksomhedsvægte, der bestemmer, hvor meget hver tokens værdi bidrager til den nye repræsentation af den aktuelle token. På denne måde fokuserer netværket fleksibelt på den relevante kontekst og efterlader mindre nyttige tokens (såsom bestemte funktionsord eller irrelevante termer i en given passage) i baggrunden.

En af de store fordele ved Transformer er, at denne mekanisme er meget paralleliserbar . I modsætning til RNN'er, hvor tokens behandles én efter én, behandles alle positioner i sekvensen samtidigt her, hvilket i høj grad accelererer træning på moderne hardware. Denne kombination af mere kontekst, bedre evne til at indfange lange afhængigheder og beregningseffektivitet har gjort det muligt for modeller at skalere til størrelser, der var utænkelige for bare få år siden.

Hvad er LLM'er (store sprogmodeller)?

Med udgangspunkt i Transformers er der opstået store sprogmodeller (LLM'er) . Disse er dybe neurale netværk med millioner, milliarder eller endda billioner af parametre, der er trænet på enorme mængder tekst fra bøger, artikler, websteder, teknisk dokumentation og andre offentlige (og nogle gange private) ressourcer.

Disse modeller bruger dybdegående læring og trænes overvejende selvovervåget : i stedet for at stole på manuelt mærkede data, lærer de fra uannoteret tekst og løser interne opgaver såsom at forudsige det næste ord eller udfylde huller i en sætning. Derfra tilegner de sig implicit viden om grammatik, sprog, verdensfakta, skrivestile, ræsonnementsprocesser og samtalemønstre.

En klassisk LLM (Language Learning Model) trænes i første omgang ved hjælp af uovervåget læring for at forudsige det næste ord givet en kontekst. I nogle tilfælde udføres en lignende anden fase, hvor dataene udvides eller træningsmålet justeres for bedre at indfange konteksten. Dette efterfølges normalt af en overvåget lærings- eller RLHF-fase (Reinforcement Learning from Human Feedback) , hvor menneskelige annotatorer evaluerer de genererede svar, markerer dem som korrekte eller forkerte, og denne feedback bruges til at forfine modellens adfærd.

Denne kombination af massiv fortræning og efterfølgende finjustering gør det muligt for LLM'er at udføre opgaver som oversættelse, skrivning, opsummering, dialog, kodegenerering og klassificering med næsten menneskelig flydendehed. Værktøjer som ChatGPT, Claude, Gemini, Llama og mange virksomhedsløsninger er netop afhængige af disse typer modeller for at tilbyde samtaleassistenter, avancerede søgesystemer og autonome agenter, der interagerer med virksomhedsdata.

Det er værd at understrege, at en LLM, på trods af deres tilsyneladende intelligens, ikke "forstår" sprog som en person. Det, de gør, er at modellere statistiske mønstre og forudsige den mest sandsynlige fortsættelse, selvom niveauet af sofistikering er så stort, at forskellen i praksis ofte er vanskelig at skelne i hverdagssituationer.

LLM-træning: data, vægte og tabsfunktion

Træning af en stor modellinje (LLL) begynder med at indsamle og rense et massivt datasæt . Disse data normaliseres, filtreres for at fjerne støj og tokeniseres. Derefter initialiseres modelvægtene, og en tabsfunktion defineres for at måle fejlen mellem forudsigelser og faktiske træningssekvenser.

Over millioner eller endda milliarder af træningstrin laver modellen token-for-token-forudsigelser , og tabsfunktionen kvantificerer, hvor langt den afviger fra den korrekte rækkefølge. Ved hjælp af algoritmer som gradient descent og backpropagation justeres vægtene lag for lag i hver iteration for at reducere denne fejl. På denne måde anvender de matricer, der genererer selvbetjeningsforespørgsler, nøgler og værdier, samt de indlejrede projektioner, stadig mere nyttige konfigurationer.

I denne proces lærer modellen semantiske associationer: tokens som "hund" og "gø" ender tæt sammen i vektorrummet, når konteksten refererer til kæledyr, mens "gø" og "træ" synes mindre relaterede. Dette indlejringsrum indfanger ligheder i betydning, analogier og relationer mellem begreber, som derefter udnyttes i efterfølgende opgaver.

Når fortræningen er afsluttet, udføres finjusteringen normalt ved hjælp af mere specifikke datasæt for at guide modellen mod konkrete opgaver: at følge instruktioner, besvare spørgsmål høfligt, respektere bestemte sikkerhedskriterier, antage en bestemt tone osv. I samtalemodeller som GPT-4 ledsages denne fase ofte af RLHF, hvor mennesker og nogle gange andre modeller evaluerer foreslåede svar og hjælper med at guide systemet mod mere nyttige og sikrere adfærd.

Slutresultatet er en model, der har internaliserede grammatiske mønstre, faktuel viden, ræsonnementsstrukturer og stilarter fordelt på tværs af dens parametre. Når den modtager nyt input, kan den generere sammenhængende, kontekstfølsomme og i mange tilfælde kreative output.

GPT, ChatGPT og deres forhold til LLM'er

Udtrykket GPT står for "Generative Pre-trained Transformer". Det refererer til en specifik familie af LLM'er udviklet af OpenAI, som er direkte baseret på Transformer-arkitekturen. "Generativ" angiver dens evne til at producere nyt indhold, "Pre-trained" refererer til det faktum, at den trænes på store korpus, før den tilpasses specifikke opgaver, og "Transformer" betegner den underliggende arkitektur.

ChatGPT er i virkeligheden en chatapplikation bygget på GPT-modeller (såsom GPT-4 og dens varianter). LLM'en fungerer som "hjernen", der genererer svarene, mens ChatGPT-grænsefladen er det lag, der giver brugerne mulighed for nemt at kommunikere med den model. Uden en underliggende sprogmodel ville ChatGPT ikke være andet end en tom tekstboks uden genereringsmuligheder.

Forskellen mellem GPT og LLM kan forstås som følger: LLM er den generelle kategori , der omfatter enhver stor sprogmodel; GPT er en specifik familie inden for denne kategori. Andre eksempler på LLM'er, der ikke tilhører GPT, er Claude (Antropisk), Gemini (Google), Llama (Meta), Mistral eller åbne modeller som Bloom.

Typer af sprogmodeller og fremtrædende familier

Inden for det nuværende økosystem findes der flere typer af LLM'er og sprogmodeller, hver med forskellige mål og karakteristika. Nogle er designet til generelle opgaver, andre til dyb kontekstforståelse, nogle til kodegenerering og andre til højt specialiserede domæner.

Blandt de generelle modeller, der er rettet mod tekstgenerering og samtale, skiller OpenAI's GPT-3/GPT-4 , Anthropics Claude , Googles PaLM- og Gemini -modeller og Metas Llama- familie sig ud, hvor sidstnævnte har været en væsentlig drivkraft for open source-økosystemet. Mange virksomhedsplatforme tilbyder hubs, hvor brugerne kan vælge mellem flere af disse modeller afhængigt af deres use case, omkostninger, latenstid og privatlivsbegrænsninger.

Inden for sprogforståelse markerede modeller som BERT (Bidirectional Encoder Representations from Transformers) et vendepunkt. BERT trænes bidirektionelt, hvilket betyder, at den lærer at forudsige maskerede ord ved hjælp af både den foregående og den efterfølgende kontekst, hvilket gør det muligt bedre at indfange nuancer og komplekse relationer i en sætning. Varianter som DistilBERT, RoBERTa, ALBERT og XLM-R optimerer ydeevne, størrelse eller flersproget understøttelse.

Til kodegenerering findes der modeller som Codex (grundlaget for GitHub Copilot) eller AlphaCode, der er specifikt trænet i programmeringsdatabaser og algoritmiske problemer. Disse systemer er i stand til at foreslå funktioner, fuldføre kodeblokke eller endda løse komplekse øvelser ud fra beskrivelser i naturligt sprog.

Inden for det flersprogede og multimodale felt finder vi forslag som BLOOM, CLIP og moderne GPT-systemer, der er i stand til at arbejde med tekst, billeder, lyd og endda video. Den klare tendens går i retning af modeller, der integrerer flere modaliteter samtidigt, hvilket åbner døren for applikationer som videoanalyse med tekstbeskrivelse, assistenter, der forstår diagrammer, og systemer, der kombinerer visuel og tekstuel information; der findes endda stemme- og multimodale modeller som MAI Voice 1, der demonstrerer denne udvikling.

Endelig har små eller effektive LLM'er vundet frem , designet til at køre på enheder med begrænsede ressourcer (mobil, edge osv.) eller til at reducere inferensomkostninger. Reducerede versioner af Llama, T5, ALBERT eller andre modeller muliggør implementering af generative AI-funktioner uden behov for store cloud-infrastrukturer.

LLM vs. traditionel NLP

Det er almindeligt at forveksle begreberne LLM og NLP . NLP (Natural Language Processing) er det brede felt, der omfatter alle teknikker til automatisk sprogbehandling: sentimentanalyse, entitetsekstraktion, emnedetektion, oversættelse, opsummering osv. Historisk set blev hver af disse opgaver løst med specifikke modeller, der blev trænet ad hoc: statistiske algoritmer, regelbaserede systemer, n-gram-modeller, LSTM-netværk, word2vec osv.

Storskalamodellering (LLM) repræsenterer en videreudvikling af traditionel NLP . I stedet for at træne en forskellig model til hver opgave, kan en enkelt stor, generel model udføre oversættelse, opsummering, klassificering, tekstgenerering, grundlæggende ræsonnement og mange andre operationer med ringe eller ingen yderligere træning (kendt som nul-skuds- og få-skuds-læring).

Den vigtigste forskel ligger i skala og tilgang : mens klassiske NLP-modeller blev trænet på relativt små, mærkede datasæt, lærer LLM'er fra billioner af umærkede tokens og indfanger meget rigere mønstre. Dette betyder ikke, at NLP er blevet forældet; snarere er LLM'er blevet grundlæggende modeller, som specifikke NLP-løsninger bygger på i virkelige kontekster.

Praktiske anvendelser af sprogmodeller

I dag er LLM'er rygraden i en bred vifte af applikationer og produkter . Inden for virtuelle assistenter bruger de værktøjer som Siri, Google Assistant, Alexa og webchatbots, der forstår anmodninger i naturligt sprog og giver relevante svar, udfører kommandoer eller udfører handlinger såsom at sende beskeder og planlægge aftaler.

Inden for maskinoversættelse muliggør avancerede modeller mere præcis og naturlig tekstoversættelse end traditionelle regelbaserede systemer. Platforme som Google Translate og DeepL har forbedret deres kvalitet betydeligt takket være Transformer-lignende arkitekturer, der er trænet på massive flersprogede datasæt.

Med hensyn til produktivitet er sprogmodeller integreret i grammatik- og stilkontrol , autofuldførelsesfunktioner i mobile enheder og tekstbehandlingsprogrammer, søgeforslag i browsere og formularer samt indholdsgenereringssystemer til sociale medier, blogs og reklamekampagner. Hvis du vil lære at bruge kunstig intelligens i dine dokumenter , findes der praktiske vejledninger, der viser dig, hvordan du anvender disse funktioner i moderne editorer.

I erhvervslivet bruges LLM'er til at automatisere kundeservice via chatbots, der er i stand til at besvare almindelige spørgsmål, oprette resuméer af interne dokumenter, hjælpe med rapportskrivning, generere kode til udviklingsteams eller hjælpe med gentagne administrative opgaver. Teknikker som RAG (Retrieval-Augmented Generation) gør det muligt at forbinde modellen til interne vidensbaser, så svarene er baseret på verificerede og opdaterede oplysninger.

Der findes også domænespecifikke LLM'er , såsom BioBERT til biomedicinsk forskning, FinBERT til finansielle tekster og LegalBERT til juridiske dokumenter. Disse modeller er forfinet på specifikke korpus for at forbedre nøjagtigheden inden for deres felt og støtte klinikere, advokater og analytikere i at læse og syntetisere store mængder information.

Fordele, svagheder og etiske udfordringer

Store sprogmodeller tilbyder klare fordele: de automatiserer monotone opgaver , øger produktiviteten, muliggør oprettelsen af ​​mere naturlige samtaleassistenter, strømliner oversættelser, accelererer programmering og letter adgangen til kompleks information. De er en banebrydende kraft svarende til robotisering i industrien, men anvendt på vidensarbejde.

De har dog flere betydelige begrænsninger . Den mest kendte er "hallucinationer": modellen kan generere svar, der lyder meget overbevisende, men er falske eller unøjagtige. Fordi den lærer fra statistiske korrelationer og ikke fra en dyb forståelse af verden, kan den opfinde citater, data eller referencer, der aldrig har eksisteret.

En anden central udfordring er bias . LLM'er arver kulturelle bias, stereotyper eller diskriminerende mønstre fra træningsdata, hvilket kan føre til problematiske reaktioner, hvis de ikke filtreres og korrigeres. Derudover rejser de problemer med privatlivets fred og overholdelse af regler, når de bruges med følsomme data, især hvis de implementeres via eksterne API'er i stedet for proprietær infrastruktur.

De beregningsmæssige omkostninger ved træning og drift af gigantiske modeller er meget høje, både økonomisk og energimæssigt. Dette skaber debatter om bæredygtighed og koncentrationen af ​​teknologisk magt i nogle få virksomheder med kapacitet til at træne næste generations modeller.

I Europa og andre regioner kræver lovgivningsmæssige rammer som AI-loven gennemsigtighed, risikovurdering og menneskeligt tilsyn, især for systemer, der interagerer med forbrugere eller træffer beslutninger med betydelig indflydelse. Dertil kommer risikoen for leverandørfastlåsning, som mange virksomheder forsøger at afbøde ved at udforske åbne modeller og hybridstrategier.

Hvordan LLM'er designes og justeres i praksis

Fra et ingeniørperspektiv involverer oprettelse og drift af en LLM en række nøgletrin . Først defineres formålet: Er målet en generel model, en teknisk supportassistent, et system til juridisk analyse eller en AI til marketing og salg? Denne beslutning styrer, hvilke data der udvælges, og hvordan præstationen evalueres.

Dernæst kommer forberedelsestræningen , som involverer indsamling og standardisering af et massivt og forskelligartet datasæt. Derefter tokeniseres teksten, og arkitekturen defineres (antal lag, størrelse af indlejringer, antal opmærksomhedshoveder osv.). Valget af infrastruktur er afgørende: der er behov for højtydende servere med mange GPU'er eller TPU'er eller cloudklynger, der er i stand til at håndtere enorme arbejdsbyrder.

Under træning justeres hyperparametre såsom læringshastighed, batchstørrelse, antal trin, regulariseringsstrategier og læringsplaner. Når denne fase er fuldført, begynder finjusteringen, hvor modellen iterativt forfines ved hjælp af specifikke data, kvalitetsmålinger og i mange tilfælde menneskelig evaluering.

I den virkelige verden træner mange professionelle ikke modeller fra bunden, men benytter sig i stedet af præ-trænede LLM'er leveret af store organisationer eller open source-fællesskabet. De anvender derefter teknikker som let finjustering, prompt engineering, RAG eller destillation for at tilpasse disse modeller til deres specifikke kontekst, reducere omkostninger og forbedre produktionseffektiviteten.

Inden for dette bredere økosystem betragtes LLM'er som grundlæggende modeller : store, generelle netværk, som vertikale løsninger bygger på. Deres tilpasningsevne, kombineret med den hurtige udvikling af multimodale og mere effektive versioner, peger på en fremtid, hvor stadig mere tilgængelige værktøjer vil give virksomheder og brugere mulighed for at udnytte generativ AI dagligt.

Hele dette scenarie har forvandlet sprogmodeller fra en laboratoriekuriositet til en fundamental infrastruktur i den digitale økonomi: de omformer allerede kundeservice, marketing, softwareudvikling, forskning og den måde, vi interagerer med teknologi på. At forstå, hvordan de fungerer, hvad de kan, og hvor de ikke lever op til forventningerne, er nøglen til at udnytte deres fordele, samtidig med at man forbliver bevidst om deres risici og begrænsninger.