Kui oled jälginud tehisintellekti ümber käivat hiljutist elevust, oled ilmselt kuulnud tööriistadest, mis näivad suutvat teha kõike alates luuletuste kirjutamisest kuni keeruka koodi programmeerimiseni. Kogu selle maagia taga peitub võtmekontseptsioon: alusmudelid . Põhimõtteliselt on need nagu auto šassii; vastupidav, üldine konstruktsioon, mida saab seejärel kohandada sportautoks, veoautoks või tarbesõidukiks, olenevalt sellest, mida me antud ajahetkel vajame.
Nende süsteemide nii murranguliseks muutmise põhjuseks on see, et me ei kujunda tehisintellekti enam ühe ülesande jaoks, vaid loome pigem digitaalse hiiglase, mida treenitakse tohutul hulgal andmetel, mida saame seejärel "vormida". See paradigma muutus on võimaldanud tehisintellektil areneda väga jäigast asjast paindlikuks tööriistaks, mis õpib maailmast üldisi mustreid ja rakendab neid seejärel konkreetsetele probleemidele, kiirendades innovatsiooni tempos, mis ausalt öeldes jätab kõik sõnatuks.
Mis täpselt on alusmudel?
Lihtsamalt öeldes on tehisintellekti alusmudel iga tehisintellekti süsteem, mida treenitakse tohutu hulga andmetega (tavaliselt enesekontrolli kaudu) ja mis suudab peenhäälestamise teel kohaneda väga erinevate rakendustega. Need ei ole täiesti uued, kuna tuginevad süvaõppele ja teadmiste edasiandmisele, kuid enneolematu andmete ja arvutusvõimsuse ulatus on viinud selliste võimete tekkimiseni, mida keegi poleks osanud ette näha.
On oluline mitte ajada neid segi suurte keelemudelitega (LLM-idega) . Kuigi neid kasutatakse sageli sünonüümidena, on nende seos perekonna ja liigi oma: kõik LLM-id on alusmudelid, kuid mitte kõik alusmudelid pole LLM-id. Kuigi LLM-id keskenduvad tekstile ja koodile, võivad alusmudelid olla multimodaalsed , töödeldes pilte, heli, videot või isegi robotite sensoorseid signaale.
Tehnilised tugisambad: trafo ja koolitus
Arhitektuur, mis on selle kõik võimalikuks teinud, on Transformer . See süsteem kasutab mehhanismi nimega "enesetähelepanu", mis võimaldab mudelil mõista jada eri osade olulisust, olenemata nende omavahelisest kaugusest. Tavaliselt koosneb see kodeerijast ja dekoodrist, mis genereerivad vektori esitusi (manuseid), mis jäädvustavad keele või piltide aluseks oleva tähenduse.
Loomisprotsess jaguneb tavaliselt mitmeks etapiks:
- Enne treeningut: See on kõige kallim etapp. Mudel „neelab“ interneti, raamatud ja andmebaasid, et õppida tundma info üldist struktuuri. Siin toimubki parameetrite arv, tokenite arv ja kontekstiaken.
- Peenhäälestus: Kui mudel on generalistlik, treenitakse seda konkreetsete andmetega ja inimesed juhendavad seda, et saada eksperdiks mingis valdkonnas, näiteks meditsiinis või õigusteaduses.
- Kohandamine ülesandega: See on viimane samm, kus mudel optimeeritakse väga spetsiifilise funktsiooni jaoks, näiteks loomiseks. kohtupraktika otsingumootor või tehnilise aruande generaator.
Silmapaistvad mudelid, mis on ajalugu kujundanud
Alates 2018. aastast oleme näinud hulgaliselt mudeleid, mis on asju raputanud. BERT oli üks teerajajaid, mis oli tuntud oma kahesuunalise konteksti mõistmise võime poolest. Seejärel tuli OpenAI GPT- perekond , mis arenes GPT-1-st GPT-4-ks, näidates, et mida suurem on ulatus, seda rohkem tekkivaid võimeid, näiteks null-shot-õpe.
Kuid nad pole ainsad. Meil on Claude Anthropicust , kellel on versioonid nagu Sonnet, Opus ja Haiku, mis püüdlevad tasakaalu poole intelligentsuse ja kiiruse vahel. Amazon Nova seevastu pakub valikut, mis ulatub multimodaalsest mõistmisest loomingulise video genereerimiseni. Me ei saa unustada Stable Diffusionit , mis tõi alusmudelite jõu piltide maailma, ega BLOOMi , mitmekeelset ja koostööl põhinevat ettevõtmist, mis näitab, et ka avatud lähtekoodil on oma koht.
Võimalused ja reaalsed rakendused
Need mudelid ei kirjuta ainult e-kirju. Nende mõju ulatub kriitilistele sektoritele:
- Tervis: Nad aitavad kaasa ravimite avastamine ja meditsiiniliste piltide analüüs, kuigi need nõuavad täielikku selgitatavust saatuslike vigade vältimiseks.
- Paremal: Need hõlbustavad lepingute läbivaatamist ja pikkade juriidiliste narratiivide analüüsi, vähendades õigusemõistmise kulusid.
- Haridus: Need võimaldavad a isikupärane õppimine ja kohanemisvõimelised, kuigi need tekitavad probleeme plagiaadi ja tehnoloogilise lõhe osas.
- Robootika: Eesmärk on luua universaalseid roboteid, mida ei pea iga ülesande jaoks nullist programmeerima, vaid mille puhul kasutatakse baasmudelit. keskkonnaga suhelda füüsiline
Varjukülg: riskid, eetika ja keskkond
See pole ainult ilus ja ilus. Homogeniseerimine kujutab endast tõsist ohtu: kui kõik kasutavad sama baasmudelit, levib iga loomupärane eelarvamus või viga kõigisse tuletatud rakendustesse, luues „algoritmilise monokultuuri“. Lisaks on olemas hallutsinatsioonid – hetked, mil tehisintellekt sepitseb andmeid hämmastava kindlusega, mis nõuab pidevat inimesepoolset kontrollimist.
Eetilisest ja juriidilisest vaatenurgast käib intellektuaalomandi pärast avalik võitlus , kuna paljusid mudeleid treenitakse andmetega ilma nende loojate selgesõnalise nõusolekuta. Lisaks sellele on keskkonnamõju; nende hiiglaste treenimine tarbib tohutul hulgal energiat ja vett, sundides otsima tõhusamaid arhitektuure ja jätkusuutlikke andmekeskusi.
Tehisintellekti tulevik ja juhtimine
Edasine tee peitub juurdepääsu demokratiseerimises . Praegu on võimsaimate mudelite koolitamine riistvara (graafikaprotsessorite) kõrge hinna tõttu tsentraliseeritud väheste ettevõtete kätte. On ülioluline, et ülikoolid ja valitsused investeeriksid avalikku taristusse, et vältida tehisintellekti võimu sattumist tehnoloogilise oligopoli kätte.
Võtmeks saavad läbipaistvus ja sõltumatud auditid. Ettevõtte mudeli ohutuse kinnitamisest ei piisa; vajame regulatiivseid raamistikke (nagu ELi tehisintellekti seadus) ja professionaalseid standardeid, mis tagavad, et neid tööriistu kasutatakse ühiskonna paremaks muutmiseks, mitte massijälgimise või väärinfo levitamise hõlbustamiseks.
Tehisintellekti ökosüsteem on nihkunud struktuuri suunas, kus mõned põhimudelid toetavad tuhandeid spetsialiseeritud rakendusi, ühendades massiivse töötlemise võimsuse inimtasemel häälestamise täpsusega. See edasiminek, mis tekitab küll sügavaid eetilisi dilemmasid ja puudutab energiatarbimist, määratleb uuesti inimeste ja masinate vahelise suhte, muutes tehisintellekti üldotstarbeliseks infrastruktuuriks, mis on võimeline samaaegselt mitmes valdkonnas arutlema, looma ja õppima.
