- Pagrindinių modelių apibrėžimas kaip apmokytos sistemos, kurios yra pagrindas kelioms konkrečioms užduotims.
- Transformatoriaus architektūros ir savarankiškai prižiūrimo išankstinio mokymo bei tikslinimo proceso analizė.
- Masinio diegimo socialinio poveikio, etinės rizikos ir skaičiavimo iššūkių vertinimas.
Jei sekate pastaruoju metu kylantį ažiotažą apie dirbtinį intelektą, tikriausiai girdėjote apie įrankius, kurie, regis, gali atlikti viską – nuo eilėraščių rašymo iki sudėtingo kodo programavimo. Už visos šios magijos slypi pagrindinė koncepcija: pamatiniai modeliai . Iš esmės jie yra tarsi automobilio važiuoklė – tvirta, bendra konstrukcija, kurią vėliau galima pritaikyti kaip sportinį automobilį, sunkvežimį ar visureigį, priklausomai nuo to, ko mums reikia bet kuriuo metu.
Šias sistemas tokias perversmines daro tai, kad mes nebeprojektuojame dirbtinio intelekto vienai užduočiai, o kuriame skaitmeninį milžiną, apmokytą dirbti su didžiuliais duomenų kiekiais, kuriuos vėliau galime „formuoti“. Šis paradigmos pokytis leido dirbtiniam intelektui išsivystyti iš labai griežto į lankstų įrankį, kuris mokosi bendrų pasaulio modelių ir juos taiko konkrečioms problemoms spręsti, spartindamas inovacijas tokiu tempu, kad, tiesą sakant, visi lieka be žado.
Kas tiksliai yra pamatinis modelis?

Paprastai tariant, pamatinis dirbtinio intelekto modelis yra bet kokia dirbtinio intelekto sistema, apmokyta dirbtinio intelekto (DI) sistemoje, apmokytoje dirbtinio intelekto (DI) sistemoje, kuri, taikant procesą, vadinamą tikslinimu, gali prisitaikyti prie daugybės skirtingų programų. Jie nėra visiškai nauji, nes remiasi giliuoju mokymusi ir žinių perdavimu, tačiau precedento neturintis duomenų ir skaičiavimo galios mastas lėmė tokių galimybių atsiradimą, kurių niekas nesitikėjo.
Labai svarbu jų nepainioti su didžiųjų kalbų modeliais (LLM) . Nors jie dažnai vartojami kaip sinonimai, jų santykis yra genties ir rūšies: visi LLM yra pamatiniai modeliai, bet ne visi pamatiniai modeliai yra LLM. Nors LLM daugiausia dėmesio skiria tekstui ir kodui, pamatiniai modeliai gali būti multimodaliniai , apdorojantys vaizdus, garsą, vaizdo įrašus ar net robotų skleidžiamus jutiminius signalus.
Techniniai ramsčiai: transformatorius ir mokymai

Visa tai įgalinusi architektūra yra „ Transformer“ . Ši sistema naudoja mechanizmą, vadinamą „savęs dėmesiu“, kuris leidžia modeliui suprasti skirtingų sekos dalių svarbą, neatsižvelgiant į jų atstumą viena nuo kitos. Paprastai ją sudaro kodavimo įrenginys ir dekodavimo įrenginys, kurie generuoja vektorinius atvaizdavimus (įterpimus), fiksuojančius pagrindinę kalbos ar vaizdų reikšmę.
Kūrimo procesas paprastai skirstomas į kelis etapus:
- Prieš treniruotę: Tai brangiausias etapas. Modelis „praryja“ internetą, knygas ir duomenų bazes, kad išmoktų bendrą informacijos struktūrą. Būtent čia parametrų skaičius, žetonų skaičius ir kontekstinis langas.
- Tikslus derinimas: Kai modelis tampa universalus, jis apmokomas naudojant konkrečius duomenis ir prižiūrimas žmonių, kad taptų tam tikros srities, pavyzdžiui, medicinos ar teisės, ekspertu.
- Prisitaikymas prie užduoties: Tai paskutinis žingsnis, kurio metu modelis optimizuojamas labai konkrečiai funkcijai, pavyzdžiui, sukurti teismų praktikos paieškos sistema arba techninių ataskaitų generatorius.
Išskirtiniai modeliai, kurie formavo istoriją

Nuo 2018 m. matėme daugybę modelių, kurie viską supurtė. BERT buvo vienas iš pradininkų, pasižymintis dvipusiu gebėjimu suprasti kontekstą. Vėliau atsirado „OpenAI“ GPT šeima , išsivysčiusi nuo GPT-1 iki GPT-4, parodydama, kad kuo didesnis mastas, tuo daugiau atsiranda galimybių, tokių kaip mokymasis be automatinių bandymų.
Tačiau jie nėra vieni. Turime Claude'ą iš „Anthropic“ , kurio versijos tokios kaip „Sonnet“, „Opus“ ir „Haiku“ siekia pusiausvyros tarp intelekto ir greičio. Kita vertus, „Amazon Nova“ siūlo platų spektrą – nuo multimodalinio supratimo iki kūrybinio vaizdo įrašų kūrimo. Negalime pamiršti „Stable Diffusion“ , kuri atnešė pamatinių modelių galią į vaizdų pasaulį, arba „BLOOM“ – daugiakalbės ir bendradarbiaujančios pastangos, parodančios, kad atvirojo kodo programinė įranga taip pat turi savo vietą.
Galimybės ir praktinis pritaikymas
Šie modeliai ne tik rašo el. laiškus. Jų poveikis apima ir svarbiausius sektorius:
- Sveikata: Jie padeda narkotikų atradimas ir medicininių vaizdų analizė, nors joms reikalingas visiškas paaiškinamumas, siekiant išvengti mirtinų klaidų.
- Teisė: Jie palengvina sutarčių peržiūrą ir ilgų teisinių pasakojimų analizę, sumažindami teisingumo gavimo išlaidas.
- Išsilavinimas: Jie leidžia a individualizuotas mokymasis ir prisitaikantys, nors kelia iššūkių dėl plagijavimo ir technologinio atotrūkio.
- Robotika: Tikslas – sukurti universalius robotus, kurių nereikėtų programuoti nuo nulio kiekvienai užduočiai, o vietoj to būtų naudojamas bazinis modelis. sąveikauti su aplinka fizinis.
Tamsioji pusė: rizika, etika ir aplinka
Ne viskas yra rožėmis klota. Homogenizacija kelia rimtą pavojų: jei visi naudos tą patį bazinį modelį, bet koks įgimtas šališkumas ar klaida išplis po visas išvestines programas, sukurdami „algoritminę monokultūrą“. Be to, yra haliucinacijų – akimirkų, kai dirbtinis intelektas sukuria duomenis su stulbinančiu tikslumu, todėl reikia nuolatinio žmogaus patvirtinimo.
Etikos ir teisiniu požiūriu vyksta atvira kova dėl intelektinės nuosavybės , nes daugelis modelių yra apmokyti naudojant duomenis be aiškaus jų kūrėjų sutikimo. Prie to prisideda ir aplinkosauginė žala; šių gigantų mokymas sunaudoja milžiniškus energijos ir vandens kiekius, todėl reikia ieškoti efektyvesnių architektūrų ir tvaresnių duomenų centrų.
Dirbtinio intelekto ateitis ir valdymas
Kelias į priekį slypi prieigos demokratizavime . Šiuo metu galingiausių modelių mokymas yra centralizuotas keliose įmonėse dėl techninės įrangos (grafinių procesorių) kainos. Labai svarbu, kad universitetai ir vyriausybės investuotų į viešąją infrastruktūrą, kad dirbtinio intelekto galia nepatektų į technologinės oligopolijos rankas.
Svarbiausia bus skaidrumas ir nepriklausomi auditai. Nepakanka, kad įmonė tiesiog teigtų, jog jos modelis yra saugus; mums reikia reguliavimo sistemų (pvz., ES Dirbtinio intelekto įstatymo) ir profesinių standartų, kurie užtikrintų, kad šios priemonės būtų naudojamos visuomenės gerovei gerinti, o ne masiniam stebėjimui ar dezinformacijai skatinti.
Dirbtinio intelekto ekosistema pasislinko link struktūros, kurioje keli pagrindiniai modeliai palaiko tūkstančius specializuotų programų, derindami masinio apdorojimo galią su žmogaus lygio derinimo tikslumu. Ši pažanga, nors ir kelia didelių etinių dilemų bei energijos suvartojimo problemų, iš naujo apibrėžia žmonių ir mašinų santykį, paversdama dirbtinį intelektą bendrosios paskirties infrastruktūra, gebančia vienu metu samprotauti, kurti ir mokytis keliose srityse.



