- Pagrindinių modelių apibrėžimas kaip apmokytos sistemos, kurios yra pagrindas kelioms konkrečioms užduotims.
- Transformatoriaus architektūros ir savarankiškai prižiūrimo išankstinio mokymo bei tikslinimo proceso analizė.
- Masinio diegimo socialinio poveikio, etinės rizikos ir skaičiavimo iššūkių vertinimas.
Jei sekate pastaruoju metu kylantį ažiotažą apie dirbtinį intelektą, tikriausiai girdėjote apie įrankius, kurie, regis, gali atlikti viską – nuo eilėraščių rašymo iki sudėtingo kodo programavimo. Už visos šios magijos slypi pagrindinė koncepcija: pamatiniai modeliaiIš esmės jie yra kaip automobilio važiuoklė; tvirta, bendroji konstrukcija, kurią vėliau galima pritaikyti sportiniam automobiliui, sunkvežimiui arba krovininei transporto priemonei, priklausomai nuo to, ko mums reikia bet kuriuo metu.
Šias sistemas tokias perversmines daro tai, kad mes nebeprojektuojame dirbtinio intelekto vienai užduočiai, o kuriame skaitmeninis milžinas entrenado con cantidades ingentes de datos que luego podemos «moldear». Este cambio de paradigma ha permitido que la IA pase de ser algo muy rígido a convertirse en una herramienta flexible que aprende patrones generales del mundo para luego aplicarlos a problemas concretos, lo que ha acelerado la innovación a un ritmo que, sinceramente, deja fría a cualquiera.
Kas tiksliai yra pamatinis modelis?
Paprastai tariant, pagrindinis modelis yra bet kokia dirbtinio intelekto sistema, apmokyta naudojant didžiulis duomenų kiekis (dažniausiai per savikontrolę) ir gali prisitaikyti prie daugybės pritaikymų, taikant procesą, vadinamą tiksliuoju derinimu. Jie nėra visiškai nauji, nes remiasi giliuoju mokymusi ir žinių perdavimu, tačiau precedento neturintis mastas Duomenys ir skaičiavimai lėmė tokių galimybių atsiradimą, kurių niekas nenumatė.
Svarbu jų nepainioti su LLM (didelių kalbų modeliai)Nors dažnai vartojami sinonimai, santykis yra genties ir rūšies: visi teisės modeliai (LLM) yra pamatiniai modeliai, bet ne visi pamatiniai modeliai yra LLM. Nors LLM daugiausia dėmesio skiria tekstui ir kodui, pamatiniai modeliai gali būti multimodalinisapdorojant robotų siunčiamus vaizdus, garso, vaizdo įrašus ar net jutimo signalus.
Techniniai ramsčiai: transformatorius ir mokymai
Architektūra, kuri visa tai leido įgyvendinti, yra Transformatorius. Este sistema utiliza un mecanismo llamado «autoatención», que permite al modelo entender la importancia de diferentes partes de una secuencia, sin importar que estén lejos unas de otras. Consta habitualmente de un codificador y un decodificador que generan vektorių reprezentacijos (įterpimai), kurie perteikia giliąją kalbos ar vaizdų prasmę.
Kūrimo procesas paprastai skirstomas į kelis etapus:
- Prieš treniruotę: Es la fase más costosa. El modelo «devora» internet, libros y bases de datos para aprender la estructura general de la información. Aquí es donde se definen el parametrų skaičius, žetonų skaičius ir kontekstinis langas.
- Tikslus derinimas: Kai modelis tampa universalus, jis apmokomas naudojant konkrečius duomenis ir prižiūrimas žmonių, kad taptų tam tikros srities, pavyzdžiui, medicinos ar teisės, ekspertu.
- Prisitaikymas prie užduoties: Tai paskutinis žingsnis, kurio metu modelis optimizuojamas labai konkrečiai funkcijai, pavyzdžiui, sukurti teismų praktikos paieškos sistema arba techninių ataskaitų generatorius.
Išskirtiniai modeliai, kurie formavo istoriją
Nuo 2018 m. matėme daugybę modelių, kurie ateina ir išeina, viską supurtydami. ETRI Jis buvo vienas iš pradininkų, pasižymintis gebėjimu suprasti kontekstą abiem kryptimis. Tada atsirado šeima OpenAI GPT, išsivystęs iš GPT-1 į GPT-4, parodydamas, kad kuo didesnis mastas, tuo daugiau atsiranda galimybių, tokių kaip mokymasis be jokių veiksmų.
Bet jie nėra vieni. Mes turime Claude'as de Antropicassu tokiomis versijomis kaip „Sonetas“, „Opusas“ ir „Haiku“, kurios siekia pusiausvyros tarp intelekto ir greičio. Kita vertus, Amazon Nova Tai siūlo platų spektrą – nuo multimodalinio supratimo iki kūrybinio vaizdo įrašų kūrimo. Negalime pamiršti Stabili difuzija, kuris atnešė pamatinių modelių galią į vaizdų pasaulį, arba BLOOM, daugiakalbė ir bendradarbiavimu paremta iniciatyva, rodanti, kad atvirojo kodo programinė įranga taip pat turi savo vietą.
Galimybės ir praktinis pritaikymas
Šie modeliai ne tik rašo el. laiškus. Jų poveikis apima ir svarbiausius sektorius:
- Sveikata: Jie padeda narkotikų atradimas ir medicininių vaizdų analizė, nors joms reikalingas visiškas paaiškinamumas, siekiant išvengti mirtinų klaidų.
- Teisė: Jie palengvina sutarčių peržiūrą ir ilgų teisinių pasakojimų analizę, sumažindami teisingumo gavimo išlaidas.
- Išsilavinimas: Jie leidžia a individualizuotas mokymasis ir prisitaikantys, nors kelia iššūkių dėl plagijavimo ir technologinio atotrūkio.
- Robotika: Tikslas – sukurti universalius robotus, kurių nereikėtų programuoti nuo nulio kiekvienai užduočiai, o vietoj to būtų naudojamas bazinis modelis. sąveikauti su aplinka fizinis.
Tamsioji pusė: rizika, etika ir aplinka
Ne viskas yra saulėta ir rožėmis klota. Homogenizacija kelia rimtą pavojų: jei visi naudos tą patį pagrindinį modelį, bet kuris šališkumas arba vidinė klaida se propagará por todas las aplicaciones derivadas, creando un «monocultivo algorítmico». Además, están las alucinaciones, esos momentos en los que la IA inventa datos con una seguridad pasmosa, lo que obliga a una nuolatinis žmogaus patikrinimas.
Etikos ir teisiniu požiūriu vyksta atvira kova dėl intelektinė nuosavybėTaip yra todėl, kad daugelis modelių yra apmokomi naudojant duomenis be aiškaus jų kūrėjų sutikimo. Prie to prisideda ir aplinkosauginė žala; šių gigantų apmokymas sunaudoja daug... milžiniškas energijos kiekis ir vanduo, todėl reikia ieškoti efektyvesnių architektūrų ir tvarių duomenų centrų.
Dirbtinio intelekto ateitis ir valdymas
Kelias į priekį eina per prieigos demokratizavimasŠiuo metu galingiausių dirbtinio intelekto modelių mokymas yra centralizuotas keliose įmonėse dėl techninės įrangos (grafinių procesorių) kainos. Labai svarbu, kad universitetai ir vyriausybės investuotų į viešąją infrastruktūrą, kad dirbtinio intelekto galia nepatektų į kelių asmenų rankas. technologinė oligopolija.
Svarbiausia bus skaidrumas ir nepriklausomi auditai. Nepakanka, kad įmonė teigtų, jog jos modelis yra saugus; mums reikia reguliavimo sistemas (pvz., ES Dirbtinio intelekto įstatymas) ir profesinius standartus, kurie užtikrina, kad šios priemonės būtų naudojamos visuomenės gerovei gerinti, o ne masiniam stebėjimui ar dezinformacijai stiprinti.
Dirbtinio intelekto ekosistema pasislinko link struktūros, kurioje keli pagrindiniai modeliai palaiko tūkstančius specializuotų programų, derindami masinio apdorojimo galią su žmogaus lygio derinimo tikslumu. Ši pažanga, nors ir kelia didelių etinių dilemų bei energijos suvartojimo problemų, iš naujo apibrėžia žmonių ir mašinų santykį, paversdama dirbtinį intelektą bendrosios paskirties infrastruktūra, gebančia vienu metu samprotauti, kurti ir mokytis keliose srityse.
