Jos olet seurannut viimeaikaista tekoälyyn liittyvää kohua, olet luultavasti kuullut työkaluista, jotka näyttävät tekevän kaikkea runojen kirjoittamisesta monimutkaisen koodin ohjelmointiin. Kaiken tämän taian takana piilee keskeinen käsite: perusmallit . Pohjimmiltaan ne ovat kuin auton alusta; vankka, yleinen rakenne, jota voidaan sitten muokata urheiluautoksi, kuorma-autoksi tai hyötyajoneuvoksi riippuen siitä, mitä tarvitsemme kulloinkin.
Näiden järjestelmien tekee niin mullistaviksi se, ettemme enää suunnittele tekoälyä yhtä tehtävää varten, vaan luomme digitaalisen jättiläisen, jota koulutetaan valtavilla tietomäärillä, joita voimme sitten "muovata". Tämä paradigman muutos on mahdollistanut tekoälyn kehittymisen hyvin jäykästä joustavaksi työkaluksi, joka oppii yleisiä malleja maailmasta ja soveltaa niitä sitten tiettyihin ongelmiin, kiihdyttäen innovaatioita vauhdilla, joka rehellisesti sanottuna jättää kaikki sanattomiksi.
Mikä tarkalleen ottaen on perusmalli?
Yksinkertaisesti sanottuna perustavanlaatuinen tekoälymalli on mikä tahansa tekoälyjärjestelmä, jota on koulutettu massiivisilla tietomäärillä (yleensä itsevalvonnan avulla) ja joka voi sopeutua hienosäätöprosessin avulla valtavaan määrään sovelluksia. Ne eivät ole täysin uusia, sillä ne hyödyntävät syväoppimista ja tiedonsiirtoa, mutta ennennäkemätön datan ja laskentatehon laajuus on johtanut sellaisten ominaisuuksien syntymiseen, joita kukaan ei ollut osannut odottaa.
On erittäin tärkeää olla sekoittamatta niitä laajoihin kielimalleihin (LLM) . Vaikka niitä käytetään usein synonyymeinä, niiden suhde on suvun ja lajin välinen: kaikki LLM:t ovat perustuomalleja, mutta eivät kaikki perustuomallit ole LLM:ejä. Vaikka LLM:t keskittyvät tekstiin ja koodiin, perustuomallit voivat olla multimodaalisia ja käsitellä kuvia, ääntä, videota tai jopa robottien aistisignaaleja.
Tekniset pilarit: Muuntaja ja koulutus
Kaiken tämän mahdollistanut arkkitehtuuri on Transformer . Tämä järjestelmä käyttää "itsehuomioksi" kutsuttua mekanismia, jonka avulla malli ymmärtää sekvenssin eri osien tärkeyden riippumatta niiden etäisyydestä toisistaan. Se koostuu tyypillisesti kooderista ja dekooderista, jotka luovat vektoriesityksiä (upotuksia), jotka tallentavat kielen tai kuvien taustalla olevan merkityksen.
Luomisprosessi on yleensä jaettu useisiin vaiheisiin:
- Ennen harjoittelua: Tämä on kallein vaihe. Malli "ahmii" internetin, kirjat ja tietokannat oppiakseen tiedon yleisen rakenteen. Tässä vaiheessa parametrien lukumäärä, tokenien lukumäärä ja konteksti-ikkuna.
- Hienosäätö: Kun malli on generalistinen, sitä koulutetaan tietyillä tiedoilla ja ihmisten valvonnassa siitä tulee asiantuntija jollakin alueella, kuten lääketieteessä tai laissa.
- Sopeutuminen tehtävään: Tämä on viimeinen vaihe, jossa malli optimoidaan tiettyä toimintoa varten, kuten esimerkiksi oikeuskäytännön hakukone tai tekninen raporttigeneraattori.
Erinomaisia malleja, jotka ovat muokanneet historiaa
Vuodesta 2018 lähtien olemme nähneet sarjan malleja, jotka ovat mullistaneet asioita. BERT oli yksi edelläkävijöistä, ja se oli tunnettu kaksisuuntaisesta kyvystään ymmärtää kontekstia. Sitten tuli OpenAI:n GPT- perhe , joka kehittyi GPT-1:stä GPT-4:ään ja osoitti, että mitä suurempi mittakaava, sitä enemmän kehittyy ominaisuuksia, kuten nollapisteoppiminen.
Mutta he eivät ole ainoita. Meillä on Claude Anthropicista , jonka versiot kuten Sonnet, Opus ja Haiku pyrkivät tasapainoon älykkyyden ja nopeuden välillä. Amazon Nova puolestaan tarjoaa valikoiman, joka ulottuu multimodaalisesta ymmärryksestä luovaan videoiden tuottamiseen. Emme voi unohtaa Stable Diffusionia , joka toi perustutkimusten voiman kuvien maailmaan, tai BLOOMia , monikielistä ja yhteistyöhön perustuvaa hanketta, joka osoittaa, että myös avoimella lähdekoodilla on paikkansa.
Ominaisuudet ja tosielämän sovellukset
Nämä mallit eivät ainoastaan kirjoita sähköposteja. Niiden vaikutus ulottuu kriittisille sektoreille:
- Terveys: Ne auttavat huumeiden löytö ja lääketieteellisten kuvien analysointi, vaikkakin ne edellyttävät täyttä selitettävyyttä kohtalokkaiden virheiden välttämiseksi.
- Oikea: Ne helpottavat sopimusten tarkastelua ja pitkien oikeudellisten selostusten analysointia, mikä vähentää oikeussuojan saannin kustannuksia.
- koulutus: Ne sallivat a henkilökohtainen oppiminen ja mukautuvia, vaikka ne asettavatkin haasteita plagioinnin ja teknologisen kuilun suhteen.
- Robotiikka: Tavoitteena on luoda yleiskäyttöisiä robotteja, joita ei tarvitse ohjelmoida alusta alkaen jokaista tehtävää varten, vaan ne käyttävät perusmallia. olla vuorovaikutuksessa ympäristön kanssa fyysinen.
Pimeä puoli: Riskit, etiikka ja ympäristö
Kaikki ei ole pelkkää auringonpaistetta ja ruusuja. Homogenisaatio aiheuttaa vakavan riskin: jos kaikki käyttävät samaa perusmallia, kaikki luontaiset vinoumat tai virheet leviävät kaikkiin johdettuihin sovelluksiin ja luovat "algoritmisen monokulttuurin". Lisäksi on olemassa hallusinaatioita – hetkiä, jolloin tekoäly väärentää dataa hämmästyttävällä varmuudella, mikä edellyttää jatkuvaa ihmisen tekemää tarkistusta.
Eettisestä ja oikeudellisesta näkökulmasta immateriaalioikeuksista käydään avointa taistelua , koska monia malleja koulutetaan datalla ilman niiden luojien nimenomaista suostumusta. Tähän lisätään ympäristövaikutukset; näiden jättiläisten kouluttaminen kuluttaa valtavia määriä energiaa ja vettä, mikä pakottaa etsimään tehokkaampia arkkitehtuureja ja kestäviä datakeskuksia.
Tekoälyn tulevaisuus ja hallinto
Tie eteenpäin on demokratisoimalla käyttöoikeuksia . Tällä hetkellä tehokkaimpien mallien kouluttaminen on keskitetty muutamiin yrityksiin laitteiston (grafiikkasuorittimien) kustannusten vuoksi. On elintärkeää, että yliopistot ja hallitukset investoivat julkiseen infrastruktuuriin estääkseen tekoälyn voiman joutumisen teknologisen oligopolin käsiin.
Avainkysymys on läpinäkyvyys ja riippumattomat tarkastukset. Yrityksen pelkkä väittäminen mallinsa turvalliseksi ei riitä; tarvitsemme sääntelykehyksiä (kuten EU:n tekoälylakia) ja ammatillisia standardeja, jotka varmistavat, että näitä työkaluja käytetään yhteiskunnan parantamiseen, ei massavalvonnan tai disinformaation helpottamiseen.
Tekoälyekosysteemi on siirtynyt kohti rakennetta, jossa muutamat ydinmallit tukevat tuhansia erikoistuneita sovelluksia yhdistäen massiivisen prosessoinnin tehon ihmistason virityksen tarkkuuteen. Tämä edistysaskel, herättäen syvällisiä eettisiä ongelmia ja huolestuttaessa energiankulutusta, määrittelee uudelleen ihmisten ja koneiden välisen suhteen muuttamalla tekoälyn yleiskäyttöiseksi infrastruktuuriksi, joka kykenee päättelemään, luomaan ja oppimaan samanaikaisesti useilla eri aloilla.
