Ja sekojat līdzi nesenajai ažiotāžai par mākslīgo intelektu, iespējams, esat dzirdējuši par rīkiem, kas, šķiet, spēj paveikt visu, sākot no dzejoļu rakstīšanas līdz sarežģīta koda programmēšanai. Aiz visas šīs maģijas slēpjas galvenais jēdziens: pamatmodeļi . Būtībā tie ir kā automašīnas šasija; izturīga, vispārēja konstrukcija, ko pēc tam var pielāgot par sporta automašīnu, kravas automašīnu vai komunālo pakalpojumu transportlīdzekli atkarībā no tā, kas mums konkrētajā brīdī ir nepieciešams.
Šīs sistēmas tik revolucionāras padara tas, ka mēs vairs neprojektējam mākslīgo intelektu vienam uzdevumam, bet gan radām digitālu gigantu, kas apmācīts ar milzīgu datu apjomu, kuru pēc tam varam "veidot". Šī paradigmas maiņa ir ļāvusi mākslīgajam intelektam attīstīties no kaut kā ļoti stingra par elastīgu rīku, kas apgūst vispārīgus modeļus no pasaules un pēc tam tos piemēro konkrētām problēmām, paātrinot inovācijas tādā tempā, kas, atklāti sakot, atstāj ikvienu bez vārdiem.
Kas īsti ir pamatmodelis?
Vienkārši sakot, mākslīgā intelekta pamatmodelis ir jebkura mākslīgā intelekta sistēma, kas apmācīta ar milzīgu datu apjomu (parasti izmantojot pašuzraudzību) un kas, izmantojot procesu, ko sauc par precizēšanu, var pielāgoties milzīgam lietojumprogrammu klāstam. Tie nav pilnīgi jauni, jo balstās uz dziļo mācīšanos un zināšanu pārnesi, taču nepieredzētais datu un skaitļošanas jaudas apjoms ir novedis pie tādu iespēju parādīšanās, kuras neviens nebija paredzējis.
Ir svarīgi tos nejaukt ar lielajiem valodu modeļiem (LLM) . Lai gan tie bieži tiek lietoti kā sinonīmi, to saistība ir ģints un sugas: visi LLM ir pamatmodeļi, bet ne visi pamatmodeļi ir LLM. Lai gan LLM koncentrējas uz tekstu un kodu, pamatmodeļi var būt multimodāli , apstrādājot attēlus, audio, video vai pat sensoru signālus no robotiem.
Tehniskie pīlāri: transformators un apmācība
Arhitektūra, kas to visu ir padarījusi iespējamu, ir Transformer . Šī sistēma izmanto mehānismu, ko sauc par "pašuzmanību", kas ļauj modelim izprast dažādu secības daļu nozīmi neatkarīgi no to attāluma viena no otras. Tā parasti sastāv no kodētāja un dekodētāja, kas ģenerē vektoru attēlojumus (iegultos elementus), kas uztver valodas vai attēlu pamatā esošo nozīmi.
Radīšanas process parasti tiek sadalīts vairākos posmos:
- Pirms treniņa: Šī ir visdārgākā fāze. Modelis "aprij" internetu, grāmatas un datubāzes, lai apgūtu informācijas vispārējo struktūru. Šeit notiek parametru skaits, tokenu skaits un konteksta logs.
- Precīza regulēšana: Kad modelis ir kļuvis par vispārēju, tas tiek apmācīts ar specifiskiem datiem un cilvēku uzraudzībā kļūst par ekspertu kādā jomā, piemēram, medicīnā vai tieslietās.
- Pielāgošanās uzdevumam: Šis ir pēdējais solis, kurā modelis tiek optimizēts ļoti specifiskai funkcijai, piemēram, judikatūras meklētājprogramma vai tehnisko ziņojumu ģenerators.
Izcili modeļi, kas veidojuši vēsturi
Kopš 2018. gada esam redzējuši virkni modeļu, kas ir satricinājuši lietas. BERT bija viens no pionieriem, kas bija ievērojams ar savu divvirzienu spēju izprast kontekstu. Pēc tam nāca OpenAI GPT saime , kas attīstījās no GPT-1 līdz GPT-4, demonstrējot, ka jo lielāks mērogs, jo vairāk jaunu iespēju, piemēram, mācīšanās bez piepūles.
Taču viņi nav vienīgie. Mums ir Klods no Anthropic , kura versijas, piemēram, Sonnet, Opus un Haiku, tiecas pēc līdzsvara starp intelektu un ātrumu. Savukārt Amazon Nova piedāvā klāstu, kas aptver gan multimodālu izpratni, gan radošu video ģenerēšanu. Nevar aizmirst arī Stable Diffusion , kas attēlu pasaulē ienesa pamatmodeļu jaudu, vai BLOOM , daudzvalodu un sadarbības projektu, kas parāda, ka arī atvērtā pirmkoda projektiem ir sava vieta.
Iespējas un reālās pasaules pielietojumi
Šie modeļi ne tikai raksta e-pastus. To ietekme attiecas uz kritiski svarīgām nozarēm:
- Veselība: Viņi palīdz zāļu atklāšana un medicīnisko attēlu analīze, lai gan tiem ir nepieciešama pilnīga izskaidrojamība, lai izvairītos no fatālām kļūdām.
- Pa labi: Tie atvieglo līgumu pārskatīšanu un garu juridisko aprakstu analīzi, samazinot tiesu iestāžu pieejamības izmaksas.
- Izglītība: Tie ļauj a personalizēta mācīšanās un adaptīvi, lai gan tie rada problēmas saistībā ar plaģiātu un tehnoloģisko plaisu.
- Robotika: Mērķis ir radīt universālus robotus, kas nav jāprogrammē no nulles katram uzdevumam, bet gan jāizmanto bāzes modelis. mijiedarboties ar vidi fiziskā
Tumšā puse: riski, ētika un vide
Ne viss ir tik gludi un skaisti. Homogenizācija rada nopietnu risku: ja visi izmanto vienu un to pašu bāzes modeli, jebkura iedzimta neobjektivitāte vai kļūda izplatīsies visās atvasinātajās lietojumprogrammās, radot "algoritmisku monokultūru". Turklāt pastāv halucinācijas — brīži, kad mākslīgais intelekts safabricē datus ar pārsteidzošu pārliecību, radot nepieciešamību pēc pastāvīgas cilvēka pārbaudes.
No ētikas un juridiskā viedokļa notiek atklāta cīņa par intelektuālo īpašumu , jo daudzi modeļi tiek apmācīti ar datiem bez to veidotāju skaidras piekrišanas. Tam klāt nāk arī ietekme uz vidi; šo gigantu apmācība patērē milzīgu enerģijas un ūdens daudzumu, piespiežot meklēt efektīvākas arhitektūras un ilgtspējīgus datu centrus.
Mākslīgā intelekta nākotne un pārvaldība
Nākotnes ceļš ir piekļuves demokratizācija . Pašlaik jaudīgāko modeļu apmācība ir centralizēta dažos uzņēmumos aparatūras (grafisko procesoru) izmaksu dēļ. Ir svarīgi, lai universitātes un valdības ieguldītu publiskajā infrastruktūrā, lai novērstu mākslīgā intelekta jaudas nonākšanu tehnoloģiskā oligopola rokās.
Svarīgākais būs pārredzamība un neatkarīgas revīzijas. Nepietiek ar to, ka uzņēmums vienkārši apgalvo, ka tā modelis ir drošs; mums ir nepieciešami normatīvie akti (piemēram, ES Mākslīgā intelekta likums) un profesionālie standarti, kas nodrošina, ka šie rīki tiek izmantoti sabiedrības uzlabošanai, nevis masveida novērošanas vai dezinformācijas veicināšanai.
Mākslīgā intelekta ekosistēma ir mainījusies uz struktūru, kurā daži pamatmodeļi atbalsta tūkstošiem specializētu lietojumprogrammu, apvienojot masveida apstrādes jaudu ar cilvēka līmeņa regulēšanas precizitāti. Šis progress, vienlaikus radot dziļas ētiskas dilemmas un attiecībā uz enerģijas patēriņu, no jauna definē attiecības starp cilvēkiem un mašīnām, pārveidojot mākslīgo intelektu par vispārējas nozīmes infrastruktūru, kas spēj vienlaikus spriest, radīt un mācīties vairākās jomās.
