- Umetna inteligenca na robu omrežja preusmeri obdelavo podatkov iz oblaka na končne naprave, da odpravi zakasnitev.
- Lokalno izvajanje generativnih modelov drastično zmanjša obratovalne stroške in odvisnost od zunanjih licenc.
- Uvedba umetne inteligence na robu omrežja zagotavlja delovanje brez povezave in krepi varnost podatkov.
Verjetno ste že slišali za oblak, vendar je trenutni trend ravno nasproten: inteligenco je treba prenašati neposredno tja, kjer se stvari dogajajo. Pri robni umetni inteligenci gre preprosto za implementacijo naprednih algoritmov v naprave na robu omrežja, kjer povezava včasih odpove ali preprosto ne doseže omrežja, kar omogoča opremi avtonomno delovanje.
Govorimo o integraciji teh digitalnih možganov v orodja, ki jih že uporabljamo vsak dan, od preprostega pametnega telefona ali pametne ure do kompleksnih industrijskih senzorjev ali nosljivih zdravstvenih monitorjev. Ideja je, da prenehamo pošiljati vse na oddaljeni strežnik, tako da bo odziv takojšen, skoraj hipen.
Kaj točno pomeni umetna inteligenca na robu?
V bistvu združujemo robno računalništvo s strojnim učenjem, tako da se naloge strojnega učenja izvajajo neposredno na medsebojno povezani strojni opremi. S shranjevanjem in obdelavo informacij ob napravi dosežemo povratne informacije v milisekundah, kar je ključnega pomena v sektorjih, kjer je lahko že sekunda zamude resen problem.
To je še posebej ključnega pomena pri tehnologijah, kot so avtonomni avtomobili ali napredna robotika , kjer se mora vozilo samo odločiti, ali bo takoj zaviralo, ne da bi čakalo na odobritev v oblaku. To je tudi temelj agentnih sistemov umetne inteligence , ki delujejo in se odzivajo v realnem času na podlagi resničnega okolja.
Skok k lokalni generativni umetni inteligenci
Do nedavnega ste morali, če ste želeli uporabiti zmogljiv jezikovni model, uporabiti OpenAI ali Anthropic. Seveda pa so uporabniške pristojbine in licence postale pretirane in pogosto se številke preprosto ne seštevajo. Zato smo priča velikemu prehodu k izvajanju odprtih modelov na lastnih računalnikih.
Z vlaganjem v strojno opremo, ki lahko podpira te sklepe, si lahko podjetja in uporabniki povrnejo naložbo v samo nekaj mesecih , saj odpravijo ponavljajoča se plačila z žetoni. V bistvu gre za prehod od najemanja inteligence k lastništvu mehanizma, ki jo ustvarja.
Konkurenčne prednosti in aplikacije v resničnem svetu
Poleg preprostega prihranka denarja obdelava podatkov pri viru optimizira delovne procese v kompleksnih okoljih, kot so upravljanje dobavne verige ali tovarne . Z zmanjšanjem omrežnega prometa se zakasnitev drastično zmanjša in učinkovitost se poveča.
- Delovanje brez povezave: Za razliko od tradicionalne umetne inteligence lahko robne naprave delujejo brez interneta, zaradi česar so idealne za oddaljena območja.
- Okrepljena varnost: Ker podatki ne potujejo navzven, se zasebnost znatno poveča.
- Gospodarska rast: Pričakuje se, da bo ta trg eksponentno rasel in do leta 2033 dosegel astronomske številke zaradi ... zelo visoka letna stopnja rasti.
Odličen primer integracije umetne inteligence v uporabniško izkušnjo je Copilot, vgrajen v brskalnik Edge. Ni le aplikacija za klepet; lahko hkrati analizira več zavihkov , s čimer odpravlja potrebo po preklapljanju med okni za primerjavo podatkov. V nekaj sekundah lahko povzame vsebino spletnega mesta ali med brskanjem ustvari slike z uporabo Designerja.
Poleg tega Microsoft uvaja funkcije pomnilnika in konteksta , kjer si asistent zapomni vaše nastavitve in navade brskanja, da vam lahko zagotovi veliko bolj prilagojene odgovore. Razvijajo celo »Dejanja«, ki bodo sistemu omogočila samodejno rezervacijo hotela glede na vaše potovalne navade in trenutno lokacijo .
Za poslovna okolja je varnost ključnega pomena. Ko se uporablja službeni račun, se aktivira zaščita poslovnih podatkov (dobro znani zeleni ščit), ki zagotavlja, da se občutljivi podatki ne uporabljajo za učenje globalnih modelov umetne inteligence, s čimer se vse ohrani znotraj najemnika organizacije.
Konvergenca zmogljive strojne opreme in optimiziranih modelov omogoča, da umetna inteligenca iz oddaljene storitve postane intrinzična zmogljivost naših naprav, kar zagotavlja hitrost, prihranke stroškov in veliko bolj robustno zasebnost z odpravo popolne odvisnosti od centralnih strežnikov.
