- Inililipat ng AI sa gilid ang pagproseso ng data mula sa cloud patungo sa mga end device upang maalis ang latency.
- Ang pagpapatakbo ng mga generative model nang lokal ay lubhang nakakabawas sa mga gastos sa pagpapatakbo at mga dependency sa mga panlabas na lisensya.
- Tinitiyak ng pag-deploy ng artificial intelligence sa edge ang kakayahang magamit nang offline at pinapalakas ang seguridad ng data.
Malamang ay narinig mo na ang tungkol sa cloud, ngunit ang kasalukuyang kalakaran ay kabaligtaran: direktang pagdadala ng impormasyon sa kung saan nangyayari ang mga bagay-bagay. Ang Edge AI ay tungkol lamang sa pagpapatupad ng mga advanced na algorithm sa mga device sa gilid ng network, kung saan ang koneksyon ay minsan nabibigo o hindi nakakarating, na nagpapahintulot sa kagamitan na gumana nang awtomatiko.
Pinag-uusapan natin ang pagsasama ng digital na utak na ito sa mga kagamitang ginagamit na natin araw-araw, mula sa isang simpleng smartphone o smartwatch hanggang sa mga kumplikadong industrial sensor o mga naisusuot na health monitor. Ang ideya ay itigil ang pagpapadala ng lahat ng bagay sa isang malayong server upang ang tugon ay agaran, halos agaran.
Ano nga ba ang eksaktong kahulugan ng AI at the edge?
Sa esensya, pinagsasama namin ang edge computing at machine learning upang ang mga gawain sa machine learning ay direktang maisagawa sa magkakaugnay na hardware. Sa pamamagitan ng pag-iimbak at pagproseso ng impormasyon sa tabi ng device, nakakamit namin ang feedback sa loob ng milliseconds, na mahalaga sa mga sektor kung saan kahit isang segundo ng pagkaantala ay maaaring maging isang malubhang problema.
Ito ay lalong mahalaga sa mga teknolohiyang tulad ng mga autonomous na sasakyan o mga advanced na robotics , kung saan ang sasakyan ay kailangang magdesisyon kung magpreno agad nang hindi naghihintay ng pag-apruba ng cloud. Ito rin ang pundasyon ng mga agentic AI system , na kumikilos at tumutugon sa totoong oras batay sa kapaligiran sa totoong mundo.
Ang paglukso patungo sa lokal na Generative AI
Hanggang kamakailan lamang, kung gusto mong gumamit ng isang makapangyarihang modelo ng wika, kailangan mong dumaan sa OpenAI o Anthropic. Ngunit siyempre, ang mga bayarin sa paggamit at mga lisensya ay naging napakataas, at kadalasan ay hindi nagkakatugma ang mga numero. Kaya naman nakakakita tayo ng napakalaking pagbabago patungo sa pagpapatakbo ng mga bukas na modelo sa ating sariling mga computer.
Sa pamamagitan ng pamumuhunan sa hardware na may kakayahang suportahan ang mga hinuha na ito, maaaring mabawi ng mga kumpanya at gumagamit ang kanilang puhunan sa loob lamang ng ilang buwan , dahil inaalis nila ang mga paulit-ulit na pagbabayad ng token. Ito ay mahalagang tungkol sa paglipat mula sa pagrenta ng intelligence patungo sa pagmamay-ari ng engine na bumubuo nito.
Mga kalamangan sa kompetisyon at mga aplikasyon sa totoong mundo
Higit pa sa simpleng pagtitipid ng pera, ang pagproseso ng data mula sa pinagmulan nito ay nag-o-optimize ng mga daloy ng trabaho sa mga kumplikadong kapaligiran, tulad ng pamamahala ng supply chain o mga pabrika . Sa pamamagitan ng pagbabawas ng trapiko sa network, ang latency ay lubhang bumababa at ang kahusayan ay tumataas.
- Offline na operasyon: Hindi tulad ng tradisyonal na AI, ang mga edge device ay maaaring gumana nang walang internet, kaya perpekto ang mga ito para sa mga liblib na lugar.
- Pinahusay na seguridad: Dahil hindi napupunta sa labas ang data, malaki ang naitutulong ng privacy.
- Paglago ng ekonomiya: Inaasahang lalago nang husto ang merkado na ito, na aabot sa mga astronomikal na bilang pagsapit ng 2033 salamat sa isang napakataas na taunang antas ng paglago.
Isang magandang halimbawa kung paano isinasama ang AI sa karanasan ng gumagamit ay ang Copilot, na nakapaloob sa Edge browser. Hindi lamang ito isang chat application; maaari nitong suriin ang maraming tab nang sabay-sabay , na nag-aalis ng pangangailangang lumipat sa pagitan ng mga window upang ihambing ang data. Maaari nitong ibuod ang nilalaman ng website sa loob ng ilang segundo o bumuo ng mga imahe gamit ang Designer habang nagba-browse.
Bukod pa rito, ipinapatupad ng Microsoft ang mga feature na memory at context , kung saan natatandaan ng assistant ang iyong mga kagustuhan at gawi sa pag-browse upang makapagbigay ng mas personalized na mga tugon. Bumubuo pa nga sila ng "Mga Aksyon," na magbibigay-daan sa system na awtomatikong mag-book ng hotel batay sa iyong mga gawi sa paglalakbay at kasalukuyang lokasyon .
Para sa mga korporasyon, ang seguridad ay mahalaga. Kapag ginagamit ang isang work account, ang proteksyon ng data ng negosyo (ang kilalang berdeng kalasag) ay naa-activate, na tinitiyak na ang sensitibong impormasyon ay hindi ginagamit upang sanayin ang mga pandaigdigang modelo ng AI, na pinapanatili ang lahat sa loob ng tenant ng organisasyon.
Ang kombinasyon ng makapangyarihang hardware at mga na-optimize na modelo ay nagpapahintulot sa artificial intelligence na lumipat mula sa pagiging isang remote service patungo sa pagiging isang intrinsic na kakayahan ng ating mga device, na ginagarantiyahan ang bilis, pagtitipid sa gastos, at mas matatag na privacy sa pamamagitan ng pag-aalis ng ganap na pagdepende sa mga central server.
