- Njësitë NPU në Windows shkarkojnë detyrat e inteligjencës artificiale nga CPU dhe GPU, duke përmirësuar performancën, jetëgjatësinë e baterisë dhe privatësinë duke ekzekutuar modele direkt në pajisje.
- Kompjuterët Copilot+ që përdorin Windows 11 kërkojnë më shumë se 40 TOPS në NPU dhe përdorin Windows ML dhe ONNX Runtime për të shfrytëzuar automatikisht CPU-në, GPU-në dhe NPU-në.
- Intel, AMD dhe Qualcomm po integrojnë NPU-të me performancë të lartë në SoC-të e tyre, duke mundësuar veçori të përparuara të IA-së për detyrat e zyrës, kreativitetin, sigurinë dhe përdorimin profesional.
- Mjete të tilla si Task Manager, WPR, WPA dhe GPUView ju lejojnë të matni përdorimin aktual të NPU-së dhe të optimizoni modelet dhe aplikacionet për të përfituar sa më shumë nga hardueri.
Ardhja e NPU-ve në Windows ka ndryshuar plotësisht mënyrën se si e përdorim inteligjencën artificiale në PC. Ajo që më parë mbështetej pothuajse ekskluzivisht në cloud, tani po fillon të funksionojë direkt në laptopët, desktopët dhe mini PC-të tanë, me përmirësime të mëdha në shpejtësi, jetëgjatësi të baterisë dhe privatësi. Windows 11, veçanërisht me pajisjet e reja Copilot+ dhe procesorët më të fundit nga Intel, AMD dhe Qualcomm, është në zemër të këtij revolucioni.
Nëse po mendoni të përmirësoni kompjuterin tuaj në muajt në vijim, është thelbësore të kuptoni se çfarë është një NPU, pse Microsoft e kërkon atë për shumë veçori të përparuara të IA-së në Windows 11 , rolin e saj në PC-të Copilot+, cilat modele procesorësh e përfshijnë atë dhe cilat aplikacione të botës reale tashmë po e shfrytëzojnë këtë çip të ri. Le ta hedhim një vështrim më të afërt, pa u zgjatur shumë, në mënyrë që të merrni një vendim të informuar nëse ia vlen përmirësimi.
Çfarë është saktësisht një NPU dhe pse të gjithë po flasin për të tani?
Kur flasim për një NPU (Njësia e Përpunimit Neural) në një kompjuter modern, i referohemi një procesori të specializuar në ekzekutimin e operacioneve matematikore të rrjeteve nervore dhe algoritmeve të tjera të të mësuarit automatik. Nuk ka për qëllim të zëvendësojë CPU-në ose GPU-në, por përkundrazi t'i plotësojë ato duke trajtuar gjithçka që lidhet me IA-në.
Ndryshe nga njësia qendrore e përpunimit (CPU), e cila është projektuar për të ekzekutuar udhëzime logjike në mënyrë sekuenciale, dhe karta grafike, e cila përqendrohet në renderimin masiv të pikselëve, NPU është projektuar që nga themeli për të shumëzuar dhe grumbulluar matrica numrash me shpejtësi të pabesueshme dhe me konsum shumë të ulët të energjisë . Kjo është pikërisht baza e mënyrës se si "mendojnë" modelet e IA-së, nga njohja e fytyrës deri te gjenerimi i imazheve.
Në praktikë, mund të themi se NPU-të bëhen motori specifik i të gjitha funksioneve inteligjente të sistemit dhe aplikacioneve, nga turbullimi i sfondit në një video-thirrje deri te transkriptimi në kohë reale, duke përfshirë asistentë si Copilot ose filtra të avancuar të redaktimit të videos.
Një avantazh kyç është se inteligjenca artificiale mund të funksionojë direkt në pajisje pa pasur nevojë të dërgojë të dhëna në servera të largët. Kjo përmirëson privatësinë, zvogëlon vonesën dhe shkarkon punën nga CPU dhe GPU , duke i liruar ato për detyra të tjera.
Për më tepër, shumë prodhues po i projektojnë këto njësi për të punuar me formate me precizion më të ulët si INT8 në vend të FP32. Meqenëse nuk kërkon precizion ekstrem matematikor për të bërë parashikime të sakta, NPU mund të kursejë një sasi të konsiderueshme energjie me çdo përfundim , gjë që është veçanërisht e rëndësishme në laptopë dhe mini PC.
CPU, GPU dhe NPU: trekëndëshi i SoC moderne
Procesorët e përdorur në pajisjet moderne me Windows 11 zakonisht përdorin një qasje System-on-a-Chip (SoC), ku CPU, GPU dhe NPU janë të integruara në të njëjtin çip silikoni . Kjo afërsi fizike u lejon atyre të ndajnë RAM-in e sistemit dhe të transferojnë detyra midis tyre pa pengesa të konsiderueshme.
Në këtë trekëndësh, CPU vepron si truri kontrollues, GPU merret me përpunimin masiv paralel për grafikë dhe NPU përqendrohet tërësisht në të mësuarit automatik dhe operacionet e rrjetit nervor . Secila ka fushën e vet të ekspertizës dhe Windows 11 vendos se çfarë shkon ku bazuar në ngarkesën e punës.
Kur sistemi duhet të aplikojë efekte video, të kryejë përkthim të menjëhershëm të të folurit ose të ekzekutojë një model ONNX AI, Windows 11 analizon harduerin e disponueshëm dhe, nëse zbulon një NPU, i ridrejton këto detyra tek ai për të arritur ekuilibrin më të mirë midis performancës dhe konsumit të energjisë . Nëse, për ndonjë arsye, NPU nuk është e disponueshme, GPU-ja ose, në fund të fundit, CPU-ja merr përsipër.
Kjo shpërndarje inteligjente e detyrave është veçanërisht e rëndësishme në laptopët e hollë, mini PC-të dhe kompjuterët gjithëpërfshirës, ku menaxhimi termik dhe konsumi i energjisë janë kritikë (shihni tutorialet tona për harduerin e laptopëve ). Zhvendosja e punës së qëndrueshme të IA-së te NPU-ja parandalon mbinxehjen e CPU-së dhe uljen e frekuencës së saj , duke ruajtur kështu rrjedhshmërinë e përgjithshme të sistemit.
Për sa i përket efikasitetit, një GPU konvencionale mund të konsumojë dhjetëra vat për të ekzekutuar algoritme të inteligjencës artificiale me njëfarë kompleksiteti, ndërsa një NPU mund të bëjë të njëjtën punë me konsum shumë më të ulët , duke ju lejuar të zgjasni lehtësisht jetëgjatësinë e baterisë me 15% deri në 20% në skenarë intensivë të inteligjencës artificiale.
NPU dhe Windows 11: roli i PC-ve Copilot+
Microsoft ka shkuar një hap më tej me prezantimin e kompjuterëve Copilot+, një kategori e re kompjuterësh me Windows 11 të projektuar për ta bërë IA-në jo një veçori shtesë, por diçka të integruar në jetën e përditshme të përdoruesit. Këto makina dallohen, ndër të tjera, nga fakti që kanë një NPU me performancë të lartë të aftë të kalojë 40 TOPS (Tera Operations Per Second).
Kjo kërkesë prej më shumë se 40 TOPS nuk është një tekë: shumë nga veçoritë e reja të IA-së të Windows 11, si në nivelin e sistemit ashtu edhe në atë të aplikacionit, kanë nevojë për atë nivel fuqie të qëndrueshme për të ofruar përkthime në kohë reale, gjenerim imazhesh, efekte video dhe asistentë inteligjentë pa penalizuar jetëgjatësinë e baterisë ose kryerjen e detyrave të tjera.
Në praktikë, një kompjuter Copilot+ është projektuar për të ofruar jetëgjatësi baterie gjatë gjithë ditës, përvoja të vazhdueshme të inteligjencës artificiale dhe qasje të drejtpërdrejtë në modelet dhe veçoritë më të përparuara të inteligjencës artificiale të Microsoft. Ideja është që ju mund të përdorni Copilot për t'ju ndihmuar të punoni, studioni ose krijoni pa u mbështetur shumë në cloud.
Këto sisteme mbështeten në procesorë të gjeneratës së ardhshme nga Qualcomm (siç është familja Snapdragon X Elite), AMD (siç është Ryzen AI më i fundit) dhe Intel (Core Ultra dhe pasardhësit) - për të krahasuar opsionet, shihni ekuivalentët e procesorëve Intel dhe AMD . Të gjithë ndajnë konceptin e integrimit të tre motorëve të përpunimit: CPU, GPU dhe NPU , në mënyrë që Windows 11 të mund ta shpërndajë ngarkesën e punës në mënyrë shumë efikase.
Vetë platforma Windows 11 po përgatitet të përfitojë nga këto aftësi përmes përvojave unike, të tilla si efektet e përmirësuara të thirrjeve video, organizimi inteligjent i dokumenteve, asistentët që përmbledhin përmbajtjen lokale dhe veçoritë krijuese që mbështeten në inteligjencën artificiale pa dërguar vazhdimisht të dhëna në cloud.
Çipi Snapdragon X Elite dhe basti i Qualcomm
Një nga komponentët kryesorë në kompjuterin Copilot+ është çipi Snapdragon X Elite, i bazuar në arkitekturën Arm dhe i zhvilluar nga Qualcomm. Ky procesor është projektuar duke pasur parasysh integrimin e inteligjencës artificiale, duke përfshirë një NPU shumë të fuqishme dhe jashtëzakonisht efikase në energji.
NPU-ja e Snapdragon X Elite mund të përpunojë vëllime të mëdha të të dhënave paralelisht, duke arritur dhjetëra triliona operacione në sekondë , duke i lejuar asaj të trajtojë detyra intensive me inteligjencë artificiale, të tilla si përkthimi i njëkohshëm, përmirësimi i imazhit ose analiza në kohë reale pa e shkarkuar baterinë në çast.
Windows 11 koordinon punën e kombinuar të CPU-së, GPU-së dhe NPU-së në këto pajisje. Në çdo kohë të caktuar, sistemi vendos se cili komponent është më i përshtatshmi për secilën detyrë, duke kërkuar ekuilibrin optimal midis shpejtësisë, reagimit dhe konsumit të energjisë . Kjo rezulton në laptopë shumë të hollë dhe të lehtë me jetëgjatësi baterie gjatë gjithë ditës dhe një përvojë vazhdimisht aktive të IA-së.
Avantazhi kryesor i kësaj qasjeje është se shumë nga përvojat e IA-së në PC-të Copilot+ mund të funksionojnë direkt në vetë pajisjen: nga veçoritë e Windows 11 deri te mjetet e palëve të treta të optimizuara për NPU-në . Kjo zvogëlon varësinë nga një lidhje interneti dhe përmirëson sigurinë e të dhënave.
Qualcomm gjithashtu ofron burime specifike për zhvilluesit përmes Qualcomm AI Hub, ku mund të gjeni modele të optimizuara dhe të validuara tashmë për këto NPU , të gatshme për t'u përdorur në mënyrë efikase në pajisjet Copilot+ me Snapdragon X Elite.
Si e zbulon dhe përdor Windows NPU-në për inteligjencën artificiale
Njësia kompjuterike e ndërtimit (NPU), si çdo burim tjetër harduerik në një PC, ka nevojë që sistemi operativ dhe aplikacionet të dinë si të komunikojnë me të dhe të shfrytëzojnë fuqinë e tij . Microsoft ka përmirësuar mënyrën e aksesimit të këtyre njësive dhe aktualisht rekomandimi është të përdoret Mësimi Automatik i Windows (WinML ose WinML) si metodë kryesore.
Për një kohë, DirectML ishte qasja standarde për të punuar me përshpejtimin e inteligjencës artificiale në Windows, por tani WinML ka zënë vend qendror . Ky ndryshim synon të thjeshtojë jetën e zhvilluesit dhe t'u mundësojë aplikacioneve të shfrytëzojnë NPU-në dhe GPU-në sa më pa probleme të jetë e mundur, si në PC-të Copilot+ ashtu edhe në pajisje të tjera me NPU Intel ose AMD.
Me Windows ML, sistemi zbulon automatikisht Ofruesit e Ekzekutimit (EP) të pajtueshëm me harduerin e pajisjes. Në vend që zhvilluesi të paketojë manualisht bibliotekat specifike të prodhuesit, Windows shkarkon dhe menaxhon këto EP në një mënyrë të integruar përmes vetë sistemit ose Windows Update.
Në thelbin e saj, Windows ML ende përdor ONNX Runtime si motorin e saj të nxjerrjes së përfundimeve, por fsheh nga zhvilluesi shumë nga kompleksiteti i menaxhimit të shitësve të ndryshëm të pajisjeve . Microsoft bashkëpunon drejtpërdrejt me Qualcomm, Intel, AMD dhe partnerë të tjerë për të siguruar që EP-të e përditësuara dhe të optimizuara të jenë të disponueshme për çdo brez të ri të silikonit.
Kur një aplikacion vendos një model IA duke përdorur Windows ML në një PC me një NPU, procesi është automatik: WinML kontrollon se cilët përshpejtues janë të disponueshëm, zgjedh EP-në më efikase (QNN për NPU-të Qualcomm, OpenVINO për platformat Intel, etj.), e ngarkon atë dhe fillon nxjerrjen e përfundimeve. Nëse diçka shkon keq, ai kalon pa probleme në GPU ose CPU pa ndërhyrjen e përdoruesit.
Formatet e modelit, kuantizimi dhe mjetet e zhvilluesit
Modelet e IA-së zakonisht trajnohen fillimisht në formate me precizion të lartë si FP32, por NPU-të e konsumatorëve kanë tendencë të funksionojnë më mirë me përfaqësime më të vogla si INT8 për të arritur performancë dhe efikasitet energjetik shumë më të lartë.
Kjo do të thotë që modelet duhet të konvertohen ose kuantizohen përpara se të ekzekutohen në NPU. Shumë modele janë të disponueshme gati për t’u përdorur në formatin e optimizuar ONNX, por ata që duan të sjellin modelin e tyre (BYOM) mund të përdorin zinxhirë mjetesh specifike për ta përshtatur atë me harduerin.
Ndër burimet më interesante është Qualcomm AI Hub , i cili ofron modele të validuara dhe të optimizuara për t'u ekzekutuar në PC Copilot+ me procesorë Snapdragon X Elite. Gjithashtu përfshihet edhe ONNX Model Zoo i njohur , një depo modelesh të para-trajnuara, me burim të hapur, të gatshme për t'u ekzekutuar në pajisje të ndryshme të aktivizuara me NPU, duke përfshirë ato nga Intel dhe AMD.
Për të optimizuar modelet e veta, Microsoft rekomandon përdorimin e Olive, një mjet që integrohet me ONNX Runtime për të trajtuar kompresimin, optimizimin dhe përpilimin e orientuar drejt NPU-së . Ky kombinim lejon performancë dukshëm më të lartë me të njëjtin harduer, gjë që është veçanërisht e rëndësishme në laptopët ku çdo vat ka rëndësi.
I gjithë ky ekosistem ua bën shumë më të lehtë zhvilluesve të përqendrohen në përvojën e përdoruesit dhe t'ia lënë integrimin e nivelit të ulët të harduerit Windows ML, ONNX Runtime dhe mjeteve të lidhura me të , ku shfaqeshin më parë problemet e përputhshmërisë dhe mirëmbajtjes.
Si të matni performancën aktuale të NPU-së në Windows
Kur integrohen veçoritë e inteligjencës artificiale në një aplikacion, është thelbësore të matni performancën aktuale të modeleve në NPU dhe të kuptoni se çfarë po ndodh brenda sistemit. Windows ofron disa mjete diagnostikuese dhe gjurmuese për ta bërë këtë me hollësi të konsiderueshme.
Pika e parë e referencës, e arritshme për çdo përdorues, është Menaxheri i Detyrave të Windows 11. Në skedën "Performanca", ekziston një seksion specifik për NPU-në së bashku me CPU-në, memorien, diskun, Wi-Fi-në dhe GPU-në. Atje mund të shihni përqindjen e përdorimit, versionin e drajverit dhe të dhëna të tjera përkatëse.
Për zhvilluesit dhe përdoruesit e përparuar, hyjnë në lojë mjete të tjera më të fuqishme, të tilla si Windows Performance Recorder (WPR) , i cili tani përfshin një profil përpunimi nervor për të regjistruar aktivitetin e NPU-së, dhe Windows Performance Analyzer (WPA) , i cili ju lejon të analizoni ato regjistrime.
WPR gjeneron gjurmë të detajuara se si sistemi bashkëvepron me NPU-në përmes modelit të drajverit MCDM të Microsoft-it. Më pas, WPA ju lejon të shikoni grafikë dhe kronologji që tregojnë CPU-në, diskun, rrjetin, ngjarjet ONNX Runtime dhe një tabelë të dedikuar NPU , të gjitha në të njëjtën kronologji.
Kjo bën të mundur shqyrtimin e aspekteve të tilla si ngarkesa e punës, koha e ngarkimit të modelit, krijimi i seancës së përfundimit, parametrat e konfigurimit të ofruesit të ekzekutimit, koha e çdo përfundimi individual dhe profili i secilit operator brenda modelit të IA-së. Mund të vëzhgohen edhe metrika të nën-harduerit NPU, siç është gjerësia e brezit të memories.
Mjete shtesë: GPUView, ONNX Runtime dhe profile harduerësh
Përveç WPR dhe WPA, ekosistemi i Windows ofron edhe shërbime të tjera që ndihmojnë për të kuptuar më mirë saktësisht se çfarë bën NPU-ja kur ekzekuton modele të inteligjencës artificiale . Një nga këto është GPUView, një mjet që lexon ngjarjet e regjistruara në skedarët e gjurmimit (.etl) dhe i shfaq ato vizualisht.
GPUView tani mund të shfaqë jo vetëm operacionet e GPU-së, por edhe aktivitetin e NPU-së dhe ngjarjet DirectX të lidhura me pajisjet MCDM . Kjo është e dobishme për të parë se si shpërndahet ngarkesa e punës midis GPU-së dhe NPU-së kur një aplikacion përdor intensivisht si inteligjencën artificiale ashtu edhe grafikën.
Nga ana tjetër, ONNX Runtime, duke filluar me versionin 1.17 dhe me përmirësimet në 1.18.1, lëshon ngjarje të kohës së ekzekutimit që mund të kapen dhe vizualizohen me WPA . Kjo ju lejon të shihni se sa kohë i duhet një modeli për t'u ngarkuar, cili konfigurim EP po përdoret, si sillen përfundimet në NPU (p.sh., QNN) dhe sa kohë konsumon secili operator brenda modelit.
Zhvilluesit mund të kombinojnë profile specifike të ONNX Runtime me profile të tjera WPR (CPU, disk, etj.) për të marrë një pamje shumë të saktë se ku po shpenzohet koha dhe si të optimizohet performanca . Përveç kësaj, mjetet e palëve të treta si Qualcomm Snapdragon Profiler (qprof) ofrojnë një pamje të të gjithë sistemit dhe ofrojnë metrika edhe më të detajuara të NPU në platformat Snapdragon.
Me këtë grup shërbimesh, është e mundur jo vetëm të verifikohet që NPU është në përdorim, por edhe të zbulohen bllokimet, vonesat e papritura ose konfigurimet jo optimale dhe të korrigjohen ato për të shfrytëzuar sa më shumë harduerin e disponueshëm.
Si të kuptoni nëse kompjuteri juaj me Windows ka një NPU dhe çfarë përdor ajo për të përfituar prej saj
Për përdoruesit fundorë, pyetja tipike është: a ka kompjuteri im realisht një NPU dhe a e përdor Windows atë? Mënyra më e lehtë për ta kontrolluar është të hapni Task Manager (Ctrl+Shift+Esc), të shkoni te skeda “Performance” dhe të kërkoni një seksion të etiketuar “NPU”.
Nëse shfaqet një grafik i dedikuar NPU, kjo do të thotë që kompjuteri juaj ka këtë procesor të specializuar. Prej andej, mund të shihni se cilat aplikacione po konsumojnë burime NPU në skedën "Proceset" ose të thelloheni më shumë me mjete të përparuara për një analizë më teknike. Nëse nuk shfaqet, mund të jetë e dobishme të kontrolloni konfigurimin e sistemit të kompjuterit tuaj dhe cilësimet e BIOS ose UEFI për të verifikuar rregullimet e firmware-it ose mbështetjen e përshpejtuesit.
Prania e njësive të njësisë së përpunimit të të dhënave (NPU) po bëhet gjithnjë e më e zakonshme në kompjuterët modernë, veçanërisht në laptopët e çertifikuar si PC Copilot+ dhe ata që integrojnë gjeneratën e fundit të procesorëve nga AMD, Intel ose Qualcomm. Prodhuesit po i përfshijnë këto njësi si një komponent standard hardueri, ashtu siç dikur GPU-të integroheshin në vetë procesorët.
Në shumë raste, përdoruesi fillon të vërejë avantazhet pa pasur nevojë të ndryshojë asgjë në mënyrën se si punon: thirrje video më të qarta, efekte të aplikuara në kohë reale pa vonesë, jetëgjatësi më e madhe e baterisë kur përdoren veçoritë inteligjente dhe një ndjesi e përgjithshme rrjedhshmërie edhe me disa detyra që ekzekutohen në të njëjtën kohë.
Për ata që kanë kuriozitet teknik, mjetet e gjurmimit të Windows ju lejojnë të dini saktësisht se cilat procese po i ngarkojnë punën NPU-së dhe me çfarë modelesh përdorimi , diçka shumë e dobishme nëse po testoni softuer të ri ose nëse doni të verifikoni nëse një aplikacion po përfiton vërtet nga hardueri.
Aplikacione të botës reale që tashmë përfitojnë nga NPU në Windows
Përtej teorisë, ajo që është interesante është të shohim se cilat programe të përditshme po përfitojnë nga NPU në Windows . Lista rritet muaj pas muaji, por disa emra të njohur tashmë kanë filluar të mbështeten në këtë çip për të përshpejtuar funksionet e tyre të inteligjencës artificiale.
Në botën e redaktimit të imazheve, Adobe Photoshop është një shembull kryesor. Mjetet e mundësuara nga inteligjenca artificiale, si përzgjedhja automatike e objekteve, heqja e sfondit dhe ulja e zhurmës në moment, mund të funksionojnë shumë më shpejt nëse PC ka një NPU, duke liruar GPU-në për detyra të tjera të renderimit.
Për sa i përket sigurisë, Norton Antivirus ka përfshirë veçori të mundësuara nga inteligjenca artificiale që shfrytëzojnë NPU-në për të zbuluar më shpejt përpjekjet e phishing-ut dhe mashtrimet në faqet e internetit. Kjo e bën mbrojtjen në kohë reale më të shpejtë pa mbingarkuar CPU-në ose pa ngadalësuar sistemin.
Në dizajn dhe përmbajtje vizuale, platforma si Canva kanë shtuar mjete gjithnjë e më të fuqishme gjenerimi dhe redaktimi të mundësuara nga inteligjenca artificiale. Shumë nga këto veçori mund të përshpejtohen me pajisje lokale kur është në dispozicion një NPU, duke zvogëluar kohën e pritjes kur aplikohen filtra, sfonde gjeneruese ose rregullime inteligjente.
Për redaktimin e videove, DaVinci Resolve Studio integron gjithashtu mjete që përfitojnë nga përshpejtimi lokal i inteligjencës artificiale, siç janë ulja e zhurmës, njohja e fytyrës, inkuadrimi automatik dhe veçori të tjera të përparuara. Delegimi i këtyre detyrave te NPU rezulton në një përvojë redaktimi më të butë dhe kohë më të shkurtër eksportimi.
Për më tepër, në nivelin e sistemit operativ, Windows Studio Effects, Copilot dhe veçori të tjera të Windows 11 shfrytëzojnë NPU-në për të ekzekutuar efekte video, izolim të të folurit ose asistentë kontekstualë në kohë reale, duke e mbajtur CPU-në të përqendruar në aplikacionet e produktivitetit që përdoruesi ka të hapura.
Njësitë punuese artificiale (NPU) në treg: Intel, AMD, Qualcomm dhe shtytja për PC-të me inteligjencë artificiale
Përshtatja e NPU-ve në PC nuk është një eksperiment i izoluar: gjithçka tregon se po dëshmojmë një tranzicion themelor të ngjashëm me kalimin në SSD ose integrimin e GPU-ve në procesorë . Firma analizuese si IDC vlerësojnë se, deri në vitin 2025, më shumë se 100 milionë pajisje personale (laptop, tablet dhe desktop) do të dalin në shitje me NPU të integruara.
Në këtë kontekst, tre lojtarët kryesorë që kanë investuar më shumë në inteligjencën artificiale native për PC-të janë AMD, Intel dhe Qualcomm . Secili me qasjen e vet, por të gjithë me të njëjtin qëllim: të mundësojnë që inteligjenca artificiale të funksionojë direkt në harduerin e përdoruesit, shpejt, me efikasitet dhe privatisht.
AMD, për shembull, ka lançuar familjet Ryzen AI Max Series dhe Ryzen AI 300 , me arkitektura si Zen 5 dhe XDNA 2. Modelet më të përparuara ofrojnë deri në 55 TOPS të performancës së IA-së, duke shumëzuar performancën e gjeneratës së mëparshme me pesë dhe duke mundësuar faktorë formash shumë të fuqishëm ultraportativë. Për të mësuar më shumë rreth arkitekturave të tyre, mund të lexoni rreth AMD RDNA 5 dhe uDNA.
Brenda kësaj game, bien në sy procesorë si AMD Ryzen AI 9 HX 370 , NPU-ja e të cilit arrin 50 TOPS dhe tejkalon pragun minimal të PC-së Copilot+ me 25%, ashtu si edhe Ryzen AI 395+ , i cili ofron performancë edhe më të madhe të qëndrueshme të IA-së për modelet lokale me kërkesa të larta. Falë qasjes së tyre ndaj rrjedhës së të dhënave hapësinore, këto çipa lëvizin të dhënat midis njësive MAC pa pasur nevojë të hyjnë vazhdimisht në RAM, duke zvogëluar kështu vonesën dhe konsumin e energjisë.
Intel, nga ana e saj, e ka bërë të qartë se inteligjenca artificiale është në zemër të planit të saj të veprimit: qëllimi i saj është të shesë më shumë se 100 milionë procesorë me përshpejtues të dedikuar të inteligjencës artificiale brenda disa viteve, duke arritur deri në 120 TOPS të performancës së kombinuar dhe duke mbështetur më shumë se 500 funksione të bazuara në inteligjencën artificiale me mbështetjen e një ekosistemi prej qindra zhvilluesish të pavarur softuerësh. Për të ndjekur evolucionin e çipave të saj, shikoni lajmet tona më të fundit mbi procesorët Intel.
Sa i përket Qualcomm, platformat e saj Snapdragon X Elite për PC janë bërë një nga shtyllat e PC-ve Copilot+, duke konsoliduar modelin ku CPU, GPU dhe NPU bashkëjetojnë në një SoC shumë efikas, perfekt për laptopë ultra të hollë me shumë orë jetëgjatësi baterie dhe aftësi IA gjithmonë të disponueshme.
Avantazhe për lloje të ndryshme përdoruesish: nga automatizimi i zyrës te inteligjenca artificiale lokale
Pyetja e madhe për shumë njerëz është: çfarë fitoj në jetën time të përditshme me një NPU në Windows? Përgjigja varet nga lloji i përdorimit, por pothuajse të gjithë përdoruesit tipikë përfitojnë në një mënyrë ose në një tjetër.
Për punonjësit e zyrës, NPU lejon funksione si efektet e Windows Studio në thirrjet video (turbullim sfondi, fokusim automatik, përmirësim ndriçimi, izolim zëri) që të funksionojnë pa e sforcuar CPU-në. Kjo liron më shumë hapësirë për të trajtuar spreadsheet-e të rënda, aplikacione të shumta të hapura produktiviteti dhe shfletim intensiv të uebit pa e ngadalësuar kompjuterin.
Studentët dhe ekipet e shpërndara mund të përfitojnë nga përkthimet në kohë reale, transkriptimi automatik i audios dhe asistentët që ndihmojnë me përmbledhjet e dokumenteve, madje edhe në skenarë me lidhje të kufizuar. Inteligjenca Artificiale lokale eliminon pjesën më të madhe të vonesës dhe përmirëson përvojën në takimet ndërkombëtare.
Profesionistët krijues, si në fotografi ashtu edhe në video, përfitojnë nga filtrat e përshpejtuar nga NPU, njohja e skenës, maskat inteligjente dhe mbushja gjeneruese më e shpejtë , duke zvogëluar kohën e pritjes gjatë redaktimit dhe eksportimit të projekteve. Kjo është veçanërisht e dukshme në rrjedhat e punës me kërkesa të larta.
Së fundmi, përdoruesit që duan të ekzekutojnë modele të inteligjencës artificiale lokalisht në PC-të e tyre (për shembull, për të shmangur ngarkimin e të dhënave të ndjeshme në cloud) e gjejnë pjesën që mungon në NPU. Përpunimi i konkluzioneve në vetë pajisjen mbron privatësinë, eliminon varësitë nga lidhja dhe mund të ofrojë kohë reagimi shumë konkurruese për detyra të tilla si chatbot-et lokalë, klasifikimi i dokumenteve ose analiza e imazheve.
Në të gjitha rastet, emëruesi i përbashkët është se NPU-ja i lejon IA-së të mos jetë më diçka e largët që funksionon vetëm kur jeni i lidhur, por të funksionojë si një aftësi native e PC-së, gjithmonë e disponueshme dhe e përshtatur për atë që bëni , nga më e thjeshta te më e përparuara.
Pyetje të shpeshta rreth NPU-së, performancës dhe privatësisë në Windows
Një pyetje e zakonshme është se si ndryshon në të vërtetë një NPU nga një kartë grafike tradicionale . Ndërsa një GPU mund të ekzekutojë modele të IA-së, ajo është projektuar kryesisht për grafikë, ndërsa një NPU është projektuar ekskluzivisht për të përshpejtuar rrjetet nervore dhe operacionet e të mësuarit automatik. Kjo i lejon asaj të çlirojë si CPU-në ashtu edhe GPU-në nga detyrat e përsëritura të IA-së, duke konsumuar ndjeshëm më pak energji.
Një çështje tjetër e rëndësishme është se si përmirëson privatësinë. Duke ekzekutuar funksionet e IA-së në nivel lokal, NPU-ja ju pengon të dërgoni vazhdimisht të dhëna personale në cloud . Për ata që punojnë me informacione të ndjeshme (gazetarë, avokatë, mjekë, kompani me të dhëna kritike) ose thjesht e vlerësojnë privatësinë e tyre, kjo bën një ndryshim të rëndësishëm krahasuar me mbështetjen tërësisht në shërbime në distancë.
Lidhur me lojërat, një NPU nuk e zëvendëson GPU-në, por mund të ndihmojë në mënyrë indirekte në skenarë të caktuar . Teknologji si AMD FidelityFX Super Resolution përdorin IA-në për të përmirësuar imazhin dhe për të përmirësuar shpejtësinë e kuadrove (ose DLSS 5 të Nvidia-s ). Nëse një pjesë e kësaj llogaritjeje bëhet nga NPU-ja, GPU-ja mund të përqendrohet në renderimin e pastër, gjë që në disa tituj përkthehet në një performancë të përgjithshme më të ekuilibruar.
Është gjithashtu logjike të pyesësh veten nëse inteligjenca artificiale e integruar në softuerët antivirus, asistentët ose mjetet e produktivitetit do të "spiunojë" më shumë. Realiteti është se përpunimi lokal në NPU lejon pikërisht të kundërtën : sa më shumë që bëhet në vetë pajisjen, aq më pak të dhëna duhet të udhëtojnë në serverat e jashtëm, duke zvogëluar sipërfaqen e sulmit. Megjithatë, është gjithmonë e këshillueshme të rishikohet politika e privatësisë së secilit aplikacion.
Ndjesia e përgjithshme, si midis prodhuesve ashtu edhe midis analistëve, është se NPU-të dhe PC-të me inteligjencë artificiale nuk janë një modë kalimtare, por më tepër hapi tjetër logjik në evolucionin e PC-ve , ashtu siç ishin në kohën e tyre procesorët me shumë bërthama dhe memoria SSD. Jemi ende në fazat e hershme, por ajo që po shohim tashmë në treg sugjeron se, vetëm brenda pak vitesh, NPU-të do të jenë po aq të zakonshme sa GPU-të e integruara.
E gjithë kjo lëvizje drejt NPU-ve në Windows po ndërton një themel të fortë që IA të kalojë nga një shërbim i izoluar cloud në një aftësi standarde të kompjuterit personal, duke mundësuar kompjuterë më të shpejtë, më efikasë dhe më privatë që përshtaten më mirë me mënyrën se si punojmë, studiojmë dhe krijojmë përmbajtje çdo ditë.
