- NPU operētājsistēmā Windows atbrīvo procesoru un grafisko procesoru no mākslīgā intelekta uzdevumiem, tādējādi uzlabojot veiktspēju, akumulatora darbības laiku un privātumu, palaižot modeļus tieši ierīcē.
- Copilot+ datoriem ar operētājsistēmu Windows 11 ir nepieciešami vairāk nekā 40 TOPS tīkla procesorā (NPU), un tie izmanto Windows ML un ONNX Runtime, lai automātiski izmantotu centrālo procesoru, grafisko karti un NPU.
- Intel, AMD un Qualcomm integrē augstas veiktspējas neironu procesorus (NPU) savos SoC procesoros, nodrošinot uzlabotas mākslīgā intelekta funkcijas biroja uzdevumiem, radošumam, drošībai un profesionālai lietošanai.
- Tādi rīki kā uzdevumu pārvaldnieks, WPR, WPA un GPUView ļauj izmērīt NPU faktisko izmantošanu un optimizēt modeļus un lietojumprogrammas, lai maksimāli izmantotu aparatūru.
NPU ienākšana operētājsistēmā Windows ir pilnībā mainījusi to, kā mēs izmantojam mākslīgo intelektu datoros. Tas, kas iepriekš gandrīz pilnībā paļāvās uz mākoņpakalpojumiem, tagad sāk darboties tieši mūsu klēpjdatoros, galddatoros un mini datoros, nodrošinot milzīgus ātruma, akumulatora darbības laika un privātuma uzlabojumus. Windows 11, īpaši ar jaunajām Copilot+ ierīcēm un jaunākajiem Intel, AMD un Qualcomm procesoriem, ir šīs revolūcijas centrā.
Ja apsverat datora jaunināšanu turpmākajos mēnešos, ir svarīgi saprast, kas ir NPU, kāpēc Microsoft tas ir nepieciešams daudzām uzlabotām mākslīgā intelekta funkcijām operētājsistēmā Windows 11 , kāda ir tā loma Copilot+ datoros, kuros procesoru modeļos tas ir iekļauts un kuras reālās pasaules lietojumprogrammas jau izmanto šo jauno mikroshēmu. Aplūkosim to tuvāk, nerunājot par kaut ko konkrētu, lai jūs varētu pieņemt pārdomātu lēmumu par to, vai jaunināšana ir tā vērta.
Kas īsti ir NPU un kāpēc visi par to tagad runā?
Runājot par neironu procesoru (NPU) mūsdienu datorā, mēs domājam procesoru, kas specializējas neironu tīklu un citu mašīnmācīšanās algoritmu matemātisko darbību izpildē . Tas nav paredzēts, lai aizstātu centrālo procesoru (CPU) vai grafisko procesoru (GPU), bet gan lai tos papildinātu, apstrādājot visu, kas saistīts ar mākslīgo intelektu (AI).
Atšķirībā no centrālā procesora (CPU), kas ir paredzēts loģisku instrukciju secīgai izpildei, un grafikas kartes, kas koncentrējas uz masveida pikseļu renderēšanu, neironu procesors (NPU) ir izstrādāts no pašiem pamatiem, lai reizinātu un uzkrātu skaitļu matricas neticamā ātrumā un ar ļoti zemu enerģijas patēriņu . Tieši tas ir mākslīgā intelekta modeļu "domāšanas" pamatā, sākot no sejas atpazīšanas līdz attēlu ģenerēšanai.
Praksē varētu teikt, ka neironu procesori (NPU) kļūst par visu sistēmas un lietojumprogrammu intelektuālo funkciju specifisko dzinēju , sākot no fona izpludināšanas videozvanā līdz pat reāllaika transkripcijai, tostarp tādiem palīgiem kā Copilot vai uzlabotiem video rediģēšanas filtriem.
Galvenā priekšrocība ir tā, ka mākslīgais intelekts var darboties tieši ierīcē, nesūta datus uz attāliem serveriem. Tas uzlabo privātumu, samazina latentumu un atslogo centrālo procesoru un grafisko procesoru , atbrīvojot tos citiem uzdevumiem.
Turklāt daudzi ražotāji izstrādā šīs ierīces darbam ar zemākas precizitātes formātiem, piemēram, INT8, nevis FP32. Tā kā precīzu prognožu veikšanai nav nepieciešama ārkārtēja matemātiska precizitāte, NPU var ietaupīt ievērojamu enerģijas daudzumu ar katru secinājumu , kas ir īpaši svarīgi klēpjdatoros un mini datoros.
CPU, GPU un NPU: mūsdienu SoC trīsstūris
Mūsdienu Windows 11 ierīcēs izmantotie procesori parasti izmanto sistēmas uz mikroshēmas (SoC) pieeju, kur centrālais procesors (CPU), grafiskais procesors (GPU) un neironu procesors (NPU) ir integrēti vienā un tajā pašā mikroshēmā . Šis fiziskais tuvums ļauj tiem koplietot sistēmas RAM un pārsūtīt uzdevumus starp tiem bez būtiskiem sastrēgumiem.
Šajā trijstūrī centrālais procesors (CPU) darbojas kā kontrolējošās smadzenes, grafiskais procesors (GPU) apstrādā milzīgu paralēlo grafikas apstrādi, un neironu procesors (NPU) pilnībā koncentrējas uz mašīnmācīšanos un neironu tīklu darbībām . Katrai no tām ir sava kompetences joma, un Windows 11 izlemj, kas kur nonāk, pamatojoties uz darba slodzi.
Kad sistēmai ir jāpielieto video efekti, jāveic runas tulkošana reāllaikā vai jāpalaiž ONNX mākslīgā intelekta modelis, Windows 11 analizē pieejamo aparatūru un, ja tā atrod neironu procesoru (NPU), novirza šos uzdevumus uz to, lai panāktu vislabāko veiktspējas un enerģijas patēriņa līdzsvaru . Ja kāda iemesla dēļ NPU nav pieejams, darbu pārņem grafiskais procesors (GPU) vai galu galā centrālais procesors (CPU).
Šī inteliģentā uzdevumu sadale ir īpaši svarīga plānos klēpjdatoros, mini datoros un daudzfunkcionālās ierīcēs, kur termiskā pārvaldība un enerģijas patēriņš ir kritiski svarīgi (skatiet mūsu klēpjdatoru aparatūras pamācības ). Ilgstoša mākslīgā intelekta darba atslogošana no neironu procesora (NPU) novērš centrālā procesora (CPU) pārkaršanu un nepieciešamību ierobežot tā frekvenci , tādējādi saglabājot kopējo sistēmas darbības vienmērību.
Runājot par efektivitāti, parastais grafiskais procesors (GPU) var patērēt desmitiem vatu, lai palaistu zināmas sarežģītības mākslīgā intelekta algoritmus, savukārt neironu procesors (NPU) var paveikt to pašu darbu ar daudz mazāku patēriņu , ļaujot viegli pagarināt akumulatora darbības laiku par 15–20 % intensīvas mākslīgā intelekta situācijās.
NPU un Windows 11: Copilot+ datoru loma
Microsoft ir spēris soli tālāk, ieviešot Copilot+ datorus — jaunu Windows 11 datoru kategoriju, kas izstrādāta, lai mākslīgais intelekts (AI) nebūtu papildu funkcija, bet gan integrēta lietotāja ikdienas dzīvē. Šīs mašīnas cita starpā izceļas ar augstas veiktspējas neironu procesoru (NPU), kas spēj pārsniegt 40 TOPS (tera darbības sekundē).
Šī prasība pēc vairāk nekā 40 TOPS nav kaprīze: daudzām no jaunajām Windows 11 mākslīgā intelekta funkcijām gan sistēmas, gan lietojumprogrammu līmenī ir nepieciešams šāds ilgstošas jaudas līmenis, lai nodrošinātu reāllaika tulkojumus, attēlu ģenerēšanu, video efektus un viedus palīgus, neietekmējot akumulatora darbības laiku vai citu uzdevumu veikšanu.
Praksē Copilot+ dators ir izstrādāts tā, lai nodrošinātu akumulatora darbības laiku visu dienu, pastāvīgi pieejamas mākslīgā intelekta iespējas un tiešu piekļuvi Microsoft vismodernākajiem mākslīgā intelekta modeļiem un funkcijām. Ideja ir tāda, ka Copilot var izmantot, lai strādātu, mācītos vai radītu, tik ļoti nepaļaujoties uz mākoņpakalpojumiem.
Šīs sistēmas izmanto nākamās paaudzes procesorus no Qualcomm (piemēram, Snapdragon X Elite saimes), AMD (piemēram, jaunāko Ryzen AI) un Intel (Core Ultra un pēctečus) — lai salīdzinātu iespējas, skatiet Intel un AMD procesoru ekvivalences . Tiem visiem ir kopīga trīs apstrādes dzinēju — centrālā procesora (CPU), grafiskā procesora (GPU) un neironu procesora (NPU) — integrācijas koncepcija , lai Windows 11 varētu ļoti efektīvi sadalīt darba slodzi.
Pati Windows 11 platforma gatavojas izmantot šīs iespējas, piedāvājot unikālas iespējas, piemēram, uzlabotus videozvanu efektus, viedu dokumentu organizēšanu, palīgus, kas apkopo lokālo saturu , un radošas funkcijas, kas balstās uz mākslīgo intelektu, nepārtraukti nesūtot datus uz mākoni.
Snapdragon X Elite mikroshēma un Qualcomm likme
Viens no galvenajiem Copilot+ datora komponentiem ir Snapdragon X Elite mikroshēma, kas balstīta uz Arm arhitektūru un ko izstrādājusi Qualcomm. Šis procesors tika izstrādāts, ņemot vērā mākslīgā intelekta integrāciju, iekļaujot ļoti jaudīgu un ārkārtīgi energoefektīvu neironu procesoru (NPU).
Snapdragon X Elite neironu procesors (NPU) var paralēli apstrādāt lielu datu apjomu, sasniedzot desmitiem triljonu darbību sekundē , ļaujot tam veikt mākslīgā intelekta intensīvus uzdevumus, piemēram, sinhrono tulkošanu, attēlu uzlabošanu vai reāllaika analīzi, īsā laikā neiztukšojot akumulatoru.
Windows 11 koordinē centrālā procesora, grafikas procesora un neironu procesora (NPU) apvienoto darbu šajās ierīcēs. Jebkurā laikā sistēma izlemj, kurš komponents ir vispiemērotākais katram uzdevumam, meklējot optimālu līdzsvaru starp ātrumu, atsaucību un enerģijas patēriņu . Tas rada ļoti plānus un vieglus klēpjdatorus ar akumulatora darbības laiku visu dienu un pastāvīgi aktīvu mākslīgā intelekta pieredzi.
Šīs pieejas galvenā priekšrocība ir tā, ka daudzas mākslīgā intelekta iespējas Copilot+ datoros var darboties tieši pašā ierīcē: sākot ar Windows 11 funkcijām un beidzot ar trešo pušu rīkiem, kas optimizēti NPU . Tas samazina atkarību no interneta savienojuma un uzlabo datu drošību.
Qualcomm piedāvā arī īpašus resursus izstrādātājiem, izmantojot savu Qualcomm AI Hub, kur var atrast modeļus, kas jau ir optimizēti un apstiprināti šiem NPU un ir gatavi efektīvai darbībai Copilot+ ierīcēs ar Snapdragon X Elite.
Kā Windows nosaka un izmanto NPU mākslīgā intelekta izveidei
NPU, tāpat kā jebkuram citam datora aparatūras resursam, ir nepieciešams, lai operētājsistēma un lietojumprogrammas zinātu, kā ar to sazināties un izmantot tā jaudu . Microsoft ir pilnveidojis, kā piekļūt šīm ierīcēm, un pašlaik ieteikums ir izmantot Windows Machine Learning (WinML vai WinML) kā galveno metodi.
Kādu laiku DirectML bija standarta pieeja darbam ar mākslīgā intelekta paātrinājumu operētājsistēmā Windows, bet tagad WinML ir ieņēmis centrālo vietu . Šīs pārmaiņas mērķis ir vienkāršot izstrādātāja dzīvi un ļaut lietojumprogrammām pēc iespējas vienmērīgāk izmantot NPU un GPU gan Copilot+ datoros, gan citās ierīcēs ar Intel vai AMD NPU.
Izmantojot Windows mašīnmācīšanos, sistēma automātiski nosaka izpildes nodrošinātājus (Execution Provider — EP), kas ir saderīgi ar ierīces aparatūru. Tā vietā, lai izstrādātājam manuāli iesaiņotu ražotāja specifiskās bibliotēkas, Windows lejupielādē un pārvalda šos EP integrētā veidā, izmantojot pašu sistēmu vai Windows Update.
Savā būtībā Windows mašīnmācīšanās joprojām izmanto ONNX Runtime kā secinājumu dzinēju, taču tā no izstrādātāja slēpj lielu daļu sarežģītības, kas saistīta ar dažādu aparatūras piegādātāju pārvaldību . Microsoft tieši sadarbojas ar Qualcomm, Intel, AMD un citiem partneriem, lai nodrošinātu atjauninātu un optimizētu ražošanas versiju (EP) pieejamību katrai jaunajai silīcija paaudzei.
Kad lietojumprogramma izvieto mākslīgā intelekta modeli, izmantojot Windows mašīnmācīšanos datorā ar neironu procesoru (NPU), process notiek automātiski: WinML pārbauda, kuri paātrinātāji ir pieejami, izvēlas visefektīvāko paātrinātāju (EP) (QNN Qualcomm NPU, OpenVINO Intel platformām utt.), ielādē to un sāk secinājumu veikšanu. Ja kaut kas noiet greizi, tas nemanāmi pārslēdzas uz GPU vai CPU bez jebkādas lietotāja iejaukšanās.
Modeļu formāti, kvantizācija un izstrādātāju rīki
Mākslīgā intelekta modeļi parasti sākotnēji tiek apmācīti augstas precizitātes formātos, piemēram, FP32, taču patērētāju NPU parasti labāk darbojas ar mazākām reprezentācijām, piemēram, INT8, lai sasniegtu daudz augstāku veiktspēju un energoefektivitāti.
Tas nozīmē, ka modeļi pirms palaišanas NPU ir jāpārveido vai jākvantē. Daudzi modeļi ir pieejami gatavi lietošanai optimizētā ONNX formātā, taču tie, kas vēlas ieviest savu modeli (BYOM), var izmantot īpašas rīku ķēdes, lai to pielāgotu aparatūrai.
Starp interesantākajiem resursiem ir Qualcomm AI Hub , kas piedāvā validētus un optimizētus modeļus darbībai Copilot+ datoros ar Snapdragon X Elite procesoriem. Iekļauts ir arī populārais ONNX Model Zoo — iepriekš apmācītu, atvērtā koda modeļu krātuve, kas ir gatava darbībai dažādās NPU iespējotās ierīcēs, tostarp Intel un AMD ierīcēs.
Lai optimizētu savus modeļus, Microsoft iesaka izmantot Olive — rīku, kas integrējas ar ONNX Runtime, lai apstrādātu saspiešanu, optimizāciju un uz NPU orientētu kompilāciju . Šī kombinācija ļauj sasniegt ievērojami lielāku veiktspēju ar to pašu aparatūru, kas ir īpaši svarīgi klēpjdatoros, kur katrs vats ir svarīgs.
Visa šī ekosistēma ievērojami atvieglo izstrādātājiem koncentrēšanos uz lietotāja pieredzi un zema līmeņa aparatūras integrāciju atstāj Windows ML, ONNX Runtime un saistītajiem rīkiem , kas agrāk radīja saderības un uzturēšanas problēmas.
Kā izmērīt NPU faktisko veiktspēju operētājsistēmā Windows
Integrējot mākslīgā intelekta funkcijas lietojumprogrammā, ir ļoti svarīgi izmērīt modeļu faktisko veiktspēju NPU un izprast, kas notiek sistēmā. Windows piedāvā vairākus diagnostikas un izsekošanas rīkus, lai to paveiktu diezgan detalizēti.
Pirmais atskaites punkts, kas pieejams jebkuram lietotājam, ir Windows 11 uzdevumu pārvaldnieks . Cilnē “Veiktspēja” ir īpaša sadaļa NPU līdzās centrālajam procesoram, atmiņai, diskam, Wi-Fi un grafikas procesoram. Tur var redzēt lietojuma procentuālo daļu, draivera versiju un citus atbilstošus datus.
Izstrādātājiem un pieredzējušiem lietotājiem noder citi jaudīgāki rīki, piemēram, Windows Performance Recorder (WPR) , kas tagad ietver neironu apstrādes profilu NPU aktivitātes reģistrēšanai, un Windows Performance Analyzer (WPA) , kas ļauj analizēt šos ierakstus.
WPR ģenerē detalizētas sistēmas mijiedarbības ar NPU izsekošanas datus, izmantojot Microsoft MCDM draivera modeli. Pēc tam WPA ļauj skatīt grafikus un laika skalas, kas parāda centrālā procesora, diska, tīkla, ONNX izpildlaika notikumus un īpašu NPU tabulu , visu vienā laika skalā.
Tas ļauj izpētīt tādus aspektus kā darba slodze, modeļa ielādes laiks, secinājumu sesijas izveide, izpildes nodrošinātāja konfigurācijas parametri, katra atsevišķā secinājuma laiks un katra operatora profils AI modelī. Var novērot pat NPU apakšaparatūras rādītājus, piemēram, atmiņas joslas platumu.
Papildu rīki: GPUView, ONNX Runtime un aparatūras profili
Papildus WPR un WPA, Windows ekosistēma piedāvā arī citas utilītas, kas palīdz labāk izprast NPU darbību, darbinot mākslīgā intelekta modeļus . Viens no tiem ir GPUView — rīks, kas nolasa izsekošanas failos (.etl) ierakstītos notikumus un vizuāli tos attēlo.
GPUView tagad var parādīt ne tikai GPU darbības, bet arī NPU aktivitāti un DirectX notikumus, kas saistīti ar MCDM ierīcēm . Tas ir noderīgi, lai redzētu, kā darba slodze faktiski tiek sadalīta starp GPU un NPU, kad lietojumprogramma intensīvi izmanto gan mākslīgo intelektu, gan grafiku.
No otras puses, ONNX Runtime, sākot ar 1.17 versiju un ar uzlabojumiem 1.18.1 versijā, ģenerē izpildlaika notikumus, kurus var tvert un vizualizēt, izmantojot WPA . Tas ļauj redzēt, cik ilgs laiks nepieciešams modeļa ielādei, kura EP konfigurācija tiek izmantota, kā uzvedas NPU secinājumi (piemēram, QNN) un cik daudz laika katrs operators patērē modelī.
Izstrādātāji var apvienot konkrētus ONNX izpildlaika profilus ar citiem WPR profiliem (CPU, disks utt.), lai iegūtu ļoti precīzu priekšstatu par to, kur tiek patērēts laiks un kā optimizēt veiktspēju . Turklāt trešo pušu rīki, piemēram, Qualcomm Snapdragon Profiler (qprof), piedāvā visas sistēmas pārskatu un nodrošina vēl detalizētākus NPU rādītājus Snapdragon platformās.
Izmantojot šo utilītu komplektu, ir iespējams ne tikai pārbaudīt, vai NPU tiek izmantots, bet arī atklāt sastrēgumus, negaidītus latentumus vai neoptimālas konfigurācijas un tās labot, lai maksimāli izmantotu pieejamo aparatūru.
Kā noteikt, vai jūsu Windows datoram ir NPU un ko tas izmanto, lai no tā gūtu labumu
Lietotājiem tipisks jautājums ir: vai manam datoram tiešām ir NPU un vai Windows to izmanto? Vienkāršākais veids, kā to pārbaudīt, ir atvērt uzdevumu pārvaldnieku (Ctrl+Shift+Esc), doties uz cilni “Veiktspēja” un meklēt sadaļu ar nosaukumu “NPU”.
Ja parādās īpaša NPU diagramma, tas nozīmē, ka jūsu datoram ir šis specializētais procesors. Tur cilnē “Procesi” varat redzēt, kuras lietojumprogrammas patērē NPU resursus, vai arī iedziļināties, izmantojot papildu rīkus, lai veiktu tehniskāku analīzi. Ja tā neparādās, var būt noderīgi pārbaudīt datora sistēmas konfigurāciju un BIOS vai UEFI iestatījumus, lai pārliecinātos par programmaparatūras pielāgojumiem vai paātrinātāja atbalstu.
NPU klātbūtne mūsdienu datoros kļūst arvien izplatītāka, īpaši klēpjdatoros, kas sertificēti kā Copilot+ PC, un tajos, kuros integrēti jaunākās paaudzes AMD, Intel vai Qualcomm procesori. Ražotāji iekļauj šīs ierīces kā standarta aparatūras komponentus, tāpat kā savulaik GPU tika integrēti pašos procesoros.
Daudzos gadījumos lietotājs sāk pamanīt priekšrocības, nemainot neko savā darba veidā: skaidrākus videozvanus, reāllaikā bez aiztures piemērotus efektus, ilgāku akumulatora darbības laiku , izmantojot viedās funkcijas, un vispārēju plūstamības sajūtu pat tad, ja vienlaikus darbojas vairāki uzdevumi.
Tiem, kam ir tehniska interese, Windows izsekošanas rīki ļauj precīzi zināt, kuri procesi nodarbina NPU un ar kādiem lietošanas modeļiem , kas ir ļoti noderīgi, testējot jaunu programmatūru vai ja vēlaties pārbaudīt, vai lietojumprogramma patiešām izmanto aparatūru.
Reālās pasaules lietojumprogrammas, kas jau izmanto NPU priekšrocības operētājsistēmā Windows
Papildus teorijai interesanti ir redzēt, kuras ikdienas programmas izmanto Windows NPU priekšrocības . Saraksts pieaug ar katru mēnesi, taču vairāki labi pazīstami vārdi jau ir sākuši paļauties uz šo mikroshēmu, lai paātrinātu savas mākslīgā intelekta funkcijas.
Attēlu rediģēšanas pasaulē Adobe Photoshop ir lielisks piemērs. Mākslīgā intelekta darbināmi rīki, piemēram, automātiska objektu atlase, fona noņemšana un trokšņu samazināšana darbības laikā, var darboties daudz ātrāk, ja datoram ir neironu procesors (NPU), atbrīvojot GPU citiem renderēšanas uzdevumiem.
Drošības ziņā Norton Antivirus ir iekļāvis mākslīgā intelekta darbinātas funkcijas, kas izmanto neironu procesoru (NPU), lai ātrāk atklātu pikšķerēšanas mēģinājumus un krāpniecību tīmekļa vietnēs. Tas paātrina aizsardzību reāllaikā, nepārslogojot centrālo procesoru un nepalēninot sistēmas darbību.
Dizaina un vizuālā satura jomā tādas platformas kā Canva ir pievienojušas arvien jaudīgākus mākslīgā intelekta darbinātus ģenerēšanas un rediģēšanas rīkus. Daudzas no šīm funkcijām var paātrināt ar lokālu aparatūru, ja ir pieejams neironu procesors (NPU), tādējādi samazinot gaidīšanas laiku, lietojot filtrus, ģeneratīvus fonus vai viedās pielāgošanas iespējas.
Video rediģēšanai DaVinci Resolve Studio integrē arī rīkus, kas izmanto lokālo mākslīgā intelekta paātrinājumu, piemēram, trokšņu samazināšanu, sejas atpazīšanu, automātisko kadrēšanu un citas uzlabotas funkcijas. Šo uzdevumu deleģēšana NPU nodrošina vienmērīgāku rediģēšanas pieredzi un īsāku eksportēšanas laiku.
Turklāt operētājsistēmas līmenī Windows Studio Effects, Copilot un citas Windows 11 funkcijas izmanto NPU, lai reāllaikā palaistu video efektus, runas izolāciju vai kontekstuālos palīgus, tādējādi koncentrējot centrālo procesoru uz lietotāja atvērtajām produktivitātes lietojumprogrammām.
NPU tirgū: Intel, AMD, Qualcomm un mākslīgā intelekta datoru attīstība
NPU ieviešana personālajos datoros nav atsevišķs eksperiments: viss liecina, ka mēs piedzīvojam fundamentālu pāreju, kas līdzīga pārejai uz SSD diskiem vai GPU integrācijai procesoros . Analīzes uzņēmumi, piemēram, IDC, lēš, ka līdz 2025. gadam vairāk nekā 100 miljoni personālo ierīču (klēpjdatoru, planšetdatoru un galddatoru) tiks izlaistas ar integrētiem NPU.
Šajā kontekstā trīs galvenie spēlētāji, kas visvairāk investē datoriem paredzētajā mākslīgajā intelektā, ir AMD, Intel un Qualcomm . Katram ir sava pieeja, bet visiem ir viens un tas pats mērķis: nodrošināt, lai mākslīgais intelekts darbotos tieši lietotāja aparatūrā ātri, efektīvi un privāti.
Piemēram, AMD ir laidis klajā Ryzen AI Max sērijas un Ryzen AI 300 saimes ar tādām arhitektūrām kā Zen 5 un XDNA 2. Vismodernākie modeļi piedāvā līdz pat 55 TOPS AI veiktspēju, pieckārt palielinot iepriekšējās paaudzes veiktspēju un nodrošinot ļoti jaudīgus īpaši pārnēsājamus formas faktorus. Lai uzzinātu vairāk par to arhitektūrām, varat lasīt par AMD RDNA 5 un uDNA.
Šajā diapazonā izceļas tādi procesori kā AMD Ryzen AI 9 HX 370 , kura NPU sasniedz 50 TOPS un par 25 % pārsniedz Copilot+ PC minimālo slieksni, tāpat kā Ryzen AI 395+ , kas piedāvā vēl labāku ilgstošu AI veiktspēju prasīgiem lokāliem modeļiem. Pateicoties telpiskās datu plūsmas pieejai, šīs mikroshēmas pārvieto datus starp MAC ierīcēm, pastāvīgi nepiekļūstot RAM, tādējādi samazinot latentumu un enerģijas patēriņu.
Savukārt Intel ir skaidri norādījis, ka mākslīgais intelekts ir tā ceļveža centrā: tā mērķis ir pāris gadu laikā piegādāt vairāk nekā 100 miljonus procesoru ar īpašiem mākslīgā intelekta paātrinātājiem , sasniedzot līdz pat 120 TOPS kopējo veiktspēju un atbalstot vairāk nekā 500 uz mākslīgā intelekta balstītas funkcijas ar simtiem neatkarīgu programmatūras izstrādātāju ekosistēmas atbalstu. Lai sekotu līdzi mikroshēmu attīstībai, iepazīstieties ar mūsu jaunākajām ziņām par Intel procesoriem.
Runājot par Qualcomm, tā Snapdragon X Elite datoru platformas ir kļuvušas par vienu no Copilot+ datoru pīlāriem, nostiprinot modeli, kurā centrālais procesors, grafiskā grafika un neironu procesors pastāv līdzās ļoti efektīvā SoC, kas ir ideāli piemērots īpaši plāniem klēpjdatoriem ar daudzām akumulatora darbības stundām un vienmēr pieejamām mākslīgā intelekta iespējām.
Priekšrocības dažādiem lietotāju tipiem: no biroja automatizācijas līdz lokālam mākslīgajam intelektam
Daudziem svarīgs jautājums ir: ko es ikdienā iegūšu ar NPU operētājsistēmā Windows? Atbilde ir atkarīga no lietošanas veida, taču gandrīz visi tipiskie lietotāji no tā gūst labumu vienā vai otrā veidā.
Biroja darbiniekiem NPU ļauj darboties tādām funkcijām kā Windows Studio efekti videozvanos (fona izpludināšana, autofokuss, apgaismojuma uzlabošana, balss izolācija), nepārslogojot centrālo procesoru. Tas atbrīvo vairāk vietas lielu izklājlapu apstrādei, vairākām atvērtām produktivitātes lietojumprogrammām un intensīvai tīmekļa pārlūkošanai, nepalēninot datora darbību.
Studenti un izkliedētās komandas var izmantot reāllaika tulkojumus, automātisku audio transkripciju un palīgus, kas palīdz ar dokumentu kopsavilkumiem pat ierobežotas savienojamības apstākļos. Lokālais mākslīgais intelekts novērš lielu daļu latentuma un uzlabo pieredzi starptautiskās sanāksmēs.
Radošie profesionāļi gan fotogrāfijas, gan video jomā gūst labumu no NPU paātrinātiem filtriem, ainas atpazīšanas, viedajām maskām un ātrākas ģeneratīvās aizpildīšanas , kas samazina gaidīšanas laiku, rediģējot un eksportējot projektus. Tas ir īpaši pamanāms prasīgās darbplūsmās.
Visbeidzot, lietotāji, kuri vēlas lokāli palaist mākslīgā intelekta modeļus savos datoros (piemēram, lai izvairītos no sensitīvu datu augšupielādes mākonī), atrod trūkstošo daļu neironu procesorā (NPU). Secinājumu apstrāde pašā ierīcē aizsargā privātumu, novērš savienojuma atkarības un var piedāvāt ļoti konkurētspējīgus reakcijas laikus tādiem uzdevumiem kā lokālie tērzēšanas roboti, dokumentu klasificēšana vai attēlu analīze.
Visos gadījumos kopīgais saucējs ir tāds, ka neironu procesors (NPU) ļauj mākslīgajam intelektam vairs nebūt kaut kam attālinātam, kas darbojas tikai tad, kad esat izveidojis savienojumu, un darboties kā datora iebūvētai funkcijai, kas vienmēr ir pieejama un pielāgota jūsu darbībām , sākot no vienkāršākajām līdz vismodernākajām.
Bieži uzdotie jautājumi par NPU, veiktspēju un privātumu operētājsistēmā Windows
Bieži uzdots jautājums ir, kā NPU patiesībā atšķiras no tradicionālās grafikas kartes . Lai gan GPU var darbināt mākslīgā intelekta modeļus, tas galvenokārt ir paredzēts grafikai, savukārt NPU ir paredzēts tikai neironu tīklu un mašīnmācīšanās darbību paātrināšanai. Tas ļauj tam atbrīvot gan centrālo procesoru, gan grafisko procesoru no atkārtotiem mākslīgā intelekta uzdevumiem, vienlaikus patērējot ievērojami mazāk enerģijas.
Vēl viens svarīgs jautājums ir par to, kā tas uzlabo privātumu. Palaižot mākslīgā intelekta funkcijas lokāli, neironu procesors (NPU) novērš nepieciešamību nepārtraukti sūtīt personas datus uz mākoņkrātuvi . Tiem, kas strādā ar sensitīvu informāciju (žurnālistiem, juristiem, ārstiem, uzņēmumiem ar kritiski svarīgiem datiem) vai vienkārši rūpējas par savu privātumu, tas rada ievērojamu atšķirību salīdzinājumā ar pilnīgu paļaušanos uz attālinātiem pakalpojumiem.
Runājot par spēlēm, neironu procesors (NPU) neaizstāj grafisko procesoru (GPU), taču tas var netieši palīdzēt noteiktos gadījumos . Tādas tehnoloģijas kā AMD FidelityFX Super Resolution izmanto mākslīgo intelektu (AI), lai palielinātu attēla mērogu un uzlabotu kadru ātrumu (vai Nvidia DLSS 5 ). Ja daļu no šī aprēķina veic NPU, GPU var koncentrēties uz tīru renderēšanu, kas dažās spēlēs nodrošina līdzsvarotāku kopējo veiktspēju.
Ir arī loģiski domāt, vai pretvīrusu programmatūrā, asistentos vai produktivitātes rīkos integrētais mākslīgais intelekts "izspiegos" vairāk. Realitātē lokālā apstrāde neironu procesorā (NPU) ļauj panākt tieši pretējo : jo vairāk darbību tiek veikta pašā ierīcē, jo mazāk datu jānosūta uz ārējiem serveriem, tādējādi samazinot uzbrukuma virsmu. Tomēr vienmēr ieteicams pārskatīt katras lietojumprogrammas privātuma politiku.
Gan ražotāju, gan analītiķu vidū valda vispārējs uzskats, ka neironu procesori (NPU) un mākslīgā intelekta datori nav pārejoša modes lieta, bet gan nākamais loģiskais solis datoru evolūcijā , tāpat kā savulaik bija daudzkodolu procesori un SSD atmiņas. Mēs joprojām esam agrīnā stadijā, taču tas, ko mēs jau redzam tirgū, liecina, ka jau pēc dažiem gadiem NPU būs tikpat izplatīti kā integrētie GPU.
Visa šī virzība uz neironu procesoriem (NPU) operētājsistēmā Windows veido stabilu pamatu, lai mākslīgais intelekts (AI) varētu pāriet no izolēta mākoņpakalpojuma uz personālā datora standarta iespēju, nodrošinot ātrākus, efektīvākus un privātākus datorus, kas ir labāk pielāgoti tam, kā mēs ikdienā strādājam, mācāmies un veidojam saturu.
