- Inaalis ng mga NPU sa Windows ang mga gawain ng AI mula sa CPU at GPU, na nagpapabuti sa performance, buhay ng baterya, at privacy sa pamamagitan ng pagpapatakbo ng mga modelo nang direkta sa device.
- Ang mga Copilot+ PC na nagpapatakbo ng Windows 11 ay nangangailangan ng higit sa 40 TOPS sa NPU at gumagamit ng Windows ML at ONNX Runtime para awtomatikong magamit ang CPU, GPU, at NPU.
- Isinasama ng Intel, AMD, at Qualcomm ang mga high-performance NPU sa kanilang mga SoC, na nagbibigay-daan sa mga advanced na feature ng AI para sa mga gawain sa opisina, pagkamalikhain, seguridad, at propesyonal na paggamit.
- Ang mga tool tulad ng Task Manager, WPR, WPA, at GPUView ay nagbibigay-daan sa iyong sukatin ang aktwal na paggamit ng NPU at i-optimize ang mga modelo at application upang masulit ang hardware.
Ang pagdating ng mga NPU sa Windows ay lubos na nagpabago sa kung paano natin ginagamit ang artificial intelligence sa mga PC. Ang dating halos umaasa lamang sa cloud ay nagsisimula na ngayong tumakbo nang direkta sa ating mga laptop, desktop, at mini PC, na may napakalaking pagpapabuti sa bilis, buhay ng baterya, at privacy. Ang Windows 11, lalo na sa mga bagong Copilot+ device at mga pinakabagong processor mula sa Intel, AMD, at Qualcomm, ang nasa puso ng rebolusyong ito.
Kung iniisip mong i-upgrade ang iyong computer sa mga darating na buwan, mahalagang maunawaan kung ano ang isang NPU, kung bakit kinakailangan ito ng Microsoft para sa maraming advanced na feature ng AI sa Windows 11 , ang papel nito sa mga Copilot+ PC, kung aling mga modelo ng processor ang naglalaman nito, at kung aling mga application sa totoong mundo ang gumagamit na ng bagong chip na ito. Tingnan natin nang mas malapitan, nang hindi nagpapaligoy-ligoy, upang makagawa ka ng matalinong desisyon kung sulit ba ang pag-upgrade.
Ano nga ba ang isang NPU at bakit ito pinag-uusapan ngayon ng lahat?
Kapag pinag-uusapan natin ang isang NPU (Neural Processing Unit) sa isang modernong kompyuter, tinutukoy natin ang isang processor na dalubhasa sa pagsasagawa ng mga operasyong matematikal ng mga neural network at iba pang mga algorithm ng machine learning. Hindi ito nilayong palitan ang CPU o GPU, kundi upang umakma sa mga ito sa pamamagitan ng paghawak sa lahat ng bagay na may kaugnayan sa AI.
Hindi tulad ng central processing unit (CPU), na idinisenyo upang isagawa ang mga lohikal na tagubilin nang sunud-sunod, at ang graphics card, na nakatuon sa napakalaking pixel rendering, ang NPU ay dinisenyo mula sa simula upang magparami at mag-ipon ng mga matrice ng mga numero sa hindi kapani-paniwalang bilis at may napakababang konsumo ng kuryente . Ito mismo ang batayan kung paano "nag-iisip" ang mga modelo ng AI, mula sa pagkilala sa mukha hanggang sa pagbuo ng imahe.
Sa pagsasagawa, masasabi nating ang mga NPU ang nagiging partikular na makina ng lahat ng matatalinong tungkulin ng sistema at mga aplikasyon, mula sa pag-blur ng background sa isang video call hanggang sa real-time transcription, kabilang ang mga assistant tulad ng Copilot o mga advanced na video editing filter.
Isang pangunahing bentahe ay ang AI ay maaaring direktang tumakbo sa device nang hindi kinakailangang magpadala ng data sa mga remote server. Pinapabuti nito ang privacy, binabawasan ang latency, at inaalis ang mga trabahong natatanggal mula sa CPU at GPU , na nagbibigay sa kanila ng mas maraming oras para sa iba pang mga gawain.
Bukod pa rito, maraming tagagawa ang nagdidisenyo ng mga unit na ito upang gumana sa mga format na may mas mababang katumpakan tulad ng INT8 sa halip na FP32. Dahil hindi ito nangangailangan ng matinding katumpakan sa matematika upang makagawa ng mga tumpak na hula, ang NPU ay maaaring makatipid ng malaking halaga ng enerhiya sa bawat hinuha , na lalong mahalaga sa mga laptop at mini PC.
CPU, GPU at NPU: ang tatsulok ng modernong SoC
Ang mga processor na ginagamit sa mga modernong Windows 11 device ay karaniwang gumagamit ng System-on-a-Chip (SoC) na pamamaraan, kung saan ang CPU, GPU, at NPU ay naka-integrate sa iisang silicon chip . Ang pisikal na kalapitan na ito ay nagbibigay-daan sa kanila na magbahagi ng system RAM at maglipat ng mga gawain sa pagitan nila nang walang makabuluhang mga bottleneck.
Sa tatsulok na ito, ang CPU ang gumaganap bilang utak na kumokontrol, ang GPU ang humahawak sa napakalaking parallel processing para sa mga graphics, at ang NPU ay ganap na nakatuon sa machine learning at mga operasyon ng neural network . Bawat isa ay may kanya-kanyang larangan ng kadalubhasaan, at ang Windows 11 ang nagpapasya kung ano ang gagawin batay sa workload.
Kapag kailangang maglapat ang sistema ng mga video effect, magsagawa ng on-the-fly speech translation, o magpatakbo ng ONNX AI model, sinusuri ng Windows 11 ang available na hardware at, kung makakita ito ng NPU, ire-redirect nito ang mga gawaing iyon dito upang makamit ang pinakamahusay na balanse sa pagitan ng performance at pagkonsumo ng kuryente . Kung, sa anumang kadahilanan, hindi magagamit ang NPU, ang GPU o, sa huli, ang CPU ang mamamahala.
Ang matalinong pamamahagi ng gawain na ito ay lalong mahalaga sa mga manipis na laptop, mini PC, at all-in-one, kung saan kritikal ang pamamahala ng thermal at pagkonsumo ng kuryente (tingnan ang aming mga tutorial sa hardware ng laptop ). Ang patuloy na pag-alis ng trabaho ng AI sa NPU ay pumipigil sa sobrang pag-init ng CPU at sa pangangailangang bawasan ang frequency nito , kaya napapanatili ang pangkalahatang kinis ng sistema.
Kung pag-uusapan ang kahusayan, ang isang kumbensyonal na GPU ay kayang kumonsumo ng sampu-sampung watts para patakbuhin ang mga AI algorithm na may ilang komplikasyon, habang ang isang NPU ay kayang gawin ang parehong trabaho nang may mas mababang konsumo , na nagbibigay-daan sa iyong madaling pahabain ang buhay ng baterya ng 15% hanggang 20% sa mga sitwasyong may masinsinang AI.
NPU at Windows 11: ang papel ng mga Copilot+ PC
Mas lumawak pa ang hakbang ng Microsoft sa pagpapakilala ng Copilot+ PCs, isang bagong kategorya ng mga computer na may Windows 11 na idinisenyo upang gawing hindi lamang isang karagdagang tampok ang AI, kundi isang bagay na isinama sa pang-araw-araw na buhay ng gumagamit. Nakikilala ang mga makinang ito, bukod sa iba pang mga bagay, sa pagkakaroon ng isang mataas na pagganap na NPU na may kakayahang lumampas sa 40 TOPS (Tera Operations Per Second).
Ang kinakailangang ito na mahigit sa 40 TOPS ay hindi basta-basta na lang ginagawa: marami sa mga bagong feature ng AI ng Windows 11, kapwa sa antas ng system at application, ay nangangailangan ng ganoong antas ng patuloy na lakas upang makapaghatid ng mga real-time na pagsasalin, pagbuo ng imahe, mga video effect, at matatalinong assistant nang hindi naaapektuhan ang buhay ng baterya o ang pagganap ng iba pang mga gawain.
Sa pagsasagawa, ang isang Copilot+ PC ay idinisenyo upang mag-alok ng buong araw na buhay ng baterya, patuloy na magagamit na mga karanasan sa AI, at direktang access sa mga pinaka-advanced na modelo at tampok ng AI ng Microsoft. Ang ideya ay maaari mong gamitin ang Copilot upang matulungan kang magtrabaho, mag-aral, o lumikha nang hindi masyadong umaasa sa cloud.
Ang mga sistemang ito ay umaasa sa mga susunod na henerasyon ng mga processor mula sa Qualcomm (tulad ng pamilyang Snapdragon X Elite), AMD (tulad ng pinakabagong Ryzen AI), at Intel (Core Ultra at mga kahalili nito) — para ihambing ang mga opsyon, tingnan ang mga katumbas na processor ng Intel at AMD . Lahat sila ay may konsepto ng pagsasama ng tatlong processing engine: CPU, GPU, at NPU , upang maipamahagi ng Windows 11 ang workload nang napakahusay.
Ang platform mismo ng Windows 11 ay naghahanda upang samantalahin ang mga kakayahang ito sa pamamagitan ng mga natatanging karanasan, tulad ng pinahusay na mga epekto ng video call, matalinong organisasyon ng dokumento, mga assistant na nagbubuod ng lokal na nilalaman , at mga malikhaing tampok na umaasa sa AI nang hindi palaging nagpapadala ng data sa cloud.
Ang Snapdragon X Elite chip at ang taya ng Qualcomm
Isa sa mga pangunahing bahagi ng Copilot+ PC ay ang Snapdragon X Elite chip, na batay sa arkitektura ng Arm at binuo ng Qualcomm. Dinisenyo ang processor na ito na isinasaalang-alang ang integrasyon ng AI, na may kasamang napakalakas at lubos na matipid sa enerhiya na NPU.
Ang NPU ng Snapdragon X Elite ay kayang magproseso ng malalaking volume ng data nang sabay-sabay, na umaabot sa sampu-sampung trilyong operasyon bawat segundo , na nagbibigay-daan dito upang pangasiwaan ang mga gawaing nangangailangan ng AI tulad ng sabay-sabay na pagsasalin, pagpapahusay ng imahe, o real-time na pagsusuri nang hindi agad nauubos ang baterya.
Kinokontrol ng Windows 11 ang pinagsamang gawain ng CPU, GPU, at NPU sa mga device na ito. Sa anumang oras, ang sistema ang nagpapasya kung aling component ang pinakaangkop para sa bawat gawain, hinahanap ang pinakamainam na balanse sa pagitan ng bilis, kakayahang tumugon, at pagkonsumo ng enerhiya . Nagreresulta ito sa napakanipis at magaan na mga laptop na may buong araw na buhay ng baterya at isang patuloy na aktibong karanasan sa AI.
Ang pangunahing bentahe ng pamamaraang ito ay marami sa mga karanasan sa AI sa mga Copilot+ PC ay maaaring direktang tumakbo sa mismong device: mula sa mga feature ng Windows 11 hanggang sa mga tool ng third-party na na-optimize para sa NPU . Binabawasan nito ang pag-asa sa koneksyon sa internet at pinapabuti ang seguridad ng data.
Nag-aalok din ang Qualcomm ng mga partikular na mapagkukunan para sa mga developer sa pamamagitan ng Qualcomm AI Hub nito, kung saan makakahanap ka ng mga modelong na-optimize at napatunayan na para sa mga NPU na ito , na handang tumakbo nang mahusay sa mga Copilot+ device na may Snapdragon X Elite.
Paano natutukoy at ginagamit ng Windows ang NPU para sa artificial intelligence
Ang NPU, tulad ng anumang iba pang hardware resource sa isang PC, ay nangangailangan ng operating system at mga application upang malaman kung paano makipag-ugnayan dito at gamitin ang kapangyarihan nito . Pinupino ng Microsoft kung paano ma-access ang mga unit na ito, at sa kasalukuyan ang rekomendasyon ay gamitin ang Windows Machine Learning (WinML o WinML) bilang pangunahing paraan.
Sa loob ng ilang panahon, ang DirectML ang karaniwang pamamaraan para sa paggamit ng AI acceleration sa Windows, ngunit ngayon, ang WinML na ang naging sentro ng atensyon . Nilalayon ng pagbabagong ito na gawing simple ang buhay ng mga developer at paganahin ang mga application na gamitin ang NPU at GPU nang walang kahirap-hirap hangga't maaari, kapwa sa mga Copilot+ PC at iba pang mga device na may Intel o AMD NPU.
Sa Windows ML, awtomatikong nade-detect ng system ang mga Execution Provider (EP) na tugma sa hardware ng device. Sa halip na manu-manong i-package ng developer ang mga library na partikular sa tagagawa, dina-download at pinamamahalaan ng Windows ang mga EP na ito sa isang integrated na paraan sa pamamagitan mismo ng system o ng Windows Update.
Sa kaibuturan nito, ginagamit pa rin ng Windows ML ang ONNX Runtime bilang inference engine nito, ngunit itinatago nito ang malaking bahagi ng pagiging kumplikado ng pamamahala ng iba't ibang hardware vendor mula sa developer . Direktang nakikipagtulungan ang Microsoft sa Qualcomm, Intel, AMD, at iba pang mga kasosyo upang matiyak na ang mga na-update at na-optimize na EP ay magagamit para sa bawat bagong henerasyon ng silicon.
Kapag nag-deploy ang isang application ng AI model gamit ang Windows ML sa isang PC na may NPU, awtomatiko ang proseso: Sinusuri ng WinML kung aling mga accelerator ang available, pinipili ang pinakaepektibong EP (QNN para sa mga Qualcomm NPU, OpenVINO para sa mga platform ng Intel, atbp.), nilo-load ito, at sinisimulan ang paghihinuha. Kung may magkamali, maayos itong lilipat sa GPU o CPU nang walang anumang interbensyon ng user.
Mga format ng modelo, kwantisasyon, at mga tool ng developer
Karaniwang sinasanay sa simula ang mga modelo ng AI sa mga format na may mataas na katumpakan tulad ng FP32, ngunit ang mga consumer NPU ay may posibilidad na mas mahusay na gumana sa mas maliliit na representasyon tulad ng INT8 upang makamit ang mas mataas na pagganap at kahusayan sa enerhiya.
Nangangahulugan ito na ang mga modelo ay dapat i-convert o i-quantize bago patakbuhin sa NPU. Maraming modelo ang handa nang gamitin sa na-optimize na format na ONNX, ngunit ang mga gustong magdala ng sarili nilang modelo (BYOM) ay maaaring gumamit ng mga partikular na toolchain upang iakma ito sa hardware.
Kabilang sa mga pinakakawili-wiling mapagkukunan ay ang Qualcomm AI Hub , na nag-aalok ng mga napatunayan at na-optimize na modelo para sa pagpapatakbo sa mga Copilot+ PC na may mga Snapdragon X Elite processor. Kasama rin ang sikat na ONNX Model Zoo , isang imbakan ng mga paunang sinanay at open-source na modelo na handang tumakbo sa iba't ibang mga device na may NPU, kabilang ang mga mula sa Intel at AMD.
Para ma-optimize ang sarili nitong mga modelo, inirerekomenda ng Microsoft ang paggamit ng Olive, isang tool na isinasama sa ONNX Runtime upang pangasiwaan ang compression, optimization, at NPU-oriented compilation . Ang kombinasyong ito ay nagbibigay-daan para sa mas mataas na performance gamit ang parehong hardware, na lalong mahalaga sa mga laptop kung saan mahalaga ang bawat watt.
Dahil sa buong ecosystem na ito, mas pinapadali para sa mga developer na tumuon sa karanasan ng user at iwanan ang low-level hardware integration sa Windows ML, ONNX Runtime, at mga kaugnay na tool , kung saan dating lumalabas ang mga problema sa compatibility at maintenance.
Paano sukatin ang aktwal na pagganap ng NPU sa Windows
Kapag isinasama ang mga tampok ng AI sa isang aplikasyon, mahalagang sukatin ang aktwal na pagganap ng mga modelo sa NPU at maunawaan kung ano ang nangyayari sa loob ng sistema. Nag-aalok ang Windows ng ilang mga tool sa pag-diagnose at pagsubaybay upang magawa ito nang detalyado.
Ang unang punto ng sanggunian, na maa-access ng sinumang user, ay ang Windows 11 Task Manager . Sa tab na "Performance", mayroong isang partikular na seksyon para sa NPU kasama ang CPU, memory, disk, Wi-Fi, at GPU. Doon mo makikita ang porsyento ng paggamit, bersyon ng driver, at iba pang kaugnay na data.
Para sa mga developer at mga advanced na user, magagamit ang iba pang mas makapangyarihang tool, tulad ng Windows Performance Recorder (WPR) , na ngayon ay may kasamang neural processing profile upang itala ang aktibidad ng NPU, at Windows Performance Analyzer (WPA) , na nagbibigay-daan sa iyong suriin ang mga recording na iyon.
Bumubuo ang WPR ng detalyadong mga bakas kung paano nakikipag-ugnayan ang sistema sa NPU sa pamamagitan ng modelo ng driver ng MCDM ng Microsoft. Pagkatapos, pinapayagan ka ng WPA na tingnan ang mga graph at timeline na nagpapakita ng CPU, disk, network, mga kaganapan sa ONNX Runtime, at isang nakalaang talahanayan ng NPU , lahat sa iisang timeline.
Dahil dito, posible na suriin ang mga aspeto tulad ng workload, oras ng paglo-load ng modelo, paglikha ng inference session, mga parameter ng configuration ng execution provider, ang oras ng bawat indibidwal na inference, at ang profile ng bawat operator sa loob ng AI model. Maging ang mga NPU sub-hardware metrics, tulad ng memory bandwidth, ay maaaring maobserbahan.
Mga karagdagang kagamitan: GPUView, ONNX Runtime, at mga profile ng hardware
Bukod sa WPR at WPA, ang Windows ecosystem ay nag-aalok ng iba pang mga utility na nakakatulong upang mas maunawaan kung ano talaga ang ginagawa ng NPU kapag nagpapatakbo ng mga modelo ng AI . Isa na rito ang GPUView, isang tool na nagbabasa ng mga kaganapang naitala sa mga trace file (.etl) at ipinapakita ang mga ito nang biswal.
Maaari na ngayong ipakita ng GPUView hindi lamang ang mga operasyon ng GPU, kundi pati na rin ang aktibidad ng NPU at mga kaganapan sa DirectX na nauugnay sa mga MCDM device . Ito ay kapaki-pakinabang para makita kung paano aktwal na ipinamamahagi ang workload sa pagitan ng GPU at NPU kapag ang isang application ay masinsinang gumagamit ng parehong AI at graphics.
Sa kabilang banda, ang ONNX Runtime, simula sa bersyon 1.17 at may mga pagpapabuti sa 1.18.1, ay naglalabas ng mga runtime event na maaaring makuha at mailarawan gamit ang WPA . Nagbibigay-daan ito sa iyong makita kung gaano katagal mag-load ang isang modelo, kung aling EP configuration ang ginagamit, kung paano kumikilos ang mga hinuha sa NPU (hal., QNN), at kung gaano karaming oras ang kinokonsumo ng bawat operator sa loob ng modelo.
Maaaring pagsamahin ng mga developer ang mga partikular na ONNX Runtime profile sa iba pang mga WPR profile (CPU, disk, atbp.) upang makakuha ng tumpak na larawan kung saan ginugugol ang oras at kung paano i-optimize ang performance . Bukod pa rito, ang mga third-party tool tulad ng Qualcomm Snapdragon Profiler (qprof) ay nag-aalok ng pangkalahatang pananaw sa buong sistema at nagbibigay ng mas detalyadong mga sukatan ng NPU sa mga platform ng Snapdragon.
Gamit ang set ng mga utility na ito, posible hindi lamang na mapatunayan na ginagamit ang NPU, kundi pati na rin matukoy ang mga bottleneck, hindi inaasahang mga latency, o mga suboptimal na configuration at itama ang mga ito upang masulit ang magagamit na hardware.
Paano malalaman kung ang iyong Windows PC ay may NPU at kung ano ang ginagamit nito upang makinabang mula rito
Para sa mga end user, ang karaniwang tanong ay: mayroon ba talagang NPU ang aking computer at ginagamit ba ito ng Windows? Ang pinakamadaling paraan para malaman ay buksan ang Task Manager (Ctrl+Shift+Esc), pumunta sa tab na "Performance", at hanapin ang seksyong may label na "NPU".
Kung may lumalabas na nakalaang graph ng NPU, nangangahulugan ito na ang iyong computer ay mayroong espesyalisadong processor na ito. Mula doon, makikita mo kung aling mga application ang kumukonsumo ng mga resource ng NPU sa tab na "Mga Proseso" o mas malalim na susuriin gamit ang mga advanced na tool para sa mas teknikal na pagsusuri. Kung hindi ito lumalabas, maaaring makatulong na suriin ang system configuration ng iyong PC at mga setting ng BIOS o UEFI upang i-verify ang mga pagsasaayos ng firmware o suporta sa accelerator.
Ang pagkakaroon ng mga NPU ay nagiging karaniwan na sa mga modernong computer, lalo na sa mga laptop na sertipikado bilang Copilot+ PC at sa mga nagsasama ng pinakabagong henerasyon ng mga processor mula sa AMD, Intel, o Qualcomm. Isinasama ng mga tagagawa ang mga unit na ito bilang isang karaniwang bahagi ng hardware, tulad ng mga GPU na dating isinama sa mga processor mismo.
Sa maraming pagkakataon, nagsisimula nang mapansin ng gumagamit ang mga bentaha nang hindi kinakailangang baguhin ang anumang bagay sa paraan ng kanilang paggana: mas malinaw na mga video call, mga epektong inilalapat nang real time nang walang lag, mas mahabang buhay ng baterya kapag gumagamit ng mga matatalinong tampok, at isang pangkalahatang pakiramdam ng pagiging maayos kahit na maraming gawain ang tumatakbo nang sabay-sabay.
Para sa mga may kuryosidad sa teknikal na aspeto, ang mga tool sa Windows tracing ay nagbibigay-daan sa iyong malaman nang eksakto kung aling mga proseso ang nagpapahirap sa NPU at kung anong mga pattern ng paggamit ang ginagamit , isang bagay na lubhang kapaki-pakinabang kung sinusubukan mo ang bagong software o kung gusto mong i-verify kung ang isang application ay talagang sinasamantala ang hardware.
Mga aplikasyon sa totoong mundo na gumagamit na ng NPU sa Windows
Higit pa sa teorya, ang nakakainteres ay makita kung aling mga pang-araw-araw na programa ang sinasamantala ang NPU sa Windows . Lumalaki ang listahan buwan-buwan, ngunit ilang kilalang pangalan na ang nagsimula nang umasa sa chip na ito upang mapabilis ang kanilang mga function ng AI.
Sa mundo ng pag-eedit ng imahe, ang Adobe Photoshop ay isang mahusay na halimbawa. Ang mga tool na pinapagana ng AI tulad ng awtomatikong pagpili ng bagay, pag-alis ng background, at on-the-fly na pagbabawas ng ingay ay maaaring tumakbo nang mas mabilis kung ang PC ay may NPU, na nagpapalaya sa GPU para sa iba pang mga gawain sa pag-render.
Sa usapin ng seguridad, isinama ng Norton Antivirus ang mga tampok na pinapagana ng AI na gumagamit ng NPU upang mas mabilis na matukoy ang mga pagtatangka ng phishing at mga scam sa mga website. Ginagawa nitong mas mabilis ang real-time na proteksyon nang hindi nag-o-overload ang CPU o nagpapabagal sa sistema.
Sa disenyo at visual na nilalaman, ang mga platform tulad ng Canva ay nagdaragdag ng lalong makapangyarihang mga tool sa pagbuo at pag-edit na pinapagana ng AI. Marami sa mga feature na ito ay maaaring mapabilis gamit ang lokal na hardware kapag may available na NPU, na binabawasan ang oras ng paghihintay kapag naglalapat ng mga filter, generative background, o matalinong pagsasaayos.
Para sa pag-edit ng video, isinasama rin ng DaVinci Resolve Studio ang mga tool na nakikinabang sa lokal na pagpapabilis ng AI, tulad ng pagbabawas ng ingay, pagkilala sa mukha, auto-framing, at iba pang mga advanced na tampok. Ang pagtatalaga ng mga gawaing ito sa NPU ay nagreresulta sa mas maayos na karanasan sa pag-edit at mas maikling oras ng pag-export.
Bukod pa rito, sa antas ng operating system, ginagamit ng Windows Studio Effects, Copilot, at iba pang feature ng Windows 11 ang NPU upang magpatakbo ng mga video effects, speech isolation, o mga contextual assistant nang real time, na pinapanatiling nakatuon ang CPU sa mga productivity application na nakabukas ang user.
Mga NPU sa merkado: Intel, AMD, Qualcomm at ang pagsulong para sa mga AI PC
Ang pag-aampon ng mga NPU sa mga PC ay hindi isang nakahiwalay na eksperimento: lahat ay nagpapahiwatig na nasasaksihan natin ang isang pangunahing transisyon na katulad ng paglipat sa mga SSD o ang pagsasama ng mga GPU sa mga processor . Tinatantya ng mga kompanya ng pagsusuri tulad ng IDC na, pagdating ng 2025, mahigit sa 100 milyong personal na device (laptop, tablet, at desktop) ang ilalabas na may mga integrated NPU.
Sa kontekstong ito, ang tatlong pangunahing manlalaro na pinakamalaki ang ipinuhunan sa native AI para sa mga PC ay ang AMD, Intel, at Qualcomm . Bawat isa ay may kanya-kanyang pamamaraan, ngunit lahat ay may iisang layunin: upang paganahin ang AI na tumakbo nang direkta sa hardware ng gumagamit, nang mabilis, mahusay, at pribado.
Halimbawa, inilunsad ng AMD ang Ryzen AI Max Series at Ryzen AI 300 families , na may mga arkitektura tulad ng Zen 5 at XDNA 2. Ang mga pinaka-advanced na modelo ay nag-aalok ng hanggang 55 TOPS ng AI performance, na nagpaparami sa performance ng nakaraang henerasyon ng lima at nagbibigay-daan sa napakalakas na ultraportable form factors. Para matuto nang higit pa tungkol sa kanilang mga arkitektura, maaari mong basahin ang tungkol sa AMD RDNA 5 at uDNA.
Sa loob ng saklaw na ito, namumukod-tangi ang mga processor tulad ng AMD Ryzen AI 9 HX 370 , na ang NPU ay umaabot sa 50 TOPS at lumalagpas sa minimum threshold ng Copilot+ PC ng 25%, gayundin ang Ryzen AI 395+ , na nag-aalok ng mas mahusay na napapanatiling pagganap ng AI para sa mga hinihinging lokal na modelo. Dahil sa kanilang spatial dataflow approach, inililipat ng mga chip na ito ang data sa pagitan ng mga MAC unit nang hindi palaging ina-access ang RAM, kaya binabawasan ang latency at pagkonsumo ng kuryente.
Sa bahagi nito, nilinaw ng Intel na ang AI ang nasa puso ng roadmap nito: ang layunin nito ay magpadala ng mahigit 100 milyong processor na may nakalaang AI accelerators sa loob ng ilang taon, na makakamit ng hanggang 120 TOPS ng pinagsamang performance at susuportahan ang mahigit 500 AI-based functions sa suporta ng isang ecosystem ng daan-daang independent software developers. Para masubaybayan ang ebolusyon ng mga chips nito, tingnan ang aming mga pinakabagong balita tungkol sa mga Intel processor.
Para sa Qualcomm, ang mga Snapdragon X Elite PC platform nito ay naging isa sa mga haligi ng Copilot+ PCs, na nagpapatibay sa modelo kung saan ang CPU, GPU, at NPU ay magkakasamang nagsasama sa isang lubos na mahusay na SoC, perpekto para sa mga ultra-thin laptop na may maraming oras ng buhay ng baterya at laging available ang mga kakayahan ng AI.
Mga kalamangan para sa iba't ibang uri ng mga gumagamit: mula sa automation ng opisina hanggang sa lokal na AI
Ang malaking tanong para sa marami ay: ano ang mapapala ko sa pang-araw-araw kong buhay gamit ang isang NPU sa Windows? Ang sagot ay depende sa uri ng paggamit, ngunit halos lahat ng karaniwang gumagamit ay nakikinabang sa iba't ibang paraan.
Para sa mga nagtatrabaho sa opisina, pinapayagan ng NPU ang mga feature tulad ng mga epekto ng Windows Studio sa mga video call (background blur, autofocus, pagpapahusay ng ilaw, voice isolation) na gumana nang hindi nasusugatan ang CPU. Nagpapalaya ito ng mas maraming espasyo para sa paghawak ng mabibigat na spreadsheet, maraming bukas na productivity application, at masinsinang pag-browse sa web nang hindi bumabagal ang computer.
Maaaring samantalahin ng mga estudyante at mga distributed team ang mga real-time na pagsasalin, awtomatikong audio transcription, at mga assistant na tumutulong sa mga buod ng dokumento, kahit na sa mga sitwasyong may limitadong koneksyon. Inaalis ng local AI ang malaking bahagi ng latency at pinapabuti ang karanasan sa mga internasyonal na pagpupulong.
Ang mga malikhaing propesyonal, kapwa sa potograpiya at video, ay nakikinabang sa mga filter na pinabilis ng NPU, pagkilala sa eksena, matalinong mga maskara, at mas mabilis na generative fill , na nagpapababa ng oras ng paghihintay kapag nag-eedit at nag-e-export ng mga proyekto. Ito ay lalong kapansin-pansin sa mga mahirap na daloy ng trabaho.
Panghuli, ang mga user na gustong magpatakbo ng mga modelo ng AI nang lokal sa kanilang mga PC (halimbawa, upang maiwasan ang pag-upload ng sensitibong data sa cloud) ay nakakahanap ng nawawalang bahagi sa NPU. Ang pagproseso ng mga hinuha sa device mismo ay nagpoprotekta sa privacy, nag-aalis ng mga dependency sa koneksyon, at maaaring mag-alok ng lubos na mapagkumpitensyang mga oras ng pagtugon para sa mga gawain tulad ng mga lokal na chatbot, pag-uuri ng dokumento, o pagsusuri ng imahe.
Sa lahat ng pagkakataon, ang karaniwang pinagbabatayan ay ang NPU ay nagpapahintulot sa AI na tumigil sa pagiging isang bagay na malayo na gumagana lamang kapag nakakonekta ka, at gumana bilang isang katutubong kakayahan ng PC, na laging available at iniangkop sa iyong ginagawa , mula sa pinakasimple hanggang sa pinaka-advanced.
Mga madalas itanong tungkol sa NPU, performance, at privacy sa Windows
Isang karaniwang tanong ay kung paano nga ba talaga naiiba ang isang NPU sa isang tradisyonal na graphics card . Bagama't maaaring magpatakbo ang isang GPU ng mga modelo ng AI, pangunahing idinisenyo ito para sa mga graphics, samantalang ang isang NPU ay eksklusibong idinisenyo upang mapabilis ang mga neural network at mga operasyon ng machine learning. Pinapayagan nito itong palayain ang parehong CPU at GPU mula sa mga paulit-ulit na gawain ng AI habang kumukonsumo ng mas kaunting kuryente.
Isa pang mahalagang isyu ay kung paano nito pinapabuti ang privacy. Sa pamamagitan ng lokal na pagpapatakbo ng mga function ng AI, pinipigilan ka ng NPU na patuloy na magpadala ng personal na data sa cloud . Para sa mga nagtatrabaho na may sensitibong impormasyon (mga mamamahayag, abogado, doktor, mga kumpanyang may kritikal na data) o sadyang pinahahalagahan ang kanilang privacy, malaki ang pagkakaiba nito kumpara sa ganap na pag-asa sa mga remote na serbisyo.
Tungkol sa paglalaro, ang isang NPU ay hindi pinapalitan ang GPU, ngunit maaari itong hindi direktang makatulong sa ilang mga sitwasyon . Ang mga teknolohiyang tulad ng AMD FidelityFX Super Resolution ay gumagamit ng AI upang mapataas ang imahe at mapabuti ang frame rate (o ang DLSS 5 ng Nvidia ). Kung ang bahagi ng kalkulasyon na iyon ay gagawin ng NPU, ang GPU ay maaaring tumuon sa purong rendering, na sa ilang mga pamagat ay isinasalin sa mas balanseng pangkalahatang pagganap.
Lohikal din na isipin kung ang AI na isinama sa antivirus software, mga assistant, o mga productivity tool ay mas "mag-iispya". Ang totoo, ang lokal na pagproseso sa NPU ay nagpapahintulot sa kabaligtaran : mas maraming ginagawa sa device mismo, mas kaunting data ang kailangang ilipat sa mga external server, na binabawasan ang posibilidad ng pag-atake. Gayunpaman, palaging ipinapayong suriin ang patakaran sa privacy ng bawat application.
Ang pangkalahatang damdamin, kapwa sa mga tagagawa at analyst, ay ang mga NPU at AI PC ay hindi isang panandaliang uso, kundi ang susunod na lohikal na hakbang sa ebolusyon ng PC , tulad ng mga multi-core processor at SSD storage noong kanilang panahon. Nasa mga unang yugto pa rin tayo, ngunit ang nakikita na natin sa merkado ay nagmumungkahi na, sa loob lamang ng ilang taon, ang mga NPU ay magiging kasing karaniwan ng mga integrated GPU.
Ang lahat ng paggalaw na ito patungo sa mga NPU sa Windows ay nagtatayo ng matibay na pundasyon para sa AI upang lumipat mula sa pagiging isang nakahiwalay na serbisyo sa cloud patungo sa isang karaniwang kakayahan ng personal na computer, na nagbibigay-daan sa mas mabilis, mas mahusay, mas pribadong mga computer na mas mahusay na iniangkop sa kung paano tayo nagtatrabaho, nag-aaral, at lumilikha ng nilalaman araw-araw.
