- „Windows“ NPU perkelia dirbtinio intelekto užduotis iš procesoriaus ir grafikos procesoriaus, taip pagerindami našumą, baterijos veikimo laiką ir privatumą, paleisdami modelius tiesiai įrenginyje.
- „Copilot+“ kompiuteriams, kuriuose veikia „Windows 11“, reikia daugiau nei 40 TOPS tinklo procesoriuje ir jie naudoja „Windows ML“ bei „ONNX Runtime“, kad automatiškai panaudotų procesorių, grafikos procesorių ir tinklo procesorių.
- „Intel“, AMD ir „Qualcomm“ integruoja didelio našumo NPU į savo SoC, taip įgalindamos pažangias dirbtinio intelekto funkcijas biuro užduotims, kūrybiškumui, saugumui ir profesionaliam naudojimui.
- Tokios priemonės kaip „Task Manager“, WPR, WPA ir GPUView leidžia išmatuoti faktinį NPU naudojimą ir optimizuoti modelius bei programas, kad būtų galima maksimaliai išnaudoti aparatinę įrangą.
NPU atsiradimas „Windows“ sistemoje visiškai pakeitė dirbtinio intelekto naudojimo kompiuteriuose būdą. Tai, kas anksčiau beveik išimtinai rėmėsi debesimi, dabar pradeda veikti tiesiogiai mūsų nešiojamuosiuose, stacionariuose ir mini kompiuteriuose, o greitis, baterijos veikimo laikas ir privatumas gerokai pagerėjo. „Windows 11“, ypač su naujais „Copilot+“ įrenginiais ir naujausiais „Intel“, AMD ir „Qualcomm“ procesoriais, yra šios revoliucijos centre.
Jei artimiausiais mėnesiais svarstote apie kompiuterio atnaujinimą, labai svarbu suprasti, kas yra NPU, kodėl „Microsoft“ jo reikalauja daugeliui pažangių dirbtinio intelekto funkcijų sistemoje „Windows 11“ , koks jo vaidmuo „Copilot+“ kompiuteriuose, kuriuose procesorių modeliuose jis yra ir kurios realiose programose jau naudojamasi šiuo nauju lustu. Pažvelkime atidžiau, nepersistengdami, kad galėtumėte priimti informacija pagrįstą sprendimą, ar verta atnaujinti.
Kas tiksliai yra NPU ir kodėl visi apie tai dabar kalba?
Kalbėdami apie NPU (neuroninį procesorių) šiuolaikiniame kompiuteryje, turime omenyje procesorių, kuris specializuojasi neuroninių tinklų ir kitų mašininio mokymosi algoritmų matematinių operacijų vykdyme. Jis skirtas ne pakeisti procesorių ar grafikos procesorių, o juos papildyti, tvarkant viską, kas susiję su dirbtiniu intelektu.
Skirtingai nuo centrinio procesoriaus (CPU), kuris skirtas nuosekliai vykdyti logines instrukcijas, ir vaizdo plokštės, kuri orientuota į masinį pikselių perteikimą, NPU yra sukurtas nuo nulio taip, kad neįtikėtinu greičiu ir labai mažomis energijos sąnaudomis daugintų ir kauptų skaičių matricas . Būtent tuo ir grindžiamas dirbtinio intelekto modelių „mąstymas“ – nuo veido atpažinimo iki vaizdų generavimo.
Praktiškai galėtume teigti, kad NPU tampa specifiniu visų sistemos ir programų intelektualiųjų funkcijų varikliu – nuo fono suliejimo vaizdo skambučiuose iki transkripcijos realiuoju laiku, įskaitant tokius asistentus kaip „Copilot“ ar pažangius vaizdo įrašų redagavimo filtrus.
Pagrindinis privalumas yra tas, kad dirbtinis intelektas gali veikti tiesiogiai įrenginyje, nereikalaujant siųsti duomenų į nuotolinius serverius. Tai pagerina privatumą, sumažina delsą ir sumažina procesoriaus bei grafikos procesoriaus apkrovą , atlaisvindama juos kitoms užduotims.
Be to, daugelis gamintojų projektuoja šiuos įrenginius taip, kad jie veiktų su mažesnio tikslumo formatais, tokiais kaip INT8, o ne FP32. Kadangi tikslioms prognozėms atlikti nereikia didelio matematinio tikslumo, NPU gali sutaupyti daug energijos su kiekviena išvada , o tai ypač svarbu nešiojamuosiuose ir mini kompiuteriuose.
CPU, GPU ir NPU: šiuolaikinio SoC trikampis
Šiuolaikiniuose „Windows 11“ įrenginiuose naudojami procesoriai paprastai naudoja „ System-on-a-Chip“ (SoC) principą, kai CPU, GPU ir NPU yra integruoti į tą patį silicio lustą . Šis fizinis artumas leidžia jiems dalytis sistemos RAM ir perduoti užduotis tarp jų be didelių kliūčių.
Šiame trikampyje CPU veikia kaip valdančios smegenys, GPU tvarko didžiulį lygiagretų grafikos apdorojimą, o NPU visiškai susitelkia į mašininį mokymąsi ir neuroninių tinklų operacijas . Kiekvienas turi savo kompetencijos sritį, o „Windows 11“ sprendžia, kas kur bus, atsižvelgdama į darbo krūvį.
Kai sistemai reikia pritaikyti vaizdo efektus, atlikti momentinį kalbos vertimą arba paleisti ONNX dirbtinio intelekto modelį, „Windows 11“ analizuoja turimą aparatinę įrangą ir, jei aptinka NPU, nukreipia šias užduotis į jį, kad būtų pasiektas geriausias našumo ir energijos suvartojimo balansas . Jei dėl kokių nors priežasčių NPU nepasiekiamas, darbą perima GPU arba galiausiai CPU.
Šis išmanus užduočių paskirstymas yra ypač svarbus plonuose nešiojamuosiuose kompiuteriuose, mini kompiuteriuose ir daugiafunkciuose įrenginiuose, kur šilumos valdymas ir energijos suvartojimas yra labai svarbūs (žr. mūsų nešiojamųjų kompiuterių aparatinės įrangos mokymo programas ). Nuolatinio dirbtinio intelekto darbo perkėlimas į NPU apsaugo procesorių nuo perkaitimo ir jo dažnio ribojimo , taip išlaikant bendrą sistemos sklandumą.
Kalbant apie efektyvumą, įprastas GPU gali sunaudoti dešimtis vatų, kad paleistų sudėtingus dirbtinio intelekto algoritmus, o NPU gali atlikti tą patį darbą su daug mažesnėmis sąnaudomis , todėl intensyviuose dirbtinio intelekto scenarijuose galite lengvai pailginti baterijos veikimo laiką 15–20 %.
NPU ir „Windows 11“: „Copilot+“ kompiuterių vaidmuo
„Microsoft“ žengė dar vieną žingsnį pristatydama „Copilot+“ kompiuterius – naują „Windows 11“ kompiuterių kategoriją, skirtą dirbtiniam intelektui paversti ne papildoma funkcija, o kažkuo, kas integruota į vartotojo kasdienį gyvenimą. Šie kompiuteriai, be kita ko, išsiskiria tuo, kad turi našų NPU, galintį viršyti 40 TOPS (tera operacijų per sekundę).
Šis daugiau nei 40 TOPS reikalavimas nėra užgaida: daugeliui naujųjų „Windows 11“ dirbtinio intelekto funkcijų, tiek sistemos, tiek programų lygmeniu, reikia tokio nuolatinio galingumo lygio, kad būtų galima atlikti vertimus realiuoju laiku, generuoti vaizdus, vaizdo efektus ir naudoti išmaniuosius asistentus nepakenkiant akumuliatoriaus veikimo laikui ar kitų užduočių atlikimui.
Praktiškai „Copilot+“ kompiuteris sukurtas taip, kad užtikrintų visos dienos baterijos veikimo laiką, nuolat prieinamas dirbtinio intelekto funkcijas ir tiesioginę prieigą prie pažangiausių „Microsoft“ dirbtinio intelekto modelių ir funkcijų. Idėja yra ta, kad galite naudoti „Copilot“ darbui, mokymuisi ar kūrybai, per daug nepasikliaujant debesimi.
Šios sistemos naudoja naujos kartos „Qualcomm“ (pvz., „Snapdragon X Elite“ šeimos), AMD (pvz., naujausio „Ryzen AI“) ir „Intel“ („Core Ultra“ ir įpėdinių) procesorius. Norėdami palyginti parinktis, žr. „Intel“ ir AMD procesorių atitikmenis . Visiems jiems būdinga trijų apdorojimo variklių integravimo koncepcija : CPU, GPU ir NPU , kad „Windows 11“ galėtų labai efektyviai paskirstyti darbo krūvį.
Pati „Windows 11“ platforma ruošiasi pasinaudoti šiomis galimybėmis per unikalias patirtis, tokias kaip patobulinti vaizdo skambučių efektai, išmanus dokumentų tvarkymas, asistentai, kurie apibendrina vietinį turinį , ir kūrybinės funkcijos, kurios remiasi dirbtiniu intelektu, nuolat nesiunčiant duomenų į debesį.
„Snapdragon X Elite“ lustas ir „Qualcomm“ statymas
Vienas iš pagrindinių „Copilot+“ kompiuterio komponentų yra „Snapdragon X Elite“ lustas, pagrįstas „Arm“ architektūra ir sukurtas „Qualcomm“. Šis procesorius buvo sukurtas atsižvelgiant į dirbtinio intelekto integraciją, įtraukiant labai galingą ir itin energiją taupantį NPU.
„Snapdragon X Elite“ NPU gali lygiagrečiai apdoroti didelius duomenų kiekius, pasiekdamas dešimtis trilijonų operacijų per sekundę , todėl jis gali atlikti dirbtinio intelekto reikalaujančias užduotis, tokias kaip sinchroninis vertimas, vaizdų gerinimas ar analizė realiuoju laiku, akimirksniu neiškraunant akumuliatoriaus.
„Windows 11“ koordinuoja bendrą CPU, GPU ir NPU darbą šiuose įrenginiuose. Bet kuriuo metu sistema nusprendžia, kuris komponentas geriausiai tinka kiekvienai užduočiai, ieškodama optimalios greičio, reagavimo greičio ir energijos suvartojimo pusiausvyros . Dėl to nešiojamieji kompiuteriai yra labai ploni ir lengvi, o baterija veikia visą dieną, ir užtikrina nuolat aktyvią dirbtinio intelekto patirtį.
Pagrindinis šio metodo privalumas yra tas, kad daugelis dirbtinio intelekto funkcijų „Copilot+“ kompiuteriuose gali veikti tiesiogiai pačiame įrenginyje: nuo „Windows 11“ funkcijų iki trečiųjų šalių įrankių, optimizuotų NPU . Tai sumažina priklausomybę nuo interneto ryšio ir pagerina duomenų saugumą.
„Qualcomm“ taip pat siūlo specialius išteklius kūrėjams per savo „Qualcomm AI Hub“, kuriame galite rasti jau optimizuotus ir patvirtintus modelius šiems NPU , paruoštus efektyviai veikti „Copilot+“ įrenginiuose su „Snapdragon X Elite“.
Kaip „Windows“ aptinka ir naudoja NPU dirbtiniam intelektui
NPU, kaip ir bet kuris kitas kompiuterio aparatinės įrangos išteklius, turi žinoti, kaip su juo bendrauti ir išnaudoti jo galią . „Microsoft“ tobulina, kaip pasiekti šiuos įrenginius, ir šiuo metu rekomenduojama kaip pagrindinį metodą naudoti „Windows Machine Learning“ („WinML“ arba „WinML“).
Kurį laiką „DirectML“ buvo standartinis metodas dirbant su dirbtinio intelekto spartinimu „Windows“ sistemoje, tačiau dabar centrinę vietą užima „WinML“ . Šis pokytis siekia supaprastinti kūrėjo darbą ir sudaryti sąlygas programoms kuo sklandžiau naudoti NPU ir GPU tiek „Copilot+“ kompiuteriuose, tiek kituose įrenginiuose su „Intel“ arba AMD NPU.
Naudodama „Windows ML“, sistema automatiškai aptinka vykdymo teikėjus (EP), suderinamus su įrenginio aparatine įranga. Vietoj to, kad kūrėjas turėtų rankiniu būdu pakuoti gamintojo specifines bibliotekas, „Windows“ atsisiunčia ir tvarko šiuos EP integruotu būdu per pačią sistemą arba „Windows Update“.
Iš esmės „Windows ML“ vis dar naudoja ONNX Runtime kaip išvadų variklį, tačiau nuo kūrėjo slepia didelę dalį skirtingų aparatinės įrangos tiekėjų valdymo sudėtingumo . „Microsoft“ tiesiogiai bendradarbiauja su „Qualcomm“, „Intel“, AMD ir kitais partneriais, kad užtikrintų, jog kiekvienai naujai silicio kartai būtų prieinami atnaujinti ir optimizuoti gamybos etapai.
Kai programa diegia dirbtinio intelekto modelį, naudodama „Windows ML“ kompiuteryje su NPU, procesas vyksta automatiškai: „WinML“ patikrina, kurie greitintuvai yra prieinami, parenka efektyviausią spartintuvą („QNN“ „Qualcomm“ NPU, „OpenVINO“ „Intel“ platformoms ir kt.), jį įkelia ir pradeda daryti išvadas. Jei kas nors nepavyksta, sistema sklandžiai persijungia į GPU arba CPU be jokio vartotojo įsikišimo.
Modelių formatai, kvantavimas ir kūrėjo įrankiai
Dirbtinio intelekto modeliai paprastai iš pradžių apmokomi naudojant didelio tikslumo formatus, tokius kaip FP32, tačiau vartotojams skirti NPU paprastai geriau veikia su mažesnėmis reprezentacijomis, tokiomis kaip INT8, kad pasiektų daug didesnį našumą ir energijos vartojimo efektyvumą.
Tai reiškia, kad prieš paleidžiant modelius NPU, jie turi būti konvertuoti arba kvantuoti. Daugelis modelių yra paruošti naudoti optimizuotu ONNX formatu, tačiau tie, kurie nori atsinešti savo modelį (BYOM), gali naudoti specialias įrankių grandines , kad pritaikytų jį aparatinei įrangai.
Vienas įdomiausių išteklių yra „Qualcomm AI Hub“ , kuriame siūlomi patvirtinti ir optimizuoti modeliai, skirti veikti „Copilot+“ kompiuteriuose su „Snapdragon X Elite“ procesoriais. Taip pat yra populiarusis „ONNX Model Zoo“ – iš anksto apmokytų, atvirojo kodo modelių, paruoštų veikti įvairiuose NPU palaikančiuose įrenginiuose, įskaitant „Intel“ ir AMD įrenginius, saugykla.
Norėdama optimizuoti savo modelius, „Microsoft“ rekomenduoja naudoti „Olive“ – įrankį, kuris integruojasi su „ONNX Runtime“, kad galėtų tvarkyti glaudinimą, optimizavimą ir NPU orientuotą kompiliavimą . Šis derinys leidžia pasiekti žymiai didesnį našumą naudojant tą pačią aparatinę įrangą, o tai ypač svarbu nešiojamuosiuose kompiuteriuose, kuriuose svarbus kiekvienas vatas.
Visa ši ekosistema leidžia kūrėjams daug lengviau sutelkti dėmesį į naudotojo patirtį ir palikti žemo lygio aparatinės įrangos integraciją „Windows ML“, „ONNX Runtime“ ir susijusiems įrankiams , kur anksčiau iškildavo suderinamumo ir priežiūros problemų.
Kaip išmatuoti tikrąjį NPU našumą sistemoje „Windows“
Integruojant dirbtinio intelekto funkcijas į programą, labai svarbu išmatuoti faktinį modelių našumą NPU ir suprasti, kas vyksta sistemoje. „Windows“ siūlo keletą diagnostikos ir sekimo įrankių, leidžiančių tai atlikti labai išsamiai.
Pirmasis atskaitos taškas, prieinamas bet kuriam vartotojui, yra „Windows 11“ užduočių tvarkyklė . Skirtuke „Našumas“ yra specialus skyrius, skirtas NPU, kartu su CPU, atmintimi, disku, „Wi-Fi“ ir GPU. Ten galite matyti naudojimo procentą, tvarkyklės versiją ir kitus svarbius duomenis.
Programuotojams ir pažengusiems vartotojams praverčia kiti galingesni įrankiai, tokie kaip „Windows Performance Recorder“ (WPR) , kuris dabar apima neuroninio apdorojimo profilį NPU veiklai įrašyti, ir „Windows Performance Analyzer“ (WPA) , leidžiantį analizuoti šiuos įrašus.
WPR generuoja išsamius sistemos sąveikos su NPU pėdsakus per „Microsoft MCDM“ tvarkyklės modelį. Tada WPA leidžia peržiūrėti grafikus ir laiko juostas, kuriose rodomi procesoriaus, disko, tinklo, ONNX vykdymo laiko įvykiai ir speciali NPU lentelė – visa tai toje pačioje laiko juostoje.
Tai leidžia išnagrinėti tokius aspektus kaip darbo krūvis, modelio įkėlimo laikas, išvadų sesijos kūrimas, vykdymo teikėjo konfigūracijos parametrai, kiekvienos atskiros išvados laikas ir kiekvieno operatoriaus profilis dirbtinio intelekto modelyje. Galima stebėti net NPU sub-aparatinės įrangos metriką, pvz., atminties pralaidumą.
Papildomi įrankiai: GPUView, ONNX Runtime ir aparatinės įrangos profiliai
Be WPR ir WPA, „Windows“ ekosistema siūlo ir kitas priemones, kurios padeda geriau suprasti, ką tiksliai veikia NPU, kai veikia dirbtinio intelekto modeliai . Viena iš jų yra „GPUView“ – įrankis, kuris nuskaito įvykius, įrašytus sekimo failuose (.etl), ir juos vizualiai rodo.
„GPUView“ dabar gali rodyti ne tik GPU operacijas, bet ir NPU aktyvumą bei „DirectX“ įvykius, susijusius su MCDM įrenginiais . Tai naudinga norint matyti, kaip darbo krūvis iš tikrųjų paskirstomas tarp GPU ir NPU, kai programa intensyviai naudoja ir dirbtinį intelektą, ir grafiką.
Kita vertus, ONNX Runtime, pradedant nuo 1.17 versijos ir patobulinimais 1.18.1 versijoje, skleidžia vykdymo laiko įvykius, kuriuos galima užfiksuoti ir vizualizuoti naudojant WPA . Tai leidžia matyti, kiek laiko užtrunka modelio įkėlimas, kokia EP konfigūracija naudojama, kaip elgiasi NPU išvados (pvz., QNN) ir kiek laiko kiekvienas operatorius sunaudoja modelyje.
Kūrėjai gali derinti konkrečius ONNX vykdymo laiko profilius su kitais WPR profiliais (CPU, disko ir kt.), kad gautų labai tikslų vaizdą apie tai, kur eikvojamas laikas ir kaip optimizuoti našumą . Be to, trečiųjų šalių įrankiai, tokie kaip „Qualcomm Snapdragon Profiler“ (qprof), siūlo visos sistemos vaizdą ir dar išsamesnę NPU metriką „Snapdragon“ platformose.
Naudojant šį įrankių rinkinį, galima ne tik patikrinti, ar NPU naudojamas, bet ir aptikti kliūtis, netikėtus vėlavimus ar neoptimalias konfigūracijas ir jas ištaisyti, kad būtų kuo geriau išnaudota turima įranga.
Kaip sužinoti, ar jūsų „Windows“ kompiuteryje yra NPU ir kam jis skirtas
Galutiniams vartotojams dažniausiai užduodamas klausimas: ar mano kompiuteryje iš tikrųjų yra NPU ir ar jį naudoja „Windows“? Lengviausias būdas tai patikrinti – atidaryti užduočių tvarkytuvę („Ctrl“ + „Shift“ + „Esc“), eiti į skirtuką „Našumas“ ir ieškoti skyriaus, pavadinto „NPU“.
Jei rodomas specialus NPU grafikas, tai reiškia, kad jūsų kompiuteryje yra šis specializuotas procesorius. Ten, skirtuke „Procesai“, galite matyti, kurios programos naudoja NPU išteklius, arba galite atlikti išsamesnę techninę analizę naudodami išplėstinius įrankius. Jei jis nerodomas, gali būti naudinga patikrinti kompiuterio sistemos konfigūraciją ir BIOS arba UEFI nustatymus, kad patikrintumėte programinės įrangos pakeitimus arba greitintuvo palaikymą.
NPU buvimas tampa vis dažnesnis šiuolaikiniuose kompiuteriuose, ypač nešiojamuosiuose kompiuteriuose, sertifikuotuose kaip „Copilot+“ kompiuteriai, ir tuose, kuriuose integruoti naujausios kartos AMD, „Intel“ ar „Qualcomm“ procesoriai. Gamintojai šiuos įrenginius įtraukia kaip standartinį aparatinės įrangos komponentą, lygiai taip pat, kaip kadaise GPU buvo integruoti į pačius procesorius.
Daugeliu atvejų vartotojas pradeda pastebėti privalumus net nekeisdamas savo darbo būdo: aiškesnius vaizdo skambučius, efektų pritaikymą realiuoju laiku be delsos, ilgesnį baterijos veikimo laiką naudojant išmaniąsias funkcijas ir bendrą sklandumo pojūtį net ir atliekant kelias užduotis vienu metu.
Tiems, kurie domisi techniniais aspektais, „Windows“ sekimo įrankiai leidžia tiksliai žinoti, kurie procesai apkrauna NPU ir kokie jų naudojimo modeliai , o tai labai naudinga, jei testuojate naują programinę įrangą arba norite patikrinti, ar programa tikrai naudojasi aparatine įranga.
Realaus pasaulio programos, kurios jau naudoja NPU sistemoje „Windows“
Be teorijos, įdomu stebėti, kurios kasdienės programos naudojasi „Windows“ NPU . Sąrašas auga kiekvieną mėnesį, tačiau keli gerai žinomi vardai jau pradėjo naudoti šį lustą, kad paspartintų savo dirbtinio intelekto funkcijas.
Vaizdų redagavimo pasaulyje „Adobe Photoshop“ yra puikus pavyzdys. Dirbtinio intelekto valdomi įrankiai, tokie kaip automatinis objektų pasirinkimas, fono šalinimas ir momentinis triukšmo mažinimas, gali veikti daug greičiau, jei kompiuteryje yra NPU, taip atlaisvinant GPU kitoms vaizdavimo užduotims.
Kalbant apie saugumą, „Norton Antivirus“ įdiegė dirbtinio intelekto valdomas funkcijas, kurios naudoja NPU, kad greičiau aptiktų sukčiavimo bandymus ir aferas svetainėse. Tai pagreitina apsaugą realiuoju laiku neperkraunant procesoriaus ir nesulėtinant sistemos.
Dizaino ir vizualinio turinio srityje tokios platformos kaip „Canva“ prideda vis galingesnius dirbtinio intelekto valdomus generavimo ir redagavimo įrankius. Daugelį šių funkcijų galima pagreitinti naudojant vietinę aparatinę įrangą, kai yra tinklo procesorius (NPU), taip sutrumpinant laukimo laiką taikant filtrus, generatyvinius fonus ar išmaniuosius koregavimus.
Vaizdo įrašų redagavimui „DaVinci Resolve Studio“ taip pat integruoja įrankius, kurie naudoja vietinį dirbtinio intelekto spartinimą, pvz., triukšmo mažinimą, veido atpažinimą, automatinį kadravimą ir kitas pažangias funkcijas. Šių užduočių delegavimas NPU užtikrina sklandesnę redagavimo patirtį ir trumpesnį eksportavimo laiką.
Be to, operacinės sistemos lygmeniu „Windows Studio Effects“, „Copilot“ ir kitos „Windows 11“ funkcijos naudoja NPU, kad realiuoju laiku paleistų vaizdo efektus, kalbos izoliaciją arba kontekstinius asistentus, taip sutelkdamos procesoriaus dėmesį į vartotojo atidarytas produktyvumo programas.
Rinkoje esantys NPU: „Intel“, AMD, „Qualcomm“ ir dirbtinio intelekto kompiuterių plėtra
Netoprocesorių (NPU) diegimas asmeniniuose kompiuteriuose nėra pavienis eksperimentas: viskas rodo, kad stebime esminį perėjimą, panašų į perėjimą prie SSD diskų arba GPU integraciją į procesorius . Analizės įmonės, tokios kaip IDC, skaičiuoja, kad iki 2025 m. bus išleista daugiau nei 100 milijonų asmeninių įrenginių (nešiojamųjų, planšetinių ir stalinių kompiuterių) su integruotais NPU.
Šiame kontekste trys pagrindiniai žaidėjai, daugiausiai investavę į dirbtinį intelektą asmeniniams kompiuteriams, yra AMD, „Intel“ ir „Qualcomm“ . Kiekvienas turi savo požiūrį, tačiau visų tikslas tas pats: sudaryti sąlygas dirbtiniam intelektui veikti tiesiogiai vartotojo aparatinėje įrangoje greitai, efektyviai ir privačiai.
Pavyzdžiui, AMD išleido „ Ryzen AI Max“ serijos ir „Ryzen AI 300“ šeimas su tokiomis architektūromis kaip „Zen 5“ ir „XDNA 2“. Pažangiausi modeliai siūlo iki 55 TOPS dirbtinio intelekto našumą, penkis kartus padidindami ankstesnės kartos našumą ir užtikrindami labai galingus, itin nešiojamus kompiuterius. Norėdami sužinoti daugiau apie jų architektūras, galite perskaityti apie AMD RDNA 5 ir uDNA.
Šiame diapazone išsiskiria tokie procesoriai kaip „AMD Ryzen AI 9 HX 370“ , kurio NPU pasiekia 50 TOPS ir 25 % viršija minimalią „Copilot+ PC“ ribą, taip pat „ Ryzen AI 395+“ , kuris siūlo dar geresnį nuolatinį dirbtinio intelekto našumą reikliems vietiniams modeliams. Dėl erdvinio duomenų srauto metodo šie lustai perkelia duomenis tarp MAC įrenginių nuolat nesinaudodami RAM, taip sumažindami delsą ir energijos suvartojimą.
Savo ruožtu „Intel“ aiškiai pareiškė, kad dirbtinis intelektas yra jos veiksmų plano pagrindas: jos tikslas – per porą metų pristatyti daugiau nei 100 milijonų procesorių su specialiais dirbtinio intelekto greitintuvais , pasiekiant iki 120 TOPS bendrą našumą ir palaikant daugiau nei 500 dirbtiniu intelektu pagrįstų funkcijų, pasitelkiant šimtų nepriklausomų programinės įrangos kūrėjų ekosistemą. Norėdami sekti jos lustų evoliuciją, peržiūrėkite naujausias mūsų naujienas apie „Intel“ procesorius.
Kalbant apie „Qualcomm“, jos „Snapdragon X Elite“ asmeninių kompiuterių platformos tapo vienu iš „Copilot+“ asmeninių kompiuterių ramsčių, įtvirtindamos modelį, kuriame procesorius, grafikos procesorius ir tinklo procesorius veikia kartu itin efektyviame SoC, puikiai tinkančiame itin ploniems nešiojamiesiems kompiuteriams, turintiems daug valandų veikiančią bateriją ir visada turinčias dirbtinio intelekto galimybes.
Privalumai skirtingų tipų vartotojams: nuo biuro automatizavimo iki vietinio dirbtinio intelekto
Daugeliui kyla didelis klausimas: ką aš gausiu kasdieniame gyvenime su NPU sistemoje „Windows“? Atsakymas priklauso nuo naudojimo tipo, tačiau beveik visi tipiniai vartotojai vienaip ar kitaip gauna naudos.
Biuro darbuotojams NPU leidžia naudoti tokias funkcijas kaip „Windows Studio“ efektai vaizdo skambučiuose (fono suliejimas, automatinis fokusavimas, apšvietimo gerinimas, balso izoliacija) neapkraunant procesoriaus. Tai atlaisvina daugiau vietos didelėms skaičiuoklėms, kelioms atidarytoms produktyvumo programoms ir intensyviam naršymui internete nesulėtinant kompiuterio veikimo.
Studentai ir paskirstytos komandos gali pasinaudoti vertimais realiuoju laiku, automatiniu garso transkripcijos būdu ir asistentais, kurie padeda santraukuoti dokumentus, net ir esant ribotam ryšiui. Vietinis dirbtinis intelektas pašalina didelę dalį delsos ir pagerina tarptautinių susitikimų patirtį.
Kūrybingi profesionalai, tiek fotografijos, tiek vaizdo įrašų srityse, gali pasinaudoti NPU spartinamais filtrais, scenos atpažinimu, išmaniosiomis kaukėmis ir greitesniu generatyviniu užpildymu , kurie sutrumpina laukimo laiką redaguojant ir eksportuojant projektus. Tai ypač pastebima sudėtingose darbo eigose.
Galiausiai, vartotojai, norintys paleisti dirbtinio intelekto modelius lokaliai savo kompiuteriuose (pavyzdžiui, norėdami išvengti jautrių duomenų įkėlimo į debesį), trūkstamą dalį randa NPU. Išvadų apdorojimas pačiame įrenginyje apsaugo privatumą, pašalina ryšio priklausomybes ir gali pasiūlyti labai konkurencingą atsako laiką tokioms užduotims kaip vietiniai pokalbių robotai, dokumentų klasifikavimas ar vaizdų analizė.
Visais atvejais bendras vardiklis yra tas, kad NPU leidžia dirbtiniam intelektui nebebūti kažkuo nuotoliniu, veikiančiu tik prisijungus, ir veikti kaip kompiuterio savybė, visada prieinama ir pritaikyta prie jūsų veiksmų – nuo paprasčiausių iki pažangiausių.
Dažnai užduodami klausimai apie NPU, našumą ir privatumą sistemoje „Windows“
Dažnas klausimas – kuo NPU iš tikrųjų skiriasi nuo tradicinės vaizdo plokštės . Nors GPU gali vykdyti dirbtinio intelekto modelius, jis pirmiausia skirtas grafikai, o NPU skirtas išskirtinai neuroninių tinklų ir mašininio mokymosi operacijoms spartinti. Tai leidžia jam atlaisvinti ir procesorių, ir grafikos procesorių nuo pasikartojančių dirbtinio intelekto užduočių, tuo pačiu sunaudojant žymiai mažiau energijos.
Kitas svarbus klausimas yra tai, kaip tai pagerina privatumą. Vietiniu mastu vykdydamas dirbtinio intelekto funkcijas, NPU apsaugo jus nuo nuolatinio asmens duomenų siuntimo į debesį . Tiems, kurie dirba su slapta informacija (žurnalistai, teisininkai, gydytojai, įmonės, turinčios svarbių duomenų) arba tiesiog vertina savo privatumą, tai yra didelis skirtumas, palyginti su visišku pasikliovimu nuotolinėmis paslaugomis.
Kalbant apie žaidimus, NPU nepakeičia GPU, tačiau tam tikrais atvejais gali netiesiogiai padėti . Tokios technologijos kaip AMD FidelityFX Super Resolution naudoja dirbtinį intelektą, kad padidintų vaizdo mastą ir pagerintų kadrų dažnį (arba „Nvidia“ DLSS 5 ). Jei dalį šio skaičiavimo atlieka NPU, GPU gali sutelkti dėmesį į gryną perteikimą, o tai kai kuriuose žaidimuose reiškia labiau subalansuotą bendrą našumą.
Taip pat logiška svarstyti, ar dirbtinis intelektas, integruotas į antivirusinę programinę įrangą, asistentus ar produktyvumo įrankius, „šnipinės“ daugiau. Realybė tokia, kad vietinis apdorojimas NPU leidžia pasiekti priešingą rezultatą : kuo daugiau veiksmų atliekama pačiame įrenginyje, tuo mažiau duomenų reikia perduoti išoriniams serveriams, taip sumažinant atakų paviršių. Nepaisant to, visada patartina peržiūrėti kiekvienos programos privatumo politiką.
Tiek gamintojų, tiek analitikų tarpe vyrauja bendra nuomonė, kad NPU ir dirbtinio intelekto kompiuteriai nėra trumpalaikė mada, o kitas logiškas kompiuterių evoliucijos žingsnis , kaip ir daugiabranduoliai procesoriai bei SSD diskai savo laiku. Nors vis dar esame ankstyvosiose stadijose, tačiau tai, ką jau matome rinkoje, rodo, kad vos po kelerių metų NPU bus tokie pat įprasti kaip ir integruoti GPU.
Visas šis perėjimas prie NPU sistemoje „Windows“ kuria tvirtą pagrindą dirbtiniam intelektui iš izoliuotos debesijos paslaugos tapti standartine asmeninio kompiuterio funkcija, suteikiančia galimybę naudoti greitesnius, efektyvesnius, labiau privačius kompiuterius, geriau pritaikytus prie to, kaip mes kasdien dirbame, mokomės ir kuriame turinį.
