- NPU buvimą galima patikrinti naudojant užduočių tvarkytuvę arba įrenginių tvarkytuvę sistemoje „Windows“.
- Visuose „Mac“ kompiuteriuose su „Apple Silicon“ lustais (M1 ir naujesniais) yra integruotas neuroninis procesorius.
- Pagrindinis NPU privalumas yra energijos vartojimo efektyvumas, leidžiantis dirbtinio intelekto išvadas atlikti su minimaliomis energijos sąnaudomis.
- Dabartinė programinės įrangos palaikymas yra ribotas ir priklauso nuo konkrečių vykdymo aplinkų, tokių kaip „OpenVINO“ arba „QNN“.
Tikriausiai pastaruoju metu girdėjote apie garsiuosius „DI kompiuterius“ ir susimąstėte, ar jūsų stalo kompiuteris yra vienas iš jų. Svarbiausias jų elementas slypi NPU (neuroniniame procesoriuje) – komponente, kuris tampa įprastu beveik visuose šiuolaikiniuose nešiojamuosiuose kompiuteriuose. Tai neleidžia dirbtiniam intelektui perkrauti likusios sistemos dalies ir, svarbiausia, neleidžia baterijai išsikrauti per kelias minutes.
Žinoti, ar turite šį greitintuvą, yra labai svarbu, jei norite paleisti dirbtinio intelekto modelius lokaliai , nesiremdami debesimi. Svarbu ne tik parodyti savo aparatinę įrangą, bet ir pasinaudoti neįtikėtinu energijos vartojimo efektyvumu, kuris leidžia atlikti sudėtingas užduotis be kompiuterio ventiliatoriaus garso, kuris tuoj išskris į Marsą. Pažiūrėkime, kaip sužinoti, ar jį turite, ir ką iš tikrųjų galite su juo daryti dabar.
Greiti NPU aptikimo „Windows“ sistemoje metodai
Jei naudojate „Windows“, jums nereikia būti kompiuterių ekspertu, kad rastumėte atsakymą. Tiesioginis būdas yra atidaryti užduočių tvarkytuvę (Ctrl + Shift + Esc) ir peržiūrėti skirtuką „Našumas“. Jei jūsų kompiuteris tai palaiko, šalia procesoriaus ir vaizdo plokštės matysite specialų skyrių, vadinamą NPU, kuriame galėsite realiuoju laiku stebėti jo darbo krūvį.
Kitas labai patikimas variantas – eiti į Įrenginių tvarkytuvę . Tiesiog ieškokite skyriaus pavadinimu „Neuroniniai procesoriai “. Jei ši kategorija rodoma sąraše, sveikiname: turite įdiegtą NPU. Geriausia šio metodo ypatybė yra ta, kad jis nurodo tikslų lusto pavadinimą, todėl galite internete ieškoti jo techninių specifikacijų ir sužinoti, kiek TOPS (operacijų per sekundę) jis gali atlikti.
Techniniai klausimai ir gamintojo pagalba
Kartais problemų gali sukelti programinė įranga arba tvarkyklės gali būti pasenusios, todėl geriausia kreiptis į šaltinį. Idealiu atveju turėtumėte nustatyti savo procesorių nustatymų meniu ir apsilankyti oficialioje gamintojo svetainėje (nesvarbu, ar tai „Intel“, AMD ar „Qualcomm“). Tikslaus modelio specifikacijų lape galite patvirtinti, ar lustas integruoja dirbtinio intelekto galimybes ir kokias „Windows“ funkcijas jis palaiko, pvz., kameros studijos efektus.
Jei įsigijote įrenginį, pažymėtą „ Copilot+ PC“ , ypač turintį „Snapdragon X Elite“ arba „Plus“ procesorių, galite būti tikri, kad NPU yra integruotas standartiškai. Tačiau visada patartina patikrinti, ar tvarkyklės yra atnaujintos naudojant „Windows Update“ arba gamintojo svetainę, kad sistema teisingai atpažintų aparatinę įrangą.
NPU situacija „Mac“ ekosistemoje
„Apple“ pasaulyje istorija paprastesnė ir aiškesnė. NPU atsirado kartu su perėjimu prie „Apple Silicon“ . Tai reiškia, kad bet kuris „Mac“ kompiuteris su M1, M2, M3 arba M4 lustu jau turi integruotą neuroninį bloką. Ši architektūra, iš dalies paveldėta iš „iPhone“ lustų, leidžia tokioms funkcijoms kaip „Apple Intelligence“ sklandžiai ir lokaliai veikti „Apple“ kompiuteriuose.
Kam jis iš tikrųjų skirtas ir kokios jo ribos?
Dažnai klaidingai manoma, kad NPU pakeičia vaizdo plokštę. Iš tikrųjų tai yra neuroninių tinklų išvadų su kvantiniais svoriais (INT8 arba INT4) specialistas. Nors GPU yra universalus galingas įrenginys, NPU yra tikslus įrankis, galintis valdyti mažus modelius, tokius kaip „Phi-3 Mini“, kurie sunaudoja tik 5–10 vatų, palyginti su 40–50 vatų, kuriuos sunaudotų nešiojamojo kompiuterio GPU.
Tačiau ne viskas šviečia saulė ir vaivorykštės. NPU nėra skirtas modelių mokymui ar tiksliam derinimui; tai lieka išskirtinė GPU su specialia vaizdo atmintimi sritis. Be to, jei turite sistemą su tik 16 GB RAM, bandymas paleisti modelį su 7B parametrais gali būti tikras galvos skausmas, nes NPU dalijasi atmintimi su sistema, ir jūsų kompiuteris gali sunkiai veikti sklandžiai.
Dabartinės programinės įrangos ir programų iššūkis
Čia ir pasidaro sudėtinga. Turint aparatinę įrangą, nereiškia, kad ją naudos visos programos. Šiuo metu kiekvienas gamintojas turi savo „kalbą“: „OpenVINO“ – „Intel“, „ROCm/Ryzen AI“ – AMD ir „QNN“ – „Qualcomm“ . Nors ONNX vykdymo laiko standartas bando tai suvienodinti, daugelis populiarių programų vis dar ignoruoja NPU.
- LM studija: Ji jau pradėjo palaikyti „Qualcomm“ NPU per QNN.
- Ollama: Kol kas jis ir toliau daugiausia remiasi CPU arba GPU, o NPU palieka nuošalyje.
- „Windows Copilot“: Naudokite NPU vietinėms užduotims, tokioms kaip fono suliejimas vaizdo skambučiuose arba tiesioginiai subtitrai.
Jei pastebite, kad NPU naudojimas užduočių tvarkytuvėje visada yra 0 %, tai nebūtinai yra jūsų problema; programinės įrangos ekosistema vis dar bręsta . Esame panašiame etape, kaip ir tada, kai GPU pirmą kartą pradėti naudoti moksliniams skaičiavimams: aparatinė įranga lenkia priekį, o kūrėjai pradeda pritaikyti savo įrankius.
Neuroninis greitintuvas šiomis dienomis yra konkurencinis pranašumas, ypač ultrabookuose ir mini kompiuteriuose, kur tyla ir baterijos veikimo laikas yra svarbiausi. Nors šiuo metu jo taikymas apsiriboja „Windows“ funkcijomis arba kai kuriais kvantiniais modeliais, tendencija aiški: artimiausiu metu NPU taps standartiniu varikliu bet kuriam asmeniniam asistentui, esančiam mūsų kietajame diske, neištuštindamas baterijos.