- La presenza dell'NPU può essere verificata tramite Gestione attività o Gestione dispositivi in Windows.
- Tutti i Mac con chip Apple Silicon (M1 e superiori) integrano un'unità di elaborazione neurale.
- Il principale vantaggio dell'NPU è l'efficienza energetica, che consente di effettuare inferenze basate sull'intelligenza artificiale con un consumo energetico minimo.
- Il supporto software attuale è limitato e si basa su runtime specifici come OpenVINO o QNN.
Probabilmente avrete sentito parlare dei famosi "PC con intelligenza artificiale" e vi sarete chiesti se il computer sulla vostra scrivania ne sia un esempio. Il segreto sta nell'NPU (Neural Processing Unit) , un componente che sta diventando comune in quasi tutti i laptop moderni. Questo impedisce all'intelligenza artificiale di sovraccaricare il resto del sistema e, soprattutto, evita che la batteria si scarichi in pochi minuti.
Sapere se si possiede questo acceleratore è fondamentale per eseguire modelli di intelligenza artificiale in locale , senza dipendere dal cloud. Non si tratta solo di sfoggiare il proprio hardware, ma di sfruttare un'incredibile efficienza energetica che consente di eseguire attività complesse senza che la ventola del PC si trasformi in un rombo assordante. Vediamo come scoprire se lo si possiede e cosa si può effettivamente fare fin da subito.
Metodi rapidi per rilevare l'NPU in Windows
Se usi Windows, non serve essere un esperto di computer per trovare la risposta. Il modo più diretto è aprire Gestione attività (Ctrl + Maiusc + Esc) e dare un'occhiata alla scheda Prestazioni. Se il tuo computer lo supporta, vedrai una sezione specifica chiamata NPU accanto a CPU e GPU, dove puoi monitorare il carico di lavoro in tempo reale.
Un'altra opzione molto affidabile è quella di accedere a Gestione dispositivi . Basta cercare la sezione denominata "Processori neurali ". Se questa categoria compare nell'elenco, complimenti: hai un NPU installato. Il vantaggio principale di questo metodo è che ti indica il nome esatto del chip, permettendoti di consultare online le sue specifiche tecniche per scoprire quante TOPS (operazioni al secondo) può raggiungere.
Richieste tecniche e supporto del produttore
A volte, il software può causare problemi o i driver potrebbero essere obsoleti, ed è in questi casi che è meglio rivolgersi direttamente al produttore. Idealmente, dovresti identificare il tuo processore nel menu Impostazioni e quindi visitare il sito Web ufficiale del produttore (che si tratti di Intel, AMD o Qualcomm). Nella scheda tecnica del tuo modello specifico, puoi verificare se il chip integra funzionalità di intelligenza artificiale e quali funzionalità di Windows supporta, come ad esempio gli effetti di Camera Studio.
Se hai acquistato un dispositivo etichettato come PC Copilot+ , soprattutto se dotato di processore Snapdragon X Elite o Plus, puoi stare tranquillo: la NPU è integrata di serie. Tuttavia, è sempre consigliabile verificare che i driver siano aggiornati tramite Windows Update o il sito Web del produttore, in modo che il sistema riconosca correttamente l'hardware.
La situazione dell'NPU nell'ecosistema Mac
Nel mondo Apple, la storia è più semplice e diretta. L'NPU è arrivata con il passaggio ad Apple Silicon . Ciò significa che qualsiasi Mac dotato di chip M1, M2, M3 o M4 ha già un'unità neurale integrata. Questa architettura, in parte ereditata dai chip degli iPhone, è ciò che permette a funzionalità come Apple Intelligence di funzionare in modo fluido e locale sui computer Apple.
A cosa serve realmente e quali sono i suoi limiti?
È un errore comune pensare che la NPU sostituisca la scheda grafica. In realtà, è specializzata nell'inferenza di reti neurali con pesi quantizzati (INT8 o INT4). Mentre una GPU è una potente macchina per uso generale, la NPU è uno strumento di precisione in grado di eseguire modelli di piccole dimensioni, come il Phi-3 Mini, consumando solo dai 5 ai 10 watt, rispetto ai 40-50 watt di una GPU per laptop.
Tuttavia, non è tutto oro quel che luccica. La NPU non è progettata per l'addestramento di modelli o per il fine-tuning; questo rimane dominio esclusivo delle GPU con VRAM dedicata. Inoltre, se si dispone di un sistema con soli 16 GB di RAM, tentare di eseguire un modello con 7 miliardi di parametri può essere un vero grattacapo, poiché la NPU condivide la memoria con il sistema e il computer potrebbe faticare a funzionare correttamente.
La sfida dei software e delle applicazioni attuali
È qui che le cose si complicano. Avere l'hardware non significa che tutte le applicazioni lo utilizzeranno. Attualmente, ogni produttore ha il suo "linguaggio": OpenVINO per Intel, ROCm/Ryzen AI per AMD e QNN per Qualcomm . Sebbene lo standard ONNX Runtime tenti di unificarlo, molte applicazioni popolari continuano a ignorare la NPU.
- Studio LM: Ha già iniziato a supportare le NPU Qualcomm tramite QNN.
- Ollam: Per il momento, continua a fare affidamento principalmente sulla CPU o sulla GPU, mettendo da parte la NPU.
- Windows Copilot: Utilizza l'NPU per attività native come la sfocatura dello sfondo nelle videochiamate o i sottotitoli in tempo reale.
Se notate che l'utilizzo della NPU in Gestione attività è sempre allo 0%, non si tratta necessariamente di un problema da parte vostra; l' ecosistema software è ancora in fase di maturazione . Ci troviamo in una fase simile a quella in cui le GPU hanno iniziato a essere utilizzate per il calcolo scientifico: l'hardware è più avanzato e gli sviluppatori stanno iniziando ad adattare i propri strumenti.
Oggigiorno, disporre di un acceleratore neurale rappresenta un vantaggio competitivo, soprattutto negli ultrabook e nei mini PC, dove silenziosità e durata della batteria sono fondamentali. Sebbene le sue applicazioni siano attualmente limitate alle funzioni di Windows o ad alcuni modelli quantizzati, la tendenza è chiara: a breve termine, la NPU diventerà il motore standard per qualsiasi assistente personale installato sul nostro disco rigido, senza incidere sul consumo della batteria.