- Kehadiran NPU boleh disahkan melalui Pengurus Tugas atau Pengurus Peranti dalam Windows.
- Semua Mac dengan cip Apple Silicon (M1 dan ke atas) menyepadukan unit pemprosesan saraf.
- Kelebihan utama NPU ialah kecekapan tenaga, membolehkan inferens AI dengan penggunaan kuasa yang minimum.
- Sokongan perisian semasa adalah terhad dan bergantung pada masa jalan tertentu seperti OpenVINO atau QNN.
Anda mungkin pernah mendengar tentang "PC AI" yang terkenal kebelakangan ini dan tertanya-tanya adakah komputer di meja anda adalah salah satunya. Kuncinya terletak pada NPU (Unit Pemprosesan Neural) , komponen yang menjadi biasa dalam hampir semua komputer riba moden. Ini menghalang kecerdasan buatan daripada membebankan seluruh sistem dan, yang paling penting, mengelakkan bateri daripada kehabisan kuasa dalam beberapa minit.
Mengetahui sama ada anda mempunyai pemecut ini adalah penting jika anda ingin menjalankan model AI secara tempatan , tanpa bergantung pada awan. Ia bukan sekadar tentang mempamerkan perkakasan anda, tetapi tentang memanfaatkan kecekapan tenaga yang luar biasa yang membolehkan anda melakukan tugas yang kompleks tanpa kipas PC anda berbunyi seperti hendak meletup ke Marikh. Mari kita lihat cara untuk mengetahui sama ada anda memilikinya dan apa yang sebenarnya boleh anda lakukan dengannya sekarang.
Kaedah pantas untuk mengesan NPU dalam Windows
Jika anda menggunakan Windows, anda tidak perlu menjadi pakar komputer untuk mencari jawapannya. Cara paling langsung adalah dengan membuka Pengurus Tugas (Ctrl + Shift + Esc) dan lihat tab Prestasi. Jika komputer anda menyokongnya, anda akan melihat bahagian tertentu yang dipanggil NPU di sebelah CPU dan GPU, di mana anda boleh memantau beban kerjanya dalam masa nyata.
Satu lagi pilihan yang sangat andal adalah pergi ke Pengurus Peranti . Cari sahaja bahagian yang dipanggil "Pemproses Neural ." Jika kategori itu muncul dalam senarai, tahniah: anda telah memasang NPU. Perkara terbaik tentang kaedah ini ialah ia memberitahu anda nama tepat cip tersebut, membolehkan anda mencari spesifikasi teknikalnya dalam talian untuk mengetahui berapa banyak TOPS (operasi sesaat) yang boleh dicapainya.
Pertanyaan teknikal dan sokongan pengilang
Kadangkala, perisian boleh menyebabkan masalah atau pemacu mungkin ketinggalan zaman, dan pada masa itulah sebaiknya pergi ke sumbernya. Sebaik-baiknya, anda harus mengenal pasti pemproses anda dalam menu Tetapan dan kemudian lawati laman web rasmi pengeluar (sama ada Intel, AMD atau Qualcomm). Dalam helaian spesifikasi untuk model tepat anda, anda boleh mengesahkan sama ada cip tersebut mengintegrasikan keupayaan AI dan ciri Windows yang disokongnya, seperti kesan studio kamera.
Jika anda telah membeli peranti yang dilabelkan sebagai PC Copilot+ , terutamanya yang mempunyai pemproses Snapdragon X Elite atau Plus, anda boleh yakin bahawa NPU disepadukan sebagai standard. Walau bagaimanapun, sentiasa dinasihatkan untuk menyemak sama ada pemacu dikemas kini melalui Kemas Kini Windows atau laman web pengilang supaya sistem mengenali perkakasan dengan betul.
Situasi NPU dalam ekosistem Mac
Dalam dunia Apple, ceritanya lebih ringkas dan mudah. NPU tiba dengan peralihan kepada Apple Silicon . Ini bermakna mana-mana Mac dengan cip M1, M2, M3 atau M4 sudah mempunyai unit saraf bersepadu. Seni bina ini, yang sebahagiannya diwarisi daripada cip iPhone, membolehkan ciri seperti Apple Intelligence berjalan lancar dan setempat pada komputer Apple.
Untuk apa sebenarnya dan apakah hadnya?
Adalah satu salah tanggapan umum bahawa NPU menggantikan kad grafik. Pada hakikatnya, ia adalah pakar dalam inferens rangkaian saraf dengan pemberat terkuantum (INT8 atau INT4). Walaupun GPU ialah kuasa besar untuk tujuan umum, NPU ialah alat ketepatan yang boleh menjalankan model kecil, seperti Phi-3 Mini, hanya menggunakan 5 hingga 10 watt, berbanding 40-50 watt yang akan digunakan oleh GPU komputer riba.
Walau bagaimanapun, ia bukanlah semuanya mudah. NPU tidak direka untuk melatih model atau penalaan halus; itu kekal sebagai domain eksklusif GPU dengan VRAM khusus. Tambahan pula, jika anda mempunyai sistem dengan hanya 16 GB RAM, cuba menjalankan model dengan parameter 7B boleh menjadi masalah besar, kerana NPU berkongsi memori dengan sistem dan anda mungkin mendapati komputer anda bergelut untuk berjalan dengan lancar.
Cabaran perisian dan aplikasi semasa
Di sinilah keadaan menjadi rumit. Mempunyai perkakasan tidak bermakna semua aplikasi akan menggunakannya. Pada masa ini, setiap pengeluar mempunyai "bahasa" tersendiri: OpenVINO untuk Intel, ROCm/Ryzen AI untuk AMD dan QNN untuk Qualcomm . Walaupun standard ONNX Runtime cuba menyatukan perkara ini, banyak aplikasi popular masih mengabaikan NPU.
- Studio LM: Ia telah mula menyokong NPU Qualcomm melalui QNN.
- Ollama: Buat masa ini, ia terus bergantung terutamanya pada CPU atau GPU, mengetepikan NPU.
- Juruterbang Bersama Windows: Gunakan NPU untuk tugasan natif seperti pengaburan latar belakang dalam panggilan video atau sari kata langsung.
Jika anda perasan bahawa penggunaan NPU dalam Pengurus Tugas sentiasa pada 0%, ia tidak semestinya menjadi masalah di pihak anda; ekosistem perisian masih matang . Kita berada dalam fasa yang sama seperti ketika GPU mula digunakan untuk pengkomputeran saintifik: perkakasan semakin maju, dan pembangun mula menyesuaikan alatan mereka.
Mempunyai pemecut saraf merupakan kelebihan daya saing pada masa kini, terutamanya dalam ultrabook dan mini PC yang mana kesunyian dan hayat bateri adalah sangat penting. Walaupun aplikasinya kini terhad kepada fungsi Windows atau beberapa model terkuantum, trendnya jelas: dalam jangka pendek, NPU akan menjadi enjin standard untuk mana-mana pembantu peribadi yang berada pada cakera keras kita tanpa menghabiskan bateri.