- 可以通过 Windows 中的任务管理器或设备管理器来验证 NPU 是否存在。
- 所有搭载 Apple Silicon 芯片（M1 及以上）的 Mac 电脑都集成了一个神经处理单元。
- NPU 的主要优势在于能源效率高，能够以最小的功耗进行 AI 推理。
- 目前软件支持有限，依赖于特定的运行时环境，例如 OpenVINO 或 QNN。
你最近可能听说过著名的“人工智能电脑”，也想知道自己桌上的电脑是不是其中之一。关键在于NPU（神经处理单元），这种组件几乎在所有现代笔记本电脑中都已普及。它能防止人工智能占用过多系统资源，更重要的是，还能避免电池电量在几分钟内耗尽。
如果你想在本地运行 AI 模型，而不是依赖云端，那么了解你的电脑是否拥有这款加速器至关重要。这不仅仅是为了炫耀你的硬件配置，更重要的是利用其卓越的能效，让你在执行复杂任务时，电脑风扇不会发出像要飞向火星一样的轰鸣声。接下来，我们将探讨如何查看你的电脑是否拥有这款加速器，以及它目前可以为你带来哪些实际好处。
在 Windows 系统中快速检测 NPU 的方法
如果您使用的是 Windows 系统，无需成为电脑专家也能找到答案。最直接的方法是打开任务管理器（Ctrl + Shift + Esc），然后查看“性能”选项卡。如果您的电脑支持，您会在 CPU 和 GPU 旁边看到一个名为“NPU”的特定部分，您可以在这里实时监控其工作负载。
另一个非常可靠的方法是打开设备管理器。找到名为“神经处理器”的部分。如果列表中出现该类别，恭喜你：你的电脑已安装了NPU（神经处理器）。这种方法的优点在于它会显示芯片的确切名称，方便你在线查找其技术规格，了解其每秒运算次数（TOPS）是多少。
技术咨询和制造商支持
有时，软件会引发问题，或者驱动程序可能已过时，这时最好直接联系软件源头。理想情况下，您应该在“设置”菜单中找到您的处理器型号，然后访问制造商的官方网站（无论是英特尔、AMD 还是高通）。在您电脑具体型号的规格表中，您可以确认该芯片是否集成了人工智能功能，以及它支持哪些 Windows 功能，例如相机特效。
如果您购买的是标有“Copilot+ PC”字样的设备，尤其是搭载骁龙 X Elite 或 Plus 处理器的设备，您可以放心，NPU 已作为标准配置集成在设备中。但是，我们始终建议您通过 Windows 更新或制造商网站检查驱动程序是否为最新版本，以确保系统能够正确识别硬件。
NPU在Mac生态系统中的地位
在苹果的世界里，情况则简单得多。NPU（神经网络处理单元）随着苹果芯片的推出而问世。这意味着任何搭载M1、M2、M3或M4芯片的Mac电脑都已集成神经网络处理单元。这种架构部分源自iPhone芯片，正是它使得Apple Intelligence等功能能够在苹果电脑上流畅运行。
它真正的用途是什么？它的局限性又是什么？
人们普遍误以为NPU可以取代显卡。实际上，NPU是专门用于处理量化权重（INT8或INT4）神经网络推理的。GPU是通用型高性能处理器，而NPU则是一款精密工具，可以运行小型模型，例如Phi-3 Mini，功耗仅为5到10瓦，而笔记本电脑GPU的功耗则高达40到50瓦。
然而，并非一切都尽如人意。NPU并非为训练模型或进行微调而设计；这些仍然是拥有专用显存的 GPU 的专属领域。此外，如果你的系统只有 16 GB 内存，尝试运行一个拥有 7 亿个参数的模型可能会非常棘手，因为 NPU 与系统共享内存，你的电脑可能会运行不流畅。
当前软件和应用程序面临的挑战
问题就出在这里。拥有硬件并不意味着所有应用都会使用它。目前，每个厂商都有自己的一套“语言”：英特尔使用 OpenVINO，AMD 使用 ROCm/Ryzen AI，高通使用 QNN。尽管 ONNX 运行时标准试图统一这些语言，但许多流行的应用程序仍然忽略了 NPU。
- LM工作室： 它已经开始通过 QNN 支持高通 NPU。
- 奥拉马： 目前，它仍然主要依赖于 CPU 或 GPU，暂且不考虑 NPU。
- Windows Copilot： 使用 NPU 执行原生任务，例如视频通话中的背景虚化或实时字幕。
如果您发现任务管理器中的 NPU 使用率始终为 0%，这并不一定是您的问题；软件生态系统仍在发展完善中。我们目前所处的阶段与 GPU 最初用于科学计算时类似：硬件领先，而开发人员正在逐步调整他们的工具。
如今，拥有神经网络加速器是一项竞争优势，尤其是在超极本和迷你电脑领域，静音和电池续航时间至关重要。尽管目前其应用仅限于 Windows 功能或某些量化模型，但发展趋势显而易见：在短期内，NPU 将成为所有驻留在硬盘上且不消耗电池电量的个人助理的标准引擎。