- Mu 是一個小型的、完全在地化的語言模型，可讓您使用自然語言管理 Windows 11。
- 它提供的性能可與更大的型號相媲美，並且由於整合到 NPU 中而響應迅速。
- 它的架構、訓練技術和最佳化可以減少資源消耗並最大限度地保護用戶隱私。
人工智慧領域正以驚人的速度持續發展，微軟推出Mu——其全新的小型語言模型（SLM）——可謂大膽之舉，旨在徹底改變用戶與Windows 11的互動方式。當業界仍在爭論雲端依賴和資料隱私問題時，這家位於雷德蒙德的公司卻押注於能夠在本地運行的人工智慧，這為以更智慧、更有效率的方式管理作業系統設定開闢了新的可能性。
本文將為您詳細介紹 Microsoft MU：從其架構和技術特性，到訓練方式，再到它對 Copilot+ PC 的實際影響及其未來前景。如果您想了解人工智慧在 Windows 11 中的最新進展，本文將為您提供清晰詳盡的解釋。
Mu 是什麼？為什麼它標誌著前後？
Mu 是一款專注於效率和速度的小型語言模型，已整合到配備 Copilot+ 和 NPU 的 Windows 11 裝置中。它無需雲端連接即可運行，這與幾乎完全依賴遠端伺服器的傳統模型截然不同。
這款全新模型直接整合到 Windows 11 設定搜尋框中。它的主要功能是將自然語言請求轉換為作業系統內的特定操作。想要用簡單的短語啟動深色模式或顯示可用的 Wi-Fi 網路？ Mu 就是讓這一切成為可能的對話引擎。
Mu 擁有 330 億個參數，在效能和效率之間實現了平衡。雖然它比其他型號如 Phi-3.5 Mini 等的處理器體積更小，但在系統管理和自然語言理解任務方面卻能達到相近的效能，使其成為資源受限設備的理想解決方案。
根據微軟和專業媒體提供的數據，由於 Copilot+ PC 的神經處理單元 (NPU)，Mu 可以在完全本地處理的情況下每秒生成超過 100 個令牌。這有助於實現快速響應、低延遲以及與系統更自然的互動。
技術細節：架構、訓練與最佳化技術
Mu 是一個基於 Transformer 架構的編碼器-解碼器模型，針對 NPU 上的本地執行進行了最佳化。這種設計將輸入處理（理解）與輸出處理（響應）分離，顯著降低了計算和記憶體負載，使其能夠在資源適中的設備上運行。
Mu 的訓練特別精細且雄心勃勃。它接受了來自高品質教育數據和對話的數千億個詞元輸入，從而確保其對語言的語法、語義和語境等方面都有著全面的理解。此外，微軟還採用了來自更大型 Phi 模型的提煉技術，使 Mu 能夠在保持緊湊高效體積的同時，繼承其高準確率。
Azure 機器學習中使用了 NVIDIA A100 GPU 進行訓練。此外，微軟也實作了多種優化技術，包括：
- 雙層範式： 提高訓練穩定性並降低計算成本。
- 旋轉位置嵌入（RoPE）： 提高對長序列的管理和理解，輸入自然對話。
- 分組查詢注意（GQA）： 減少記憶體消耗，同時不損失反應的精確度。
- 訓練後量化（PTQ）： 將權重和啟動的大小減少到 8 位和 16 位，優化記憶體並實現現代硬體上每秒超過 200 個令牌的速度。
編碼器和解碼器之間的參數分配，以及客製化的微架構，使每個 NPU 都能充分利用。在 Surface Laptop 7 等裝置上，延遲保持在 500 毫秒以下，提供近乎即時的回應。
Mu 與前代車型和競爭對手的比較
Mu 的定位是比體積更大的型號更有效的替代方案。微軟將 Mu 與自家的 Phi-3.5-mini 進行了比較，結果表明，儘管參數數量少了多達 10 倍，Mu 的性能卻與之相差無幾。
Mu 的獨特之處在於其卓越的體積性能比。 Phi -3.5-mini 需要更多資源並依賴雲端運行，而 Mu 則可在本地運行並達到類似的效果。這不僅提高了隱私性，減少了資料使用量，也改善了行動裝置或網路連線受限環境下的使用體驗。
官方的精度測試和基準測試（例如 SQuAD、CodeXGlue 和 Windows 設定任務）表明，Mu 與較重的型號相比保持了出色的性能，證實了它適用於資源有限但對速度和效率要求較高的設備。
Mu 的主要創新和技術進步
Mu 不僅僅是一款尺寸較小的機型；它融合了多項創新技術，從而實現了更高的效率和速度。其中最重要的幾項包括：
- 完全整合到NPU： Mu 完全在神經處理單元上運行，確保快速推理和更強的隱私控制。
- 本地處理與安全： 所有查詢都在設備上處理，無需將資料發送到雲端，從而加強了資訊保護。
- 跨平台兼容性： 儘管最初適用於搭載 Snapdragon X 的 PC，但 Copilot+ 計劃將其擴展到 AMD 和 Intel NPU，從而擴大其覆蓋範圍。
- 配置任務的最佳化： 經過超過 3,6 萬個特定樣本的訓練，它可以準確地理解和執行 Windows 中的複雜命令。
參數共享和調整的微架構允許進一步壓縮模型尺寸而不會損失準確性。
Windows 11 安裝精靈中的應用程式
Mu 為 Copilot+ 電腦上的 Windows 11 設定助手帶來了革命性的改變。由於它的集成，用戶可以使用自然語言命令，例如“更改壁紙”或“開啟夜間模式”，系統會自動響應並執行更改，無需用戶瀏覽複雜的選單。
主要優點包括：
- 即時回應： 一般少於半秒。
- 易於使用： 在設定中刪除手動導航。
- 模糊指令的精確度： 優先考慮常用選項，以避免具有多重含義的訂單出現錯誤。
- 諮詢方面的差異： 區分一般搜尋和特定請求，並採取相應行動。
這項進步使 Windows 11 中的高級設定更容易訪問，為所有用戶提供更個人化和便利的體驗。
培訓、數據和技術合作
人工智慧要理解自然語言並將其轉化為有用的行動並非易事。微軟開發了一套全面的訓練流程，使用了數百萬個範例，涵蓋了從語法結構到日常語言細微差別的各個方面。
與 AMD、英特爾和高通等技術合作夥伴的協作是 Mu 適配不同平台和 NPU 的關鍵。參數分佈、量化和微調確保了 Mu 在各種設備上都能實現最佳性能、速度和效率。
這些努力包括真實世界的數據、在具有模糊查詢的場景中進行測試以及確定關鍵功能的優先級，以便從一開始就提供最佳體驗。
相對於雲端模型的優勢及其對產業的影響
微軟對本地部署人工智慧的重視對未來有著深遠的影響。人們對隱私和資料保護日益增長的擔憂，使得像 Mu 這樣的模型成為比雲端解決方案更理想的選擇。
這項技術能夠提高能源效率、降低延遲並實現更高程度的客製化，從而使個人用戶和企業都從中受益。在不犧牲速度或安全性的前提下實現智慧管理，將開啟邊緣人工智慧的新時代。
Mu 代表了設備上 AI（「邊緣 AI」）的突破，其中複雜模型的本地執行成為標準，消除了外部依賴。
當前的挑戰和未來的前景
儘管 Mu 代表著一項重大進步，但它仍然面臨挑戰。
- 支持的硬件： 目前僅適用於搭載 Snapdragon X NPU 的 Copilot+ 設備，儘管微軟計劃擴展它，但採用將是漸進的。
- 解釋複雜的指令： 儘管已經取得了很大進展，但在理解模糊或多功能命令方面仍有改進的空間。
- 客製化和擴展： 目前尚不清楚微軟是否允許第三方開發人員修改 Mu 以供 Windows 以外的用途。
當然，Mu的推出標誌著作業系統與本地人工智慧互動方式的革命的開始，使得與你的PC對話並輕鬆進行更改成為可能。