- LM Studio 可讓您透過簡單的圖形介面在本機上運行高階語言模型，並且相容於 GGUF 等最佳化格式。
- 為了獲得良好的效能，建議使用配備 AVX2 指令集的現代 CPU、至少 16 GB 的內存，如果是 Mac 電腦，建議使用 Apple Silicon 處理器。
- 聊天、RAG、開發者模式和系統提示的結合，可以很好地控制模型的行為和自訂文件的使用。
- 在您的電腦上執行 LLM 可提供隱私、自主性和自訂可能性，這是純粹基於雲端的服務很難比擬的。
生成式人工智慧不再是大型企業的專屬領域，如今任何人都可以直接在自己的電腦上體驗高階語言模式。借助 LM Studio 等工具，我們可以與 ChatGPT 類型的模型進行聊天、建立摘要、分析文件或生成文本，而無需依賴雲端服務或將資料暴露給第三方。
如果您想知道如何在 Windows 或 Mac 上安裝 LM Studio，以及需要哪些條件才能使其在標準家用電腦上流暢運行，本指南將提供完整的演練：要求、分步安裝、下載模型、使用聊天模式、使用 RAG 處理您的私人文檔，以及充分利用硬體的高級選項。
LM Studio是什麼？為什麼值得在本地使用？
LM Studio 是一款桌面應用程序，旨在讓您輕鬆地在自己的電腦上運行語言模型 (LLM)。它擁有清晰的圖形介面，無需在終端機中輸入命令。您可以下載模型、將其加載到記憶體中，並像使用線上聊天一樣與模型進行交互，所有操作都在您的電腦上完成。
與 llama.cpp、KoboldAI 或其他類似純命令列工具相比，LM Studio 的主要差異在於其易用性。 LM Studio 無需使用者費力地處理參數、路徑和腳本，而是提供組織清晰的選單和版塊，例如「模型」標籤、「聊天」標籤、「設定」標籤、「開發者模式」等等，使其成為技術水平較低或希望直奔主題的使用者的理想選擇。
LM Studio 的另一個關鍵優勢在於它支援 GGUF 模型，GGUF 是廣泛使用的標準，並針對 CPU 和 GPU 上的本機執行進行了最佳化。這意味著更高的效能、更低的記憶體消耗，以及與 LLaMA、Mistral、Falcon、Granite 等眾多熱門模型庫中提供的模型的兼容性。
由於 LM Studio 在本地運行，因此具有顯著的隱私優勢：您的文字和用於提問的文件都保留在您的電腦上。您無需將敏感資訊傳送到雲端，使其成為處理合約、內部報告、學術筆記或任何其他敏感內容的理想選擇。
無論您是開發人員、學生，還是只是對人工智慧感興趣的人，LM Studio 都兼具兩者的優點：既易於使用以完成日常任務，又具備高級功能（開發人員模式、本地 API、生成參數等），以滿足那些想要更好地控制模型行為的用戶的需求。
在安裝 LM Studio 之前，Windows 和 Mac 系統需要符合下列要求？
在下載 LM Studio 之前，請務必檢查您的電腦是否符合最低配置要求，尤其如果您希望獲得流暢的使用體驗，避免頻繁崩潰和無休止的等待。其中兩個關鍵組件是處理器 (CPU) 和記憶體 (RAM)。
在 Windows 電腦上，建議至少配備 16 GB 記憶體才能流暢運行中等規模的遊戲。 8 GB 記憶體可以運行一些小型遊戲並進行一些基本測試，但你會注意到速度和可載入遊戲大小的限制。 16 GB 記憶體能顯著改善這種情況，而 32 GB 或更大的記憶體則更適合運行大型遊戲。
關於 Windows 系統中的處理器，重要的是它必須支援 AVX2 指令集。大多數現代的 Intel 和 AMD CPU 都支援 AVX2，但最好還是確認一下。為此，您可以執行以下操作：
- 開啟“系統資訊”工具 從 Windows 系統（您可以從「開始」功能表搜尋它）。
- 找到“處理器”部分 並記下你的CPU的全名。
- 請造訪英特爾的 ARK 網站或製造商的規格頁面。 （AMD 或其他廠商），並按處理器的確切名稱進行搜尋。
- 在技術或指令擴充模組中 檢查AVX2是否已列出。如果已列出，則表示LM Studio運作良好，效能有保障。
在Mac電腦上，情況略有不同，但在某些方面也更簡單。 LM Studio針對搭載Apple Silicon處理器的電腦進行了最佳化，包括M1、M2、M3、M4及其衍生型號。這些晶片在本地化版本中性能卓越，且功耗低，因此是執行此類任務的理想平台。
如果您使用的是搭載 Intel 處理器的舊款 Mac，LM Studio 並非最佳選擇，因為它主要支援 Apple Silicon 晶片。對於這類機器，Msty 是一個非常好的替代方案。 Msty 也是一款可讓您在本機上運行 LLM 模型的工具，更適合 Apple Silicon 架構。無論如何，如果您使用的是搭載 M1 或更新晶片的 Mac，LM Studio 都是不錯的選擇。
除了 CPU 和記憶體之外，獨立 GPU 或整合在 Apple Silicon 中的 GPU 也很有幫助，尤其是當您想要加快文字產生速度時。 LM Studio 可以利用這些資源在幾秒鐘內提供回應。您還需要足夠的磁碟空間，因為不同型號的記憶體大小從幾百 MB 到幾 GB 不等。
逐步下載並安裝適用於 Windows 和 Mac 的 LM Studio
確認您的電腦符合最低設定要求後，下一步是從LM Studio官方網站下載安裝程式。 Windows和macOS上的安裝過程非常相似，但檔案運作方式略有不同。
首先，請造訪 LM Studio 官方網站 (lmstudio.ai)並找到下載頁面。您將看到適用於 Windows、macOS 甚至 Linux 的版本。只需選擇適合您作業系統的版本即可。
在 Windows 系統中，您下載的檔案通常是執行檔或安裝程式。選擇一個方便尋找的資料夾，例如桌面或「下載」資料夾。如果您使用 Edge 或 Chrome 等瀏覽器，請檢查下載欄，以防瀏覽器出於安全原因阻止下載該檔案（因為它是執行檔）。
在 macOS 系統中，下載的檔案通常為 .dmg 或類似格式。與 Windows 系統一樣，將檔案儲存到易於存取的資料夾中。下載完成後，請雙擊該檔案進行掛載，並在提示時將 LM Studio 圖示拖曳到「應用程式」資料夾。
在兩個系統中，LM Studio 的安裝精靈都非常簡單好用。在 Windows 系統中，請雙擊安裝程式並按照精靈的步驟操作：接受許可協議，選擇安裝資料夾，就完成了。如果您不想讓安裝過程變得複雜，可以將所有選項保留為預設值。
在安裝過程中，LM Studio 通常會建議下載一個預設模型，通常是像 Meta 的 Llama 3.2 1B 或類似的輕量級基礎模型，這樣您就可以直接開始聊天，而無需再費心搜尋其他內容。許多安裝程式也會建議下載一些熱門模型，例如DeepSeek R1。
安裝完成後，您可以勾選複選框直接開啟 LM Studio，或在 Windows 系統中從「開始」功能表或在 Mac 系統中從「啟動台」和「應用程式」中找到該應用程式。首次啟動可能需要比平常稍長的時間，因為應用程式需要進行一些內部設定。
首次啟動LM Studio並探索其介面
首次開啟 LM Studio 時，您會看到一個簡潔的介面，其設計旨在讓任何人都能在幾分鐘內輕鬆上手。通常會顯示一個歡迎畫面，根據您的安裝方式，還會提供一個預選模板供您開始測試聊天功能。
預設情況下，LM Studio 會載入您在初始安裝過程中安裝的模型。此模型通常較小，佔用記憶體不多，非常適合在下載可能佔用大量硬體資源的大型模型之前，請驗證所有功能是否正常運作。
在側邊欄中，您會找到「模特兒」、「聊天」和「設定」等關鍵部分。在「模特兒」部分，您可以搜尋、下載和管理可用模特兒；在「聊天」部分，您可以與目前線上模特兒進行對話；在設定區域，您可以找到高級參數、開發者模式和其他選項。
LM Studio 的一大優勢在於，您可以毫無障礙地使用任何語言與模型進行交流，包括西班牙語（西班牙）。只需在文字方塊中輸入您的訊息或問題，然後按 Enter 鍵，模型即可開始產生回應。
除了預先安裝的型號外，您還可以直接在應用程式中搜尋其他型號。只需點擊型號列中的搜尋圖示（通常為放大鏡圖示）即可。在那裡，您會看到諸如 IBM Granite 之類的型號，以及來自不同系列的其他型號（例如 LLaMA、Mistral、Falcon 等）。
如何在LM Studio中下載和更改模型
要充分利用 LM Studio，不要局限於預設模型；樂趣在於能夠嘗試不同的 LLM，比較它們，並選擇最適合您需求的模型：創意寫作、解釋概念、技術分析等等。
在「模型」標籤中，您會看到一個搜尋欄和一個可用模型清單。您可以輸入您感興趣的系列名稱（例如，Mistral 7B、LLaMA 2 或特定型號），LM Studio 將以 GGUF 格式顯示相容的選項，供您下載。
找到合適的型號後，點擊即可查看其版本。通常會根據尺寸和量化等級（影響記憶體消耗和回應品質）顯示不同的版本。最新或推薦版本通常位於清單頂部。
請務必選擇適合您硬體的版本：如果您的 RAM 較少，您可能需要較小或量化程度較高的版本；如果您的資源充足，則可以選擇通常提供更好文字品質效能的較大版本。
要開始下載，只需點擊“下載”按鈕。您會看到一個進度條，顯示下載狀態；下載所需時間取決於檔案大小和您的網路連線速度。下載完成後，該模型將出現在您的清單中。
若要使用您下載的任何模型，請前往「聊天」標籤。頂部通常會有一個類似「選擇要聊天的模型」的下拉式選單，您可以從中選擇所有已安裝的模型。選擇您想嘗試的模型，之後，聊天回覆將由該模型產生。
不要害怕下載多個模型來比較它們的性能：有些速度更快但精度較低，有些速度較慢但細節非常豐富。但是，請記住，每個模型都會佔用磁碟空間並消耗記憶體和 CPU 資源，因此最好查看您實際使用的模型，並刪除不需要的模型。
利用聊天功能、實際範例和控制基本參數
LM Studio 的聊天模組是您花費時間最多的地方，因為它是與模型互動的自然入口。它的工作方式與傳統聊天非常相似：您輸入訊息，按回車鍵，然後接收由本地模型產生的回應。
一個簡單的例子可以作為入門，詢問模型關於工具本身的問題，例如：「什麼是 LM Studio，它是做什麼用的？」；幾秒鐘後，你應該會看到模型解釋說，它是一個可以在本地運行語言模型的應用程序，無需連接到雲端服務，非常適合實驗、開發或學習任務。
在 LM Studio 的設定中，您可以找到一些參數，它們會極大地影響回覆的風格。其中最重要的參數之一是溫度：較低的溫度值（例如 0.1-0.3）會產生更冷靜、連貫且可重複的回應；較高的溫度值（0.8-1.0）會產生更具創意和多樣化的文本，但同時也更容易出現語無倫次或錯誤。
其他常用參數包括 Top-K 和 Top-P，它們控制每次生成步驟中考慮的單字或詞元選項的數量。調整這些參數可以平衡精確性和多樣性：更嚴格的值會使反應更「僵化」和集中，而更廣泛的值則允許產生更具想像力的反應。
您還可以修改要產生的最大詞元數和最大上下文範圍，也就是回應的長度以及模型考慮的先前對話或輸入文字的多少。提高這些限制通常可以提高長對話或大量摘要的一致性，但代價是消耗更多記憶體和計算時間。
附加文件並使用 RAG 來利用您自己的文檔
任何語言模型的一個弱點是，它只能了解訓練期間所學的內容。它無法直接存取您的文件或最近的私人信息，因此，它無法根據您的合約、筆記或個人報告回答問題。
這時，檢索增強生成（RAG）就派上了用場，它允許您上傳自己的文檔，並將其作為模型回應的基礎。 LM Studio 整合了此功能，因此您可以直接詢問有關文件的問題，而無需複製貼上大量文字。
在 LM Studio 中，您可以一次附加最多 5 個文件，總大小不超過 30 MB。支援的格式包括PDF 文件、Word DOCX 檔案、TXT 文字檔案和 CSV 電子表格。這種靈活性使您無需轉換即可處理多種類型的內容。
上傳文件後，最好提出非常具體的問題。例如，如果您上傳的是PDF格式的租賃協議，您可以問：「根據上傳的合同，我需要提前多久通知才能終止租賃？」提供具體細節有助於系統檢索文件的相關部分，並為您提供量身定制的答案。
該模型會將您的查詢與從文件中提取的資訊結合，產生原則上更貼近實際情況的回應，而不是僅基於其通用訓練資料產生的回應。您可以嘗試使用不同的文件和不同的提示重複此過程，並觀察結果的變化。
開發者模式與進階設置，滿足更進階使用者的需求
如果您想更進一步，對模型的行為進行精細控制，LM Studio 提供了一個「開發者」模式，其中包含進階選項，對於開發者和微調特定工作流程的使用者都非常有用。
在此模式下，您可以微調溫度、Top-K 和 Top-P 設置，定義每代最大令牌數，並最佳化 CPU 和 GPU 之間的資源分配。這些變更對於平衡機器的創造力、精確度和性能至關重要。
開發者模式的另一個關鍵特性是能夠設定「系統提示」：這是一個初始上下文訊息，用於指導模型在整個對話過程中的行為。您可以在這裡告訴模型諸如“您是西班牙勞動法專家”、“請始終簡潔作答”或“請在所有回答中包含實際示例”之類的信息。
透過建立完善的系統提示，您可以將模型轉變為滿足您特定需求的專業助理：撰寫正式郵件、解釋程式設計概念、協助完成學術作業、產生報告等等。當您將紅黃綠（RAG）評級系統與明確的指示相結合時，其功能尤其強大。
請注意，所有這些設定都會影響資源消耗。例如，過大的上下文和過長的回應時間會顯著增加記憶體和 CPU 使用率，這在效能較低的機器上會導致更長的等待時間。理想情況下，您應該嘗試不同的設置，直到找到既能獲得良好響應品質又不會顯著影響性能的平衡點。
在自己的計算機上運行LLM模型的優勢
與始終依賴雲端服務相比，使用 LM Studio 在本地處理語言模型具有許多顯著優勢，無論是對於個人用戶還是對於處理敏感資訊的專業人士都是如此。
首要優勢在於隱私性。無需將文字或文件上傳到外部伺服器，即可最大限度地降低資料外洩或未經授權使用的風險。這在處理合約、公司內部資料、個人筆記或任何您希望保密的內容時至關重要。
第二個優勢是自主性。模板下載並配置完成後，即使網路連線中斷或速度很慢，您也可以繼續使用。這對於經常攜帶筆記型電腦出差、在網路覆蓋不佳地區工作的人，或不想依賴外部網路服務的人來說，都是理想之選。
此外，本機執行可讓您對工作環境進行更多自訂。您可以選擇要安裝的模型、如何配置它們、每個任務要使用的參數，甚至可以組合使用不同的工具：例如，使用 LM Studio 處理日常任務，使用連接到其本地 API 的Python 腳本進行自動化，等等。
另一個值得關注的面向是中長期成本節約。如果您的需求不需要最先進的雲端系統，那麼一台性能適中的電腦和精心挑選的本地型號可能就足夠了，這樣可以避免每月支付費用或免費服務嚴格的使用限制。
最後，使用 LM Studio 和本地模型是深入了解生成式 AI 工作原理的絕佳途徑。透過下載不同的模型、調整溫度、測試 RAG 以及與系統提示交互，您可以更深入地了解這項技術的功能及其真正的限制。
為了充分發揮 LM Studio 的效能，建議嘗試不同的模型，檢查它們對記憶體和 CPU 的影響，調整參數，並始終將應用程式更新到最新版本。這樣，您就能確保及時獲得最新的效能改進、新功能和錯誤修復。
綜上所述，LM Studio 已成為一款功能非常全面的工具，適合任何希望在 PC 或 Mac 上運行強大語言模型的使用者。它兼具隱私性、控制性、靈活性，並且憑藉其圖形介面，學習曲線平緩易懂。無論是用於實驗、學習、自動化任務，或是僅僅體驗人工智慧，在自己的電腦上運行這些模型都能帶來無限可能，而無需持續依賴雲端服務。
