- LM Studio 允许您通过简单的图形界面在本地运行高级语言模型，并且兼容 GGUF 等优化格式。
- 为了获得良好的性能，建议使用配备 AVX2 指令集的现代 CPU、至少 16 GB 的内存，如果是 Mac 电脑，则建议使用 Apple Silicon 处理器。
- 聊天、RAG、开发者模式和系统提示的结合，可以很好地控制模型的行为和自定义文档的使用。
- 在您的计算机上运行 LLM 可提供隐私、自主性和自定义可能性，这是纯粹基于云的服务很难比拟的。
生成式人工智能不再是大型企业的专属领域，如今任何人都可以直接在自己的电脑上体验高级语言模型。借助 LM Studio 等工具，我们可以与 ChatGPT 类型的模型进行聊天、创建摘要、分析文档或生成文本，而无需依赖云端服务或将数据暴露给第三方。
如果您想知道如何在 Windows 或 Mac 上安装 LM Studio，以及需要哪些条件才能使其在标准家用电脑上流畅运行，本指南将提供完整的演练：要求、分步安装、下载模型、使用聊天模式、使用 RAG 处理您的私人文档，以及充分利用硬件的高级选项。
LM Studio是什么？为什么值得在本地使用？
LM Studio 是一款桌面应用程序，旨在让您轻松地在自己的计算机上运行语言模型 (LLM)。它拥有清晰的图形界面，无需在终端中输入命令。您可以下载模型、将其加载到内存中，并像使用在线聊天一样与模型进行交互，所有操作都在您的计算机上完成。
与 llama.cpp、KoboldAI 或其他类似纯命令行工具相比，LM Studio 的主要区别在于其易用性。LM Studio 无需用户费力地处理参数、路径和脚本，而是提供组织清晰的菜单和版块，例如“模型”选项卡、“聊天”选项卡、“设置”选项卡、“开发者模式”等等，使其成为技术水平较低或希望直奔主题的用户的理想选择。
LM Studio 的另一个关键优势在于它支持 GGUF 模型，GGUF 是一种广泛使用的标准，针对 CPU 和 GPU 上的本地执行进行了优化。这意味着更高的性能、更低的内存消耗，以及与 LLaMA、Mistral、Falcon、Granite 等众多热门模型库中提供的模型的兼容性。
由于 LM Studio 在本地运行，因此具有显著的隐私优势：您的文字和用于提问的文档都保留在您的计算机上。您无需将敏感信息发送到云端，使其成为处理合同、内部报告、学术笔记或任何其他敏感内容的理想选择。
无论您是开发人员、学生，还是仅仅是对人工智能感兴趣的人，LM Studio 都兼具两者的优点：既易于使用以完成日常任务，又具备高级功能（开发人员模式、本地 API、生成参数等），以满足那些想要更好地控制模型行为的用户的需求。
安装 LM Studio 前，Windows 和 Mac 系统需要满足以下要求？
在下载 LM Studio 之前，务必检查您的电脑是否满足最低配置要求，尤其如果您希望获得流畅的使用体验，避免频繁崩溃和无休止的等待。其中两个关键组件是处理器 (CPU) 和内存 (RAM)。
在 Windows 电脑上，建议至少配备 16 GB 内存才能流畅运行中等规模的游戏。8 GB 内存可以运行一些小型游戏并进行一些基本测试，但你会注意到速度和可加载游戏大小方面的限制。16 GB 内存能显著改善这种情况，而 32 GB 或更大的内存则更适合运行大型游戏。
关于 Windows 系统中的处理器，重要的是它必须支持 AVX2 指令集。大多数现代的 Intel 和 AMD CPU 都支持 AVX2，但最好还是确认一下。为此，您可以执行以下操作：
- 打开“系统信息”工具 从 Windows 系统（您可以从“开始”菜单搜索它）。
- 找到“处理器”部分 并记下你的CPU的全称。
- 请访问英特尔的 ARK 网站或制造商的规格页面。 （AMD 或其他厂商），并按处理器的确切名称进行搜索。
- 在技术或指令扩展模块中 检查AVX2是否已列出。如果已列出，则说明LM Studio运行良好，性能有保障。
在Mac电脑上，情况略有不同，但在某些方面也更简单。LM Studio针对搭载Apple Silicon处理器的电脑进行了优化，包括M1、M2、M3、M4及其衍生型号。这些芯片在本地化版本中性能卓越，且功耗低，因此是执行此类任务的理想平台。
如果您使用的是搭载 Intel 处理器的旧款 Mac，LM Studio 并非最佳选择，因为它主要支持 Apple Silicon 芯片。对于这类机器，Msty 是一个非常不错的替代方案。Msty 也是一款允许您在本地运行 LLM 模型的工具，并且更适合 Apple Silicon 架构。无论如何，如果您使用的是搭载 M1 或更新芯片的 Mac，LM Studio 都是不错的选择。
除了 CPU 和内存之外，独立 GPU 或集成在 Apple Silicon 中的 GPU 也很有帮助，尤其是在您想要加快文本生成速度时。LM Studio 可以利用这些资源在几秒钟内提供响应。您还需要足够的磁盘空间，因为不同型号的内存大小从几百 MB 到几 GB 不等。
逐步下载并安装适用于 Windows 和 Mac 的 LM Studio
确认您的电脑满足最低配置要求后，下一步是从LM Studio官方网站下载安装程序。Windows和macOS上的安装过程非常相似，只是文件运行方式略有不同。
首先，访问 LM Studio 官方网站 (lmstudio.ai)并找到下载页面。您会看到适用于 Windows、macOS 甚至 Linux 的版本。只需选择适合您操作系统的版本即可。
在 Windows 系统中，您下载的文件通常是一个可执行文件或安装程序。选择一个方便查找的文件夹，例如桌面或“下载”文件夹。如果您使用 Edge 或 Chrome 等浏览器，请检查下载栏，以防浏览器出于安全原因阻止下载该文件（因为它是一个可执行文件）。
在 macOS 系统中，下载的文件通常为 .dmg 或类似格式。与 Windows 系统一样，将文件保存到易于访问的文件夹中。下载完成后，双击该文件进行挂载，并在提示时将 LM Studio 图标拖到“应用程序”文件夹。
在两个系统中，LM Studio 的安装向导都非常简单易用。在 Windows 系统中，双击安装程序并按照向导的步骤操作：接受许可协议，选择安装文件夹，就完成了。如果您不想让安装过程变得复杂，可以将所有选项保留为默认设置。
安装过程中，LM Studio 通常会建议下载一个默认模型，通常是像 Meta 的 Llama 3.2 1B 或类似的轻量级基础模型，这样您就可以直接开始聊天，无需再费心搜索其他内容。许多安装程序还会建议下载一些热门模型，例如DeepSeek R1。
安装完成后，您可以勾选复选框直接打开 LM Studio，或者在 Windows 系统中从“开始”菜单或在 Mac 系统中从“启动台”和“应用程序”中找到该应用程序。首次启动可能需要比平时稍长的时间，因为应用程序需要进行一些内部设置。
首次启动LM Studio并探索其界面
首次打开 LM Studio 时，您会看到一个简洁的界面，其设计旨在让任何人都能在几分钟内轻松上手。通常会显示一个欢迎界面，根据您的安装方式，还会提供一个预选模板供您开始测试聊天功能。
默认情况下，LM Studio 会加载您在初始安装过程中安装的模型。该模型通常较小，占用内存不多，非常适合在下载可能占用大量硬件资源的大型模型之前，验证所有功能是否正常运行。
在侧边栏中，您会找到“模特”、“聊天”和“设置”等关键部分。在“模特”部分，您可以搜索、下载和管理可用模特；在“聊天”部分，您可以与当前在线模特进行对话；在设置区域，您可以找到高级参数、开发者模式和其他选项。
LM Studio 的一大优势在于，您可以毫无障碍地使用任何语言与模型进行交流，包括西班牙语（西班牙）。只需在文本框中输入您的消息或问题，然后按 Enter 键，模型即可开始生成回复。
除了预装的型号外，您还可以直接在应用程序中搜索其他型号。只需点击型号栏中的搜索图标（通常为放大镜图标）即可。在那里，您会看到诸如 IBM Granite 之类的型号，以及来自不同系列的其他型号（例如 LLaMA、Mistral、Falcon 等）。
如何在LM Studio中下载和更改模型
要充分利用 LM Studio，不要局限于默认模型；乐趣在于能够尝试不同的 LLM，比较它们，并选择最适合您需求的模型：创意写作、解释概念、技术分析等等。
在“模型”选项卡中，您会看到一个搜索栏和一个可用模型列表。您可以输入您感兴趣的系列名称（例如，Mistral 7B、LLaMA 2 或特定型号），LM Studio 将以 GGUF 格式显示兼容的选项，供您下载。
找到合适的型号后，点击即可查看其版本。通常会根据尺寸和量化级别（影响内存消耗和响应质量）显示不同的版本。最新或推荐版本通常位于列表顶部。
请务必选择适合您硬件的版本：如果您的 RAM 较少，您可能需要较小或量化程度更高的版本；如果您的资源充足，则可以选择通常提供更好文本质量性能的较大版本。
要开始下载，只需点击“下载”按钮。您会看到一个进度条，显示下载状态；下载所需时间取决于文件大小和您的网络连接速度。下载完成后，该模型将出现在您的列表中。
要使用您下载的任何模型，请前往“聊天”选项卡。顶部通常会有一个类似“选择要聊天的模型”的下拉菜单，您可以从中选择所有已安装的模型。选择您想尝试的模型，之后，聊天回复将由该模型生成。
不要害怕下载多个模型来比较它们的性能：有些速度更快但精度较低，有些速度较慢但细节非常丰富。但是，请记住，每个模型都会占用磁盘空间并消耗内存和 CPU 资源，因此最好查看一下您实际使用的模型，并删除不需要的模型。
利用聊天功能、实际示例和控制基本参数
LM Studio 的聊天模块是您花费时间最多的地方，因为它是与模型交互的自然入口。它的工作方式与传统聊天非常相似：您输入消息，按回车键，然后接收由本地模型生成的回复。
一个简单的例子可以作为入门，询问模型关于工具本身的问题，例如：“什么是 LM Studio，它是做什么用的？”；几秒钟后，你应该会看到模型解释说，它是一个可以在本地运行语言模型的应用程序，无需连接到云服务，非常适合实验、开发或学习任务。
在 LM Studio 的设置中，您可以找到一些参数，它们会极大地影响回复的风格。其中最重要的参数之一是温度：较低的温度值（例如 0.1-0.3）会生成更冷静、连贯且可重复的回复；较高的温度值（0.8-1.0）会生成更具创意和多样化的文本，但同时也更容易出现语无伦次或错误。
其他常用参数包括 Top-K 和 Top-P，它们控制每次生成步骤中考虑的单词或词元选项的数量。调整这些参数可以平衡精确性和多样性：更严格的值会使响应更“僵化”和集中，而更宽泛的值则允许产生更具想象力的响应。
您还可以修改要生成的最大词元数和最大上下文范围，也就是响应的长度以及模型考虑的先前对话或输入文本的多少。提高这些限制通常可以提高长对话或大量摘要的一致性，但代价是消耗更多内存和计算时间。
附加文件并使用 RAG 来利用您自己的文档
任何语言模型的一个弱点是，它只能了解训练期间所学的内容。它无法直接访问您的文件或最近的私人信息，因此，它无法根据您的合同、笔记或个人报告回答问题。
这时，检索增强生成（RAG）就派上了用场，它允许您上传自己的文档，并将其作为模型响应的基础。LM Studio 集成了此功能，因此您可以直接询问有关文件的问题，而无需复制粘贴大量文本。
在 LM Studio 中，您可以一次附加最多 5 个文件，总大小不超过 30 MB。支持的格式包括PDF 文档、Word DOCX 文件、TXT 文本文件和 CSV 电子表格。这种灵活性使您无需转换即可处理多种类型的内容。
上传文件后，最好提出非常具体的问题。例如，如果您上传的是PDF格式的租赁协议，您可以问：“根据上传的合同，我需要提前多久通知才能终止租赁？”提供具体细节有助于系统检索文档的相关部分，并为您提供量身定制的答案。
该模型会将您的查询与从文档中提取的信息相结合，生成一个原则上更贴近实际情况的响应，而不是仅仅基于其通用训练数据生成的响应。您可以尝试使用不同的文档和不同的提示重复此过程，并观察结果的变化。
开发者模式和高级设置，满足更高级用户的需求
如果您想更进一步，对模型的行为进行精细控制，LM Studio 提供了一个“开发者”模式，其中包含高级选项，对于开发者和微调特定工作流程的用户都非常有用。
在此模式下，您可以微调温度、Top-K 和 Top-P 设置，定义每代最大令牌数，并优化 CPU 和 GPU 之间的资源分配。这些更改对于平衡机器的创造力、精确度和性能至关重要。
开发者模式的另一个关键特性是能够设置“系统提示”：这是一条初始上下文消息，用于指导模型在整个对话过程中的行为。您可以在这里告诉模型诸如“您是西班牙劳动法专家”、“请始终简洁作答”或“请在所有回答中包含实际示例”之类的信息。
通过建立完善的系统提示，您可以将模型转变为满足您特定需求的专业助手：撰写正式邮件、解释编程概念、协助完成学术作业、生成报告等等。当您将红黄绿（RAG）评级系统与明确的指令相结合时，其功能尤为强大。
请注意，所有这些设置都会影响资源消耗。例如，过大的上下文和过长的响应时间会显著增加内存和 CPU 使用率，这在性能较低的机器上会导致更长的等待时间。理想情况下，您应该尝试不同的设置，直到找到既能获得良好响应质量又不会显著影响性能的平衡点。
在自己的计算机上运行LLM模型的优势
与始终依赖云服务相比，使用 LM Studio 在本地处理语言模型具有许多显著优势，无论是对于个人用户还是对于处理敏感信息的专业人士而言都是如此。
首要优势在于隐私性。无需将文本或文档上传到外部服务器，即可最大限度地降低数据泄露或未经授权使用的风险。这在处理合同、公司内部数据、个人笔记或任何您希望保密的内容时至关重要。
第二个优势是自主性。模板下载并配置完成后，即使网络连接中断或速度很慢，您也可以继续使用。这对于经常携带笔记本电脑出差、在网络覆盖不佳地区工作的人，或者不想依赖外部网络服务的人来说，都是理想之选。
此外，本地执行允许您对工作环境进行更多自定义。您可以选择要安装的模型、如何配置它们、每个任务要使用的参数，甚至可以组合使用不同的工具：例如，使用 LM Studio 处理日常任务，使用连接到其本地 API 的Python 脚本进行自动化，等等。
另一个值得关注的方面是中长期成本节约。如果您的需求不需要最先进的云端系统，那么一台性能适中的电脑和精心挑选的本地型号可能就足够了，这样可以避免每月支付费用或免费服务严格的使用限制。
最后，使用 LM Studio 和本地模型是深入了解生成式 AI 工作原理的绝佳途径。通过下载不同的模型、调整温度、测试 RAG 以及与系统提示交互，您可以更深入地了解这项技术的功能及其真正的局限性。
为了充分发挥 LM Studio 的性能，建议尝试不同的模型，检查它们对内存和 CPU 的影响，调整参数，并始终将应用程序更新到最新版本。这样，您就能确保及时获得最新的性能改进、新功能和错误修复。
综上所述，LM Studio 成为一款功能非常全面的工具，适合任何希望在 PC 或 Mac 上运行强大语言模型的用户。它兼具隐私性、控制性、灵活性，并且凭借其图形界面，学习曲线平缓易懂。无论是用于实验、学习、自动化任务，还是仅仅体验人工智能，在自己的计算机上运行这些模型都能带来无限可能，而无需持续依赖云端服务。
