LM Studio 完整教程：安装与启动 LLM

如果您在寻找一个 lm studio 使用教程 以便开始在本地使用开源模型，那么本指南正适合您。LM Studio 已成为直接在您自己的机器上探索大型语言模型（LLM）潜力的标杆工具，无论您使用 Windows、macOS 还是 Linux。我们将详细介绍每个步骤，从安装到使用我们模型目录中的高性能模型发出首次请求 目录。这份完整教程将介绍如何充分发挥您的本地 LLM 的作用所需的技术知识。

🚀 LM Studio 的安装与初始配置

LM Studio 旨在简化用户硬件与复杂模型权重之间的交互。在开始运行模型之前，正确安装应用程序至关重要。对于 macOS 或 Windows 用户，通过 LM Studio 官方网站安装通常很简单。如果您使用 Linux，请参阅我们的专门指南 lm studio linux安装指南.

应用启动后，第一步是导航至搜索区域（通常以放大镜图标表示）以找到目标模型。我们建议查阅我们的 对比工具 以便根据您的硬件配置和 LLM 的要求，筛选出最合适的候选模型。

选择合适的模型至关重要。例如，如果您有充足的显存，可以考虑超大规模模型，例如 Kimi K3 (2800B) 或 DeepSeek V4 Pro 1.6T (1600B)，尽管其部署需要强大的基础设施支持。为平稳起步，中等规模的模型非常适合用于功能测试，而不会过度消耗您的GPU。

🧠 选择并下载优化的LLM

该流程的核心是模型权重的下载。LM Studio 常使用量化格式（如 Q4_K_M），大幅降低内存占用，使得在消费级显卡上运行超大规模模型成为可能。

当您在我们的平台上选择一个模型时 Hugging Face Hub, 请务必检查技术规格：* 大小（参数量） ：决定模型的理论能力。* 量化 : 压缩级别（Q4、Q5 等）直接影响 VRAM 的使用情况和响应质量。* 许可证 : 请确认LLM是否符合您的商业或个人用途（例如：Apache 2.0适用于 Mistral Large 3 675B).

例如，如果您关注代码性能，可选择以下模型 Kimi K2.7 Code （1059B）是合适的选择。为了评估在您的机器上运行的可行性，我们建议查阅我们的 配置工具.

⚙️ 本地加载与推理过程

下载 LLM 模型文件至 LM Studio（通常存储在本地）后，进入推理阶段。根据需求，进入聊天界面或 API 服务器部分。

将模型加载到 GPU 显存中，很大程度上取决于您的显卡和可用显存容量。对于以下这类模型，例如 DeepSeek V4 Pro 0813 1.7T, 需要约 986 GB 的 VRAM（Q4 格式）才能运行，属于极端情况。相反，为快速测试，您可以加载更轻量的模型如 Mixtral 8x22B Instruct (约82GB，Q4量化)

如果您希望将本地 LLM 集成到其他应用中或创建自己的智能体，建议将 LM Studio 配置为 API 服务器。该模式使像 Open WebUI 这样的工具能够与本地托管的模型进行通信 open-webui ollama 操作指南.

🛠️ 高级用例：RAG 和本地 API

LM Studio 并非仅限于简单对话，它可作为更复杂应用的引擎。

1. 检索增强生成（RAG） : 若希望您的LLM基于私有文档进行回答，可使用内置的RAG功能或通过插件实现。这使得像 Inkling (975B) 无需针对该知识库进行训练即可访问其中的知识。请参见我们的 lm studio 对本地文档使用 RAG.

2. 本地 API 服务器 ：启用服务器模式后，您可以通过标准 HTTP 请求提供 LLM 的功能。这对于将其集成到自动化工作流或 LangChain 等框架中至关重要 使用 Python 和 LangChain 构建本地 AI 智能体.

为了将这种本地运行方式与其他方案进行比较，我们还提供了 LM Studio 与 Ollama 的对比指南： ollama vs lm studio 选择哪个.

❓ LM Studio 使用常见问题

Q：刚开始使用 LM Studio 时，哪个模型最适合？

初次体验时，若不想投入大量计算资源，我们建议尝试 Qwen 3.5 122B-A10B (73 GB，Q4 量化版本)。在性能与硬件需求之间提供良好平衡，且采用 Apache 2.0 开源许可 Hugging Face 上的 Alibaba.

Q：如何判断我的电脑能否运行一个大语言模型？

显存是关键因素。请使用我们的 配置工具 来估算需求。例如， GLM 5.3 Flash 320B-A18B 在Q4模式下需要约186 GB显存，需求较高。

Q：使用 LM Studio 与 Ollama 有何区别？

LM Studio 提供完整的图形界面，用于模型管理和本地实验。Ollama 是一个更轻量的命令行工具，适合快速集成到脚本中 如何安装 ollama.

Q：吞吐量（tokens/sec）是否稳定？

每秒生成的 token 数取决于您的硬件和所选模型。要获得贴近实际的估算，您可以查阅以下平台上的基准测试数据： Open LLM Leaderboard.

🏁 结语：用 LM Studio 开始本地运行之旅

Ce lm studio 使用教程 带您了解了安装、模型权重选择和本地推理方法，帮助您发挥开源LLM的能力。无论您希望尝试前沿模型，例如 DeepSeek V4 Flash 284B 或者只是测试一种小型架构，LM Studio 都能帮助您在本地运行模型。要根据您的硬件进一步调整选择，请访问我们的 配置工具 或探索我们的 目录.