如何在 Linux 上安装 LM Studio(完整指南)
安装 LM Studio Linux 让希望在本地运行开源 LLM 的用户能够在 Unix 系统上使用友好的界面。如果您希望在不依赖云服务的情况下测试模型权重并与之交互,本指南正适合您。我们将详细介绍在您偏好的 Linux 发行版上配置 LM Studio 所需的步骤。本文将涵盖安装、初始配置,以及如何通过这一界面使用一些目前最优秀的 LLM,例如 DeepSeek V4 Pro 1.6T 或 MiMo V2.5.
开始安装前的必要条件
在Linux上开始安装LM Studio之前,务必检查相关硬件和软件要求。LLM能否高效运行,很大程度上取决于您设备的性能。
推荐硬件: * CPU/内存: 建议使用至少 16 GB RAM 的现代系统来运行较小的模型(例如: Mistral Small 4,Q4 格式下需要约 72 GB,但如果 RAM 允许,可在 CPU 上运行)。对于像 DeepSeek V4 Pro 1.6T (Q4 所需显存约 960 GB),需要的内存容量要大得多。* 显卡(推荐): GPU加速对于实现可接受的吞吐量(token/秒)至关重要。请确保您的NVIDIA或AMD驱动程序已正确安装并保持最新,同时检查其与CUDA或ROCm库的兼容性。
所需软件:
1. Linux 发行版: Ubuntu、Fedora、Arch 等。2. 包管理器: apt, dnf,或根据您的发行版选择同类工具。3. 稳定的网络连接。
建议始终查阅官方文档以获取最新版本的具体要求 官方网站。如需更深入地了解性能表现,请参阅我们的 LLM配置指南.
在Linux上安装LM Studio的方法
LM Studio 通常提供直接安装或通过第三方包管理器的安装方法,尽管对于高级 Linux 用户而言,手动安装往往更为可靠。
选项1:使用AppImage包(推荐)
在 Linux 下,使用 AppImage 文件通常是最简单、最通用的方法,因为它封装了所有必要的依赖项,从而避免系统库冲突。这是一种可移植的方案,不会修改系统的全局环境。
- 下载: 请访问 LM Studio 的官方网站并下载 Linux 版本(格式
.AppImage). - 权限说明: 打开终端,进入下载文件所在的目录。为该文件赋予执行权限:
bash chmod +x LM_Studio-*.AppImage - 运行方式: 通过双击文件或使用以下命令启动应用程序:
bash ./LM_Studio-*.AppImage
选项2:通过包管理器安装(若可用)
某些发行版在其软件仓库中维护 LM Studio。如果您使用的是主流发行版,请检查是否有可用的软件包,以便让安装更好地融入系统。请查阅社区指南或官方仓库 在 GitHub 上.
重要提示 : 以实现大模型的最佳性能,如 DeepSeek V4 Pro 1.6T,请确保您的硬件配置支持 VRAM 要求,因为 Q4 模型需要特定数量的显存才能有效加载。例如, GLM 5.2 753B-A40B 需要分配大量显存(Q4 量化下约 437 GB)。
在 LM Studio 中的LLM配置与使用方法
在 Linux 环境中启动 LM Studio 后,您就可以开始探索开放权重模型生态。您可以通过界面直接从内置目录下载、加载模型并向其提问,也可以导入本地 GGUF 文件。
模型下载与选择
LM Studio 让搜索模型更方便。您可以浏览数千个模型,这些模型均可在以下平台上找到: Hugging Face。选择模型时(例如, Inkling 或 MiMo V2.5 Pro), 界面将显示不同量化版本(Q4_K_M、Q8_0 等)。
- 量化: 量化(如 Q4)可减小文件大小并降低内存需求,代价是相较于 FP16 版本会有轻微的精度损失。例如, MiMo V2.5 Pro 提供 Q4 量化版本,估计占用约 595 GB https://quelllm.fr/modele/mimo-v25-pro.
- VRAM 与 RAM : 如果您使用GPU,请优先选择针对该硬件优化的版本 将计算卸载到 GPU. 对于类似 Llama 3.1 405B Instruct,合理分配 GPU 显存与系统内存至关重要,有助于避免初始加载时速度变慢。
本地模型运行
下载完成后,进入 Chat 选项卡。在侧边栏中选择已加载的模型,即可开始交互。性能(token/秒)直接取决于您的硬件和所选的量化级别。对于需要较大上下文窗口的任务,请考察以下这类模型的能力: Llama 4 Maverick 400B 支持高达 $1\,000\,000$ 个 token 的上下文长度。
高级应用场景:代码与推理
对于开发者或研究人员,本地使用可实现数据的完全保密。如果您从事代码相关工作,测试 Kimi K2.7 Code 是评估本地推理能力的绝佳起点,其上下文窗口可容纳 $262\,144$ 个 token https://quelllm.fr/modele/kimi-k2-7-code。对于需要较大上下文容量的任务,请考察以下这类模型的能力: DeepSeek V4 Flash 0731 304B 在 Q4 下提供 $1\,048\,576$ 个令牌的上下文。
为比较不同架构的性能,建议您参考我们的 完整的LLM目录。您还可以进一步了解我们针对特定任务最佳模型的分析,具体可参阅 我们的使用对比评测.
Linux环境下的性能优化
在 Linux 上使用 LM Studio 的效率,与您配置 GPU 使用方式的方法密切相关。优化通常需要选择合适的模型,并在界面中正确配置这些模型。
- 驱动程序检查: 如果您使用 NVIDIA,请确保 CUDA 库已正确链接,且 LLM 进程能够访问这些库。可使用以下工具进行检查:
nvidia-smi推荐使用 参考 GPU 文档. - 模型层 GPU 卸载: 在 LM Studio 的设置中,设定最多将多少层卸载到 GPU 上运行。对于像 Mixtral 8x22B Instruct, 这可能会在纯CPU运行与GPU运行之间产生显著差异。
- 量化方式选择: 如果遇到内存不足(OOM - Out of Memory)问题,请将量化精度从Q5降级至Q4,甚至Q3(如果任务对精度要求不高)。为对比资源需求,可参考以下示例 Qwen 2.5 VL 72B 在 Q4 量化下占用约 42 GB 内存 https://quelllm.fr/modele/qwen25-vl-72b.
如需查看硬件需求的详细对比,请参阅我们的 LLM配置指南。如果您对某些特定模型感兴趣,例如 Qwen 3.5 122B-A10B, 请查看其专门页面了解详细规格 ici.
常见问题解答:在 Linux 上使用 LM Studio
Q:在中等硬件配置上开始使用 LM Studio 时,哪个模型最合适?
为了在无需高端显卡的情况下入门,我们推荐量化模型,例如 Mistral Medium 3.5 128B 或 Llama 4 Scout 109B。这些模型在能力与内存占用之间取得了良好的平衡,适合用来试用界面 LM Studio Linux.
问:如何确认 LM Studio 确实在使用我的 GPU?
您可以使用系统工具,例如 nvidia-smi (针对NVIDIA)或 radeontop。当您使用大型模型发起请求时,这些命令应显示较高的显存(VRAM)占用,从而确认 将计算卸载到 GPU 当前处于激活状态
Q:导入 LM Studio 的模型,其许可证是否始终得到遵守?
是。在使用任何模型前,必须检查其许可证。例如, DeepSeek V4 Pro 1.6T 采用 MIT 许可证,而其他模型的许可证可能需要特别留意,例如 Moonshot AI 的专用许可证,适用于 Kimi K2.5. 请参阅我们的 许可证索引.
Q:是否可以在没有专用 GPU 的情况下运行超大规模模型?
仅使用 CPU 在技术上可行,但对于参数超过数百亿的模型,生成速度(tokens/秒)会极为缓慢。若要在运行大型模型时获得可用的体验,例如 GLM 5.2 753B-A40B,最低 RAM 容量要求也很高。
Q:如何在不重新安装 LM Studio 的情况下切换版本?
只需下载 GGUF 文件的新版本(或完整模型),然后在 LM Studio 的模型加载界面中选择新文件。应用会管理文件的本地路径,因此可以轻松更新,无需完整重装。
结论:您在Linux系统上的本地LLM环境
成功安装 LM Studio Linux 您即可实现对开源模型权重的本地私有运行,无需依赖外部API。无论您是想尝试高级推理的 GLM 5.2 753B-A40B 或测试以下模型的效率: Qwen 3 VL 235B-A22B,本指南为您提供所需的技术步骤。如需进一步了解现有模型的能力,请参阅我们的 完整目录 并找到完全匹配你本地计算需求的 LLM。
本地运行 LLM 所需的硬件
要在本地流畅运行这些模型,一张 RTX 5070 Ti 提供出色的性价比。比较价格:
联盟推广链接——QuelLLM 可能会从购买中获得佣金,您无需支付额外费用。作为亚马逊联盟合作伙伴,QuelLLM 会从符合条件的购买中获得收益。