Jan：开源替代方案 ChatGPT

#简要介绍 Jan：2026 年的 Jan 是什么

Jan 是由 Menlo Research 开发的一款桌面自由软件，可将 ChatGPT 替换为在您本地设备上运行的模型。其代码在 GitHub 上以 Apache 2.0 许可证发布。Jan 支持 Windows、macOS（仅限 Apple 芯片）和 Linux 系统，可从连接 Hugging Face 的模型仓库下载 GGUF 格式的模型，通过 llama.cpp 进行推理，并在 1337 端口提供兼容 OpenAI 的 API 接口。它还能在同一界面中连接云端模型（OpenAI、Anthropic、Google、Groq、Mistral、OpenRouter），支持 MCP 服务器的接入以及网络搜索。对于日常使用，无需注册账号，也无需使用命令行。本指南将帮助您安装 Jan，选择适合您内存容量的模型，并介绍其功能的边界。

#Jan、LM Studio 或 Ollama：它们的区别是什么？

这三个工具运行相同的GGUF模型；它们的区别在于界面、许可证和典型使用场景。表格仅包含其官方文档中可验证的信息。

选择取决于使用场景。如果您希望拥有完整的界面、开源代码，并能在同一工具中混合使用本地与云端模型，Jan很合适。如果您要进行自动化、编写脚本或在服务器上部署，Ollama或llama-server仍然更顺手。对比指南详细说明了这些取舍。

#在 Windows、macOS 或 Linux 上安装 Jan

安装不需要账号。以下是官方列出的前置要求，请在下载前检查：它们决定了您之后能加载哪些模型。

1. 01
   下载安装程序

   访问 jan.ai 或 GitHub 版本页面。Windows：.exe 文件。macOS：拖入 Applications 文件夹的 .dmg 文件。Linux：优先使用 Flatpak，否则使用 .deb 或 AppImage。
2. 02
   首次启动 Jan

   无需注册账号。首次启动时，Jan 会下载默认模型；下载完成后，聊天功能即可使用。首次启动还可设置您的使用统计偏好。
3. 03
   打开Hub以查看其他模型

   可从侧边栏访问 Hub。搜索一个模型，点击 Download，然后在任意聊天的模型选择器中选择该模型。

flatpak install flathub ai.jan.Jan
flatpak run ai.jan.Jan

#选择适合您内存容量的模型

Hub 会为每个模型显示一个适配标签：Fits、May be slow 或 Won't fit。这些标签根据您的硬件计算得出，无需下载任何内容。量化版本分为 Small、Balanced 和 Large 三组，默认下载项标有 Recommended。在考虑其他标准之前，请优先参考这些标签。

为了便于判断，下面列出本站给出的 Q4 量化下的大致内存占用（仅含模型权重，尚未计入上下文），以及 Jan 提供的 Mac 配置参考；表格将这两类信息结合起来。

Jan-v3-4B 自研模型以 Apache 2.0 许可证发布，是一个合理的起点：40 亿参数，原生上下文窗口为 262 144 个 token，据 Jan 称，Q4 量化下至少需要 8 GB RAM（Q8 量化建议 16 GB）。这是一个轻量级模型：如果内存允许，70 亿至 140 亿参数的模型在摘要生成或长文写作方面表现会更好。

#首次聊天、助手和项目

1. 01
   开启新聊天

   在聊天窗口顶部的模型选择器中选择模型。本地模型首次使用时会加载到内存中；较大模型加载所需时间更长。
2. 02
   输入消息

   发送您的消息，回复会逐步显示。模型参数（温度、上下文）详见 Jan 的“Model Parameters”文档。
3. 03
   附加文件

   加号按钮可添加文档、图片（需视觉模型支持）或WAV和MP3音频文件（需音频模型支持）。使用本地模型时，文件将保留在您的设备上。

两项功能改变了日常使用方式。助手是可复用的指令集合：相当于已保存的系统提示，您可从输入框中激活。项目将围绕共同指令和文件的对话进行聚合：将项目中上传的文档进行拆分和索引后，可在项目内的所有对话中调用。这是一种轻量级的RAG，足以用于查询少量PDF文件，无需构建完整管道。请参阅系统提示指南，以正确撰写助手的指令。

#连接云端模型（以及这意味着什么）

Jan 允许在同一个界面中同时使用本地和云端模型：这有助于比较本地模型与大模型的回答，或只保留一个聊天客户端。打开 Settings，然后进入 Model Providers，选择一个提供商（OpenAI、Anthropic、Google、Groq、Mistral、OpenRouter、Azure OpenAI、Hugging Face），并粘贴您的 API 密钥。任何兼容 OpenAI 或 Anthropic 的 API 端点也可以添加为自定义端点。随后，云端模型就会出现在模型选择器中。

#使用 Jan 作为本地 API 服务器

Jan 集成了一个由 llama.cpp 驱动、兼容 OpenAI 的服务器。打开 Settings，然后进入 Local API Server，点击 Start Server。当日志显示服务器正在 http://127.0.0.1:1337 上监听时，就表示服务已就绪。之后，您的脚本、代码编辑器或兼容 OpenAI 的应用只需更改基础 URL，即可使用该服务。

curl http://127.0.0.1:1337/v1/chat/completions \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer secret-key-123" \
  -d '{"model": "YOUR_MODEL_ID", "messages": [{"role": "user", "content": "Bonjour"}]}'

请将 YOUR_MODEL_ID 替换为您的 Jan 中可用模型的标识符，并将密钥替换为您设定的密钥。配置选项值得仔细留意，尤其是与网络相关的选项。

#本地服务器的常见错误

Connection refused

服务器未启动，或你的应用程序指向了错误的主机或端口。

401 Unauthorized

Authorization 请求头中缺少 API 密钥，或密钥不正确。

404 Not Found

模型标识符在Jan中无对应模型，或API前缀拼写错误。

浏览器中出现CORS错误

请检查服务器设置中是否已启用CORS选项。

#Mac 上的 llama.cpp 或 MLX

在 Apple Silicon 上，Jan 提供两种引擎。llama.cpp 是稳定的引擎，在所有平台上均可使用，采用 GGUF 格式。MLX 是面向 Apple 芯片的引擎（最低要求为 macOS 14），利用 Metal，但 Jan 将其列为实验性引擎：不支持嵌入向量，因此不支持 RAG；不支持处理推理过程输出；某些较新的架构无法加载。文档建议先使用 llama.cpp；如果您追求速度，可以针对兼容的模型尝试 MLX。

#隐私：哪些数据留在您的设备上

Jan 表示，在您同意之前不会收集任何数据：首次启动时，您可以选择使用情况统计偏好，之后也可在设置中修改。如果您同意，开发商会通过托管在欧盟的 PostHog 统计使用指标，例如活跃用户数，并将这些指标关联到一个随机标识符。开发商声称，绝不会读取您的对话或记录您的提示词。您的数据（模型、对话线程、设置、日志）存储在本地文件夹中：macOS 下为 ~/Library/Application Support/Jan/data；Linux 下为 ~/.local/share/Jan/data。这是开发商的描述：在受监管的环境中，请检查您电脑的出站网络流量。

#Jan是否适合您？

您想要开源代码

该代码仓库采用 Apache 2.0 许可证：您可以阅读代码、创建 fork 并重新分发，但须遵守许可证，并保留所要求的署名信息。

您混合使用本地和云端服务

通过同一个界面使用本地模型和云服务提供商，并共用助手和项目。

您无需使用终端

安装、模型下载和本地服务器管理均可通过界面完成。

您要实现自动化或部署到服务器

建议使用 Ollama 或 llama-server，更适合无界面运行的服务。

您使用的是Intel Mac

不支持 Jan：请选择其他工具。

• Jan：ChatGPT 的开源替代品，100% 本地运行（教程）
• Ollama、LM Studio、Jan 与 GPT4All 对比
• LM Studio 入门：首次本地聊天
• 掌握系统提示词
• llama-server：用 llama.cpp 提供兼容 OpenAI 的本地 API

• 来源：Jan Desktop官方文档
• 来源：Jan 在 GitHub 的仓库
• 来源：Jan 的本地 API 服务器
• 来源：Jan 的隐私保护方式