Jan:开源替代方案 ChatGPT

Jan 是一款由 Menlo Research 发布的开源桌面应用(Apache 2.0 许可证),无需账号即可通过 llama.cpp 在 Windows、Linux 和搭载 Apple Silicon 芯片的 Mac 上运行 GGUF 模型。它在同一界面中结合本地和云端模型,在端口 1337 提供兼容 OpenAI 的 API,并且仅在您同意后收集使用情况指标。
Jan 将自己定位为 ChatGPT 的开源替代方案,但其文档已发生很大变化:引擎、许可证、设置以及对 Mac 的支持都与过去不同。您将学会安装 Jan、选择适合您内存容量的模型、在了解相关影响的前提下接入云端模型、使用其 API 服务器,并判断它是否适合您。
#简要介绍 Jan:2026 年的 Jan 是什么
Jan 是一款由 Menlo Research 发布的自由桌面应用,用本机运行的模型取代 ChatGPT。其代码以 Apache 2.0 许可证发布在 GitHub 上。它支持 Windows、macOS(仅限 Apple Silicon)和 Linux,可从连接到 Hugging Face 的 Hub 下载 GGUF 格式模型,使用 llama.cpp 执行模型,并在 1337 端口提供兼容 OpenAI 的 API。它还可以在同一界面中连接云端模型(OpenAI、Anthropic、Google、Groq、Mistral、OpenRouter)、接入 MCP 服务器并执行网络搜索。日常使用无需账号,也无需命令行。本指南将帮助您安装 Jan、根据内存选择合适的模型,并了解它的优势边界。
#Jan、LM Studio 或 Ollama:它们的区别
借助我们的经验和引导式路径,打造你的本地助手,在日常中使用你的 AI。
- 在线空间,终身可用
- PDF + 文件
- 30 天内退款
这三个工具运行的是相同的 GGUF 模型;它们的区别在于界面、许可证和典型用法。表格仅列出其官方文档中可验证的内容。
| 标准 | Jan | LM Studio | Ollama |
|---|---|---|---|
| 界面 | 桌面应用(聊天、项目、助手) | 桌面应用 | 命令行、API 和 Ollama 应用程序 |
| 代码许可证 | Apache 2.0 | 自 2025 年七月起,在工作和家中均可免费使用的应用 | MIT |
| 本地 API 端口 | 1337 | 1234 | 11434 |
| 文档中列明的引擎 | llama.cpp(Mac 上的 MLX 支持处于实验阶段) | 查看 LM Studio 的文档 | 查看 Ollama 的文档 |
选择取决于使用场景。如果您希望拥有完整的界面、开源代码,并能在同一工具中混合使用本地与云端模型,Jan很合适。如果您要进行自动化、编写脚本或在服务器上部署,Ollama或llama-server仍然更顺手。对比指南详细说明了这些取舍。
#在 Windows、macOS 或 Linux 上安装 Jan
安装不需要账号。以下是官方列出的前置要求,请在下载前检查:它们决定了您之后能加载哪些模型。
| 系统 | 先决条件 | 须知 |
|---|---|---|
| Windows | Windows 10 或更新版本;支持 AVX2 的处理器;GPU NVIDIA、AMD 或 Intel Arc | GPU 可选;建议预留 10 GB 可用空间 |
| macOS | macOS 13.6 或更高版本;Apple Silicon(M1 至 M4) | 不支持 Intel Mac;需要 10 GB 可用空间 |
| Linux | Debian/Ubuntu、Fedora/RHEL、Arch、openSUSE;AVX2;至少 8 GB RAM | 推荐使用 Flatpak,.deb 或 AppImage 作为备用 |
- 01下载安装程序前往 jan.ai 或 GitHub 版本页面。Windows:.exe 文件。macOS:将 .dmg 拖入 Applications。Linux:优先使用 Flatpak,否则使用 .deb 或 AppImage。
- 02首次启动 Jan无需创建账户。首次启动时,Jan 会下载其默认模型;下载完成后即可使用聊天功能。首次启动时还可以选择使用量统计偏好。
- 03打开 Hub,获取更多模型可从侧边栏访问 Hub。搜索一个模型,点击 Download,然后在任意聊天的模型选择器中选择该模型。
#选择一个能装入您的内存的模型
Hub 会为每个模型显示一个适配标签:Fits、May be slow 或 Won't fit。这些标签根据您的硬件计算得出,无需下载任何内容。量化版本分为 Small、Balanced 和 Large 三组,默认下载项标有 Recommended。在考虑其他标准之前,请优先参考这些标签。
为了便于判断,下面列出本站给出的 Q4 量化下的大致内存占用(仅含模型权重,尚未计入上下文),以及 Jan 提供的 Mac 配置参考;表格将这两类信息结合起来。
| 机器内存 | Jan 的参考标准(Mac) | Q4 量化模型(仅计权重) |
|---|---|---|
| 8 GB | 可轻松运行最高 3B 的模型 | 3B:约 2 GB |
| 16 GB | 可轻松运行最高 7B 的模型 | 7-8B:约 5 GB |
| 32 GB | 可流畅运行最高 13B 的模型,并为上下文留出更多余量 | 14B:约 9 GB |
Jan-v3-4B 自研模型以 Apache 2.0 许可证发布,是一个合理的起点:40 亿参数,原生上下文窗口为 262 144 个 token,据 Jan 称,Q4 量化下至少需要 8 GB RAM(Q8 量化建议 16 GB)。这是一个轻量级模型:如果内存允许,70 亿至 140 亿参数的模型在摘要生成或长文写作方面表现会更好。
#首次聊天、助手和项目
- 01打开新聊天在聊天顶部的选择器中选择模型。本地模型首次使用时会加载到内存中;对于大型模型,请预留更多时间。
- 02编写消息发送您的消息,回复会逐步显示。模型参数(温度、上下文)详见 Jan 的“Model Parameters”文档。
- 03附加文件加号按钮可用于添加文档、图像(需要支持视觉的模型)或 WAV 和 MP3 音频文件(需要音频模型)。使用本地模型时,文件会保留在你的设备上。
两个功能改变了日常使用方式。助手是可重复使用的指令集合:相当于一个保存好的 system prompt,可以从输入框中启用。项目则将围绕共同指令和文件的对话归拢在一起:放入项目中的文档会被拆分并建立索引,然后可供项目中的所有对话使用。这是一种轻量级 RAG,足以查询几份 PDF,无需构建流水线。请参阅 system prompt 指南,以便正确编写助手的指令。
#连接云端模型(以及这意味着什么)
Jan 允许在同一个界面中同时使用本地和云端模型:这有助于比较本地模型与大模型的回答,或只保留一个聊天客户端。打开 Settings,然后进入 Model Providers,选择一个提供商(OpenAI、Anthropic、Google、Groq、Mistral、OpenRouter、Azure OpenAI、Hugging Face),并粘贴您的 API 密钥。任何兼容 OpenAI 或 Anthropic 的 API 端点也可以添加为自定义端点。随后,云端模型就会出现在模型选择器中。
#使用 Jan 作为本地 API 服务器
Jan 集成了一个由 llama.cpp 驱动、兼容 OpenAI 的服务器。打开 Settings,然后进入 Local API Server,点击 Start Server。当日志显示服务器正在 http://127.0.0.1:1337 上监听时,就表示服务已就绪。之后,您的脚本、代码编辑器或兼容 OpenAI 的应用只需更改基础 URL,即可使用该服务。
请将 YOUR_MODEL_ID 替换为您的 Jan 中可用模型的标识符,并将密钥替换为您设定的密钥。配置选项值得仔细留意,尤其是与网络相关的选项。
| 设置 | 默认值 | 要点 |
|---|---|---|
| 主机 | 127.0.0.1 | 仅可从您的机器访问;设为 0.0.0.0 后,局域网中的设备也可访问,请谨慎使用 |
| 端口 | 1337 | 端口被占用时可以修改 |
| API 前缀 | /v1 | 遵循 OpenAI 约定 |
| API 密钥 | 可选 | Authorization 请求头中必须提供一个已定义的密钥;在向网络开放之前设置好 |
| 受信任的主机 | 根据需要填写 | 在网络上暴露时的额外安全层 |
| CORS | 已启用 | 如果只有非浏览器脚本访问,则应禁用 |
#本地服务器的常见错误
- Connection refused
- 服务器未启动,或你的应用程序指向了错误的主机或端口。
- 401 Unauthorized
- Authorization 请求头中缺少 API 密钥,或密钥不正确。
- 404 Not Found
- 模型标识符与 Jan 中可用的任何模型都不匹配,或者 API 前缀书写错误。
- 浏览器中的 CORS 错误
- 请确认服务器设置中已启用 CORS 选项。
#Mac 上的 llama.cpp 或 MLX
在 Apple Silicon 上,Jan 提供两种引擎。llama.cpp 是稳定的引擎,在所有平台上均可使用,采用 GGUF 格式。MLX 是面向 Apple 芯片的引擎(最低要求为 macOS 14),利用 Metal,但 Jan 将其列为实验性引擎:不支持嵌入向量,因此不支持 RAG;不支持处理推理过程输出;某些较新的架构无法加载。文档建议先使用 llama.cpp;如果您追求速度,可以针对兼容的模型尝试 MLX。
#隐私:哪些数据留在您的设备上
Jan 表示,在您同意之前不会收集任何数据:首次启动时,您可以选择使用情况统计偏好,之后也可在设置中修改。如果您同意,开发商会通过托管在欧盟的 PostHog 统计使用指标,例如活跃用户数,并将这些指标关联到一个随机标识符。开发商声称,绝不会读取您的对话或记录您的提示词。您的数据(模型、对话线程、设置、日志)存储在本地文件夹中:macOS 下为 ~/Library/Application Support/Jan/data;Linux 下为 ~/.local/share/Jan/data。这是开发商的描述:在受监管的环境中,请检查您电脑的出站网络流量。
#Jan 适合您吗?
- 你想要开源代码
- 该代码仓库采用 Apache 2.0 许可证:您可以阅读代码、创建 fork 并重新分发,但须遵守许可证,并保留所要求的署名信息。
- 你混合使用本地和云端
- 通过同一个界面使用本地模型和云服务提供商,并共用助手和项目。
- 您无需使用终端
- 安装、模型下载和本地服务器管理均可通过界面完成。
- 您要实现自动化或部署到服务器
- 优先选择 Ollama 或 llama-server,它们更适合在无界面的服务中运行。
- 您使用的是 Intel Mac
- 不支持 Jan:请选择其他工具。
- Jan:ChatGPT 的开源替代品,100% 本地运行(教程)
- Ollama、LM Studio、Jan 与 GPT4All 对比
- LM Studio 入门:首次本地聊天
- 掌握系统提示词
- llama-server:用 llama.cpp 提供兼容 OpenAI 的本地 API
Jan 真的是免费且开源的吗?+
Jan 无需互联网也能运行吗?+
Jan 的最低配置要求是什么?+
如何在我的代码编辑器或脚本中使用 Jan?+
Jan 会把我的对话发送给别人吗?+
Jan 还是 LM Studio:选哪个?+
有反馈、发现了错误,或想补充说明?请告诉我们,让这份指南对每个人都更有帮助。