入门 11 分钟其他工具

Jan:开源替代方案 ChatGPT

Jan:ChatGPT 的开源替代方案
直接回答

Jan 是一款由 Menlo Research 发布的开源桌面应用(Apache 2.0 许可证),无需账号即可通过 llama.cpp 在 Windows、Linux 和搭载 Apple Silicon 芯片的 Mac 上运行 GGUF 模型。它在同一界面中结合本地和云端模型,在端口 1337 提供兼容 OpenAI 的 API,并且仅在您同意后收集使用情况指标。

Jan 将自己定位为 ChatGPT 的开源替代方案,但其文档已发生很大变化:引擎、许可证、设置以及对 Mac 的支持都与过去不同。您将学会安装 Jan、选择适合您内存容量的模型、在了解相关影响的前提下接入云端模型、使用其 API 服务器,并判断它是否适合您。

作者: Mohamed Meguedmi·更新于 2026-09-30·已在 Windows、macOS 和 Linux 上测试

#简要介绍 Jan:2026 年的 Jan 是什么

Jan 是一款由 Menlo Research 发布的自由桌面应用,用本机运行的模型取代 ChatGPT。其代码以 Apache 2.0 许可证发布在 GitHub 上。它支持 Windows、macOS(仅限 Apple Silicon)和 Linux,可从连接到 Hugging Face 的 Hub 下载 GGUF 格式模型,使用 llama.cpp 执行模型,并在 1337 端口提供兼容 OpenAI 的 API。它还可以在同一界面中连接云端模型(OpenAI、Anthropic、Google、Groq、Mistral、OpenRouter)、接入 MCP 服务器并执行网络搜索。日常使用无需账号,也无需命令行。本指南将帮助您安装 Jan、根据内存选择合适的模型,并了解它的优势边界。

!
与旧教程相比的变化
当前代码仓库注明采用 Apache 2.0 许可证(而非 AGPL)。文档中列出的引擎是 llama.cpp(而非 Cortex),应用基于 Tauri 构建,云服务提供商需先进入 Settings,再进入 Model Providers 进行配置,且不支持 Intel 芯片的 Mac。如果较早的教程给出了相反的说法,请以官方文档为准。

#Jan、LM Studio 或 Ollama:它们的区别

打造专属 AI 助手的完整套件。

借助我们的经验和引导式路径,打造你的本地助手,在日常中使用你的 AI。

  • 在线空间,终身可用
  • PDF + 文件
  • 30 天内退款

这三个工具运行的是相同的 GGUF 模型;它们的区别在于界面、许可证和典型用法。表格仅列出其官方文档中可验证的内容。

Jan、LM Studio 和 Ollama 一览
标准JanLM StudioOllama
界面桌面应用(聊天、项目、助手)桌面应用命令行、API 和 Ollama 应用程序
代码许可证Apache 2.0自 2025 年七月起,在工作和家中均可免费使用的应用MIT
本地 API 端口1337123411434
文档中列明的引擎llama.cpp(Mac 上的 MLX 支持处于实验阶段)查看 LM Studio 的文档查看 Ollama 的文档

选择取决于使用场景。如果您希望拥有完整的界面、开源代码,并能在同一工具中混合使用本地与云端模型,Jan很合适。如果您要进行自动化、编写脚本或在服务器上部署,Ollama或llama-server仍然更顺手。对比指南详细说明了这些取舍。

#在 Windows、macOS 或 Linux 上安装 Jan

安装不需要账号。以下是官方列出的前置要求,请在下载前检查:它们决定了您之后能加载哪些模型。

Jan 安装要求(官方文档)
系统先决条件须知
WindowsWindows 10 或更新版本;支持 AVX2 的处理器;GPU NVIDIA、AMD 或 Intel ArcGPU 可选;建议预留 10 GB 可用空间
macOSmacOS 13.6 或更高版本;Apple Silicon(M1 至 M4)不支持 Intel Mac;需要 10 GB 可用空间
LinuxDebian/Ubuntu、Fedora/RHEL、Arch、openSUSE;AVX2;至少 8 GB RAM推荐使用 Flatpak,.deb 或 AppImage 作为备用
  1. 01
    下载安装程序
    前往 jan.ai 或 GitHub 版本页面。Windows:.exe 文件。macOS:将 .dmg 拖入 Applications。Linux:优先使用 Flatpak,否则使用 .deb 或 AppImage。
  2. 02
    首次启动 Jan
    无需创建账户。首次启动时,Jan 会下载其默认模型;下载完成后即可使用聊天功能。首次启动时还可以选择使用量统计偏好。
  3. 03
    打开 Hub,获取更多模型
    可从侧边栏访问 Hub。搜索一个模型,点击 Download,然后在任意聊天的模型选择器中选择该模型。
终端(Linux、Flatpak)
flatpak install flathub ai.jan.Jan
flatpak run ai.jan.Jan

#选择一个能装入您的内存的模型

Hub 会为每个模型显示一个适配标签:Fits、May be slow 或 Won't fit。这些标签根据您的硬件计算得出,无需下载任何内容。量化版本分为 Small、Balanced 和 Large 三组,默认下载项标有 Recommended。在考虑其他标准之前,请优先参考这些标签。

为了便于判断,下面列出本站给出的 Q4 量化下的大致内存占用(仅含模型权重,尚未计入上下文),以及 Jan 提供的 Mac 配置参考;表格将这两类信息结合起来。

内存与模型大小:参考指标
机器内存Jan 的参考标准(Mac)Q4 量化模型(仅计权重)
8 GB可轻松运行最高 3B 的模型3B:约 2 GB
16 GB可轻松运行最高 7B 的模型7-8B:约 5 GB
32 GB可流畅运行最高 13B 的模型,并为上下文留出更多余量14B:约 9 GB

Jan-v3-4B 自研模型以 Apache 2.0 许可证发布,是一个合理的起点:40 亿参数,原生上下文窗口为 262 144 个 token,据 Jan 称,Q4 量化下至少需要 8 GB RAM(Q8 量化建议 16 GB)。这是一个轻量级模型:如果内存允许,70 亿至 140 亿参数的模型在摘要生成或长文写作方面表现会更好。

→
导入已下载的模型
您的磁盘上已经有 GGUF 文件了吗?在 llama.cpp 引擎设置中,Import 按钮会关联文件,而不复制文件。您也可以从模型的 Hugging Face 页面打开它:点击 Use this model,然后在 Local Apps 下选择 Jan。某些模型需要 Hugging Face 令牌,须在设置中输入。

#首次聊天、助手和项目

  1. 01
    打开新聊天
    在聊天顶部的选择器中选择模型。本地模型首次使用时会加载到内存中;对于大型模型,请预留更多时间。
  2. 02
    编写消息
    发送您的消息,回复会逐步显示。模型参数(温度、上下文)详见 Jan 的“Model Parameters”文档。
  3. 03
    附加文件
    加号按钮可用于添加文档、图像(需要支持视觉的模型)或 WAV 和 MP3 音频文件(需要音频模型)。使用本地模型时,文件会保留在你的设备上。

两个功能改变了日常使用方式。助手是可重复使用的指令集合:相当于一个保存好的 system prompt,可以从输入框中启用。项目则将围绕共同指令和文件的对话归拢在一起:放入项目中的文档会被拆分并建立索引,然后可供项目中的所有对话使用。这是一种轻量级 RAG,足以查询几份 PDF,无需构建流水线。请参阅 system prompt 指南,以便正确编写助手的指令。

i
网页搜索会向您的设备之外发送请求
Jan 集成了网页搜索和内容获取工具,无需配置即可使用。搜索本身就会向互联网发送请求,因此不再是 100% 离线操作。如果您的目标是离线使用,请不要在这些对话中启用网页工具。

#连接云端模型(以及这意味着什么)

Jan 允许在同一个界面中同时使用本地和云端模型:这有助于比较本地模型与大模型的回答,或只保留一个聊天客户端。打开 Settings,然后进入 Model Providers,选择一个提供商(OpenAI、Anthropic、Google、Groq、Mistral、OpenRouter、Azure OpenAI、Hugging Face),并粘贴您的 API 密钥。任何兼容 OpenAI 或 Anthropic 的 API 端点也可以添加为自定义端点。随后,云端模型就会出现在模型选择器中。

!
云端模型会看到您发送给它的所有内容
Jan 的隐私说明文档明确指出:云端模型必须读取您的消息才能工作。附件也会发送给服务提供商。处理敏感数据时,请坚持使用本地模型,并在发送前检查当前所选模型的标识。

#使用 Jan 作为本地 API 服务器

Jan 集成了一个由 llama.cpp 驱动、兼容 OpenAI 的服务器。打开 Settings,然后进入 Local API Server,点击 Start Server。当日志显示服务器正在 http://127.0.0.1:1337 上监听时,就表示服务已就绪。之后,您的脚本、代码编辑器或兼容 OpenAI 的应用只需更改基础 URL,即可使用该服务。

终端
curl http://127.0.0.1:1337/v1/chat/completions \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer secret-key-123" \
  -d '{"model": "YOUR_MODEL_ID", "messages": [{"role": "user", "content": "Bonjour"}]}'

请将 YOUR_MODEL_ID 替换为您的 Jan 中可用模型的标识符,并将密钥替换为您设定的密钥。配置选项值得仔细留意,尤其是与网络相关的选项。

Jan 本地服务器设置
设置默认值要点
主机127.0.0.1仅可从您的机器访问;设为 0.0.0.0 后,局域网中的设备也可访问,请谨慎使用
端口1337端口被占用时可以修改
API 前缀/v1遵循 OpenAI 约定
API 密钥可选Authorization 请求头中必须提供一个已定义的密钥;在向网络开放之前设置好
受信任的主机根据需要填写在网络上暴露时的额外安全层
CORS已启用如果只有非浏览器脚本访问,则应禁用

#本地服务器的常见错误

Connection refused
服务器未启动,或你的应用程序指向了错误的主机或端口。
401 Unauthorized
Authorization 请求头中缺少 API 密钥,或密钥不正确。
404 Not Found
模型标识符与 Jan 中可用的任何模型都不匹配,或者 API 前缀书写错误。
浏览器中的 CORS 错误
请确认服务器设置中已启用 CORS 选项。

#Mac 上的 llama.cpp 或 MLX

在 Apple Silicon 上,Jan 提供两种引擎。llama.cpp 是稳定的引擎,在所有平台上均可使用,采用 GGUF 格式。MLX 是面向 Apple 芯片的引擎(最低要求为 macOS 14),利用 Metal,但 Jan 将其列为实验性引擎:不支持嵌入向量,因此不支持 RAG;不支持处理推理过程输出;某些较新的架构无法加载。文档建议先使用 llama.cpp;如果您追求速度,可以针对兼容的模型尝试 MLX。

#隐私:哪些数据留在您的设备上

Jan 表示,在您同意之前不会收集任何数据:首次启动时,您可以选择使用情况统计偏好,之后也可在设置中修改。如果您同意,开发商会通过托管在欧盟的 PostHog 统计使用指标,例如活跃用户数,并将这些指标关联到一个随机标识符。开发商声称,绝不会读取您的对话或记录您的提示词。您的数据(模型、对话线程、设置、日志)存储在本地文件夹中:macOS 下为 ~/Library/Application Support/Jan/data;Linux 下为 ~/.local/share/Jan/data。这是开发商的描述:在受监管的环境中,请检查您电脑的出站网络流量。

#Jan 适合您吗?

你想要开源代码
该代码仓库采用 Apache 2.0 许可证:您可以阅读代码、创建 fork 并重新分发,但须遵守许可证,并保留所要求的署名信息。
你混合使用本地和云端
通过同一个界面使用本地模型和云服务提供商,并共用助手和项目。
您无需使用终端
安装、模型下载和本地服务器管理均可通过界面完成。
您要实现自动化或部署到服务器
优先选择 Ollama 或 llama-server,它们更适合在无界面的服务中运行。
您使用的是 Intel Mac
不支持 Jan:请选择其他工具。
FAQ
Jan 真的是免费且开源的吗?+
是的:应用免费,代码在 GitHub 上以 Apache 2.0 许可证发布,并要求注明来源。只有您接入的云服务提供商可能对其自身的 API 收费。部分旧页面仍提及 AGPL:仓库当前的 LICENSE 文件注明的是 Apache 2.0。
Jan 无需互联网也能运行吗?+
是的,应用安装完成并下载本地模型后,与本地模型进行对话不需要联网。两个例外是云端模型和 Web 搜索工具,它们显然会连接 Internet。因此,请在出行前下载好模型。
Jan 的最低配置要求是什么?+
Windows 10 或更高版本,配备支持 AVX2 的处理器;搭载 Apple Silicon 的 Mac,运行 macOS 13.6 或更高版本(不支持 Intel Mac);或支持 AVX2 且至少配备 8 GB RAM 的 Linux 系统。对于参数量为 30 亿的小模型,8 GB 内存就够用;对于参数量为 70 亿的模型,则应准备 16 GB 内存。
如何在我的代码编辑器或脚本中使用 Jan?+
在 Settings 中选择 Local API Server,启用并启动本地服务器:它监听 127.0.0.1 的 1337 端口,使用兼容 OpenAI 的 /v1 前缀。在您的工具中填写此基础 URL、一个已安装模型的标识符,以及 API 密钥(如果您设置了密钥)。
Jan 会把我的对话发送给别人吗?+
使用本地模型时,不会:对话会保留在您设备的某个文件夹中。软件发布方声称不会读取聊天记录;匿名使用统计仅在您同意后才会启用。而云端模型则必然会接收您的消息和附件,就像任何在线服务一样。
Jan 还是 LM Studio:选哪个?+
Jan 主打采用 Apache 2.0 许可证的代码、助手和项目功能,以及在同一界面中混合使用本地与云端模型。LM Studio 提供一款设计精良的应用,自 2025 年 7 月起,无论在家还是在工作中使用都免费。最简单的办法是:两款应用都安装,加载同一个模型,然后保留界面更适合您的那一款。
这份指南对您有帮助吗?

有反馈、发现了错误,或想补充说明?请告诉我们,让这份指南对每个人都更有帮助。