Obsidian + 本地 LLM:Copilot 和 Smart Connections 搭配 Ollama
Obsidian 将您的笔记以 Markdown 格式明文存储在您的磁盘上。这为 AI 助手提供了理想环境——前提是助手不会把您的整个笔记库发送到云端。本指南通过 Obsidian + Ollama 的组合接入本地 LLM:配置 Copilot 插件、围绕全部笔记进行对话,以及使用 Smart Connections 进行语义搜索;这些功能所用的嵌入向量都保留在您的电脑上。
#为什么将本地大语言模型连接到 Obsidian
一个Obsidian的vault通常包含最个人化的数据:日记、会议笔记、研究资料、草稿。将此类语料库发送至云端服务以‘与笔记对话’,实质上是将个人的第二记忆完全交由第三方处理。本地LLM从根源上解决了这一问题:模型、嵌入向量和索引始终保留在您的本地磁盘上。
具体来说,Obsidian + Ollama 支持三种用法:直接在编辑器中生成和改写文本(自动补全、摘要、翻译),用自然语言查询整个笔记库(“我记下了哪些关于项目 X 的内容?”),以及自动显示与正在撰写的笔记语义相近的笔记。两个插件可满足这些需求:Copilot 用于聊天和生成,Smart Connections 用于相似性搜索。
- 隐私
- 任何笔记或嵌入向量都不会离开本机。非常适合用于日记或客户数据。
- Hors-ligne
- 模型下载完成后,可在飞机或火车上运行。
- 零成本
- 无论笔记数量多少,都无需订阅,也不会按请求次数计费。
- 模型控制
- 您根据硬件选择大小、量化方式和上下文长度。
#先决条件
只需 1 小时,即可在您的电脑上拥有专属的免费 ChatGPT — LM Studio、Ollama、Open WebUI、您的文档,无需云端。
- 在线空间,终身可用
- PDF + 文件
- 30 天内退款
这套配置由三个组件构成:Obsidian、作为本地守护进程运行的 Ollama,以及一个社区插件。除此之外不需要任何东西——无需 API 密钥,也无需账户。
- Obsidian 1.5+
- 桌面版本(Windows、macOS或Linux)。社区插件在移动设备上的运行方式与桌面环境不同;本指南针对桌面端。
- Ollama 已安装
- 守护进程默认在 http://localhost:11434 上监听。如果尚未安装 Ollama,请参阅文章末尾列出的 Ollama 安装指南。
- 一个聊天模型
- 例如采用 Q4_K_M 量化的 qwen3.5:9b(约需 6.6 GB 显存),它是 2026 年 8 GB 显存配置的标杆选择(256k 上下文,支持视觉)。
- 嵌入模型
- nomic-embed-text 或 mxbai-embed-large,是 vault 聊天和 Smart Connections 的必备组件。
- RAM/VRAM
- 8 GB 显存足以运行现代 9B 模型(Qwen 3.5 9B,约 6.6 GB)。在纯 CPU 环境下,建议选择 2-3B 模型(Qwen 3.5 2B 或 Granite 4.2 3B),并耐心等待。
#为Obsidian准备Ollama
在开始操作 Obsidian 之前,先下载模型,并确认守护进程能够响应。Ollama 在 11434 端口提供与 OpenAI 兼容的 API,插件可以调用这一接口。
Obsidian 有一点需要特别注意:插件运行在类似浏览器的环境(Electron)中,向 Ollama 发出的请求可能被 CORS 策略拦截。因此,需要允许 Obsidian 调用 API。应在启动守护进程之前设置环境变量 OLLAMA_ORIGINS。
#配置 Copilot 插件以连接 Ollama
Copilot(由logancyang开发)是目前最完整的本地模型聊天与生成插件,支持编辑器中的改写、对话聊天以及「Vault QA」模式。以下是安装步骤。
- 01安装插件设置 → 第三方模块 → 浏览、搜索「Copilot」(logancyang),安装并启用。如果 Obsidian 要求,首先接受社区插件的使用权限。
- 02打开Copilot设置在设置 → Copilot 中找到「Model」部分。Copilot 提供预设的服务提供商;选择 Ollama 作为聊天的 provider。
- 03填写 URL 和模型名称基础 URL:http://localhost:11434。聊天模型名称:qwen3.5:9b(与 ollama list 显示的标签完全一致)。API 密钥留空,本地环境无需该密钥。
- 04配置嵌入向量在「Embedding Model」部分,再次选择 Ollama 作为服务提供商,并输入 nomic-embed-text。这样就能通过聊天查询整个笔记库的内容。
- 05测试打开 Copilot 面板(点击侧边栏图标,或使用命令「Copilot: Open Chat」),提出一个简单的问题。收到本地模型的回复,就说明连接正常。
Copilot 还提供上下文命令:选中一段文本,打开命令面板(Ctrl/Cmd+P),然后执行“Copilot: Summarize”、“Simplify”或“Translate”。所选文本会发送给本地模型,回复会根据所用命令插入或显示。
#在本地与整个 Obsidian 知识库对话
Copilot 最强大的模式是「Vault QA」(也称 QA 模式):您不再只是与模型对话,而是向自己的笔记提问。Copilot 会在后台使用嵌入模型为您的笔记库构建向量索引,然后检索相关段落并将其插入提示词中。这就是将 RAG 应用于您的个人笔记。
- 01启用 Vault QA 模式在 Copilot 聊天面板中,将模式选择器从“Chat”切换为“Vault QA”(或“QA”)。
- 02构建索引执行命令“Copilot: Index (refresh) vault for QA”。插件会遍历您的笔记,并通过 Ollama 计算嵌入向量。耗时取决于知识库的大小和所用模型。
- 03提出跨笔记的问题示例:“总结我关于六边形架构的所有笔记”或“哪些会议提到了 Q3 预算?”。回答会引用源笔记。
- 04在重大变更后重新索引索引不会自动包办一切:添加大量笔记后,请重新执行索引构建,让这些笔记纳入索引。
#用 Smart Connections 查找相关笔记
Smart Connections(由 Brian Petro 开发)满足的是另一种需求:无需您提问,它会持续显示与您正在编辑的笔记语义相近的笔记。这是一个动态侧边栏,会呈现您手动整理时根本想不到的关联——相当于基于向量相似度计算的自动“相关笔记”功能。
- 01安装 Smart Connections设置 → 第三方插件 → 浏览,搜索“Smart Connections”,然后安装并启用。
- 02将嵌入服务连接到 Ollama在插件设置的嵌入部分,选择 Ollama 作为适配器,URL 为 http://localhost:11434,模型使用 nomic-embed-text(或 mxbai-embed-large 以获得更高精度)。
- 03让索引自动完成首次启动时,Smart Connections会为您的所有笔记计算嵌入向量。随后在浏览过程中,「Smart Connections」面板会逐步填充内容。
- 04可选:Smart 聊天Smart Connections 还内置了聊天模式(Smart Chat),它基于这些相同的嵌入向量,并可使用您在 Ollama 中的聊天模型,根据相关笔记作答。
与 Copilot Vault QA 相比,Smart Connections 的优势在于它以被动方式持续运行。您无需提出任何请求;当您围绕某个主题写笔记时,相关的旧笔记会自动出现,有助于在大型笔记库中发现意外的关联。这两个插件功能互补,可以共用同一个 Ollama 嵌入模型。
#根据vault大小推荐的模型
选择合适的模型首先取决于您的硬件配置,其次取决于笔记量。对于文本生成,采用Q4_K_M格式的8-9B现代模型(Qwen 3.5 9B)在大多数配置下提供了最佳的质量与显存平衡。对于嵌入向量,nomic-embed-text轻量且足够使用;mxbai-embed-large在大容量知识库上精度更高,但索引更庞大。
- 小型知识库(< 500 条笔记)
- 聊天:qwen3.5:9b(Q4,约需 6.6 GB 显存)。嵌入:nomic-embed-text。RTX 3060 12GB 的显存足以容纳这套配置。
- 中等容量仓库(500–3000 条笔记)
- 聊天:qwen3.5:9b;嵌入:mxbai-embed-large,以提升链接的相关性。RTX 4070/4080 显卡可良好运行。
- 大型知识库(> 3000 条笔记)
- 聊天:Qwen 3.8 27B(qwen3.8:27b,约 18 GB,262k 上下文),用于更细致的总结。嵌入:mxbai-embed-large。硬件:RTX 4090 24GB 或采用统一内存的 Mac M4 Pro。
- 无 GPU(仅 CPU)
- 聊天:使用一个 2–3B 模型(qwen3.5:2b,约 1.9 GB,或资源消耗很低的 granite4.2:3b)。嵌入:使用 nomic-embed-text,它在 CPU 上也能保持较快的速度。响应较慢,但仍可用。
- 搭载 Apple Silicon 的 Mac
- 统一内存是一项优势:配备 24–48 GB 内存的 M4 Pro 可以轻松运行 Qwen 3.8 27B 并进行嵌入向量索引。
#故障排除
大多数问题源于三种原因:CORS、模型名称错误,或 Ollama 守护进程已停止。以下是快速排查方法。
- 「连接失败」/ 网络错误
- OLLAMA_ORIGINS 不包含 Obsidian。请添加 app://obsidian.md* 并重启守护进程(不能只重启 Obsidian)。
- « model not found »
- 插件中输入的标签不匹配。请使用 ollama list 检查并复制精确的名称,包含标签(qwen3.5:9b,而非 qwen3.5)。
- 空响应或截断响应
- 上下文过短。请通过Modelfile增加num_ctx,或减少发送的笔记长度。
- 索引速度非常慢
- 嵌入模型在 CPU 上运行,或 Obsidian 知识库过大。请用 ollama ps 检查;可考虑使用更轻量的 nomic-embed-text。
- Smart Connections 为空
- 索引尚未完成构建,或者适配器指向了聊天模型而非嵌入模型。
#深入了解
一旦将 Obsidian 连接到您的本地模型,本网站的指南将帮助您完善技术栈,并深入理解底层组件:
- 安装 Ollama:Windows、macOS 和 Linux
- 整个搭建方案的基础:规范安装守护进程并管理模型。
- 选择量化方案(Q4、Q5、Q8、FP16)
- 用于在生成质量与您的显卡可用显存容量之间进行权衡。
- AnythingLLM:可用于生产环境的本地 RAG
- 如果您希望在 Obsidian 之外进一步扩展 RAG,并使用工作区和 API。
有反馈、发现了错误,或想补充说明?请告诉我们,让这份指南对每个人都更有帮助。