Flowise:在 上通过拖放构建 AI 代理 Ollama
Flowise 将 LLM 智能体的构建变成了在画布上拼接模块。无需编写 LangChain 代码,您只需拖拽节点、拉出连接线,并在内置聊天界面中实时测试。连接 Ollama 后,Flowise 与 Ollama 的组合可完全在本地运行聊天流程、可调用工具的智能体和 RAG 管道,任何请求都不会离开您的电脑。本指南从安装开始,搭建第一个聊天流程,添加基于文档的 RAG,最后发布一个可嵌入您网站的聊天机器人。
#为何选择 Flowise
Flowise 是一个基于 LangChain 和 LangGraph 构建的开源可视化构建工具(采用 Apache 2.0 许可证)。它将相同的组件——模型、记忆、检索器、工具——呈现为可连接的节点,让原本需要数百行 Python 代码的智能体原型变成一张一目了然的图。
与本站介绍的另一款无代码平台 Dify 相比,Flowise 更侧重精细编排:Dify 提供了一套框架明确的产品体验(应用、提示词集、团队管理),而 Flowise 则让您看清 LangChain 的底层机制,更适合希望理解并调整智能体每一步操作的用户。两者连接 Ollama 的方式相同。
- 100 % 本地
- 搭配 Ollama,没有任何 token 或文档会发送至云端 API。适用于敏感数据或离线使用场景。
- 快速迭代
- 测试聊天功能已集成到画布中:您修改一个节点,即可立即看到效果,无需重新部署任何内容。
- 提供 API 接口和网页组件
- 每个聊天流程自动变为一个 REST 接口和一个嵌入式 Web 小部件,无需编写后端代码。
- 可扩展
- 模板市场、自定义JavaScript节点以及工具集成(网络搜索、计算器、HTTP调用)。
#先决条件
Flowise 本身资源占用很低:消耗内存的是 Ollama 和已加载的模型。请准备一台能流畅运行目标 LLM 的机器。
- Ollama 已安装
- 守护进程应运行并监听 http://localhost:11434(默认值)。请使用「ollama list」进行验证。
- 一个聊天模型
- 供智能体使用、支持工具调用的模型:Qwen 3.5 8B、Granite 4.2 8B 或 Mistral Small 24B,具体取决于您的显存容量(采用 Q4_K_M 量化时,7B ≈ 5 GB,14B ≈ 9 GB,24B ≈ 16 GB)。
- 嵌入模型
- 对于 RAG:使用「nomic-embed-text」或「mxbai-embed-large」,轻量且可通过 Ollama 获取。
- Node.js 18.15+ 或 Docker
- Flowise 可通过 npm 或容器安装。建议使用 Docker,以保持部署环境整洁并实现持久化。
#安装 Flowise
有两种方法。测试时最快的方法是使用 npx;若要长期使用并持久保存数据,建议选择 Docker。
接下来,在浏览器中打开 http://localhost:3000,即可看到画布界面。挂载的数据卷(~/.flowise)会保留您的聊天流程和密钥,使其在容器重启后仍然存在。
#将 Ollama 连接到 Flowise
节点「ChatOllama」是Flowise与您本地守护进程之间的桥梁。关键点在于基础URL:它取决于Flowise的启动方式。
- 01添加 ChatOllama 节点在画布中打开节点面板,找到“Chat Models”类别,然后将“ChatOllama”拖到工作区。
- 02填写基础 URL如果 Flowise 以原生方式运行(npx/npm),请使用 http://localhost:11434。如果它在 Docker 中运行,请使用 http://host.docker.internal:11434 —— 容器无法访问主机的“localhost”。
- 03选择模型在「Model Name」字段中,输入 Ollama 中已加载模型的准确名称,例如「qwen3.5:8b」或「mistral-small」。
- 04设置参数调整 Temperature(聊天时设为 0.7,基于事实的 RAG 任务设为 0.1–0.3),如有需要,还可在高级选项中通过 num_ctx 调整上下文长度。
#聊天流程中的核心节点
聊天流应从左向右阅读:提供模型、记忆和工具的节点向一个“链”或“智能体”节点提供输入,由该节点生成回答。以下是几乎所有流程中都会出现的几个模块。
- Chat Model(ChatOllama)
- 大脑:负责生成回复的 LLM。始终是必备组件。
- Memory(Buffer Memory)
- 保留对话历史,让智能体在不同对话轮次之间保持上下文连贯。
- Prompt Template
- 定义系统指令和问题的格式。在这里为模型指定角色和上下文框架。
- Chain / Agent
- 末端节点。“Conversation Chain”用于简单聊天;当模型需要决定是否调用工具时,使用“Tool Agent”。
- Tools
- 外部能力:计算器、网络搜索、HTTP 请求、文件读取。将这些能力接入智能体后,就能扩展它能执行的任务。
- Document Loaders & Vector Store
- RAG 模块:加载文档、分割文档、建立索引并使其可被查询(详见下文)。
#创建第一个聊天流程
先从最简单的开始:一个连接到 Ollama、具有记忆功能的对话助手。它将成为后续所有内容的基础。
- 01创建新的 Chatflow在首页的 Chatflows 选项卡中,点击「Add New」。随后会打开一个空白画布。
- 02放置三个基础节点将「ChatOllama」、「Buffer Memory」和「Conversation Chain」拖拽至画布上。
- 03建立连接将 ChatOllama 的输出连接到 Conversation Chain 的“Chat Model”输入,再将 Buffer Memory 的输出连接到同一链的“Memory”输入。
- 04自定义系统提示在 Conversation Chain 中,打开 System Message 字段并指定角色:“你是一名回答简洁、使用法语作答的技术助手”。
- 05在内置聊天中测试点击右上角的聊天图标,先问一个问题,再问一个依赖前一个问题的后续问题,以检查对话记忆是否正常工作。
#通过拖放搭建完整的 RAG
RAG(检索增强生成)使模型能够基于您自己的文档进行回答。在Flowise中,所有操作均在画布上完成:上传文件、进行向量化处理,并将检索器连接至问答流程。
- 01加载文档请根据您的数据源添加合适的“Document Loader”节点:PDF File、Text File 或 Folder。该节点会读取原始内容。
- 02切分为文本块将「Recursive Character Text Splitter」连接到加载器。将分块大小设置为约 1000 个字符,重叠量为 100,以保持片段间的上下文连续性。
- 03生成嵌入向量添加一个“Ollama Embeddings”节点,使用“nomic-embed-text”模型,并设置与 ChatOllama 相同的基础 URL。
- 04在向量存储中建立索引拖入一个「In-Memory Vector Store」(简单,适合入门),或使用「Chroma」实现持久化存储。将 splitter 和 embeddings 连接到该存储。
- 05连接一个 Retrieval QA Chain将向量存储(作为检索器)和 ChatOllama 连接到“Retrieval QA Chain”或“Conversational Retrieval QA Chain”节点,以保留对话记忆。
- 06查询您的文档保存后,打开聊天窗口并提出一个问题,其答案已存在于您的文件中。模型现在会引用您的内容。
#发布并集成聊天机器人
当聊天流程达到满意效果后,Flowise 无需任何后端代码即可通过两种方式暴露该流程:一个 REST API 和一个可直接嵌入网站的网页组件。
点击「API Endpoint」或画布右上角的 </> 图标。Flowise 会生成预测URL以及可复制的示例。端点始终遵循相同的格式,包含聊天流程的唯一标识符。
集成到网页时,“Embed”选项卡会提供一段脚本代码,需放在各页面的 </body> 结束标签之前。该组件会显示一个可全面配置的浮动聊天气泡(颜色、欢迎消息、头像)。
#常见问题排查
- ChatOllama出现「fetch failed」错误
- 基础 URL 错误。在 Docker 中请使用 host.docker.internal:11434,而非 localhost。请确认 Ollama 正常运行(运行 ollama list 检查)。
- 模型始终不调用工具
- LLM 不支持工具调用,或支持效果不佳。请改用专门针对工具调用训练的较新模型(Qwen 3.5、Mistral Small),并确认您使用的是“Tool Agent”,而不是普通的处理链。
- 响应缓慢或被截断
- 上下文过大,超出了显存容量:模型会有部分转由 CPU 运行。请减小 num_ctx、RAG 分块大小,或选择更小的模型。
- RAG未找到相关结果
- 分块尺寸不正确或嵌入模型错误。请调整分块大小,增加召回文档数量(top-k),并确认索引已正确构建。
- 数据在重启后会消失
- 在Docker中未挂载卷时,所有数据将丢失。请确保包含「-v ~/.flowise:/root/.flowise」,并使用持久化向量存储而非内存存储。
#深入了解
Flowise 只是一个可视化层:您构建的智能体质量如何,主要取决于底层模型和技术栈。本站另有三篇指南延伸了本篇的内容——连接 Flowise 前如何正确安装 Ollama、比较 Dify 与 Flowise 的无代码方案,以及了解 Python 中 RAG 的工作机制,从而对画布自动完成的操作进行精细调整。
有反馈、发现了错误,或想补充说明?请告诉我们,让这份指南对每个人都更有帮助。