🇨🇳 Qwen 3.8 27B
Qwen 3.8 27B:稠密多模态模型(文本 + 视觉),262k 上下文,Q4 约需 16 GB 显存(Ollama 权重为 18 GB)。Apache 2.0,支持智能体式编程和视觉。
ollama run qwen3.8:27b
排名更新于 22/10/2026
用于在本地构建自主智能体的最可靠大型语言模型排名:函数调用的准确性、多轮交互的稳健性、对 JSON 模式的理解能力,以及足以维持行动计划的上下文长度。
Qwen 3.8 27B:稠密多模态模型(文本 + 视觉),262k 上下文,Q4 约需 16 GB 显存(Ollama 权重为 18 GB)。Apache 2.0,支持智能体式编程和视觉。
ollama run qwen3.8:27b
GLM-4.7-Flash(MoE 31B,约 3B 激活参数):在 30B 级别中,编程能力与显存占用之比最佳。MIT 许可证,128k 上下文,在 3090/4090 上速度非常快。
ollama run glm-4.7-flash
Cloudflare 的 27B 稠密多模态模型,Apache 2.0,256k 上下文,约 16 GB VRAM Q4:在 16 GB 显卡上实现视觉与推理,官方标签为 Ollama。
ollama pull clef
Cohere 的 30.5B 模型,面向智能体编程和推理。上下文 488k,Apache 2.0,Q4 量化下约需 18 GB 显存。
ollama run north-mini-code-1.0
⚠ Liquid AI 的 MoE 模型,总参数 24B / 激活参数 2B,128k 上下文,Q4 约需 14 GB 显存:在 16 GB 显卡上可快速进行多语言(含法语)推理。许可受限。
# HuggingFace : LiquidAI/LFM2.5-24B-A2B
27B 稠密多模态模型,2026 年 4 月 22 日发布。262k 上下文(1M YaRN)。SWE-bench Verified 77.2%。
ollama run qwen3.6:27b
MoE,总参数量 30B,激活参数量 3B:思考模式 + 指令微调。荣获 IMO 2025 和 IOI 2025 金牌。得益于 3B 激活参数,推理速度快,具备 30B 级别的推理能力。2026 年 4 月发布。
ollama run nemotron-cascade-2
| 名次 | 模型 | Params | Q4 VRAM | 上下文 | 许可证 |
|---|---|---|---|---|---|
| #1 | Qwen 3.8 27B | 27B | 16 GB | 262 144 | Apache 2.0 |
| #2 | GLM 4.7 Flash | 31B | 19 GB | 128 000 | MIT |
| #3 | Clef 27B | 27B | 16 GB | 262 144 | Apache 2.0 |
| #4 | North Mini Code 1.0 | 30.5B | 18 GB | 488 000 | Apache 2.0 |
| #5 | LFM2.5 24B-A2B | 24B | 14 GB | 131 072 | LFM Open License v1.0 |
| #6 | Qwen 3.6 27B | 27B | 16 GB | 262 144 | Apache 2.0 |
| #7 | Nemotron Cascade 2 30B-A3B | 30B | 17 GB | 128 000 | NVIDIA 开放模型许可证 |
在你的机器上执行操作的智能体:具备智能体能力的 Cline、MCP、n8n + Ollama、本地自动化。
我们优先选择上下文长度 ≥ 32k 的 ≥ 7B 模型(以保留操作历史),并要求带有 chat 或 reasoning 标签。评分偏向较新的模型,以及中大型模型(在这些模型上,函数调用变得可靠)。
考虑的标准:
评分完全透明:请参阅 我们的方法论 ,了解 VRAM/每秒令牌数的计算详情。
本地运行的自主智能体适合使用哪个大语言模型?
Qwen 3.8 27B 是我们的 #1。 Mistral Small 3.1 以其出色的工具调用可靠性和低延迟而闻名——这对于每项任务需要进行 20+ 次调用的代理至关重要。
Ollama 支持 function calling 吗?
是的,自 0.3.0 版本起,可通过参数 tools。LM Studio 和 vLLM 也支持。请确保模型经过工具调用训练(较新的 Mistral、Qwen 和 Llama 模型均经过此类训练)。
构建本地 AI 智能体应使用什么框架?
LangGraph, CrewAI, AutoGen, Smolagents ——均可通过 OpenAI 兼容端点连接到本地 Ollama(http://localhost:11434/v1).
reasoning 和 agents 有什么区别?
推理模型(DeepSeek R1、QwQ)会在回答前展开思维链。智能体模型(Mistral Small、Qwen)会选择并调用外部工具。两者可以结合:推理用于规划,智能体用于执行。