🇨🇳 Qwen 3 14B
采用混合思考的 14B 稠密模型。在 STEM/代码方面与 Qwen 2.5 32B Base 持平。
ollama run qwen3:14b
排名更新于 2026年9月22日
RTX 5080(16 GB GDDR7,960 GB/s)属于 Blackwell 架构的第二梯队。显存容量与 4080 相同,但凭借 GDDR7 和增强的 Neural Engine,运行相同模型时速度快 25–30%。
比较以下产品的价格: RTX 5080 16 GB 在我们的合作伙伴商家处(已验证产品页面):
迷你PC是一台完整机器:请检查所需内存和软件兼容性。它不能替代macOS/MLX或CUDA。
如何根据预算选择电脑?看看我们推荐的 800 至 3,500 欧元价位的电脑 →
联盟推广链接 — QuelLLM 可能会从购买中获得佣金,你无需支付额外费用。这不会影响排名,排名由我们独立制定。作为 Amazon 合作伙伴,QuelLLM 会从符合条件的购买中获得收益。
采用混合思考的 14B 稠密模型。在 STEM/代码方面与 Qwen 2.5 32B Base 持平。
ollama run qwen3:14b
采用MIT许可的14B推理模型。在Microsoft公布的AIME24/25评测中,以R1-Distill-Llama-70B五分之一的参数量取得了更高分数。
ollama run phi4-reasoning:14b
Coder 14B。HumanEval 89.6,LiveCodeBench 37.1。自行部署编程模型时,显存需求处于最佳平衡点。
ollama run qwen2.5-coder:14b
将 R1 的推理能力蒸馏到 Qwen 14B。AIME24 69.7,MATH-500 93.9。在许多基准测试中超越 o1-mini。
ollama run deepseek-r1:14b
14B 参数的稠密模型,采用 Apache 2.0 许可证。MMLU 79.7,HumanEval 83.5。支持 29+ 种语言。不错的折中选择。
ollama run qwen2.5:14b
专注编程的 24B 模型,采用 Apache 2.0 许可证。SWE-Bench 得分 72.2%。256k 上下文,来自法国实验室。
ollama run devstral-small2:24b
| 名次 | 模型 | Params | Q4 VRAM | 上下文 | 许可证 | 在 RTX 5080 上 |
|---|---|---|---|---|---|---|
| #1 | Qwen 3 14B | 14B | 9 GB | 131 072 | Apache 2.0 | 55 tok/s · Q8 |
| #2 | Phi-4 Reasoning 14B | 14B | 9 GB | 32 768 | MIT | 55 tok/s · Q8 |
| #3 | Phi-4 14B | 14B | 9 GB | 16 384 | MIT | 55 tok/s · Q8 |
| #4 | Qwen 2.5 Coder 14B Instruct | 14B | 9 GB | 131 072 | Apache 2.0 | 55 tok/s · Q8 |
| #5 | DeepSeek R1 Distill Qwen 14B | 14B | 9 GB | 131 072 | MIT | 55 tok/s · Q8 |
| #6 | Qwen 2.5 14B Instruct | 14B | 9 GB | 131 072 | Apache 2.0 | 55 tok/s · Q8 |
| #7 | Devstral Small 2 24B | 24B | 14 GB | 256 000 | Apache 2.0 | 40 tok/s · Q4_K_M |
只需 1 小时,即可在您的电脑上拥有专属的免费 ChatGPT — LM Studio、Ollama、Open WebUI、您的文档,无需云端。
免费备忘录
接收速查表 显存 → 最佳代码模型 → Ollama 命令 (一屏即可查看,可直接复制粘贴)。再使用本地 Copilot 套件,搭建真正可用的运行环境。
本地副驾驶套件 — 可直接粘贴使用的 Ollama + Cline + Aider 配置、调校好的 Modelfiles、故障排除、可终身使用的在线空间 →无垃圾邮件。1 次点击即可退订。你的数据保留在我们这里(绝不转售)。
你的显卡 → 最适合在本地运行的编程模型,以及准确的 Ollama 命令:
| 你的 VRAM | 典型 GPU / Mac | 推荐的代码模型 | Ollama 命令 |
|---|---|---|---|
| 8 GB | RTX 4060 / 3060 · M1-M2 16 GB | Qwen 3.5 9B (Q4, 6.6 GB — 256k ctx) | ollama run qwen3.5:9b |
| 12 GB | RTX 3060 12 GB / 4070 / 5070 | Qwen 3.5 9B (Q8, 11 GB) 或 Gemma 4 12B (7.6 GB) | ollama run qwen3.5:9b-q8_0 |
| 16 GB | RTX 5070 Ti / 4080 / 5080 · RX 9070 XT · M4 24 GB | Devstral 24B (Q4, 14 GB) — 专长是编程智能体任务 | ollama run devstral:24b |
| 24 GB | RTX 3090 / 4090 · RX 7900 XTX · M4 Pro 48 GB | Qwen 3.8 27B (Q4, 18 GB) — “接近 Copilot” | ollama run qwen3.8:27b |
| 32 GB | RTX 5090 | Qwen 3.6 35B-A3B (Q4, 23 GB) — 快速 MoE | ollama run qwen3.6:35b |
| 48 GB+ | Mac M4 Max 64 GB · M2 Ultra 128 GB | Qwen3-Coder 30B-A3B (Q8, 32 GB — 256k ctx) | ollama run qwen3-coder:30b-a3b-q8_0 |
-base : ollama run qwen2.5-coder:7b-base — 在这一特定用途上,它仍是标杆。⚠️ Qwen 3.8: 其推理强度默认设得很高,处理简单请求时会“过度思考”——请将其调低至 low (或在首次启动时关闭它)。⚠️ 许可证陷阱: Codestral 22B = Mistral Non-Production License(非生产用途许可证) → 禁止用于工作中的编程。Qwen 3.5/3.8、Gemma 4 和 Devstral 采用 Apache 2.0 许可证。💡 因内存不足而崩溃?请预留约 1.5 GB 的显存用于上下文,或将量化精度降低一档。🔌 要将其接入 VS Code: Cline (可处理多个文件的智能体), Aider (CLI) 或 Tabby/Twinny (FIM 自动补全) — 它们都连接到本地 Ollama。该套件 本地助手 — 可直接粘贴的配置 + 经过测试的设置 — 现已可用: /copilote-local.
筛选条件:Q4_K_M 版本小于 14 GB 的模型。7-14B(5080 峰值)和 13-24B 处于极限。GDDR7 带宽 960 GB/s = 相比 4080 提升约 30%。
考虑的标准:
评分完全透明:请参阅 我们的方法论 ,了解 VRAM/每秒令牌数的计算详情。
RTX 5080 对比 RTX 4080?
同样是 16 GB VRAM。得益于 GDDR7(960 对 736 GB/s)+ Blackwell 神经引擎,5080 在相同模型上快 25-30%。Mistral Small 24B Q4:5080 约 38 tok/s,4080 约 28 tok/s。参见 RTX 4080.
能否在5080上运行30B模型?
Mistral Small 24B Q4(约 13 GB)可以运行,速度为每秒 35–40 个 token。Qwen 3 32B Q3_K_M(约 14 GB)则比较勉强,质量有所下降。若要流畅运行 Q4 量化的 30–32B 模型,建议选择配备 32 GB 显存的 RTX 5090。参见 RTX 5090.
5080 上该选哪种量化?
Q5_K_M 适用于 7–9B 模型(最高质量,约 7 GB)。Q4_K_M 适用于 13–24B 模型(Mistral Small 24B)。Q6_K 适用于 13–14B 模型(Qwen 3 14B 约 12 GB),是理想选择。
RTX 5080 还是配备 64 GB 内存的 Mac Studio M4 Max?
Studio M4 Max = 静音 + 64 GB(可流畅运行 70B Q4)。5080 = 运行 7–24B 模型时的纯速度优势(35–50 tok/s)。如果您想在本地运行 70B 模型,选 Mac Studio。如果追求 7–24B 模型的速度,选 RTX 5080。参见 Mac Studio.
通过我们对入围选手的详细对决深入了解: