首页 › 对比工具 › Mistral Small 3 对比 Devstral Small 2 24B

Mistral Small 3vsDevstral Small 2 24B

完整对比: Mistral Small 3 (24B 参数,Mistral AI)以及 Devstral Small 2 24B (24B,Mistral AI)。各量化方式所需的 VRAM、在 4 款参考 GPU 上测得的每秒 token 数、针对各使用场景的评判、许可证及安装命令。所有数值均根据模型目录数据计算得出——页面之间没有复制粘贴。

简而言之

特性 Mistral Small 3 Devstral Small 2 24B
参数 24B 24B
系列 Mistral Mistral
作者 Mistral AI Mistral AI
来源国 FR FR
许可证 Apache 2.0 Apache 2.0
上下文 32 768 tokens 256 000 tokens
发布日期 2025年1月 2025年12月

内存占用

使用中等上下文窗口进行推理所需的大致 VRAM。获胜者(绿色)是消耗 更少 —— 小模型占优。

量化 Mistral Small 3 Devstral Small 2 24B
Q4_K_M(轻量) 14 GB 14 GB
Q5_K_M(平衡) 17 GB 17 GB
Q8(近乎无损) 26 GB 26 GB
FP16(最高质量) 48 GB 48 GB
仅使用 CPU 时所需的 RAM 24 GB 24 GB

预估速度(tokens/秒)

估算基于每个 GPU 上可运行的最佳量化。实际数字取决于提示词、上下文和引擎(llama.cpp、vLLM、MLX)。 方法说明.

参考 GPU Mistral Small 3 Devstral Small 2 24B
RTX 4090 (24 GB) 40 tok/s · Q5_K_M 40 tok/s · Q5_K_M
RTX 4080 (16 GB) 15 tok/s · Q4_K_M 15 tok/s · Q4_K_M
RTX 3060 12GB (12 GB) ✗ 过于庞大 ✗ 过于庞大
Apple M4 Pro (48 GB) (36 GB) 15 tok/s · Q8 15 tok/s · Q8

各使用场景的结论

对于每种常见用途,我们都会根据两个模型各自的标签、规模和专长,指出哪一个更适合。

通用聊天
Mistral Small 3 胜出。 对于此用途,模型能力与使用限制之间的最佳平衡。
开发 / 代码
势均力敌——取决于具体情况。 在此标准上两者相当,请根据您的 VRAM 或许可证限制做出选择。
正式法语
Mistral Small 3 胜出。 使用丰富的法语语料库训练,在习语表达方面表现更佳。
RAG / 长文档
Mistral Small 3 胜出。 更大的上下文窗口(32 768 个标记),适用于长文档。
智能体与工具使用
Mistral Small 3 胜出。 在工具使用和遵循多步骤指令方面表现更好。
本地编程副驾驶套件

用 100 % 本地代码副驾驶替代 GitHub Copilot 和 Cursor——权威指南,含配置。

  • 在线空间,终身可用
  • PDF + 文件
  • 终身更新
阅读免费指南:Continue + VS Code →

优势与劣势

Mistral AI · 24B

Mistral Small 3

发布时(2025 年初),模型表现与体积之间的平衡极佳。可与 70B 模型相媲美。

  • 质量接近 Llama 70B
  • 低延迟
  • 128k 上下文
  • 在智能体和工具使用方面表现优异
  • 在Q4模式下至少需要16GB VRAM
  • 代码能力弱于 Qwen Coder

安装

ollama run mistral-small:24b
Mistral AI · 24B

Devstral Small 2 24B

专注编程的 24B 模型,采用 Apache 2.0 许可证。SWE-Bench 得分 72.2%。256k 上下文,来自法国实验室。

  • 68.0% SWE-bench Verified
  • 可装入 RTX 4090 的显存
  • Apache 2.0
  • 法国实验室
  • 无视觉功能
  • 稠密模型:在相同内存条件下,比代码类 MoE 模型(Qwen3-Coder 30B-A3B)更慢

安装

ollama run devstral-small2:24b

常见问题

Mistral Small 3 和 Devstral Small 2 24B,哪个模型在 RTX 4090(24 GB)上运行得更好?

在RTX 4090上,Mistral Small 3 运行 Q5_K_M (约 40 个 token/秒),Devstral Small 2 24B 在 Q5_K_M (约 40 tok/s)。仅比较吞吐量, Devstral Small 2 24B 胜出。请参阅 配置工具 以测试您的具体 GPU。

Mistral Small 3 或 Devstral Small 2 24B:哪一个的法语表现更好?

对于正式法语(写作、摘要、翻译), Mistral Small 3 占据优势——使用丰富的法语语料库训练。另一个仍可使用,但适用于要求较低的场景。

哪个模型 VRAM 占用最少?

两者在 Q4 量化下所需的 VRAM 相同(14 GB)。因此,选择取决于许可证或主观感受到的质量。

编程该选 Mistral Small 3 还是 Devstral Small 2 24B?

两者均为代码专用模型——选择依据在于上下文(32 768 对 256 000 个 token)、许可证(Apache 2.0 对 Apache 2.0)以及可用的 VRAM。两者均可集成到 Continue 或 Aider。

这些模型可用于商业生产环境吗?

Mistral Small 3 采用 Apache 2.0 许可证——可自由用于商业用途。 Devstral Small 2 24B 采用 Apache 2.0 许可证,同样可自由使用。对于 SaaS,请优先选择 Apache 2.0 或 MIT。

2026 年选哪个?

这取决于您最主要的限制条件。 更小 / 更快 : Mistral Small 3 (24B)。 能力更强 :Mistral Small 3(24B)。如果您犹豫不决,请启动 配置工具 结合您的 GPU 和使用场景——它将基于这两者做出判断。

值得考虑的替代方案

如果两者都不适合您,以下是您可以探索的相近模型。

深入了解