Mistral Small 3vsDevstral Small 2 24B
完整对比: Mistral Small 3 (24B 参数,Mistral AI)以及 Devstral Small 2 24B (24B,Mistral AI)。各量化方式所需的 VRAM、在 4 款参考 GPU 上测得的每秒 token 数、针对各使用场景的评判、许可证及安装命令。所有数值均根据模型目录数据计算得出——页面之间没有复制粘贴。
简而言之
| 特性 | Mistral Small 3 | Devstral Small 2 24B |
|---|---|---|
| 参数 | 24B | 24B |
| 系列 | Mistral | Mistral |
| 作者 | Mistral AI | Mistral AI |
| 来源国 | FR | FR |
| 许可证 | Apache 2.0 | Apache 2.0 |
| 上下文 | 32 768 tokens | 256 000 tokens |
| 发布日期 | 2025年1月 | 2025年12月 |
内存占用
使用中等上下文窗口进行推理所需的大致 VRAM。获胜者(绿色)是消耗 更少 —— 小模型占优。
| 量化 | Mistral Small 3 | Devstral Small 2 24B |
|---|---|---|
| Q4_K_M(轻量) | 14 GB | 14 GB |
| Q5_K_M(平衡) | 17 GB | 17 GB |
| Q8(近乎无损) | 26 GB | 26 GB |
| FP16(最高质量) | 48 GB | 48 GB |
| 仅使用 CPU 时所需的 RAM | 24 GB | 24 GB |
预估速度(tokens/秒)
估算基于每个 GPU 上可运行的最佳量化。实际数字取决于提示词、上下文和引擎(llama.cpp、vLLM、MLX)。 方法说明.
| 参考 GPU | Mistral Small 3 | Devstral Small 2 24B |
|---|---|---|
| RTX 4090 (24 GB) | 40 tok/s · Q5_K_M | 40 tok/s · Q5_K_M |
| RTX 4080 (16 GB) | 15 tok/s · Q4_K_M | 15 tok/s · Q4_K_M |
| RTX 3060 12GB (12 GB) | ✗ 过于庞大 | ✗ 过于庞大 |
| Apple M4 Pro (48 GB) (36 GB) | 15 tok/s · Q8 | 15 tok/s · Q8 |
各使用场景的结论
对于每种常见用途,我们都会根据两个模型各自的标签、规模和专长,指出哪一个更适合。
用 100 % 本地代码副驾驶替代 GitHub Copilot 和 Cursor——权威指南,含配置。
- 在线空间,终身可用
- PDF + 文件
- 终身更新
优势与劣势
Mistral Small 3
发布时(2025 年初),模型表现与体积之间的平衡极佳。可与 70B 模型相媲美。
- 质量接近 Llama 70B
- 低延迟
- 128k 上下文
- 在智能体和工具使用方面表现优异
- 在Q4模式下至少需要16GB VRAM
- 代码能力弱于 Qwen Coder
安装
Devstral Small 2 24B
专注编程的 24B 模型,采用 Apache 2.0 许可证。SWE-Bench 得分 72.2%。256k 上下文,来自法国实验室。
- 68.0% SWE-bench Verified
- 可装入 RTX 4090 的显存
- Apache 2.0
- 法国实验室
- 无视觉功能
- 稠密模型:在相同内存条件下,比代码类 MoE 模型(Qwen3-Coder 30B-A3B)更慢
安装
常见问题
Mistral Small 3 和 Devstral Small 2 24B,哪个模型在 RTX 4090(24 GB)上运行得更好?
在RTX 4090上,Mistral Small 3 运行 Q5_K_M (约 40 个 token/秒),Devstral Small 2 24B 在 Q5_K_M (约 40 tok/s)。仅比较吞吐量, Devstral Small 2 24B 胜出。请参阅 配置工具 以测试您的具体 GPU。
Mistral Small 3 或 Devstral Small 2 24B:哪一个的法语表现更好?
对于正式法语(写作、摘要、翻译), Mistral Small 3 占据优势——使用丰富的法语语料库训练。另一个仍可使用,但适用于要求较低的场景。
哪个模型 VRAM 占用最少?
两者在 Q4 量化下所需的 VRAM 相同(14 GB)。因此,选择取决于许可证或主观感受到的质量。
编程该选 Mistral Small 3 还是 Devstral Small 2 24B?
两者均为代码专用模型——选择依据在于上下文(32 768 对 256 000 个 token)、许可证(Apache 2.0 对 Apache 2.0)以及可用的 VRAM。两者均可集成到 Continue 或 Aider。
这些模型可用于商业生产环境吗?
Mistral Small 3 采用 Apache 2.0 许可证——可自由用于商业用途。 Devstral Small 2 24B 采用 Apache 2.0 许可证,同样可自由使用。对于 SaaS,请优先选择 Apache 2.0 或 MIT。
2026 年选哪个?
这取决于您最主要的限制条件。 更小 / 更快 : Mistral Small 3 (24B)。 能力更强 :Mistral Small 3(24B)。如果您犹豫不决,请启动 配置工具 结合您的 GPU 和使用场景——它将基于这两者做出判断。
值得考虑的替代方案
如果两者都不适合您,以下是您可以探索的相近模型。