Mistral Small 3.1 24BvsMistral Small 3
完整对比： Mistral Small 3.1 24B （24B 参数，Mistral AI）以及 Mistral Small 3 （24B，Mistral AI）。各量化方式所需的 VRAM、在 4 款参考 GPU 上测得的每秒 token 数、针对各使用场景的评判、许可证及安装命令。所有数值均根据模型目录数据计算得出——页面之间没有复制粘贴。
简而言之
| 特性 | Mistral Small 3.1 24B | Mistral Small 3 |
|---|---|---|
| 参数 | 24B | 24B |
| 系列 | Mistral | Mistral |
| 作者 | Mistral AI | Mistral AI |
| 来源国 | FR | FR |
| 许可证 | Apache 2.0 | Apache 2.0 |
| 上下文 | 128 000 个 token | 32 768 tokens |
| 发布日期 | 2025年3月 | 2025年1月 |
内存占用
使用中等上下文窗口进行推理所需的大致 VRAM。获胜者（绿色）是消耗 更少 —— 小模型占优。
| 量化 | Mistral Small 3.1 24B | Mistral Small 3 |
|---|---|---|
| Q4_K_M（轻量） | 14 GB | 14 GB |
| Q5_K_M（平衡） | 17 GB | 17 GB |
| Q8（近乎无损） | 26 GB | 26 GB |
| FP16（最高质量） | 48 GB | 48 GB |
| 仅使用 CPU 时所需的 RAM | 24 GB | 24 GB |
预估速度（tokens/秒）
估算基于每个 GPU 上可运行的最佳量化。实际数字取决于提示词、上下文和引擎（llama.cpp、vLLM、MLX）。 方法说明.
| 参考 GPU | Mistral Small 3.1 24B | Mistral Small 3 |
|---|---|---|
| RTX 4090 (24 GB) | 40 tok/s · Q5_K_M | 40 tok/s · Q5_K_M |
| RTX 4080 (16 GB) | 15 tok/s · Q4_K_M | 15 tok/s · Q4_K_M |
| RTX 3060 12GB (12 GB) | ✗ 过于庞大 | ✗ 过于庞大 |
| Apple M4 Pro (48 GB) (36 GB) | 15 tok/s · Q8 | 15 tok/s · Q8 |
各使用场景的结论
对于每种常见用途，我们都会根据两个模型各自的标签、规模和专长，指出哪一个更适合。
只需 1 小时，即可在您的电脑上拥有专属的免费 ChatGPT — LM Studio、Ollama、Open WebUI、您的文档，无需云端。
- 在线空间，终身可用
- PDF + 文件
- 终身更新
优势与劣势
Mistral Small 3.1 24B
增加了视觉能力的 Small 3。128k 上下文，Apache 2.0 许可。自 2025 年 6 月起被 Small 3.2 取代。
- 24B 模型集成视觉与文本能力
- 128k 上下文
- Apache 2.0
- 推理速度约 150 tok/s
- 要求 Ollama ≥ 0.6.5
- Small 3.2（2025 年 6 月）在原有基础上略有改进
安装
Mistral Small 3
发布时（2025 年初），模型表现与体积之间的平衡极佳。可与 70B 模型相媲美。
- 质量接近 Llama 70B
- 低延迟
- 128k 上下文
- 在智能体和工具使用方面表现优异
- 在Q4模式下至少需要16GB VRAM
- 代码能力弱于 Qwen Coder
安装
常见问题
Mistral Small 3.1 24B 和 Mistral Small 3，哪个在 RTX 4090（24 GB）上运行得更好？
在 RTX 4090 上，Mistral Small 3.1 24B 运行时采用 Q5_K_M （约40 tok/s），Mistral Small 3 以 Q5_K_M （约 40 tok/s）。仅比较吞吐量， Mistral Small 3 胜出。请参阅 配置工具 以测试您的具体 GPU。
Mistral Small 3.1 24B 和 Mistral Small 3：哪个的法语表现更好？
使用法语进行基础聊天时，两者表现相当。对于文学或法律文本，建议优先选择来自欧洲的模型（参见 我们的FR指南).
哪个模型 VRAM 占用最少？
两者在 Q4 量化下所需的 VRAM 相同（14 GB）。因此，选择取决于许可证或主观感受到的质量。
编程该选 Mistral Small 3.1 24B 还是 Mistral Small 3？
Mistral Small 3 最适合（专攻代码，HumanEval 得分更高）。作为 IDE 副驾驶，请将其与 Continue 或 Aider。
这些模型可用于商业生产环境吗？
Mistral Small 3.1 24B 采用 Apache 2.0 许可证——可自由用于商业用途。 Mistral Small 3 采用 Apache 2.0 许可证，同样可自由使用。对于 SaaS，请优先选择 Apache 2.0 或 MIT。
2026 年选哪个？
这取决于您最主要的限制条件。 更小 / 更快 : Mistral Small 3.1 24B (24B)。 能力更强 : Mistral Small 3.1 24B (24B)。若犹豫，可先运行该模型 配置工具 结合您的 GPU 和使用场景——它将基于这两者做出判断。
值得考虑的替代方案
如果两者都不适合您，以下是您可以探索的相近模型。