Mistral Small 3.1 24BvsMistral Small 3.2 24B
完整对比： Mistral Small 3.1 24B （24B 参数，Mistral AI）以及 Mistral Small 3.2 24B （24B，Mistral AI）。各量化方式所需的 VRAM、在 4 款参考 GPU 上测得的每秒 token 数、针对各使用场景的评判、许可证及安装命令。所有数值均根据模型目录数据计算得出——页面之间没有复制粘贴。
简而言之
| 特性 | Mistral Small 3.1 24B | Mistral Small 3.2 24B |
|---|---|---|
| 参数 | 24B | 24B |
| 系列 | Mistral | Mistral |
| 作者 | Mistral AI | Mistral AI |
| 来源国 | FR | FR |
| 许可证 | Apache 2.0 | Apache 2.0 |
| 上下文 | 128 000 个 token | 128 000 个 token |
| 发布日期 | 2025年3月 | 2025年6月 |
内存占用
使用中等上下文窗口进行推理所需的大致 VRAM。获胜者（绿色）是消耗 更少 —— 小模型占优。
| 量化 | Mistral Small 3.1 24B | Mistral Small 3.2 24B |
|---|---|---|
| Q4_K_M（轻量） | 14 GB | 14 GB |
| Q5_K_M（平衡） | 17 GB | 17 GB |
| Q8（近乎无损） | 26 GB | 26 GB |
| FP16（最高质量） | 48 GB | 48 GB |
| 仅使用 CPU 时所需的 RAM | 24 GB | 24 GB |
预估速度（tokens/秒）
估算基于每个 GPU 上可运行的最佳量化。实际数字取决于提示词、上下文和引擎（llama.cpp、vLLM、MLX）。 方法说明.
| 参考 GPU | Mistral Small 3.1 24B | Mistral Small 3.2 24B |
|---|---|---|
| RTX 4090 (24 GB) | 40 tok/s · Q5_K_M | 40 tok/s · Q5_K_M |
| RTX 4080 (16 GB) | 15 tok/s · Q4_K_M | 15 tok/s · Q4_K_M |
| RTX 3060 12GB (12 GB) | ✗ 过于庞大 | ✗ 过于庞大 |
| Apple M4 Pro (48 GB) (36 GB) | 15 tok/s · Q8 | 15 tok/s · Q8 |
各使用场景的结论
对于每种常见用途，我们都会根据两个模型各自的标签、规模和专长，指出哪一个更适合。
只需 1 小时，即可在您的电脑上拥有专属的免费 ChatGPT — LM Studio、Ollama、Open WebUI、您的文档，无需云端。
- 在线空间，终身可用
- PDF + 文件
- 终身更新
优势与劣势
Mistral Small 3.1 24B
增加了视觉能力的 Small 3。128k 上下文，Apache 2.0 许可。自 2025 年 6 月起被 Small 3.2 取代。
- 24B 模型集成视觉与文本能力
- 128k 上下文
- Apache 2.0
- 推理速度约 150 tok/s
- 要求 Ollama ≥ 0.6.5
- Small 3.2（2025 年 6 月）在原有基础上略有改进
安装
Mistral Small 3.2 24B
Small 3.1 的 2025 年 6 月更新：生成无法停止的情况减少了一半，函数调用得到改进。
- 相比 3.1，无限生成的情况减少一半
- 函数调用功能增强
- 视觉
- Apache 2.0
- 需要较新版本的 Ollama
安装
常见问题
在 RTX 4090（24 GB）上表现最佳的模型是 Mistral Small 3.1 24B 还是 Mistral Small 3.2 24B？
在 RTX 4090 上，Mistral Small 3.1 24B 运行时采用 Q5_K_M (~40 tok/s)，Mistral Small 3.2 24B 在 Q5_K_M （约 40 tok/s）。仅比较吞吐量， Mistral Small 3.2 24B 胜出。请参阅 配置工具 以测试您的具体 GPU。
Mistral Small 3.1 24B 和 Mistral Small 3.2 24B：哪个的法语表现更好？
使用法语进行基础聊天时，两者表现相当。对于文学或法律文本，建议优先选择来自欧洲的模型（参见 我们的FR指南).
哪个模型 VRAM 占用最少？
两者在 Q4 量化下所需的 VRAM 相同（14 GB）。因此，选择取决于许可证或主观感受到的质量。
这些模型可用于商业生产环境吗？
Mistral Small 3.1 24B 采用 Apache 2.0 许可证——可自由用于商业用途。 Mistral Small 3.2 24B 采用 Apache 2.0 许可证，同样可自由使用。对于 SaaS，请优先选择 Apache 2.0 或 MIT。
2026 年选哪个？
这取决于您最主要的限制条件。 更小 / 更快 : Mistral Small 3.1 24B (24B)。 能力更强 : Mistral Small 3.1 24B (24B)。若犹豫，可先运行该模型 配置工具 结合您的 GPU 和使用场景——它将基于这两者做出判断。
值得考虑的替代方案
如果两者都不适合您，以下是您可以探索的相近模型。