Mistral Large 3 675BvsLlama 3.3 70B Instruct
完整对比： Mistral Large 3 675B (675B参数，Mistral AI) 和 Llama 3.3 70B Instruct （70B，Meta）。各量化方式所需的 VRAM、在 4 款参考 GPU 上测得的每秒 token 数、针对各使用场景的评判、许可证及安装命令。所有数值均根据模型目录数据计算得出——页面之间没有复制粘贴。
简而言之
| 特性 | Mistral Large 3 675B | Llama 3.3 70B Instruct |
|---|---|---|
| 参数 | 675B | 70B |
| 系列 | Mistral | Llama |
| 作者 | Mistral AI | Meta |
| 来源国 | FR | US |
| 许可证 | Apache 2.0 | Llama 3.3 Community |
| 上下文 | 256 000 tokens | 128 000 个 token |
| 发布日期 | 2025年12月 | 2024年12月 |
内存占用
使用中等上下文窗口进行推理所需的大致 VRAM。获胜者（绿色）是消耗 moins —— 小模型占优。
| 量化 | Mistral Large 3 675B | Llama 3.3 70B Instruct |
|---|---|---|
| Q4_K_M（轻量） | 405 GB | 40 GB |
| Q5_K_M（平衡） | 485 GB | 48 GB |
| Q8（近乎无损） | 720 GB | 75 GB |
| FP16（最高质量） | 1350 GB | 140 GB |
| 仅使用 CPU 时所需的 RAM | 480 GB | 64 GB |
预估速度（tokens/秒）
估算基于每个 GPU 上可运行的最佳量化。实际数字取决于提示词、上下文和引擎（llama.cpp、vLLM、MLX）。 方法说明.
| 参考 GPU | Mistral Large 3 675B | Llama 3.3 70B Instruct |
|---|---|---|
| RTX 4090 (24 GB) | ✗ 过于庞大 | ✗ 过于庞大 |
| RTX 4080 (16 GB) | ✗ 过于庞大 | ✗ 过于庞大 |
| RTX 3060 12GB (12 GB) | ✗ 过于庞大 | ✗ 过于庞大 |
| Apple M4 Pro (48 GB) (36 GB) | ✗ 过于庞大 | ✗ 过于庞大 |
各使用场景的结论
对于每种常见用途，我们都会根据两个模型各自的标签、规模和专长，指出哪一个更适合。
只需 1 小时，即可在您的电脑上拥有专属的免费 ChatGPT — LM Studio、Ollama、Open WebUI、您的文档，无需云端。
- 在线空间，终身可用
- PDF + 文件
- 30 天内退款
优势与劣势
Mistral Large 3 675B
MoE：6750 亿总参数 / 410 亿激活参数，另加 25 亿参数的视觉编码器，采用 Apache 2.0 许可证。LMArena 开源非推理模型排名第 2。在 3000 块 H200 上训练。
- 旗舰版 FR 前沿
- Apache 2.0
- #2 OSS non-reasoning LMArena
- 多模态
- 405 GB（Q4）——需 B200/H200 服务器支持
安装
Llama 3.3 70B Instruct
以六分之一的规模达到 Llama 3.1 405B 的质量。权重采用社区许可，HF 访问受限。
- 质量达到 405B 至 1/6 规模
- 128k 上下文
- 推理和编程能力极强
- HF 受限模型（需接受 Meta 条款）
- 带有 >700M MAU 条款的社区许可证
- 无视觉功能
安装
常见问题
Mistral Large 3 675B 和 Llama 3.3 70B Instruct，哪个在 RTX 4090（24 GB）上运行得更好？
在 RTX 4090 上，24 GB 显存装不下 Mistral Large 3 675B——需要将部分模型卸载到 CPU 端；24 GB 显存也装不下 Llama 3.3 70B Instruct。请参阅 配置工具 以测试您的具体 GPU。
Mistral Large 3 675B或Llama 3.3 70B Instruct：哪个在法语表现上更优？
对于正式法语（写作、摘要、翻译）， Mistral Large 3 675B 占据优势——使用丰富的法语语料库训练。另一个仍可使用，但适用于要求较低的场景。
哪个模型 VRAM 占用最少？
在 Q4_K_M 量化下， Llama 3.3 70B Instruct 占用 40 GB contre 405 GB 相较于其竞争对手——存在365 GB的差距，若目标是RTX 3060或4060 Ti 8 GB显卡，这一差距显著。
这些模型可用于商业生产环境吗？
Mistral Large 3 675B 采用 Apache 2.0 许可证——可自由用于商业用途。 Llama 3.3 70B Instruct 采用 Llama 3.3 Community 许可证——也请核查其条款。对于 SaaS，优先选择 Apache 2.0 或 MIT 许可证。
2026 年选哪个？
这取决于您最主要的限制条件。 更小 / 更快 : Llama 3.3 70B Instruct (70B)。 能力更强 : Mistral Large 3 675B (675B)。若犹豫不决，可先尝试运行 配置工具 结合您的 GPU 和使用场景——它将基于这两者做出判断。
值得考虑的替代方案
如果两者都不适合您，以下是您可以探索的相近模型。