首页 › 对比工具 › Codestral 22B v0.1 对比 Qwen 2.5 Coder 7B

Codestral 22B v0.1vsQwen 2.5 Coder 7B

完整对比: Codestral 22B v0.1 (22B 参数,Mistral AI) 和 Qwen 2.5 Coder 7B (7B,阿里巴巴)。不同量化级别所需的 VRAM、在 4 款参考 GPU 上测得的每秒 token 数、各使用场景下的评价、许可证及安装命令。所有数值均根据目录数据计算得出——各页面之间没有复制粘贴。

简而言之

特性 Codestral 22B v0.1 Qwen 2.5 Coder 7B
参数 22B 7B
系列 Mistral Qwen
作者 Mistral AI Alibaba
来源国 FR CN
许可证 Mistral Non-Production License Apache 2.0
上下文 32 000个token 131 072 个 token
发布日期 2024年5月 2024年11月

内存占用

使用中等上下文窗口进行推理所需的大致 VRAM。获胜者(绿色)是消耗 更少 —— 小模型占优。

量化 Codestral 22B v0.1 Qwen 2.5 Coder 7B
Q4_K_M(轻量) 13 GB 5 GB
Q5_K_M(平衡) 16 GB 6 GB
Q8(近乎无损) 24 GB 9 GB
FP16(最高质量) 44 GB 16 GB
仅使用 CPU 时所需的 RAM 22 GB 8 GB

预估速度(tokens/秒)

估算基于每个 GPU 上可运行的最佳量化。实际数字取决于提示词、上下文和引擎(llama.cpp、vLLM、MLX)。 方法说明.

参考 GPU Codestral 22B v0.1 Qwen 2.5 Coder 7B
RTX 4090 (24 GB) 42 tokens/秒 · Q8 90 tok/s · FP16
RTX 4080 (16 GB) 16 tok/s · Q5_K_M 35 tok/s · FP16
RTX 3060 12GB (12 GB) ✗ 过于庞大 12 tok/s · Q8
Apple M4 Pro (48 GB) (36 GB) 16 tok/s · Q8 35 tok/s · FP16

各使用场景的结论

对于每种常见用途,我们都会根据两个模型各自的标签、规模和专长,指出哪一个更适合。

开发 / 代码
Codestral 22B v0.1 胜出。 代码专用模型,在 HumanEval 和 MBPP 上表现更佳。
轻量部署
Qwen 2.5 Coder 7B 胜出。 更轻量(7B 参数),可在配置较低的硬件上运行。
本地编程副驾驶套件

用 100 % 本地代码副驾驶替代 GitHub Copilot 和 Cursor——权威指南,含配置。

  • 在线空间,终身可用
  • PDF + 文件
  • 终身更新
阅读免费指南:Continue + VS Code →

优势与劣势

Mistral AI · 22B

Codestral 22B v0.1

Mistral 的 22B 编程模型,支持 80 多种编程语言。⚠ MNPL 非生产用途许可证——个人/研究用途。

  • 代码能力出色
  • HumanEval 81.1,MBPP 78.2
  • ⚠ MNPL 许可(非生产环境)
  • 仅限个人使用/研究

安装

ollama run codestral:22b
Alibaba · 7B

Qwen 2.5 Coder 7B

专注于编程。在 HumanEval 上的表现可与专有模型媲美。

  • 128k 上下文
  • Apache 2.0
  • 出色的代码补全能力
  • 支持长指令
  • 在复杂代码场景下表现不如32B版本
  • 在一般聊天场景中的通用性较差

安装

ollama run qwen2.5-coder:7b

常见问题

在RTX 4090(24GB)上表现最佳的模型是Codestral 22B v0.1还是Qwen 2.5 Coder 7B?

在 RTX 4090 上,Codestral 22B v0.1 可运行于 Q8 (约 42 tok/s),Qwen 2.5 Coder 7B 则采用 FP16 (约 90 tok/s)。仅就吞吐量而言, Qwen 2.5 Coder 7B 胜出。请参阅 配置工具 以测试您的具体 GPU。

哪个模型 VRAM 占用最少?

在 Q4_K_M 量化下, Qwen 2.5 Coder 7B 占用 5 GB,而13 GB 是其竞争对手所需的显存——相差 8 GB,如果您打算使用 RTX 3060 或 4060 Ti 8 GB,这一差距相当显著。

编程该选 Codestral 22B v0.1 还是 Qwen 2.5 Coder 7B?

Codestral 22B v0.1 最适合(专攻代码,HumanEval 得分更高)。作为 IDE 副驾驶,请将其与 Continue 或 Aider。

这些模型可用于商业生产环境吗?

Codestral 22B v0.1 采用 Mistral Non-Production License——请核查其限制条件(尤其是每月用户数的门槛)。 Qwen 2.5 Coder 7B 采用 Apache 2.0 许可证,同样可自由使用。对于 SaaS,请优先选择 Apache 2.0 或 MIT。

2026 年选哪个?

这取决于您最主要的限制条件。 更小 / 更快 : Qwen 2.5 Coder 7B (7B). 能力更强 : Codestral 22B v0.1 (22B)。如果您犹豫,可先运行 配置工具 结合您的 GPU 和使用场景——它将基于这两者做出判断。

值得考虑的替代方案

如果两者都不适合您,以下是您可以探索的相近模型。

深入了解