工具

对比 模型

请选择两个或三个模型,我们会按相同标准并列比较。参数数量、不同量化级别下的显存占用、许可证、支持的语言——涵盖选择时需要考虑的所有要点。

模型 A
Mistral 7B Instruct
Mistral AI · 7B
模型 B
Gemma 3 27B
Google · 27B
模型 C
Llama 3.3 70B Instruct
Meta · 70B
A
Mistral 7B Instruct
B
Gemma 3 27B
C
Llama 3.3 70B Instruct
系列
Mistral
Gemma
Llama
发布方
Mistral AI
Google
Meta
来源国
🇫🇷 FR
🇺🇸 US
🇺🇸 US
许可证
Apache 2.0
Gemma
Llama 3.3 Community
参数
7B
27B
70B
上下文
33k tokens
128k tokens
128k tokens
显存(Q4)
5 GB
16 GB
40 GB
VRAM (Q5)
6 GB
19 GB
48 GB
VRAM (Q8)
9 GB
29 GB
75 GB
VRAM (FP16)
16 GB
54 GB
140 GB
CPU 运行所需的最低 RAM
8 GB
28 GB
64 GB
Tok/s(平均)
35 tok/s
13 tok/s
6 tok/s
Tags
chat, general
chat, general, vision, multilingual
chat, general, reasoning
预先撰写的对比评测

在比赛中 一键操作

与其每次都重新配置工具,不如查看我们已经撰写的对比评测,其中包含针对不同使用场景的结论、VRAM、tokens/sec 和常见问题解答。

简要结论
最小的模型
Mistral 7B Instruct
法国经典之作。速度快、用途广,非常适合作为入门起点。
多功能
Gemma 3 27B
高端 Gemma。LMArena Elo 1338 —— 以 15 倍更小的体量击败 Llama 3.1 405B。
强力型
Llama 3.3 70B Instruct
以六分之一的规模达到 Llama 3.1 405B 的质量。权重采用社区许可,HF 访问受限。