首页 › 目录 › RTX 3070 Ti (8 GB) 上的最佳 LLM(2026)

RTX 3070 Ti (8 GB) 上的最佳 LLM(2026)

◆ 本地 AI — 1 小时即可在你的电脑上拥有私密、免费的 ChatGPT · 24 欧元 · 或以 49 欧元购买所有套件 →

排名更新于 09/10/2026

RTX 3070 Ti(8 GB GDDR6X,608 GB/s)是配备 GDDR6X 的 3070 升级版。带宽较高,但 8 GB 显存将可运行的模型限制在 Q4 量化的 7–9B 范围内——显存容量会先于吞吐量成为限制因素。

本地 AI 的优惠和替代方案

RTX 3070 Ti :可选购的本地 AI 替代方案 — RTX 5060 Ti 16 GB :

如何根据预算选择电脑?看看我们推荐的 800 至 3,500 欧元价位的电脑 →

联盟链接——哪个LLM可能从购买中获得佣金,您无需承担额外费用,这不会影响排名(排名独立制定)。作为亚马逊合作伙伴,哪个LLM会从符合条件的购买中获益。

排名

1

🇺🇸 OLMo 3 7B Think (SFT)

zimplex · 7B 参数 · Apache 2.0 · 16 000 tokens 上下文

OLMo 3 7B 的「thinking」SFT 微调:逐步推理,16k 上下文,Q4 约需 4.2 GB 显存。100% 开放,Apache 2.0 许可证。

排名原因 OLMo 3 7B 的「thinking」SFT 微调:逐步推理,16k 上下文,Q4 约需 4.2 GB 显存。100% 开放,Apache 2.0 许可证。
# HuggingFace : zimplex/olmo3-7b-think-sft-eosfix-16k-3ep-euc
在RTX 3070 Ti上运行
Q8
8 GB · 32 tok/s
2

🇨🇳 GLM 5.3 7B

Zhipu AI · 7B 参数 · MIT · 128 000 tokens ctx

GLM 5.3(智谱):7B 稠密模型,专攻代码与推理,128k 上下文,Q4 量化约需 4.1 GB 显存。轻量级,可在配备 6–8 GB 显存的 GPU 上运行,采用 MIT 许可证。

排名原因 GLM 5.3(智谱):7B 稠密模型,专攻代码与推理,128k 上下文,Q4 量化约需 4.1 GB 显存。轻量级,可在配备 6–8 GB 显存的 GPU 上运行,采用 MIT 许可证。
ollama pull glm-5.3
在RTX 3070 Ti上运行
Q8
7 GB · 32 tok/s
3

🇺🇸 Granite 4.1 8B Instruct

IBM · 8B 参数 · Apache 2.0 · 131 072 tokens ctx

Dense 8B Apache 2.0,支持 12 种语言(含法语),131k 上下文,GQA 32Q/8KV。MMLU 73.84,HumanEval 85.37。发布于 2026 年 4 月 29 日。

排名原因 Dense 8B Apache 2.0,支持 12 种语言(含法语),131k 上下文,GQA 32Q/8KV。MMLU 73.84,HumanEval 85.37。发布于 2026 年 4 月 29 日。
# HuggingFace : ibm-granite/granite-4.1-8b
在RTX 3070 Ti上运行
Q5_K_M
6 GB · 12 tok/s
4

🇺🇸 OLMo 3 7B

Allen AI · 7B 参数 · Apache 2.0 · 8192 token 上下文

7B 稠密模型,100% 开放(权重 + 数据 + 代码)。为研究提供完全透明的信息。

排名原因 7B 稠密模型,100% 开放(权重 + 数据 + 代码)。为研究提供完全透明的信息。
ollama run olmo-3:7b
在RTX 3070 Ti上运行
Q5_K_M
6 GB · 12 tok/s
5

🇺🇸 Granite 4.2 8B

IBM · 8B 参数 · Apache 2.0 · 128 000 tokens ctx

Granite 4.2 8B(IBM):Apache 2.0 稠密模型,128k 上下文,Q4 量化约需 4.6 GB 显存。面向企业级多语言聊天、代码和推理。

排名原因 Granite 4.2 8B(IBM):Apache 2.0 稠密模型,128k 上下文,Q4 量化约需 4.6 GB 显存。面向企业级多语言聊天、代码和推理。
ollama pull granite4.2
在RTX 3070 Ti上运行
Q5_K_M
6 GB · 32 tok/s
6

🇺🇸 LFM2.5 7B

Liquid AI · 7B 参数 · LFM Open License v1.0 · 上下文长度:32,768 tokens

LFM2.5 7B(Liquid AI):稠密 Liquid Foundation Model,32k 上下文,Q4 量化下需 4.1 GB 显存。针对 CPU 和边缘设备优化。2026年5月发布。

排名原因 LFM2.5 7B(Liquid AI):稠密 Liquid Foundation Model,32k 上下文,Q4 量化下需 4.1 GB 显存。针对 CPU 和边缘设备优化。2026年5月发布。
ollama pull lfm2.5
在RTX 3070 Ti上运行
Q8
7 GB · 32 tok/s
7

🇺🇸 LFM2.5 DSpark

Liquid AI · 7B 参数 · LFM Open License v1.0 · 上下文长度:32,768 tokens

LFM2.5 DSpark(Liquid AI):7B 参数的稠密 Liquid Foundation Model,32k 上下文,Q4 量化下约需 4.1 GB 显存。针对边缘设备和 CPU 优化的通用聊天模型。

排名原因 LFM2.5 DSpark(Liquid AI):7B 参数的稠密 Liquid Foundation Model,32k 上下文,Q4 量化下约需 4.1 GB 显存。针对边缘设备和 CPU 优化的通用聊天模型。
# HuggingFace : LiquidAI/LFM2.5-DSpark
在RTX 3070 Ti上运行
Q8
7 GB · 32 tok/s

对比表

名次 模型 Params Q4 VRAM 上下文 许可证 在RTX 3070 Ti上运行
#1 OLMo 3 7B Think (SFT) 7B 4.2 GB 16 000 Apache 2.0 32 tok/s · Q8
#2 GLM 5.3 7B 7B 4.1 GB 128 000 MIT 32 tok/s · Q8
#3 Granite 4.1 8B Instruct 8B 5 GB 131 072 Apache 2.0 12 tok/s · Q5_K_M
#4 OLMo 3 7B 7B 5 GB 8 192 Apache 2.0 12 tok/s · Q5_K_M
#5 Granite 4.2 8B 8B 4.6 GB 128 000 Apache 2.0 32 tok/s · Q5_K_M
#6 LFM2.5 7B 7B 4.1 GB 32 768 LFM Open License v1.0 32 tok/s · Q8
#7 LFM2.5 DSpark 7B 4.1 GB 32 768 LFM Open License v1.0 32 tok/s · Q8
本地 AI 套件

只需 1 小时,即可在您的电脑上拥有专属的免费 ChatGPT — LM Studio、Ollama、Open WebUI、您的文档,无需云端。

  • 在线空间,终身可用
  • PDF + 文件
  • 终身更新

免费备忘录

在你的机器上运行哪个代码模型?

接收速查表 显存 → 最佳代码模型 → Ollama 命令 (一屏即可查看,可直接复制粘贴)。再使用本地 Copilot 套件,搭建真正可用的运行环境。

本地副驾驶套件 — 可直接粘贴使用的 Ollama + Cline + Aider 配置、调校好的 Modelfiles、故障排除、可终身使用的在线空间 →

无垃圾邮件。1 次点击即可退订。你的数据保留在我们这里(绝不转售)。

排名方法论

筛选条件:Q4_K_M ≤ 7 GB。额外奖励3-9B。608 GB/s = 8 GB时的良好带宽。

考虑的标准:

  • Q4_K_M ≤ 7 GB
  • Mistral 7B Q5,50个token/秒
  • GDDR6X 608 GB/s
  • VRAM限制为8 GB

评分完全透明:请参阅 我们的方法论 ,了解 VRAM/每秒令牌数的计算详情。

常见问题

3070 Ti 与 3070 的对比?

3070 Ti = GDDR6X 608 GB/s 对比 3070 GDDR6 448 GB/s,带宽提升+35%。Mistral 7B Q4:3070 Ti 约45 token/s,3070 约32 token/s。详见 RTX 3070.

2026 年 8 GB 显存将显得捉襟见肘?

13B以上支持,7-9B Q4/Q5版本仍可接受。若LLM为主要用途,建议目标显存为12-16GB。详见 8 GB 排行榜.

哪些模型最适合 3070 Ti?

Mistral 7B Q5(~5.5 GB,50 token/s),Qwen 3 8B Q4(~5 GB,45 token/s),Llama 3.2 3B Q4(~2 GB,90+ token/s)

二手3070 Ti多少钱?

在法国约为 250 至 300 欧元。与全新的 5060(约 340 欧元)相当,但技术较旧。3060 12 GB(约 200 欧元)仍是运行 LLM 的更好选择。参见 3060 12GB.

深入了解

QuelLLM 套件 按用途分类的参考指南
所有套件,终身使用 — 49 €