NVIDIA DGX Spark:价格、规格及本地 AI 使用评价(2026)
NVIDIA 的紧凑型 AI 工作站,配备 128 GB 统一内存。我们关注运行 LLM 时的重要因素 在本地 :内存、带宽、速度、价格——以及它适合或不适合哪些人购买。
更新于 09/10/2026
购买渠道
按钮所标注的配置就是购买时提供的配置。使用迷你 PC 时,请为系统预留内存,并检查推理引擎;macOS/MLX 与 CUDA 不能互换。
联盟链接——哪个LLM可能从购买中获得佣金,您无需承担额外费用,这不会影响这些推荐(推荐内容均为独立制定)。作为 Amazon 合作伙伴,哪个LLM会从符合条件的购买中获益。
技术规格
- 内存128 GB 统一内存(LPDDR5x)
- 带宽273 GB/s
- 计算≈ 1 PFLOP FP4 — GPU Blackwell + CPU Grace 20个Arm核心
- 功耗140 W
- 参考价格Materiel.net 售价约 6,100 欧元(2026 年 9 月 28 日,DGX Spark PNY 售价为 6,099.95 欧元,交货时间超过 15 天;采用相同 GB10 芯片并配备 128 GB 内存的 MSI EdgeXpert 售价为 6,599.95 欧元,交货时间为 7 天以内)
- 可运行的最大模型自 CES 2026 软件更新以来,NVIDIA 将其定位为可运行“最高 200B”的模型;实际使用中,运行 Q4 量化的约 70B 模型较为轻松,但速度受带宽(273 GB/s)限制。两台设备互联后,可运行 Qwen 3.5-122B,速度约为 40 t/s
适合谁?
优势与局限
✓ 优点
- 128 GB 一致性统一内存
- 完整的CUDA堆栈,本地运行
- 机身紧凑,140 W
- 非常适合本地部署、物理隔离网络和合规场景
- CES 2026 软件更新:推理性能最高提升至原来的 2.5 倍(TensorRT-LLM、推测解码)
- 可扩展:2 个单元串联 = 122B 模型,约 40 个标记/秒
✗ 局限性
- 带宽 273 GB/s,较弱(一台 Mac Studio 约为 2 倍)
- 相对于原始性能而言,价格偏高
- 库存通常非常有限
- 在非 CUDA / 本地部署生态中难以推荐
选择与局限——2026 年 9 月 12 日评估
正确的判断依据:您的模型和运行环境
DGX Spark 在 NVIDIA 环境中提供 128 GB 统一内存。宣称可容纳某种规模的模型,并不保证能达到期望的上下文长度或满足交互需求的吞吐量。请核实量化方式、运行时、用户数量,以及测量针对的是一台还是两台设备。
来源: NVIDIA 官方产品资料 et 针对一组两台DGX Spark的外部测量及原始数据。本介绍页未声称包含自行开展的 DGX Spark 基准测试;不要将两台设备组合的测试结果套用于单台设备。
稠密模型还是混合专家(MoE)模型:哪些在 DGX Spark 上飞快,哪些运行缓慢
内存带宽(273 GB/s)是这台机器的真正瓶颈。每生成一个 token, dense 重新读取其全部权重;而一个 MoE (专家混合模型) 仅读取其激活的专家。在 DGX Spark 上,性能差异极为显著:
| 模型 | 架构 | 实测速度 |
|---|---|---|
| gpt-oss-120B (MXFP4/FP8) | MoE — 每个 token 激活约 50 亿参数 | ≈ 40-58 tok/s,具体取决于推理引擎(llama.cpp、SGLang) |
| Qwen3-Coder 30B-A3B | MoE — 每 token 激活 3B 参数 | 非常流畅,是本地编程的理想选择 |
| Llama 3.1 70B (FP8) | Dense | ≈ 2.7 tok/s(LMSYS测试)——日常使用体验不佳 |
实际建议:在该设备上,优先选择 MoE 架构——正是在这里,128 GB 的容量才真正发挥其价值。我们的 DGX Spark本地AI指南 详细介绍了各项设置,而 目录 按 VRAM 过滤模型。
与 128 GB 的替代方案相比
目前有三款台式机能将超大模型装入统一内存:
| 机器 | 内存 | 带宽 | 参考价格 | 生态系统 |
|---|---|---|---|---|
| NVIDIA DGX Spark | 128 GB | 273 GB/s | 约 6 100 – 6 600 欧元(Materiel.net,2026年9月28日) | 完整CUDA支持 |
| Ryzen AI Max+ 395 迷你电脑 | 最高可达128 GB | 256 GB/s | 约 1900-3900 欧元,根据配置而定 | ROCm / Vulkan |
| Mac Studio M5 Max | 36-128 GB | 460-614 GB/s | 从 2999 欧元起 (36 GB) | MLX / Metal |
在同等预算下,Strix Halo 以 2 到 4 倍更低的成本运行相同的 MoE;Mac 在带宽性能上明显更优。DGX Spark 仍保持独特优势:在 140 瓦功耗下提供完整的 CUDA 堆栈。详细对比: Strix Halo 对比 DGX Spark.
企业中的 DGX Spark:总成本、盈亏平衡点及两台设备组成的集群
内容摘自指南《DGX 和 Spark:IT 总监的成本分析》(于 2026 年 9 月 8 日合并至本页面)。官方价格于 2026 年 2 月 27 日从 3,999 美元涨至 4,699 美元(+17.5%),NVIDIA 称 LPDDR5X 供应紧张;在法国,第三方卖家价格仍明显更高(见上方价格区块)。
- 盈亏平衡点 :只要云端推理费用持续超过每月约 300–500 欧元,从 12–18 个月的时间跨度来看,购买设备就具有经济合理性——这还没有计入数据主权的价值(受 GDPR 约束的数据、医疗数据或法律数据始终不离开所在建筑)。这是一笔一次性资本支出(CAPEX),在 3–4 年内摊销,而云端费用则需要持续支付。
- 128 GB 实际能做到什么 :70B 模型采用 Q4_K_M 量化后占用约 40 GB,120B 模型经过高度量化后占用约 70–80 GB;仍有余量留给上下文和 KV 缓存,而 24 GB 显存的显卡大致只能支持到 32B。
- CES 2026软件性能提升 :在同一台机器上,通过 TensorRT-LLM 和推测解码,性能最高可达到原来的 2.5 倍——对于可预测的输出(代码、JSON、结构化文本),提升最大;对于创意文本,提升则较小。
- 两台设备串联 (ConnectX):总计256 GB,Qwen 3.5-122B,约40 tokens/s;预算约9400美元不含税。链式推理可提升性能 内存 可访问,但不一定等同于单机上已部署模型的吞吐量。
- 选择标准 : CUDA + 集群 → DGX Spark;预算紧张 → Ryzen AI Max+ 395 小型 PC (128 GB,ROCm 生态成熟度较低);带宽与通用性 → Mac Studio (> 800 GB/s,MLX/Metal)。
对于希望将集成工作委托给他人、而非自行组装此类机器的企业,IAPRO 提供 面向中小企业的硬件 + AI 一站式交付套餐 :服务器选择、模型部署和团队培训。
结论
常见问题
NVIDIA DGX Spark 是否可以在本地运行 70B 参数的 LLM?
自 CES 2026 软件更新以来,NVIDIA 宣称它最高可运行 200B 模型;实际使用中,运行 Q4 量化的约 70B 模型较为轻松,但速度受带宽(273 GB/s)限制。两台设备互联可运行 Qwen 3.5-122B,速度约为 40 t/s。
NVIDIA DGX Spark 的价格是多少?
在 Materiel.net 上预计约需 6,100 欧元(2026 年 9 月 28 日,DGX Spark PNY 售价为 6,099.95 欧元,交货期超过 15 天;采用相同 GB10 芯片、配备 128 GB 内存的 MSI EdgeXpert 售价为 6,599.95 欧元,7 天内交货)(官方价格为 4,699 美元,于 2026 年 2 月 27 日从 3,999 美元上调)。价格变化很快——请通过购买链接核实当日价格。
NVIDIA DGX Spark 适合谁?
深度依赖 CUDA 的开发者、本地微调、内部部署/物理隔离网络环境。
在法国哪里可以购买 DGX Spark?
Materiel.net 有记录:2026 年 9 月 28 日,PNY DGX Spark 在该网站售价为 6 099,95 欧元,交货期超过 15 天。在其他地方,它主要通过第三方卖家销售,价格更高且波动较大。严肃的替代方案:合作伙伴的 GB10 机器(Asus Ascent GX10、Dell、HP、Lenovo 等),相同的芯片和内存,通常分销渠道更好——完整列表在 我们的DGX Spark指南.
本地AI该选DGX Spark还是RTX 5090?
两种设计思路:RTX 5090 提供 32 GB GDDR7,带宽约为 1.8 TB/s——任何能装入这 32 GB 显存的模型,在这张卡上都会运行得快得多。DGX Spark 提供 4 倍的容量(128 GB),但带宽为 273 GB/s:它能容纳 RTX 5090 无法加载的模型,只是提供推理服务的速度较慢。如果您的目标模型小于 32 GB,请选择 GPU;参见 如何为本地AI选择GPU.
是否应等待‘RTX Spark’电脑,而不是购买DGX Spark?
RTX Spark(采用 GB10 衍生芯片,统一内存最高达 128 GB)已确认将于 2026 年秋季由 Asus、Dell、HP、Lenovo、MSI 和 Microsoft 推出——已公布八款机型,其中包括笔记本电脑。但截至 2026 年 8 月 31 日,尚未公布任何价格,也未开放预购。如果您急需设备且需要 CUDA,DGX Spark 仍是唯一可交付的选项;否则,等到秋季,可选产品将明显增多。