—— 铭凡 · NVIDIA DGX Spark · Mac Studio Ultra 横向评测

2026 年了,想在自己桌上跑大模型的人,基本会在这三台机器前停下来:NVIDIA DGX Spark、Apple Mac Studio(Ultra 版),以及以铭凡为代表的国产 x86 迷你工作站。绝大多数的开箱文,第一张表都是 TOPS。这是这个行业最成功的一次营销事故——

你买这些机器,99% 的时间在解码(decode),而解码只吃内存带宽。TOPS 决定的是预填充(prefill):你按下回车到第一个字蹦出来的那几秒。

你在三四万块钱上做的决策,被一张只影响几秒延迟的表格给决定了。所以我们换个骨架,只按真正决定体验的三件事来拆:带宽、容量、以及你要交多少“运维税”。

一、先把数据摆上桌

项目 铭凡(x86 迷你工作站 / Strix Halo 平台) NVIDIA DGX Spark Mac Studio(M3 Ultra)
核心 Ryzen AI Max+ 395(Zen5 + RDNA3.5) GB10 Grace Blackwell 超级芯片 M3 Ultra(32 核 CPU)
统一内存 最高 128GB LPDDR5X(板载) 128GB LPDDR5X 最高 512GB
内存带宽 约 256 GB/s 273 GB/s 819 GB/s
AI 算力标称 NPU ~50 TOPS,整机 ~126 TOPS 1 PFLOP(FP4 稀疏,理论峰值) 无统一标称,GPU 无 tensor core
存储 2–4TB NVMe,可换 4TB NVMe 最高 16TB
高速互联 双 10GbE(MS-01/MS-A2 路线) 2× ConnectX-7,200GbE,可双机并联 6× Thunderbolt 5
整机功耗 约 120–140W 170W 约 270W(峰值更高)
价格锚点 约 ¥9,999–13,999(128GB 版) $3,999 起(约 ¥29,000) $3,999 起;512GB 顶配约 $9,499+(约 ¥68,000)
单机模型上限(4bit 量化,含 KV 缓存余量) ~70–120B ~200B ~400B+

四个数字,三台机器的胜负就已经分完了。

二、DGX Spark:NVIDIA 卖的不是算力,是“不用你负责”

$3,999,买到 128GB 统一内存、273GB/s 带宽、200GbE 双机互联,以及一个完整的 CUDA + DGX OS 软件栈。

先说那个“1 PFLOP”。它是 FP4 精度 + 稀疏化 + 理想张量形状下的理论峰值,是营销部门最爱的那个数字。落到现实:单机跑 70B 级别的 4bit 量化模型,解码速度大概率落在 20–45 tok/s 这个区间——而一台价格只有它三分之一的 Strix Halo 机器,带宽 256GB/s,实际体感差距远比价差小。

那它凭什么贵三倍?三个字:不背锅。企业买它,买的是“出问题有人接电话”和“两天之内跑通交付”;个人买它,买的是一台昂贵的信仰充值机。除非你要用 200GbE 把两台并联去啃 405B 模型——在这个场景里,它确实是目前最便宜的官方方案,没有之一。

一句话:DGX Spark 是你能买到的最便宜的“不用成为系统管理员”的方案,也是最贵的推理机。

三、Mac Studio Ultra:带宽之王,生态孤儿

819 GB/s。是 DGX Spark 的三倍。这意味着同样一个 70B 4bit 模型,Mac 的解码速度理论上能拉到后者的三倍上下。而 512GB 的统一内存,能塞进 400B 级别的量化模型——这个容量,另外两台单机连门都摸不到。

Apple 的算盘打得很精:把 2023 年架构的 M3 Ultra 端上 2025 年的旗舰桌,因为 Ultra 级芯片的迭代成本已经很难摊平;但“大内存 + 高带宽”这两样,在 AI 推理时代反而成了硬通货。它没有 tensor core,跑训练是废的,跑推理却恰好吃到红利。

代价是软件栈。MLX 追得很快,社区适配速度惊人,但 CUDA 的护城河依然真实——同一个模型,第一次跑通的时间可能是“今天”和“两周后”的区别;要微调、要用冷门算子,你会反复撞上“这玩意儿只有 CUDA 版本”。

如果你更想先算清自己在本地跑模型到底需要多少显存、配什么卡,可以先看这篇:本地部署 DeepSeek 需要什么硬件?显存公式与配置案例。

一句话:Mac Studio 是这三台里唯一装得下“大模型”的机器,也是唯一会让你怀疑自己买错生态的机器。

四、铭凡:最便宜的入场券,和你自己承担的全部风险

以 MS-01、MS-A2 这类机型建立起的迷你工作站路线,叠加上 AMD 的 Strix Halo 平台(Ryzen AI Max+ 395、256-bit LPDDR5X、128GB、约 256GB/s、Radeon 8060S、XDNA2 NPU 约 50 TOPS),把“本地 AI 主机”的门槛一路砍到 DGX Spark 的三分之一到一半。

它卖什么?自由度和性价比。x86 指令集、PCIe 通道、双 10GbE、可换的 NVMe,可以当虚拟化宿主机、可以插网卡、可以 Win/Linux 双系统轮着跑。它不是“AI appliance”,它是一台通用计算机——这既是优点也是缺点。

代价同样清晰:兼容性是你的事,散热是你的事,BIOS 更新和内存兼容列表也是你的事。 而且 128GB 的 LPDDR5X 是板载的——这其实不是铭凡的问题,是三台机器的共同诅咒:内存焊死,三年后只能换整机,一步到位买满内存是唯一理性的选择。

一句话:铭凡把本地 AI 的门票砍到四分之一,但门票不含保险。

五、三个不客气的结论

  1. 带宽 > 算力。 本地推理的第一性原理是“每秒能把多少权重从内存搬进 GPU”,TOPS 只负责那段你几乎感知不到的等待。
  2. 容量决定你能聊什么,带宽决定你聊得多快。 80B 是甜点区,200B 是分水岭,400B 以上只剩 Mac 512GB 单机陪跑。
  3. 真正的成本不在硬件,在你的时间。 三台机器的“运维税”差十倍以上,这才是价差最合理的解释——你付的钱,本质是在买谁来消化复杂度。

六、谁该买谁(直球版)

  • 公司/团队,要交付、要 SLA、要跑 405B:DGX Spark,双机并联。贵,但省心是刚需。
  • 个人研究、内容创作,要最大模型、能接受生态妥协:Mac Studio Ultra,内存能不 256GB 起就别起步。
  • 预算敏感、爱折腾,主跑 70B 以下量化模型,还要一台多功能小主机:铭凡这条路线,性价比无人能敌。

最后一句:这三台机器,没有一台是“AI 电脑”。它们都是“带统一内存的电脑”。剩下那部分,是你自己写上去的。

想继续看本地 AI、硬件与个人建站相关的文章,欢迎回ebrao 博客逛一圈。