—— 铭凡 · NVIDIA DGX Spark · Mac Studio Ultra 横向评测
2026 年了,想在自己桌上跑大模型的人,基本会在这三台机器前停下来:NVIDIA DGX Spark、Apple Mac Studio(Ultra 版),以及以铭凡为代表的国产 x86 迷你工作站。绝大多数的开箱文,第一张表都是 TOPS。这是这个行业最成功的一次营销事故——
你买这些机器,99% 的时间在解码(decode),而解码只吃内存带宽。TOPS 决定的是预填充(prefill):你按下回车到第一个字蹦出来的那几秒。
你在三四万块钱上做的决策,被一张只影响几秒延迟的表格给决定了。所以我们换个骨架,只按真正决定体验的三件事来拆:带宽、容量、以及你要交多少“运维税”。
一、先把数据摆上桌
| 项目 | 铭凡(x86 迷你工作站 / Strix Halo 平台) | NVIDIA DGX Spark | Mac Studio(M3 Ultra) |
|---|---|---|---|
| 核心 | Ryzen AI Max+ 395(Zen5 + RDNA3.5) | GB10 Grace Blackwell 超级芯片 | M3 Ultra(32 核 CPU) |
| 统一内存 | 最高 128GB LPDDR5X(板载) | 128GB LPDDR5X | 最高 512GB |
| 内存带宽 | 约 256 GB/s | 273 GB/s | 819 GB/s |
| AI 算力标称 | NPU ~50 TOPS,整机 ~126 TOPS | 1 PFLOP(FP4 稀疏,理论峰值) | 无统一标称,GPU 无 tensor core |
| 存储 | 2–4TB NVMe,可换 | 4TB NVMe | 最高 16TB |
| 高速互联 | 双 10GbE(MS-01/MS-A2 路线) | 2× ConnectX-7,200GbE,可双机并联 | 6× Thunderbolt 5 |
| 整机功耗 | 约 120–140W | 170W | 约 270W(峰值更高) |
| 价格锚点 | 约 ¥9,999–13,999(128GB 版) | $3,999 起(约 ¥29,000) | $3,999 起;512GB 顶配约 $9,499+(约 ¥68,000) |
| 单机模型上限(4bit 量化,含 KV 缓存余量) | ~70–120B | ~200B | ~400B+ |
四个数字,三台机器的胜负就已经分完了。
二、DGX Spark:NVIDIA 卖的不是算力,是“不用你负责”
$3,999,买到 128GB 统一内存、273GB/s 带宽、200GbE 双机互联,以及一个完整的 CUDA + DGX OS 软件栈。
先说那个“1 PFLOP”。它是 FP4 精度 + 稀疏化 + 理想张量形状下的理论峰值,是营销部门最爱的那个数字。落到现实:单机跑 70B 级别的 4bit 量化模型,解码速度大概率落在 20–45 tok/s 这个区间——而一台价格只有它三分之一的 Strix Halo 机器,带宽 256GB/s,实际体感差距远比价差小。
那它凭什么贵三倍?三个字:不背锅。企业买它,买的是“出问题有人接电话”和“两天之内跑通交付”;个人买它,买的是一台昂贵的信仰充值机。除非你要用 200GbE 把两台并联去啃 405B 模型——在这个场景里,它确实是目前最便宜的官方方案,没有之一。
一句话:DGX Spark 是你能买到的最便宜的“不用成为系统管理员”的方案,也是最贵的推理机。
三、Mac Studio Ultra:带宽之王,生态孤儿
819 GB/s。是 DGX Spark 的三倍。这意味着同样一个 70B 4bit 模型,Mac 的解码速度理论上能拉到后者的三倍上下。而 512GB 的统一内存,能塞进 400B 级别的量化模型——这个容量,另外两台单机连门都摸不到。
Apple 的算盘打得很精:把 2023 年架构的 M3 Ultra 端上 2025 年的旗舰桌,因为 Ultra 级芯片的迭代成本已经很难摊平;但“大内存 + 高带宽”这两样,在 AI 推理时代反而成了硬通货。它没有 tensor core,跑训练是废的,跑推理却恰好吃到红利。
代价是软件栈。MLX 追得很快,社区适配速度惊人,但 CUDA 的护城河依然真实——同一个模型,第一次跑通的时间可能是“今天”和“两周后”的区别;要微调、要用冷门算子,你会反复撞上“这玩意儿只有 CUDA 版本”。
如果你更想先算清自己在本地跑模型到底需要多少显存、配什么卡,可以先看这篇:本地部署 DeepSeek 需要什么硬件?显存公式与配置案例。
一句话:Mac Studio 是这三台里唯一装得下“大模型”的机器,也是唯一会让你怀疑自己买错生态的机器。
四、铭凡:最便宜的入场券,和你自己承担的全部风险
以 MS-01、MS-A2 这类机型建立起的迷你工作站路线,叠加上 AMD 的 Strix Halo 平台(Ryzen AI Max+ 395、256-bit LPDDR5X、128GB、约 256GB/s、Radeon 8060S、XDNA2 NPU 约 50 TOPS),把“本地 AI 主机”的门槛一路砍到 DGX Spark 的三分之一到一半。
它卖什么?自由度和性价比。x86 指令集、PCIe 通道、双 10GbE、可换的 NVMe,可以当虚拟化宿主机、可以插网卡、可以 Win/Linux 双系统轮着跑。它不是“AI appliance”,它是一台通用计算机——这既是优点也是缺点。
代价同样清晰:兼容性是你的事,散热是你的事,BIOS 更新和内存兼容列表也是你的事。 而且 128GB 的 LPDDR5X 是板载的——这其实不是铭凡的问题,是三台机器的共同诅咒:内存焊死,三年后只能换整机,一步到位买满内存是唯一理性的选择。
一句话:铭凡把本地 AI 的门票砍到四分之一,但门票不含保险。
五、三个不客气的结论
- 带宽 > 算力。 本地推理的第一性原理是“每秒能把多少权重从内存搬进 GPU”,TOPS 只负责那段你几乎感知不到的等待。
- 容量决定你能聊什么,带宽决定你聊得多快。 80B 是甜点区,200B 是分水岭,400B 以上只剩 Mac 512GB 单机陪跑。
- 真正的成本不在硬件,在你的时间。 三台机器的“运维税”差十倍以上,这才是价差最合理的解释——你付的钱,本质是在买谁来消化复杂度。
六、谁该买谁(直球版)
- 公司/团队,要交付、要 SLA、要跑 405B:DGX Spark,双机并联。贵,但省心是刚需。
- 个人研究、内容创作,要最大模型、能接受生态妥协:Mac Studio Ultra,内存能不 256GB 起就别起步。
- 预算敏感、爱折腾,主跑 70B 以下量化模型,还要一台多功能小主机:铭凡这条路线,性价比无人能敌。
最后一句:这三台机器,没有一台是“AI 电脑”。它们都是“带统一内存的电脑”。剩下那部分,是你自己写上去的。
想继续看本地 AI、硬件与个人建站相关的文章,欢迎回ebrao 博客逛一圈。

这篇文章让我重新审视了本地部署大模型的硬件选择逻辑。过去我也习惯性地盯着TOPS看,觉得数字越大越强,但文章点破了一个事实:日常对话体验的关键其实在解码阶段,而解码吃的是内存带宽,不是算力峰值。这就像买车只看马力,却忽略了变速箱和轮胎对实际驾驶感受的影响。
文章揭示了一个被忽视的真相:TOPS只是决定首字延迟,解码瓶颈在内存带宽。这个视角很务实,提醒购机别被参数表带偏。
文章开头点破的“TOPS营销”确实让人恍然——我们习惯用跑分衡量硬件,却忽略了真实推理时解码阶段才是耗时主体,而它取决于内存带宽。这就像选相机只看像素,却不管传感器和镜头。