先说观点：“本地跑 DeepSeek”是个伪命题——DeepSeek 不是一个模型，而是一个家族。满血版和蒸馏版之间，硬件需求相差一百倍。不先想清楚要跑哪个，一切配置建议都是空谈。

一、先认清“满血版”的真实体量

很多人以为像装个软件一样就能把 DeepSeek 跑在自家电脑上。看看数据就清醒了：

  • DeepSeek-V3 / R1 满血版是 671B 参数的 MoE 架构，每次推理只激活约 37B 参数，但所有权重都要常驻显存；
  • 权重按 FP8 量化存储约需 671GB，BF16 精度直接翻倍到 1.3TB 以上，这还没算 KV Cache 与激活显存；
  • 单张 80GB 的 H100 连权重都装不下——满血本地部署是集群级工程，行业通行做法是 8~16 张 H100/H200 或国产加速卡组成推理集群。

参考体量感：DeepSeek 论文披露 V3 用 2048 张 H800 训练，单次训练成本约 557.6 万美元。个人电脑和它之间，隔着整个数据中心。

二、普通人该看的：蒸馏版 + 一条显存公式

R1-Distill 系列（1.5B / 7B / 14B / 32B / 70B）才是“本地部署”的主战场。先记住一条显存估算公式：

所需显存 ≈ 参数量 × 精度字节数：FP16 约 2 字节每参数，INT8 约 1 字节，INT4 约 0.5 字节；再留出 2~4GB 给上下文。

按这个公式对照显卡：

  • 1.5B：纯 CPU 都能跑，4GB 集显已很宽裕；
  • 7B：最低 8GB（INT4），12GB 可上 INT8/FP16；
  • 14B：16GB（INT4）起步，24GB 才舒服；
  • 32B：INT4 约 20GB，24GB 显卡是甜点位；
  • 70B 蒸馏版：INT4 约 40GB，需要双卡 48GB 或 Mac 128GB 统一内存。

三、被低估的第三维：显存带宽

显存决定能不能跑，带宽决定跑得快不快。MoE 模型每生成一个 token 都要把全部权重读一遍，速度 ≈ 权重体积 ÷ 显存带宽。以 RTX 4090（约 1TB/s 带宽）跑 32B INT4（约 16GB 权重）为例：理论上限约 60 token/s，扣除量化与调度开销后实测 20~40 token/s，日常对话完全够用。

这也是为什么 Apple 统一内存成了捷径：M 系列芯片内存带宽高（M2 Ultra 约 800GB/s），显存即内存，Mac Studio 128GB/192GB 跑 70B 量化是社区反复验证过的成熟玩法，安静且不用折腾多卡。

四、三个真实场景案例

案例 A｜个人创作者，RTX 4090（24GB）：跑 R1-Distill-32B INT4，约 25 token/s，用于本地写作助手、代码补全与隐私文档处理。整机约 300W，每天跑 8 小时电费也就几块钱——私密内容永远不出本机，这是云端 API 给不了的。

案例 B｜三人小团队，2× RTX 4090 / 3090：凑出 48GB 显存跑 70B 蒸馏版 INT4（约 40GB），约 15~20 token/s，适合把内部 SOP 与代码库做成私有 RAG。二手 3090 性价比极高，是预算敏感团队的常见起手式。

案例 C｜硬核玩家，Mac Studio（M3 Ultra / 192GB）：统一内存直接跑 R1-Distill-70B 甚至更高精度，长上下文文档分析无压力、零噪音；代价是整机价格不菲，适合不想折腾多卡的人。

案例 D｜企业级满血部署：8× H100/H200 起步的推理集群加 vLLM/SGLang 调度，支撑多并发生产调用。到这个量级，先算清“租赁 vs 自建”的账往往更理性。

五、避坑三条

  • 别为“跑满血”买电脑——先用蒸馏版把流程跑通，真有吞吐需求再上云；
  • 显存买大不买小，量化省下的空间迟早被更长的上下文吃掉；
  • 先定任务再定硬件：写代码选 32B 档，日常闲聊 7B 足够，别为演示需求付三倍钱。

一句话总结：家用选蒸馏版，32B 是甜点；显存按公式买，带宽决定体验；满血版是数据中心的事，不是电脑桌的事。

延伸阅读

如果你也想从零把想法做成网站，可以看看本站的《从 ChatGPT 到上线：7步 Vibe Coding 建站全流程》；对独立小站为何值得回归感兴趣，欢迎逛逛Cool Site Revival 专题。