一张表看懂本地跑 DeepSeek V4.1 Flash：12GB 卡 5 tok/s，四卡 48 tok/s

一、先看清模型被拆成了几块

DeepSeek V4.1 Flash 是 40 层、每层 384 个专家、每写一个词激活 6 个的 MoE，另外还挂着一张巨大的 n-gram（Engram）查找表。Strata 的做法不是把它整块塞进显存，而是按访问频率分开放——这也决定了后面所有速度数字。

组成 / 体积	放哪里	速度上的后果
路由专家 138 GB15,360 个，40 层 × 384	显存优先剩下的 CPU 就地算	显存越大 CPU 那段越短这一段是主要瓶颈
dense 权重 16.8 GBattention 等	必须全进显存	单卡要 16 GB 装不下启动就报 OOM
Engram 表 111 GBn-gram 查表，三档共用一份	常驻 SSD 每个词随机读几行	盘慢，每个字都慢必须 NVMe
DSpark 草稿器 8 GBQ8_0 小模型	显存或内存引擎自动分配	四卡机把 31 拉到 55–69六核 CPU 上增益不明显

三档量化都是官方 2-bit 集，磁盘占用分别是 1.75bpw 239 GB、2.00bpw 257 GB、2.25bpw 274 GB（已含那份 111 GB 的 Engram 和 8 GB 草稿器；三档全下 533 GB）。原版 Unsloth UD-Q8_K_XL 是 508.4 GB，那是「几张卡 + 几百 GB 内存」的机器才谈的东西。

二、官方实测：速度跟着「专家在哪」走

下面这张表是 Strata 0.2.5 上 2.00bpw 的公布结果，「输出」是回答速度。同一套权重，从 12 GB 卡到四张 32 GB 卡，差了将近十倍。

硬件	输出速度 tok/s	提示词速度 tok/s
RTX 5070 12 GB 64 GB 内存	4–6	约 1104K 提示
RTX 3060 12 GB 46 GB 内存	9–11	约 1554K 提示
1× Radeon AI PRO R9700 32 GB 251 GB 内存	21–25	320–3608K 提示
4× Radeon AI PRO R9700 32 GB 128 GB 显存 251 GB 内存	482.25bpw 档 80	400–4508K 提示

两点值得注意。第一，单卡 R9700 只有 21–25 tok/s——它已经是 32 GB 显存、251 GB 内存的机器，仍然到不了 40，因为四卡那台的 172 GB 专家是驻在内存里的，单卡得再把更多专家推给 CPU。第二，那 251 GB 内存不是随手写的：官方记录里四卡机把 6,197 个专家（116.5 GB）放进显存、9,163 个（172.3 GB）留在内存。内存不够就得读盘，速度会掉到「能跑，但慢」那一档，官方对 40 GB 内存以下的机器直接写「未测且慢」。

三、40 tok/s 那条线要什么机器

部件	要求	参考价
4× Radeon AI PRO R9700 32 GB Linux，官方唯一支持的 AMD 卡	128 GB 显存官方 48 tok/s 就是这台	≥ ¥44,000 ¥11,000–13,000/张，2026-09 京东实价
内存 256 GB DDR5	CPU 侧 172 GB 专家要驻内存 128 GB 会掉档	约 ¥16,000 8×32 GB，约 ¥2,000/条
电源 1,600 W 以上	四张卡走 12VHPWR	¥1,500 起估算
NVMe 空闲 257 GB	2.00bpw 一套 2.25bpw 要 274 GB	Engram 每词随机读盘不能省

粗算下来，硬件至少 ¥6.1 万（四张卡 ¥4.4 万起 + 内存 ¥1.6 万 + 电源），按 ¥7 万 做预算比较稳。如果只是想在本地跑起来、不追 40 tok/s，一张 12 GB 卡加 46 GB 内存也能出字——代价是 9–11 tok/s，读一段长提示要等很久。

四、和 API 算一笔账

同一家的 deepseek-flash（就是 V4.1-Flash-1017）现在按峰谷定价：高峰时段输出 ¥8/百万 token、输入缓存命中 ¥0.04、未命中 ¥2；闲时价格是高峰的一半。按我们自己的 agent 用量加权，实际单价约 ¥0.07/百万 token（输入大量命中缓存、输出占比小）。¥7 万的机器约等于 1 万亿 token（10,000 亿）；就算全按输出价 ¥8/百万计，也有 87.5 亿 token。日常写代码、跑 agent 的用量，这个额度够用很久，而且不用管驱动、显存、SSD 和散热。

本地部署真正值钱的地方不在速度，在数据不出内网。如果材料本来就能上公网，API 是更划算的选择；要处理的是不能出域的卷宗、工单、图纸，那才轮到算这张七万元的采购单。

五、三个容易被忽略的细节

默认上下文只有 8,192：1M 是模型能力，不是默认配置。要长文档得自己加 --context，而上下文越长，显存和内存占用越高。
「Faster 模式」在四卡机上不划算：它只用 6 个专家里的 5 个换速度，显存 ≤16 GB 的机器会自动打开；四卡这种配置应该跑满 6 个专家，用速度换那点质量不值得。
2.00bpw 是「能干活」的底线，不是最优：官方口径是困惑度比原版高 16%（代码 +8.5%、agent 任务 +5.9%）；2.25bpw 降到 +7.7~8.3%（代码 +3.5%、agent +2.5%），只多 17 GB 磁盘。写代码和跑 agent 的机器，直接上 2.25bpw。

机悟的读法

这个模型考的是内存和盘，不是算力。

先算内存再看显卡：172 GB 专家驻内存，是四卡机 48 tok/s 的前提。
24 GB 卡不要等 40 tok/s：单卡 R9700 32 GB 也只有 21–25 tok/s。
本地与 API 混着用：敏感材料本地跑，日常 agent 走 API。
要私有化，先把 NVMe 备到 300 GB 以上空闲——Engram 每个词都在读它。

数据来源：Strata 官方仓库 v0.2.6 说明与文档（README.zh-CN.md、docs/DEEPSEEK41.md、docs/MODELS.md，2026-10）；DeepSeek-V4.1-Flash-1017 模型卡（552B、40 层 × 384 专家、取 6、1M 上下文、MIT）；速度数字均为 Strata 官方公布的实测（0.2.5，2.00bpw 档，另有 2.25bpw 四卡 80 tok/s），非本站测量；价格为 2026-09 京东实价报道（显卡首发 ¥10,999、现价 ¥12,000–13,000），内存按 32 GB 约 ¥2,000 估算，电源为估价。本文仅转述公开报道，不评判任何企业与产品，不构成投资建议。