说好的64G就能跑呢？DeepSeek V4.1 Flash本地部署，最小1比特版仍要122.4G内存

DeepSeek V4.1 Flash又有新的本地量化方案了。

Unsloth最近公布了DeepSeek V4.1 Flash-1017的新一版量化配置，宣传说明中提到，128GB以上内存可以运行，64GB机器也能尝试，只是速度会更慢。

但如果继续往下看它自己的硬件需求表，就会发现事情没那么简单：即使选择最激进的1比特量化版本，仍然至少需要122.4GB内存和显存，才能容纳必须驻留的模型权重。

所谓64GB也能跑，并不意味着64GB内存就能完整装下模型。它背后依赖的是把一部分数据放到SSD上，再按需读取。

01 模型到底有多大？

这次讨论的模型是DeepSeek V4.1 Flash-1017，也就是V4.1 Flash的更新版本，支持最高100万Token上下文。

根据Unsloth公布的模型结构信息，它的主干部分有5520亿参数，另外还有一张约1960亿参数的Engram查找表。

这张查找表主要存储多词组合信息，最多涉及四个词组成的组合。模型生成内容时，并不需要把整张表都加载进显存或系统内存，而是根据需要读取其中相关的数据。

这正是Unsloth能够降低硬件门槛的关键。

它允许将Engram查找表放在SSD上，不必全部常驻内存或显存。需要使用时，再通过系统缓存等机制读取相关数据。

因此，模型文件有多大、必须常驻内存的数据有多少，以及实际运行需要多少内存，是三个不同的概念。

02 最小1比特版本，也不是64GB就能装下

Unsloth给出的配置表，按照系统内存和显卡显存合计计算；对于Mac等统一内存设备，则直接按照统一内存容量计算。

前提是Engram查找表放在SSD上。

其中，最值得关注的是最小的UD-IQ1_S版本。

它的模型文件总量约233GB，其中：

Engram查找表：约110.6GB

其他必须加载的权重：约122.4GB

也就是说，即使把110.6GB的查找表放到SSD上，剩下的122.4GB权重仍然需要由内存和显存承担。

这就是为什么配置表给出的1比特版本最低需求仍然是128GB级别，而不是64GB。

Unsloth提到的64GB运行方式，不能与完整满足最低内存配置画等号。实际能否运行，还会受到软件实现、内存调度、缓存策略、上下文长度以及系统可用内存等因素影响。

03 想本地运行，光内存就要花上万元

如果按照普通台式机的方式来计算，这个硬件门槛就更加直观了。

按照稿件所采用的国内二手DDR5-6000内存参考价，64GB约5400元。

那么：

64GB：约5400元

128GB：约10800元

还需要额外准备至少233GB的模型存储空间

也就是说，光是把内存容量凑到128GB，参考成本就已经超过1万元。

这里还没有计算处理器、主板、显卡、SSD以及其他平台成本。并且，128GB只是配置表对应的容量级别，并不代表任何一套128GB电脑都能获得理想的推理速度。

Unsloth举出的128GB级别设备包括MacBook、DGX Spark和RTX Spark等；对于3比特版本，它给出的需求已经达到256GB，举例设备则包括Mac Studio。

04 量化方案的卖点，不只是压缩模型

虽然硬件门槛依然不低，但Unsloth这次的重点并不只是把模型压得更小。

按照其公布的测试结果，新量化方案在AIME25、GPQA Diamond和LiveCodeBench等测试中，部分配置取得了比上一版及其他量化方案更好的成绩。

Unsloth还表示，配合其桌面程序和llama.cpp，推理速度在部分场景下可以比其他方案快约3倍。

不过，这些属于项目方公布的测试结果，实际速度还会受到硬件、量化版本、上下文长度和推理参数影响，不能直接理解为所有电脑都能获得3倍提升。

另外，Unsloth也提醒，量化位数越低，并不意味着运行成本就一定越低。部分低比特版本可能需要更长的思考过程，也需要为推理预留更多预算。

结尾：64GB能跑，和64GB够用是两回事

这次Unsloth的方案确实通过SSD存放Engram查找表，降低了模型必须常驻内存的数据量，但并没有把DeepSeek V4.1 Flash变成一款64GB内存就能轻松运行的模型。

最小1比特版本仍有122.4GB的必需权重需要放进内存或显存，配置表给出的最低需求也是128GB级别。

对于想在家里部署大模型的玩家来说，真正的问题可能已经不是能不能下载模型，而是电脑能不能装得下、跑得动，以及运行速度是否值得这笔硬件投入。

64GB能尝试运行，128GB才是配置表给出的最低容量级别。这两句话，可不是一个意思。