大模型写代码的账单,正在撕裂成两个完全脱节的世界。

一边是前沿闭源模型的拥趸,为了绕开限流和高昂计费,不得不给多个顶配账号搭轮询负载。另一边,有人连续跑了一整天自动化生成脚本,结算时发现 DeepSeek-V4.1-Flash 的调用费甚至没凑够 1 美元。很多开发者据此得出结论,认为前沿高价模型的壁垒已经被彻底冲垮。

这种狂欢只看清了前半截。低价不是天上掉下来的馅饼,它背后是一套极度激进的工程代偿,以及一张写得明明白白的取舍账单。

DeepSeek-V4.1-Flash 三级动态压缩链路 第一级:CED结构解耦 • 40层前后对半拆解 • Prefill激活仅 8B • Decode激活 16B 输入计算开销直接减半 第二级:CSA2跨层复用 • 仅第2/8/14/20层建KV • 128-token滑动窗口 • Top-512 候选块稀疏 消除层间重复缓存冗余 第三级:FP4精度量化 • 主KV采用 E2M1 FP4 • 16通道配 E4M3 scale • 最终落地 890 B/Token 运行时显存缩至四分之一

890字节的三级压缩,到底是靠什么挤出来的

2026年9月10日,DeepSeek在技术报告中公布了这套面向海量并发优化的架构。在参数规模高达763B(552B基础骨干搭配196B记忆模块)的前提下,模型把全局键值缓存直接压缩到了每Token 890字节。对比最早期的V1版本缩减了437倍,即使对比上一代V4-Flash,体积也砍掉了四分之三。

这套工程没有依赖单纯的数据截断,而是通过三道关卡把长上下文的显存驻留彻底打薄:

  • 骨干结构对半拆分.40层网络切分为前20层编码与后20层解码,Prefill阶段只激活8B参数,到了Decode阶段才展开16B参数,输入处理算力开销直接折半。
  • 跨层稀疏复用.放弃每层保存键值的做法,仅在特定的第2、8、14、20层生成全局状态,配合128个Token的滑动窗口与Top-512候选块做跨层共享。
  • 极低精度量化.主缓存采用E2M1格式的FP4存储,每16个通道分配一个缩放系数,直接把动态体积压进极限区间。

将缓存做薄的直接结果体现在调用资费上。官方闲时缓存命中输入价压到了0.003美元每百万Token,峰值输出价也只有1.20美元。即便在OpenCode Go这套每月26万次请求的包月方案下,跑常规自动化脚本也很难把额度打满。模型用计算代偿了存储,成功把单并发的资源占用挪到了云端流水线里。


420字流速与基准测试的断层

普通开发者在日常修补代码、重构短函数或写冒烟测试时,几乎察觉不到它与顶级商业闭源模型的差距。由于没有过度的安全防护拦截,它的体感响应甚至显得更快更直接。但这种廉价替代的错觉,会在任务复杂度越过临界点后迅速崩解。

社群最初流传的420 Tokens/s流速,事后被证实只是高并发聚合吞吐,单会话实际解码流速在121到134 Tokens/s之间。更关键的分水岭藏在长程自主测试中。

在自主环境编码评测Terminal-Bench 4.0上,DeepSeek-V4.1-Flash Max仅录得26.8%的得分,而Claude Opus 5.5 Max拿下了59.6%。即使换成后者的最低档配置,得分依然有31.3%。综合智力指数对比同样是39对58的客观断层。

对比维度DeepSeek-V4.1-FlashDeepSeek-V4 Pro业务影响
峰值未命中输入单价0.30美元/百万Token1.32美元/百万TokenFlash调用成本直降77%
峰值输出单价1.20美元/百万Token3.96美元/百万Token复杂生成任务显著摊薄
官方支持最大并发2500并发500并发承接高并发批量Agent流
任务优势区间工具调用、代码编写与多轮对话GPQA Diamond、HLE高难推理严谨逻辑任务仍需Pro兜底

当调用上下文推进到125K到400K区间,过度压缩缓存的代价开始显现。轻量模型更容易出现指令漂移与逻辑倒退,外部记忆写入量达到161 KB,远高于老版本的13 KB。日常搬砖靠体感,极端断点见真章。它能把流水线上的格式化代码写得飞快,但一旦脱离人工干预进入复杂决策链,静默错误的扩散速度同样惊人。

高并发B端模型:显存占用与容量错位 100万Token全局缓存 < 1 GB 动态上下文不再占用HBM 最小部署显存预算 614 GB 8张80G加速卡为起步线 API峰值并发上限 2500 专供企业流水线吞吐

614GB显存门槛与分工的终局

很多人看到890字节便误以为它能装进消费级硬件,但现实是冷酷的算力账本。

缓存变薄没有减轻模型本身的自重。510GB的权重文件摆在那里,想要在vLLM框架下把4路残差混合与投机解码完整跑通,最小显存预算依然高达614GB,8张80G卡只是入场门票。企业若选择在私有云自建节点,租用4张H200的单月开销在13200美元上下。对绝大多数中小团队而言,自建部署不仅毫无性价比,而且上游框架针对跨层复用的调度补丁频繁动荡,稍有不慎就会引发索引覆写失效。

外部生态同样在施加约束。Anthropic先后在报告中指控存在数千万次规模的自动化抓取与蒸馏流水线,这种合规摩擦让大型跨国机构在采用低价替代方案时始终保持审慎。

荀子说物各从其类。前沿实验室没有因为低价模型集体恐慌,技术扩散的路径也从来不是单向通吃。昂贵的旗舰模型守着推理上限与全局规划,而极度压缩的Flash架构则在云端承担机械堆砌的苦差事。

最合理的工程解法,从来不是非此即彼的平替,而是分层采购:让每天成本不到1美元的闪电模型去冲锋试错、跑单元测试和清洗管道,最后把决定成败的架构设计与核心审查交回顶配大脑。省下的显存早暗中标好了重算的筹码,各司其职才是这场吞吐战役的落地点。