每秒吐出一千个 Token,结果生成一个简单网页反而比对手多花二十秒。
这是 Inception 推出 Mercury 3 时展现出的真实反差。这家初创公司手握英伟达旗下 NVentures、微软 M12 与 Snowflake Ventures 提供的 5,000 万美元注资,在 2026 年 10 月推出了这款参数量达初代 40 倍以上的扩散语言模型。官方宣称其在特定英伟达芯片上的生成流速达到 1,068 tokens/s,相当于 GPT-6 Luna 与 Claude Haiku 5.5 的 4 到 8 倍,并附带 1M 上下文窗口。
官方意图非常明显,想用图像生成领域的全局并行去噪机制,撕开自回归模型逐字蹦词的铁幕。但只要脱离单卡独占的演示幻境,真实网络里的经济账和性能账完全是另一回事。
喷射虽快,端到端却被去噪拖垮
自回归模型受制于显存带宽墙,生成过程如同账房先生抄账,必须依赖上一个词推导下一个词。扩散架构则像分版套印,先在画布上铺满噪声,再通过多轮并行计算整体成文。
流速破千确实抢眼,但这个数字仅仅代表去噪完成后的喷涌阶段。从用户敲下回车到整段文字可用,中间卡着不可省略的迭代开销。
第三方基准机构 Spring Prompt 在长文本网页生成测试中记录下了真实数据:Mercury 3 的中位完成时间长达 65 秒。相比之下,主流自回归竞品 Claude Haiku 5.5 只用了 44 秒,GPT-6 Luna 也仅需 47 秒。
Reddit 开发者社区的第三方实测表明,Mercury 3 在实际调用中的真实吞吐约在 350 至 400 tokens/s 之间。而在 OpenRouter 的线上多租户监控里,其实际 P50 吞吐进一步滑落到 225 至 276 tokens/s。
更致命的是复杂链式推演下的迟滞。一段复杂代码生成任务里,Mercury 3 前置思考长达 12 秒,随后用 2 到 3 秒把上千词倾泻完毕;而在快棋对弈测试中,一旦开启推理模式,单步决策等待甚至能拖到 105 秒。
赛跑比的是谁先撞线,而不是谁在直道冲刺那一瞬仪表盘读数更高。
32 并发分水岭与推理代差
Inception 在宣传中列出了 12 项基准,Mercury 3 拿下了其中 8 项。其在指令遵循测试 IFBench 拿到 76.84 分,大幅领先 GPT-6 Luna 达 15 分;在 SWE-Bench Atlas 更是跑出 51.08 分。
但这种优势高度依赖任务形态。算法竞赛和短代码填空拥有绝对刚性的断言检查,扩散模型的去噪迭代能在明确约束下快速收敛。一旦脱离确定性的因果死磕,软肋立刻暴露。
| 评估基准 / 模型 | Mercury 3 | GPT-6 Luna | Claude Haiku 5.5 |
|---|---|---|---|
| GPQA Diamond (多学科推理) | 89.23 | 86.36 | 84.51 |
| IFBench (指令遵循) | 76.84 | 71.20 | 69.45 |
| SWE-Bench Atlas (软件工程) | 51.08 | 33.33 | 32.26 |
| DeepSWE v1 (深度编程任务) | 46.31 | 37.76 | 51.62 |
在需要维护深层因果链条的 DeepSWE v1 深度编程测试中,Claude Haiku 5.5 以 51.62 分稳压 Mercury 3 的 46.31 分。而在测试幻灯片生成的 DeckBench 与营销分析的 ROASBench 里,Mercury 3 在 24 款参评模型中滑落至第 18 位;日常问答评估 SurveyBench 中也排在 13 款模型里的第 9 位。
Google 针对同类扩散机制 DiffusionGemma 的研究从底层解释了这种现象。扩散模型在复杂逻辑推演上与成熟自回归存在代差,其 AIME 2026 数学推理得分仅 69.1,落后于 Gemma 4 的 88.3。去噪精炼能够迅速理顺局部语法骨架,却极难维持严格的连续状态。
更深层的枷锁在服务端并发。自回归架构依靠高度成熟的 KV 缓存与连续批处理技术,在处理成百上千个并发请求时能够紧密榨干显卡吞吐。Google 的量化实验显示,当并发请求数达到约 32 时,自回归的整体吞吐效率便开始反超扩散架构。
文本扩散虽然单流极快,但它的本质是用巨量算力换取显存带宽解脱。一旦多请求并发涌入,密集的去噪步数会瞬间堵死 GPU 算力核心,单流跑车立刻沦为拥堵路段上的耗油大户。
补贴退场之后的经济学账本
技术路线的终局,必须由商业账本结算。
Mercury 3 上线初期开出了极具诱惑的半价促销,输入每百万 Token 0.10 美元,输出 0.35 美元,还附带 90% 的缓存折扣。早期接入的智能眼镜团队 Octen AI 把搜索回复中位数延迟从 5 秒压至 0.9 秒,教育机构 General Learning 实现了 1 秒内的实时提示纠错。
在极低并发、短交互、单设备独占的场景下,文本扩散确实是一把锋利的窄门手术刀。
但这绝非通用底座的平价替代品。一旦促销期结束,Mercury 3 的正式牌价将回升至输入 0.20 美元、输出 0.70 美元。这意味着它的正式输出单价将比 GPT-6 Luna 和 Claude Haiku 5.5 贵上整整 40%(两者短文本输出均为 0.50 美元)。
以高出四成的价格,去换取一个并发超过 32 就出现吞吐劣势、遇到长逻辑推演就会延迟崩塌的非自回归架构,企业客户很难持续买单。
《孙子兵法》有云,不可胜在己,可胜在敌。自回归架构凭借逐字推导守住了复杂推理的护城河,也用工程打磨到了极高的并发吞吐上限。Mercury 3 证明了文本扩散可以扩展至通用规模,但如果始终无法甩掉前置去噪的沉重包袱与高并发下的算力惩罚,它在实验室里砸穿的流速纪录,终究打不穿现实世界的成本铁壁。
