两台配置拉满的苹果工作站连在一起,桌上就跑起了一尊8160亿参数的开源大模型。

这是扎克伯格和苹果在发布会上摆出来的宏大图景。Meta正式推出接棒Llama的多模态模型Muse Spark Open,总参数816B,单Token激活42B,号称支持100万Token上下文。苹果机器学习团队随即上线技术演示,用自研MLX框架和一条雷雳5线缆,把两台搭载M5 Ultra芯片的Mac Studio拼成虚拟算力池,在办公桌上完成了本地推理。

两家曾因隐私追踪反目成仇的硅谷巨头,突然在同一天握手言和。官方给出的叙事极具诱惑力:这是西方极强的开放权重模型,也是个人设备拥抱超级智能的里程碑。

但这并不是算力平权的胜利,而是一场由极其昂贵的硬件堆出来的橱窗秀。

700GB显存门槛,拼出来的桌面神话

算力可以稀疏,物理内存却省不掉。Muse Spark Open虽然在单次计算时只激活约42B参数,但全部256个专家权重必须完整驻留在显存里。

Muse Spark Open 显存与权重硬门槛 1.5 TB BF16 原始权重体积 需 4 节点 32 张 H200 537 GB NVFP4 量化权重大小 强依赖 Blackwell 架构 700 GB 运行最低显存门槛 不含 1M 上下文缓存

官方发布的BF16原始权重在1.5TB到1.65TB之间,常规机房部署需要4个节点共32张H200。就算压缩到NVFP4版本,苹果专用权重文件依然净占493GB显存。部署官方文档写得很死:聚合显存最低700GB。

单台顶配M5 Ultra哪怕配齐512GB统一内存,物理上也塞不下这颗权重。苹果展示的桌面运行,底线是两台512GB机型,或者四台256GB机型,并且要求系统升级至macOS 26.2。

性能表现更是骨感。在张量并行模式下,双机跑出24.99 tok/s的速度,首字延迟却长达8.2秒;若换成流水线并行,速度会直接跌至15.74 tok/s。发布会上宣称的36 tok/s,必须用四台工作站连成集群才能达到。两台顶配Mac Studio加上配件,采购价格早已超过普通服务器,根本不是给独立开发者准备的生产工具。

纸面百万窗口,实测缩水九成

除了显存硬伤,长文本在工程落地中也遭遇严重断层。

Meta标称支持100万Token全模态上下文,但跑满100万Token仅KV Cache就要吃掉约266GB显存。在双机内存已经被权重吃满的情况下,长上下文几乎必然引发内存溢出。

长上下文工程断层:宣传与实机对比 宣传指标 1,048,576 Tokens 全模态统一上下文窗口 TensorRT-LLM 实测上限 49,152 Tokens 强制要求 FP8 KV Cache 并发生截断

在英伟达TensorRT-LLM专用测试分支中,实际跑通的服务上下文被强制截断在49,152 Tokens,缩水超过95%,且必须强制开启FP8精度的KV Cache。

苹果桌面上展示的25 tok/s,同样是在8K极短上下文下测得的成绩。一旦塞入长文档,节点间跨雷雳5线缆的通信带宽会被迅速吃完,生成速度随即腰斩。一个主打工程仓库重构的代码模型,如果可用窗口缩回49K,纸面上的长文本优势就失去了实操意义。

编程基准落后与防御性许可

剥离全美最强开源权重的定语修饰,Muse Spark Open在代码与终端基准测试中并无统治力。

评测基准Muse Spark Open竞品表现实测落差
Terminal-Bench 2.1 任务通过率76.4%85.0%(Kimi K3)/ 82.0%(Qwen3.8)落后 5.6 至 8.6 个百分点
DeepSWE 1.1 编程基准60.0%(自研Harness)69.0%(统一框架竞品均值)评测环境口径不一致
Artificial Analysis 综合指数39 分主流闭源梯队常态超 60 分综合智能指标偏低

在第三方评测机构Artificial Analysis的Terminal-Bench 2.1测试中,Muse Spark Open仅得76.4%,落后于Kimi K3的85.0%和Qwen3.8的82.0%。DeepSWE基准上Meta宣称的60%成绩,依赖其自研的Muse Code测试脚手架,与业内公开评测的口径并不统一。

比性能更引人关注的是开源许可协议的急转弯。

过去Llama采用的限制条款主要是7亿月活,意在防范系统级科技巨头。这次Meta为Muse Spark Open制定了专门的Muse Model License,放弃了小尺寸版本使用的Apache 2.0协议,设下了极其具体的商业门槛:

  • MaaS营收红线.过去12个月内通过该模型提供API或模型即服务聚合营收超过2000万美元的企业,必须向Meta单独申请商业授权。
  • 衍生模型传染.任何利用该模型权重进行蒸馏所产出的中小型模型,必须无条件继承相同的商用限制条款。
  • 品牌强制露出.下游商业产品的界面中,必须强制保留Built with Muse Spark Open的标识。

这项条款放行了大型企业内网部署,但精准卡死了转售API的中小型二级云平台,同时锁死了通过模型蒸馏免费套取知识产权的路径。

同舟各图其利,护城河从未消失

苹果需要为单价数万元的高配Mac Studio寻找理由,证明昂贵的统一内存不只是视频剪辑工具;Meta则急需在英伟达垄断的机房之外,拉拢具备高显存带宽的终端盟友,向资本市场证明其开源技术能落地到个人设备。

《孙子兵法》有言:夫吴人与越人相恶也,当其同舟而济,遇风,其相救也如左右手。曾经在隐私追踪上针锋相对的两家公司,在飞涨的算力账单面前成了同一艘船上的盟友。

但这绝非开源精神的回归。当开源模型被加上严苛的营收门槛、蒸馏限制和品牌锁定时,开放就已经蜕变成一种受控分发的商业策略。

对于真正的工程团队而言,两台顶配Mac Studio搭起来的玩具成本过高,不可调优的受控大模型也无法直接托付核心业务。在技术选型面前,永远是每万Token的真实推理成本与底层依赖的稳定性说了算。

剥开桌面端运行的绚丽外壳,台下计算的依旧是利益分配与护城河。