让千亿参数的通用大模型去扫描一张报销单,再小心翼翼地逐字吐出大括号和逗号,是这两年AI工程落地里最荒唐的算力空转。

通用模型靠自回归机制逐个Token向后预测,每生成一个字符都要重新做一次全网络计算。这意味着开发者不仅要为缓慢的延迟买单,还要承担高昂的输出费用。

Cloudflare向Workers AI推送了专用提取模型Clairic,模型标识为 @cf/cloudflare/clairic。它抛弃了逐字生成路线,采用非自回归的单次前向传递,直接输出类型化数据。计费策略更是干脆:输入每百万Token收费0.10美元,输出Token完全免费。

对于高频处理表单、票据提取与ETL清洗的后端工程团队,这一刀直接砍向了API预算最虚胖的部位。

索赔提取耗时与处理成本对比(官方测试基准) 单次提取延迟(损坏索赔场景) 0.46 秒 vs GLM-5.3 16.1 秒 提速达 35 倍,避免逐字排队生成 百万次级联索赔成本(流水线方案) $6,032 vs 全量大模型 $11,740 端到端耗时降 69%,成本直降 49%

击穿逐字生成的计费墙

数据抽取的底层逻辑是定位和对齐,而不是创作。强行逼迫通用大语言模型按JSON格式输出,大量算力只是在漫长地预测空格、冒号和键名。

Clairic把预设的数据结构Schema直接映射到输入特征向量上,做一次性并行匹配。在损坏产品索赔单据基准测试中,通用大模型GLM-5.3完成抽取需要逐字生成16.1秒,Clairic单次前馈仅耗时0.46秒,速度拉开35倍。

价格层面的落差更悬殊。对比同类抽取方案,NuExtract3的API定价是每百万输入1美元外加每百万输出5美元;开源社区的GLiNER2虽然能通过Span定位降低计算,但缺乏开箱即用的置信度机制。Clairic直接免除输出计费,将输入定在0.10美元,相当于把同类接口成本拉低了一个数量级。

比便宜更关键的,是它对提取假阳性的工程解法。过去大模型处理文档时,遇到原文未提及的字段,往往因为自回归生成的连贯性惯性,硬编造一个看似合理的假数据。

Clairic在输出字段里把状态拆解为四个独立参数:

  • 提取真实值(value)
  • 字段缺失概率(p_null)
  • 模型备选猜测(guess)
  • 综合置信度(confidence)

官方特别标明,置信度并不等同于一减去缺失概率。把字段是否存在与提取内容的确定性彻底解耦,自动化工作流才能拿到真正可写校验逻辑的判断阀门。

非自回归流水线架构 非结构化输入 长文本 / 多模态图像 Clairic (System 1) 单次前向传递 / 8k分批并行 零输出费用 · 毫秒级提取 强类型 JSON 输出 输入下游业务或大模型 免除自回归格式崩坏

工欲善其事,分工重于全能

《管子》有言:“器各有所宜,用各有所长。”软件工程积累几十年的分治原则,在过去两年被万能模型的宣传冲得七零八落。很多架构师误以为只要给一个千亿模型挂上提示词,就能解决从感知、逻辑判断到客户沟通的全部环节。

实际业务很快给出了惩罚。工单处理全挂在一个通用大模型身上,响应迟钝且费用飞涨。

Cloudflare给出的解法是让大模型退后,搭一条三阶流水线:

  1. 抓取层由Clairic在几十毫秒内抽取出订单号、报损金额和问题部件承担无须反思的快思考感知。
  2. 决策层接入离散选择模型Clef根据字段做退款或维修的业务分流。
  3. 表达层才调用GLM-5.3专门撰写安抚用户的邮件文本。

在这套组合里,整套工单流水线耗时从单一大模型的61.7秒压到19.3秒,百万次调用的综合开销从11740美元砍至6032美元。

让庞然大物蹲在门口替发票对账,纯粹是资源错配。分工流水线重新抬头,说明企业级系统终于不再迷信大一统模型。

撕开宣传包装后的现实约束

低延迟和零输出费用确实诱人,但判别式快思考模型从来不是银弹。开发者在接入前,需要看清文档背后的三处妥协。

其一是标称长上下文的水分。虽然模型宣称支持65536个Token和4张图片的多模态输入,但在工程底层,文档无法单次容纳时会被切分成8192个Token的数据块分批处理。面对跨章节的上下文关联或跨长表格的全局推理,分块并行的结构天生存在盲区。

其二是算术与多步推理的脆弱。官方测试展示了21天TSA机场客流预测,平均误差3.3%,但这仅代表窄分布的时间序列拟合。官方文档明确说明,Clairic仅对一到两步的直接数值估算可靠。涉及多行发票的累加、折让抵扣这类长链运算,它极易崩溃,计算必须交回业务代码完成。

其三是严重的系统级过度自信。第三方基准机构Artificial Analysis在评测这类快决策模型时发现,当给出的选项中根本没有正确答案时,模型的正确拒绝率低至7%。判别模型习惯在有限选择里强行押注,而不是承认无法判定。

计费规则同样有隐性成本。输出虽然免费,但传入的目标Schema结构定义本身要折算进输入Token,深层嵌套的对象会导致输入开销迅速膨胀。

接下来观察什么

通用大模型全知全能的叙事正在退守。用小参数前馈模型在前沿截流、只让大模型在终端写字的工程架构,已经展现出立竿见影的成本优势。

但眼下Clairic仍处于托管预览状态,具体的参数规模和底层骨干网络未见公开,开源权重也仍停留在规划期。开发者只能通过API提交自然语言Schema,无法进行私有化LoRA微调。

接下来最核心的观察指标,是官方开源权重能否如期兑现,以及在金融合同、医疗单据等标准基准测试集上,面对未见分布格式时的真实漏检率。

省下逐字生成的等待时间确实是一大步,但格式规整绝不等于逻辑成立。如果省下来的计算开销全赔在后续的数据纠偏上,这笔账依然算不过来。