Cloudflare 开源 27B 决策模型：不写字，只出概率

让 LLM 做判断，是件又慢又悬的事：你问「这条工单该分给谁」，它先写三百字分析，再小心翼翼吐出一个名字，你还得写正则去抠——抠错了就崩。Cloudflare 最近开源了个不一样的玩意儿：Clef，27B 参数的多模态决策模型，不写一个字，一次前向传播，直接把你所有问题的每个选项的概率都算出来。

Apache-2.0 协议，权重挂在 HuggingFace 上，开源一周社区已经出了 12 个量化版本。这个热度说明一件事：把「判断」从生成式 LLM 里拆出来，不是某个团队的怪想法，是个正在成形的赛道——之前拆过的 Laya、Jev 走的都是这条路，现在 Cloudflare 也下场了。

先看它解决什么问题

回到第一性：你的业务里大量环节根本不需要「写」，只需要「判」。

工单分派，判个类目；内容审核，判个真假；智能路由，判走哪条链路；发票处理，判要不要人工介入。这些任务现在的主流做法是拿通用 LLM 生成文本再解析，三个毛病：

• 慢。生成几百 token 才能落到那个词上，延迟下不来
• 脆。输出格式飘一下，解析就炸，然后你开始写重试逻辑
• 贵。判断一个布尔值，付的是写三百字的 token 钱

Clef 的做法是把这些任务全部收进一个「问题 schema」：你声明要问什么、每个问题的候选选项是什么，模型吐出来的就是每个选项的 logit，softmax 之后直接是概率。没有自由文本，没有解析，没有幻觉的空间——它想幻觉都没地方。

顺带说，它的 README 和文档是合格线以上的：问题类型、延迟、部署方式、限制，第一屏都能找到。这种项目值得往下看。

主执行链路：一次前向发生了什么

flowchart TD
    A["状态输入：文本 · JSON · 图片 · 视频<br/>+ 问题 schema（noul / choice / score）"] --> B["Qwen3.8-27B 主干<br/>含视觉编码器"]
    B --> C["联合模式头 joint schema head<br/>小 Transformer 读取最终隐状态"]
    C --> D["所有问题所有选项的 logits"]
    D --> E["softmax → 概率<br/>一次前向，零文字生成"]

拆开说人话：主干是个正经的多模态大模型（Qwen3.8-27B post-train 而来，视觉编码器带着），负责把文本、JSON、图片、视频混着编码成证据。真正的巧思在后面那个联合模式头——一个小 transformer 头，读主干的最终隐状态，把证据路由到每个问题上，并且联合打分所有选项。

「联合」是关键词。你问三个问题（是不是发票、要不要人工、优先级多高），它不是跑三遍，一遍全出，而且问题之间的关联被保留。中位延迟 209ms——这是 27B 模型的数，Flash 变体压到 38.8ms。

三种问题类型，就是它的全部词汇表

设计上克制得漂亮，只有三类：

• noul：真假判断。是不是垃圾内容、这条告警是不是误报
• choice：命名选项分类。工单分给售后/研发/销售，路由走 A 链还是 B 链
• score：有序打分。风险等级 1-5，内容质量排序

没有第四类。想让它写摘要、写代码、写情书？出门左转找生成模型。这种「不贪」恰恰是它能快、能稳的原因。

实测数字拿得出手：MMLU 90.3，BFCL 98.5；工作流场景里发票处理主行动准确率 86.2，客服分派精确行动 76.3。最后一个数不算惊艳，但在真实业务噪声里做到的，比刷榜含金量高。

架构与部署边界

flowchart TD
    A["主干 27.36B · BF16<br/>Qwen3.8-27B post-train"] --> B["joint schema head<br/>证据路由 + 联合打分"]
    B --> C["输入上限 16384 tokens<br/>max_state_tokens 可调"]
    C --> D["部署面：vLLM · SGLang<br/>Docker Model Runner · HF"]
    D --> E["生态：Clef-Flash 38.8ms<br/>12 个社区量化版"]

硬件门槛要直说：权重 54.7GB（分片 safetensors），官方测试环境单张 H200。个人想玩，走社区量化版或者等 Clef-Flash 的小卡方案；企业有 A100/H100 存量的，这就是个顺手活。API 兼容 Jev/SystemOne 协议，systemone 函数直接吃 POST 请求体——已经在用 Jev 生态的，迁移成本接近零。

配置边界：核心工作量在 schema 设计上——问题怎么问、选项怎么定，决定了上限。这跟提示词工程是两回事，更像数据字典设计，写惯了 PRD 的人反而上手快。

扩展点和风险点

能长出来的方向：Flash 变体做实时线上判断（38.8ms 够放进同步链路）；量化版往 4090 级别下放；配套的决策指数排行榜说明 Cloudflare 想定义这个品类的评测标准——平台级野心。

风险也直说：一，它是专用件，复杂推理、开放式分析别指望它，硬塞就是用错工具；二，schema 设计是新的工程债，问题设计不好，概率再准也没用；三，发布还早，配套生态（评测、最佳实践、踩坑文档）都在裸奔期，先进场的都在当小白鼠。

我的判断：如果你的系统里有超过三个「其实就是个分类」却让 LLM 写作文的环节，Clef 值得立刻建个评测集试一把——延迟和稳定性收益是立竿见影的。反之，判断量小、不在关键路径上的，通用模型加结构化输出也够，别为了用新锤子满世界找钉子。

正在做工作流路由的朋友会需要这篇，转给他省一次技术选型的弯路。

模型地址：https://huggingface.co/Cloudflare/clef（Apache-2.0，配套决策指数排行榜）