判断任务能否用决策式模型
Clef 这类“单次前向给所有选项打分”的模型只适合答案可穷举为 choice/score/noul 的任务。模型卡自己的成绩表也显示,一旦问题变成开放式(GPQA Diamond 48.0、POP909-CL 15.8),同一架构立刻掉到同档模型的下风。
研究价值选型时先问“答案是否可枚举成有限选项”,能枚举才考虑决策模型;否则仍应走生成或专用模型,不要被“无需解析、低延迟”吸引到不合适的任务上。
技术简报AI前沿探索AI技术前沿探索频道
本期三条主线:一是把“输出”收窄成“决策”的多模态模型开始成规模发布,Cloudflare 用 27B 骨干加一个联合 schema head,把分类/路由任务变成一次前向的多选项打分;二是双语长上下文 MoE 走“深度换广度”,Aleph Alpha 的 Kolibri 只用 3.46B 激活参数就把德语侧拉到同档前列;三是开源侧的加速 checkpoint 把采样调度直接固化进权重,8 步即可出图。论文侧,WebCatalyst 说明交互式产物的瓶颈不在“能不能渲染”而在奖励信号保真度;两篇评测类论文则共同指出,行为层指标不足以刻画模型的知识状态。
三个项目分别对应三种不同的“能力换效率”取舍:Clef 用确定性输出换掉自由生成(换来低延迟与无需解析,代价是开放式任务能力显著下降);Kolibri 用双语深度换掉语种广度(德英强、其他语言不覆盖,显存门槛仍有 78GB);Qwen-Image-2.1-Turbo 用固定 8 步调度换掉采样自由度(换来少步数,代价是只能用它验证过的 schedule,且许可为 qwen-research 而非标准开源协议)。三者都属“已开放权重但开放程度不同”,不宜并列为同等开源项目。
把“生成再解析”换成“一次前向打分”:输入一段状态(文本、JSON、图像或视频)和一组带类型的提问 schema,模型直接输出每个问题每个允许选项的概率,没有自由文本生成,也没有输出解析环节。
主要应用领域适合答案可穷举的分类与路由任务:客服工单该进哪个队列、发票处于 paid/overdue/draft 哪种状态、某条记录是否超过 1000 USD 这类 bool 判断、按有序档位打 urgency 分数。输入是 state + questions(choice/score/noul 三类),输出是每个问题的概率分布与置信度,可直接作为下游路由或升级条件。
核心价值对“答案有限选项”的任务,它把延迟与不确定性判断一起交付:模型卡自测的 Decision Index 0.2.1 里 BFCL 98.5、BANKING77 94.2、CLINC150+OOS 97.4、ContractNLI 81.4,中位延迟 209.3 ms、p95 238.6 ms,明显低于同表的 Jev(524.1 ms);且自带概率输出,不必额外做文本解析或置信度后处理。
采用建议建议试用:选一项你已有标注、答案可枚举的任务(工单路由或单据状态判定最合适),用自有样本跑一遍 choice+noul 两类问题,重点比较它与“生成+解析”在准确率、延迟和人工复核率上的差;先做影子模式,不要直接替换现有判定逻辑。
能力与接入骨干为 Qwen/Qwen3.8-27B 加视觉编码器,追加一个联合 schema head:读取骨干最后隐状态,把证据路由到每个问题,并联合给所有问题和所有选项打分;权重为标准分片 safetensors,官方测试环境 torch 2.11 + transformers 5.10.2、单张 H200,图像与视频路径额外需要 pillow;模型卡还提供 systemone 兼容 Jev/SystemOne 的 POST /v1/systemone 请求体入口。以上均为模型卡声明,本次未实际运行。
关键限制全部指标来自作者内部跑分,无第三方复现;它只服务可枚举选项的决策,开放式生成、长文写作类任务不适用,同表也暴露了这一点(GPQA Diamond 48.0、POP909-CL 15.8、SGD/SGD-X 43.8 明显偏弱);27B BF16 需 H200 级显存,且当前无任何推理厂商部署,接入要自建;模型卡的“Decision Index”为其自有评测套件,与公开基准口径不完全可比。
Apache-2.0
用“深度换广度”的双语 MoE 路线:78B 总参数但每 token 只激活 3.46B,只做德语与英语,把省下的算力投到长上下文与多步推理能力上,并显式提供 reasoning effort 档位与工具调用。
主要应用领域德语或英语的长文档处理与检索增强问答(企业内部资料、法规与行业文档)、需要多步工具调用的编排层、结构化抽取。模型卡建议在 262,144 token 以内使用;1,048,576 token 为其验证过的扩展上限,适合把长篇材料一次放进去而不是反复切片。
核心价值在同档 MoE 比较中,它在德语侧拉开了差距:模型卡后训练表里 Kolibri 整体 DE 70.8,而 Gemma 4 26B-A4B IT 为 66.3、Qwen3.5 35B-A3B 为 69.8;德语数学平均 88.8、Agentic Wiki QA(DE) 69.4、German Public Sector 75.0。考虑到它每 token 只激活 3.46B,这个双语表现说明“少语种+深训练”在特定语种上确实能换到效率。
采用建议若你有德语/英语长文档或内部知识库需求,建议试用并做一次同提示对照(同一批 262k 以内文档,与现有 27B 稠密模型比判断准确率与每千 token 成本);纯中文业务暂不采用,先观察其后续是否扩展语种。
能力与接入50 层 MoE、每层 384 专家(1 个共享 + 6 个路由),4:1 的 SWA:GQA 注意力,Muon 优化器加 Exact Quantile Balancing;权重为 128×128 分块的 float8_e4m3fn,embedding/LM head/norm/router 保持 bf16,FP8 KV cache;推理可走 transformers>=5.20,或装 aleph-alpha-inference 用其 vLLM 插件并按 --reasoning-parser kolibri1 / --tool-call-parser kolibri1 启动;最小硬件 2×A100 80G 或 1×H200,显存占用约 78GB。
关键限制只覆盖德英两语,中文场景不适用;同表整体仍低于稠密 Qwen3.8 27B(EN 80.2 / DE 79.9),说明它的优势在“每激活参数的性价比”而非绝对上限;78GB FP8 显存的准入门槛不低,且部分基线在个别基准上缺项(如 TerminalBench 显示为 —),横向比较并不完整;知识截止为 2026-06-18;全部成绩为作者自测。
Apache-2.0
把“加速采样”从用法约定变成 checkpoint 的一部分:官方直接把推荐的 8 步采样 schedule 存进权重目录,配合 CFG=1 与 prefix KV cache,用同一个 7B 架构同时做文生图与图像编辑。
主要应用领域需要在自建 GPU 上批量生成海报、信息图、UI 版式、产品场景图,或把草图/参考图改成成图的编辑任务。模型卡给出 2048×2048、1696×2528(2:3)、2752×1536(16:9)等档位,示例包括化学教具海报这类密集文字版式与游艇草图转照片。
核心价值把步数从常规的数十步压到 8 步、同时固定 CFG=1,对批量生成意味着直接少一个数量级的去噪调用;更重要的是调度随权重固化,部署端不会因为不同人设不同步数而产出不一致结果,这在需要可复现的产线里比“可调”更有用。
采用建议建议试用但先比对:用同一批提示、同分辨率、同 seed,在原版 Qwen-Image-2.1 与 Turbo 之间做并排评审,确认 8 步的质量回落是否落在可接受区间,再决定是否把它作为生产默认;商用前先过一遍 qwen-research 许可条款。
能力与接入diffusers 的 QwenImage21Pipeline(需源码版,依赖 PR #14950 引入的 pipeline 级 sigmas 配置),transformers>=5.17.0,bf16;8 步去噪、CFG 默认 1、use_kv_cache=True 复用文本与参考图上下文;加载时自动读取 checkpoint 内置 schedule,单独设置 num_inference_steps 不会覆盖它,只有显式传 sigmas 才会替换。以模型卡描述为准,本次未实际推理。
关键限制许可证是 qwen-research 而非 Apache-2.0/MIT,商用范围与再分发条件需按许可条款自行确认,不能按开源协议对待;模型卡没有给出 8 步相对原版 Qwen-Image-2.1 的质量损失对比,也没有吞吐或显存实测;官方明确只评估过自带 schedule,其他 schedule 效果未知;同家族在 HF trending 还存在未审查(Uncensored)的第三方 GGUF 衍生版,与本 checkpoint 无关。
qwen-research
暂无符合条件的项目,不为凑数重复推荐。
预印本2026-11-03arXiv:2611.05151
Abstract · 摘要
作者用 mini-game 作为交互式 HTML 生成的测试场,指出当前模型虽然能产出可渲染页面,但在实际交互中功能与视觉质量都撑不住;他们把原因归到三处:交互体验的评估方式、奖励信号保真度、信用分配的粒度。为此提出 WebCatalyst 框架,包含 game-level GUI assessor(负责持续交互与打分)、Visual Anchor(抑制 VLM 奖励被钻空子导致的审美退化)、Action-Trace Credit(把 token 级信用绑定到运行时执行轨迹)。
已录用2026-11-03arXiv:2611.05272
Abstract · 摘要
论文指出行为指标会被“抑制”骗过:模型拒答并不意味着它没有相应知识。它提出用 anon-vectors(概念查询与其匿名改写之间的隐状态差)的几何一致性来判别,真有知识时形成紧致低熵的簇,无知时几何上分裂。
已录用2026-11-03arXiv:2611.04834
Abstract · 摘要
论文观察到后训练改变了模型“能答什么”,却常让它的“可答性判断”失同步。作者把这一能力拆成功能性 feeling of knowing(FoK,明确不代表主观体验),并设计两条可训练通道:knowledge 通道改变可答性,FoK 通道判断当前知识状态。
Clef 这类“单次前向给所有选项打分”的模型只适合答案可穷举为 choice/score/noul 的任务。模型卡自己的成绩表也显示,一旦问题变成开放式(GPQA Diamond 48.0、POP909-CL 15.8),同一架构立刻掉到同档模型的下风。
研究价值选型时先问“答案是否可枚举成有限选项”,能枚举才考虑决策模型;否则仍应走生成或专用模型,不要被“无需解析、低延迟”吸引到不合适的任务上。
Qwen-Image-2.1-Turbo 把推荐的 8 步 sigmas 连同 checkpoint 一起保存,加载后自动生效;单独设置 num_inference_steps 不会覆盖它,只有显式传 sigmas 才会替换。
研究价值部署换模型时不能假设“步数参数仍然有效”,要先确认调度是否随权重固定,否则会出现改了参数却没改行为、或反过来破坏已评估过的质量曲线的误判。
1) 用自有标注集复跑 Clef 的 choice/noul 两类问题,重点看它在工单路由、单据状态判定上与“生成+解析”相比的准确率与延迟差;2) 取一批 200k 以内德语文档,对 Kolibri 与现有 27B 稠密模型做同提示对照,验证模型卡里 DE 侧的领先是否可复现;3) 在同一提示集上并排 Qwen-Image-2.1 原版与 Turbo 的 8 步输出,量化质量回落是否可接受;4) 追 WebCatalyst 的 runtime-grounded credit 能否迁移到非游戏类交互页面,这是判断“交互式产物 RL”能否产品化的关键未知。