豆包 Pro 主榜暴跌 8 分,材料约束单日狂降 25.8 分

豆包 Pro 在今日 Smoke 评测中主榜得分从昨日 87.60 跌至 79.57,降幅 8 分,核心原因是材料约束维度从 84.30 骤降至 58.50。

数据事实拆解

代码执行维度从 90.30 升至 96.80,工程判断从 69.50 降至 63.60,任务表达保持 95.00 不变,诚信评级维持 pass。主榜仅由代码执行与材料约束加权构成,因此材料约束的 25.8 分跌幅直接拉低整体 8 分。

成因分析:抽签波动还是真实退化

Smoke 评测每日仅 2 题/维度,单题得分权重极高。材料约束 2 题若同时遇到需要严格引用原文或拒绝幻觉的题目,模型若出现一次大面积偏离即可能损失 20 分以上。代码执行反向提升 6.5 分,说明模型在代码路径上未出现系统性问题。工程判断小幅回落 5.9 分,幅度远小于材料约束,因此最可能的原因是材料约束维度的题目抽签集中暴露了模型在忠实度控制上的不一致,而非整体能力退化。

材料约束 58.50 分与昨日 84.30 分的差距,超出正常单日标准差范围,提示该维度当前一致性较低。

对使用者的具体含义

重度依赖材料约束的场景(如法律合同审查、财务报表核对、技术文档对齐)需提高人工复核比例。代码执行 96.80 分的成绩对纯编程辅助任务仍有参考价值,但当任务同时要求“基于给定材料回答”时,58.50 分的材料约束表现会显著增加输出偏差风险。开发者在 RAG 流程中调用豆包 Pro 时,建议增加 grounding 校验层。

战略判断

基于现有得分对比,豆包 Pro 材料约束维度的单日剧烈波动值得下期 Smoke 评测继续跟踪。若连续两日材料约束均低于 65 分,则可初步判断该维度存在稳定性问题;若下一日回升至 80 分以上,则本次跌幅更可能归因于题目抽签。当前数据不支持“模型整体退化”的结论,但支持“材料约束一致性不足”的观察。

工程判断与任务表达两个侧榜维度变化幅度均小于主榜核心维度,印证主榜跌幅主要由材料约束驱动。企业选型时,若材料忠实度是核心需求,建议等待至少 3 日 Smoke 数据再做决定;若主要用途为代码生成,当前 96.80 分仍处于可用区间。


数据来源:赢政指数 (YZ Index) | Run #415 | 查看原始数据

本文来自 Winzheng Index 博客,赢政天下(winzheng.com)进行了全文翻译。 点击这里查看原文 如果转载中文,请注明出处,谢谢支持!