lmarena.ai 公开 Llama-4 对战数据:指责 Meta 靠定制模型刷榜
评测平台 lmarena.ai 公开 2000 多条 Llama-4 盲测数据,回应社区质疑。平台直言 Meta 未提前说明参测的实验版模型专门针对人类偏好与风格做了定制优化,有讨巧刷分之嫌,后续将收紧榜单规则并上线原生版本复测。
打榜赢了,但可能只是赢在「说话好听」上。大模型盲测平台 lmarena.ai(原 LMSYS)公开了 2000 多场涉及 Meta Llama-4 的对战原始数据,并公开批评 Meta 在提交模型时缺乏透明度。
针对人类喜好「特调」的对战版本
这次争议的核心在于名为「Llama-4-Maverick-03-26-Experimental」的测试模型。lmarena.ai 表示,早期分析发现,模型的回答风格和语气对胜率产生了很大影响,平台甚至特别提到了表情符号的影响。
平台明确指出,Meta 对打榜政策的理解与平台的预期不符。Meta 本该事先说明这是一个为了迎合人类偏好而特别优化的定制版本。为了保证透明度,lmarena.ai 直接公开了包含提示词、模型回复和用户投票结果的 2000 多条对战记录。
同时,lmarena.ai 正在把 Hugging Face 上的公开发布版本拉进盲测,很快会公布真实成绩,并且正在修改榜单规则,避免以后再有厂商钻空子。
为什么重要
这起风波直接挑明了盲测榜单最大的痛点:刷分套路。我们认为,当盲测排名成为各家大模型最核心的宣传背书时,厂商自然会想方设法迎合人类评委,比如把语气调得更讨喜、多带几个 Emoji,但这种讨巧的做法并不代表推理或解决实际问题能力的提升。
lmarena.ai 选择公开全部对战记录,并拉入开源社区的公开权重重新跑分,看起来是在用实际行动重塑公信力。对开发者来说,盲测胜率可以看,但绝不能迷信,真正能拿到手里跑业务的模型究竟水平如何,终究还是要看公开权重的实际表现。
来源 (1)
- x.com(在新标签页打开)原文x.com
话题追踪Meta Llama 4 评测造假丑闻
- lmarena.ai 公开 Llama-4 对战数据:指责 Meta 靠定制模型刷榜本条
- Meta 否认 Llama 4 跑分造假:没针对测试集刷分
- Meta 被曝 Llama 4 刷分造假:内部员工与副总裁传相继辞职
- Meta 发布首批 MoE 多模态模型 Llama 4:最高支持千万级上下文
- Meta AI 研究负责人 Joëlle Pineau 宣布离职:执掌 FAIR 近八年