一个被冠以「史上最严」之名的湿实验预测基准近日对外发布,参与方包括斯坦福、哈佛、康奈尔等十余家顶尖研究团队。据量子位报道,这一基准给出的结论并不温和:在这类任务上,把推理能力开到最大、把算力扩充到原来的五倍,模型成绩依然没有实质起色。
事件概览:一场十余家机构同台的评测
所谓湿实验,指的是在实验台上真实操作的生物学实验,与纯文本推理或计算模拟相对。湿实验预测则要求模型针对实验层面的问题给出可被真实操作检验的判断,其难点在于实验数据稀缺、噪声大、成本高,且很多结论只有在动手做完实验之后才能确认。
正是这样一个方向,迎来了一套号称「最严」的评测基准。报道显示,斯坦福、哈佛、康奈尔等十余家顶尖团队共同参与其中,阵容横跨高校与相关研究机构。基准发布方并未把门槛设在「能不能答对题」,而是压向更难被现有方法攻破的位置。
「史上最严」湿实验预测基准发布:推理拉满、算力翻5倍也白搭。
核心信息:规模扩张在这里失效
第一,评测对象是湿实验预测,而非通用问答
这一基准瞄准的是实验侧的可验证判断,模型给出的答案需要与真实实验结果对得上,而不是停留在语言层面的自洽。这意味着过去在文本任务上屡试不爽的「猜模式」策略,很难直接迁移过来。
第二,推理与算力不是万能钥匙
报道用「推理拉满、算力翻5倍也白搭」概括了现状:把推理预算加到极致、把算力规模提升到原来的五倍,模型的成绩没有出现与之匹配的提升。换句话说,投入的边际收益在这类任务上明显下滑。
第三,参与阵容本身构成一种信号
- 斯坦福、哈佛、康奈尔等十余家顶尖团队同坐一桌,说明该问题被视作共性难题而非单一课题组的局部兴趣;
- 多方共建通常意味着评测设计需要兼顾不同研究方向的可比性,也意味着结论更易被同行审视;
- 「最严」的定位,反映的是评审方对当前模型能力上限的判断。
影响与观察
对「堆规模即涨能力」的路径提出质疑。过去一段时间,扩大参数、延长推理链、增加采样次数几乎是提升表现的通用手段。而这一基准提示,当任务需要与真实世界对齐时,通用手段可能触到天花板,单纯加预算未必换来能力。
为生物医药方向的AI落地提供一个冷静坐标。湿实验环节耗时耗资,失败成本高,因此行业对模型输出的容错率很低。一个能稳定暴露模型短板、而不是被高分掩盖的基准,对判断技术是否具备实用价值更有意义。
评测方法论层面的启示。当一个基准的难度设计足够高时,它才能持续区分不同技术路线;反之,若基准很快饱和,高分便失去信息量。此次发布之所以引发关注,部分原因正在于它没有给出一个皆大欢喜的结果。
研发策略上可能的转向。在算力与推理预算之外,数据质量、实验闭环能力、领域先验的注入方式,可能会被重新摆到更重要的位置。对于希望进入这一领域的团队而言,先弄清「哪些问题模型确实做不了」,比盲目扩大训练规模更有效率。
需要保持的审慎是:单一基准的结果不能等同于对模型整体能力的判决,其结论仍需在更多任务、更多复现实验中被反复检验。但至少目前,它划出了一条尚无人轻松越过的线。
结语
「最严」二字并非为了唱衰,而是把问题摆到台面上:当评测从语言走向实验,能力的增长逻辑也随之改变。十余家顶尖团队共同参与的这一基准,真正的价值或许不在分数高低,而在于它让「加算力就能解决问题」这一默认假设,第一次需要被认真解释。
信息来源:量子位,查看原始信息。本文由 AI ONLINE 基于公开资料整理,信息可能随时间变化,请以官方发布为准。
