刷题、话术包装、资源置换。。。。。 。
定焦One（dingjiaoone）原创
作者 | 王璐
编辑 | 魏佳
具身智能赛道一连吸引资源眼光的同时， ， ，，种种相关榜单也越来越多。。。。。 。当“第一”险些成为各家标配时， ， ，，榜单尚有可信度吗？？？？？？
一个多月前， ， ，，千寻智能就履历了尴尬时刻。。。。。 。6月初， ， ，，其具身基座模子Spirit v1.6在RoboArena榜单上以1918分的效果凌驾了英伟达Cosmos3的1880分， ， ，，一度位居“天下第一”；；；紧接着， ， ，，千寻宣布完成15亿元A+轮融资， ， ，，三个月内累计完成四轮麋集融资， ， ，，总额靠近50亿元， ， ，，创下具身智能赛道的融资频率新高。。。。。 。
不过， ， ，，业内对评测数据的质疑险些从越日就最先升温。。。。。 。有视察者指出， ， ，，在310次评测纪录中， ， ，，有72%的分数来自两个账号。。。。。 。更值得关注的是， ， ，，RoboArena官方随后宣布声明， ， ，，经回溯视察后移除了部分存疑的评测数据， ， ，，并更新了榜单排名。。。。。 。Spirit v1.6也随之从榜单上除名。。。。。 。
但这一事务并未浇灭玩家们的热情， ， ，，掀开近半年的行业新闻， ， ，，星动纪元、原力灵机、极佳视界、智元、跨维、鹿明……险些每一家头部公司手里都攥着一个“第一”， ， ，，且这些“第一”维度各不相同。。。。。 。
这一情形或许不难明确， ， ，，具身智能现在手艺蹊径还没统一、真机乐成率大多卡在五六成， ， ，，外界想判断一家公司究竟行不可， ， ，，很洪流平上只能依赖榜单。。。。。 。浚？？？？傻狈竦募扔懈咝！⒒挂灿忻教， ， ，，各家标准各不相同、有的还牵涉商单和利益关系时， ， ，，榜单自己还能不可当尺子用， ， ，，就成了一个问题。。。。。 。
一位关注具身赛道的投资人坦言， ， ，，榜单更偏市场行为， ， ，，最多算投资决议的一个参考， ， ，，他关于千寻这件事并不受惊。。。。。 。在他看来， ， ，，真正在意名次的， ， ，，往往不是以财务或手艺为出发点的机构， ， ，，而是一些地方指导基金或偏国资的资金， ， ，，一个“第一”， ， ，，可能正是他们“写在报告里一个较量好的入口”。。。。。 。但也有投资人持差别看法， ， ，，他们以为在手艺门槛高、信息差池称的早期赛道， ， ，，榜单至少提供了一个横向较量的起点。。。。。 。
当“第一”的数目比认真做机械人的公司还多时， ， ，，这些榜单究竟是在测手艺， ， ，，照旧在测讲故事的能力？？？？？？哪些榜单还值得看？？？？？？
01.手艺蹊径还没统一， ， ，，祖先手一个“第一”
我们先来盘一盘现在市面上的榜单， ， ，，建设一个大致印象。。。。。 。据不完全统计， ， ，，现在具身智能的活跃榜单高达20余个。。。。。 。按评测内容， ， ，，这些榜单大致可以分成三类。。。。。 。
VLA操作综合榜， ， ，，考察机械人能不可真干活， ， ，，跑的是使命乐成率， ， ，，代表榜单是RoboChallenge Table30、MolmoSpaces；；；
天下模子榜， ， ，，考的是脑内推演对差池， ， ，，考察模子对物理天下的推演， ， ，，不考机械人手脚利倒运索， ， ，，代表是World Arena和WorldModelBench；；；
专项基准榜， ， ，，考察“极端情形下会不会露馅”， ， ，，针对单点极端能力， ， ，，好比双臂协同、仿真到真机迁徙， ， ，，代表是RoboTwin 2.0、SimplerEnv、LIBERO 和 CALVIN。。。。。 。它的价值在于， ， ，，在综合榜照不到的极端场景里， ， ，，把模子的短板逼出来。。。。。 。
需要说明的是， ， ，，这三类榜单各有着重、互不替换。。。。。 。真机榜测执行、天下模子榜测推演、专项榜测界线， ， ，，没有任何一个能笼罩具身智能的所有能力。。。。。 。
有了这层坐标， ， ，，近半年具身基座模子的战报就能对号入座。。。。。 。若是把近两个月具身基座模子的战报汇总， ， ，，可以获得一份相当壮观的名单。。。。。 。
今年5月， ， ，，星动纪元Era0宣称拿下RoboChallenge Table30第一；；；智元GE-Sim 2.0是World Arena Track1第一；；；跨维DSCFuncWorld是World Arena Track2第一。。。。。 。进入6月， ， ，，千寻Spirit v1.6拿下RoboArena第一（后被除名）， ， ，，鹿明Prime R0登顶MolmoSpaces。。。。。 。险些每一家都是第一， ， ，，并且都有详细榜单排名作背书。。。。。 。
而乱象， ， ，，也是从种种榜单最先的。。。。。 。
最显着的是， ， ，，榜首像流水席， ， ，，“第一名”替换频仍。。。。。 。
RoboChallenge Table30的榜首， ， ，，已往半年里至少换了四次：先是千寻Spirit v1.5以50.33%的乐成率刷新纪录， ， ，，很快又被极佳视界GigaBrain-0.1、美国波士顿动力Atlas、星动纪元Era0先后逾越。。。。。 。
这个速率， ， ，，比大语言模子的主流榜单更新快得多。。。。。 。2023年到2025年， ， ，，GPT-4、Claude 3、Gemini 1.5在MMLU、GSM8K等榜单上的榜首位置， ， ，，通常能守数月甚至一年， ， ，，即即是2020年到2022年的高速迭代期， ， ，，GPT-3、PaLM也是以月为换榜周期。。。。。 。“当下的具身智能， ， ，，单个模子能霸榜一周就算禁止易。。。。。 。”一家头部具身智能公司的从业者米范体现。。。。。 。
其将主要原因归结为两点。。。。。 。一是物理天下的随机性， ， ，，统一个模子在真机上跑两次， ， ，，乐成率差三到五个百分点很正常， ， ，，光照、物体位置、机械臂公差都会影响效果， ， ，，而MMLU这类大语言模子榜单是牢靠问题、确定性判分， ， ，，统一模子跑一百次分数险些稳固。。。。。 。二是测试使命的果真水平， ， ，，像RoboChallenge的Table30， ， ，，30项使命漫衍是果真的， ， ，，各家可以照着使命专门采数据、微调模子再提交， ， ，，榜首的“保质期”于是被压到了以周计。。。。。 。
更让人疑惑的， ， ，，是统一个榜里会同时冒出好几个“第一”。。。。。 。
World Arena就是典范， ， ，，智元GE-Sim 2.0、跨维DSCFuncWorld对外都称自己“登顶World Arena”， ， ，，但事实是， ， ，，这个榜单含有多条赛道， ， ，，智元GE-Sim 2.0在Track1（感知与行动响应）以68.26分排第一， ， ，，跨维DSCFuncWorld在Track2（数据引擎）排第一。。。。。 。“第一”分属差别个子榜， ， ，，对外却被统一写成了统一句话。。。。。 。
对不熟悉赛道划分的读者来说， ， ，，两家并列的“World Arena第一”的说法险些无法分辨， ， ，，甚至会嫌疑是不是有人在说谎， ， ，，但着实谁都没说错， ， ，，只是不敷准确。。。。。 。
尚有一层更模糊的地带是， ， ，，榜单性子混杂， ， ，，“第一”的含金量却被默认成统一档， ， ，，容易爆发误导。。。。。 。
一些公司的对外口径里， ， ，，经；；；嵬绷谐觥澳衬Ｗ釉赗oboChallenge排名第一”， ， ，，和“在某具身智能媒体的测评中也位居第一”。。。。。 。前者是7×24小时真机跑出来的乐成率， ， ，，后者可能只是编辑部闭门讨论、甚至商务相助敲定的名单， ， ，，两者被并排放进一句话， ， ，，含金量却被默认成了统一档。。。。。 。
其中最模糊的是“工业榜”， ， ，，有些榜单顶着“工业”二字， ， ，，但既不是真机锁死的硬榜， ， ，，也不是学术机构背书的benchmark， ， ，，而是咨询公司或媒体合办的打分榜。。。。。 。类似情形也在大语言模子圈泛起过， ， ，，但随着学术榜、商业测评、媒体榜逐渐分层， ， ，，“双料第一”才逐步被拆掉， ， ，，而具身智能， ， ，，眼下正处在谁人尚未分层的阶段。。。。。 。
三种征象叠加， ， ，，效果就是榜单“第一”严重通货膨胀。。。。。 。并且这种通胀不但停留在营销层面， ， ，，一个“第一”的头衔往往能换来关注度、资源和实打实的估值溢价。。。。。 。
02.一个“第一”是怎么造出来的？？？？？？
既然榜单能撬动真金白银， ， ，，怎样把第一造出来， ， ，，也形成了“潜规则”。。。。。 。业内人士先容， ， ，，虽然千寻Spirit v1.6属于极端个例， ， ，，但行业里造“第一”的征象并不少， ， ，，手法大致有三种。。。。。 。
本钱最低、也最普遍的一种方式是话术包装， ， ，，“单科第一”成了“总分第一”， ， ，，焦点是省掉要害限制词。。。。。 。
好比现实拿的是“RoboTwin 2.0双臂协同VLA类Clean档第一”， ， ，，对外就酿成“登顶RoboTwin 2.0”；；；现实是“LIBERO-Plus场景泛化专项第一”， ， ，，对外就成了“LIBERO-Plus榜首”。。。。。 。数据没造假、效果也是真的， ， ，，但“第一”所指代的规模被人为放大了。。。。。 。
第二种方式是使用“刷题”等方式直接干预效果。。。。。 。
一条是“照着考题练”。。。。。 。榜单果真的使命漫衍、评分标准、情形参数， ， ，，都可以拿来做定向后训练， ， ，，在一些使命相对牢靠的榜上尤其显着， ， ，，各家可以通过重复“刷题”、过拟合到特定场景换来高分。。。。。 。
米范体现， ， ，，具身领域的部分榜单的测试使命是果真的， ， ，，各家可以针对这些使命专门收罗数据、微调模子后再提交， ， ，，这在具身圈被视为正常迭代， ， ，，不算作弊， ， ，，和LLM领域的“数据泄露、数据污染”有实质区别。。。。。 。
另一条是钻评测机制的误差。。。。。 。有些榜权威性很高， ， ，，机制却有空子可钻。。。。。 。好比RoboArena接纳开放注册、漫衍式评测， ， ，，本意是让更多人加入， ， ，，却留下了三个空子。。。。。 。
图源 / RoboArena官网
一是评测者身份无门槛。。。。。 。任何人都能注册当裁判， ， ，，短期内大宗新账号集中评测统一个模子， ， ，，就能把它的Elo分数快速推高；；；
二是匹配不强制全笼罩， ， ，，随机分配敌手不即是必需跟同期在榜者都打一轮， ， ，，评测者领使命时， ， ，，A 是牢靠的， ， ，，B 是从分数相近的模子里随机抽， ， ，，样本不敷大时两个模子完全可能一次都排不上。。。。。 。好比Spiritv1.6早期与DreamZero交手， ， ，，23场后息兵， ， ，，与5月30日入榜的英伟达Cosmos3-Nano-Policy为零对战；；；
三是集中刷评， ， ，，用多个账号麋集评测自家模子， ， ，，把负面纪录降低。。。。。 。好比Spirit v1.6的310次评测纪录中， ， ，，72%的分数来自于ECUST和Robotics Lab两个账号， ， ，，它们用224场评测刷出97%胜率， ， ，，把Spirit v1.6推上第一， ， ，，但英伟达用同样条件自测21次， ， ，，胜率0%， ， ，，两组数据摆在一起， ， ，，直接让从业者爆发嫌疑。。。。。 。
事后， ， ，，RoboArena补了规则：评测者必需是无利益关联的第三方， ， ，，堵住自刷账号的入口， ， ，，评测完成率低于20%的账号标为可疑， ， ，，堵住选择性匹配。。。。。 。而处理后， ， ，，千寻跌出榜单。。。。。 。
尚有一种方式最隐藏也最泛滥， ， ，，是资源置换， ， ，，把榜单直接做成生意。。。。。 。
不少媒体榜评选标准并不透明， ， ，，有的爽性与被评工具保存商务相助， ， ，，双方联合发一份“权威报告”， ， ，，把媒体榜和学术benchmark并排包装。。。。。 。它不涉及手艺， ， ，，也不涉及数据， ， ，，只涉及预算和关系。。。。。 。不止一位从业者体现， ， ，，刷榜、买榜等征象并不少见。。。。。 。
这三种手法往往叠加， ， ，，先靠针对性训练或钻空子把分数刷上去， ， ，，再用赛道偷换掩饰泉源， ， ，，最后用话术对外撒播， ， ，，须要时再买个媒体榜背书。。。。。 。层层包装之下， ， ，，“第一”就成了。。。。。 。
这些手法在行业内部并不是神秘。。。。。 。真正的问题在于， ， ，，看透它们需要一定的手艺功底， ， ，，手艺越重大， ， ，，外行越难分辨， ， ，，故事就越容易讲。。。。。 。
03.去掉水分， ， ，，还该信什么？？？？？？
不止一位具身智能从业者坦言， ， ，，他们当下已经不太关注榜单排名了， ， ，，由于榜单能刷、能买， ， ，，即便一切合规， ， ，，物理情形的重大性也让数据很难做到百分百准确。。。。。 。
更深一层的问题是， ， ，，这个行业现在还没有一把“通用的尺子”。。。。。 。
具身智能从业者gashero用“炒鸡蛋”和“拌凉菜”打了一个例如：机械人A善于炒鸡蛋、乐成率90%， ， ，，机械人B善于拌凉菜、乐成率85%， ， ，，但不可就此说A比B强。。。。。 。炒鸡蛋磨练抓取和翻锅， ， ，，拌凉菜磨练精准倒料和搅拌， ， ，，两件事手艺差别、难度差别、评价标准也差别。。。。。 。当下的具身智能赛道还没有一个统一标准， ， ，，能把“炒鸡蛋的能力”和“拌凉菜的能力”折算进统一个打分系统里。。。。。 。
不过， ， ，，这不代表榜简单无是处。。。。。 。从业者普遍以为， ， ，，榜单仍有其参考价值， ， ，，要害在于知道什么值得看， ， ，，以及看完之后还该看什么。。。。。 。
图源 / RoboChallenge官网
综合业内共识， ， ，，真正可信的榜单， ， ，，概略同时具备三个特征。。。。。 。
一是分项透明， ， ，，不是只甩一个“第一”。。。。。 。
岂论综合榜照旧专项榜， ， ，，可信的做法都是把细项逐一拆开。。。。。 。以RoboChallenge Table30为例， ， ，，它测的是30项日常使命的综合乐成率， ， ，，可信之处在于， ， ，，不但告诉读者64.33%这个综合数字， ， ，，还让读者看到30项里哪几项做得好、哪几项掉链子。。。。。 。只报总分、不报细项的榜， ， ，，价值要大打折扣。。。。。 。
二是评测由第三方掌控， ， ，，且有反刷题设计。。。。。 。
MolmoSpaces不允许微调， ， ，，模子直接“裸考”；；；LIBERO-Plus则加了光照突变、配景杂乱、相机角度转变等极端扰动， ， ，，专门防止靠死记硬背拿分。。。。。 。它们的配合特点， ， ，，是让刷题变难， ， ，，让泛化成为真正的门槛。。。。。 。
三是看评测机制， ， ，，而不是看更新频率。。。。。 。
更新慢的榜单纷歧定可靠， ， ，，更新快的榜单也纷歧定可刷。。。。。 。有些榜更新慢， ， ，，可能由于真机评测本钱极高， ， ，，好比RoboChallenge一次完整评测周期可能要数周， ， ，，30项使命每项跑10次， ， ，，一共300次真机实验， ， ，，7×24小时一连运行， ， ，，这是物理天下的本钱约束。。。。。 。而有些榜更新快， ， ，，则是机制设计。。。。。 。好比RoboArena接纳了Elo评分系统举行动态排名， ， ，，天天都有新对战数据进来， ， ，，排名自然天天更新。。。。。 。这种快自己不是问题， ， ，，它的可信度取决于机制是否严密、误差是否被补上。。。。。 。
可是， ， ，，既然圈内都知道榜单有水分， ， ，，为什么各人还在拼命刷？？？？？？
谜底在于行业当下的阶段。。。。。 。
眼下这场“第一”的争取战， ， ，，实质上是资源焦虑的产品。。。。。 。今年是具身基座模子麋集迭代的一年， ， ，，早期赛道出货量、营收、订单量都不稳固， ， ，，只能拿榜单顶上。。。。。 。融资导向的阶段没变， ， ，，刷榜这件事就不会停。。。。。 。
当行业进入下一阶段， ， ，，评判的标尺会自然切换， ， ，，例如每年交付几多台、有哪些牢靠客户、是否能盈利。。。。。 。到那时间， ， ，，“第一”的通货膨胀会自然消逝， ， ，，榜单也会退回它本该在的位置。。。。。 。
或许， ， ，，那些不忙着刷榜、只顾着把机械人送进产线的公司， ， ，，才是行业真正的谜底。。。。。 。
*题图由「定焦One」拍摄。。。。。 。应受访者要求， ， ，，文中米范为假名。。。。。 。
