一场让人憋屈的AI研究标杆对比分析：我们到底差在哪？

前几天翻看斯坦福刚出的AI Index报告，厚厚几百页，翻着翻着突然就气笑了——不是笑别人，是笑咱们自己。真的，有些数据刺眼得让人失眠。 随便举个例子？自然语言处理领域那几颗皇冠上的明珠：GLUE、SuperGLUE、SQuAD…… 你猜霸榜的都是谁？翻来覆去就那几个名字，Google Brain、OpenAI、微软。偶尔有清华或者北大的团队挤进去，还没来得及鼓掌呢，下一轮就被刷下来了。这感觉就像——怎么说呢，像你辛辛苦苦练了三年球，结果上场发现对面全是NBA全明星。

大厂实验室的军备竞赛：算力即真理？

有时候我真怀疑，这帮硅谷巨头是不是偷偷开了算力外挂。看看GPT-3，1750亿参数，训练一次据说烧掉几百万美元。几百万美元啊！咱们国内好多AI创业公司，A轮融资都没这个数。更气人的是，他们还不开源论文细节了——以前装装样子，现在直接'商业机密'。你连复现都复现不了，还谈什么对标？ 顶尖AI实验室参数量增长趋势图 但说实话，光盯着参数太片面了。Google的LaMDA、PaLM，包括被吹上天的DeepMind的Gato，这些模型强的不只是大，而是架构创新和训练方法的精益求精。比如Gato，一个模型搞定600多个任务，从聊天到玩游戏到控制机械臂。这背后是强化学习和Transformer的无缝融合——咱们这边呢？好多还停留在'换个更大的BERT刷榜'的阶段。前两天和一个在大厂研究院的老同学喝酒，他猛灌一口，说：'我们就像在沙滩上盖摩天楼，地基是别人的，建材是别人的，连设计图都得偷偷描。' 我默默给他倒了杯茶。

学术界的隐形冠军：那些闷声发大财的组

不过，要是以为只有工业界在领跑，那就太天真了。学术界藏着不少'扫地僧'——卡内基梅隆的机器人研究院，MIT的CSAIL，还有瑞士苏黎世联邦理工那个逆天的CV组。他们不天天上头条，但一出手就是颠覆性的。比如NeRF（神经辐射场），直接把三维重建炸开了锅，几乎每一篇SIGGRAPH论文都离不开它。你猜NeRF谁搞的？伯克利的一个博士生和几个教授，轻轻松松。 高校AI领域顶会论文机构分布图 我特别想吐槽的是评价体系。国外那些组好像不太在乎'论文数量'，反而追求一个'一作去微软研究院一待就是五年'的慢工出细活。咱们呢？博士生三年不发够三篇顶会怕是毕不了业，结果搞出一堆同质化严重的'微创新'，在某个小众数据集上把SOTA提高了0.1%，然后宣称'重大突破'。唉。这种对比太让人绝望了。

中国的突围路径：星星之火，能燎原吗？

但也不是全无希望。悲观归悲观，有些苗头挺有意思。比如智源研究院的'悟道'模型，虽然一直被诟病'拿GPT-3作为标杆对比分析时不坦诚'，但起码敢堆1.75万亿参数了，而且完全中文生态，对古诗、对联这些的理解真的碾压英文模型。还有华为的盘古，在天气预报上竟然能吊打欧洲数值预报中心——那可是诺奖就套了几十个的领域。这些垂直领域的专精突破，可能比通用大模型更适合我们的科研土壤。 另外，开源社区也在悄悄发力。上海有个小团队搞的'书生'模型，明明只有几十亿参数，却在图像描述任务上跟谷歌的PalM-550B打得有来有回。看见这种消息，我就会关掉手机，笑一下。然后焦虑感又浮上来——这种'散兵游勇'式的创新，能对抗人家体系化的科研军团吗？ 说实话，这场标杆对比分析下来，差距不是单点的，而是从基础理论、高端芯片、开源生态到人才评价的一整套系统差距。就像两个人比武，对方不光内力深厚，刀剑盔甲都比你高好几个档次，你还得遵守他定的规则。这仗怎么打？ 不过，记得当年高铁刚起步时，咱们也是从'引进消化吸收'一路骂过来的，现在呢？也许AI也需要这种'先跟着跑，再并排跑'的耐心。只是，时间窗口还有多久？未知。 写到这，窗外天亮了。新一天，又得面对那些冰冷的benchmark。不说了，去跑模型了。