深度学习技术：从实验室玩具到改变行业的隐形推手

去年帮一个做农业的朋友调病虫害识别的深度学习模型，我差点把键盘砸了。 数据标注错了快五分之一，训了十多轮效果还是烂得离谱。最后改完标注，一轮就出活。那时候我就想，这玩意儿哪是什么黑魔法啊，本质还是给什么料出什么活。

被媒体吹得神乎其神的，不少都是实验室玩剩下的

现在打开科技媒体，动不动就是「新深度学习模型突破人类极限」，转头一看，核心结构还是十年前ResNet那套东西。 说实话，我见过太多创业公司拿微调后的预训练模型当「全新自研技术」骗融资，割一波就跑。 深度学习ResNet残差结构示意图 2012年AlexNet出来的时候，整个计算机视觉圈直接炸了。那时候谁能想到，十多年过去，我们天天用的刷脸支付、自动驾驶的目标检测，根子还是那一波攒下来的基础。 别误会，不是说进步没有。进步基本都在工程堆料上。你拿千亿参数大模型和十年前的小模型比，效果当然好，但本质上，核心的理论创新，真没媒体说的那么多。对吧？

深度学习技术最恐怖的地方，是你根本感觉不到它存在

很多人提起深度学习，第一反应就是ChatGPT，就是文生图，就是那些能聊天能画画的大玩具。说实话，那都是To C端给普通人看的噱头。 真正赚大钱，真正改变生产的深度学习，都在后台藏着呢。 我上个月去东莞跑了一家做注塑的工厂，原来品检全靠十几个老工人拿放大镜看，一天下来眼睛都花，漏检率还能到3%。现在呢，架两个工业相机，一个不到十万块微调出来的深度学习检测模型，漏检率不到0.1%，24小时连轴转，不用吃饭不用放假。你说厉害不厉害？ 工业产品缺陷深度学习检测现场图 还有现在的快递分拣，你以为是工人在那一件件分？早就用深度学习模型做地址识别、大小分拣了。就连你点外卖，给你算配送时间、推周边商家，背后全是深度学习在跑。 没有人会给你弹个框说「现在本条推送由深度学习技术生成」，它就像水和电一样，渗进各个行业的骨头里了。 不过话说回来，也不是所有场景都非要凑深度学习的热度。我见过一个卖手抓饼的小店，非要整个AI点餐深度学习推荐，最后还不如大妈凭记忆给老顾客多放辣来得实在。适合的才是对的。

下一波深度学习的突破，可能不在大模型堆料上

下一波深度学习的突破，可能不在大模型堆料上 现在全世界的科技公司都在烧钱堆参数搞大模型，好像参数越大越牛。说实话，烧钱堆出来的东西，边际效益早就降得没边了。 一千亿参数比一百亿参数效果好点，一万亿参数比一千亿，也就好那么一丢丢，成本翻了几十倍。玩不起，也真没必要。 现在很多科研机构都在回头搞小模型，搞稀疏化深度学习，还有结合物理规则的神经符号深度学习，说白了就是让模型只在需要算的地方发力，不要什么都瞎算，既省成本效果又不差。 我特别看好结合物理规律的深度学习这个方向。原来的模型都是纯数据堆出来的，你让它算流体力学，算出来的结果可能连基本的质量守恒都不满足。现在把物理方程直接嵌进模型结构里，只要少量数据就能训出比纯数据模型准得多的结果，对于那些本身就有成熟物理规律的工业领域，比如新能源电池设计、航空航天流体模拟，这简直就是降维打击。 去年看MIT的一篇开源论文，用嵌了纳维-斯托克斯方程的深度学习模型算飞行器流场，速度比传统数值模拟快了两个数量级，误差还小了一半。太惊喜了！ 很多人说深度学习就是炼金术，全靠调参碰运气，其实慢慢的，它正在从「纯数据拟合」往「结合领域知识解决实际问题」走，这个方向走通了，能解放出来的生产力，比十个通用大模型还大。 很多人天天喊深度学习要取代人，要实现通用人工智能，我觉得想太远了。接下来十年，能把深度学习踏踏实实落地到工业、农业、医药这些传统领域，帮普通人省点力气，帮企业多赚点钱，就已经够伟大了。 你非要搞个什么能自己思考的机器人，那还不如先把现在的衣服瑕疵检测、农作物病虫害识别给做扎实了。上周跟一个刚读博的小朋友聊天，他说现在不蹭大模型热点都发不了好论文，我只能说，找对没人挤的方向闷头干，哪天出来的成果，指不定比那些挤破头堆参数的有用一万倍。