神经形态计算：被低估的下一代AI破局技术
去年去上海参加半导体行业峰会，邻座一个做芯片设计的老哥叼着冰咖啡跟我吐槽。现在的大模型，训一次烧几百万度电，他儿子学校开家长会，校长都在说碳中和，这哪是AI发展，这是电老虎吃人啊。
我当时接了一句，那你怎么不看看神经形态计算？他眼睛一下子亮了，拉着我聊了三个小时，连原定的演讲都差点迟到。
传统冯诺依曼架构与人脑神经结构对比图
说实话，这个概念真不是近年才炒出来的。早在上个世纪八十年代就有人提了，为什么直到最近才火起来？还不是大模型给逼的。
现在GPT一张嘴就是千亿参数，哪家公司架得住天天烧钱烧电费？资本和大厂都慌了，赶紧找下一代低功耗方案，翻来翻去，就翻到神经形态计算了。IBM出了TrueNorth，英特尔出了Pohoiki Springs，国内清华大学的天机芯片，早几年就做成了能自主跑的无人驾驶自行车，去年还有团队流片了亿级神经元的芯片，进度比很多人想象的快多了。
低功耗神经形态计算语音识别芯片实物图
不过话说回来，短板也很明显。现在拿神经形态芯片跑大模型训练，还是打不过GPU。根本原因两个，一个是突触单元的集成度还不够，做不到像GPU那样堆出超大算力；另一个就是开发工具太烂了。
做算法的朋友跟我吐槽，现在给神经形态芯片写程序，就像九十年代给单板机写汇编，全得手动调，哪像现在PyTorch搭积木一样简单。大部分工程师不可能重新学一套完全陌生的开发流程，没有生态，就很难铺开。
还有一个绕不开的问题，现在大部分神经形态芯片都是针对特定场景优化的，通用性还差得远。你不能拿做语音识别的芯片去跑图像识别，还得重新设计，成本下不来。
未来最先改变的会是哪些行业？
第一个肯定是植入式医疗设备。你想想，现在有很多心脏起搏器、脑起搏器，还有血糖监测植入芯片，都要电池，换一次电池就得开刀，对病人来说太遭罪了。要是把传统芯片换成神经形态的，一颗电池能用十年甚至二十年，病人少挨多少刀？这根本不是提升体验，这是直接改变生命质量。
然后就是家用服务机器人。现在的扫地机器人，两三天就得充一次电，更别说那种能端茶倒水的人形机器人，续航才几个小时，根本没法日常用。神经形态计算把功耗降下来，续航直接按天算，不用天天插着充电，才有可能走进普通人家里。
还有就是航天领域。卫星上的设备，功耗卡得特别死，太阳能板就那么大，每瓦电都得省着用。神经形态芯片做星上AI处理，能省出一大半功耗，能带更多载荷，能做更多事，这不就是实打实的优势吗？
我前阵子看创投圈的报道，今年国内光神经形态计算方向就融了快五个亿，不少从大厂出来的团队都出来创业了。摩尔定律走到头，冯诺依曼架构也摸到天花板了，接下来AI要往前走，总得找新路子对吧？
别觉得这东西离你远，说不定五年后你戴的智能眼镜，你家里用的机器人，里面那颗核心芯片，就是神经形态的。毕竟，人类造计算机造了这么多年，绕了一大圈，才发现最好的架构模板，就在我们自己的脑袋里。
对不对？你说这事儿有意思不？
别被名字唬住，神经形态就是抄了人脑的作业
很多人一听“神经形态”四个字，觉得这是玄乎的黑科技，其实道理简单到不行。我们现在用的所有计算机，从手机到超算，走的都是冯诺依曼的路子，存储和计算是分开的两个模块。要算点东西，就得把数据从存储单元搬到计算单元，算完再搬回去。 来回搬的过程，不仅慢，还特别费电。这就是绕不开的冯诺依曼瓶颈。大模型参数越大，搬数据的开销就越高，功耗直接跟着涨。 人脑就不是这么干的。人脑的上百亿个神经元，每个神经元都能通过突触传递信号，计算和存储就放在突触这个地方，根本不用来回搬家。你想回忆一件事，几十毫秒就出来了，功耗才十几瓦，比你家台灯还省。 神经形态计算干的事，就是用芯片模拟人脑的这套神经元突触结构，把计算和存储做在一起，从根上解决冯诺依曼瓶颈。传统冯诺依曼架构与人脑神经结构对比图
说实话，这个概念真不是近年才炒出来的。早在上个世纪八十年代就有人提了，为什么直到最近才火起来？还不是大模型给逼的。
现在GPT一张嘴就是千亿参数，哪家公司架得住天天烧钱烧电费？资本和大厂都慌了，赶紧找下一代低功耗方案，翻来翻去，就翻到神经形态计算了。IBM出了TrueNorth，英特尔出了Pohoiki Springs，国内清华大学的天机芯片，早几年就做成了能自主跑的无人驾驶自行车，去年还有团队流片了亿级神经元的芯片，进度比很多人想象的快多了。
离商业化还有多远？其实已经落地了
很多人一提到前沿科技，第一反应就是“还在实验室躺着呢”。不对，神经形态计算现在已经偷偷在很多小众场景用起来了。 最成熟的就是低功耗边缘端。比如放在山林里的火情监测传感器，放在工业管道里的压力传感器，这些地方不可能拉电线，换电池又麻烦，对算力要求不高但要求续航能撑三五年。神经形态芯片天生就适合这个场景。 去年我看到国内团队发的一篇论文，做出来的神经形态语音识别芯片，功耗只有传统ASIC芯片的不到百分之一，整颗芯片工作功耗才1.2毫瓦。什么概念？一颗直径一厘米的纽扣电池，能连着用十二年。真的惊到我了！低功耗神经形态计算语音识别芯片实物图
不过话说回来，短板也很明显。现在拿神经形态芯片跑大模型训练，还是打不过GPU。根本原因两个，一个是突触单元的集成度还不够，做不到像GPU那样堆出超大算力；另一个就是开发工具太烂了。
做算法的朋友跟我吐槽，现在给神经形态芯片写程序，就像九十年代给单板机写汇编，全得手动调，哪像现在PyTorch搭积木一样简单。大部分工程师不可能重新学一套完全陌生的开发流程，没有生态，就很难铺开。
还有一个绕不开的问题，现在大部分神经形态芯片都是针对特定场景优化的，通用性还差得远。你不能拿做语音识别的芯片去跑图像识别，还得重新设计，成本下不来。
未来最先改变的会是哪些行业？
未来最先改变的会是哪些行业？
第一个肯定是植入式医疗设备。你想想，现在有很多心脏起搏器、脑起搏器，还有血糖监测植入芯片，都要电池，换一次电池就得开刀，对病人来说太遭罪了。要是把传统芯片换成神经形态的，一颗电池能用十年甚至二十年，病人少挨多少刀？这根本不是提升体验，这是直接改变生命质量。
然后就是家用服务机器人。现在的扫地机器人，两三天就得充一次电，更别说那种能端茶倒水的人形机器人，续航才几个小时，根本没法日常用。神经形态计算把功耗降下来，续航直接按天算，不用天天插着充电，才有可能走进普通人家里。
还有就是航天领域。卫星上的设备，功耗卡得特别死，太阳能板就那么大，每瓦电都得省着用。神经形态芯片做星上AI处理，能省出一大半功耗，能带更多载荷，能做更多事，这不就是实打实的优势吗？
我前阵子看创投圈的报道，今年国内光神经形态计算方向就融了快五个亿，不少从大厂出来的团队都出来创业了。摩尔定律走到头，冯诺依曼架构也摸到天花板了，接下来AI要往前走，总得找新路子对吧？
别觉得这东西离你远，说不定五年后你戴的智能眼镜，你家里用的机器人，里面那颗核心芯片，就是神经形态的。毕竟，人类造计算机造了这么多年，绕了一大圈，才发现最好的架构模板，就在我们自己的脑袋里。
对不对？你说这事儿有意思不？