挤爆硅基芯片的今天,光学计算技术真能救场吗?
上个月跑了趟南京江北的算力产业园,跟着朋友进了他们的新机房。
推开门那一瞬间,热风裹着机器的轰鸣声往脸上拍,五分钟不到,后背的T恤就湿了大半。
朋友挠着头笑,说这还只是满负载的三分之一,真全跑起来,这里的空调得开到十六度才能压得住温度。
现在训练个千亿参数的大模型,一次就得烧掉几十万度电。全世界的算力中心加起来,碳排放顶得上一个中小国家了。摩尔定律走到头,硅基芯片的功耗墙就横在所有人面前——大家都在找破局的路,光学计算就是喊得最响的那一个。
硅基芯片与光子AI芯片晶圆对比图
说实话,光学计算不是今天才提出来的新概念,早在上世纪六十年代就有人研究了,那时候为什么没火?因为那时候硅芯片还跑得动,大家没必要折腾体积大、成本高的光路系统。
这几年不一样了,大模型把算力需求拉得翻了几十倍,硅芯片快顶不住了,资本和科研机构才又把光学计算拉出来遛遛。我认识的一个做光刻的朋友,说去年一年接到的光子芯片流片需求,比过去五年加起来都多。
光学计算4*4矩阵运算光路原理示意图
当然不是说只有这么简单的玩法。现在还有用光的相位、偏振存信息的,能做更复杂的运算,核心逻辑没变,就是天生并行,低延迟,低功耗。
去年我在一个创业展会上看过Demo,同样跑一张图片的识别,同功耗下,光学计算加速卡的速度是普通GPU的三倍多,当时围了一圈人,好多投资人看完直接就留下来聊到闭馆。
不过话说回来,好用归好用,现在的光学计算,根本干不了全活。很多自媒体说要取代硅芯片,那纯纯是吹牛皮。
吹得越凶,越要理清楚光学计算的边界在哪里
第一个误区,光学计算不会取代电子芯片,至少未来三十年不会。
为什么?光跑得快,但是光不好存啊。你要做复杂的逻辑运算,要存中间结果,光现在做不到这么小的高密度存储,稍微偏一点光路,结果就错了。温度变一度,芯片热胀冷缩,光路歪了零点几微米,结果就不对了,稳定性比电子芯片差远了。
现在靠谱的路线,都是光电混合计算:电子芯片管逻辑控制、管存储,需要做大规模并行矩阵运算的时候,扔给光学计算单元算,算完了再拿回来给电子芯片处理。分工明确,各干各擅长的。
第二个误区,光学计算现在就能解决算力不够的问题?不对,还早。
现在商用的光学加速卡,还只能做推理,做不了大模型训练。因为光学计算是模拟计算啊,精度不够,你算一次差一点,训练的时候迭代几十万次,误差累积起来早就偏到姥姥家了。也就是推理只需要算一次,误差不大不影响结果,刚好能用。
现在落地的场景也都是瞄准这个缺口:数据中心的大模型推理加速,自动驾驶的实时点云处理,卫星遥感的图像处理,这些都是需要低延迟、低功耗的大规模并行计算,刚好是光学计算的菜。
我之前跟一个做光学计算的博士生聊天,他说他们组现在最头疼的就是光调制器的精度,现在最好的器件,也就做到八位精度,GPU都做到三十二位了,差得远。想要把精度提上去,成本指数级涨,根本没法量产。
还有一个问题,就是现在光学芯片的制造,和现有的半导体产线能不能兼容?大部分不行,很多工艺还要定制,良率上不去,成本就降不下来,没法大规模铺。
说实话,我挺看好这个方向的,但是我特别烦那些吹什么“硅芯片已死,光学计算当家”的鬼话。任何新技术都是慢慢爬上来的,当年晶体管出来的时候,也没人想到几十年后能塞进手机里。
现在硅基的墙已经看得见了,有人愿意趟光学计算这条路,总比大家都挤在硅这一棵树上吊死好。说不定再过十年,我们用的大模型加速卡,里面就有一半是光学计算单元,数据中心的电费能降一半,机房也不用把空调开得那么低了。
挺好的对吧?
为什么算力疯涨的今天,光成了救命稻草?
我们现在用的电子芯片,靠电子在半导体里跑着算。越小的芯片,跑越快,但是电子挤在一起就会发热,功耗蹭蹭往上涨,到现在三纳米都出来了,再往下挤,量子隧穿效应出来,根本挡不住。 光不一样啊。 不同频率、不同相位的光走一条光路,互相都不干扰,天生就能并行。说白了,电子计算是一个接一个排队算题,光就是几百上千道题一起算,速度自然快,功耗还低——光只要不被吸收,传播的时候几乎不耗电对吧?
硅基芯片与光子AI芯片晶圆对比图
说实话,光学计算不是今天才提出来的新概念,早在上世纪六十年代就有人研究了,那时候为什么没火?因为那时候硅芯片还跑得动,大家没必要折腾体积大、成本高的光路系统。
这几年不一样了,大模型把算力需求拉得翻了几十倍,硅芯片快顶不住了,资本和科研机构才又把光学计算拉出来遛遛。我认识的一个做光刻的朋友,说去年一年接到的光子芯片流片需求,比过去五年加起来都多。
别听大佬瞎忽悠,光学计算原理其实你都能懂
很多科普把光学计算说的玄乎,其实就是一句话:用光学的物理特性直接做运算,结果出来比电子一步步算快得多。 举个最常见的例子,现在AI模型里用的最多的矩阵乘法,说白了就是一堆数乘了再加起来。 光学怎么算?把输入的数字转换成光的亮度,不同输入走不同的光路,经过预先设置好的衰减片(权重就存在衰减片里啊),最后不同光路的光汇集到探测器上,总亮度就是乘法加起来的结果——整个过程是同时发生的,光走过去的时间就是计算时间,根本不需要一步一步走晶体管算。 你说神不神?相当于你把题目出好,题目本身走一遍,答案就出来了。
光学计算4*4矩阵运算光路原理示意图
当然不是说只有这么简单的玩法。现在还有用光的相位、偏振存信息的,能做更复杂的运算,核心逻辑没变,就是天生并行,低延迟,低功耗。
去年我在一个创业展会上看过Demo,同样跑一张图片的识别,同功耗下,光学计算加速卡的速度是普通GPU的三倍多,当时围了一圈人,好多投资人看完直接就留下来聊到闭馆。
不过话说回来,好用归好用,现在的光学计算,根本干不了全活。很多自媒体说要取代硅芯片,那纯纯是吹牛皮。
吹得越凶,越要理清楚光学计算的边界在哪里
吹得越凶,越要理清楚光学计算的边界在哪里
第一个误区,光学计算不会取代电子芯片,至少未来三十年不会。
为什么?光跑得快,但是光不好存啊。你要做复杂的逻辑运算,要存中间结果,光现在做不到这么小的高密度存储,稍微偏一点光路,结果就错了。温度变一度,芯片热胀冷缩,光路歪了零点几微米,结果就不对了,稳定性比电子芯片差远了。
现在靠谱的路线,都是光电混合计算:电子芯片管逻辑控制、管存储,需要做大规模并行矩阵运算的时候,扔给光学计算单元算,算完了再拿回来给电子芯片处理。分工明确,各干各擅长的。
第二个误区,光学计算现在就能解决算力不够的问题?不对,还早。
现在商用的光学加速卡,还只能做推理,做不了大模型训练。因为光学计算是模拟计算啊,精度不够,你算一次差一点,训练的时候迭代几十万次,误差累积起来早就偏到姥姥家了。也就是推理只需要算一次,误差不大不影响结果,刚好能用。
现在落地的场景也都是瞄准这个缺口:数据中心的大模型推理加速,自动驾驶的实时点云处理,卫星遥感的图像处理,这些都是需要低延迟、低功耗的大规模并行计算,刚好是光学计算的菜。
我之前跟一个做光学计算的博士生聊天,他说他们组现在最头疼的就是光调制器的精度,现在最好的器件,也就做到八位精度,GPU都做到三十二位了,差得远。想要把精度提上去,成本指数级涨,根本没法量产。
还有一个问题,就是现在光学芯片的制造,和现有的半导体产线能不能兼容?大部分不行,很多工艺还要定制,良率上不去,成本就降不下来,没法大规模铺。
说实话,我挺看好这个方向的,但是我特别烦那些吹什么“硅芯片已死,光学计算当家”的鬼话。任何新技术都是慢慢爬上来的,当年晶体管出来的时候,也没人想到几十年后能塞进手机里。
现在硅基的墙已经看得见了,有人愿意趟光学计算这条路,总比大家都挤在硅这一棵树上吊死好。说不定再过十年,我们用的大模型加速卡,里面就有一半是光学计算单元,数据中心的电费能降一半,机房也不用把空调开得那么低了。
挺好的对吧?