光在计算中的作用

现在大家都在盯着AI这块蛋糕,因为它对算力的需求简直像滚雪球一样越滚越大,以前那种传统的电子架构早就被“功耗墙”和“内存墙”卡死了。就拿国际能源署发布的《能源与人工智能》报告来说,要是照这个势头下去,到了2030年,全球数据中心吃掉的电总量能到945太瓦时,差不多等于日本全年的用电总和。这么大的用电量要是继续下去,成本肯定压不住,谁也没法让AI技术规模化发展下去。 不过大家都在想办法,光子技术就是一条好路子。它速度快、功耗低、带宽大,跟电计算一结合就能解决好多问题。2022年,熊胤江带着其他几位联合创始人就在上海张江科学城的模力社区里搞了个光本位智能科技(上海)有限公司。他们一开始就没走别人的老路,现在主流公司用硅当衬底是为了方便兼容老工艺,光本位却把目光投向了材料科学。联合创始人程唐盛以前做材料科学博士的时候就信过这一点:相变材料能解决光计算的存储难题。 他们用这种材料把存储单元和计算单元深度融合在一起了。这样一来,AI模型的参数不用跑到外面去存,直接放在计算卡里就行了。这就省去了好多读写参数的时间,把计算延迟给砍掉了一大半,“内存墙”的问题也就从根子上被解决了。不光是内存变快了,这款光电融合计算卡的光计算核心设计还特别省电。跟以前那种老卡不一样,它不需要持续供电维持运转,只要给点输入信号就能干活。这样一来,加载模型权重的功耗直接降为零了。 至于扩展性这块也很灵活。这个卡有标准的PCIe接口还有定制的互联接口,插上去就能用。单机多卡互联特别方便,以后大规模数据处理或者复杂模型推理的时候都能用得上。熊胤江他们觉得像互联网巨头或者太空算力提供商这类云侧AI推理客户,肯定是这个卡的主要买家。 最近他们又有了新动作——想用玻璃来代替硅做衬底。要是这一步能走通的话,那就不用老盯着先进制程去拼命堆算力了。毕竟现在大家都有个共识:算力要上去就意味着要多花钱散热。“我们希望以后能让光参与更多计算架构”,“构建一个‘光电融合,以光为主’的生态”。这是“元英”(指光本位智能科技)的最终目标。 李均和周元英在现场看到这块搭载128×128矩阵的卡正在高速运转呢。精密仪器上的指示灯闪个不停。公司负责人周元英介绍说这是国内首款相变材料光电融合计算卡。“目前我们已经接到国内大模型公司的订单了”,“还在金融垂类大模型上把它给部署好了”。 不光填补了国内空白,“还在全球范围内实现了同类计算卡在大模型场景的首次落地”。这可是给AI算力领域的能效革命和架构创新注入了新的动力。“未来大家会越来越多地看到光在计算中的作用”。这就是光本位科技想开启的那条超低能耗、超高效率的全新赛道。