咱们先来聊聊这个事儿,3月26日这天,联想集团对外宣布,把联想企业龙虾湖解决方案正式给大伙儿看了。这方案挺有意思,里面塞了好几个东西:像优化给“龙虾”用的联想万全异构智算平台、问天WA5480 G3服务器、联想存储,还有RoCE高速网络这些硬件设备。这一堆组合起来,最大的亮点在于它能搞定多步复杂的工作流程,执行起来一点也不卡顿,每字延迟连12毫秒都不到。单从花钱的角度看,产出每百万个高质量Tokens的成本不到1元,便宜得很,也就同档云服务的三分之一。 技术上有啥突破呢?就是靠万全调优的核心技术撑腰,让算力变得更强,还能支持更聪明的模型干活。为了保住大家的数据安全,系统里头还嵌了四层安全护栏。因为是私有化部署,企业手里的数据主权绝对掌握在自己人手里。大伙儿都在同一个知识库里头干活,效率能提升不少,这样个人对知识库的贡献多了,企业和个人的知识就能同步沉淀下来。把东西给你送上门就行,不用你费多大力气去部署应用。 咱们再看这容量有多大,最高能支持1000只“龙虾”常驻不熄火。要是在4K的上下文长度下每天干活,一天能输出几百亿个Tokens呢。而且不管场景怎么变,峰值能力都很稳当。不管是集团里的IT部门、行政部门还是业务中台,这场景基本上都能搞定。覆盖全员办公、敏感数据处理还有生产系统提效这些关键地方,帮助企业把AI智能体应用落地得又快又好。 最后再说说这套系统是咋把东西拢到一起的。它把问天WA5480 G3服务器、联想存储、RoCE高速网络这几样东西给装到了一块儿,再配上万全异构智算平台这套大模型平台。这样就能实现通用大模型跟领域专业模型一起协同干活。有了私有化部署的支持,个人的知识库和企业的知识库也能无缝融合在一起。甭管你想在什么地方用,这种企业级的需求基本都能满足(青云)。