虽然最近大家都在忙着搞生成式AI的实际应用,让大模型从“只看得着”变成“用得着、管得了、能办事”,但这次技嘉和趋境科技合作,是想直接把本地大模型应用给落地跑通。给大家提供这个核心动力的,是技嘉专为本地AI场景打造的AI TOP ATOM这个产品。它用了那种CPU和GPU封在一起的设计,芯儿里是NVIDIA的GB10 Grace Blackwell芯片。这玩意儿性能挺猛,每秒能算1千万亿次的浮点运算,还装着128GB的统一内存,让训练、推理和部署这一套都能直接跑起来。这样一来,不管是个人开发者还是企业的朋友,都能拥有一个高性能的本地AI基础平台。 靠着AI TOP ATOM的算力底子,技嘉这次已经把他们自家的大模型管理平台AMaaS给架上去了。这么一弄,从模型搭好到图形界面上看着顺眼,整个流程就更顺溜了。这事儿简单说就是让用户在本地用模型更顺手,不用去折腾那些乱七八糟的环境设置和维护活儿。特别是趋境科技那边,本来就专攻大模型这一块,AMaaS在管理模型、怎么画图操作和怎么调度资源上本事都不小。 说个细节是趋境科技的副总裁关嘉伟特别提过:只要有了技嘉这种强大的本地算力再加上AMaaS这种好用的管理功能,双方联手就能把门槛降下来。让那些以前觉得搞大模型太麻烦的个人和企业也能轻松上手建自己的应用。以后咱们也能更关注AI发展的大趋势,不光盯着本地化怎么部署和怎么用起来更舒服,还得弄清楚硬件软件咋配合才算好路子。我还挺期待以后能跟趋境科技玩得更深入点,一块把这些大模型应用推到更宽的地方去。