llm 芯片matx 团队拿下了5 亿美元的投资,正致力于搞出吞吐高、延迟低的新玩意儿。这次

LLM芯片领域的MatX团队拿下了5亿美元的投资,正致力于搞出吞吐高、延迟低的新玩意儿。这次,IT之家爆料了这个消息:这家由前谷歌TPU工程师创立的公司,搞到了5亿美元的B轮钱。这个芯片被命名为MatX One,用的是那种能切割的脉动阵列,既省地又省电。虽说有大型阵列那种能耗好、面积省的优点,但它还有小型阵列的灵活劲儿和高利用率。因为还融合了SRAM设计带来的低延迟,以及HBM方案带来的长上下文能力,这芯片号称能达到业界领先的LLM吞吐量,而且延迟跟SRAM优先的芯片差不多。不管是训练还是预填充,或者是推理解码、强化学习,都能搞定,让大模型用起来更便宜。除了钱是刚拿的,这次参与融资的还有世芯AIchip、美满Marvell和好几家投资机构呢。