最近,小米MiMo团队在2026年2月7日宣布了一项新成果,名叫HySparse。这个技术可以把AI的大脑装上高效过滤器,让AI模型在不降低能力的情况下实现“瘦身”。HySparse架构的设计思路特别符合人类的习惯。比如看书的时候,大家通常会先快速浏览一遍了解核心内容,然后再重点阅读关键部分。HySparse正是借鉴了这种方式。它将AI模型分成不同的小模块,每个模块里有一个全注意力层和几个稀疏注意力层。全注意力层负责详细分析信息和计算KV缓存,而稀疏注意力层则直接利用KV缓存来处理后续的工作。小米MiMo团队利用HySparse技术把一个49层、80B参数的大模型里的全注意力层减少到5个,同时保持AI的能力不变。这个技术在RULER测试中表现优异,即使减少了全注意力层的数量,AI依然能够记住文章开头的信息并准确调用。HySparse为AI智能体的发展提供了一条捷径。现在,智能体要处理大量文本数据,计算和存储开销都很大。通过采用HySparse技术,企业可以大幅降低算力和存储成本。目前,该团队还在进一步探索这项技术在更大规模模型上的应用潜力。HySparse的出现给行业提供了一个新思路:优化结构设计可以让AI更高效、更省钱。这项技术目前还在发展阶段,但它展示了给AI“减负”的可能性。你觉得这个技术以后会被广泛应用在手机AI和办公AI里吗?