随着人工智能技术在各领域的广泛应用，智能系统的可靠性问题逐渐受到关注。中国科学院软件研究所、信息工程研究所与国家计算机网络应急技术处理协调中心的联合团队研究发现，当前智能系统普遍存在"过度自信"现象，并开发出相应的解决方案。
从单纯追求性能到兼顾可靠性，是大模型实现规模应用的关键一步。通过将准确性与校准性分离优化，不仅在算法层面实现突破，也为建立更稳健的人机协作机制提供了技术支持。未来持续完善置信度对应的体系，将推动大模型在关键领域真正达到"可用、可信、可控"的目标。
随着人工智能技术在各领域的广泛应用，智能系统的可靠性问题逐渐受到关注。中国科学院软件研究所、信息工程研究所与国家计算机网络应急技术处理协调中心的联合团队研究发现，当前智能系统普遍存在"过度自信"现象，并开发出相应的解决方案。
从单纯追求性能到兼顾可靠性，是大模型实现规模应用的关键一步。通过将准确性与校准性分离优化，不仅在算法层面实现突破，也为建立更稳健的人机协作机制提供了技术支持。未来持续完善置信度对应的体系，将推动大模型在关键领域真正达到"可用、可信、可控"的目标。