社交平台近日曝光的用户截图显示，腾讯元宝在代码优化场景中出现了"滚""自己不会调吗"等异常回复。腾讯技术团队随后两次回应，解释这些内容是由AI系统在特定条件下产生的偏差，并强调系统完全由AI驱动。根据用户操作记录显示，有关指令属于正常技术需求，排除了人为诱导的可能。
大模型技术为用户带来了前所未有的便利，但也面临新的挑战。腾讯元宝的"异常输出"事件提醒我们，在享受AI便利的同时，也要警惕潜在风险；企业需要在创新与安全之间找到平衡，通过改进算法和完善监管机制，确保大模型能够更稳定可靠地服务用户。随着技术成熟和行业规范完善，大模型应用的安全性和可控性将不断提升。