随着人工智能技术的快速发展,企业不断推出新产品,试图占据技术前沿。然而,近日由Anthropic公司推出的Claude Mythos模型曝光,引发行业警示。公司表示,该模型暂未向公众开放,原因是它可能带来前所未有的网络安全风险。此前,所有先进AI系统都经过了安全评估,但Mythos在能力上尤为突出,不仅能识别复杂系统中的多年潜伏漏洞,还能自主编写攻击代码,极大增强了破坏性和威胁性。
技术的进步并非单向好事;能力越强、应用越广的工具,也越需要配套的安全评估、责任界限和国际合作。如何在创新与安全之间找到平衡,不仅考验企业的自律,也关系到行业规则、公共治理和全球网络安全的共同能力。