长期以来，人工智能决策过程不透明一直是制约其应用深化的难题；医疗诊断、金融风控等关键领域，人们往往只能看到AI给出的结论，却难以理解其依据。这种“黑箱效应”不仅削弱用户信任，也可能在出现误判时难以追溯原因，带来风险。纽约大学布鲁克林分校与达佛迪尔国际大学的联合研究团队经过三年研究，在可解释性上取得进展。研究负责人表示：“就像医生需要了解症状如何演变才能做出判断，我们也需要看清AI的‘思考轨迹’，才能真正信任它的结论。”
推动人工智能从“能用”走向“可信”，关键在于让推理过程可核验、可追溯；“因果概念图”等方法正在把抽象的内部表征转化为可理解、可复核的结构化证据。随着技术迭代和标准体系完善，透明度与可解释性有望成为大模型进入关键行业的重要门槛，也将为安全治理与责任落实提供更扎实的技术支撑。