业内人士：安全成数字经济新基建，须依靠AI实现

中新网客户端北京报道，日期为12月6日。今天在德国网（张旭）的专访中，一场关于人工智能与安全的研讨会吸引了众多目光。阿里巴巴集团首席风险官郑俊芳率先在会议上发声，他认为安全已经成为数字经济时代的基础设施建设（简称基建），而为了实现安全的基建，必须依靠人工智能（AI）的力量。

AI面临算法安全问题成为讨论的焦点。中国科学院院士、清华大学人工智能研究院院长张钹指出，人工智能将在交通、医疗、金融和智能制造等领域引发革命性变革。尽管长远来看前景光明，但从现实情况来看，仍有许多挑战需要克服。如今，自动驾驶出租车已在部分地区进行试点，但所有产品仍在L4级以下阶段。西安交通大学人工智能与机器人研究所教授薛建儒强调，无人驾驶面临动态决策的挑战，其复杂性、不确定性和歧义性仍是待解决的开放问题。

张钹进一步深入了AI算法安全的根源问题。他解释，神经网络更像是进行函数映射而非理解任务，这使得算法的鲁棒性较差。当测试集与训练数据存在差异时，AI的推广能力会减弱；对噪声的鲁棒性也较差，导致AI算法容易被滥用、攻击和误用。

正如郑俊芳所言，安全的AI正在给多个领域带来变革。在会议上，清华大学计算机系副主任朱文武介绍了多媒体与AI之间的相互促进关系。阿里安全资深算法专家薛晖则展示了阿里在过去几年里打击线下制售假窝点的成果，这背后是一套基于人工智能的网商环境治理体系在发挥作用。算法专家们不仅要确保这些体系的高效运行，还要密切关注其关键节点模型的安全性，确保不会被黑产利用。

这场研讨会上，与会者普遍认为，安全能力的提升需要开放合作。郑俊芳强调，阿里在安全领域的投入巨大，技术人员占比超过50%。他们与顶级团队合作的背后是面对的挑战和压力。解决今天面临的复杂挑战需要坚定的投入和更开放的合作。在这场充满智慧与激情的讨论中，我们看到了AI与安全的未来，一个充满挑战与机遇的未来。（完）