为了增强师生对人工智能伦理与风险的认识，夯实安全开发理念，2025年10月22日下午，大数据学院在智者楼304教室成功举办“人工智能系统安全与隐私保护的探索”专题讲座。本次讲座荣幸邀请到重庆大学副教授、博士生导师郭尚伟老师担任主讲，为学院师生深入剖析了AI浪潮下的安全挑战与防护之道。讲座由大数据教研室主任李静毅老师主持，学院老师以及各年级学生踊跃参与。

讲座中，郭尚伟老师开宗明义，指出随着AI技术深度融入社会生活，其系统的安全性与隐私保护已成为关乎技术健康发展与社会信任的基石。他首先系统梳理了AI系统面临的主要安全威胁，包括精心设计的对抗性攻击如何误导模型判断，以及训练数据投毒如何从根本上破坏AI的可靠性。

随后，郭尚伟老师深入讲解了隐私保护所面临的严峻挑战。他通过典型案例，生动揭示了模型在训练过程中可能记忆并泄露敏感数据。他强调，在数据驱动的时代，隐私泄露风险无处不在，构建隐私计算框架至关重要。

面对这些挑战，郭尚伟老师重点介绍了一系列前沿的防护技术与理念。他阐述了差分隐私、联邦学习等技术如何在保护数据隐私的前提下，实现AI模型的有效训练与协同进化。同时，他也深入探讨了构建“可信人工智能”的六大核心支柱，为开发安全、可靠、负责任的人工智能系统指明了方向。

在互动环节，同学们围绕“如何入门AI安全领域”、“不同隐私保护技术的实用权衡”等问题积极提问，郭尚伟老师以其深厚的学术功底和丰富的实践经验，逐一给予了详细而富有启发的解答。

本次讲座内容深刻，不仅提升了同学们对AI系统脆弱性的认知，更灌输了负责任创新的开发理念。大数据学院将继续深化与顶尖高校的学术交流，引导学生关注技术背后的伦理与安全，为培育兼具技术能力与社会责任感的人才而不懈努力。

图文：郑焯予

大数据学院大数据教研室供稿