2024年11月6日，中国科学技术大学网络空间安全学院俞能海和张卫明两位教授应邀为我校高一年级学生带来《眼见未必为实——人工智能安全技术新进展》主题讲座。活动由年级组长黄浩主持。
俞能海教授围绕“人工智能对人类认知安全的影响”展开介绍。他指出，当前人类社会、物理世界与信息空间的交汇越来越大，随着人工智能技术的发展，大量虚假图像、虚假文本、虚假视频给我们的生产生活造成极大影响。为应对AI的恶意应用，提升安全能力，保护AI赋能系统，近年来，俞教授与实验团队不断探索，取得了丰硕的成果。同学们了解到，AI复原技术还可以用于红色文化宣传，复活新中国功勋人物。
 |  |  |
张卫明教授围绕“大模型带来的机器认知安全风险”，向同学们介绍了全球应对人工智能浪潮所做的努力。在短短几年时间里，GPT-4已经学会了使用工具、制造工具、形成社区和自我改造，《Science》杂志因此还提出AI应成为新的法律主体，建立“跨物种”法律框架。张教授告诉同学们，针对生成式AI新的安全风险，我们要加强“AI对齐”，充分发掘潜在风险并掌握有力的应对措施。
两位教授精彩的讲座结束后，同学们意犹未尽，就“人工智能技术的各种安全隐患”“未来应如何控制比我们更聪明的AI系统”等问题提出进一步的疑问，与教授们深入交流。
 | |  |
通过这次活动，同学们对人工智能技术有了更深的了解，也对未来的AI技术产生了新的思考。相信本次科学大讲堂一定能激发更多同学对科学技术的研究热情，将来为AI技术发展贡献自己的力量。
供稿：高一年级组 刘红蕾
一审：赵子君
二审：蒋克兢
三审：黄乃斌