报告人：朱天清 教授
主持人：殷赵霞 教授
时间：2025年12月26日14:40
地点：腾讯会议 880-494-207
报告人简介：朱天清，教授，博导，目前为澳门城市大学数据科学学院副院长（研究）。曾于2000年和2004年分别获武汉大学本科和硕士学位，2014年获澳大利亚迪肯大学博士学位。曾任悉尼科技大学副教授，澳大利亚自然科学基金领域专家（Australian Research Council College of Expert），以及中国地质大学（武汉）教授。曾主持和参与澳大利亚国家自然科学基金，共计研究经费四百余万澳元。曾主持中国国家自然科学基金青年项目及面上项目一项。朱天清的研究领域为信息安全，数据隐私保护以及人工智能安全。在安全领域内提出了多种有关人工智能算法的安全漏洞以及其解决方案，并提出了以安全分析的方式来防御人工智能算法攻击的方案。在安全领域中发表论文300余篇，并在IEEE Transactions系列杂志上以第一作者或通信作者发表论文50余篇。任4本SCI期刊副编辑（Associate Editor）；多项人工智能会议程序执行主席或者委员（PC Chair & PC member）。培养博士生30余名。
报告内容介绍：
近年来，大型语言模型（LLMs）因其在网络安全等多个领域的变革潜力而备受关注。本报告探讨了LLMs在网络安全领域的双重作用，既强调了其有益应用，也揭示了潜在风险。从积极方面看，LLMs可通过提升威胁检测能力和自动化安全日志分析来增强网络安全防护。然而，LLMs的滥用也带来重大风险——这些模型可能被用于生成极具欺骗性的钓鱼邮件、自动化社会工程攻击，甚至生产恶意代码。本报告提出了两种在AI领域经常出现的攻击行为，利用大模型自动产生攻击的方式表现了大模型存在的威胁，旨在引发关于LLMs网络安全部署的深度思考，强调在充分发挥其防御潜力的同时，必须建立强有力的保障措施和监管框架以降低风险。
