2025年12月12日至14日，学院殷赵霞教授课题组学生陈嘉伟、周久安、程信赴北京参加全国人工智能与安全大会并分享AI安全系列研究成果，相关论文分别在CCF A类会议Annual AAAI Conference on Artificial Intelligence AAAI 2026、ACM International Conference on Multimedia ACMMM 2025和ACMMM 2024发表/接收。
全国人工智能与安全大会由中国人工智能学会主办、CAAI人工智能与安全专委会等承办，聚焦人工智能安全前沿学术探索与产业实践交流创新成果。
[Yu Cheng（2025级直博生程宇）, Jiuan Zhou（2022级本科生、2026级直博生周久安 ）, Jiawei Chen（2024级博士生陈嘉伟）, Zhaoxia Yin†, and Xinpeng Zhang. "RFNNS: Robust Fixed Neural Network Steganography with Popular Deep Generative Models." AAAI 2026 Oral.]
论文提出了固定神经网络鲁棒隐写RFNNS。针对现有方案在有损信道及面向未知攻击鲁棒性不足问题，提出鲁棒扰动生成策略，提升在JPEG等有损压缩、噪声攻击、对比度变化及未知攻击下的隐写鲁棒性；同时提出纹理感知定位机制，进一步降低视觉失真并提高抗检测能力，提升隐蔽通信安全性。该工作为真实开放信道的隐蔽通信提供了可靠安全且高效的解决方案。
[Cong Kong（2023级硕士生孔聪）, Rui Xu（2024级硕士生徐睿）, Jiawei Chen（2024级博士生陈嘉伟）, and Zhaoxia Yin† "Protecting Copyright of Medical Pre-trained Language Models: Training-Free Backdoor Model Watermarking."ACMMM 2025 Oral.]
论文提出了面向医疗预训练语言模型（Med-PLMs）的首个无训练（training-free）黑盒后门水印，在几乎不损失模型性能的前提下，实现了高效可靠的版权验证，并对模型抽取、剪枝和模型融合等主流攻击具有较强鲁棒性，为高价值医疗语言模型的版权保护提供了实用的解决方案。第一作者23级研究生孔聪和25级研究生程信正合作将该工作进一步扩展到法律、金融等领域，为垂域模型版权保护提供无训练水印统一框架。
[Shuyuan Liu（2023级硕士生刘舒媛）, Jiawei Chen（2024级博士生陈嘉伟）, Shouwei Ruan, Hang Su, and Zhaoxia Yin†. "Exploring the robustness of decision-level through adversarial attacks on llm-based embodied models." ACMMM 2024.]
论文系统性地研究了具身智能决策层鲁棒性，构建了首个面向具身攻击评估的多模态数据集，覆盖定向与非定向对抗攻击；提出了结合任务关键词初始化的高效攻击方法及决策级攻击成功判定机制，为具身智能系统的安全评估与防御研究提供了新的数据基础和分析视角。
上述研究成果受到与会专家学者的广泛关注，在交流环节，同学们认真回应同行专家的提问与建议，就相关研究、前沿进展和后续方向展开了充分讨论，收获满满。
在北京同期召开CAA人工智能与机器人教育大会，殷赵霞教授受邀在“智能安全与可信计算”论坛做特邀报告。报告以《数字水印：从多媒体到AI模型》为主题，结合课题组长期研究积累，从信息隐藏底层技术到面向多媒体内容安全和AI模型安全的应用需求，解析数字水印关键问题和课题组最新研究进展。
