计算机科学与探索

作者：刘瑞祺, 李虎, 王东霞, 赵重阳, 李博宇

单位：军事科学院 系统工程研究院 信息系统安全技术重点实验室，北京 100101

关键词：对抗样本,人工智能安全,对抗防御

人工智能的快速发展和广泛应用带来了新的安全性问题，针对深度神经网络的对抗样本生成与防御是其中的热点之一。深度神经网络在图像领域应用最广也最容易被图像对抗样本欺骗，针对图像对抗样本的防御技术研究是提升人工智能应用安全的重要手段。图像对抗样本的存在原因尚无统一解释，但可从不同维度加以观察与理解，从而为提出针对性的防御技术方法提供启示。对当前主流的盲区假说、线性假说、决策边界假说、特征假说等对抗样本存在原因假说，以及各种假说与典型对抗样本生成方法之间的关联关系进行了梳理分析。以此为基础，从基于模型和基于数据两个维度对图像对抗样本防御技术进行了总结归纳，对比分析了不同技术方法的适应场景与优缺点。现有的图像对抗样本防御技术方法大多针对具体的对抗样本生成方法进行防御，尚无统一的防御理论与方法。现实应用中需综合考虑具体的应用场景、潜在的安全风险等，在现有的防御技术方法中进行优化组合配置。后续可从泛化防御理论、防御效果评价、体系化防护策略等方面深化技术研究。

来源：2023年第12期

《计算机科学与探索》期刊编辑部

查看计算机科学与探索杂志2023年第12期