计算机科学与探索

作者：吴涛, 曹新汶, 先兴平, 袁霖, 张殊, 崔灿一星, 田侃

单位：1. 重庆邮电大学 网络空间安全与信息法学院，重庆 4000652. 重庆市网络与信息安全技术工程实验室，重庆 4000653. 重庆邮电大学-重庆中国三峡博物馆智慧文博联合实验室，重庆 400065

关键词：图神经网络,对抗脆弱性,对抗攻击,鲁棒性评测

近年来，图神经网络（GNNs）逐渐成为人工智能的重要研究方向。然而，GNNs的对抗脆弱性使其实际应用面临严峻挑战。为了全面认识GNNs对抗攻击与鲁棒性评测的研究工作，对相关前沿进展进行梳理和分析讨论。介绍GNNs对抗攻击的研究背景，给出GNNs对抗攻击的形式化定义，阐述GNNs对抗攻击及鲁棒性评测的研究框架和基本概念。对GNNs对抗攻击领域所提具体方法进行了总结和梳理，并对其中的前沿方法从对抗攻击类型和攻击目标范围的角度进行详细分类阐述，分析了它们的工作机制、原理和优缺点。考虑到基于对抗攻击的模型鲁棒性评测依赖于对抗攻击方法的选择和对抗扰动程度，只能实现间接、局部的评价，难以全面反映模型鲁棒性的本质特征，从而着重对模型鲁棒性的直接评测指标进行了梳理和分析。在此基础上，为了支撑GNNs对抗攻击方法和鲁棒性模型的设计与评价，通过实验从易实现程度、准确性、执行时间等方面对代表性的GNNs对抗攻击方法进行了对比分析。对存在的挑战和未来研究方向进行展望。总体而言，目前GNNs对抗鲁棒性研究以反复实验为主，缺乏具有指导性的理论框架。如何保障基于GNNs的深度智能系统的可信性，仍需进一步系统性的基础理论研究。

来源：2024年第8期

《计算机科学与探索》期刊编辑部

查看计算机科学与探索杂志2024年第8期