计算机科学与探索

作者：常戬, 张辉, 金海波, 王冰冰

单位：辽宁工程技术大学 软件学院，辽宁 葫芦岛 125105

关键词：文本对抗性样本检测,SBERT,对比学习,句子嵌入模型,噪声增强,嵌入相似性

基金：国家自然科学基金（62173171）。

对抗性样本是在原样本上添加微小扰动，使模型以高置信度产生错误输出的样本。由于其在嵌入空间与原样本高度相似，检测难度较大。同时，大多数语言模型并非专为生成高质量嵌入向量设计，难以有效区分对抗性样本与正常样本，尤其在应对复杂的单词级对抗攻击时，细微的语义差异通常难以被捕捉，从而影响检测性能。针对这一局限，提出了一种创新的句子嵌入模型多阶段学习方法，系统优化SBERT模型的嵌入空间表达，显著放大对抗性样本与普通样本的差异性。第一阶段的训练通过对比学习增强SBERT的区分能力，使对抗性样本与正常样本表征分离；第二阶段的训练结合监督对比学习和多级噪声增强，进一步优化嵌入空间，使同类样本更紧密聚集、异类样本充分分离；第三阶段利用分类器将模型的嵌入向量映射为标签。实验在BERT和Mamba模型作为攻击目标的情况下，针对三种分类数据集和多种文本对抗性攻击类型进行测试，结果表明该方法在检测对抗性样本时效果优异，同时也具备出色的跨模型、跨攻击和跨数据集的泛化能力，为文本对抗性样本检测提供了新的方法和思路。

来源：2025年第9期

《计算机科学与探索》期刊编辑部

查看计算机科学与探索杂志2025年第9期