计算机科学与探索杂志

计算机科学与探索杂志2024年第2期

• 工业互联网安全知识图谱构建研究综述

  常钰, 王钢, 朱鹏, 孔令飞, 何京恒

  工业互联网安全知识图谱能够在丰富安全概念语义关系、提高安全知识库质量和增强安全态势可视化分析能力等方面发挥重要作用，已经成为认知、溯源和防护针对新能源工业控制系统攻击的关键。但是，与通用领域知识图谱构建相比，工业互联网安全知识图谱构建的各个环节仍然存在许多问题，影响了其实际应用效果。介绍了工业互联网安全知识图谱的概念、意义和其与通用知识图谱的区别；概括了工业互联网安全知识图谱本体构建的相关工作及其作用；重点研究了在工业互联网安全背景下，构建知识图谱的三个关键环节，即命名实体识别、关系抽取和共指消解的相关工作。对于每个环节，详细报告了该环节在领域背景下的发展历史和研究现状，深入分析了该环节面临的领域特有挑战，如非连续实体识别问题、候选词提取问题和缺乏领域高质量数据集等，并针对特有挑战展望了该环节未来的研究方向，为进一步提升工业互联网安全知识图谱的质量和实用性，从而更有效地应对新兴威胁和攻击提供借鉴和启示。

• 深度学习在乳腺癌影像学检查中的应用进展

  王一凡, 刘静, 马金刚, 邵润华, 陈天真, 李明

  乳腺癌是女性最常见的恶性肿瘤，其早期发现具有决定性意义。乳腺影像学检查在早期发现乳腺癌以及在治疗期间监测与评估方面发挥着重要作用，但人工检测医学影像通常耗时耗力。最近，深度学习算法在早期乳腺癌诊断工作中取得了显著进展。通过梳理近几年的相关文献，对深度学习技术在不同成像模式的乳腺癌诊断中的应用进行了系统综述，旨在为深入开展基于深度学习的乳腺癌诊断研究提供参考。首先概述了乳腺X线摄影、超声影像、磁共振成像和正电子发射计算机断层显像四种乳腺癌成像模式并进行了简要对比，列举了多种成像方式对应的公共数据集。重点对基于上述四种不同成像模式的深度学习架构的不同任务（病变检测、分割和分类）进行了系统的综述，对比分析了各算法性能、改进思路及其优缺点。最后，对现有技术存在的问题进行分析，并针对目前工作的局限性对未来发展方向进行展望。

• 面向图像分类的视觉Transformer研究进展

  彭斌, 白静, 李文静, 郑虎, 马向宇

  Transformer是一种基于自注意力机制的深度学习模型，在计算机视觉中展现出巨大的潜力。而在图像分类任务中，关键的挑战是高效而准确地捕捉输入图片的局部和全局特征。传统方法使用卷积神经网络的底层提取其局部特征，并通过卷积层堆叠扩大感受野以获取图像的全局特征。但这种策略在相对短的距离内聚合信息，难以建立长期依赖关系。相比之下，Transformer的自注意力机制通过直接比较特征在所有空间位置上的相关性，捕捉了局部和全局的长距离依赖关系，具备更强的全局建模能力。因此，深入探讨Transformer在图像分类任务中的问题是非常有必要的。首先以Vision Transformer为例，详细介绍了Transformer的核心原理和架构。然后以图像分类任务为切入点，围绕与视觉Transformer研究中的性能提升、计算成本和训练优化相关的三个重要方面，总结了视觉Transformer研究中的关键问题和最新进展。此外，总结了Transformer在医学图像、遥感图像和农业图像等多个特定领域的应用情况。这些领域中的应用展示了Transformer的多功能性和通用性。最后，通过综合分析视觉Transformer在图像分类方面的研究进展，对视觉Transformer的未来发展方向进行了展望。

• 图像处理中注意力机制综述

  祁宣豪, 智敏

  图像处理中的注意力机制已成为深度学习领域中流行且重要的技术之一，因其具有优秀的即插即用便利性，被广泛应用于图像处理领域的各种深度学习模型中。注意力机制通过对输入特征进行加权处理，将模型的注意力集中于最重要的区域，以提升图像处理任务的准确性和性能。首先，将注意力机制的发展过程划分为四个阶段，并在此基础上对通道注意力、空间注意力、通道与空间混合注意力和自注意力四个方面的研究现状及进展进行了回顾与总结；其次，针对注意力机制的核心思想、关键结构和具体实现进行了详细的论述，并进一步总结和归纳所使用模型的优缺点；最后，通过对当前主流的注意力机制进行对比实验和结果分析，讨论了现阶段注意力机制在图像处理领域中存在的问题，并对图像处理领域中注意力机制的未来发展进行展望，为进一步研究提供参考。

• 多任务推荐算法研究综述

  温民伟, 梅红岩, 袁凤源, 张晓宇, 张兴

  单任务推荐算法存在数据稀疏、冷启动和推荐效果不稳定等问题。多任务推荐算法可以将多种类型的用户行为数据和额外信息进行联合建模，从而更好地挖掘用户的兴趣和需求，以提高推荐效果和用户满意度，为解决单任务推荐算法存在的一系列问题提供了新思路。首先，梳理了多任务推荐算法的发展背景与趋势。其次，介绍了多任务推荐算法的实现步骤以及构建原则，并阐述了多任务学习具有数据增强、特征识别、特征互补和正则化效应等优势。然后，对不同共享模式的多任务学习方法在推荐算法中的应用进行了介绍，并对部分经典模型的优缺点及任务之间的关系进行了归纳总结。接着，介绍了多任务推荐算法常用的数据集和评估指标，并阐述了与其他推荐算法在数据集合评估指标方面的区别和联系。最后，指出多任务学习存在负迁移、参数优化冲突、可解释性差等不足，对多任务推荐算法与强化学习、凸函数优化方法、异构信息网络相结合进行了展望。

• 融合强化学习的三支治略选择及其有效性分析

  刘晓雪, 姜春茂

  三支决策的“分、治、效”（TAO）模型包括构建三分、施加策略、结果评估三个部分。目前，关于结果评估的研究旨在衡量策略施加后结果的前后变化，还无法预测施加哪个策略能达到最大效果。为了解决这一问题，对TAO模型的“治”和“效”进行了研究，提出一种基于强化学习的三支改变模型的策略选择与有效性预测的方法。首先将改变三支决策TAO模型中的改变三分状态和策略分别作为强化学习中的状态和动作，并将每次施加策略得到新的改变三分状态的过程看作一个周期，利用累积前景理论计算每个周期产生的奖励，将智能体与环境的交互过程用马尔可夫决策过程来表示；其次设置一个目标奖励，将各个周期的累计奖励达到目标奖励时的状态作为马尔可夫决策过程的终止状态；然后用Q-learning算法迭代出一个最短周期内达到目标奖励的策略序列，同时利用该策略序列预测当前改变三分状态的未来效用。最后使用一个实例体现出该方法实用性和有效性。

• 面向Shapelet空间的多变量时间序列密度聚类算法

  盛锦超, 杜明晶, 孙嘉睿, 李宇蕊

  多变量时间序列聚类问题已经成为时间序列分析任务中重要的研究课题，相较于单变量时间序列，多变量时间序列的研究复杂性更高，难度更大。尽管当前已经提出了许多针对多变量时间序列的聚类算法，但是这些算法在精度和解释性方面仍旧不足。其一，当前大部分工作并未考虑多变量时间序列的长度冗余性和变量相关性等问题，导致最终得到的相似性矩阵具有较大误差；其二，数据在聚类过程中普遍采用划分范式，当数值空间呈现复杂分布时该思想表现不佳，并且不具备对各个变量及空间的解释力。针对上述问题，提出了一种面向Shapelet（富有高信息量的连续子序列）空间的多变量时间序列自适应权重密度聚类算法（MDCS）。算法首先对各个变量进行Shapelet搜索，通过自适应策略获取到各自的Shapelet空间，接着对各个变量产生的数值分布进行组合加权，得到了更符合数据分布特征的相似度矩阵，最后利用改进密度计算和二次分配的共享最近邻密度峰值聚类算法对数据进行最终分配。在真实数据集上的实验结果证明，与目前先进的聚类算法相比，MDCS拥有更好的聚类结果，在标准化互信息和兰德系数指标上平均提高了0.344与0.09，兼顾了性能与可解释性。

• 领导者引导与支配解进化的多目标矮猫鼬算法

  赵世杰, 张红易, 马世林

  面对现实中日益复杂的多目标优化问题，需要发展新型多目标优化算法应对挑战。提出一种基于领导者引导与支配解动态缩减进化的多目标矮猫鼬优化算法（MODMO）。领导者引导机制通过引入动态权衡因子以调控侦察猫鼬探寻土丘的搜索半径，同时以非劣解集构建外部存档并根据非支配排序层级确定出领导者，进而引导侦察猫鼬向多目标前沿面推进以改善算法的收敛性；支配解动态缩减进化策略是为克服非劣解外部存档维护过程中的解冗余问题而构建，其以支配关系和拥挤距离动态筛选支配解并存入外部存档，以支配解信息融入种群进化实现多目标潜在前沿的挖掘并增强算法的多样性。在ZDT、DTLZ与WFG基准函数上，与5种代表性比较算法的实验结果表明MODMO算法在收敛性与多样性上均具有显著优势。

• 向量角选择和指标删除的高维多目标进化算法

  顾清华, 骆家乐, 李学现

  针对进化算法求解高维多目标优化问题平衡收敛性和多样性所面临的挑战，提出了向量角选择和指标删除的高维多目标进化算法（MOEA/AS-ID）。该算法在环境选择过程中设计了一种包含两种策略的协作机制逐一删除收敛性和多样性差的解以保留精英个体参与下一代的进化。前者基于向量角的选择策略用于选择一对在目标空间具有相似搜索方向的解，后者基于指标的删除策略采用同时兼顾个体收敛性和分布性的[ISDE+]指标比较被选择的这一对解，然后删除具有较小指标值的解，进而促使种群朝各个方向收敛到帕累托最优前沿，最终平衡解集的收敛性和多样性。在包含各种特征的3组标准测试系列问题DTLZ、SDTLZ、MaF上，MOEA/AS-ID与近年提出的6个涵盖了当前各种类型的高维多目标进化算法执行了广泛的对比仿真实验和数值结果分析。仿真结果和数值分析表明所提算法MOEA/AS-ID求解各种特征的高维多目标优化问题平衡收敛性和多样性的能力具有较强的竞争力。

• 基于直觉模糊知识量的图像噪声检测与去除

  郭凯红, 周永志, 吴峥, 张蕾

  针对现有依赖于有缺陷的直觉模糊熵（IFE）理论的图像噪声检测算法的不足，引入最新知识测度（KM）理论及模型，提出一种基于直觉模糊知识量（IFAK）的图像噪声检测与去除方法。噪声检测阶段，基于直觉模糊最大知识量确定噪声图前景、背景最佳平均灰度值，据此构建噪声检测参数化模型，实现噪点及疑似噪点的概率标记，表现出优良的噪声检测能力。噪声去除阶段，利用噪声概率矩阵提出一种基于直觉模糊知识量及概率噪声的去噪模型，在有效去噪的同时，更好地保护图像边缘及非噪声极值像素的特征。对比实验针对标准数据集及经典测试图分别进行，实验结果表明，所提方法能够准确识别图像脉冲噪声，有效实现图像去噪，整体性能及表现优于同类其他算法，关键指标值PSNR提升14.81%，SSIM提升11.35%。将知识测度新理论应用于图像去噪中，取得优良的评价指标与视觉效果，同时也实现该理论在其他相关领域的创新应用。

• 引入上下文信息和Attention Gate的GUS-YOLO遥感目标检测算法

  张华卫, 张文飞, 蒋占军, 廉敬, 吴佰靖

  目前基于通用YOLO系列的遥感目标检测算法存在并未充分利用图像的全局上下文信息，在特征融合金字塔部分并未充分考虑缩小融合特征之间的语义鸿沟、抑制冗余信息干扰的缺点。在结合YOLO算法优点的基础上提出GUS-YOLO算法，其拥有一个能够充分利用全局上下文信息的骨干网络Global Backbone。除此之外，该算法在融合特征金字塔自顶向下的结构中引入Attention Gate模块，可以突出必要的特征信息，抑制冗余信息。另外，为Attention Gate模块设计了最佳的网络结构，提出了网络的特征融合结构U-Net。最后，为克服ReLU函数可能导致模型梯度不再更新的问题，该算法将Attention Gate模块的激活函数升级为可学习的SMU激活函数，提高模型鲁棒性。在NWPU VHR-10遥感数据集上，该算法相较于YOLOV7算法取得宽松指标mAP0.50 1.64个百分点和严格指标mAP0.75 9.39个百分点的性能提升。相较于目前主流的七种检测算法，该算法取得较好的检测性能。

• 融合中式元素的三维室内场景情绪化渲染

  盛家川, 胡国林, 李玉芝

  情绪具有主观性，利用计算机技术自动生成一个既满足真实性又与目标情绪匹配的虚拟室内场景是一项充满挑战的任务。目前缺乏对室内场景情感表达进行识别和评估的技术方法，且在充分考虑情感诉求的前提下，如何提升场景渲染结果真实性也是室内场景设计需要考虑的重要因素。针对上述问题，提出了一种融合中式元素的虚拟室内场景情绪化渲染算法。首先，利用深度学习算法从一个包含25 000张图片的家庭室内场景数据集中提取不同情绪的特征，训练情绪分类器，用于识别和评估渲染过程中虚拟室内场景的情绪表达。其次，为了保证渲染结果真实性，设计了一种场景物体纹理颜色真实性度量算法。然后，研究了根据目标情绪自动渲染虚拟室内场景的优化算法、融合中式元素的风格迁移算法，对场景中的物体进行细粒度的中式风格化处理，提升渲染结果的空间内涵、文化底蕴以及情感表达，增强视觉感染力。最后，在四个不同的室内场景中对该算法进行了实验，并通过对实验结果和用户调研数据的统计分析验证了该算法的正确性和有效性。

• 融合平衡权重和自监督的类增量学习方法

  巩佳义, 许鑫磊, 肖婷, 王喆

  针对图像分类中类增量学习的知识灾难性遗忘现象，现有类增量学习方法着重于模型分类层的不平衡偏移修正，忽视了模型特征层的偏移，未能良好解决类增量学习所面临的新旧类别不平衡问题。为此，提出一种新的类增量学习方法，称为融合平衡权重和自监督的类增量学习方法（BWSS）。首先，BWSS利用旧类在训练中预测期望低的特点设计了自适应的平衡权重，扩大旧类的损失回传占比以修正整个模型的偏移。其次，BWSS引入自监督模块，将样例的旋转角度预测作为辅助任务，强化模型对冗余特征和共性特征的表达能力，以更好地支撑增量任务。通过与主流类增量学习算法在公开数据集CIFAR-10和CIFAR-100上的实验对比，证明BWSS不仅在类别少样例多的CIFAR-10上增量性能更优，在类别多样本少的CIFAR-100上同样具有优势。通过消融实验和特征可视化，验证了所提方法对模型的特征表示能力和增量性能是有效的。BWSS在CIFAR-10上的5阶段增量任务最终准确率达到了76.9%，相比基线方法提高了5个百分点。

• 融合描述信息和结构特征的知识图谱链接预测

  陈加兴, 胡志伟, 李茹, 韩孝奇, 卢江, 闫智超

  知识图谱普遍存在知识不完整的问题，这使得链接预测成为知识图谱的重要研究内容。现有模型仅关注三元组的嵌入表示，一方面，在模型的输入仅对实体和关系的嵌入表示进行随机初始化，并未融入实体及关系的描述信息，会缺失语义信息；另一方面，在解码时忽略三元组自身结构特征对链接预测结果的影响。针对上述问题，提出一种融合描述信息与结构特征的知识图谱链接预测模型BFGAT。BFGAT模型利用BERT预训练模型编码实体和关系的描述信息，并将描述信息融入到实体与关系的嵌入表示中，解决缺失语义信息的问题；在编码过程使用图注意力机制聚合邻接节点的信息，解决目标节点获得更为丰富信息的问题；在解码过程把三元组的嵌入表示拼接成矩阵，采用基于CNN卷积池化的方法，解决三元组结构特征的问题。该模型在公开数据集FB15k-237和WN18RR上进行了详细的实验，实验表明BFGAT模型能有效提高知识图谱链接预测的效果。

• 采用快速迁移模型的集成特征选择方法

  宁保斌, 王士同

  相较于传统集成特征选择方法，目前的基于块正则化[m×2]交叉验证的集成特征选择方法（EFSBCV）不仅具有估计量的方差小于随机[m×2]交叉验证的方差之特点，而且提高了重要特征的入选概率，降低了噪声特征的入选概率。但EFSBCV所采用的线性回归模型因只有误差项而不包含偏置项，故拟合出来的超平面总是过原点的，因而很容易导致欠拟合，而且EFSBCV没有考虑每个特征子集的重要程度。针对EFSBCV方法存在的这两点问题，提出了基于快速迁移模型的集成特征选择方法（EFSFT）。基本思想是EFSBCV中的基特征选择器采用提出的快速迁移模型，从而引入了偏置项，EFSFT将[2m]个特征子集作为源知识进行迁移，然后重新量化每个特征子集的权重，加入偏置项的线性模型拟合能力更好。真实数据实验表明，EFSFT相对于EFSBCV，FP平均值降低了58%，证明EFSFT在去除噪声特征方面更具优势。EFSFT相对于最小二乘支持向量机（LSSVM），TP平均值提高了5%，证明EFSFT在筛选重要特征方面更具优势。

• 多尺寸注意力的命名实体识别方法

  唐瑞雪, 秦永彬, 陈艳平

  命名实体识别（NER）任务的准确性将促进自然语言领域中诸多下游任务的研究。由于文本中存在大量嵌套语义，导致命名实体识别困难，成为自然语言处理中的难点。以往研究提取特征尺度单一，边界信息利用不够充分，忽略了不同尺度下的许多细节信息，从而造成实体识别错误或遗漏的情况。针对上述问题，提出一种多尺度注意力的命名实体识别方法（MSA-NER）。首先，利用BERT模型得到包含上下文信息的表示向量，并通过BiLSTM网络加强文本的上下文表示。其次，将表示向量进行枚举拼接形成跨度信息矩阵，并融合方向信息获得更丰富的交互信息。然后，利用多头注意力构建多个子空间，通过二维卷积在每个子空间下可选地聚合不同尺度的文本信息，在每个注意力层同时进行多尺度的特征融合。最后，将融合的矩阵进行跨度分类以识别命名实体。实验表明，该方法在GENIA和ACE2005英文数据集上[F1]分别达到81.7%和86.8%，与现有主流模型相比有更好的识别效果。

• 面向车载自组织网络的混合信任管理方案研究

  项丹, 陈泽茂

  随着智能交通的快速发展，车载自组织网络（VANETs）具有广阔的发展前景，但也面临多种安全威胁。针对车载自组织网络中可能存在的内部攻击者和虚假消息，提出了一种分布式的混合信任管理方案 HTMS-V。该方案考虑到车载自组织网络的特性，基于改进的主观逻辑模型结合直接信任和间接信任对网络中的车辆节点进行信任评估，基于节点间的交互记录建立节点间的信任关系；基于节点信任和节点间距离进行消息信任评估，并根据信任评估结果识别网络中的虚假消息和恶意节点。为了验证所提出方案的性能，设计了四种不同的攻击场景，在车辆网络仿真平台Veins上进行对比实验，测试HTMS-V方案在各种攻击场景下的表现。实验结果表明，HTMS-V方案能有效抵抗车载自组织网络中的各种攻击，在40%恶意节点率的情况下仍能识别大部分虚假消息和恶意节点，且HTMS-V方案的表现明显优于由主观逻辑模型和基于距离的加权投票构成的基线方案。

• 可添加量不受限的对抗样本

  蒋周杰, 陈意, 熊子漫, 郭春, 申国伟

  基于灰度图像和深度学习的恶意软件检测方法具有无需特征工程和检测精度高的特点，通过对抗样本能够欺骗该类检测方法。然而当前大部分研究所生成的对抗样本难以在不破坏原文件功能完整性的情况下大幅度降低该类检测方法对其的判别准确性。在分析可移植可执行（PE）文件的结构以及加载机制的基础上，提出一种不破坏PE文件原有功能且可添加量不受限的字节码攻击方法（BAUAA）。BAUAA通过在PE文件中分散于各区段之后且不会载入内存的“区段附加空间”添加字节码来生成对抗样本，并且由于该空间具有可添加量不受限的特点，可使得生成的对抗样本所转化的灰度图像在尺寸和纹理上发生变化，从而能够影响基于灰度图像和深度学习的恶意软件检测方法对其的判别准确性。实验结果表明，基于灰度图像和深度学习的恶意软件检测方法判别BAUAA所生成对抗样本的准确率明显低于其判别非对抗样本的准确率。为避免在现实中滥用BAUAA，提出一种针对性的对抗样本检测方法。

• zk-SNARK中数论变换的硬件加速方法研究

  赵海旭, 柴志雷, 花鹏程, 王锋, 丁冬

  简洁非交互式零知识证明能够生成长度固定的证明并快速进行验证，极大地推动了零知识证明在数字签名、区块链及分布式存储等领域的应用。但其证明的生成过程极其耗时且需要被频繁调用，其中数论变换是证明生成过程的主要运算之一。然而现有的通用数论变换硬件加速方法难以满足其在简洁非交互式零知识证明中大规模、高位宽的要求。针对该问题，提出一种数论变换多级流水硬件计算架构。针对高位宽计算需求对高位模运算进行优化，设计了低时延蒙哥马利模乘单元；为了加速大规模计算，通过二维子任务划分将大规模数论变换任务划分为小规模独立子任务，并通过消除数据依赖实现了子任务间计算流水；在子任务多轮蝶形运算之间采用数据重排机制，有效缓解了访存需求并实现了不同步长蝶形运算间的计算流水。所提出的数论变换计算架构可以根据现场可编程门阵列（FPGA）片上资源灵活扩展，方便部署在不同规模的FPGA上以获得最大加速效果。所提出的硬件架构使用高层次综合（HLS）开发并基于OpenCL框架在AMD Xilinx Alveo U50实现了整套异构加速系统。实验结果表明，相比于PipeZK中的数论变换加速模块，该方法获得了1.95倍的加速比；在运行当前主流的简洁非交互式零知识证明开源项目bellman时，相比于AMD Ryzen 9 5900X单核及12核分别获得了27.98倍和1.74倍的加速比，并分别获得了6.9倍、6倍的能效提升。