计算机科学与探索杂志

计算机科学与探索杂志2022年第7期

• 知识增强型预训练语言模型综述

  韩毅, 乔林波, 李东升, 廖湘科

  知识增强型预训练语言模型旨在利用知识图谱中的结构化知识来强化预训练语言模型,使之既能学习到自由文本中的通用语义知识,又能够学习到文本背后的现实实体知识,从而有效应对下游知识驱动型任务。虽然该方向研究潜力巨大,但相关工作目前尚处初期探索阶段,并未出现全面的总结和系统的梳理。为填补该方向综述性文章的空白,在归纳整理大量相关文献的基础上,首先从引入知识的原因、引入知识的优势、引入知识的难点三方面说明了知识增强型预训练语言模型产生的背景信息,总结了其中涉及的基本概念;随后列举了利用知识扩充输入特征、利用知识改进模型架构以及利用知识约束训练任务等三大类知识增强方法;最后统计了各类知识增强型预训练语言模型在评估任务上的得分情况,分析了知识增强模型的性能指标、目前面临的困难挑战以及未来可能的发展方向。

• 基于位置社交网络的兴趣点推荐系统研究综述

  陈江美, 张文德

  兴趣点推荐是近年来位置社交网络和推荐系统领域研究的热点之一,了解兴趣点推荐在位置社交网络方面的发展现状,有利于为下一步的研究提供方向。对国内外兴趣点推荐系统的相关文献进行梳理,首先介绍了兴趣点推荐系统的概念,并从影响推荐的因素、推荐方法和推荐存在的问题三方面探讨其与传统推荐的区别。然后提出了兴趣点推荐系统的基本框架,该框架包含了数据来源、推荐方法和算法评价三个核心部分。以该框架为基础,介绍了影响兴趣点推荐的多种因素,归纳了现有的兴趣点推荐算法,总结了算法的评价指标。同时对代表性工作进行了分析介绍,详细总结了各种方法的研究内容与特点,并评价了其优势与不足。最后对该领域所面临的挑战和潜在的研究方向进行了总结与展望,给出了未来的研究趋势和发展方向。

• 面向深度学习的多模态情感识别研究进展

  赵小明, 杨轶娇, 张石清

  多模态情感识别是指通过与人类情感表达相关的语音、视觉、文本等不同模态信息来识别人的情感状态。该研究在人机交互、人工智能、情感计算等领域有着重要的研究意义,备受研究者关注。鉴于近年来发展起来的深度学习方法在各种任务中所取得的巨大成功,目前各种深度神经网络已被用于学习高层次的情感特征表示,用于多模态情感识别。为了系统地总结深度学习方法在多模态情感识别领域中的研究现状,拟对近年来面向深度学习的多模态情感识别研究文献进行分析与归纳。首先,给出了多模态情感识别的一般框架,并介绍了常用的多模态情感数据集。然后,简要回顾了代表性深度学习技术的原理及其进展。随后,重点详细介绍了多模态情感识别中的两个关键步骤的研究进展：与语音、视觉、文本等不同模态相关的情感特征提取方法,包括手工特征和深度特征;融合不同模态信息的多模态信息融合策略。最后,分析了该领域面临的挑战和机遇,并指出了未来的发展方向。

• 视频目标跟踪算法综述

  刘艺, 李蒙蒙, 郑奇斌, 秦伟, 任小广

  视频目标跟踪是计算机视觉领域重要的研究内容,主要研究在视频流或者图像序列中定位其中感兴趣的物体。视频目标跟踪在视频监控、无人驾驶、精确制导等领域中具有广泛的应用,因此,全面地综述视频目标跟踪算法具有重要的意义。首先根据挑战来源不同,将视频目标跟踪技术面临的挑战分为目标自身因素和背景因素两方面,并分别进行总结;其次将近些年典型的视频目标跟踪算法分为基于相关滤波的视频目标跟踪算法和基于深度学习的视频目标跟踪算法,并进一步将基于相关滤波的视频目标跟踪算法分为核相关滤波算法、尺度自适应相关滤波算法和多特征融合相关滤波算法三类,将基于深度学习的视频目标跟踪算法分为基于孪生网络的视频目标跟踪算法和基于卷积神经网络的视频目标跟踪算法两类,并对各类算法从研究动机、算法思想、优缺点等方面进行分析;然后介绍了视频目标跟踪算法中常用的数据集和评价指标;最后总结了全文,并指出视频目标跟踪领域未来的发展趋势。

• 多旅行商模型及其应用研究综述

  张硕航, 郭改枝

  多旅行商问题（MTSP）作为经典旅行商问题（TSP）的一种泛化,是著名的组合优化问题之一。但多旅行商问题作为经典NP-hard问题,其问题规模以及运算复杂度都对求解方法有着极高的要求。重点关注多旅行商问题,首先对MTSP模型的几种特征、目标函数、问题约束以及变体进行了细分。其次对目前常见的几种启发式算法在求解MTSP上的具体方法进行了归类与整理,同时比较了在不同算法下优化目标与解决方法的相同之处与不同之处,以便于更直观理解不同算法间解决多旅行商问题的一般方法。随着多旅行商问题的不断发展,学者们已不满足于单纯解决数学问题,开始尝试将许多符合条件的实际问题看作多旅行商问题。归纳了在物流配送、无线传感网、应急救援和无人机协同任务规划等实际应用背景下MTSP模型的具体构建方式,从应用成果来看,利用MTSP模型解决实际问题不仅可以降低企业和个人成本,提升收益,还可以推动该领域向着更高效智能的方向发展。主要针对多旅行商模型及其应用展开了研究,填补了这一研究领域的空白。

• 多网络混合嵌入学习的服务推荐方法研究

  王雪纯, 吕晟凯, 吴浩, 何鹏, 曾诚

  网络嵌入是将网络节点投影到一个向量空间,从而有效地提取网络中各节点的特征信息。在服务推荐领域,已有研究表明引入网络嵌入方法能有效缓解推荐过程中数据稀疏等问题。但现有的网络嵌入方法多针对某一种特定结构的网络,并没有从根源上协同多种关系网络。因此,从垂直和平行两个角度将多种关系网络映射到同一个向量空间,提出一种基于多网络混合嵌入的服务推荐模型（MNHER）。首先,构建用户社交关系网络、服务标签共有网络、用户-服务异质信息网络;然后,通过多网络混合嵌入学习,得到用户和服务在同一向量空间的嵌入向量;最后,应用用户和服务的表征向量向目标用户推荐服务。此外,也对嵌入学习中的随机游走方法进行了优化,确保能更有效地提取和保留原网络的特征信息。为验证该方法的有效性,在三个公开数据集上与多种代表性的服务推荐方法进行了对比分析,相比基于单一关系网络和简单融合多关系网络的服务推荐方法,F-measure值分别可提高21%、15%。实验结果证明了多网络混合嵌入方法可有效地协同多关系网络,提高服务推荐质量。

• 面向智慧康养的数据集构建方法及其应用

  张麟宇, 涂志莹, 杭少石, 张柏林, 初佃辉

  互联网和计算机技术的快速发展,使得在人口老龄化的今天发展智慧康养服务成为可能。然而,养老领域的数据问题严重地制约着该领域的智慧化进程。真实数据的缺失、脏数据的干扰以及标准样本过少等问题层出不穷。针对数据集缺失问题,在收集了某市社区康养的小样本数据基础上,提出了一种基于机器学习的三阶段数据生成模型：第一阶段,使用基于树形结构的生成策略,按照原始数据的分布生成了数据集的基础属性;第二阶段,使用朴素贝叶斯算法生成样本的基础行为能力评估指标;第三阶段,在前两个阶段的基础上采用多元线性回归的方法生成高阶行为能力指标以及评估阶段。此外,为验证该模型生成的数据集对下游任务的有效性,在生成数据基础上,利用神经网络设计多个康复训练计划推荐模型,实现5个多分类任务和2个多标签分类任务。通过对实验结果的分析以及专家知识的注入,验证了生成数据的真实性和有效性。

• 小样本负载序列的结构化预测方法

  刘春红, 张志华, 焦洁, 程渤

  准确的负载预测是实现云平台弹性资源管理的关键。针对云负载预测中存在大量运行周期较短的任务,导致预测模型训练数据不足的问题,提出一种利用多变量负载序列结构化信息的预测方法（SP-MWS）。依据同一任务运行中消耗的多种资源间内在的相关性,挖掘多维负载序列间的信息,补充小样本序列的预测信息量。首先,为获取相关性强的负载类型,采用最大互信息系数（MIC）和信息熵进行负载类型的度量选择;然后,构建核范数正则化多任务学习模型（TNR-MTL）,将相关负载序列同时输入,实现其结构化信息的挖掘,并完成多种负载的同时预测。在Google云平台的运行监控日志数据集上进行验证,实验结果表明,所提方法获得的相关负载序列类型可明显增加模型信息量。对于预测模型的决策依据进行解释性分析,可视化每种变量对预测结果的贡献度;对比实验表明,所提预测方法在时间性能和预测精度上均优于常用的负载预测方法。

• 融合多维信息的Web服务表征方法

  张祥平, 刘建勋, 肖巧翔, 曹步清

  随着面向服务体系结构（SOA）技术的发展,Web服务的数量增长迅速。正确高效地对Web服务进行聚类或分类,能够有效地提高服务发现质量以及促进服务组合效率。然而,现有的Web服务建模方法（如LDA主题模型）难以从稀疏的Web服务数据中获得精确有效的信息用于Web服务聚类。针对这个问题,提出了一种融合多维信息的Web服务表征方法（MISR）。首先,将高斯混合模型和Word2Vec算法相结合生成包含Web服务功能主题信息和语义信息的词向量表征。然后,抽取出Web服务中包含的标签-词汇信息、流行度以及Web服务共现信息,结合前一步生成的向量生成包含多维信息的Web服务表征向量。最后,在Web服务聚类和Web服务分类两个任务上对MISR方法的有效性进行验证。在真实数据集上进行Web API服务聚类实验,实验结果表明,相比于LDA、Word2Vec、Doc2Vec、WT-LDA、HDP-SOM、GWSC,提出的方法在Micro-F1值上有38.8%、54.5%、15.3%、33.3%、44.7%、9.7%的提升。

• 面向OpenVX核心图像处理函数的并行架构设计

  潘风蕊, 李涛, 邢立冬, 张好聪, 吴冠中

  传统的可编程处理器虽然高度灵活,但其处理速度及性能不及专用集成电路（ASIC）,而图像处理往往是多样、密集且重复的操作,因此处理器要兼顾速度、性能及灵活性。OpenVX是图像图形处理、图计算和深度学习等应用的预处理或者辅助处理开源标准,基于最新的OpenVX 1.3标准中的核心图像处理函数库,设计并实现了一种可编程、可扩展的专用指令集处理器（ASIP）——OpenVX并行处理器。首先分析对比了各种互联网络的拓扑特性,选择了性能比较突出的层次交叉互联网络（HCCM+）作为系统主干,在网络节点处设置处理单元（PE）构成支持动态配置的4×4 PE阵列,结合高效的路由通信方式设计了并行处理器,实现可编程的图像处理。其次所提出的架构适合数据并行计算和新兴的图计算,两种计算模式可单独或混合配置使用,分别将核心视觉函数及图计算模型映射到并行处理器上对两种模式进行验证,对比PE数目不同的情况下图像处理的速度。实验结果表明,并行处理器能够完成对基本核心函数和高复杂度的图计算模型的映射,在数据并行计算和流水线处理两种模式下,可以对图像处理线性加速,调用16个PE对各类函数的平均加速比可达15.037 5。验证环境采用20 nm XCVU440平台芯片,综合实现后频率为125 MHz。

• OpenVX特征抽取函数在可编程并行架构的实现

  张好聪, 李涛, 邢立冬, 潘风蕊

  针对数字图像处理计算量大、串行结构计算速度慢等特点,完成了最新的开源OpenVX计算机视觉加速规范1.3中底层特征抽取核函数的并行实现,使用自主设计的OpenVX可编程并行处理器进行了验证。在对图像的底层特征提取中,前期滤波及平滑处理选择OpenVX 规范1.3中基本像素点处理函数Color Convert（颜色转换）和局部图像处理函数Gaussian Filter（高斯滤波）、Median Filter（中值滤波）等,核心的特征抽取操作选择Harris Corners（哈里斯角点检测）和Canny Edge Detector（坎尼边缘检测）核函数,通过将计算量大的复杂结点拆分为多个简单结点,构建不同的基于图的执行模型,并映射在OpenVX并行处理器上,分别实现图像的边缘检测和特征点抽取。使用Verilog语言设计整体硬件电路,经Xilinx公司的FPGA芯片xcvu440-flga-2892-2-e综合验证,与串行映射结构相比,所选核函数在OpenVX可编程并行处理器上的并行加速比最高可达14.269。实验结果表明,OpenVX规范1.3中的核函数尤其是复杂核函数能够在本并行处理结构上达到预期的加速效果,且并行与串行结构加速比呈线性增长。

• 引入激活加权策略的分组排序学习方法

  李玉轩, 洪学海, 汪洋, 唐正正, 班艳

  排序学习（LtR）将有监督机器学习技术（SML）用于解决排序问题,旨在给出输入文档列表的相关度更优化的排序结果。此前关于深度排序模型的研究,对于列表内文档的相关度计算彼此独立,缺乏考虑文档之间的相互作用。近年来一些新方法致力于挖掘文档之间的相互影响,如分组评分法（GSF）,通过学习多元变量评分函数来联合判断文档相关性,但大多忽略了文档间相互影响的差异性,同时增加了很大的计算代价。针对此问题,提出了一种带权重的分组深度排序模型（W-GSF）。该方法借鉴推荐领域的深度兴趣网络,引入其根据候选商品调整历史行为序列权重的思想,在排序学习中多元评分法基础上,以多层前馈神经网络为主体结构,并在输入端加入激活单元,利用神经网络自适应学习调整输入的多元变量的权重,来挖掘交叉文档关系的差异性。在公共基准数据集MSLR上的实验验证了该方法的有效性,相比基线排序模型,激活策略的引入带来了排序指标上的明显提升,同时相对于同等效果的排序方法计算量大幅降低。

• 融合自注意力机制的长文本生成对抗网络模型

  夏鸿斌, 肖奕飞, 刘渊

  近年来,人类与计算机之间的通信已经达到密不可分的程度,因此自然语言处理作为人类与机器进行交互的技术越来越受到研究者的关注,文本生成是自然语言处理中的常见任务之一,目前生成对抗网络在文本生成领域广泛使用并且性能优异。针对传统生成对抗网络判别器的标量指导信号稀疏性问题和仅能学习文本局部语义信息的限制,提出了一种基于多头自注意力机制与LeakGAN结合的模型（SALGAN）。首先,采用融入多头自注意力机制的CNN模型作为特征提取器提取特征向量,以增强特征提取能力;其次,判别器提取的特征作为逐步指导信号发送给生成器以指导生成器生成文本,使得生成的文本更倾向于参考文本;最后,生成器完成文本生成后传递给判别器判断真假,确认文本是否符合人类语言标准。在两个真实数据集COCO图像字幕和EMNLP2017新闻上进行实验,采用BLEU指标进行评估。实验结果表明,将多头自注意力机制融入CNN模型后文本包含全局语义信息,CNN模型的特征提取性能有明显的提升。

• 时空轨迹和复合收益的动态上车点推荐

  郭羽含, 刘秋月

  随着互联网技术的快速发展,网约车已成为出行的重要方式。通过智能手段为用户推荐上车点不仅可有效实现分流缓解道路拥堵,也可减少乘客与司机的沟通成本,提升司机的服务效率并降低乘客的等待时间,从而提高司乘双方的出行体验感。但现存推荐方法所依据的指标较为单一,未在乘客便利性与司机收益之间取得较好平衡,且无法保证所推荐上车点的安全性与可达性。通过对时空轨迹大数据的归纳与分析,提取保证可达性的潜在上车点,避免依据单一指标推荐上车点所导致的偏袒性问题,综合考虑乘客步行收益、司机驾驶收益、上车点路况指标、周边安全性等关键因素,建立上车点的复合收益评价,构建上车点的动态推荐模型。以约束控制同时段同上车点的推荐量,有效解决由于单上车点订单堆积而造成的非必要等待和资源浪费,在一定程度上缓解交通压力。基于真实网约车数据的实验表明,该模型和推荐方法可实现上车点的有效动态分配,较单一指标上车点推荐方法有较好的综合收益与时间优势。从司机与乘客双方角度出发,在降低行程总时间的基础上,提升全局司机接驾效率并降低乘客等待时间,且推荐结果的综合评价值优于现存推荐方法。

• 混合优化算法求解同时送取货车辆路径问题

  李珺, 段钰蓉, 郝丽艳, 张维维

  为了给各物流企业在车辆配送路径规划方面提供合理有效的决策支持,针对单配送中心的配送模式,研究带时间窗约束的同时送取货车辆路径问题（VRPSDPTW）,建立以总配送成本最小化为目标的数学模型。根据模型的特征,提出基于模拟退火（SA）与自适应大规模邻域搜索（ALNS）相结合的混合优化算法（SA-ALNS）。采用基于时间与距离加权的插入启发式算法构造问题的初始解;引入多种删除、插入算子,以自适应选择策略进行路径优化,并通过反馈机制,逐渐调整各操作算子被选择的概率,使算法更倾向于选择寻优效果较好的算子;使用模拟退火机制的Metropolis准则控制解的更新。仿真实验中测试了56个大规模算例,对比了p-SA算法、DCS算法和VNS-BSTS等其他智能优化算法并进行统计分析,结果证明该算法在求解带时间窗约束的同时送取货车辆路径问题的可行性和优越性,研究成果极大丰富了车辆路径问题（VRP）的相关研究。

• 利用ELM-AE和迁移表征学习构建的目标跟踪系统

  杨政, 邓赵红, 罗晓清, 顾鑫, 王士同

  在目标跟踪算法中,特征模型对图像特征的快速学习能力和对跟踪过程中目标特征变化的自适应能力一直是目标跟踪算法的主要研究方向之一。特别是对于基于图像块学习的判别式目标跟踪器而言,这两点已然成为影响跟踪器效率和鲁棒性的决定性因素。然而,现有的大多数同类算法在这两个能力上的性能并不能达到令人满意的效果。为了解决这一问题,提出了一种高效且鲁棒的特征模型。该特征模型首先利用基于极限学习机的自编码器（ELM-AE）对目标和背景图像块的复杂图像特征快速地进行随机特征映射,再利用迁移表征学习（TRL）的迁移学习能力提高随机特征空间的自适应性。将该特征模型命名为基于ELM自编码器和迁移表征学习的特征模型（TRL-ELM-AE）。与原复杂图像特征相比,通过该模型可以获得更加紧凑且具有表达能力的共享特征。从而使得分类器可以快速高效地学习和分类。此外,在目标跟踪过程中,目标与背景通常会随着时间不停地变化。虽然TRL的特征迁移能力已经可以很好地适应这一点,但是为了进一步提高跟踪器的鲁棒性,还采用了一种动态更新训练样本的策略。通过对OTB提出的11项目标跟踪挑战场景进行大量实验和分析,证明了所提的目标跟踪器较现有的目标跟踪器具有显著优势。

• 多尺度选择金字塔网络的小样本目标检测算法

  彭豪, 李晓明

  目标检测是把图像中指定的目标检测出来,这一技术已经广泛运用于自动驾驶、人脸识别等领域,已成为国内外计算机视觉领域的一大研究热点。传统的目标检测往往需要大量标注的数据集,如何在只有少量带注释样本的情况下进行目标检测是一个挑战。针对此问题,提出了一种多尺度选择金字塔网络的小样本目标检测算法,使检测不再依赖于大规模标签数据集。首先,设计了一个用于小样本目标检测的多尺度选择金字塔网络,它由三个组件组成：上下文层注意力模块、特征尺度增强模块、特征尺度选择模块。然后,在RPN网络产生的RoI特征后采用最大池化和平均池化来提升特征之间的相关性,之后进行特征融合,并且采用特征减法来突出特征中的类别信息,在保持模型对样本参数稳定性的前提下提高了对新类参数的敏感度;最后,采用正交映射损失函数使模型在分类层前就约束特征,即使在少量样本情况下也能够很好地衡量特征间的相似性。

• 混沌反馈共享和群体协同效应的蝴蝶优化算法

  李守玉, 何庆, 杜逆索

  针对蝴蝶优化算法（BOA）寻优精度低和易陷入局部最优等缺点,提出了混沌反馈共享和群体协同效应的蝴蝶优化算法（CFSBOA）。首先,利用Hénon混沌初始化种群,能够使种群尽可能地覆盖搜索盲区,增加种群多样性,提高算法寻优性能;其次,利用反馈控制电路中正负反馈作用机制的思想,构建蝴蝶之间的反馈共享交流网络,使得蝴蝶个体能够接收来自多个方向的信息,帮助种群定位最优解的位置并执行精细搜索,增强算法逃离局部最优的能力和加快算法收敛的速度;最后,利用群体协同效应机制,提高和平衡全局与局部搜索的能力,增强算法的全局和局部的寻优能力。使用不同维度的基准测试函数、统计检验、Wilcoxon检验及多类型的CEC2014部分函数验证改进蝴蝶优化算法的性能,并与新改进的蝴蝶算法及其他群智能算法进行对比,实验结果表明该算法具有明显优势。

• 交换BCK-代数的新型软（素）理想

  黄昱, 廖祖华

  软集是处理不确定性问题的一个重要的数学工具。将软集的参数集赋予交换BCK-代数（即为交换亚BCI-代数）,提出了交换BCK-代数的新型软素理想、软集的零化子、新型对合软理想等新概念。定义了两个新的合成运算,并利用合成运算对交换BCK-代数的新型软理想进行刻画。研究了交换BCK-代数的新型软理想在偏序关系下的若干性质以及软集的零化子和新型对合软理想的性质。举例说明了交换BCK-代数的新型软素理想的存在性,以及它与通常的软素理想的不同。举例说明了一个软集是交换BCK-代数的新型软素理想与它的水平集是素理想不是充要条件,这与通常的模糊代数的结果不同。给出了交换BCK-代数的新型软素理想的一些等价刻画, 并讨论了它的同态像与原像的性质。