计算机科学与探索杂志2023年第10期
-
- 面向E级计算的线性代数解法器研究综述
- 何连花, 徐顺, 金钟
- 基于E级计算的科学工程计算应用给数值线性代数算法的发展,既提供了更多机遇,又带来了更大挑战。首先分析了E级计算的特点,包括:针对大规模异构并行体系结构的并行编程成为主流方式;降低运行大规模应用带来的极高能耗成本成为了主要考虑问题;多精度的异构计算硬件引发了混合精度算法进一步的研发。其次综述了主流稠密及稀疏线性代数解法器面向高性能计算体系架构进行的功能及性能方面的优化工作,对比分析了各解法器的特点及优势。随后总结分析了线性代数解法器核心技术进展,主要包括:隔离异构计算模块和设计新的统一编程框架,以实现软件算法的性能可移植;在保证科学工程计算应用的整体需求之下,利用混合精度方法提升数值计算和数据存储的性能水平;结合硬件多级cache和网络通讯特征发展先进并行计算算法,避免或减少效率低下的大规模数据通讯。最后对未来研究进行了展望。
-
- 图神经网络在知识图谱构建与应用中的研究进展
- 许鑫冉, 王腾宇, 鲁才
- 作为知识的一种有效的表征方式,知识图谱网络可以用于表示不同类别之间丰富的事实信息,成为有效的知识管理工具,并在知识工程和人工智能领域的应用和研究取得了较大的成果。知识图谱通常表现为一种复杂的网络结构,其非结构化特点使得将图神经网络应用于知识图谱的分析和研究成为学术界的研究热点。旨在对基于图神经网络的知识图谱构建技术提供广泛、全面的研究,以解决两类知识图谱构建的任务,包括知识抽取(实体、关系和属性抽取)和知识合并与加工(链接预测、实体对齐和知识推理等),通过这些任务,可以进一步完善知识图谱的结构,并能够发现新的知识和推理关系。还研究了基于高级的图神经网络方法用于知识图谱相关的应用,如推荐系统、问答系统和计算机视觉等。最后提出了基于图神经网络的知识图谱应用的未来研究方向。
-
- 数字信用交易反欺诈研究进展
- 刘华玲, 曹世杰, 许珺怡, 陈尚辉
- 数字技术的发展加速了金融在线支付方式的转变,带来支付便捷的同时却也增加了欺诈交易的隐患,反欺诈研究对保护用户财产、防范金融危机尤为重要。伴随数据治理与共享技术的进步,数字支付交易数据呈现海量、多源、异构的新特点,将基于大数据与人工智能的数据智能技术融入到反欺诈研究中具有重要的理论研究意义。信用卡支付与数字支付充分结合发展形成的数字信用支付模式,拥有当下最成熟的数据积累和理论基础,为反欺诈模型的研究提供了最理想的数据资源与理论支持。从概念出发,首先结合我国实际业务场景,对数字信用反欺诈研究问题的定义、研究难点、数据框架进行介绍;其次基于建模策略,分别从数据均衡和模型优化两方面对数字信用交易反欺诈研究的前沿进展进行综述,重点介绍了各类机器学习算法与深度学习算法在反欺诈研究中的理论基础、适用场景、最新成果,并基于上述内容展开综合评估;最后结合研究现状,从需求的角度切入,对包含反欺诈研究的泛化性、可解释性、面对新型欺诈交易模式敏感性在内的三大研究热点进行总结,并对未来的研究方向进行展望。
-
- 云边资源协同中的任务卸载技术综述
- 田雨萌, 刘志波, 张凯, 李忠博, 谢永强
- 随着无线通信技术和物联网技术的发展,万物互联正在成为现实。传统云计算具有强大的计算、存储、网络等资源,但面对激增的数据流量仍会产生不可控的服务延迟。边缘计算将资源放置在更靠近终端的位置,但边缘设备的存储容量较小,配备的处理器通常算力较弱,因此边缘计算延迟低却资源受限。云边协同通过综合云计算和边缘计算两种计算范式的优势,可以有效提升资源服务能力和服务质量,具备广阔的发展前景。资源协同是云边协同服务能力的一个重要方面。任务卸载技术是云边资源协同的关键技术之一,为了进一步促进这一领域今后的发展,启发研究人员的思路,对云边资源协同中的任务卸载技术进行梳理分析,首先,梳理了云边协同的发展历程并介绍了云边资源协同和任务卸载的概念内涵及云边资源协同的应用场景;然后,从卸载对象、卸载粒度、服务质量评价指标三方面对国内外该技术的发展进行了归纳整理;最后,总结并提出了云边资源协同中的任务卸载技术未来发展的方向。
-
- 基于图神经网络的实体对齐表示学习方法比较研究
- 彭鐄, 曾维新, 周杰, 唐九阳, 赵翔
- 实体对齐是知识融合的一个重要步骤,其目的在于识别不同知识图谱中的等价实体。为准确判断出对等的实体,现有方法首先进行表示学习,将实体映射到低维向量空间中,接着通过向量间的相似度推断实体的等价性。而近期实体对齐的相关工作也大都聚焦于表示学习方法的改进上。为了能够更好地理解这些模型的机理,挖掘有价值的设计思路,并为后续的优化改进工作提供参考,对实体对齐表示学习方法进行了研究综述。首先基于现有方法,提出了一个通用的表示学习框架,并用该框架对几个具有代表性的工作进行了归纳概括以及分析解构。接着通过实验对这些工作进行了对比分析,并对框架中各个模块的常见方法进行了比较。根据实验结果,总结了各种方法的优劣,并提出了使用建议。最后初步讨论了大规模语言模型与知识图谱对齐融合的可行性,并分析了存在的问题以及潜在的挑战。
-
- 面向知识图谱和大语言模型的因果关系推断综述
- 李源, 马新宇, 杨国利, 赵会群, 宋威
- 近几十年来,因果关系推断是统计学、计算机科学、教育、公共政策和经济学等许多领域的一个重要研究课题。其中大部分因果推断方法是从样本观测数据和文本语料分析的角度进行研究。如今,随着各种知识图谱和大语言模型的涌现,面向知识图谱和大模型的因果关系推断逐渐成为了研究热点。因此,将不同的因果关系推断方法按照面向样本观测数据、文本数据、知识图谱和大语言模型进行分类,在每个分类中,对经典的研究工作从其问题定义、解决方法、贡献和不足进行了细致的分析。同时,对因果关系推断方法与知识图谱和大语言模型相结合的研究进展进行了重点讨论。从效率和成本角度分析和比较了不同因果推断方法,总结归纳了知识图谱和大语言模型在因果关系推断任务中的具体应用。最后,对知识图谱和大模型相结合的因果关系推断的未来发展方向进行了展望。
-
- 大语言模型融合知识图谱的问答系统研究
- 张鹤译, 王鑫, 韩立帆, 李钊, 陈子睿, 陈哲
- 大语言模型(large language model,LLM),包括ChatGPT,在理解和响应人类指令方面表现突出,对自然语言问答影响深远。然而,由于缺少针对垂直领域的训练,LLM在垂直领域的表现并不理想。此外,由于对硬件的高要求,训练和部署LLM仍然具有一定困难。为了应对这些挑战,以中医药方剂领域的应用为例,收集领域相关数据并对数据进行预处理,基于LLM和知识图谱设计了一套垂直领域的问答系统。该系统具备以下能力:(1)信息过滤,过滤出垂直领域相关的问题,并输入LLM进行回答;(2)专业问答,基于LLM和自建知识库来生成更具备专业知识的回答,相比专业数据的微调方法,该技术无需重新训练即可部署垂直领域大模型;(3)抽取转化,通过强化LLM的信息抽取能力,利用生成的自然语言回答,从中抽取出结构化知识,并和专业知识图谱匹配以进行专业验证,同时可以将结构化知识转化成易读的自然语言,实现了大模型与知识图谱的深度结合。最后展示了该系统的效果,并通过专家主观评估与选择题客观评估两个实验,从主客观两个角度验证了系统的性能。
-
- 面向医疗问答系统的大语言模型命名实体识别方法
- 杨波, 孙晓虎, 党佳怡, 赵海燕, 金芝
- 在医疗问答系统中,实体识别发挥了重大作用。随着深度学习的发展,基于深度学习的实体识别得到了越来越多的关注。但是,在医疗问答系统中,由于缺少带标注的训练数据,深度学习方法不能够很好地识别医疗文本中的非连续实体和嵌套实体。为此,提出了一种基于大语言模型的实体识别应用方法,并且将其应用到医疗问题系统中。首先将医疗问答相关的数据集进行处理,变成大语言模型能够分析和处理的文本;其次针对大语言模型的输出进行分类,并对不同的分类采取相应的处理;然后将输入的文本进行意图识别,最终将实体识别和意图识别的结果发送到医疗知识图谱中进行查询,得到医疗问答的答案。在3个典型的数据集上进行了实验,并与几种典型的相关方法进行了对比。结果显示所提出的方法表现效果更好。
-
- 基于大规模语言模型的知识图谱可微规则抽取
- 潘雨黛, 张玲玲, 蔡忠闽, 赵天哲, 魏笔凡, 刘均
- 知识图谱上的推理是预测不完整三元组中缺失的实体或关系,对结构化知识进行补全,并用于不同下游任务的过程。不同于被普遍研究的黑盒方法,如基于表示学习的推理方法,基于规则抽取的推理方法通过从知识图谱中泛化出一阶逻辑规则,实现一种可解释的推理范式。为解决离散的符号空间与连续的嵌入空间之间的鸿沟,提出一种基于大规模预训练语言模型的知识图谱可微规则抽取方法DRaM,将离散的一阶逻辑规则与连续的向量空间进行融合。针对规则中的原子公式顺序对推理过程产生的影响,通过引入大规模预训练语言模型对推理过程进行编码来解决。融合一阶逻辑规则的可微推理方法DRaM,在三个知识图谱数据集Family、Kinship和UMLS上进行的链接预测任务获得了较好的结果,尤其针对链接预测指标Hits@10,DRaM获得了最佳的推理结果。实验结果表明,DRaM能够有效地解决知识图谱上可微推理存在的问题,并且可以从推理过程中抽取带有置信度的一阶逻辑规则。DRaM不仅通过一阶逻辑规则增强了推理效果,同时增强了方法的可解释性。
-
- 基于ChatGPT的电信诈骗案件类型影响力评估
- 裴炳森, 李欣, 吴越
- 当前电信诈骗犯罪呈高发态势,严重威胁人民群众财产安全,为了优化反诈策略、客观准确分析不同类型电信诈骗案件的发案趋势和发案特征,确定影响力较大的犯罪手段和方式,提出一种基于ChatGPT的电信诈骗案件类型影响力评估方法。借助知识图谱使案件文本内容结构化,并将案发时间、涉案金额、涉案事主人数作为评估案件影响力的因素,对电信诈骗方式进行量化。首先利用ChatGPT通过多轮问答的形式对电信诈骗案件文本语料进行数据预处理和知识抽取,低资源、快速及时地构建电信诈骗领域的案件知识图谱,并基于知识图谱统计分析案发时间、涉案金额、涉案事主人数等各类因素,把不同案件类型的影响抽象为影响因子,用影响因子刻画案发趋势与发案特征,以进行综合分析研判。通过对现有案例数据进行分析,计算案件类型影响因子,得到了不同案件类型的影响因子变化,验证了影响因子计算方法的科学性与有效性,为电信诈骗类型的评估提供了一种新的方法和思路。结合ChatGPT与知识图谱的优势,有助于及时把握案件发展变化趋势,为打击电信诈骗提供有力的支持和指导,对于保护公众的财产安全和社会的稳定具有重要意义。
-
- 适用于稀疏图的基于关键点标记的可达性算法
- 苗伟华, 危辉
- 有向图中任意两点间的可达性查询是研究各种网络问题时的一个基础操作,如在社交网络中查询两个人是否相互关注等。但随着网络规模的日益扩大,传统算法因巨大的时间或空间复杂度而变得难以被应用。因此需要根据网络结构特点针对性地使用合适的可达性算法。稀疏图可以看作由若干有向生成树与少量非树边组成,GRKPL算法将稀疏图中的可达性问题拆分成两部分:树上可达性问题与加入非树边后带来的影响。前一部分使用区间标记法解决;后一部分通过构造关键点集,将原图中所有的可达性查询转化为关键点集中的查询后得以解决。关键点集包括所有被非树边覆盖的节点,以及这些节点按照前序遍历的顺序排序后相邻节点之间的最近公共祖先。证明了关键点集的大小与原图中非树边的规模具有相同的数量级。最后在10个中小规模与4个大规模现实数据集上进行了测试,GRKPL在中小规模数据集上表现优异,查询处理时间相较于其他算法平均减少49.8%,空间占用平均减少65.1%。
-
- 视图关系学习与图学习的多视图图聚类
- 袁柱, 高清维, 王琳, 赵大卫, 卢一相, 孙冬, 竺德
- 简单高效的多视图图聚类方法近年来受到广泛关注。大多数现有的多视图图聚类算法对隐藏在多视图数据中的信息挖掘不够充分,导致次优的聚类结果。为解决这一问题,提出一种结合视图关系学习与图学习的多视图图聚类算法(MVG)。该方法在一个统一的框架中基于多视图自表达来整合图融合与谱聚类学习。扩展了视图自表达学习,揭示了高维数据的低维子空间分布,联合约束了多视图数据分布的几何结构。并且利用多视图视图数据之间的互补信息,优化每个视图的相似图。交替优化谱聚类输入图和不同视图所占权重。最后通过对融合图图结构的学习,建立了与谱聚类的联系,构建了一个高质量的谱聚类输入图。充分挖掘和利用隐藏在多视图数据中的信息,在提升聚类性能方面有很强的竞争性。在五个广泛使用的多视图数据集上进行实验,验证算法的有效性和可行性。在reuters-1200数据集上的实验数据表明,在聚类评价指标上分别比次优方法提升0.22、0.09、0.115、0.152、0.032和0.185。
-
- 结合语义先验和深度注意力残差的图像修复
- 陈晓雷, 杨佳, 梁其铎
- 针对现有图像修复方法修复结果缺乏真实性、未灵活处理缺失区域和未缺失区域信息以及未有效处理不同阶段的图像特征信息等问题,提出结合语义先验和深度注意力残差组的图像修复方法。该图像修复方法主要由语义先验网络、深度注意力残差组与全尺度跳跃连接组成。语义先验网络学习缺失区域视觉元素的完整语义先验信息,利用学习到的语义信息对缺失区域进行补全。深度注意力残差组使生成器不仅能更加关注图像的缺失区域,而且能自适应地学习各个通道的特征。全尺度跳跃连接则可以将包含图像边界的低层次特征图与包含图像纹理与细节的高层次特征图结合起来对图像缺失区域进行修复。在CelebA-HQ数据集与Paris Street View数据集上进行了充分对比实验,实验结果表明,该方法优于当前代表性先进图像修复方法。
-
- 强化前景感知的相关滤波目标跟踪
- 姜文涛, 徐晓晴
- 为了缓解相关滤波跟踪算法在形变、快速运动、运动模糊及相似物干扰等因素影响下跟踪精度较低的问题,提出了强化前景感知的相关滤波目标跟踪。在相关滤波算法的基础上引入了改进的颜色直方图干扰感知模型。首先,在传统背景对象模型基础上增强前景直方图与背景直方图的颜色差异分量,得到更加突出前景的颜色直方图干扰感知模型。利用相关滤波算法和颜色直方图干扰感知模型分别提取相应特征并计算各自响应。其次,通过利用颜色直方图干扰感知模型计算目标区域像素点属于目标的概率均值,控制相关滤波响应和颜色直方图响应的融合权重。然后,利用融合后的干扰感知响应图最大值位置定位目标。最后,设置跟踪异常判别条件,当异常情况出现,不进行模型更新。当跟踪置信度较高时,则通过帧差法和前后帧间欧氏距离判断目标变化幅度并设置相应的相关滤波模板更新学习率,实现跟踪模板的自适应更新。在OTB100数据集上与主流算法进行实验对比,结果表明该算法在形变、快速运动、运动模糊及相似物干扰等复杂挑战下相比其他算法具有更优的跟踪效果及鲁棒性。
-
- 多维度偏好建模的动态兴趣点群组推荐算法
- 孙明阳, 马玉亮, 袁野, 王国仁
- 随着互联网数据信息的海量化和地理社交网络(GSNs)的不断发展,群组活动在社会生活中盛行,推荐问题的对象由个人向群组进行延伸,兴趣点(POI)群组推荐问题也逐渐成为研究的热点问题。由于GSNs中用户偏好的多因素影响和群组决策过程的复杂化,传统的方法已经不再适用。为了充分挖掘GSNs中用户偏好和模拟群组决策过程,以提高群组推荐的整体性能,提出了一种基于多维度偏好建模的动态兴趣点群组推荐方法。首先,结合时间因素和空间因素,根据用户行为活动记录计算用户偏好,并以群组为单位构建群组-兴趣点感知图;然后,加入协同用户的影响完成对用户群组偏好的建模,并充分考虑了GSNs中的特征,保证了兴趣点推荐的准确性;最后,利用神经网络结构模拟群组决策过程,完成对兴趣点群组推荐任务的求解。在真实数据集上与现有的群组推荐算法进行了对比,实验结果表明提出的算法在兴趣点命中率等方面明显优于对照算法,证明了该算法的有效性。
-
- 融合词性与外部知识的方面级情感分析
- 谷雨影, 高美凤
- 方面级情感分析的目标是识别给定句子中特定方面词的情感极性,目前结合图卷积神经网络和句法依存树的大部分研究侧重于根据句子依赖树学习上下文和方面词间的关系,而没有专注于句法依赖树的构建,从而不能充分地利用依赖树上的信息,并且会引入噪声。针对上述问题,提出一种基于多融合邻接矩阵算法的图卷积网络模型。首先使用外部知识来增强句子中情感词的作用,并利用词性进行信息筛选,去除句子中冗余的依赖关系从而得到剪枝句法依赖树,使用多融合邻接矩阵算法将两者结合得到句法信息,将句法信息和BiLSTM层提取的语义信息输入到简化图卷积网络中进行特征融合。在五个数据集上的实验结果表明,提出的改进方法是有效的,且能明显提高模型性能。
-
- SMViT:用于新冠肺炎诊断的轻量化孪生网络模型
- 马自萍, 谭力刀, 马金林, 陈勇
- 针对新冠肺炎的深度学习诊断模型存在的准确率不高、泛化能力较差和参数量较大的问题,基于ViT和孪生网络,提出了一种新冠肺炎诊断的轻量化孪生网络SMViT。首先,提出了循环子结构轻量化策略,使用多个具有相同结构的子网络构成诊断网络,从而降低网络的参数量;其次,提出ViT掩码自监督预训练模型,以增强模型的潜在特征表达能力;然后,构建新冠肺炎诊断的孪生网络SMViT,有效提升模型的诊断准确率,改善小样本下模型泛化能力较差的问题;最后,使用消融实验验证并确定了模型结构,通过对比实验验证模型的诊断性能和轻量化能力。实验结果表明:与最具竞争力的ViT架构的诊断模型相比,该模型在X-ray数据集上的准确率、特异度、灵敏度与[F1]分数值分别提高了1.42%、4.62%、0.40%和2.80%,在CT图像数据集上的准确率、特异度、灵敏度与[F1]分数值分别提高了2.16%、2.17%、2.05%和2.06%;在样本量较小时,模型具有较强的泛化能力;与ViT相比,SMViT模型具有更小的参数量和更高的诊断性能。
-
- 基于L-M-NFSR结构的16比特S盒设计方法
- 武小年, 舒瑞, 豆道饶, 张润莲, 韦永壮
- S盒是分组密码算法的重要部件,为密码算法提供非线性变换,S盒的安全强度在一定程度上决定着密码算法的安全强度。为构造具有优良密码学性质的16比特S盒,设计一种以Lai-Massey结构和非线性反馈移位寄存器(NFSR)组件相结合的L-M-NFSR新结构。该结构以与高级加密标准(AES)算法S盒仿射等价的8比特S盒作为新结构的轮函数,减少设计的复杂性并提高结构的可变性;左右分支各增加一个迭代少量拍数即可符合严格雪崩特性的NFSR组件用于提高结构的扩散性;通过3轮迭代和遍历生成16比特S盒。进一步地,基于该结构,以AES算法S盒仿射等价新生成的8比特S盒替换轮函数中的8比特S盒,可方便地生成大量新的16比特密码S盒。为提高对所构造16比特S盒性质的评估效率,采用图形处理器(GPU)进行并行计算,测试结果表明,所生成的16比特S盒具有较优的密码学性质,均满足双射性,代数次数为15,非线性度最优为31 992,差分均匀度最低为18,信噪比最低为146.712,具有较好地抵御数学攻击和差分功耗分析的安全性。
-
- 具有否认认证的SM9标识加密算法
- 赵晨阳, 柯品惠, 林昌露
- SM9标识加密算法是我国自主设计的商用标识加密算法,它已成为国内标识加密算法行业的标准,并被广泛应用于诸如电子邮件、电子投票和网上谈判等。然而SM9标识加密算法不能有效保护发送者的身份隐私。为此,基于SM9标识加密算法,并结合否认认证协议,提出具有否认认证的SM9标识加密算法。该算法允许发送者在协议运行后否认其参与,只有预期的接收者可以识别给定消息的真实来源;与此同时,接收者不能使任何其他第三方相信消息是由特定发送者发送的。在DBDH困难问题假设下,给出具有否认认证的SM9标识加密算法的形式化定义和安全模型,并在随机预言模型下给出算法的安全性分析,证明该算法可同时满足否认性、保密性和否认认证性。理论分析和仿真实验表明,该算法不仅保持了SM9标识加密算法的效率优势,而且计算开销低于其他具有否认认证的标识加密算法。
