国内刊号:11-5602/TP
国际刊号:1673-9418
发布日期:
作者:刘宇, 刘小明, 刘卫光, 杨关, 刘杰
单位:1. 中原工学院 计算机学院,郑州 4500072. 河南省网络舆情监测与智能分析重点实验室,郑州 4500073. 中原工学院 软件学院,郑州 4500074. 北方工业大学 信息学院,北京 1001445. 国家语委中国语言智能研究中心,北京 102206
关键词:低资源,结构化,语义特征,图结构
当前低资源摘要生成任务通常采用数据增强或预训练结合微调的方式进行处理,对于源文本与目标摘要之间的潜层结构化语义信息未能充分利用。为此,提出一种基于潜层结构化语义增强的低资源摘要模型,以图结构对齐的方式增强模型对结构化信息的利用。首先,该模型通过结构特征表示层获取源文本与预测摘要的潜层结构化语义特征。然后,将获得的语义特征利用潜层结构对齐模块进行节点对齐和边对齐,这种对齐有助于模型捕捉语义特征中的结构化信息,从而增强模型对结构化知识的利用。最后,利用源文本与预测摘要之间的结构化特征对齐距离作为目标损失的正则项来辅助模型进行优化。在六个领域的低资源数据集上进行实验,ROUGE-1分值相对于基线模型平均提高了0.58。结果表明利用潜层结构化语义知识可以有效提高低资源摘要生成的能力。
来源:2023年第8期
《计算机科学与探索》期刊编辑部