计算机科学与探索

北大核心,INSPEC,JST,CSCD,WJCI

国内刊号:11-5602/TP

国际刊号:1673-9418

计算机科学与探索杂志2025年第10期:集成双重语义信息和改进注意力机制的中文实体识别方法

发布日期:

作者:冯勇, 刘明华, 王嵘冰, 徐红艳, 张永刚

单位:1. 辽宁大学 信息学院,沈阳 1100362. 辽宁大学 信息化中心,沈阳 1100363. 辽宁大学 网络与信息安全学院,沈阳 1100364. 吉林大学 符号计算与知识工程教育部重点实验室,长春 130012

关键词:实体识别,知识图谱,注意力机制,双重语义

基金:辽宁省教育厅科学研究基金面上项目(LJKMZ20020447);辽宁省属本科高校基本科研业务费专项资金(LJKLJ202414);吉林大学符号计算与知识工程教育部重点实验室项目(93K172018K01)。

针对当前中文命名实体识别中数据无明显分隔符、字符连续排列导致的边界模糊和分词歧义问题,考虑从实体的双重语义信息分析和改进注意力机制入手,提出了一种集成双重语义信息和改进注意力机制的中文实体识别方法。改进多头注意力机制,通过线性门控单元有效平衡了捕获的顺序信息,并增强了多头注意力机制提供的全局信息,通过残差网络解决整体的梯度问题。在实体识别阶段的局部语义信息处理中引入知识图谱的思想,通过外部词典提取实体的局部语义特征,在全局语义信息中使用BERT捕获数据整体的语义特征,经动态融合得到双重语义信息。BiLSTM通过双向处理输入序列捕捉全面的上下文依赖信息,同时利用改进的多头注意力机制建立多个子序列,弥补了BiLSTM对于长文本句子捕捉依赖的不足。使用CRF优化标签序列的预测,得到最终的预测结果。在中文领域公开的MSRA、Weibo和人民日报数据集上进行了实验分析,实验结果表明所提方法的F1值分别为94.22%、69.96%、93.17%,较基准方法平均提高了0.95%、10.21%、1.25%,验证了所提实体识别方法在中文领域的有效性和优越性。

来源:2025年第10期

《计算机科学与探索》期刊编辑部

查看计算机科学与探索杂志2025年第10期

联系我们

  • 地址:北京市海淀区北四环中路211号
  • 电话:(010)89056056
  • E-mail:fcst@vip.163.com

咨询工作人员