计算机科学与探索

北大核心,INSPEC,JST,CSCD,WJCI

国内刊号:11-5602/TP

国际刊号:1673-9418

计算机科学与探索杂志2023年第4期:结合微调与重排序的情感可控对话生成方法

发布日期:

作者:杜宝祥, 马志强, 王春喻, 贾文超, 王洪彬

单位:1. 内蒙古工业大学 数据科学与应用学院,呼和浩特 0100802. 内蒙古自治区基于大数据的软件服务工程技术研究中心,呼和浩特 010080

关键词:对话回复生成,情感可控,微调,情感重排序,内容相关性,情感一致性

现有的情感对话生成方法通常以基于序列到序列(Seq2Seq)的对话生成模型为基础,在编码或解码进行情感方面的改进,该类方法虽然能够实现一定的情感回复生成能力,但容易出现低质量的通用回复问题。为解决以上问题,实现情感可控且高质量的回复生成,提出了一种结合微调与重排序的情感可控对话生成方法,称为情感生成式预训练Transformer(EmoGPT)。在模型训练阶段,提出使用带有情感类别标签的对话语料微调GPT-2模型的方法,使其学习语句中语义和情感的依赖关系;在回复生成阶段,提出情感重排序策略对生成的多句回复进行情感打分并排序,以提高回复情感可控性。在使用带有情感标签的对话数据集的情感回复生成实验结果显示,带有情感重排序策略的EmoGPT在生成回复的内容相关性和情感一致性方面取得了领先于对比模型的性能,从而验证了文中方法的情感可控且高质量的回复生成能力。

来源:2023年第4期

《计算机科学与探索》期刊编辑部

查看计算机科学与探索杂志2023年第4期

联系我们

  • 地址:北京市海淀区北四环中路211号
  • 电话:(010)89056056
  • E-mail:fcst@vip.163.com

咨询工作人员