-
题名结合微调与重排序的情感可控对话生成方法
被引量:1
- 1
-
-
作者
杜宝祥
马志强
王春喻
贾文超
王洪彬
-
机构
内蒙古工业大学数据科学与应用学院
内蒙古自治区基于大数据的软件服务工程技术研究中心
-
出处
《计算机科学与探索》
CSCD
北大核心
2023年第4期953-963,共11页
-
基金
国家自然科学基金(61762070,61862048)
内蒙古自治区自然科学基金(2019MS06004)
+2 种基金
内蒙古自治区科技成果转化专项资金项目(2020CG0073)
内蒙古自治区科技重大专项(2019ZD015)
内蒙古自治区关键技术攻关计划项目(2019GG273)。
-
文摘
现有的情感对话生成方法通常以基于序列到序列(Seq2Seq)的对话生成模型为基础,在编码或解码进行情感方面的改进,该类方法虽然能够实现一定的情感回复生成能力,但容易出现低质量的通用回复问题。为解决以上问题,实现情感可控且高质量的回复生成,提出了一种结合微调与重排序的情感可控对话生成方法,称为情感生成式预训练Transformer(EmoGPT)。在模型训练阶段,提出使用带有情感类别标签的对话语料微调GPT-2模型的方法,使其学习语句中语义和情感的依赖关系;在回复生成阶段,提出情感重排序策略对生成的多句回复进行情感打分并排序,以提高回复情感可控性。在使用带有情感标签的对话数据集的情感回复生成实验结果显示,带有情感重排序策略的EmoGPT在生成回复的内容相关性和情感一致性方面取得了领先于对比模型的性能,从而验证了文中方法的情感可控且高质量的回复生成能力。
-
关键词
对话回复生成
情感可控
微调
情感重排序
内容相关性
情感一致性
-
Keywords
dialogue response generation
emotion controllable
fine-tuning
emotion reranking
content relevance
emotion consistency
-
分类号
TP391
[自动化与计算机技术—计算机应用技术]
-