基于Prompt和BERT的情感原因对抽取方法

情感原因对抽取是一项全新的自然语言处理任务,试图提取出文本中所有的情感子句以及相应的原因子句。现有的工作要么遵循多阶段方法,其中情感抽取、原因抽取及配对都是单独进行的;要么使用复杂的架构来解决其局限性,并且可解释性较低。针对这些问题,本文提出一种基于Prompt和BERT相结合的ECPE-Prompt模型。该模型以一种可解释性较强的两阶段方法将情感抽取和原因抽取链接起来,最后完成情感原因对抽取任务。实验结果表明,该模型的F1分数指标对比基线模型提高6%。

结合意图与关键词的句子级交互文本匹配模型

文本语义匹配作为自然语言处理中的基础任务之一,在检索、问答和推荐等许多领域中都有所应用。传统的文本匹配大致分为基于表示的结构和基于交互的结构,其中基于表示的结构往往缺乏两个句子之间的信息交互,而基于交互的结构容易忽视句子全局的表征信息。针对以上问题,提出了一种结合意图与关键词的句子级交互文本匹配模型,首先采用基于表示的模型得出两个句子的全局匹配概率,其次利用远程监督将两个句子中的意图与关键词分离,两两分别进行匹配,而后引入基于注意力的交互模块对两个句子整体进行句子级的语义信息交互,最后结合三个模块得出最终的匹配结果。实验结果表明,模型在数据集MRPC上准确度提升0.3%,QQP上准确度提升0.4%,验证了所提出的模型相较于基线模型能够提取更丰富的语义特征,提高文本匹配任务的效果。