基于马尔可夫逻辑的中文零指代消解

中文零指代消解问题包括零指代项的识别和零指代项的消解2个相互关联的子任务.传统的方法在解决该问题时,往往不考虑2个子任务间的关联关系,比如识别出的零指代项必须被消解以及发生消解的必须是零指代项等约束.基于马尔可夫逻辑网络模型可以将零指代项的识别和零指代项的消解2个子任务融合在统一的机器学习框架下进行联合推断与联合学习,采用局部规则分别针对零指代项的识别和消解进行预测,采用全局规则描述这2个子任务间的关联关系.基于OntoNotes3.0的中文数据集上的实验结果显示,基于马尔可夫逻辑网络的联合学习模型相比于独立学习模型以及多个baseline方法能够获得更好的实验效果.

基于预训练语言模型的中文零指代消解

中文零指代消解是一项具有挑战的自然语言处理任务,其目的是确定文档中零代词真正的指代对象,从而使得机器能够正确理解含有零代词的文本的含义。现有的基于深度学习的中文零指代消解模型受限于训练数据规模的限制,其性能依然较低。该文则将在大规模语料中训练得到的预训练语言模型的信息融入到中文零指代消解模型中,并通过在OntoNotes-5.0数据集上的实验验证了该文提出的方法的有效性。