基于测度优化Laplacian SVM的中文指代消解方法

相比于传统的基于半监督学习的指代消解方法,Laplacian SVM(Support Vector Machine)能有效的挖掘已标注样本和未标注样本的相似性和关联性,更好的推导模型的分类边界.而传统Laplacian SVM采用欧式距离度量样本之间的距离,使得异类样本之间的相似性可能过大,不利于样本的准确分类.对此,提出一种基于数据驱动学习最优测度Laplacian SVM算法以解决中文指代消解语料不足的问题.该方法通过优化样本对之间的相似性约束条件和引入Fisher判别项,增大同类样本间的相似性,并突出强判别能力的特征.此外,提出核嵌入的测度优化方法将以上线性测度优化推广到非线性空间,有利于Laplacian SVM利用核函数实现非线性分类.在ACE2005中文语料库上的测评结果表明,所提出测度优化的Laplacian SVM(包括线性和核嵌入两种形式)的方法只需少量标注样本就可以获得与经典的有监督学习模型相当甚至更好的消解性能,同时也优于其他传统的半监督学习方法.

基于马尔可夫逻辑的中文零指代消解

中文零指代消解问题包括零指代项的识别和零指代项的消解2个相互关联的子任务.传统的方法在解决该问题时,往往不考虑2个子任务间的关联关系,比如识别出的零指代项必须被消解以及发生消解的必须是零指代项等约束.基于马尔可夫逻辑网络模型可以将零指代项的识别和零指代项的消解2个子任务融合在统一的机器学习框架下进行联合推断与联合学习,采用局部规则分别针对零指代项的识别和消解进行预测,采用全局规则描述这2个子任务间的关联关系.基于OntoNotes3.0的中文数据集上的实验结果显示,基于马尔可夫逻辑网络的联合学习模型相比于独立学习模型以及多个baseline方法能够获得更好的实验效果.

基于预训练语言模型的中文零指代消解

中文零指代消解是一项具有挑战的自然语言处理任务,其目的是确定文档中零代词真正的指代对象,从而使得机器能够正确理解含有零代词的文本的含义。现有的基于深度学习的中文零指代消解模型受限于训练数据规模的限制,其性能依然较低。该文则将在大规模语料中训练得到的预训练语言模型的信息融入到中文零指代消解模型中,并通过在OntoNotes-5.0数据集上的实验验证了该文提出的方法的有效性。