BSLRel:基于二元序列标注的级联关系三元组抽取模型

关系三元组抽取是构建大规模知识图谱的基础,近年来受到学术界和工业界的广泛关注。为了提高模型对重叠关系三元组和多槽值关系三元组的抽取能力,该文提出了一个基于神经网络的端到端的关系三元组抽取模型BSLRel。其主要特点是将关系三元组抽取任务转化为级联的二元序列标注任务,并使用多信息融合结构Conditional Layer Normalization进行信息融合。实验结果显示,BSLRel模型对重叠关系三元组和多槽值关系三元组具有较强的抽取能力。基于BSLRel模型,该团队参加了“2020语言与智能技术竞赛”中的关系三元组抽取任务,并取得了第五名的成绩。

图神经网络嵌入维度估计的结构熵极小化方法

图神经网络已成为当前图结构数据表示学习最常用的方法,在各层级的图结构数据表征、应用及分析任务上都取得了显著的效果。图神经网络学习到的嵌入融合了结构特征和节点语义。按照不同粒度的嵌入对象划分,图神经网络方法被分为节点级、子图级和整图级表示学习方法,也对应不同的下游应用任务。尽管如此,现有的图神经网络模型在嵌入维度设定上,仍依赖工程化的人工经验探索方法,缺乏有理论性依据指导的可计算方法,导致图神经网络表示学习模型在下游应用中往往效果欠佳。本文基于结构熵极小化原理,提出了一种全新的可解释的图神经网络模型嵌入维度估计的理论和方法框架。对于节点级嵌入的图神经网络模型,该框架同时考虑结构熵和节点属性熵,为所有节点的嵌入向量给出一套统一的最优维度估计。对于整图级嵌入或子图级嵌入的图神经网络模型,该框架除了考虑上述两类熵还考虑了图样本间的差异性,为不同复杂度的图样本提供个性化的最优嵌入维度估计。在18个图结构数据集上开展了丰富的下游应用实验,验证了所提框架在图学习分类应用中均有效和稳定地提升了精度,充分证实了所提图神经网络嵌入维度估计的理论和方法的正确性。