基于注意力机制的知识增强短文本分类

本文基于TCN,提出一种结合多头注意力机制的,同时关注上下文特征与知识图谱中概念特征的短文本分类模型。其中,TCN能够更快的编码上下文特征,更大程度的利用硬件资源;对知识图谱中概念特征的引入则能补充上在下文特征中缺失的语义信息;而与多头注意力的结合则能较好的改善对有关重要特征的提取效果。本文在三组数据集上进行了大量的实验,与多组基线模型的对比结果验证了本文提出模型的有效性和可用性。