基于关系挖掘和对抗训练的多标签文本分类

传统的多标签文本分类方法存在忽略标签语义、没有充分利用文本与标签以及标签与标签之间的关系等问题。为了解决以上问题,论文提出了一种基于关系挖掘和对抗训练的多标签文本分类模型。该模型利用了BERT模型和图注意力网络(GAT)分别提取文本的语义信息和挖掘标签之间的关系。首先,通过BERT模型对文本进行编码,以获取文本的语义信息。然后,使用图注意力网络(GAT)来挖掘标签之间的关系,以更好地理解标签之间的依赖关系。为了进一步挖掘文本与可学习的标签嵌入之间的关系,该模型采用了多头自注意力机制。此外,为了提高模型的鲁棒性,论文采用了R-drop策略进行模型训练。实验结果表明,在AAPD和RCV1数据集上,所提出的模型相比当前一些主流的多标签文本分类模型,不仅能够关注文本信息,还能够有效捕捉文本与标签之间的依赖关系以及标签与标签之间的关系,从而取得更好的性能。