基于ERNIE-AA模型的诉求文本分类技术

12345市民服务热线中汇集了大量的市民诉求,对这些诉求文本进行分类能够有效地提高市民服务热线的办事效率。为了快速且精准地对诉求文本进行分类,提出一种融合了人工注意力机制的ERNIE-AA模型。该模型将人工分类时的启发式规则通过人工注意力机制引入ERNIE模型的输入表示,通过预训练模型增加影响分类的关键词的注意力权重。实验结果表明:ERNIE-AA模型在诉求文本数据集上具有良好的表现,分类准确率可达86.71%。