融合标签语义特征的BERT微调问句分类方法

问句分类(Question Classification,QC)对提高问答系统的质量和性能有着重要的作用。目前,现有的问句分类方法面临着数据稀疏的问题。双向编码器表征量(Bidirectional Encoder Representations from Transformers,BERT)微调可以实现跨领域问句分类,是一种很好的解决新领域带标签问句稀疏的措施。然而,这种方法往往忽略了自然语言类标签提供的显式语义信息。如果要扩展问句分类器以预测新类,且只有少数训练示例,则可以利用该类标签提供的语义信息,预测问句与标签之间的关联。本文将类别标签的特征引入BERT微调模型,简称为L-BERT-FiT。实验结果表明,相较于BERT微调,改进后模型的平均分类精度提升了约2.86%。