结合ChineseBERT的多尺度语义协同电网故障文本分类模型

针对传统深度学习模型特征提取不全面、静态词向量语义表示质量低等问题,提出基于ChineseBERT-BiSRU-MCNN-AT的电网故障文本分类模型。ChineseBERT模型训练过程融入了字形和拼音信息,结合词的上下文信息进行动态学习,解决一词多义问题。多尺度语义协同模块BiSRU-MCNN提取故障文本局部语义和全局序列特征,确保提取特征的全面性,软注意力层赋予模型识别关键词的能力。通过对电网故障文本数据集进行实验,其结果表明ChineseBERT-BiSRU-MCNN-AT取得了最高的F1值。