针对单一网络特征提取不全面,词向量语义表示质量较低等问题,提出了结合ERNIE2.0和多尺度网络的数字图书馆文本分类模型(ERNIE2.0 and Multi-Scale Network)。采用预训练模型ER⁃NIE2.0提取文本动态特征表示,提升词向量语义表示的准确性...针对单一网络特征提取不全面,词向量语义表示质量较低等问题,提出了结合ERNIE2.0和多尺度网络的数字图书馆文本分类模型(ERNIE2.0 and Multi-Scale Network)。采用预训练模型ER⁃NIE2.0提取文本动态特征表示,提升词向量语义表示的准确性。多尺度网络捕捉全局序列和结构信息以及不同层次的局部语义特征,软注意力机制赋予模型关注到重点词的能力。在图书馆数据集上进行实验,结果表明,ERNIE2.0-MSN-AT模型分类准确率达到了97.85%,高于实验对比模型,多尺度网络优于单一特征提取网络。展开更多
文摘针对单一网络特征提取不全面,词向量语义表示质量较低等问题,提出了结合ERNIE2.0和多尺度网络的数字图书馆文本分类模型(ERNIE2.0 and Multi-Scale Network)。采用预训练模型ER⁃NIE2.0提取文本动态特征表示,提升词向量语义表示的准确性。多尺度网络捕捉全局序列和结构信息以及不同层次的局部语义特征,软注意力机制赋予模型关注到重点词的能力。在图书馆数据集上进行实验,结果表明,ERNIE2.0-MSN-AT模型分类准确率达到了97.85%,高于实验对比模型,多尺度网络优于单一特征提取网络。