一种基于词上下文向量的文本自动分类方法

分析了传统文本自动分类方法的不足、词上下文向量的含义及其在自动分类中的作用,提出了一种基于词上下文向量的文本自动分类方法,该方法利用词上下文向量来生成分类器的类别中心向量和待分类文本的文本向量,使分类质量有所提高。

基于词语上下文关系的文本自动分类方法研究

用词上下文向量来表达文本集内一个词语与其他词语之间的上下文关系,并在词上下文向量的基础上生成分类器中所有类别的类别特征向量,以及待分类文本的特征向量,最后由分类器给出待分类文本的所属类别。实验显示,在类别特征向量和文本向量中融入词语上下文关系有助于改善文本分类效果。

基于BERT与BiLSTM的中文短文本情感分析

为了减少文本情感分析方法中对分词准确性的依赖程度,同时,也为了解决一词多义的问题,提出了一种基于BERT和双向长短时记忆网络(BiLSTM)的文本情感分类模型.首先,该模型采用BERT(Bidirectional Encode,Representation from Transformers,BERT)预训练的字向量替代传统方式训练的词向量,然后利用BiLSTM对文本上下文进行关系特征提取,最后再利用Softmax分类器获得文本所属情感类别.实验证明,与LSTM、BiLSTM、TextCNN和BERT-LSTM模型相比,该模型在综合评价指标F1上分别提高了6.78%、6.74%、2.52%和1.01%;测试集正确率分别提升了6.66%、6.31%、1.95%和0.85%.