基于CNN-GRU SA模型的短期电力负荷预测研究

为了解决预测模型无法充分挖掘特征等问题,提出一种基于CNN-GRU SA混合模型的短期电力负荷预测方法。通过CNN模型提取输入数据的向量特征,利用双层GRU模型学习输入特征,掌握其特征规律,Self-attention机制充分挖掘输入的特征信息,最后预测出负荷值。实验采用英格兰公开数据集,实验结果表明,相较于CNN-GRU、GRU和CNN基线模型,该模型的预测精度更高,证明了该方法的有效性。

融合LC-Transformer XL文本分类的集成模型

针对文本分类任务中存在数据稀疏、无法捕捉段与段之间的更长距离依赖关系问题,提出一种LC-Transformer XL集成模型。通过LDA主题模型单词与主题的概率分布,对文本进行高频关键词提取,采用CNN算法提取局部特征向量,利用Transformer-XL模型的相对位置编码和循环机制得到全局语义特征,将其提取的局部与全局特征向量融合,在此基础上,通过Softmax分类器进行分类,得到文本分类的结果。实验表明,该模型在THUCNews中文文本数据集上的F1值达到0.9318,准确率达到94.15%,在处理文本分类任务中有较好的表现。