A^(2)former模型在时间序列预测中的应用研究

时间序列预测在金融、医疗、交通和气象等领域发挥着重要作用。在长时间序列预测中,迫切需要提高预测的精度,解决内存不足等问题。近年来,Transformer模型在自然语言处理领域得以成功应用的同时,在预测研究领域也引起了学者们的广泛关注,Transformer变体Informer模型的研究在时间序列预测中取得了较大进展。本研究以Informer框架为基础,与加性注意力机制相结合,提出了A^(2)former模型。利用A^(2)former模型在ETT,WTH,ECL和PM2.5数据集上进行了长时间序列预测的实验,实验结果表明所提模型在长时间序列预测中表现出比基线方法(如Informer模型和LSTMa模型)更好的性能。A^(2)former模型不仅将计算时间复杂度降低到线性,而且可以实现更有效的序列建模。本研究的工作为时间序列预测提供了有益参考。

基于文本摘要提取的双路情感分析模型

针对传统文本分类模型存在识别能力受限、训练时间随着输入长度倍增的问题,提出了一种基于文本摘要提取的双路特征情感分析模型(BLAT)。BLAT模型引入Fastformer的加性注意力机制代替Transfomer的自注意力机制,使得模型能够在不损失精度的情况下,面对长文本训练能够有较为出色的训练速度。模型通过对原始文本数据做摘要提取处理形成双路特征,融入长短期记忆网络与卷积神经网络组成双路特征提取网络,实现对文本情感倾向的高效识别。通过实验在中文电商评论数据集上进行验证,准确率可以达到92.26%,相较当下主流模型能够达到较好的效果。