基于双重分解和双向长短时记忆网络的中长期负荷预测模型

针对中长期电力负荷序列噪声含量高、难以直接提取序列周期规律从而影响预测精度的问题,提出了一种基于完全自适应噪声集合经验模态分解(complete ensemble empirical mode decomposition with adaptive noise,CEEMDAN)和奇异谱分析(singular spectrum analysis,SSA)双重分解的双向长短时记忆网络(bidirectional long and short time memory,BiLSTM)预测模型。首先,采用CEEMDAN对历史负荷进行分解,以得到若干个周期规律更为清晰的子序列;再利用多尺度熵(multiscale entropy,MSE)计算所有子序列的复杂程度,根据不同时间尺度上的样本熵值将相似的子序列重构聚合;然后,利用SSA去噪的功能,对高度复杂的新序列进行二次分解,去除序列中的噪声并提取更为主要的规律,从而进一步提高中长序列预测精度;再将得到的最终一组子序列输入BiLSTM进行预测;最后,考虑到天气、节假日等外部因素对电力负荷的影响,提出了一种误差修正技术。选取了巴拿马某地区的用电负荷进行实验,实验结果表明,经过双重分解可以将均方根误差降低87.4%;预测未来一年的负荷序列时,采用的BiLSTM模型将拟合系数最高提高2.5%;所提出的误差修正技术可将均方根误差降低9.7%。

一种多特征融合的长文本分类方法

文本分类是自然语言处理的典型应用,一般采用卷积神经网络、双向长短期记忆网络等分类方法。基于语义网络和信息融合原理,研究工作提出了一种融合上下文特征、局部特征和平均表示特征等多特征的长文本分类方法。多特征融合方法需要清洗长文本并将文本表示为词向量,预处理后的定长文本词向量输入模型层;在模型层聚类提取特征,用双向长短期记忆网络提取词的上下文特征,用卷积神经网络提取词的局部特征,用平均池化模型提取词的平均表示特征;在线性层融合文本内容的这些信息特征并分类。经大量数据集实验,多特征融合方法分类准确率统计可达98.3%。

基于BO-BiLSTM的超级电容器剩余寿命预测

为了提高超级电容器剩余使用寿命的预测精度,本文提出了一种贝叶斯优化与双向长短时记忆神经网络结合的预测模型(BO-BiLSTM),利用长滑动窗口处理容量数据来提高模型对容量衰退趋势的学习能力,达到对超级电容器剩余寿命精确预测的目的。通过对输入特征的研究和对比,选定了容量和循环数作为模型的输入,随后对滑窗大小、模型步长进行研究,发现长滑窗是模型成功的关键因素。实验模型的精度可以达到AEP=1.02%、RMSE=2.57%。在使用贝叶斯优化算法优化模型参数后,最终预测精度可以达到AEP=0.59%、RMSE=2.16%,具有较高的预测精度。

CNN A-BLSTM network的双人交互行为识别

关节点数据结合卷积神经网络用于双人交互行为识别存在图像化过程中对交互信息表达不充分且不能有效建模时序关系问题,而结合循环神经网络中存在侧重于对时间信息的表示却忽略了双人交互空间结构信息构建的问题。为此提出一种新的卷积神经网络结合加入注意机制的双向长短时期记忆网络(CNN A-BLSTM)模型。首先对每个人的关节点采用基于遍历树结构进行排列,然后对视频中的每一帧数据构建交互矩阵,矩阵的中的数值为排列后双人之间所有的关节点坐标间的欧氏距离,将矩阵进行灰度图像编码后所得图像依次送入CNN中提取深层次特征得到特征序列,然后将所得序列送入A-BLSTM网络中进行时序建模,最后送入Softmax分类器得到识别结果。将新模型用于NTU RGB D数据集中的11类双人交互行为的识别,其准确率为90%,高于目前的双人交互行为识别算法,验证了该模型的有效性和良好的泛化性能。

基于深度学习的车辆时序动作检测算法

为有效解决传统人工标注定位车辆行为存在的检测率低且相应的目标检测算法实用性差的弊端,提出一种基于深度学习的车辆时序动作检测算法,将视频中车辆直行行为设为背景行为,车辆转向、掉头等行为设定为目标行为。利用双流卷积网络对长视频中目标行为进行提取得到初级区域提议,利用双向长短记忆网络对得到的初级提议进行细化裁剪操作,实现对车辆行为类别的检测以及该行为的时间提取。实验结果表明,该算法与其它算法进行比较,在平均精度和时间交并比上均较优。

用于5G RF PA线性化的多频段通用数字预失真器

文中提出了一种基于独热编码与长短时期记忆(LSTM)神经网络的多频段通用数字预失真非线性模型,它可以有效地对工作在多个频段的宽带射频功放进行线性化。在训练集中引入表示不同频率信号的不同独热编码,训练后的神经网络非线性模型可以在不改变网络结构和模型参数的情况下对不同频段的功率放大器进行预失真线性化。为了验证该方法的有效性,建立了两个分别工作于2.6 GHz和4.9 GHz的射频功放实验平台,在这两个频段预失真非线性建模的归一化均方误差(NMSE)均可达到-40 dB,然后使用100 MHz带宽5G NR信号,分别对这两个射频功放进行预失真线性化实验验证。实验结果表明,该多频段通用数字预失真器可以将这两个功放的邻信道泄漏比(ACLR)在中心频率下偏100 MHz处分别改善19.42 dB和17.91 dB,在中心频率上偏100 MHz处分别改善15.73 dB和15.17 dB,验证了所提非线性模型的有效性。

基于注意力池化和堆叠式结构的病虫害文献识别模型

为解决病虫害文献识别过程中存在语义特征学习不够、上下文信息不能充分利用等问题,以病虫害相关文献摘要为研究对象,提出一种基于注意力池化策略和堆叠式双向长短期记忆(Bi-directional long-short term memory,BiLSTM)的神经网络模型(AP-LSTM)。该模型采用堆叠式长短期记忆结构,提高了对语义特征的学习能力,在进行堆叠操作时,通过将输入向量与输出向量拼接,进一步加强了对语义信息的表征;然后采用基于注意力机制的池化策略为不同的词分配不同权重,使模型在抓住重点的同时能够充分利用上下文信息。本文在包含1439条正例、1061条负例的自标注数据集上进行了实验,所提出的AP-LSTM模型在该数据集上的精确率、召回率、F1值和准确率分别为92.67%、97.20%、94.88%和94.00%,实验结果表明,AP-LSTM模型能够有效识别病虫害文献。

基于DE-LSTM模型的教育统计数据预测研究

当前,教育大数据呈现数据量大和数据类型多样的特点,准确有效地对教育统计数据进行分析和预测,对教育部门相关政策的制定和社会的发展具有重要的参考价值。文中以某市每年的招生人数为数据基础,提出了DE-LSTM模型,该模型通过差分进化算法(DE)对长短期记忆神经网络(LSTM)中的隐含层节点和学习率进行优化,使所提模型具有较好的预测性能,并与现有的BP神经网络预测模型、LSTM神经网络预测模型进行了对比。实验结果表明,提出的DE-LSTM预测模型具有较高的预测精度。