基于CNN-GRU-ISSA-XGBoost的短期光伏功率预测

针对光伏功率随机性及波动性大,单一预测模型往往难以准确分析历史数据波动规律,从而导致预测精度不高的问题,提出一种基于卷积神经网络-门控循环单元(CNN-GRU)和改进麻雀搜索算法(ISSA)优化的极限梯度提升(XGBoost)模型的短期光伏功率预测组合模型.首先去除历史数据中的异常值并对其进行归一化处理,利用主成分分析法(PCA)进行特征选取,以便更好地识别影响光伏功率的关键因素.然后采用CNN网络提取数据的空间特征,再经过GRU网络提取时间特征,针对XGBoost模型手动配置参数困难、随机性大的问题,利用ISSA对模型超参数寻优.最后对两种方法预测的结果用误差倒数法减小误差的同时对权重进行更新,得到新的预测值,从而完成对光伏功率的预测.实验结果表明,所提出的CNN-GRU-ISSA-XGBoost组合模型具有更强的适应性和更高的精度.

基于小波分解和ARIMA-GARCH-GRU组合模型的制造业PMI预测

制造业采购经理人指数(PMI)是反映国家经济运行情况的重要指标,而传统预测模型对该类时序数据预测精度不高。针对制造业PMI指数的非线性、波动性和数据量少的特点,提出一种基于一维离散小波变换进行数据预处理的组合模型。时序数据经过小波变换,由整合移动平均自回归–广义自回归条件异方差模型(ARIMA-GARCH)处理稳态低频数据,门控循环单元(GRU)处理波动性强的高频数据,将各频段预测结果进行融合得到最终预测结果。为验证模型有效性,选取一定数据量的PMI指数进行实验。结果表明,与其他常见模型对比,本文构建的组合模型具有较好的预测精度与性能,平均绝对误差(MAE)、均方根误差(RMSE)、平均绝对百分比误差(MAPE)分别达到0.00329、0.004162、0.65%。

基于CBAM-CGRU-SVM的Android恶意软件检测方法

随着Android恶意软件的种类和数量不断增多,检测恶意软件以保护系统安全和用户隐私变得越来越重要。针对传统的恶意软件检测模型分类准确率较低的问题,提出一种基于卷积神经网络(CNN)、门控循环单元(GRU)和支持向量机(SVM)的模型CBAM-CGRU-SVM。首先,在CNN中添加卷积块注意力模块(CBAM)以学习更多恶意软件的关键特征;其次,利用GRU进一步提取特征;最后,为了解决图像分类时模型泛化能力不足的问题,使用SVM代替softmax激活函数作为模型的分类函数。实验使用了Malimg公开数据集,该数据集将恶意软件数据图像化作为模型输入。实验结果表明,CBAM-CGRU-SVM模型分类准确率达到94.73%,能够更有效地对恶意软件家族进行分类。

基于GRU的密集连接时空图注意力网络的城市交通预测

城市道路拓扑结构的复杂性、交通流量的实时变化以及多元的外部环境等因素给交通预测带来了极大的困难。现有方法对交通路网的时空特征挖掘性不足,缺乏对外部因素的考虑,为此本文提出了一种基于门控循环单元(GRU)的时空图注意力密集连接网络,通过门控循环单元来捕获路网数据的动态规律,并以图注意力密集连接网络来提取路网复杂的空间结构特征,建立城市交通网络对时空的依赖关系。针对外部客观因素,采用独热编码的方式对城市各路段发生的交通事件进行数据建模,增强交通网络的信息属性。以杭州申花路及周围共309个路段为例,对所提出模型的预测能力和可行性进行验证。实验结果表明,模型预测精度最高达到了81.64%,与传统数学模型和主流的神经网络模型对比,预测精度较ARIMA提高了35.42%,较图注意力网络(GAT)和GRU神经网络分别提高了17.45%和3.02%。实验证明该方法可以适应复杂的交通流进行长期的交通预测任务,同时也能增强交通管理能力,减少交通拥堵成本。

水库水位的VMD-CNN-GRU混合预测模型

水库水位预测为其运营、防洪、水资源调度管理提供了重要决策支持.准确可靠的预测对水资源的优化管理起着至关重要的作用.针对水库水位数据的非线性、不稳定性以及复杂的时空特性,提出一种融合自适应变分模态分解(VMD)、卷积神经网络(CNN)和门控循环单元(GRU)的混合水库水位预测模型.VMD通过对水位序列进行分解消除噪声,CNN用于有效提取水位数据的局部特征,GRU用于提取水位数据的深层时间特征.以葠窝水库日水位为例,与多个相关模型对比分析,结果表明:精度方面,新模型在选取的评价指标上均表现最佳;运算效率方面,本文选择的GRU与长短时记忆网络(LSTM)相比,运算效率显著提高.新模型预测的高精度、高运算效率更能满足实际水库水位实时调度的需求.

基于GRU-DRSN的双通道人体活动识别

人体活动识别(human activity recognizition, HAR)在医疗、军工、智能家居等领域有很大的应用空间。传统机器学习方法特征提取难度较大且精度不高。针对上述问题并结合传感器时序特性,提出了一种融合CBAM(convolutional block attention module)注意力机制的GRU-DRSN双通道并行模型,有效避免了传统串行模型因网络深度加深引起梯度爆炸和消失问题。同时并行结构使得两条支路具有相同的优先级,使用深度残差收缩网络(deep residual shrinkage network, DRSN)提取数据的深层空间特征,同时使用门控循环结构(gated recurrent unit, GRU)学习活动样本在时间序列上的特征,同时进行提取样本不同维度的特征,并通过CBAM模块进行特征的权重分配,最后通过Softmax层进行识别,实现了端对端的人体活动识别。使用公开数据集(wireless sensor data mining, WISDM)进行验证,模型平均精度达到了97.6%,与传统机器学习模型和前人所提神经网络模型相比,有更好的识别效果。

基于多重分形的改进GRU滑坡位移预测模型

门控机制设计难以学习序列变化趋势,导致传统记忆网络模型对滑坡位移非平稳跃变段预测效果较差.基于多重分形改进门控循环单元(GRU),通过量化序列的变化特征来动态更新门控权重,引入循环神经网络单元的状态融合策略以学习数据的长程相关性特征.采用变分模态分解算法将滑坡累积位移分解成趋势项、周期项及随机项,利用改进GRU进行位移分量的训练和预测.选取三峡库区白水河滑坡监测点ZG93、ZG118进行仿真实验.实验结果表明,相比传统预测模型,新模型的滑坡位移形变趋势特征学习能力更强,预测精度更高.

基于COMGRU的AUV航路轨迹预测方法

针对采用神经网络预测自主水下机器人航迹存在滞后性的问题,本文提出一种基于信息压缩的改进门控循环神经网络,用于水下自主机器人航路多步轨迹预测。该算法将水下自主机器人航行轨迹附近的障碍物位置信息、海流信息以及时空轨迹信息共同构成的地理位置信息进行数据压缩处理,作为本文预测网络的输入,以提高网络训练效率。实验验证该算法减少了水下自主机器人航迹多步预测的滞后性且具有较高的准确率。

基于EKF-GRU的车辆轨迹预测

为提升行车安全,实现自动驾驶车辆正确的决策规划,提出基于扩展卡尔曼滤波(EKF)-门控循环单元(GRU)的车辆轨迹预测方法,结合学习方法与物理模型,在提升预测精度的同时,提高轨迹预测的合理性。首先,基于GRU构建预测网络,通过提取车辆的历史轨迹特征预测车辆的纵向加速度及横摆角速度;其次,基于车辆非线性运动学构建EKF状态估计器,结合观测值生成车辆未来有限时域的行驶轨迹;最后,在高速公路多车轨迹数据集NGSIM I-80和US-101上进行轨迹预测方法验证。结果表明:采用传统的物理模型生成预测轨迹,其最终距离误差(FDE)、均方根误差(RMSE)、平均距离误差(ADE)值分别为6.48、7.69和3.03 m。相比之下,利用EKF-GRU生成的预测轨迹表现出更高的准确性,对应的数值分别为5.45、6.67和2.56 m,分别提升15.90%、13.26%和15.51%。

基于OVMD-KPCA-RTH-GRU的短期光伏发电功率预测

针对光伏发电功率的随机性、波动性和非线性问题,提出了一种结合经红尾鵟(RTH)算法优化的变分模态分解(VMD)、核主成分分析(KPCA)和经RTH算法优化的门控循环单元(GRU)神经网络的光伏发电功率预测模型。首先,使用RTH算法对VMD和GRU神经网络的5个超参数进行优化;接着,应用优化后的VMD方法分解原始数据,以减少光伏数据的波动性和随机性;然后,采用KPCA方法降低数据维度,消除冗余;最后,利用经RTH优化的GRU神经网络模型进行时序建模。通过分析新疆某光伏电站的历史发电数据,并与GRNN、LSTM、GRU以及OVMD-GRU、OVMD-KPCA-GRU模型相比较,本模型的拟合优度高达98.96%,显示出更高的预测精度。

VAE-ATTGRU模型的股指期货价格预测研究

针对股指期货市场高波动、非平稳、非线性和高信噪比等特性造成的预测难度大的问题,利用变分自编码器(VAE)和循环神经网络(RNN)提出一种基于VAE-ATTGRU的混合深度学习股指期货价格预测模型。利用变分自编码器对股指期货技术指标进行学习,将VAE学习到的潜在因子与原始数据融合实现数据增强,得到更丰富的因子表示;使用循环神经网络对股指期货价格进行预测,发现结合了注意力机制的门控循环单元(ATTGRU)可以对VAE增强后的股指期货数据进行充分学习,对关键特征信息进行捕捉并重新赋予权重。在沪深300股指期货、中证500股指期货和上证50股指期货数据上进行实验,通过均方根误差(RMSE)、平均绝对误差(MAE)、平均绝对百分比误差(MAPE)和决定系数R2对VAE-ATTGRU模型进行评估,发现其在预测精度上优于其他模型。

基于CNN-GRU的移动APP流行度预测模型

移动APP流行度预测对应用推荐、广告投放等意义重大。但是现有方法大多依赖手工特征工程,工作量大且效率较低。为此,提出一种基于深度神经网络的移动APP流行度预测模型。利用最大信息系数进行特征相关性分析以确保特征选取有效性,结合历史流行度特征,通过门控循环单元(gate recurrent unit,GRU)和注意力机制构建长期演化模型来推演发展趋势,基于多尺度卷积神经网络(convolutional neural networks,CNN)和注意力机制构建短期波动模型以实现预测动态优化,结合其他重要特征利用GRU和注意力机制建立多因素影响模型。通过时间注意力模块将上述模型融合,实现流行度预测。实验结果表明,所提模型在移动APP流行度预测方面相对更为精准有效。

基于周期图卷积与多头注意力GRU组合的交通流量预测模型

为了捕获交通流量数据中复杂的时空动态变化关系以及周期性变化的特征,同时避免道路突发情况引起的误差累计效应,提出一种基于周期图卷积(periodic graph convolution network,PGCN)与多头注意力门控循环单元(multi-head attention gated recurrent unit,MAGRU)组合的交通流量预测模型。首先,模型的时空数据融合模块利用交通流量的周期相似性构建周期图,同时将空间和时间编码信息添加至交通流量序列数据;然后在时空特征提取模块中,GCN子模块捕获周期特征图中的空间特征,MAGRU子模块捕获序列数据中的时间特征;最后通过门控融合机制将两者提取的时空特征进行融合。模型在两个真实的交通流量数据集上进行了实验。结果表明,该模型相较于多个最新基准模型,在MAE、RMSE、MAPE三个预测误差指标上平均降低了5.4%、22.8%、10.3%,R2精确度指标平均提高了11.6%。说明模型在预测精度方面有显著的改进,并能有效减少误差累积效应。

基于IMGRU-Seq2seq的自动问答方法研究

针对传统问答模型采用循环神经网络带来的梯度消失和网络退化的问题,提出一种基于IMGRU-Seq2seq(Identity Mapping Gated Recurrent Unit-Sequence to Sequence)的自动问答模型。通过TF-IDF方法对文本进行加权词向量表示;以门控循环单元为基础,将批标准化技术和线性整流激活函数相结合并添加恒等映射,从而构建IMGRU模型;将双向IMGRU作为问答模型的语义抽取单元,引入注意力机制和集束搜索算法,实现自动问答。实验结果表明,所提方法比现有方法BLEU、ROUGE-L分别平均提高18.87%、4.35%。

基于贝叶斯优化的GRU网络轴承剩余使用寿命预测方法

传统的滚动轴承剩余使用寿命预测模型存在参数优化的困难。针对这一问题,笔者提出了一种基于贝叶斯优化的GRU网络滚动轴承剩余使用寿命预测方法,并进行了实验验证,即以PHM2012数据集为例,结合贝叶斯优化算法对基于Encoder-Decoder结构的门控循环单元(GRU)预测模型的多个超参数进行了优化。首先,对包含噪声的原始数据进行了小波包处理,从滚动轴承的振动机理和故障特征出发提取了时域特征,针对该时域特征进行了优化、筛选,并将其输入到模型中的编码器部分,进一步提取了更深层次的时序特征;其次,结合注意力机制与Encoder-Decoder结构,构造了双向GRU神经网络模型,在模型的高维超参数空间中采用贝叶斯优化方法搜索超参数,得到了最优的超参数组合,并在解码器中融入了线性变换,得到了滚动轴承的寿命预测值;最后,封装了全部模型构建、训练与使用过程,建立了基于贝叶斯优化的GRU网络滚动轴承寿命预测流程,并对方法的有效性进行了对比实验验证。研究结果表明:采用基于贝叶斯优化的GRU网络可以有效预测滚动轴承的剩余使用寿命,相比于其他3种方法的最优结果,基于贝叶斯优化的GRU网络的平均预测得分提高了8.01%;基于贝叶斯优化的GRU网络对于真实寿命较短的轴承预测结果较为准确,而对于真实寿命较长的轴承则没有出现预测值大于真实值的情况,可以作为轴承临近失效阶段剩余使用寿命估计的参考。

基于GRU-BP算法的高精度动态物流称重系统

针对动态物流秤测量精度对载重、采样频率、带速较为敏感的问题,提出了一种高精度动态物流称重系统。首先,采用三因素五水平正交试验法,结合皮尔逊相关性检验原则,使用低通巴特沃斯与卡尔曼滤波器对传感器压力信号进行了滤波降噪处理,并将加速度信号作为模型输入信号,进行了特征补偿;然后,基于深度学习算法,提出了一种改进的门控循环单元模型,在该模型采样区间内将压力与振动改写为时序化信号,并将其共同输入门控循环单元(GRU)模型;最后,对GRU模型进行了改进,对其结构输出了层堆叠误差反向传播神经网络(BP),有效加强了模型的非线性映射能力。研究结果表明:在各类传动速度及测试货物下,该模型的最大测量误差相对于同类型深度学习模型长短期记忆(LSTM)神经网络、循环神经网络(RNN)时序模型及传统数值平均模型的误差,依次降低了16.14%、27.14%、76%,可用于各类称重系统。

基于VMD-LSTM-IPSO-GRU的电力负荷预测

为了挖掘电力负荷数据中的潜藏信息,提高短期负荷预测的精度,针对电力负荷强非线性、非平稳性等特点,提出一种基于变分模态分解(variational mode decomposition,VMD)、长短时记忆神经网络(long-term and short-term memory network,LSTM)、改进的粒子群算法(improve particle swarm optimization,IPSO)和门控循环单元(gated recurrent unit neural network,GRU)的混合预测模型。首先,使用相关性分析确定输入因素,再将负荷数据运用VMD算法结合样本熵分解为一系列本征模态分量(intrinsic mode fuction,IMF)和残差量,进而合理地确定分解层数和惩罚因子;其次,根据过零率将这些量划分为低频和高频,低频分量使用LSTM网络,高频分量利用IPSO-GRU网络分别进行预测;最后,将预测结果重构得到电力负荷的最终结果。仿真结果表明:相对于其他模型,所提混合模型可有效的提取模态特征,具有更高的预测精度。

基于BiGRU-attention的中文微博评论情感分析

文本情感分析是自然语言处理中的一项重要任务。近年来,深度学习技术的快速发展使得基于循环神经网络的模型在情感分析任务上取得了显著的进展。文章提出了一种基于门控循环网络(Gate Recurrent Unit,GRU)和注意力机制的情感分析模型,即BiGRU-attention,通过引入注意力机制,使得该模型能够自动学习到每个词汇对情感预测的重要性权重,从而有针对性地关注句子中最具表达力的部分。实验结果表明,所提出的基于BiGRU-attention的模型准确率达到了91.98%,均优于GRU、UCRNN、fastText-BiGRU等对比模型,平均提高了约7.86百分点。

基于对抗双向GRU网络的跨语言情感分类方法

为了提高资源匮乏语言的情感分类性能,提出一种基于对抗双向GRU网络相结合的跨语言情感分类模型(ABi-GRU)。通过基于语义双语词嵌入方法来提取中英文文本词向量特征;结合注意力机制的双向GRU网络提取文本的上下文情感特征,同时引入生成对抗网络缩小中英文向量特征分布之间的差距;通过情感分类器进行情感分类。实验结果分析表明,该方法有效地提升了跨语言情感分类的准确率。

基于GTO优化的VMD-CNN-GRU光伏发电功率预测

精确地预测光伏发电功率是保证电力系统稳定运行的关键。为改善光伏发电功率的预测的准确性,通过引入人工大猩猩部队优化(artificial gorilla troops optimizer,GTO)算法和变分模态分解(variational mode decomposition,VMD),提出了一种基于卷积神经网络(convolutional neural networks,CNN)和门控循环单元(gated recurrent unit,GRU)神经网络的组合预测模型(GTO-VMD-CNN-GRU)。研究基于皮尔逊相关系数的气象特征量提取方法,获取特征重要性并作为模型输入,针对VMD和模型参数手动设置的复杂性和不确定性,利用GTO对变分模态分解数量和惩罚因子进行寻优来确定最优组合,并对CNN-GRU模型主要超参数进行寻优。对光伏输出功率的预测进行分析,结果表明,GTO-VMD-CNN-GRU预测模型能有效提升光伏输出功率预测精度,再通过与其他4种方法的预测效果比较,发现所提方法各项误差指标表现最好,因此,优化后的模型可靠性更强。