基于CNN-GRU-ISSA-XGBoost的短期光伏功率预测

针对光伏功率随机性及波动性大,单一预测模型往往难以准确分析历史数据波动规律,从而导致预测精度不高的问题,提出一种基于卷积神经网络-门控循环单元(CNN-GRU)和改进麻雀搜索算法(ISSA)优化的极限梯度提升(XGBoost)模型的短期光伏功率预测组合模型.首先去除历史数据中的异常值并对其进行归一化处理,利用主成分分析法(PCA)进行特征选取,以便更好地识别影响光伏功率的关键因素.然后采用CNN网络提取数据的空间特征,再经过GRU网络提取时间特征,针对XGBoost模型手动配置参数困难、随机性大的问题,利用ISSA对模型超参数寻优.最后对两种方法预测的结果用误差倒数法减小误差的同时对权重进行更新,得到新的预测值,从而完成对光伏功率的预测.实验结果表明,所提出的CNN-GRU-ISSA-XGBoost组合模型具有更强的适应性和更高的精度.

基于注意力机制的CNN-BiLSTM的IGBT剩余使用寿命预测

针对绝缘栅双极型晶体管(IGBT)可靠性问题,提出了一种融合卷积神经网络(CNN)、双向长短期记忆(BiLSTM)网络和注意力机制的剩余使用寿命(RUL)预测模型,可用于IGBT的寿命预测。模型中使用CNN提取特征参数,BiLSTM提取时序信息,注意力机制加权处理特征参数。使用IGBT加速老化数据集对提出的模型进行验证。结果表明,对比自回归差分移动平均(ARIMA)、长短期记忆(LSTM)、多层LSTM(Multi-LSTM)、 BiLSTM预测模型,在均方根误差和决定系数等评价指标方面该模型的性能最优。验证了提出的寿命预测模型对IGBT失效预测是有效的。

融合1D-CNN与BiGRU的类不平衡流量异常检测

网络流量异常检测是利用各种检测技术分析判断网络流量,发现网络中潜在的攻击,是一种有效的网络安全防护方法。针对高维海量数据和不同攻击类别的网络流量数据不均衡而导致检测准确率低、误报率高的问题,提出一种融合一维卷积神经网络(1D-CNN)和双向门控循环单元(BiGRU)的类不平衡流量异常检测模型。首先,针对类不平衡数据,通过使用改进的合成少数类过采样技术(SMOTE)即Borderline-SMOTE和基于高斯混合模型(GMM)的欠采样聚类技术进行平衡处理;然后,使用1D-CNN提取数据的局部特征,并利用BiGRU更好地提取数据中的时序特征;最后,在UNSW-NB15数据集对所提模型进行验证,所提模型的准确率为98.12%,误报率为1.28%。结果表明,所提模型提高了对少数攻击的识别率,检测精度高于其他经典机器学习和深度学习模型。

水库水位的VMD-CNN-GRU混合预测模型

水库水位预测为其运营、防洪、水资源调度管理提供了重要决策支持.准确可靠的预测对水资源的优化管理起着至关重要的作用.针对水库水位数据的非线性、不稳定性以及复杂的时空特性,提出一种融合自适应变分模态分解(VMD)、卷积神经网络(CNN)和门控循环单元(GRU)的混合水库水位预测模型.VMD通过对水位序列进行分解消除噪声,CNN用于有效提取水位数据的局部特征,GRU用于提取水位数据的深层时间特征.以葠窝水库日水位为例,与多个相关模型对比分析,结果表明:精度方面,新模型在选取的评价指标上均表现最佳;运算效率方面,本文选择的GRU与长短时记忆网络(LSTM)相比,运算效率显著提高.新模型预测的高精度、高运算效率更能满足实际水库水位实时调度的需求.

基于注意力机制的CNN-BIGRU短期电价预测

针对短期电价预测的复杂性和精确度较差的问题,本文提出一种基于注意力机制的卷积神经网络和双向门控循环单元网络的短期电价预测模型。该模型将历史电价数据经过数据预处理后作为输入,首先利用卷积神经网络提取历史电价序列中的特征;其次,将提取的特征向量构造成时间序列输入到双向门控循环单元网络,充分挖掘特征内部的变化规律进行训练;然后,引入注意力机制来突出重要信息的影响并赋予权重,利用注意力机制对双向门控循环单元网络每个时间步的输出进行加权求和;最后,在全连接层通过激活函数计算输出最终预测值。通过实例验证了本文所提模型的准确性。

基于UMAP、CNN的水工闸门安全评价指标体系降维

针对当前研究在处理复杂指标体系中指标间相关性不足以及指标筛选机制缺乏明确性的问题,从整体指标体系转化与逐个指标删减2个维度出发,采用统一流形逼近与投影(uniform manifold approximation and projection,UMAP)以及卷积神经网络(convolutional neural networks,CNN)技术,开展复杂水工闸门安全评价指标体系降维研究。构建水工闸门安全评价的初始指标体系,在分析指标相关性的基础上,使用UMAP对原始指标体系进行降维处理;提出一种基于指标值离散化的CNN训练样本生成方法,引入相对变化幅度和敏感度两个指标,以定量评估指标本身及其相对变化对闸门安全综合评价结果的影响,筛选关键评价指标;基于沙坪二级水电站中孔闸门的监测数据,对评价指标体系降维前后的结果进行对比验证,并从多角度探讨2种评价指标体系降维方法的差异及其各自的优缺点。提出的基于UMAP、CNN技术的2种方法不仅实现了复杂水工闸门安全评价指标体系的有效降维,而且为水工闸门安全综合评价与预警提供了重要的前置工具,为相关领域的研究提供了新的视角。

基于CNN-GRU的移动APP流行度预测模型

移动APP流行度预测对应用推荐、广告投放等意义重大。但是现有方法大多依赖手工特征工程,工作量大且效率较低。为此,提出一种基于深度神经网络的移动APP流行度预测模型。利用最大信息系数进行特征相关性分析以确保特征选取有效性,结合历史流行度特征,通过门控循环单元(gate recurrent unit,GRU)和注意力机制构建长期演化模型来推演发展趋势,基于多尺度卷积神经网络(convolutional neural networks,CNN)和注意力机制构建短期波动模型以实现预测动态优化,结合其他重要特征利用GRU和注意力机制建立多因素影响模型。通过时间注意力模块将上述模型融合,实现流行度预测。实验结果表明,所提模型在移动APP流行度预测方面相对更为精准有效。

基于多传感器信息融合和CNN-BIGRU-Attention模型的液压防水阀故障诊断方法

在建筑工程领域,尤其是在工程搅拌设备中,涉及到复杂液压工作介质,液压防水阀往往会出现不同程度的故障。此外,恶劣的工作环境和复杂的噪声背景使得对液压防水阀的故障进行诊断变得困难。为了解决这一难题,提出了一种基于多传感器信息融合和卷积神经网络-双向门控循环单元-自注意力机制(CNN-BIGRU-Attention)模型的防水阀故障诊断方法。首先,考虑到单一传感器振动信号难以充分表达故障特征,该方法使用了3个传感器采集含噪声的振动信号,并进行了必要的预处理;其次,提取了信号的16个时域特征、5个频域特征以及3个时频域特征,并利用熵权法进行了特征融合,达到了增强特征的目的;然后,将融合的多维特征集输入到CNN-BIGRU-Attention模型中进行了特征识别;最后,利用实际的液压防水阀故障诊断实验,验证了该方法的有效性。研究结果表明:采用多传感器提取的特征更为全面,信息融合有助于捕捉更完整的隐藏数据特征,从而显著提高诊断的准确率;相较于其他特征识别方法,采用CNN-BIGRU-Attention模型的液压防水阀故障诊断准确率可分别提高6.7%、4.6%和14.2%,达到了96.86%,证明了该方法的有效性。该方法将先进的机器学习技术与实际工程应用相结合,为建筑工程问题提供了一种新颖、有效的解决方案。

基于CNN BiGRU RF模型的TBM掘进参数预测研究

作为井下巷道掘进的新工法,全断面隧道掘进机(TBM)有显著的经济效益,对TBM的掘进参数进行预测对于确保TBM的掘进效率具有重要意义。对现场获取的TBM数据进行清洗和预处理,利用皮尔逊相关系数法对模型输入特征进行筛选,并构建基于卷积神经网络(CNN)优化的双向门控循环单元(BiGRU)神经网络并通过随机森林(RF)进行集成的TBM掘进参数预测模型,实现对TBM掘进参数的预测。研究结果表明:选取与总推力和推进速率关联度最密切的刀盘转速、刀盘扭矩和贯入度作为特征参数;构建的CNN BiGRU RF模型预测掘进参数对总推力和推进速率的拟合优度R 2均值分别为0.950和0.966,均方误差MSE平均值分别为0.750和0.782,均方根误差RMSE平均值分别为0.866和0.885,平均绝对误差MAE平均值分别为1.054和1.007,并且回归评价指标MSE、RMSE、MAE相较于CNN BiGRU模型,分别降低2.497、0.966和0.386,R 2提升23.4%,证明CNN BiGRU RF模型的预测准确度和泛化性最高。该研究可为实际工程掘进参数预测提供指导,有助于推动TBM在煤矿的推广,保障TBM的施工进度。

基于CNN-GRU并联网络的海上风电支撑结构损伤识别

利用振动响应和深度学习进行结构损伤识别时,会遇到需要较多测点数据、损伤识别准确率不高以及网络容易发生过拟合等问题。为此,提出了一种基于卷积神经网络-门控循环单元(convolutional neural networks-gated recurrent unit,CNN-GRU)神经网络并联网络的结构损伤识别新方法。首先,对响应信号进行广义S变换(generalized S-transform,GST)得到其时频图像。然后,分别利用CNN和GRU从时频图像和响应信号中提取时频域特征和时序特征,并将时频域特征和时序特征拼接后输入全连接层和Softmax分类器中进行结构损伤识别。位移激励下的海上风电支撑结构模型试验数据验证结果表明,该方法仅需要一个测点的响应信号,与其他同类方法相比具有更高的识别准确率和效率。

基于EWT-CNN-BiGRU的多特征电力负荷预测模型

针对目前多特征预测模型在短期电力负荷数据上精度不足的问题,提出一种基于经验小波变换(EWT)的卷积神经网络(CNN)融合双向门控循环单元(Bi GRU)预测模型。首先,从多维时序数据中提取强关联性特征,其次,对选定特征进行经验小波变换,将时序数据映射至频域以获取子序列,最后,通过卷积神经网络和双向门控循环单元融合模型实现对电力负荷数据的预测。该预测模型使用德国某联合循环电厂的时序数据进行实验验证。结果表明,该预测模型获得99.463%的拟合优度,具有较好的预测效果。

基于PSO-CNN-GRU模型的无人机短期航迹预测

针对无人机(Unmanned Aerial Vehicle,UAV)航迹预测问题,为了提升航迹预测的收敛速度和精度,论文提出了一种基于粒子群算法优化,卷积神经网络与门控循环单元网络相结合的PSO-CNN-GRU无人机航迹预测模型。为了解决神经网络人工调参难以获得最优解的问题,通过PSO算法进行自动调参,对GRU网络的隐藏层规模、学习率、批训练大小等参数进行优化,避免形成局部最优解;针对历史关键信息与重要特征的提取问题,通过CNN网络提取变量间的局部依赖关系,实现隐藏特征的挖掘。实验结果表明,与原始GRU模型相比,PSO-CNN-GRU模型的MAE、MSE的值分别降低了65.13%、73.25%,有着较好的准确性与鲁棒性。

一种GRU结合CNN的网络流量分类算法研究

循环神经网络(Recurrent Neural Network,RNN)结合卷积神经网络(Convolutional Neural Network,CNN)的混合算法在流量分类问题上的表现往往优于单一深度学习算法。文章基于CICIDS2017的原始流量数据,先进行预处理,再利用CNN模型学习数据流的空间特征,将数据流中所有数据包的CNN输出作为门控循环单元(Gated Recurrent Unit,GRU)的输入,学习网络流的时间特征,最后通过Softmax分类器获得分类结果。经过测试,在此数据集下,提出的双网络结合算法可以在更少的步数内达到数据流量分类的高准确率。

基于CNN-aGRU融合模型的尾矿坝浸润线预测方法

为预防尾矿库溃坝安全事故,关联分析在线监测数据的深度,提出将卷积神经网络(CNN)与门控循环单元(GRU)融合的尾矿库浸润线安全态势预测方法,以掌握坝体的稳定性状况与安全发展态势。该方法综合考虑尾矿库监测数据复杂非线性和时序关联性等特点,利用一维卷积神经网络(1D CNN)模型获取多源数据的局部关联特征和空间特征,并利用GRU模型获取浸润线数据的时序特征,采用自适应矩估计权重衰减优化算法(AdamW)优化模型梯度的自适应性,提高预测模型泛化能力和预测精度,并以河南洛阳某金属露天钼矿尾矿坝进行试验验证。试验结果表明:对比传统BP神经网络、长短期记忆网络(LSTM)、GRU等预测模型,该预测模型在平均绝对百分比误差(MAPE)、平均绝对误差(MAE)、均方误差(MSE)、均方根误差(RMSE)、R 2几项关键指标上,分别达到0.01391562、0.005432、0.000045、0.006702、0.998334,实现对浸润线变化态势快速精准预测。

基于模糊聚类和CNN-BIGRU的轨道电路故障预测

针对轨道电路稳态环境下故障诊断时效性不足的问题,提出一种基于Gath-Geva(GG)模糊聚类对轨道电路退化状态进行划分,并利用卷积神经网络(convolutional neural network,简称CNN)和双向门控循环单元(bi-directional gated recurrent unit,简称BIGRU)进行轨道电路故障预测的方法。首先,通过集中监测设备获取ZPW-2000轨道电路各类故障发生前一定时间内的正常工作数据;其次,通过核主成分分析进行特征降维和GG模糊聚类对轨道电路性能退化状态进行阶段划分,识别不同的退化状态;最后,利用CNN-BIGRU混合神经网络挖掘轨道电路不同故障类型数据特征,对轨道电路退化状态所对应的故障类型进行预测。实验结果表明,该算法可以精确划分轨道电路退化状态并实现故障预测,CNN-BIGRU预测模型分类精确度可达97.62%,运行时间仅为13.18 s,能够为轨道电路的多模式健康状态识别提供一种有效的方法。

基于BERT-BiGRU-CNN模型的短文本分类研究

针对传统语言模型不能解决深层双向表征和分类模型不能充分捕获文本显著特征的问题,提出了一种基于BERT-BiGRU-CNN(Bidirectional Encoder Representation from Transformers-Bidirectional Gating Recurrent Unit-Convolutional Neural Networks)的文本分类模型。首先,该模型使用BERT预训练语言模型进行文本表示;其次,将BERT的输出数据输入BiGRU中,以捕获文本的全局语义信息;然后,将BiGRU层的结果输入CNN中,捕获文本局部语义特征;最后,将特征向量输入Softmax层得到分类结果。实验采用中文新闻文本标题数据集,结果表明,基于BERT-BiGRU-CNN的文本分类模型在数据集上的F_(1)值达到0.948 5,优于其他基线模型,证明了BERT-BiGRU-CNN模型可提升短文本的分类性能。

基于EEMD-CNN-GRU的短期风向预测

为了提高短期风向的预测精度,提出一种基于集合经验模态分解(Ensemble Empirical Mode Decomposition,EEMD)、卷积神经网络(Convolutional Neural Network,CNN)和门控循环单元网络(Gated Recurrent Unit,GRU)的混合模型:EEMD-CNN-GRU.针对风向序列的随机性和不平稳性等特点,先利用EEMD将数据分解成多个分量;再运用CNN的局部连接和权值共享来提取分量中的潜在特征;最后,使用GRU对CNN所提取的潜在特征进一步构建特征,叠加各分量的预测值,得到最终预测结果.实验结果表明:相对于BP神经网络和长短期记忆网络(Long Short-Term Memory,LSTM)等其他模型,本文所提出的预测方法取得了良好的性能.

基于S2S-CNN-GRU的机场离港航班延误预测

为解决空中交通管理中机场离港航班延误预测难题,采用序列到序列(S2S)框架将门控单元循环网络(GRU)和卷积神经网络(CNN)相结合,提出一种基于S2S-CNN-GRU的航班延误预测模型,主要采用序列到序列的框架结构,利用CNN来捕获机场航班延误状态的结构化特征,作为编码器的输入,利用GRU捕获延误状态的时间特征,并作为解码器输出预测结果,提高预测的准确性。采用美国实际数据检验该模型的有效性,并同其他模型进行对比。结果表明:基于S2S-CNN-GRU的航班延误预测模型预测的平均绝对误差(MAE)为3.03,均方根误差(RMSE)为5.82,明显优于其他模型的预测效果。

基于BERT和多窗口门控CNN的电机领域命名实体识别

针对电机领域命名实体识别困难、精度不高的问题,提出了一种基于BERT和多窗口门控CNN的电机领域命名实体识别模型。该模型首先利用BERT预训练模型生成句子的字向量序列,根据电机领域文本的上下文动态微调字向量,增强字向量的语义表达;其次,构建具有全局时序特征感知单元和多窗口门控CNN单元的双分支特征提取层,形成句子的多级语义特征表示;最后,通过CRF对字符序列进行解码,得到每个字符对应的标签。在小规模的自建电机领域数据集与多组模型进行的对比实验结果表明,该模型命名实体识别性能均优于其他模型,macro-F_(1)值达到了90.16%,验证了该方法对电机领域实体识别的有效性。

基于时空序列的CNN-GRU气温预测模型

针对传统气温预测方法在面对多维度样本时模型收敛速率低、模型拟合程度差等问题,提出一种基于卷积神经网络(CNN)和门控循环单元(GRU)的组合预测模型。首先,使用CNN对原始样本数据进行降维,提取样本中各特征向量之间的隐含关系;其次,通过GRU网络学习降维后的样本数据的特征动态变化趋势与规律来实现气温预测。通过德国耶拿马克斯普朗克生物地球化学研究所气象站的气象观测数据验证所提模型。实验结果表明,与未采用卷积操作的Prophet-LSTM和PCA-GRU结构神经网络相比,所提模型在处理高维度样本数据时能在保证模型收敛速率的同时,分别将平均绝对误差(MAE)降低24.0%和22.8%,均方根误差(RMSE)降低42.2%和39.4%,验证了它在实际环境中预测温度趋势的有效性。