基于综合灰关联序模型的残差门控循环神经网络位标器零部件选配

位标器漂移性能是决定精确制导武器跟踪能力与制导精度的关键因素之一,通过位标器零部件选配可改善位标器漂移性能。针对位标器零部件一次选配成功率低的问题,提出综合灰关联序(CGRO)模型并对影响位标器零部件选配的装配参数进行关联分析,得到了影响位标器零部件选配的关键装配参数;建立残差门控循环神经网络(RNGRU)模型,实现了位标器零部件的选配。以影响位标器漂移性能的陀螺转子与调漂螺钉装配为例,应用CGRO模型对陀螺转子的装配参数进行关联分析,得到了影响两者装配的关键装配参数;基于RNGRU模型实现了对调漂螺钉质量的回归预测。实验结果表明,所提方法能够实现位标器零部件的选配,其预测精度优于传统门控循环神经网络。

混合图神经网络和门控循环网络的短期光伏功率预测

为了能从大量历史光伏发电数据中提取出有效的时序特征以及在非欧几里得域中的关联,建立了基于混合图神经网络以及门控循环网络的短期光伏功率预测模型。该模型首先通过最邻近分类算法生成气象及出力数据的最邻近图,再将其结合图神经网络作为编码器对气象及出力数据进行编码形成时间序列,最后通过门控循环网络以及全连接层解码输出光伏功率预测结果。通过仿真分析验证,该模型具有更优的特征挖掘能力和分析性能,能更好地突出某时间节点的气象及出力数据特征,适应天气突变带来特征变化,从而提升光伏预测整体模型的表达能力。

基于改进门控循环神经网络的采煤机滚筒调高量预测

采煤机自适应截割技术是实现综采工作面智能化开采的关键技术。针对采煤机在复杂煤层下自动截割精度较低的问题,提出了一种基于改进门控循环神经网络(GRU)的采煤机滚筒调高量预测方法。鉴于截割轨迹纵向及横向相邻数据之间的相关性,采用定长滑动时间窗法对获取的采煤机滚筒高度数据进行预处理,将输入数据划分为连续、大小可调的子序列,同时处理横向、纵向的特征信息。为提高模型预测效率,满足循环截割的实时性要求,提出了一种用因果卷积改进的门控循环神经网络(CC-GRU),对输入数据进行双重特征提取和双重数据过滤。CC-GRU利用因果卷积提前聚焦序列纵向的局部时间特征,以减少计算成本,提高运算速度;利用门控机制对卷积得到的特征进行序列化建模,以捕捉元素之间的长期依赖关系。实验结果表明,采用CC-GRU模型对采煤机滚筒调高量进行预测,平均绝对误差(MAE)为43.80 mm,平均绝对百分比误差(MAPE)为1.90%,均方根误差(RMSE)为50.35 mm,决定系数为0.65,预测时间仅为0.17 s;相比于长短时记忆(LSTM)神经网络、GRU、时域卷积网络(TCN),CC-GRU模型的预测速度较快且预测精度较高,能够更准确地对采煤机调高轨迹进行实时预测,为工作面煤层模型的建立和采煤机调高轨迹的预测提供了依据。

基于门控循环神经网络的边缘服务中心风光荷组合预测方法

边缘计算因数据处理快、低成本和高实时等优点近年来在能源行业中受到广泛关注,而在边缘服务器上开展预测有助于对能源精细化管控。因此,针对边缘服务资源的有限性,基于差分自回归整合移动平均(autoregressive integrated moving average,ARIMA)模型和门控循环单元(gated recurrent unit,GRU)神经网络,提出考虑线性和非线性特征的风、光、荷组合预测方法。ARIMA用于提取源、荷的线性特征,将其与真实值进行拟合,得到包含非线性特征的残差。其次,将残差作为GRU的训练数据集建立预测模型,再引入剪枝和量化方法优化及压缩GRU模型,减小预测模型规模,以适应边缘服务器部署。大量仿真结果表明,所构建的GRU压缩模型规模小、预测精度高,适合边缘服务器的部署应用。

采用门控循环单元神经网络和多特征融合的铣削刀具磨损监测

为实现汽车发动机缸盖生产中刀具磨损状态的监测,提高刀具磨损监测方法的计算效率和识别精度,基于门控循环单元神经网络和多特征融合方法提出了面向铣刀后刀面磨损带宽度识别的刀具状态监测方法。通过铣削力信号数据对所提出方法的有效性进行了验证,分析了不同超参数设置对模型识别精度的影响机制,给出了最优超参数,实现了对铣削刀具磨损的精确识别。

基于多头注意力机制和门控循环单元神经网络的居民充电桩容量预测

居民充电桩的容量预测可为其定容选址提供参考,助力实现“双碳”目标,为此提出了一种基于数据驱动的居民充电桩容量预测方法。首先,采集了居民充电桩的历史容量数据并进行预处理;其次,利用不同大小的时序窗口对其进行切片作为输入特征;最后,构建了结合多头注意力机制和门控循环单元神经网络的预测模型,将特征输入模型从而实现了对未来容量的精准预测。通过实例分析表明,该模型预测结果的平均绝对误差和均方根误差分别为33.19和102.14%,预测精度相较于其他模型有较大提升,为居民充电桩的容量预测提供了新思路。

基于双向多层门控循环神经网络的奶牛乳脂率预测模型研究

通过对奶牛乳脂率进行数据预测以及结合随机森林算法对环境数据进行精准特征选择,确定了对乳脂率影响较大的环境因素。在此基础上,提出了将随机森林算法与双向多层门控循环神经网络相结合的乳脂率预测模型(RF-BiGRU)并进行了相关实验。结果表明,该模型能够提高预测的准确性及效率。

门控循环神经网络的时序PS-InSAR地面沉降预测

为防止中国香港国际机场填海造陆引起的地面沉降对基础设施造成破坏,利用永久散射体合成孔径雷达干涉(PS-InSAR)技术,获得中国香港国际机场2016~2020年地面沉降数据,并利用小基线集雷达干涉(SBAS-InSAR)技术以及水准点数据验证;引入门控循环(GRU)神经网络构建堆叠式GRU地面沉降预测模型,对中国香港国际机场未来地面沉降进行时序预测,并与SVM和MLP神经网络进行比较。结果表明:中国香港国际机场2016~2020年地面沉降空间分布不均匀,累计沉降逐渐增加,2020年12月垂直向的累积沉降量已达106 mm。构建的堆叠式GRU神经网络地面沉降方法相比SVM和MLP更准确,2021年7月中国香港国际机场最大累积地面沉降可达111.8 mm。本文提出的地面沉降时序预测模型,可作为一种有效预测地面沉降的方法,为地面沉降早期预警提供关键技术支持。

基于残差神经网络和注意力机制的频谱感知方法

随着通信技术的发展,频谱感知技术已经成为解决频谱资源稀缺的重要解决手段之一。针对传统的频谱感知方法在低信噪比(Signal to Noise Ratio,SNR)下准确率较低的问题,提出一种基于残差神经网络和注意力机制相结合的正交频分复用(Orthogonal Frequency Division Multiplexing,OFDM)频谱感知方法。将频谱感知问题转化为图像二分类任务。通过分析OFDM信号的循环自相关特征,将其灰度处理以生成循环自相关灰度图像。利用改进后的残差神经网络进行训练,提取这些灰度图像的深层特征,使用测试数据验证所得到的频谱感知模型。仿真实验结果表明,在低SNR条件下,所提方法表现出更出色的频谱感知性能,优于传统频谱感知技术。

基于改进残差神经网络的家蚕日龄识别模型

家蚕日龄的准确识别有助于精准饲喂和动物福利,因此为准确识别家蚕生长时期中3龄第1天至5龄第7天,共14个日龄,在实际环境下采集特定家蚕品种,构建以14个日龄为单位的数据集。提出一种基于改进残差神经网络的Moga-ResNet,该方法在经典残差神经网络ResNet50的基础上,引入多阶门控机制以获取日龄图像的显著性特征。通过在同一个家蚕日龄数据集上开展模型训练与测试得到,Moga-ResNet的识别准确率为96.57%,F1值为96.57%,召回率为96.62%,与Swin Transformer、MobileNet v3、CSPNet和DenseNet四个经典模型的评价指标相比,Moga-ResNet在家蚕的日龄识别中具有较强的识别能力,可以为开展家蚕精准饲喂和数字化管理相关工作提供基础。

基于残差增强门控循环神经网络的交通流量预测技术研究

随着近年来智慧城市轨道交通的快速发展和普遍应用,交通流量预测成为智慧城市轨道交通的关键性问题,对及时掌握交通状况、进行合理的资源配置和人力部署起着重要作用。文章以实现大规模交通网络的交通流量准确预测为目标,研究并设计一种基于残差增强门控循环单元的深度学习网络模型。在基本门控循环单元的基础上,引入残差连接思想,通过在门控循环单元的迭代回路之间增加线性连接,捕获数据中的长期时间依赖关系,同时克服循环神经网络在进行长期时间序列预测中的梯度消失或梯度爆炸问题。使用4个在真实交通网络中采集的大规模交通数据集对所提算法进行测试,分别从定量和定性的角度比较并验证所提算法的有效性。实验结果表明该算法能够使用前1h的历史数据、对大规模交通网络中各交通枢纽节点未来1h的交通状况进行较准确的交通流量预测,证明使用残差增强门控循环网络进行交通流量智能预测的可行性和准确性,为城市轨道交通智能运营管理的实现提供有力支撑。

基于深度双向门控循环神经网络的制粉系统故障预警

为构建鲁棒性较强的状态估计模型,结合堆叠自编码器思想,提出一种基于深度双向门控循环神经网络的制粉系统状态估计及故障预警方法。首先,选取制粉系统正常运行状态变量历史数据作为深度双向门控循环神经网络的训练输入,然后利用网络强大的特征学习能力,建立制粉系统正常状态估计模型。采用滑动窗口法构建制粉系统状态监测指标,确定指标阈值,利用火电厂制粉系统历史运行数据进行仿真。结果表明:相比于其他方法,深度双向门控循环神经网络模型具有更好的估计性能,且能够在故障发生前及时发出预警信息,达到早期故障诊断的目的。

考虑迟滞特性的卡尔曼滤波和门控循环单元神经网络的锂离子电池SOC联合估计

由于迟滞特性的存在,电池管理系统难以准确获得开路电压(OCV)与荷电状态(SOC)之间的状态关系。为有效地运行和管理动力电池,本文研究了考虑迟滞特性的锂离子电池模型,选用带有遗忘因子的递推最小二乘法进行参数在线辨识。提出了一种联合门控循环单元(GRU)神经网络和自适应扩展卡尔曼滤波(AEKF)的SOC估计,分别以AEKF和GRU神经网络的估计结果为模型值和测量值,通过卡尔曼滤波(KF)得到最终的SOC估计结果,并作为下一时刻AEKF的输入。结果表明,常温环境下考虑迟滞特性的模型对端电压预测及联合估计法对SOC估计的均方根误差(RMSE)分别在0.5 mV和0.64%以内;低温及变温环境下端电压预测及SOC估计的RMSE分别在0.9 mV和0.72%以内。考虑迟滞特性的模型及联合估计法具有良好的精度和鲁棒性。

基于注意力机制—门控循环单元—BP神经网络的智能多工序工艺参数关联预测

鉴于流程制造工序间能质流耦合严重,性能指标影响因素众多,工艺参数时序特征显著,现有制造模式下难以精准预测产品质量,在分析流程制造工艺性能指标多维、强时序、关联耦合特征的基础上,提出一种基于注意力机制—门控循环单元-BP神经网络(Attention AM-GRU-BPNN)的多工序耦合参数关联预测方法。首先采用互信息方法筛选多态异构生产数据作为输入,建立ConvGRU自编码器,通过无监督学习对过程数据、工艺参数、操作参数等进行时序特征提取,同时引入时序注意力机制提取不同工序的耦合关联特征并进行向量嵌入,为不同工序的工艺参数分配注意力权重。在此基础上,设计Attention网络自学习不同时刻下工艺关联特征对质量性能指标的影响差异,再通过门控循环单元网络对重要的关联特征进行增强,并按照时序特征对单工序预测模型进行聚合,实现多工序时序特征融合,最后通过输出层BPNN神经网络精准预测产品工艺质量。实验表明,AM-GRU-BPNN有效提高了预测精度,从多工序角度为生产线工序的加工过程控制提供了依据。

基于递推门控循环单元神经网络的锂离子电池荷电状态实时估计方法

锂离子电池荷电状态(state of charge,SOC)的准确估计对于保证电池系统安全运行至关重要。目前基于门控循环单元(gated recurrent unit,GRU)等循环神经网络的SOC估计方法得到了广泛关注,其无需预设电池模型即可实现SOC准确估计。然而,这类估计方法存在计算复杂度过高而难以在工程中实际应用的问题。针对传统GRU神经网络估计SOC时需要进行大量隐状态迭代而导致计算复杂度过高的问题,提出了网络隐状态时序继承的递推更新方式,通过改进GRU网络的输出结构,从而实现了仅需对当前时刻采样数据进行一次网络计算即可准确获取当前时刻SOC估计值。与文献中报道传统GRU方法相比,该递推GRU方法在保证SOC估计准确度不降低的情况下,能减少99%以上的计算量,具有较好的应用前景。此外,针对部分应用场景中电池训练数据缺乏的问题,方法能够结合迁移学习来快速完成网络训练。通过实验室测试数据集以及公开数据集进行验证,该方法能对不同温度环境、不同老化状态以及不同型号的锂离子电池进行准确SOC估计,其最大估计误差均不高于3%。

基于迁移学习与GRU神经网络结合的锂电池SOH估计

为解决退役电池梯次利用过程中单体剩余使用寿命估计困难、测试流程复杂与能耗高等问题,提出迁移学习与GRU网络结合的锂离子电池健康状态估计方法;设计的基础模型结构为输入层+GRU层+全连接层+输出层;根据健康因子的得分,选择训练基础模型的数据集、划分电池相似度等级并制定对应的迁移学习策略。实验结果表明:与其他模型相比,分别使用数据集的前40%与前25%训练得到的基础模型与迁移学习模型,两者的精度分别最大提高42.48%与95.28%,而预测稳定性分别最大提高55.38%与93.55%。

基于门控循环单元神经网络的测井曲线预测方法

为了减少泥浆侵入对测井曲线的影响,许多油田采用随钻测井技术,需先预测未钻地层测井曲线,这对随钻测井具有非常重要的指导作用。为此,提出一种基于门控循环单元神经网络(GRU)预测未钻地层测井曲线的方法,该模型将长短期记忆神经网络(LSTM)的输入门和遗忘门合并成更新门,输出门变成重置门,使模型结构简单,不易出现过拟合现象,保留LSTM模型的长时记忆功能,且能有效缓解梯度消失或梯度爆炸问题。以新疆油田直井和南海西部油田随钻测井的实际测井数据为例,选取已钻地层以及邻井的自然伽马、深感应电阻率、声波时差、密度和井径5条测井曲线数据作为训练样本输入到LSTM和GRU模型中进行学习训练,将训练好的模型用于预测未钻地层的测井曲线。应用结果表明,GRU比LSTM模型在新疆油田和南海西部油田预测测井曲线的平均相关系数分别提高13.78%和12.13%,平均均方根误差分别下降27.08%和42.17%,GRU模型能够准确地预测未钻地层测井曲线的变化趋势。

基于轻量级卷积门控循环神经网络的语声增强方法

针对在基于深度学习语声增强方法中因采用因果式的网络输入导致语声增强性能下降的问题,提出了一种基于轻量级卷积门控循环神经网络的语声增强方法。门控循环神经网络能够建模语声信号的时间相关性,但是其全连接结构忽略了语声信号的时频结构特征,并且参数数量庞大,不利于网络的训练。对此,该文采用卷积核替代门控循环神经网络中的全连接结构,在对语声信号时间相关性建模的同时保留了语声信号的时频结构特征,同时降低了网络的参数数量。为充分利用先前帧的特征信息,该网络单元当前时刻的输入融合了上一时刻的输入与输出。针对网络训练过程中容易产生过拟合的问题,该文采用了线性门控机制来控制信息的传输,这缓解了网络训练过程中的过拟合问题,提高了网络的语声增强性能。实验结果表明,该文所提出的网络结构在增强后的语声感知质量、语声短时客观可懂度、分段信噪比等指标上均优于传统的网络结构。

改进一维卷积神经网络与双向门控循环单元的轴承故障诊断研究

针对传统智能故障诊断依赖于人工经验进行特征提取和传统卷积神经网络(Convolutional neural networks, CNN)参数过多、训练量过大且无法充分利用时间序列信息的缺点,提出一种基于改进一维卷积神经网络与双向门控循环单元的深度学习新算法。首先,该方法利用一维卷积神经网络自提取能力进行特征提取,同时设计了一个全局均值池化层替换传统卷积神经网络的全连接层,减少参数数量;其次,引入双向门控循环单元学习特征信号中的时间序列关系;最后,通过支持向量机替换传统CNN中的Softmax层进行故障分类,进一步提高诊断的准确率。实验表明,该方法将诊断的准确率提升至99.8%,并且加快了诊断的速度。通过与其他方法的对比,证明了该方法有着更高的准确率,更快的诊断速度,更好的鲁棒性。

基于卷积门控循环神经网络的Web攻击检测方法

针对Web应用程序的攻击一直是网络空间对抗的热点问题,随着Web攻击技术的不断发展,传统的入侵检测系统和Web应用防火墙越来越无法满足安全防护需求。针对攻击者在Web请求中嵌入可执行代码或注入恶意代码来构造各种Web攻击,本文设计一种基于特征融合的恶意Web请求检测卷积门控循环单元(CGRU)神经网络。该网络利用CNN捕捉网络事件的局部特征和高阶特征,摒弃了传统的池化方法,采用GRU代替原有的池化层在时间维度上进行特征采集。同时,为了提高检测性能,筛选传统机器学习中在Web攻击检测领域分类效果较好的9个统计特征来增强原始特征。此外,还使用Word2Vec模型对词嵌入矩阵进行预训练,获得CGRU模型的输入,并对最终结果进行分类,有效提高多分类精度。在公开的HTTP CSIC 2010数据集上与当前典型方法进行对比实验,结果表明:本文所提方法的准确率为99.81%,召回率为99.78%,F_(1)值为98.80%,精准率为99.81%,较当前典型方法均有提高。