采用门控循环单元神经网络和多特征融合的铣削刀具磨损监测

为实现汽车发动机缸盖生产中刀具磨损状态的监测,提高刀具磨损监测方法的计算效率和识别精度,基于门控循环单元神经网络和多特征融合方法提出了面向铣刀后刀面磨损带宽度识别的刀具状态监测方法。通过铣削力信号数据对所提出方法的有效性进行了验证,分析了不同超参数设置对模型识别精度的影响机制,给出了最优超参数,实现了对铣削刀具磨损的精确识别。

基于多头注意力机制和门控循环单元神经网络的居民充电桩容量预测

居民充电桩的容量预测可为其定容选址提供参考,助力实现“双碳”目标,为此提出了一种基于数据驱动的居民充电桩容量预测方法。首先,采集了居民充电桩的历史容量数据并进行预处理;其次,利用不同大小的时序窗口对其进行切片作为输入特征;最后,构建了结合多头注意力机制和门控循环单元神经网络的预测模型,将特征输入模型从而实现了对未来容量的精准预测。通过实例分析表明,该模型预测结果的平均绝对误差和均方根误差分别为33.19和102.14%,预测精度相较于其他模型有较大提升,为居民充电桩的容量预测提供了新思路。

考虑迟滞特性的卡尔曼滤波和门控循环单元神经网络的锂离子电池SOC联合估计

由于迟滞特性的存在,电池管理系统难以准确获得开路电压(OCV)与荷电状态(SOC)之间的状态关系。为有效地运行和管理动力电池,本文研究了考虑迟滞特性的锂离子电池模型,选用带有遗忘因子的递推最小二乘法进行参数在线辨识。提出了一种联合门控循环单元(GRU)神经网络和自适应扩展卡尔曼滤波(AEKF)的SOC估计,分别以AEKF和GRU神经网络的估计结果为模型值和测量值,通过卡尔曼滤波(KF)得到最终的SOC估计结果,并作为下一时刻AEKF的输入。结果表明,常温环境下考虑迟滞特性的模型对端电压预测及联合估计法对SOC估计的均方根误差(RMSE)分别在0.5 mV和0.64%以内;低温及变温环境下端电压预测及SOC估计的RMSE分别在0.9 mV和0.72%以内。考虑迟滞特性的模型及联合估计法具有良好的精度和鲁棒性。

基于注意力机制—门控循环单元—BP神经网络的智能多工序工艺参数关联预测

鉴于流程制造工序间能质流耦合严重,性能指标影响因素众多,工艺参数时序特征显著,现有制造模式下难以精准预测产品质量,在分析流程制造工艺性能指标多维、强时序、关联耦合特征的基础上,提出一种基于注意力机制—门控循环单元-BP神经网络(Attention AM-GRU-BPNN)的多工序耦合参数关联预测方法。首先采用互信息方法筛选多态异构生产数据作为输入,建立ConvGRU自编码器,通过无监督学习对过程数据、工艺参数、操作参数等进行时序特征提取,同时引入时序注意力机制提取不同工序的耦合关联特征并进行向量嵌入,为不同工序的工艺参数分配注意力权重。在此基础上,设计Attention网络自学习不同时刻下工艺关联特征对质量性能指标的影响差异,再通过门控循环单元网络对重要的关联特征进行增强,并按照时序特征对单工序预测模型进行聚合,实现多工序时序特征融合,最后通过输出层BPNN神经网络精准预测产品工艺质量。实验表明,AM-GRU-BPNN有效提高了预测精度,从多工序角度为生产线工序的加工过程控制提供了依据。

基于门控循环单元神经网络的测井曲线预测方法

为了减少泥浆侵入对测井曲线的影响,许多油田采用随钻测井技术,需先预测未钻地层测井曲线,这对随钻测井具有非常重要的指导作用。为此,提出一种基于门控循环单元神经网络(GRU)预测未钻地层测井曲线的方法,该模型将长短期记忆神经网络(LSTM)的输入门和遗忘门合并成更新门,输出门变成重置门,使模型结构简单,不易出现过拟合现象,保留LSTM模型的长时记忆功能,且能有效缓解梯度消失或梯度爆炸问题。以新疆油田直井和南海西部油田随钻测井的实际测井数据为例,选取已钻地层以及邻井的自然伽马、深感应电阻率、声波时差、密度和井径5条测井曲线数据作为训练样本输入到LSTM和GRU模型中进行学习训练,将训练好的模型用于预测未钻地层的测井曲线。应用结果表明,GRU比LSTM模型在新疆油田和南海西部油田预测测井曲线的平均相关系数分别提高13.78%和12.13%,平均均方根误差分别下降27.08%和42.17%,GRU模型能够准确地预测未钻地层测井曲线的变化趋势。

基于门控循环单元神经网络的大跨径斜拉桥索力预测

拉索索力的改变直接反映斜拉桥结构体系受力状态的变化,因此索力监测对斜拉桥健康评估具有重要意义。然而现有关于索力的研究大多为索力识别,难以做到根据历史索力数据实现对未来索力的预测。为此,提出一种基于门控循环单元(GRU)神经网络的索力预测方法:利用GRU神经网络对时序型数据的处理能力以及索力数据较强的序列化特性,搭建基于GRU神经网络的索力预测框架,该预测框架包含输入层、GRU隐藏层与输出层;利用实桥连续采集的索应力时程数据作为训练及验证样本,对样本进行数据切片和归一化;搭建能够实现对该桥未来索力进行预测的GRU神经网络,结合梯度下降优化算法进行网络计算。结果表明所提方法对不同长度的拉索都具有较好的预测效果。

基于门控循环单元神经网络和Huber-M估计鲁棒卡尔曼滤波融合方法的锂离子电池荷电状态估算方法

锂离子电池作为重要的储能元件,其荷电状态(SOC)直接影响所在系统的运行状态。为了实现对锂离子电池SOC的精确估算,提出一种基于门控循环单元神经网络(GRU-RNN)和Huber-M估计鲁棒卡尔曼滤波(HKF)融合方法的锂离子电池SOC估算模型。该方法利用Huber-M估计改进卡尔曼滤波器的鲁棒性,并将基于GRU-RNN所估算的锂离子电池SOC值作为改进卡尔曼滤波器的观测量。在两组锂离子电池数据集上分别进行锂离子电池SOC估算实验。实验结果表明,基于GRU-RNN和HKF融合方法的锂离子电池SOC估算模型不仅能够准确地实现锂离子电池SOC估算,而且能够降低测量误差及异常值对估算结果的影响,使锂离子电池SOC估算结果快速且精确收敛。

基于门控循环单元神经网络的储层孔渗饱参数预测

孔隙度、渗透率和饱和度等物性参数是表征储层质量的重要参数,也是储层评价的重要依据。根据测井数据估算岩石的孔隙度、渗透率和饱和度参数,进而评价储层,是测井解释的基本内容。作为一种适于解决非线性和时序性问题的新型深度学习算法,门控循环单元(gated recurrent unit,GRU)神经网络算法能较好地反映出孔渗饱参数与测井数据之间的非线性映射关系以及不同深度历史数据之间的关联。基于GRU神经网络的储层孔渗饱参数预测方法首先采用基于Copula函数的相关性测度法筛选与孔渗饱参数关联度较高的测井参数,而后利用GRU神经网络建立测井数据与孔渗饱参数之间的非线性映射关系。对四川盆地某探区实际测井数据进行了GRU神经网络储层孔渗饱参数预测的模型训练和预测试验,最后将预测结果与多元回归分析、循环神经网络等方法的预测结果进行比较,结果表明,以均方根误差和Pearson相关系数为评价指标,基于门控循环单元神经网络的储层孔渗饱参数预测方法效果优于其它方法。

基于迁移学习与GRU神经网络结合的锂电池SOH估计

为解决退役电池梯次利用过程中单体剩余使用寿命估计困难、测试流程复杂与能耗高等问题,提出迁移学习与GRU网络结合的锂离子电池健康状态估计方法;设计的基础模型结构为输入层+GRU层+全连接层+输出层;根据健康因子的得分,选择训练基础模型的数据集、划分电池相似度等级并制定对应的迁移学习策略。实验结果表明:与其他模型相比,分别使用数据集的前40%与前25%训练得到的基础模型与迁移学习模型,两者的精度分别最大提高42.48%与95.28%,而预测稳定性分别最大提高55.38%与93.55%。

融合自注意力机制与门控循环单元网络的宽工况锂离子电池SOC估计

准确估计宽工况条件下的锂离子电池荷电状态(SOC)对于电动汽车的运行安全性和可靠性至关重要,是电池管理系统最重要的任务之一。本工作充分利用门控循环单元(GRU)神经网络短时处理能力与注意力机制(SAM)长时序特征提取能力,提出了一种融合SAM与GRU的神经网络模型学习锂离子电池可测参数(电压、电流)与其SOC的非线性映射关系,实现了高精度的SOC估计,从而解决锂离子电池SOC的长序列相关特征难以有效表征问题。通过北京公交动态应力测试(BBDST)数据的验证表明,与传统GRU网络相比,本文提出的SAM-GRU神经网络模型对于不同放电倍率、环境温度以及放电倍率-环境温度混合工况下工作的锂离子电池均取得了更准确的SOC估计,估计精度提升分别不小于26%、25%和11%。

基于变分模态分解和门控循环单元神经网络的变压器油中溶解气体预测模型

油中溶解气体分析是变压器早期故障诊断的一种有效方法,对变压器油中溶解气体进行精准预测,可为变压器早期故障监测和预警提供理论依据。为此本研究提出了一种基于变分模态分解和门控循环单元神经网络的变压器油中溶解气体预测模型。首先对变压器原始油中溶解气体体积分数时间序列进行变分模态分解,将其分解为各子序列,消除其不平稳性的影响;然后分别建立门控循环单元神经网络预测模型对各子序列进行单步和多步预测;最后将预测得到的各子序列进行叠加重构从而得到对变压器油中溶解气体体积分数的单步和多步预测。算例分析表明,该模型单步预测的平均绝对误差和均方根误差分别为0.0576和0.0684,多步预测的平均绝对误差和均方根误差分别为0.1679和0.2041。相比于其他预测模型,该研究所提出模型在单步和多步预测能力上均有较大提升,为电力变压器监测预警提供了参考。

基于多重注意力卷积神经网络双向门控循环单元的机械故障诊断方法研究

为解决传统机械故障诊断方法需要人工提取特征的不足,提出一种基于多重注意力卷积神经网络双向门控循环单元(multiple attention-convolutional neural networks-bidirectional gated recurrent unit,MA-CNN-BiGRU)的端到端的故障诊断方法。首先将原始时域数据输入卷积神经网络(convolutional meural networks,CNN)进行初步特征提取并降维,然后将结果重组输入双向门控循环单元(bidirectional gated recurrent unit,BiGRU),可以有效地解决BiGRU对于过长序列数据处理困难的问题。采用美国凯斯西储大学开源轴承数据集进行训练,确定了最佳卷积层数和最佳样本长度约减比例分别为2和1/8。同时,通过在CNN和BiGRU中分别加入卷积注意力模块(convolutional block attention module,CBAM)和序列注意力模块(sequence attention module,SAM),进一步加强了模型对于关键信息的提取能力。最后实测柴油机故障振动信号试验表明:MA-CNN-BiGRU模型可以实现端到端的故障诊断,与变分模态分解(variational mode decomposition,VMD)核模糊C均值聚类算法(VMD-kernel fuzzy C-means clustering,VMD-KFCM)、VMD-反向传播神经网络(back propagation neural network,BPNN)和一维CNN等方法进行对比,MA-CNN-BiGRU模型的故障诊断性能更优。

基于特征优选和麻雀搜索优化门控循环单元短期风电功率预测

针对短期风电出力预测目前存在的难点与问题,提出一种基于特征优选和麻雀搜索优化门控循环单元(gated recurrent unit,GRU)神经网络预测模型,实现对风电功率的短期预测。首先,分别使用Kendall秩相关系数、灰色关联度和互信息对原始特征数据进行特征优选,选择有效特征作为输入特征集;其次,使用麻雀搜索算法(sparrow search algorithm,SSA)对GRU神经网络超参数进行优化,获取最优超参数;最后,结合西北某风电场实测数据验证了该方法的有效性。实验结果表明,本文所提出的预测模型与文中其他传统预测模型相比,均方根误差和平均绝对误差平均下降了25.3%和31.3%,拟合优度系数平均提高了10.2%,表现出更好的预测性能。

基于门控循环单元神经网络的箱型梁结构裂纹损伤检测方法

[目的]随着智能船舶的发展,传统裂纹损伤检测方法已难以满足检测需求,为此,提出一种基于门控循环单元(GRU)神经网络的箱型梁结构裂纹损伤实时检测方法。[方法]通过基于Python语言的ABAQUS二次开发技术,建立箱型梁裂纹损伤模型,计算其在动态高斯白噪声激励下的加速度响应。通过数据裁剪技术扩充原始数据之后生成数据集,并考虑噪声的影响。建立基于GRU的箱型梁裂纹损伤检测模型,直接将加速度响应数据集作为输入,以最小损失函数值为目标来训练模型,并与基于小波包变换的多层感知机神经网络(WPT-MLP)进行对比。[结果]结果显示,所提出的GRU模型在损伤位置和损伤长度的检测上相比WPT-MLP检测精度更高,对噪声的敏感程度更低,且在对损伤位置的近似预测方面精度也较高。[结论]研究证明了GRU神经网络在包含多个板的箱型梁结构裂纹损伤检测中的适用性。

基于门控循环单元神经网络的公交到站时间预测

为提高用户公交出行积极性、方便管理部门合理调度公交班次,利用大数据分析公交浮动车辆历史GPS数据,考虑不同线路、公交站点地理位置、不同驾驶员、气象情况、时间分布等多因素的影响,建立了一种基于门控循环单元(gated recurrent unit, GRU)神经网络的公交到站时间预测模型。该模型结合5 000多万条原始数据,借助分布式Hadoop集群中的Spark弹性分布式数据集进行数据清理,并运用站点匹配算法进行源数据匹配、Lasso算法优化特征选项及去除干扰。实验仿真结果表明:改进的GRU模型R-square拟合度达到94.547%,并且算法效率较传统长短期记忆(long short-term memory,LSTM)神经网络提高了近14%,为进一步提高公交到站时间的预测精度与效率提供了参考。

基于门控循环单元神经网络的燃煤电厂脱硝系统建模研究

采用某燃煤电厂1 000 MW机组实际运行数据,通过机理分析SCR出口NOX浓度与脱硝效率的各主要影响因素,使用门控循环单元神经网络建立SCR出口NOX浓度和脱硝效率预测模型。预测结果表明建立的SCR出口NOX浓度和脱硝效率预测模型的精度高于传统的RBF、LSSVM、RNN和LSTM模型,分别达到99.52%和99.63%。

基于注意力机制的GRU神经网络辅助INS/GNSS组合导航算法

针对全球导航卫星系统(Global Navigation Satellite System,GNSS)信号失锁导致定位精度低的问题,提出一种基于注意力机制的门控循环单元(Gated Recurrent Unit,GRU)神经网络辅助惯性导航系统(Inertial Navigation System,INS)和全球导航卫星系统(Global Navigation Satellite System,GNSS)的组合导航算法。在惯性测量单元(Inertial Measurement Unit,IMU)信号中采用5点中值滤波降低随机噪声,训练结合注意力机制的GRU神经网络辅助组合导航。当GNSS信号失锁时,预测伪GNSS位置辅助组合导航,以解决惯性导航系统(Inertial Navigation System,INS)位置随时间发散的问题。仿真结果表明,与基于多层感知机(Multi-Layer Perceptron,MLP)神经网络的算法和基于长短期记忆递归(Long Short-Term Memory,LSTM)神经网络的算法相比,所提算法在转弯和直线场景下,北向和东向位置最大误差均低于对比算法,可以在GNSS信号失锁的情况下提高导航定位精度。

耦合人工神经网络模型在径流预测中的应用综述

人工神经网络(artificial neural network,ANN)模型耦合其他模型或优化算法在径流预测中的应用逐渐增多。从人工神经网络模型与物理模型的耦合、多人工神经网络模型的耦合、分解技术与机器学习方法的耦合、人工神经网络模型与智能优化算法的耦合4个方面进行系统梳理和总结,阐述提高预测精度的原因及各方法的优势。同时,提出当前研究中存在的问题并进行展望,可为径流预测和水资源管理提供支持。

基于门控循环单元的全断面掘进机稳定段掘进性能预测

全断面隧道掘进机(tunnel boring machine, TBM)一个正常掘进循环分为空推段、上升段和稳定段3个阶段,其中稳定掘进段为主要施工阶段,稳定段掘进性能的好坏是TBM掘进的关键。为实现TBM安全高效掘进,建立一种基于门控循环单元(gated recurrent unit, GRU)神经网络的预测模型,预测TBM稳定段掘进性能。模型以新疆某供水工程Ⅱ标段TBM施工数据为依托,5种掘进循环上升段主要参数的时间序列数据作为主要输入,围岩等级作为辅助输入来考虑岩体对掘进性能的影响,输出为稳定段的总推进力和刀盘扭矩,为稳定段TBM性能预判提供参考。为显示预测效果,对比传统循环神经网络(recurrent neural network, RNN)预测模型,并分析不同长度时间序列输入对模型预测精度的影响。结果表明:GRU模型预测拟合优度均在0.9以上,平均绝对百分比误差均小于12.25%,同时能够适用不同长度时序输入。由此可见,所建模型具有较高预测精度,泛化能力较好,能够辅助预判掘进机稳定段性能。

基于SSA-GRU神经网络的超短期风电功率预测

针对风电数据的复杂和不确定性,为了进一步提高输出功率预测的精度和鲁棒性,采用深层神经网络技术,提出了一种基于参数寻优的麻雀搜索算法—门控循环单元(SSA-GRU)超短期混合风电功率预测模型。首先,对复杂的风电数据进行冗余变量清洗,通过多个单一神经网络在风电数据训练集上的预测性能比较,GRU神经网络实现了对输出功率较高精度的预测,同时相较其他预测模型提升了效率;然后,采用SSA对整个模型进行参数最优值搜索,将原有单一模型加入优化迭代组成混合算法模型,改进了模型参数设置不确定性带来的对预测精度的影响,SSA较快的收敛速度也适用于风电类大量样本的训练与预测;最后,基于国外某风电场数据集实例验证了本文所提模型的可行性和有效性。