基于门控循环单元网络的钻井井漏智能监测方法

井漏是钻井过程中常见的钻井风险,若对该风险发现、处理不及时,极易导致井塌事故,轻则延长施工周期,重则危害现场人员人身安全。为了提高油气井钻井过程中井漏风险识别的准确性,降低风险识别对人为经验的依赖,结合钻井参数的非线性以及长时依赖特征,提出了一种基于门控循环单元(Gated Recurrent Unit,GRU)网络的井漏风险智能识别方法。该模型以池体积、出口流量和立管压力作为监测参数构建GRU网络,能够提取监测参数的时间序列特征,以实现对井漏风险的准确识别。利用现场实测钻井数据对模型进行了实验测试,结果表明,该方法对井漏风险的识别准确率达到了90.1%,优于长短期记忆网络的识别结果。

采用门控循环单元神经网络和多特征融合的铣削刀具磨损监测

为实现汽车发动机缸盖生产中刀具磨损状态的监测,提高刀具磨损监测方法的计算效率和识别精度,基于门控循环单元神经网络和多特征融合方法提出了面向铣刀后刀面磨损带宽度识别的刀具状态监测方法。通过铣削力信号数据对所提出方法的有效性进行了验证,分析了不同超参数设置对模型识别精度的影响机制,给出了最优超参数,实现了对铣削刀具磨损的精确识别。

基于多头注意力机制和门控循环单元神经网络的居民充电桩容量预测

居民充电桩的容量预测可为其定容选址提供参考,助力实现“双碳”目标,为此提出了一种基于数据驱动的居民充电桩容量预测方法。首先,采集了居民充电桩的历史容量数据并进行预处理;其次,利用不同大小的时序窗口对其进行切片作为输入特征;最后,构建了结合多头注意力机制和门控循环单元神经网络的预测模型,将特征输入模型从而实现了对未来容量的精准预测。通过实例分析表明,该模型预测结果的平均绝对误差和均方根误差分别为33.19和102.14%,预测精度相较于其他模型有较大提升,为居民充电桩的容量预测提供了新思路。

基于双向多层门控循环神经网络的奶牛乳脂率预测模型研究

通过对奶牛乳脂率进行数据预测以及结合随机森林算法对环境数据进行精准特征选择,确定了对乳脂率影响较大的环境因素。在此基础上,提出了将随机森林算法与双向多层门控循环神经网络相结合的乳脂率预测模型(RF-BiGRU)并进行了相关实验。结果表明,该模型能够提高预测的准确性及效率。

基于小波散射网络-贝叶斯优化门控循环单元的电力变压器声纹识别方法

针对小规模样本下电力变压器的声纹识别问题,本文提出一种基于小波散射网络-贝叶斯优化门控循环单元(GRU)的声纹识别方法。首先,为滤除干扰分量,提高声纹识别的正确率,通过经验小波变换(EWT)与快速独立成分分析算法(FastICA)对原始信号进行盲源分离,得到变压器本体声纹信号。然后,为降低模型输入数据的复杂度,采用小波散射网络提取声纹信号的特征向量作为声纹识别模型的输入,并采用GRU作为模型分类器。最后,通过贝叶斯算法完成对GRU网络层数与初始学习率的超参数优化。实验结果表明,在样本规模偏小的情况下,相较于当前普遍使用的声纹时频谱——深度卷积神经网络模型,本文所构建的模型收敛用时缩短,识别正确率提高,性能得到了明显改善。

结合多尺度注意力机制和双向门控循环网络的视频摘要模型

任务中全局注意力在长距离视频序列上注意力值分布的方差较大,生成关键帧的重要性分数偏差较大,且时间序列节点边界值缺乏长程依赖导致的片段语义连贯性较差等问题,通过改进注意力模块,采用分段局部自注意力和全局自注意力机制相结合来获取局部和全局视频序列关键特征,降低注意力值的方差。同时通过并行地引入双向门控循环网络(bidirectional recurrent neural network,BiGRU),二者的输出分别输入到改进的分类回归模块后再将结果进行加性融合,最后利用非极大值抑制(non-maximum suppression,NMS)和核时序分割方法(kernel temporal segmentation,KTS)筛选片段并分割为高质量代表性镜头,通过背包组合优化算法生成最终摘要,从而提出一种结合多尺度注意力机制和双向门控循环网络的视频摘要模型(local and global attentions combine with the BiGRU,LG-RU)。该模型在TvSum和SumMe的标准和增强数据集上进行了对比试验,结果表明该模型取得了更高的F-score,证实了该视频摘要模型保持高准确率的同时可鲁棒地对视频完成摘要。

基于多头注意力与双向门控循环单元的数据无损压缩方法

为解决数据归档存储场景中出现的物理存储成本增长和数据库内存紧张等问题,本文提出一种基于注意力机制与双向门控循环单元的数据无损压缩方法,采用Transformer和双向门控循环单元作为概率预测器,输出数据流的条件概率分布,结合自适应算术编码器对数据进行压缩。实验对比结果表明,本文所提方法相较于算术编码和基于字典模型的LZW这两种传统无损压缩方法,压缩率分别平均提升约28.8%和7.8%;相较于Cmix v19和NNCP两种深度学习方法,平均压缩率分别降低0.4%和0.2%,但平均压缩时间分别约为其5.1%和39.4%。

门控循环单元网络下的空气污染物预测模型

论文针对现有环境空气污染物预测方法大多是基于单一数据集和浅层神经网络,未能充分挖掘时间序列中潜藏的数据信息的问题,提出了一种基于门控循坏单元网络的空气污染物预测方法。首先,对时间序列缺失值进行设计填充算法;接着,设置监督实验,在批尺寸和训练步、训练优化算法、网络权值初始化和Dropout正则化四个方面进行参数调优;最后,进行了验证与分析,并与长短时记忆神经网络进行了参数对比。研究结果表明,与长短时记忆神经网络相比,门控循环单元网络不仅训练时间快,并且在预测性能上更为显著,是一种可行且有效的预测方法。

多特征融合的双向门控循环单元情感倾向研究

通过对产品评论爆炸式增长进行情感分析,不仅可以为潜在消费者提供购买决策,还可以指导企业不断优化商业决策,提高产品质量。文章对现有神经网络情感分析模型进行研究,提出了一种新的情感分析模型——多特征融合双向门控循环单元(MFF-BiGRU)。首先,MFF-BiGRU生成不同的特征通道,以充分了解产品评论的情感信息。然后将通道分别输入到BiGRU网络中,使模型能够从不同的角度学习句子中的情感特征信息,并探索句子不同方面的隐藏信息。通过层归一化提取不同BiGRU网络输出结果中关于情感特征的最重要信息。Merge层通过连接操作来融合提取的重要信息。最后,Softmax层最终对最后一层的输出进行分类。实验结果表明,在京东食品评论数据集上,MFF-BiGRU的性能优于传统的神经网络模型和经典分类器。

基于二次分解双向门控单元新型电力系统超短期负荷预测

在新型电力系统中,电力负荷随机性和波动性较强,现有预测方法难以对其实现高精度预测。为此,提出一种基于二次分解和双向门控循环单元的超短期负荷预测模型。首先,针对电力负荷的强随机性和强波动性,利用自适应噪声完备经验模态分解对电力负荷历史序列进行初步分解,使负荷序列更加平稳。随后,对初步分解得到的强非平稳分量运用连续变分模态分解进行二次分解,降低其预测难度。最后,为充分学习电力负荷的时序特征,在预测过程构建基于双向门控循环单元的超短期电力负荷预测模型。实验结果表明,该模型相较于现有优秀预测模型有更高的预测精度。

改进一维卷积神经网络与双向门控循环单元的轴承故障诊断研究

针对传统智能故障诊断依赖于人工经验进行特征提取和传统卷积神经网络(Convolutional neural networks, CNN)参数过多、训练量过大且无法充分利用时间序列信息的缺点,提出一种基于改进一维卷积神经网络与双向门控循环单元的深度学习新算法。首先,该方法利用一维卷积神经网络自提取能力进行特征提取,同时设计了一个全局均值池化层替换传统卷积神经网络的全连接层,减少参数数量;其次,引入双向门控循环单元学习特征信号中的时间序列关系;最后,通过支持向量机替换传统CNN中的Softmax层进行故障分类,进一步提高诊断的准确率。实验表明,该方法将诊断的准确率提升至99.8%,并且加快了诊断的速度。通过与其他方法的对比,证明了该方法有着更高的准确率,更快的诊断速度,更好的鲁棒性。

融合一维卷积神经网络和双向门控循环单元的APM车辆轮胎径向载荷识别方法

针对轮胎载荷直接测量昂贵复杂及传统载荷识别方法精度低、鲁棒性差的现实,提出了一种融合一维卷积神经网络(1D CNN)和双向门控循环单元(BiGRU)的胶轮车辆轮胎径向载荷识别方法。充分考虑轮胎径向载荷数据的先验信息,以车辆振动响应、车体位姿、运行状态等多源信息构建特征集并经特征选择保留有效的特征子集,构造多时间步输入-单时间步输出的样本用以网络训练。运用1D CNN提取信号的多维度空间特征并输入BiGRU中双向捕获时序特征,得到载荷预测的结果,结合预测精度、泛化性能、鲁棒性能修正理论模型。以APM300型车辆为例进行载荷识别,与传统算法相比,所提方法有效降低了载荷识别的误差,适用于不同运行工况,且能克服不同程度的测量噪声,在工程领域有现实应用价值。

基于注意力时间卷积网络和双向门控循环单元的轴承故障诊断

针对传统特征提取方法依赖人工经验以及传统神经网络未充分利用时间序列信息的问题,首先通过时间卷积网络的空洞因果卷积、随机丢弃层和残差结构跨时间步提取不同振动信号的特征;然后引入注意力机制获取关键信息,实现特征优化选择;再利用双向门控循环单元捕捉长期依赖关系;最后通过归一化指数函数进行故障分类。实验结果表明,在不同训练样本比例下,该方法的识别精度高于一维卷积神经网络、双向长短期记忆网络、双向循环神经网络;用该方法能够有效识别轴承故障类型,且模型的泛化能力较强。

基于门控循环神经网络的边缘服务中心风光荷组合预测方法

边缘计算因数据处理快、低成本和高实时等优点近年来在能源行业中受到广泛关注,而在边缘服务器上开展预测有助于对能源精细化管控。因此,针对边缘服务资源的有限性,基于差分自回归整合移动平均(autoregressive integrated moving average,ARIMA)模型和门控循环单元(gated recurrent unit,GRU)神经网络,提出考虑线性和非线性特征的风、光、荷组合预测方法。ARIMA用于提取源、荷的线性特征,将其与真实值进行拟合,得到包含非线性特征的残差。其次,将残差作为GRU的训练数据集建立预测模型,再引入剪枝和量化方法优化及压缩GRU模型,减小预测模型规模,以适应边缘服务器部署。大量仿真结果表明,所构建的GRU压缩模型规模小、预测精度高,适合边缘服务器的部署应用。

基于门控循环单元的移动社会网络链路预测方法

链路预测是指通过已知的网络拓扑和节点信息来预测未来时刻节点之间的潜在关系,链路预测能够帮助在各种存在链路的应用领域更加合理地分配资源、降低资源开销.移动社会网络属于动态网络的一种,其网络结构总是随着节点和链路的出现、消失以及时间推移而不断演变.针对移动社会网络的特点,当前已有的研究使用愈加复杂的模型来分析链路之间的联系,然而复杂的模型不但空间复杂度大而且容易造成过拟合问题.为了解决以上问题,提出一种基于门控循环单元的移动社会网络链路预测方法.首先对输入数据集进行排序筛选,将目标网络划分为快照图,并按一定的规则转化为邻接矩阵形成样本集,然后基于自动编码器和门控循环单元构建预测模型,提取出移动社会网络的时间变化特征.在KONECT数据集上,与其他模型的对比实验结果表明,该方法能够保持预测性能几乎不变的情况下,使模型训练效率提升49.81%.

基于深度双向门控循环神经网络的制粉系统故障预警

为构建鲁棒性较强的状态估计模型,结合堆叠自编码器思想,提出一种基于深度双向门控循环神经网络的制粉系统状态估计及故障预警方法。首先,选取制粉系统正常运行状态变量历史数据作为深度双向门控循环神经网络的训练输入,然后利用网络强大的特征学习能力,建立制粉系统正常状态估计模型。采用滑动窗口法构建制粉系统状态监测指标,确定指标阈值,利用火电厂制粉系统历史运行数据进行仿真。结果表明:相比于其他方法,深度双向门控循环神经网络模型具有更好的估计性能,且能够在故障发生前及时发出预警信息,达到早期故障诊断的目的。

考虑迟滞特性的卡尔曼滤波和门控循环单元神经网络的锂离子电池SOC联合估计

由于迟滞特性的存在,电池管理系统难以准确获得开路电压(OCV)与荷电状态(SOC)之间的状态关系。为有效地运行和管理动力电池,本文研究了考虑迟滞特性的锂离子电池模型,选用带有遗忘因子的递推最小二乘法进行参数在线辨识。提出了一种联合门控循环单元(GRU)神经网络和自适应扩展卡尔曼滤波(AEKF)的SOC估计,分别以AEKF和GRU神经网络的估计结果为模型值和测量值,通过卡尔曼滤波(KF)得到最终的SOC估计结果,并作为下一时刻AEKF的输入。结果表明,常温环境下考虑迟滞特性的模型对端电压预测及联合估计法对SOC估计的均方根误差(RMSE)分别在0.5 mV和0.64%以内;低温及变温环境下端电压预测及SOC估计的RMSE分别在0.9 mV和0.72%以内。考虑迟滞特性的模型及联合估计法具有良好的精度和鲁棒性。

基于注意力机制—门控循环单元—BP神经网络的智能多工序工艺参数关联预测

鉴于流程制造工序间能质流耦合严重,性能指标影响因素众多,工艺参数时序特征显著,现有制造模式下难以精准预测产品质量,在分析流程制造工艺性能指标多维、强时序、关联耦合特征的基础上,提出一种基于注意力机制—门控循环单元-BP神经网络(Attention AM-GRU-BPNN)的多工序耦合参数关联预测方法。首先采用互信息方法筛选多态异构生产数据作为输入,建立ConvGRU自编码器,通过无监督学习对过程数据、工艺参数、操作参数等进行时序特征提取,同时引入时序注意力机制提取不同工序的耦合关联特征并进行向量嵌入,为不同工序的工艺参数分配注意力权重。在此基础上,设计Attention网络自学习不同时刻下工艺关联特征对质量性能指标的影响差异,再通过门控循环单元网络对重要的关联特征进行增强,并按照时序特征对单工序预测模型进行聚合,实现多工序时序特征融合,最后通过输出层BPNN神经网络精准预测产品工艺质量。实验表明,AM-GRU-BPNN有效提高了预测精度,从多工序角度为生产线工序的加工过程控制提供了依据。

针对小型鸟类目标的基于门控循环单元的扩展卡尔曼跟踪方法

基于激光雷达的小型鸟类的跟踪监视是一种新的实现机场及其周边空域鸟情监测预警的关键技术。针对激光雷达采样频率低引起的目标状态跟踪误差大、模型适应性低的问题,本文提出了一种基于门控循环单元的目标状态估计扩展卡尔曼跟踪方法。该方法通过融合深度学习网络对非线性运动的预测能力和扩展卡尔曼滤波对于随机噪声的抑制能力,实现了对于无法准确建模的非线性运动鸟类目标在低采样率条件下的跟踪。针对深度学习网络为隐性表达模型难以与扩展卡尔曼融合的问题,提出近似一步转移矩阵估计方法,将深度学习网络的预测转化为显性状态转移模型,使得跟踪方法中预测与滤波估计形成循环迭代。本文在公开的鸽子飞行轨迹数据集上进行仿真验证表明,所提方法在不同采样频率条件下的跟踪效果均优于传统跟踪算法,且在低采样频率下相对于已有方法具有超过25.5%跟踪误差性能提升,所提方法能够实现基于激光雷达的鸟类目标跟踪。

基于多源特征和双向门控循环单元的抗高血压肽识别

为了开发快速、高效和智能的抗高血压肽(anti-hypertensive peptides,AHTPs)识别工具,针对AHTPs的识别,构建基于多源特征和深度学习的识别模型。利用新增强分组氨基酸组分(novel enhanced grouped amino acid composition,NEGAAC)、约简的二肽组分(reduced dipeptide composition,RDPC)、二肽频率与预期平均值之间的偏差(dipeptide deviation from expected mean,DDE)、氨基酸物理化学性质的距离变换(amino acid physicochemical properties-based distance transformation,AAP-DT)和BLOSUM62编码对肽序列进行特征提取。采用双向门控循环单元(bidirectional gated recurrent units,BiGRU)对蛋白质特征进行深度学习,进而有效识别AHTPs。在10-折交叉验证下,基于多源特征和深度学习的识别模型在基准数据集和独立数据集上的识别精度达到96.78%和98.72%。