基于二次分解双向门控单元新型电力系统超短期负荷预测

在新型电力系统中,电力负荷随机性和波动性较强,现有预测方法难以对其实现高精度预测。为此,提出一种基于二次分解和双向门控循环单元的超短期负荷预测模型。首先,针对电力负荷的强随机性和强波动性,利用自适应噪声完备经验模态分解对电力负荷历史序列进行初步分解,使负荷序列更加平稳。随后,对初步分解得到的强非平稳分量运用连续变分模态分解进行二次分解,降低其预测难度。最后,为充分学习电力负荷的时序特征,在预测过程构建基于双向门控循环单元的超短期电力负荷预测模型。实验结果表明,该模型相较于现有优秀预测模型有更高的预测精度。

一种基于改进门控循环单元的叠前时变子波提取方法

子波的精确提取是地震勘探后续反演与成像的前提,针对传统时变子波提取方法受到的各类假设限制,且需分别提取子波振幅谱与相位谱的问题,本文提出了一种基于改进门控循环单元(GRU)网络的叠前时变地震子波提取方法.根据实际叠前地震数据分布特征与非平稳性质,本方法首先建立非平稳地震记录与添加随机噪声的时变子波训练数据集;为对提取出的时序特征进行拓展,提升传统GRU网络对长时序列的处理能力,本方法搭建起含多层GRU模块与全连接神经网络的改进门控循环单元网络模型;利用建立的训练数据集对网络模型进行训练使网络具备提取时变子波的能力;为提高训练效率与提取精度,本方法在训练的反向传播过程中应用自定义WaveLoss损失函数衡量误差,最终实现叠前时变子波的估计.经合成数据仿真实验与不同方法对比验证,本文提出的叠前时变子波提取方法具有更高的准确度;经对中国西部不同地区实际叠前地震资料处理与反褶积验证分析,该方法可有效提高目标区叠前地震剖面分辨率.

基于门控循环单元网络的钻井井漏智能监测方法

井漏是钻井过程中常见的钻井风险,若对该风险发现、处理不及时,极易导致井塌事故,轻则延长施工周期,重则危害现场人员人身安全。为了提高油气井钻井过程中井漏风险识别的准确性,降低风险识别对人为经验的依赖,结合钻井参数的非线性以及长时依赖特征,提出了一种基于门控循环单元(Gated Recurrent Unit,GRU)网络的井漏风险智能识别方法。该模型以池体积、出口流量和立管压力作为监测参数构建GRU网络,能够提取监测参数的时间序列特征,以实现对井漏风险的准确识别。利用现场实测钻井数据对模型进行了实验测试,结果表明,该方法对井漏风险的识别准确率达到了90.1%,优于长短期记忆网络的识别结果。

基于门控循环单元和Transformer的车辆轨迹预测方法

为增强自动驾驶车辆对动态环境的理解能力及其道路行驶安全性,提出基于门控循环单元(GRU)和Transformer的车辆轨迹预测模型STGTF,使用GRU提取车辆的历史轨迹特征,通过双层多头注意力(MHA)机制提取车辆的时空交互特征,生成预测轨迹。试验结果表明,预测结果的均方根误差(RMSE)平均降低7.3%,STGTF在短期预测和长期预测方面均有不同程度的提升,验证了模型的有效性。

融合双图卷积与门控线性单元的方面级情感分析模型

方面级情感分析旨在确定句子中给定方面的情感极性。现有的基于图神经网络的方面级情感分析存在以下2个方面的不足:忽略了不同类型的句法依存关系和语料库中的词共现信息,以及不能准确地控制情感信息流向给定方面。针对以上问题,提出融合双图卷积与门控线性单元(GLU)的方面级情感分析模型。该模型首先采用全局词汇图来编码语料库中的词共现信息,在词汇图和句法图上利用分类概括结构来区分各种词共现频率和不同类型的句法依存关系。然后分别在2个图上进行双层卷积,继而使用Bi Affine变换模块作为桥梁,在2个图卷积网络模块之间有效地交换相关特征,从而有效地融合句法信息和词汇信息。最后利用GLU控制情感信息流向给定方面,使模型可以更专注地分析与该方面相关的情感信息,避免不相关的情感信息影响对给定方面的情感分析结果,从而提高分析的准确性。实验结果表明,在Twitter、Laptop14、Restaurant15和Restaurant16数据集上,该模型的准确率分别达到74.82%、77.61%、82.29%和89.81%,F1值分别达到72.97%、73.52%、67.72%和73.37%,方面级情感分类效果明显优于其他基线模型。

采用门控循环单元神经网络和多特征融合的铣削刀具磨损监测

为实现汽车发动机缸盖生产中刀具磨损状态的监测,提高刀具磨损监测方法的计算效率和识别精度,基于门控循环单元神经网络和多特征融合方法提出了面向铣刀后刀面磨损带宽度识别的刀具状态监测方法。通过铣削力信号数据对所提出方法的有效性进行了验证,分析了不同超参数设置对模型识别精度的影响机制,给出了最优超参数,实现了对铣削刀具磨损的精确识别。

基于门控循环单元的基质栽培黄瓜结果期蒸散量预测模型

【目的】实时、准确地预测基质栽培黄瓜结果期蒸散量,指导基质栽培黄瓜灌溉。【方法】通过传感器实时获取黄瓜结果期的温室小气候环境数据,用称量法测量黄瓜蒸散量,以移栽时间、空气温度、空气相对湿度、光照强度及前5天的日均灌溉量为输入变量,利用BP神经网络(Back propagation neural network,BPNN)、卷积神经网络(Convolutional neural networks,CNN)、长短期记忆网络(Long short-term memory,LSTM)和门控循环单元(Gated recurrent unit,GRU)分别建立基质栽培黄瓜蒸散量预测模型,比较不同模型的预测效果,模型数据集的时间间隔设为20 min。【结果】相较于BPNN、CNN及LSTM模型,GRU模型的预测效果最好,其决定系数(R^(2))、均方根误差(RMSE)、平均绝对误差(MAE)分别为0.8577、2.3279 g和1.6744 g。当实测的黄瓜每日实时累积蒸散量超过50 g时,GRU模型预测的黄瓜每日实时累积蒸散量与实测每日实时累积蒸散量之间的相对误差最小,在0.11%~10.01%。【结论】基于GRU的基质栽培黄瓜结果期蒸散量预测模型预测效果最好,可为基质栽培黄瓜的灌溉系统提供参考。

变压器油中乙炔门控循环单元网络多步预测超参数优化方法

油中溶解乙炔作为电力变压器中重要的放电程度表征参量之一,对其进行多步预测可以为变压器故障诊断及预警提供重要依据。现有的状态预测模型主要集中于单步预测,对于未来更长时期变化趋势的预测手段不足。此外,基于深度学习的多步预测模型的超参数选择大多基于经验和朴素的单一控制变量法,超参数之间的耦合关系没有得到充分的研究。文中提出基于多输出策略的门控循环单元(gated recurrent unit,GRU)神经网络多步预测模型,通过改变模型结构超参数和训练超参数研究超参数之间的耦合关系,使用多目标灰狼优化算法对不同预测结果倾向的GRU模型进行超参数优化。结果表明,GRU模型可以较为准确的对变压器油中乙炔含量进行30天预测,GRU模型的各超参数对输出预测结果的影响规律并不统一且相互影响,一组超参数无法同时达到多目标最优。多目标灰狼优化算法能够根据预测目标的不同,优化选择合适的超参数,为人工智能算法超参数的选取提供参考。

基于门控循环单元网络的低阻油层测井流体识别方法

研究区块低阻油层发育广泛,油层和水层的电阻率相差不大,导致测井流体识别较为困难。为了有效识别低阻油层,采用少数类过采样技术(synthetic minority oversampling technique,Smote)对油水同层,油层等少数类样本进行过采样使数据集均衡;并利用门控循环单元(gated recurrent unit,GRU)网络模型进行低阻油层的流体识别。通过相关性分析确定自然伽马(GR)、深侧向电阻率(RD)、密度(DEN)等8条测井曲线数据作为输入训练模型,应用于中实际资料中,并将GRU与传统RNN和其他3种机器学习算法对比。结果表明:序列数据模型的流体识别效果比传统机器学习模型好,且基于Smote-GRU的流体识别模型的符合率达到89.5%,相对传统循环神经网络(recurrent neural network,RNN)的81.1%,取得了较好的应用效果。通过对照试验还证实了Smote算法提高了分类器对少数类样本的识别率。所提出的方法可为样本不均衡的低阻油层的流体识别提供参考。

针对小型鸟类目标的基于门控循环单元的扩展卡尔曼跟踪方法

基于激光雷达的小型鸟类的跟踪监视是一种新的实现机场及其周边空域鸟情监测预警的关键技术。针对激光雷达采样频率低引起的目标状态跟踪误差大、模型适应性低的问题,本文提出了一种基于门控循环单元的目标状态估计扩展卡尔曼跟踪方法。该方法通过融合深度学习网络对非线性运动的预测能力和扩展卡尔曼滤波对于随机噪声的抑制能力,实现了对于无法准确建模的非线性运动鸟类目标在低采样率条件下的跟踪。针对深度学习网络为隐性表达模型难以与扩展卡尔曼融合的问题,提出近似一步转移矩阵估计方法,将深度学习网络的预测转化为显性状态转移模型,使得跟踪方法中预测与滤波估计形成循环迭代。本文在公开的鸽子飞行轨迹数据集上进行仿真验证表明,所提方法在不同采样频率条件下的跟踪效果均优于传统跟踪算法,且在低采样频率下相对于已有方法具有超过25.5%跟踪误差性能提升,所提方法能够实现基于激光雷达的鸟类目标跟踪。

基于门控循环单元编解码器的锂离子电池荷电状态估计

锂离子电池荷电状态(state of charge,SOC)估计技术是电池管理系统(battery management system,BMS)里的关键性技术之一,其精度要求随着锂离子电池应用领域的不断拓宽而越来越高。由此,该文提出一种基于门控循环单元(gated recurrent unit,GRU)编解码器(encoder decoder,ED)的估计方法;在编解码器框架下,首先利用双向GRU网络对可测量变量序列双向捕获依赖关系并将相关信息编码成语境向量,然后使用单向GRU网络完成对语境向量的解码。相比之前提出的循环神经网络,此类端到端模型可以从输入序列中更完整地学习到序列信息以建立出更精确的非线性SOC估计模型。实验数据验证表明,相较于3种双向循环神经网络,该文提出的门控循环单元编解码器(gated recurrent unit encoderdecoder,GRU-ED)模型在固定环境温度下取得了最佳的SOC估计效果;同时还在变温环境下实现了小误差的SOC估计,得到的平均绝对误差(meanabsoluteerror,MAE)与最大误差(maximum error,MAX)分别为0.92%与4.96%。

基于门控循环单元强化学习的晶圆光刻区实时调度方法研究

为求解具有动态性、实时性、多约束、多目标特点的晶圆光刻区调度问题,提出一种基于门控循环单元强化学习的晶圆光刻区实时调度方法。设计引入门控循环单元学习光刻区历史调度决策与状态的时序信息,为双深度强化学习模型提供辅助决策信息;设计双深度强化学习模型的输入状态空间、输出动作集,并面向晶圆最小化最大完工时间和晶圆准时交货率指标设计多目标奖励函数,为智能体优化调度输出;设计设备专用性约束与掩模版约束的解约束规则与调度方法相结合,提高调度方案实施的实用性。通过某晶圆制造企业实际算例,将该方法与传统双深度强化学习和光刻区启发式规则方法比较,该方法均为最优,证明了其解决此问题的有效性。

基于多头注意力机制和门控循环单元神经网络的居民充电桩容量预测

居民充电桩的容量预测可为其定容选址提供参考,助力实现“双碳”目标,为此提出了一种基于数据驱动的居民充电桩容量预测方法。首先,采集了居民充电桩的历史容量数据并进行预处理;其次,利用不同大小的时序窗口对其进行切片作为输入特征;最后,构建了结合多头注意力机制和门控循环单元神经网络的预测模型,将特征输入模型从而实现了对未来容量的精准预测。通过实例分析表明,该模型预测结果的平均绝对误差和均方根误差分别为33.19和102.14%,预测精度相较于其他模型有较大提升,为居民充电桩的容量预测提供了新思路。

基于忆阻器的门控循环单元电路

时间序列数据分析可用于识别长期趋势并进行正确的预测,与人工神经网络(artificial neural network,ANN)相比,门控循环单元(gated recurrent unit,GRU)可以处理时间序列信号,在自然语言处理、语音识别、机器翻译等方面有着广泛的应用。然而,由于参数和模型的复杂性,GRU模型在硬件实现中遇到了瓶颈。文章构建一个基于忆阻器的GRU硬件电路,具有完整的GRU功能,而且输入/输出参数更少。仿真结果表明,电路的平均误差为0.0075,能够有效地实现GRU网络的功能。将设计的GRU电路应用在搭建的序列预测模型中,可以预测股票价格变化趋势,且其预测的R2分数达到0.9234。因此基于忆阻器的GRU硬件电路的设计在机器学习和人工智能方面具有一定的应用潜力。

基于门控循环单元-注意力机制模型的股票价格预测

考虑到股票价格具有高噪声和非线性的特点,构建了一个基于门控循环单元-注意力机制(Gated Recurrent Unit-Attention Mechanism,GRU-AM)的股票价格预测模型.首先将经过处理后的股票数据输入到门控循环单元(Gated Recurrent Unit,GRU)中,使其能够充分地学习数据并挖掘更深层次的数据特征.接着将从GRU中学习到的特征向量传入注意力机制(Attention Mechanism,AM).其次通过这种方式,可以学习到不同时间特征状态的权重,从而更有效地捕捉时间特征的重要性.最后通过与七种基准模型在多个数据集上的对比,验证了模型的有效性.

一种基于改进最小绝对Lp惩罚解与门控循环单元的软测量算法

针对现代流程工业过程变量存在的多变量、非线性、时滞及测量异常值等问题,提出一种基于门控循环单元(gate recurrent unit,GRU)的鲁棒软测量算法。首先,利用历史数据训练一个初始GRU模型。其次,提出一种改进的最小绝对Lp惩罚解(improved least absolute Lp penalized solution,ILAPPS)的算法,将中值绝对偏差融入截断平均绝对误差损失,使其对异常值有更强的抵抗力,并将基于随机森林的置换重要性排序设计自适应算子嵌入Lp正则化项,提高输入变量选择的准确度。再次,将ILAPPS算法嵌入GRU输入层和循环层,以实现GRU的稀疏化。最后,将所提出的算法应用于人工数据集和实际工业铜矿浮选过程,并与其它先进算法进行性能比较,实验结果表明所提算法具有较高的预测精度和鲁棒性。

基于多头注意力与双向门控循环单元的数据无损压缩方法

为解决数据归档存储场景中出现的物理存储成本增长和数据库内存紧张等问题,本文提出一种基于注意力机制与双向门控循环单元的数据无损压缩方法,采用Transformer和双向门控循环单元作为概率预测器,输出数据流的条件概率分布,结合自适应算术编码器对数据进行压缩。实验对比结果表明,本文所提方法相较于算术编码和基于字典模型的LZW这两种传统无损压缩方法,压缩率分别平均提升约28.8%和7.8%;相较于Cmix v19和NNCP两种深度学习方法,平均压缩率分别降低0.4%和0.2%,但平均压缩时间分别约为其5.1%和39.4%。

一种基于注意序列到序列门控循环单元的风力发电预测模型

针对现有风力发电预测精度低的问题,提出一种改进的注意序列到序列门控循环单元(attention sequence-to-sequence gated recurrent unit,ASSGRU)的风力发电预测模型。该模型为典型的多输入多输出(multiple input multiple output,MIMO)模型,并基于注意力机制选择重要特征,从而提高风力发电预测的精度和稳定性。通过中国某电力公司发布的风电数据集对提出的预测模型进行验证。与自适应小波神经网络(adaptive wavelet neural network,AWNN)、K均值聚类的前馈神经网络(k-means-feedforward neural network,K-FNN)和长短时记忆(long short-term memory,LSTM)等模型相比,所提模型均方根误差变异系数(coefficient variation of root mean square error,CV-RMSE)、平均绝对百分比误差(mean absolute percent error,MAPE)以及归一化均方根误差(normalized root mean square error,NRMSE)等指标更优,从而验证了所提模型的可行性和有效性。该模型对混合智能电网智能化服务及新能源调度规划具有一定借鉴作用。

门控循环单元网络下的空气污染物预测模型

论文针对现有环境空气污染物预测方法大多是基于单一数据集和浅层神经网络,未能充分挖掘时间序列中潜藏的数据信息的问题,提出了一种基于门控循坏单元网络的空气污染物预测方法。首先,对时间序列缺失值进行设计填充算法;接着,设置监督实验,在批尺寸和训练步、训练优化算法、网络权值初始化和Dropout正则化四个方面进行参数调优;最后,进行了验证与分析,并与长短时记忆神经网络进行了参数对比。研究结果表明,与长短时记忆神经网络相比,门控循环单元网络不仅训练时间快,并且在预测性能上更为显著,是一种可行且有效的预测方法。

基于最小门控单元的心音分类研究

本文提出了一种基于最小门控单元(minimal gated unit,MGU)网络的心音分类方法,为心血管疾病的诊断提供了一种无创、便捷的新方法。首先,对采集到的心音信号进行自适应小波去噪预处理后,利用基于逻辑回归的隐半马尔可夫模型对心音信号进行分割,并搭建MGU模型,本文研发模型能够自动学习心音信号的特征。实验结果表明,该模型的准确率达到了97.20%,取得了较好的效果,可作为心血管疾病诊断的有效工具,辅助临床诊断。