基于门控递归单元神经网络的高速公路行程时间预测

为了更高效地预测高速公路行程时间,以高速公路行程时间为研究对象,通过采集车辆在高速公路进出口收费站的刷卡数据获取行程时间,利用门控递归单元神经网络对行程时间进行预测.按照所设计的预测流程,利用广州市机场高速南线高速公路收费数据进行验证,结果显示,预测拟合效果较好,并与LSTM神经网路和BP神经网络进行了对比分析.结果表明:门控递归单元神经网络具有更好的预测准确度.

门控递归单元神经网络坐标变换盲均衡算法

针对数字信号传输过程中的码间干扰问题,提出了门控递归单元神经网络坐标变换盲均衡算法(GRUNN-CT-CMA).首先,在递归神经网络基础上加入门控结构,使门控递归单元神经网络(GRUNN)对长时间跨度信息的感知能力更强、记忆力更持久.其次,在GRUNN中引入坐标变换得到的盲均衡算法,进一步降低了稳态误差、加快了代价函数收敛速度.结果表明,与常模盲均衡算法(CMA)和延迟单元递归神经网络盲均衡算法(BRNN-CMA)相比,GRUNN-CT-CMA在均衡高阶多模信号时,稳态误差最小、收敛速度最快、输出信号星座图最清晰.

采用门控循环单元神经网络和多特征融合的铣削刀具磨损监测

为实现汽车发动机缸盖生产中刀具磨损状态的监测,提高刀具磨损监测方法的计算效率和识别精度,基于门控循环单元神经网络和多特征融合方法提出了面向铣刀后刀面磨损带宽度识别的刀具状态监测方法。通过铣削力信号数据对所提出方法的有效性进行了验证,分析了不同超参数设置对模型识别精度的影响机制,给出了最优超参数,实现了对铣削刀具磨损的精确识别。

基于多头注意力机制和门控循环单元神经网络的居民充电桩容量预测

居民充电桩的容量预测可为其定容选址提供参考,助力实现“双碳”目标,为此提出了一种基于数据驱动的居民充电桩容量预测方法。首先,采集了居民充电桩的历史容量数据并进行预处理;其次,利用不同大小的时序窗口对其进行切片作为输入特征;最后,构建了结合多头注意力机制和门控循环单元神经网络的预测模型,将特征输入模型从而实现了对未来容量的精准预测。通过实例分析表明,该模型预测结果的平均绝对误差和均方根误差分别为33.19和102.14%,预测精度相较于其他模型有较大提升,为居民充电桩的容量预测提供了新思路。

基于门控循环神经网络的边缘服务中心风光荷组合预测方法

边缘计算因数据处理快、低成本和高实时等优点近年来在能源行业中受到广泛关注,而在边缘服务器上开展预测有助于对能源精细化管控。因此,针对边缘服务资源的有限性,基于差分自回归整合移动平均(autoregressive integrated moving average,ARIMA)模型和门控循环单元(gated recurrent unit,GRU)神经网络,提出考虑线性和非线性特征的风、光、荷组合预测方法。ARIMA用于提取源、荷的线性特征,将其与真实值进行拟合,得到包含非线性特征的残差。其次,将残差作为GRU的训练数据集建立预测模型,再引入剪枝和量化方法优化及压缩GRU模型,减小预测模型规模,以适应边缘服务器部署。大量仿真结果表明,所构建的GRU压缩模型规模小、预测精度高,适合边缘服务器的部署应用。

基于注意力机制—门控循环单元—BP神经网络的智能多工序工艺参数关联预测

鉴于流程制造工序间能质流耦合严重,性能指标影响因素众多,工艺参数时序特征显著,现有制造模式下难以精准预测产品质量,在分析流程制造工艺性能指标多维、强时序、关联耦合特征的基础上,提出一种基于注意力机制—门控循环单元-BP神经网络(Attention AM-GRU-BPNN)的多工序耦合参数关联预测方法。首先采用互信息方法筛选多态异构生产数据作为输入,建立ConvGRU自编码器,通过无监督学习对过程数据、工艺参数、操作参数等进行时序特征提取,同时引入时序注意力机制提取不同工序的耦合关联特征并进行向量嵌入,为不同工序的工艺参数分配注意力权重。在此基础上,设计Attention网络自学习不同时刻下工艺关联特征对质量性能指标的影响差异,再通过门控循环单元网络对重要的关联特征进行增强,并按照时序特征对单工序预测模型进行聚合,实现多工序时序特征融合,最后通过输出层BPNN神经网络精准预测产品工艺质量。实验表明,AM-GRU-BPNN有效提高了预测精度,从多工序角度为生产线工序的加工过程控制提供了依据。

考虑迟滞特性的卡尔曼滤波和门控循环单元神经网络的锂离子电池SOC联合估计

由于迟滞特性的存在,电池管理系统难以准确获得开路电压(OCV)与荷电状态(SOC)之间的状态关系。为有效地运行和管理动力电池,本文研究了考虑迟滞特性的锂离子电池模型,选用带有遗忘因子的递推最小二乘法进行参数在线辨识。提出了一种联合门控循环单元(GRU)神经网络和自适应扩展卡尔曼滤波(AEKF)的SOC估计,分别以AEKF和GRU神经网络的估计结果为模型值和测量值,通过卡尔曼滤波(KF)得到最终的SOC估计结果,并作为下一时刻AEKF的输入。结果表明,常温环境下考虑迟滞特性的模型对端电压预测及联合估计法对SOC估计的均方根误差(RMSE)分别在0.5 mV和0.64%以内;低温及变温环境下端电压预测及SOC估计的RMSE分别在0.9 mV和0.72%以内。考虑迟滞特性的模型及联合估计法具有良好的精度和鲁棒性。

基于迁移学习与GRU神经网络结合的锂电池SOH估计

为解决退役电池梯次利用过程中单体剩余使用寿命估计困难、测试流程复杂与能耗高等问题,提出迁移学习与GRU网络结合的锂离子电池健康状态估计方法;设计的基础模型结构为输入层+GRU层+全连接层+输出层;根据健康因子的得分,选择训练基础模型的数据集、划分电池相似度等级并制定对应的迁移学习策略。实验结果表明:与其他模型相比,分别使用数据集的前40%与前25%训练得到的基础模型与迁移学习模型,两者的精度分别最大提高42.48%与95.28%,而预测稳定性分别最大提高55.38%与93.55%。

基于循环神经网络的2-DOF软体机械臂运动建模与控制

因现有软体机械臂材料刚度小、模量不稳定,导致建模与控制难度大.提出一种基于循环神经网络(recurrentneuralnetwork,RNN)的方法,用于二自由度(two-degree-of-freedom,2-DOF)软体机械臂的运动建模与控制.使用动作捕捉仪采集不同气压、负载下的位置坐标,并将其导入门控循环单元(gated recurrentunit,GRU)神经网络模型进行训练.当调节超参数至网络结构最优时,测试集准确度可达98.87%.在此基础上,构建气压与负载到末端位置的映射函数.实验结果表明,本方法可将机械臂的控制精度提升至6»8 mm,显著降低了软体机器人的控制与建模难度.

基于条件变分自编码器和贝叶斯神经网络的短期电力负荷概率预测

考虑到输入信息和预测模型的不确定性对负荷预测结果的影响,本文提出一种基于条件变分自编码器和贝叶斯神经网络的短期电力负荷概率预测方法.通过条件变分自编码器生成指定天气因素预测值和日历特征条件下实际天气因素可能的多个随机样本,以模拟天气预测信息的不确定性;构建GRU-S2S贝叶斯神经网络学习模型参数的分布特征,以反映预测模型的不确定性,并结合MC dropout技术获得多个可能的负荷预测值;遍历天气因素全部模拟样本,将预测模型输出的负荷预测值构成集合,并通过核密度估计获得预测时段内各时刻预测负荷服从的概率分布.实际算例结果表明,该方法在短期负荷概率预测中具有更高的分位数预测精度和更可靠稳定的区间预测结果.

基于门控循环单元神经网络的测井曲线预测方法

为了减少泥浆侵入对测井曲线的影响,许多油田采用随钻测井技术,需先预测未钻地层测井曲线,这对随钻测井具有非常重要的指导作用。为此,提出一种基于门控循环单元神经网络(GRU)预测未钻地层测井曲线的方法,该模型将长短期记忆神经网络(LSTM)的输入门和遗忘门合并成更新门,输出门变成重置门,使模型结构简单,不易出现过拟合现象,保留LSTM模型的长时记忆功能,且能有效缓解梯度消失或梯度爆炸问题。以新疆油田直井和南海西部油田随钻测井的实际测井数据为例,选取已钻地层以及邻井的自然伽马、深感应电阻率、声波时差、密度和井径5条测井曲线数据作为训练样本输入到LSTM和GRU模型中进行学习训练,将训练好的模型用于预测未钻地层的测井曲线。应用结果表明,GRU比LSTM模型在新疆油田和南海西部油田预测测井曲线的平均相关系数分别提高13.78%和12.13%,平均均方根误差分别下降27.08%和42.17%,GRU模型能够准确地预测未钻地层测井曲线的变化趋势。

改进一维卷积神经网络与双向门控循环单元的轴承故障诊断研究

针对传统智能故障诊断依赖于人工经验进行特征提取和传统卷积神经网络(Convolutional neural networks, CNN)参数过多、训练量过大且无法充分利用时间序列信息的缺点,提出一种基于改进一维卷积神经网络与双向门控循环单元的深度学习新算法。首先,该方法利用一维卷积神经网络自提取能力进行特征提取,同时设计了一个全局均值池化层替换传统卷积神经网络的全连接层,减少参数数量;其次,引入双向门控循环单元学习特征信号中的时间序列关系;最后,通过支持向量机替换传统CNN中的Softmax层进行故障分类,进一步提高诊断的准确率。实验表明,该方法将诊断的准确率提升至99.8%,并且加快了诊断的速度。通过与其他方法的对比,证明了该方法有着更高的准确率,更快的诊断速度,更好的鲁棒性。

融合一维卷积神经网络和双向门控循环单元的APM车辆轮胎径向载荷识别方法

针对轮胎载荷直接测量昂贵复杂及传统载荷识别方法精度低、鲁棒性差的现实,提出了一种融合一维卷积神经网络(1D CNN)和双向门控循环单元(BiGRU)的胶轮车辆轮胎径向载荷识别方法。充分考虑轮胎径向载荷数据的先验信息,以车辆振动响应、车体位姿、运行状态等多源信息构建特征集并经特征选择保留有效的特征子集,构造多时间步输入-单时间步输出的样本用以网络训练。运用1D CNN提取信号的多维度空间特征并输入BiGRU中双向捕获时序特征,得到载荷预测的结果,结合预测精度、泛化性能、鲁棒性能修正理论模型。以APM300型车辆为例进行载荷识别,与传统算法相比,所提方法有效降低了载荷识别的误差,适用于不同运行工况,且能克服不同程度的测量噪声,在工程领域有现实应用价值。

基于门控循环单元神经网络的大气能见度临近预报技术

针对大气能见度变化具有突变性以及复杂非线性问题,利用神经网络对复杂非线性过程拟合能力强且对映射关系变化反应速度快的特点,采用门控循环单元(GRU)神经网络为算法框架,将某省17个国家气象观测站近5年的地面能见度及相关要素数据预处理后形成本地化能见度数据集,通过该数据集对网络进行1~4 h预报时效的训练、测试与验证。实验结果显示,基于GRU神经网络的大气能见度短临预报算法其均衡平均数(F1-score)、准确率(accuracy)和风险评分(TS-score)指标明显优于长短期记忆神经网络(LSTM)、临近K指数(KNN)与支撑向量机(SVM)大气能见度短临预报算法。

基于门控循环单元神经网络的大跨径斜拉桥索力预测

拉索索力的改变直接反映斜拉桥结构体系受力状态的变化,因此索力监测对斜拉桥健康评估具有重要意义。然而现有关于索力的研究大多为索力识别,难以做到根据历史索力数据实现对未来索力的预测。为此,提出一种基于门控循环单元(GRU)神经网络的索力预测方法:利用GRU神经网络对时序型数据的处理能力以及索力数据较强的序列化特性,搭建基于GRU神经网络的索力预测框架,该预测框架包含输入层、GRU隐藏层与输出层;利用实桥连续采集的索应力时程数据作为训练及验证样本,对样本进行数据切片和归一化;搭建能够实现对该桥未来索力进行预测的GRU神经网络,结合梯度下降优化算法进行网络计算。结果表明所提方法对不同长度的拉索都具有较好的预测效果。

基于注意力卷积神经网络的视觉里程计

传统的视觉里程计(visual odometry,VO)要求图像含有大量的纹理信息,且求解过程较为复杂。针对以上问题提出基于注意力卷积神经网络的视觉里程计,对相机进行端到端的位姿估计,利用注意力机制提高模型估计轨迹的精度。首先,使用注意力-卷积神经网络(convolutional neural networks,CNN)模块提取图像特征;然后,将特征输入到门控循环单元(gated recurrent unit,GRU)学习图像的时序连接性;最后,通过全连接层降维输出相机位姿。在KITTI数据集上完成实验,并与其他方法进行对比,结果表明卷积网络中加入注意力机制可以有效提高轨迹估计的精度,且误差低于其他视觉里程计算法。

基于CNN-GRU神经网络的锂电池SOH估计与RUL预测

随着近几年新能源汽车市场的蓬勃发展,消费者对锂电池的电池性能和储能系统的整体要求逐步提升。锂电池作为新能源汽车的重要组成部分,对新能源汽车品牌的经济性能具有重要影响。针对锂电池健康状态(State Of Health,SOH)估计与剩余有效工作时间(Remaining Useful Life,RUL)预测无法直接测量,为了攻克在线准确测量的难题,提出基于卷积神经网络-门控循环单元(Convolutional Neural Network-Gated Recurrent Unit,CNN-GRU)的锂电池SOH估计与RUL预测方法。运用Python编程语言在TensorFlow框架下搭建CNN-GRU神经网络,利用GRU长时间记忆能力与CNN避免了对数据的复杂前期预处理,采用NASA开放实验数据测试,经过实验结果对比,基于CNN-GRU神经网络的估算模型相对于BP、CNN、GRU单独神经网络模型拥有更高的计算精度,以及更稳定的预测结果。

基于循环神经网络的大迎角非定常气动力建模

飞行器大迎角动态机动飞行时,非线性流场与运动高度耦合,现在发展的非定常气动力建模技术在通用性、泛化特性等方面仍需要进一步的改进和优化。本文以CFD技术为基础,建立了基于门控循环单元网络的增强泛化能力的非定常气动力神经网络智能模型。通过引入循环神经网络中的门控循环单元网络,丰富了神经网络模型对序列数据的学习能力,提高了其内插和外插的泛化能力。仿真结果表明了该智能模型的有效性和适用性。

门控递归神经网络处理不规则时间序列数据综述

随着多传感器系统的发展以及非结构化手工数据记录机制的持续使用,不规则时间序列数据越来越普遍。不规则数据和由此产生的缺失值严重限制了对数据进行分析和建模以完成分类和预测任务的能力。通常情况下,用于处理时间序列数据的传统方法会引起偏差,并对底层数据的生成过程进行强假设,这可能会导致较差的模型预测结果。传统的机器学习和深度学习方法虽仍处于数据建模的前沿,但最多只能受到不规则时间序列数据集的影响,无法对不完整时间序列的时间不规则性进行建模。门控递归神经网络(RNN),如LSTM和GRU,在序列建模方面取得了突出的成绩,并在许多应用领域得到了应用,如自然语言处理。这些模型已成为时间序列建模的良好选择,也是处理不规则时间序列数据的重要工具。文中重点介绍了处理不规则时间序列数据的两种常用方法,即在数据预处理阶段输入缺失值以及在学习过程中修改算法从而直接处理缺失值,旨在介绍这一研究分支中出现的有效的技术,以便研究人员创造出进一步处理不规则时间序列数据的新技术。

基于图神经网络的社会感知顺序推荐模型

由于用户的偏好是动态多变的,且受社交关系的影响,传统的推荐方法常常考虑不周全。针对此问题,提出一种基于图神经网络的社会感知顺序推荐模型(GASR)设计动态兴趣提取层来捕捉用户的动态偏好。同时设计社会感知层,利用图神经网络构建用户的社交关系图,使用注意力聚合方法来权衡不同朋友对用户偏好的影响。在两个实际数据集上的实验结果表明,该模型优于包括现有最新的社交推荐模型以及几个具有竞争性的基线模型。