基于强化学习单元匹配循环神经网络的滚动轴承状态趋势预测

为了解决当前人工智能预测方法在滚动轴承状态趋势预测中预测精度较差、计算效率较低的问题,提出基于强化学习单元匹配循环神经网络(RLUMRNN)的滚动轴承状态趋势预测新方法。先采用滑动平均奇异谱熵作为滚动轴承状态退化特征,再将该特征作为RLUMRNN的输入完成滚动轴承状态趋势预测。在RLUMRNN中,利用最小二乘线性回归法构造单调趋势识别器,将轴承整体的状态退化趋势分为上升、下降、平稳3种单调趋势单元,并通过强化学习为每一种单调趋势单元选择一个隐层数和隐层节点数与其相适应的循环神经网络,从而改善了RLUMRNN的非线性逼近能力和泛化性能;用3种单调趋势单元和不同隐层数、隐层节点数分别表示Q值表的状态和动作,并构造关于循环神经网络输出误差的新型奖励函数,以明确强化学习的目标,从而减小循环神经网络的输出误差,避免在Q值表更新过程中使Agent(即决策函数)盲目搜索,提高了RLUMRNN的收敛速度。通过双列滚子轴承状态趋势预测实例验证了该方法具有较高的预测精度和计算效率。

基于迁移学习与GRU神经网络结合的锂电池SOH估计

为解决退役电池梯次利用过程中单体剩余使用寿命估计困难、测试流程复杂与能耗高等问题,提出迁移学习与GRU网络结合的锂离子电池健康状态估计方法;设计的基础模型结构为输入层+GRU层+全连接层+输出层;根据健康因子的得分,选择训练基础模型的数据集、划分电池相似度等级并制定对应的迁移学习策略。实验结果表明:与其他模型相比,分别使用数据集的前40%与前25%训练得到的基础模型与迁移学习模型,两者的精度分别最大提高42.48%与95.28%,而预测稳定性分别最大提高55.38%与93.55%。

基于深度神经网络和门控循环单元的动态图表示学习方法

学习图中节点的潜在向量表示是一项重要且普遍存在的任务,旨在捕捉图中节点的各种属性。大量工作证明静态图表示已经能够学习到节点的部分信息,然而,真实世界的图是随着时间的推移而演变的。为了解决多数动态网络算法不能有效保留节点邻域结构和时态信息的问题,提出了基于深度神经网络(DNN)和门控循环单元(GRU)的动态网络表示学习方法DynAEGRU。该方法以自编码器作为框架,其中的编码器首先用DNN聚集邻域信息以得到低维特征向量,然后使用GRU网络提取节点时态信息,最后用解码器重构邻接矩阵并将其与真实图对比来构建损失。通过与几种静态图和动态图表示学习算法在3个数据集上进行实验分析,结果表明DynAEGRU具有较好的性能增益。

基于门控循环单元神经网络的NO_(x)排放量预测

电站燃煤锅炉产生的排放是大气NO_(x)污染的主要来源之一,建立有效的NO_(x)排放模型是锅炉燃烧优化降低NO_(x)排放的基础。为充分地挖掘数据源与锅炉NO_(x)排放量的相关性,提出一种基于多层门控循环单元神经网络(GRU)的NO_(x)排放预测模型。首先,利用主成分分析对火电厂高维数据进行处理;然后,将提取的主成分作为GRU网络的输入,得到锅炉NO_(x)排放预测模型。以某660 MW电厂实际运行数据对模型进行了验证,仿真结果表明多层GRU模型具有较高的预测精度和较强的鲁棒性,可以更有效地对火电厂NO_(x)排放量进行预测。

基于卷积神经网络和双向门控循环单元网络注意力机制的情感分析

传统的情感分析方法不能获取全局特征,以及否定词、转折词和程度副词的出现影响句子极性判断。在深度学习方法基础上提出了基于卷积神经网络和双向门控循环单元网络注意力机制的短文本情感分析方法。将情感积分引入卷积神经网络,利用情感词自身信息,通过双向门控循环网络模型获取全局特征,对影响句子极性的否定词、转折词和程度副词引入注意力机制实现对这类词的重点关注,提取影响句子极性的重要信息。实验结果表明,该模型与现有相关模型相比,有效提高情感分类的准确率。

基于门控循环单元神经网络的金融时间序列预测

针对循环神经网络(recurrent neural networks,RNN)网络结构存在的长期依赖问题,门控循环单元(gated recurrent unit,GRU)神经网络作为RNN的一种变体被提出。在继承RNN对时间序列优秀记忆能力的前提下,GRU克服了时间序列的长期依赖问题。本文针对金融时间序列数据存在的依赖问题,将GRU扩展应用到金融时间序列预测,提出了基于差分运算与GRU神经网络相结合的金融时间序列预测模型。该模型能够处理金融时间序列数据的复杂特征,如非线性、非平稳性和序列相关性。通过对标准普尔(S&P)500股票指数的调整后收盘价进行预测,实验结果表明,所提出的方案能够提高GRU神经网络的泛化能力和预测精度,并且与传统预测模型相比该模型对金融时间序列的预测拥有更好的预测效果和相对较低的计算开销。

基于门控循环单元神经网络的公交到站时间预测

为提高用户公交出行积极性、方便管理部门合理调度公交班次,利用大数据分析公交浮动车辆历史GPS数据,考虑不同线路、公交站点地理位置、不同驾驶员、气象情况、时间分布等多因素的影响,建立了一种基于门控循环单元(gated recurrent unit, GRU)神经网络的公交到站时间预测模型。该模型结合5 000多万条原始数据,借助分布式Hadoop集群中的Spark弹性分布式数据集进行数据清理,并运用站点匹配算法进行源数据匹配、Lasso算法优化特征选项及去除干扰。实验仿真结果表明:改进的GRU模型R-square拟合度达到94.547%,并且算法效率较传统长短期记忆(long short-term memory,LSTM)神经网络提高了近14%,为进一步提高公交到站时间的预测精度与效率提供了参考。

基于改进堆叠式循环神经网络的轴承故障诊断

提出基于改进堆叠式循环神经网络的轴承故障诊断模型.利用深层网络极强的非线性拟合能力以及循环神经网络特有的沿时间通道传播的特点,通过门控循环单元解决堆叠式循环神经网络梯度消失的问题,实现对轴承健康状况的分类识别.利用美国凯斯西储大学轴承数据集进行了轴承故障诊断试验,同时将支持向量机、粒子群优化的支持向量机、人工神经网络、卷积神经网络AlexNet以及循环神经网络作为对比以检验所提模型的分类性能.结果表明,提出的模型能够对轴承故障进行有效诊断,并且具有一定的可靠性与泛化能力.

基于循环神经网络的微地震数据降噪方法

针对微地震信号中存在大量噪声干扰,导致其识别困难的问题,提出一种深度双向门控循环单元循环神经网络的方法,并将其应用于微地震数据降噪中.首先,构建多层双向门控循环单元循环神经网络模型,并设计该模型的网络结构及训练算法;然后,采用Ricker子波正演模拟微地震数据验证模型的有效性,并将该方法与其他4种方法进行对比;最后,将真实的含噪声微地震数据输入到训练好的模型中,即可得到降噪后的微地震数据.仿真实验结果表明,利用该方法降噪后与降噪前信号的峰值信噪比相比约提高36 dB,且信号之间的相关系数值由0.0886上升至0.9335.实际应用结果也表明,该方法可有效降低实际微地震数据中的噪声.

基于循环神经网络的医疗人力资源配置模型设计与仿真

人力资源合理化管理对医院高效培养医疗领域人才、完善医院管理模式以及提高医院整体资源利用率均有较大的帮助。当前所应用于人力资源领域的计算模型通常是基于统计算法展开的,已无法满足海量数据的处理需求,未考虑到数据隐藏的特征,这容易导致信息匮乏问题的出现。文中将循环卷积神经网络和传统人力资源配置算法相结合,设计了适用于人力资源领域的人岗匹配推荐算法,可以改善传统算法数据训练质量问题。在算法实验部分,文中算法F1值为0.823,相较其他两项算法分别提升了20.1%和7.4%,说明该算法可以提升数据的隐层特征,进而提升数据的训练质量,提高人岗匹配度和推荐精准度。

基于门控循环单元和图神经网络的PM2.5预测

PM2.5浓度指数是衡量空气质量的重要指标之一,但由于PM2.5数据的非线性以及受多种气象因素的影响,因此实现精确预测较为困难。本文采用门控循环单元和图神经网络相结合的混合模型预测的方式,并进一步采用改进的门控循环单元提升网络效果。通过对门控循环单元的输入信息与隐藏层信息进行数据交互增强上下文信息联系,使得门控循环单元模块的转移函数依赖于信息上下文。一系列实验结果表明:提出的改进方法相比于现有的方法具有更好的性能以及泛化效果,在中国生态环境部提出的京津冀地区真实数据集上验证了方法的有效性,与现有网络相比预测准确率更高。

基于门控循环单元强化学习的晶圆光刻区实时调度方法研究

为求解具有动态性、实时性、多约束、多目标特点的晶圆光刻区调度问题,提出一种基于门控循环单元强化学习的晶圆光刻区实时调度方法。设计引入门控循环单元学习光刻区历史调度决策与状态的时序信息,为双深度强化学习模型提供辅助决策信息;设计双深度强化学习模型的输入状态空间、输出动作集,并面向晶圆最小化最大完工时间和晶圆准时交货率指标设计多目标奖励函数,为智能体优化调度输出;设计设备专用性约束与掩模版约束的解约束规则与调度方法相结合,提高调度方案实施的实用性。通过某晶圆制造企业实际算例,将该方法与传统双深度强化学习和光刻区启发式规则方法比较,该方法均为最优,证明了其解决此问题的有效性。

基于时空位置关注图神经网络的交通流预测方法

针对现有交通流预测方法存在难以构建空间和时间依赖关系的问题,提出了新的利用时空位置注意力的图神经网络(ST-PAGNN)方法。首先,该图神经网络中包含有位置关注机制,由此能够更好地对城市道路网络中交通节点的空间依赖关系进行有效捕捉;然后,利用带有trend adaptive Transformer(Trendformer)的门控递归神经网络来捕捉交通流序列在时间维度上的局部和全局信息;最后,利用改进的网格搜索优化方法对模型的引入参数进行优化,并以较高的时间效率获得全局最优解。实验结果表明,在数据集PEMS-BAY中,预测步长分别为15 min,30 min,60 min时,ST-PAGNN的评价指标RMSE、MAE和MAPE分别为1.37,2.57,2.67%,1.55,3.64,3.37%,1.97,4.37,4.43%;在数据集METR-LA中,预测步长分别为15 min,30 min,60 min时,ST-PAGNN的评价指标RMSE、MAE和MAPE分别为2.73,5.16,7.13%,2.99,5.97,7.86%,3.53,7.16,9.96%。结论表明,ST-PAGNN在不同粒度下的评价指标中均高于现有模型,从而说明了ST-PAGNN在解决交通预测问题方面的有效性和优越性。

基于循环神经网络的卫星姿态执行器故障诊断

针对卫星姿态控制系统执行器机构故障问题,提出了一种基于循环神经网络的故障诊断方法。对卫星姿态控制系统建模,进行故障分析并采集星敏感器和角速度陀螺的连续时刻故障数据。设计六种异构的循环神经网络,对故障数据进行故障诊断和分类,分别从网络深度、反馈单元、激活函数和训练算法对比网络效果。带有门循环单元的(gate recurrent unit,GRU)深层循环神经网络训练效果更好,其故障诊断准确率达到了95.7%。结果表明对于时序的卫星数据,门循环单元和带有一定深度的循环神经网络故障诊断效果更优。

采用门控循环神经网络估计锂离子电池健康状态

锂离子电池健康状态(State of Health,SOH)描述了电池当前老化程度,对于提前对电池的故障及失控做出预警避免电池的不安全行为具有重要意义。其估计难点在于难以确定数量合适、相关性高的估计输入以及设计合适的估计算法。通过对现有电池老化数据集的研究发现,电池充电过程中电压曲线数据相对稳定,且随着电池的老化出现规律性变化。因此,文中直接采用充电过程中电压数据作为估计SOH的输入,并在数据驱动的框架下,提出了一种基于门控循环神经网络(Recurrent Neural Networks with Gated Recurrent Unit,GRU-RNN)的锂电池SOH估计方法。该方法能够挖掘出一维电压数据中的时序特征和SOH之间的映射规律。在两个公开的电池老化数据集上的实验结果表明,提出的方法达到了1.25%的均方绝对误差和低于5.62%的最大误差,在估计精度上达到现有技术发展水平。

基于深度卷积和门控循环神经网络的传感器运动识别

用于可穿戴传感器的人体运动识别任务的传统机器学习方法通常需要手工提取特征,可以自动提取人体运动数据特征的深度神经网络正成为新的研究热点。目前将卷积神经网络(CNN)和长短期记忆(LSTM)循环神经网络组合而成的DeepConvLSTM在识别精度方面有着优于其他识别方法的表现。针对带有长短期记忆循环单元的神经网络的训练较为困难的问题,提出了一种基于卷积神经网络和门控循环单元(GRU)的融和模型,并在3个公开数据集(ACT数据集、UCI数据集和OPPORTUNITY数据集)上与卷积神经网络和DeepConvLSTM进行了性能对比。实验结果显示,该模型在3个公开数据集上的识别精度都高于卷积神经网络,与DeepConvLSTM相当,但是收敛速度比DeepConvLSTM更快。

基于LSTM循环神经网络的短期电力负荷预测

为了保障电网安全稳定和电力市场高效运行,电网调度人员和电力市场参与者对电力负荷预测准确度提出了更高要求,分布式电源和间歇性负荷是影响负荷精准预测的关键因素。针对传统负荷预测方法无法同时对负荷本身变化规律及其影响因素进行建模的问题,提出基于长短期记忆单元(LSTM)的负荷预测方法。利用具备时序记忆功能的LSTM构建深度循环神经网络(RNN),综合考虑历史负荷和各类负荷影响因素建立负荷预测模型。该方法利用神经网络的特征提取能力和LSTM的时序记忆能力,能在更长的历史时间范围内辨识负荷内在变化规律及各类影响因素对负荷的非线性影响。基于实际负荷数据对不同历史时间窗口、不同网络架构的负荷预测性能进行验证,并与其他负荷预测算法进行比较,结果表明所提方法能有效提升负荷预测准确性。

基于改进卷积门控循环神经网络的刀具磨损状态识别

刀具状态监测直接影响加工质量,对保障加工安全与提高生产效率起着重要作用。针对刀具加工信号分析较为复杂与深度学习求解耗时高的问题,提出一种基于改进卷积门控神经网络的刀具磨损状态识别网络模型。借助卷积神经网络(CNN)实现对数据中空间特性的获取,并利用双向门控循环单元(BiGRU)中数据时序特征处理能力提取原始振动信号的序列特征,将极限学习机(ELM)作为分类器进行刀具磨损状态识别。实验结果表明,在刀具磨损数据样本数量有限的情况下,该方法对于信号数据有较强的分析能力,运算速度快,能达到更好的识别精度。

基于GRU神经网络的测井曲线重构

通过测井曲线解释可以获得地层岩性、电性以及孔渗饱等地层参数,然而,实际应用中时常出现部分测井数据失真或缺失的情况,而重新测井不仅价格昂贵且实现较困难。目前基于传统的线性假设和统计分析的测井曲线重构方法已不能满足储层特征的精细描述要求。门控循环单元(GRU)神经网络是一种适合于解决非线性和时序性问题的新型深度学习算法。基于深度学习的最新成果,提出使用GRU神经网络进行测井曲线重构。该方法兼顾了测井数据之间的非线性映射关系、数据随储层深度变化的趋势及历史数据之间的关联性。对实际资料进行试算,并与多元回归方法结果对比,表明GRU网络模型取得了良好的重构效果,为测井曲线重构提供了一种新的思路。

基于混合神经网络的汽车运动状态估计

针对现有车辆运动状态估计算法严重依赖动力学模型精度且在大的质心侧偏角工况下准确性难以保障的问题,本文提出了一种基于混合神经网络的车辆运动状态估计算法。通过分析车辆本身的动力学基本特性,设计了适合于车辆运动状态估计的HNN混合神经网络架构,实现了车辆运动状态的深度学习估计。基于多个标准工况组成的数据集与典型实车测试工况进行了网络训练与测试验证。结果表明,相比于传统算法,本算法基于神经网络实现了精准的无动力学模型的汽车运动状态估计,提高了估计精度,且对路面附着系数变化具有鲁棒性。