基于核主成分分析与长短时记忆网络的水电机组监测预警

水电机组的可靠稳定运行对于区域电力系统安全极为重要,该文提出了一种基于核主成分分析(kernel principal component analysis, KPCA)和长短时记忆网络(long short-term memory, LSTM)的水电机组智能预警方法。开展水电机组多通道振动信号数据融合研究,通过KPCA方法去除了多通道信号间冗余,实现了原始数据的压缩表征,并获得了机组在稳态运行工况的T2(Hotelling’s Fsquared)和SPE(square prediction error)控制限,将其作为预警阈值对融合后信号进行异常状态识别。以LSTM为基础构建了时序预测模型,结合异常状态识别结果实现了水电机组状态预警功能。研究通过案例实施验证了所提方法的有效性,并与KPCA-RNN和KPCA-Informer等模型进行了对比,所提出KPCA-LSTM模型预测结果的R2系数大于0.97,预测偏差处于极低水平,性能优于对比模型。

基于长短时记忆神经网络的Multi-GNSS卫星钟差建模预报

针对卫星钟差预报中二次多项式模型存在易受噪声干扰、预报精度不高的问题,构建一种基于长短时记忆神经网络的multi-GNSS卫星钟差预报模型,并分析不同卫星系统、不同钟类型基于不同建模方案的模型精度。为验证该模型的有效性和可行性,利用LSTM模型、QP模型、QP-LSTM模型分别基于12 h和24 h钟差序列进行建模,预报1 h、3 h、6 h、12 h钟差。结果表明,LSTM模型建模24 h、预报1 h精度最高。multi-GNSS卫星钟差LSTM预报模型中Galileo系统精度最高,其次为BDS-2系统和GPS系统,GLONASS系统精度最低,精度分别为0.018 ns、0.069 ns、0.133 ns、0.242 ns。不同原子钟预报精度不同,氢原子钟预报精度优于铷原子钟、铯原子钟。LSTM神经网络模型预报精度相较于QP-LSTM模型提升27%,相较于QP模型提升36%。

基于长短时记忆算法的火电厂过热气温控制系统参数优化方法研究

旨在通过长短时记忆(long short term memory, LSTM)算法改进过热气温控制系统。研究方法包括数据采集与分析、LSTM模型的建立以及控制系统的参数调整。通过监测和分析历史数据,建立了LSTM模型,能够精确预测过热气温的变化趋势。通过LSTM算法的应用,系统可以更灵活地应对气温波动,降低异常温度的风险,从而减少维护与修理成本。可为火电厂提供一种控制系统,有效降低运营风险,提高经济效益,延长设备寿命,同时减少对环境的不利影响,对于现代工业的可持续发展和清洁能源生产具有重要意义。

基于长短时记忆网络(LSTM)的上证指数预测

在第四代科技革命,即新信息技术高速发展的背景下,人工智能技术在股票市场中也得以广泛应用。股价综合指数可视为股票市场整体趋势的一种量化描述,对综合指数的变化趋势分析有助于了解股票市场的演化方向。因此,我们利用建立了一个含有200个隐藏神经元的长短时记忆网络以分析上证指数的变化趋势,该模型实现了基于前7个交易日的历史数据的一步预测。由于ADAM具有高效性的优势,我们将其用ADAM与模型训练,并利用正则化方法提高模型的泛化能力。通过仿真实验证明,LSTM模型较好地对上证指数运动的趋势进行了预测,为上证指数预测提供了一个新的研究方向。

PVsiRNAPred-LSTM:基于长短时记忆神经网络预测植物病毒衍生的小干扰RNA

植物病毒衍生的小干扰RNA(Virus-derived siRNAs, vsiRNAs)能够调节多种生物学过程,在抗病毒免疫中发挥着非常重要的作用。因此,植物vsiRNAs的识别有助于了解其生物发生机制,对研究抗病毒植物具有重要意义。虽然,现在已有多种实验方法通过检测RNA来寻找vsiRNAs,但是实验测试费时费力费钱。在本文中,我们从PVsiRNAdb数据库中提取植物vsiRNAs序列,基于长短时记忆神经网络(Long Short-Term Memory neural network, LSTM)与vsiRNAs序列,开发了一种深度学习算法——PVsiRNAPred-LSTM,用于预测植物vsiRNAs。PVsiRNAPred-LSTM可以自动学习并选择与预测任务相关的重要特征。为了防止模型过拟合,我们使用了五折交叉检验来训练模型。在五折交叉检验测试中,该模型的准确率为64.38%,灵敏度(Sn)为66.44%,精确度(Pr)为60.51%,F1值为0.64,特异性(Sp)为56.63%,马修斯相关系数(MCC)为0.23,AUCROC为0.67。以上结果表明PVsiRNAPred-LSTM取得了良好的预测效果,我们希望通过PVsiRNAPred-LSTM这一生物信息学算法来预测植物vsiRNAs,帮助找到新的植物vsiRNAs。

基于长短时记忆网络的人才培养模型设计

长短时记忆LSTM神经网络的工作原理虽有记载,但究其物理过程很多资料都未解释清楚,该文以学校人才培养为例,将LSTM网络类比为通过多年办学的吐故纳新,将成功的经验长期继承下来,而把逐年的新贡献又增加上去,如此循环,就把多级LSTM的级联展现在读者面前。

双向长短时记忆模型训练中的空间平滑正则化方法研究

双向长短时记忆模型(BLSTM)由于其强大的时间序列建模能力,以及良好的训练稳定性,已经成为语音识别领域主流的声学模型结构。但是该模型结构拥有更大计算量以及参数数量,因此在神经网络训练的过程当中很容易过拟合,进而无法获得理想的识别效果。在实际应用中,通常会使用一些技巧来缓解过拟合问题,例如在待优化的目标函数中加入L2正则项就是常用的方法之一。该文提出一种空间平滑的方法,把BLSTM模型激活值的向量重组成一个2维图,通过滤波变换得到它的空间信息,并将平滑该空间信息作为辅助优化目标,与传统的损失函数一起,作为优化神经网络参数的学习准则。实验表明,在电话交谈语音识别任务上,这种方法相比于基线模型取得了相对4%的词错误率(WER)下降。进一步探索了L2范数正则技术和空间平滑方法的互补性,实验结果表明,同时应用这2种算法,能够取得相对8.6%的WER下降。

基于长短时记忆的船舶涡轮增压器运行状态趋势预测

为解决传统涡轮增压器状态趋势预测方法存在的预测精度低和主观依赖度高的问题,提出一种基于长短时记忆(Long Short-Term Memory,LSTM)的涡轮增压器运行状态趋势预测方法。将涡轮转速作为涡轮增压器运行状态评价指标,建立增压器状态数据筛选原则,降低工况和外部因素变化对涡轮增压器运行状态变化特征的影响;利用LSTM隐含层内的循环节点,通过时序相似性搜索对涡轮增压器的状态趋势进行预测。实测结果表明,该基于LSTM的涡轮增压器运行状态趋势预测方法相比传统的基于最小二乘法的涡轮增压器状态趋势预测方法具有更好的预测效果,误差大幅减小,且趋势跟随性更强。

基于长短时记忆网络的腐蚀工况下抽油杆剩余使用寿命预测

抽油杆工作环境复杂,失效形式多样,其工作寿命受诸多因素影响,如何提高抽油杆在腐蚀工况下的剩余使用寿命(remaining useful life,RUL)显得尤为关键。使用深度学习方法中的长短时记忆网络(long short-term memory,LSTM),根据已有的油田生产数据,选取了15项与抽油杆腐蚀密切相关的变量,通过参数优化、网络训练,构建了基于LSTM的抽油杆剩余寿命预测模型,对20口生产井数据的测试显示,模型预测结果的平均误差为36%,同时与双向LSTM和深度LSTM模型进行对比表明,LSTM预测模型具有更好的预测能力,结果表明:LSTM模型在抽油杆寿命预测领域具有良好的应用前景。

基于4种长短时记忆神经网络组合模型的畸形波预报

为提高长短时记忆神经网络对畸形波预报精度,研究了长短时记忆神经网络与卷积神经网络(Convolution Neural Networks, CNN)、经验模式分解(Empirical Mode Decomposition, EMD)、差分自回归移动(Auto-Aggressive Integrated Moving Average, ARIMA)模型以及卡尔曼滤波(Kalman Filtering, KF)方法4种组合模型预报方法.基于两个单峰型畸形波和一个三姐妹组合型畸形波实验数据,经过数据归一化、模型参数设置及误差评估建立了组合预报模型和预报.结果表明:4种组合模型预报精度在所研究的3个畸形波序列预报中精度都得到了显著提高,其中与CNN组合模型的预报精度最高.组合模型方法为提高畸形波预报精度提供了可行方案.

基于长短时记忆-反向传播级联模型的湿法脱硫系统性能预测

为利用深度强化学习实现石灰石/石膏湿法烟气脱硫(wet flue gas desulfurization,WFGD)过程中脱硫成本的运行优化,需要建立WFGD系统与强化学习的环境模型。考虑到传统WFGD系统机理建模较为复杂以及脱硫数据具有时序性特征,构建长短时记忆(long short-term memory,LSTM)网络和反向传播(back propagation,BP)神经网络结合的LSTM-BP级联模型算法,采用数据预处理技术确定模型的输入量,并以给浆密度和给浆流量作为预测量验证模型的可靠性。以国内某2×600 MW电厂WFGD系统为例,验证模型在实际工况下的应用表现。基于Python语言和TensorFlow框架下的仿真结果表明,级联模型中LSTM具有2层隐含层时相比其他传统模型具有更高的预测精确度,均方根误差(root mean squared error,RMSE)和平均绝对百分比误差(mean absolute percentage error,MAPE)分别为3.47 kg/m^(3)、0.28%和0.97 m^(3)/h、6.4%,为进一步实现脱硫成本运行优化建立了良好的前提。

基于长短时记忆网络模型的电磁频谱预测方法

传统粗放式频谱监测存在效率低下、能量损耗大、时延严重等问题。电磁频谱预测是精准化频谱监测的基础。针对电磁频谱数据的时序化特点,设计基于长短时记忆网络的电磁频谱预测算法,包括模型训练及预测流程、3层网络结构及超参数优选策略,通过与典型时间序列模型预测方法的实验对比,验证所提出的长短时记忆网络预测模型具有更好的准确性。

基于串联长短时记忆网络的振动台子结构试验模拟

振动台子结构试验具有试验测试与数值模拟的双重优势,可实现大尺度甚至足尺模型结构的地震作用复现;振动台子结构试验中数值子结构的实时求解是影响试验精度和系统稳定性、决定试验能否顺利实现的关键因素之一。为提升数值子结构的求解性能,将长短时记忆(long short-term memoryk, LSTM)网络引入到振动台子结构试验中,分别构建了用于模拟试验子结构和数值子结构的神经网络模型,并且在训练数据中引入时滞以模拟系统延迟带来的影响。选择5层钢框架模型结构对神经网络模型进行验证,结果显示,所构建的神经网络模型具有良好的精度、稳定性和时滞补偿能力,计算效率可满足实时控制要求;所提出的神经网络模型可用于振动台子结构试验的数值子结构实时求解。

长短时记忆脉冲神经网络手语识别模型

手语识别是人机交互领域中的重要问题之一。随着人工智能技术的发展,越来越多的机器学习和深度学习方法被应用在手语识别任务上。文章设计一种轻量级的长短时记忆脉冲神经网络(long short-term memory-spiking neural network,LSTM-SNN)手语识别模型用于识别常用手语。首先提出自适应脉冲编码,将手语信号转化为脉冲信号;接着将脉冲信号输入到改进的带泄漏整合发放(leaky integrate-and-fire,LIF)神经元模型,以时间驱动的方式进行信息传导,完成网络训练。在收集到的101个手语手势数据集上的实验结果表明,该模型准确率达到95.37%,表明该文提出的模型优于其他深度学习和机器学习模型。

基于长短时记忆网络的路口转向意图预测

提出了通用路口车辆行驶意图预测模型,对其他交通参与者在路口的转向意图进行预测。根据驾驶场景对真实数据集NGSim(Next Generation Simulation)进行特征选择与数据提取,然后使用长短时记忆(LSTM)网络进行通用模型训练。结果表明:该模型可以在停车线前10 m预测出车辆是左转、右转,还是继续直行,预测正确率为92. 3%。

长短时记忆的风电机组故障预测系统

风力发电是一种重要的可再生能源发电方式,其主要设备的故障严重影响风力发电效率与供电的安全可靠性。为控制风电设备主要零部件故障的发生,提出了一种基于长短时记忆(LSTM)的神经网络故障预测方法。该方法主要包括历史数据学习建模和在线数据监测两部分。通过预测风机齿轮箱的磨损故障,验证了该方法具有较好的预测性能,且能较早预测出故障的发生。

长短时记忆网络在风电短期功率预测中的应用与效果评估

本研究致力于研究风电场短期功率预测,这是应对可再生能源变化性的关键问题之一。短期功率预测在电力系统调度和可再生能源管理中将起到重要作用。为了提高预测准确性,我们采用了深度学习模型中的长短时记忆网络(LSTM)以及其改进方法。本研究将详细分析LSTM的原理和结构,并利用山东某风电场半年的历史数据作为实际案例,评估了模型在实际风电场预测中的性能。实验结果显示,改进的LSTM模型在风电场短期功率预测中表现出更高的准确性,尤其在夏季高温季节的准确率提升明显。这些结果强调了深度学习技术在解决风电功率预测问题中的巨大潜力,有望提高电力系统的可靠性和可再生能源资源的利用率。

基于KNN-LSTM的短时交通流预测

针对现有预测模型无法在交通大数据中提取交通流序列的内部规律,且未能充分利用交通流的时空相关性以实现高精度预测的问题,提出了一种基于K-最近邻(K-nearest neighbor,KNN)与长短时记忆(long short term memory,LSTM)网络模型相结合的短时交通流预测模型.采用KNN算法选择路网中与预测站点时空相关的检测站,以选择的检测站的交通流序列构造数据集,将其输入LSTM模型中进行训练及测试,并通过美国交通研究数据实验室的真实交通数据对提出的模型进行验证.结果表明:与现有的交通预测模型相比,该方法能更好地提取交通流序列的时空特性,预测准确率平均可提高12. 28%,可为交通诱导与控制提供必要的依据.

基于时空优化LSTM深度学习网络的气温预测

新疆天山山脉中段玛纳斯河流域及其周边地区气象观测站点稀疏且分布不均匀,导致对该地区积雪-融雪过程模拟所需的气温要素时空预测精度不高.针对这一问题,提出了基于时空优化长短时记忆(LSTM)深度网络的气温时空精准预测模型.首先,以该地区21个气象观测站点上2015年全年小时气象数据为数据源,利用Pearson相关性分析及多重共线性检验法选取了经度、纬度、风速、地表温度、相对湿度相关性较强的5个特征.其次,引入LSTM深度学习模型对气温等四个气象要素时间序列进行建模及预测,再引入后向传播(BP)神经网络对气象要素值进行优化并实现了将来逐小时气温的精准预测.最后,通过克里金插值(Kriging)制作了未来小时研究区气温空间分布图.对LSTM-BP模型预测精度进行分析,结果表明在研究区观测站点稀疏且分布不均匀情况下,利用提出的BP-LSTM模型预测的小时气温的均方根误差(RMSE)为2.37℃,比单独的LSTM模型降低2.21℃,比LSTM与多元线性回归组合模型降低0.3℃.LSTM-BP组合网络预测的绝对平均误差(MAE)也有所降低.对预测后的气温空间分布情况分析结果进一步验证了该模型的时空预测结果与实际情况一致.

基于小波优化LSTM-ARMA模型的岩土工程非线性时间序列预测

为了更精确地预测岩土工程应力、变形等的非线性时间序列,提出了基于小波优化的长短时记忆神经网络-自回归滑动平均模型(LSTM-ARMA)预测模型。首先使用小波分析将监测序列分解成趋势项和噪声项,采用LSTM网络滚动预测趋势项、ARMA模型预测噪声项,并将趋势项预测值与噪声项预测值之和作为总的时间序列预测值。在此基础上,以上海云岭超深基坑工程为案例进行了基坑地表沉降分析,结果表明组合模型的预测精度要高于单一LSTM模型且更加稳定;进一步采用弹塑性有限元对基坑开挖诱发的地表沉降进行了预测,并与人工智能预测结果进行对比,验证了人工智预测模型的合理性。分析表明,当后续工况与前置工况所诱发的变形机理突变时,人工智能预测误差增大,但伴随后续工况的推进,人工智能预测误差将逐渐减小。