基于长短时记忆神经网络的Multi-GNSS卫星钟差建模预报

针对卫星钟差预报中二次多项式模型存在易受噪声干扰、预报精度不高的问题,构建一种基于长短时记忆神经网络的multi-GNSS卫星钟差预报模型,并分析不同卫星系统、不同钟类型基于不同建模方案的模型精度。为验证该模型的有效性和可行性,利用LSTM模型、QP模型、QP-LSTM模型分别基于12 h和24 h钟差序列进行建模,预报1 h、3 h、6 h、12 h钟差。结果表明,LSTM模型建模24 h、预报1 h精度最高。multi-GNSS卫星钟差LSTM预报模型中Galileo系统精度最高,其次为BDS-2系统和GPS系统,GLONASS系统精度最低,精度分别为0.018 ns、0.069 ns、0.133 ns、0.242 ns。不同原子钟预报精度不同,氢原子钟预报精度优于铷原子钟、铯原子钟。LSTM神经网络模型预报精度相较于QP-LSTM模型提升27%,相较于QP模型提升36%。

基于长短时记忆算法的火电厂过热气温控制系统参数优化方法研究

旨在通过长短时记忆(long short term memory, LSTM)算法改进过热气温控制系统。研究方法包括数据采集与分析、LSTM模型的建立以及控制系统的参数调整。通过监测和分析历史数据,建立了LSTM模型,能够精确预测过热气温的变化趋势。通过LSTM算法的应用,系统可以更灵活地应对气温波动,降低异常温度的风险,从而减少维护与修理成本。可为火电厂提供一种控制系统,有效降低运营风险,提高经济效益,延长设备寿命,同时减少对环境的不利影响,对于现代工业的可持续发展和清洁能源生产具有重要意义。

基于串联长短时记忆网络的振动台子结构试验模拟

振动台子结构试验具有试验测试与数值模拟的双重优势,可实现大尺度甚至足尺模型结构的地震作用复现;振动台子结构试验中数值子结构的实时求解是影响试验精度和系统稳定性、决定试验能否顺利实现的关键因素之一。为提升数值子结构的求解性能,将长短时记忆(long short-term memoryk, LSTM)网络引入到振动台子结构试验中,分别构建了用于模拟试验子结构和数值子结构的神经网络模型,并且在训练数据中引入时滞以模拟系统延迟带来的影响。选择5层钢框架模型结构对神经网络模型进行验证,结果显示,所构建的神经网络模型具有良好的精度、稳定性和时滞补偿能力,计算效率可满足实时控制要求;所提出的神经网络模型可用于振动台子结构试验的数值子结构实时求解。

长短时记忆脉冲神经网络手语识别模型

手语识别是人机交互领域中的重要问题之一。随着人工智能技术的发展,越来越多的机器学习和深度学习方法被应用在手语识别任务上。文章设计一种轻量级的长短时记忆脉冲神经网络(long short-term memory-spiking neural network,LSTM-SNN)手语识别模型用于识别常用手语。首先提出自适应脉冲编码,将手语信号转化为脉冲信号;接着将脉冲信号输入到改进的带泄漏整合发放(leaky integrate-and-fire,LIF)神经元模型,以时间驱动的方式进行信息传导,完成网络训练。在收集到的101个手语手势数据集上的实验结果表明,该模型准确率达到95.37%,表明该文提出的模型优于其他深度学习和机器学习模型。

基于长短时记忆的船舶涡轮增压器运行状态趋势预测

为解决传统涡轮增压器状态趋势预测方法存在的预测精度低和主观依赖度高的问题,提出一种基于长短时记忆(Long Short-Term Memory,LSTM)的涡轮增压器运行状态趋势预测方法。将涡轮转速作为涡轮增压器运行状态评价指标,建立增压器状态数据筛选原则,降低工况和外部因素变化对涡轮增压器运行状态变化特征的影响;利用LSTM隐含层内的循环节点,通过时序相似性搜索对涡轮增压器的状态趋势进行预测。实测结果表明,该基于LSTM的涡轮增压器运行状态趋势预测方法相比传统的基于最小二乘法的涡轮增压器状态趋势预测方法具有更好的预测效果,误差大幅减小,且趋势跟随性更强。

长短时记忆网络在风电短期功率预测中的应用与效果评估

本研究致力于研究风电场短期功率预测,这是应对可再生能源变化性的关键问题之一。短期功率预测在电力系统调度和可再生能源管理中将起到重要作用。为了提高预测准确性,我们采用了深度学习模型中的长短时记忆网络(LSTM)以及其改进方法。本研究将详细分析LSTM的原理和结构,并利用山东某风电场半年的历史数据作为实际案例,评估了模型在实际风电场预测中的性能。实验结果显示,改进的LSTM模型在风电场短期功率预测中表现出更高的准确性,尤其在夏季高温季节的准确率提升明显。这些结果强调了深度学习技术在解决风电功率预测问题中的巨大潜力,有望提高电力系统的可靠性和可再生能源资源的利用率。

基于长短时记忆网络的人才培养模型设计

长短时记忆LSTM神经网络的工作原理虽有记载,但究其物理过程很多资料都未解释清楚,该文以学校人才培养为例,将LSTM网络类比为通过多年办学的吐故纳新,将成功的经验长期继承下来,而把逐年的新贡献又增加上去,如此循环,就把多级LSTM的级联展现在读者面前。

PVsiRNAPred-LSTM:基于长短时记忆神经网络预测植物病毒衍生的小干扰RNA

植物病毒衍生的小干扰RNA(Virus-derived siRNAs, vsiRNAs)能够调节多种生物学过程,在抗病毒免疫中发挥着非常重要的作用。因此,植物vsiRNAs的识别有助于了解其生物发生机制,对研究抗病毒植物具有重要意义。虽然,现在已有多种实验方法通过检测RNA来寻找vsiRNAs,但是实验测试费时费力费钱。在本文中,我们从PVsiRNAdb数据库中提取植物vsiRNAs序列,基于长短时记忆神经网络(Long Short-Term Memory neural network, LSTM)与vsiRNAs序列,开发了一种深度学习算法——PVsiRNAPred-LSTM,用于预测植物vsiRNAs。PVsiRNAPred-LSTM可以自动学习并选择与预测任务相关的重要特征。为了防止模型过拟合,我们使用了五折交叉检验来训练模型。在五折交叉检验测试中,该模型的准确率为64.38%,灵敏度(Sn)为66.44%,精确度(Pr)为60.51%,F1值为0.64,特异性(Sp)为56.63%,马修斯相关系数(MCC)为0.23,AUCROC为0.67。以上结果表明PVsiRNAPred-LSTM取得了良好的预测效果,我们希望通过PVsiRNAPred-LSTM这一生物信息学算法来预测植物vsiRNAs,帮助找到新的植物vsiRNAs。

冬季高速公路逐时路表温度LSTM预测模型

为提高冬季路表温度的预测精度,提出一种基于多维长短时记忆(LSTM)神经网络的冬季路表温度逐时预测模型,以小时路表温度为模型输出,综合考虑多维气象因素的累积影响和路表温度的周期性,采用滑动窗口构造输入特征矩阵;构建路表温度LSTM逐时预测模型,通过深度学习高效逼近具有复杂非线性和不确定性的路表温度,并以江苏省宁宿徐高速公路、云南省麻昭高速公路为实例进行验证。结果表明:与随机森林(RF)模型和BP神经网络相比,LSTM路表温度逐时预测模型的准确率得到显著提高,在宁宿徐高速、麻昭高速的平均绝对误差(MAE)、均方误差(MSE)和均方根误差(RMSE)分别为0.303、0.295、0.543和0.581、0.694、0.833,预测值与观测值绝对误差位于[0,1)℃之间的占比为93%和89%。LSTM模型能准确捕捉路表温度的周期性和不确定性,在阴雨天和晴朗天的预测值与实测值基本一致,模型鲁棒性较好。

基于Transformer-LSTM的闽南语唇语识别

针对端到端句子级闽南语唇语识别的问题,提出一种基于Transformer和长短时记忆网络(LSTM)的编解码模型.编码器采用时空卷积神经网络及Transformer编码器用于提取唇读序列时空特征,解码器采用长短时记忆网络并结合交叉注意力机制用于文本序列预测.最后,在自建闽南语唇语数据集上进行实验.实验结果表明:模型能有效地提高唇语识别的准确率.

基于SDP和MCNN-LSTM的齿轮箱故障诊断方法

齿轮箱在长期使用过程中,不可避免地会产生齿轮故障和轴承故障,严重影响传动精度和设备运行安全。基于此,针对齿轮箱常见故障类型,研究多通道对称点图案(symmetrized dot pattern, SDP)数据处理方法,并利用最小能量误差法实现SDP关键参数的选取。结合多尺度卷积神经网络(multi-scale convolutional neural network, MCNN)的空间处理优势、长短时记忆网络(long short term memory, LSTM)的时间处理优势及其良好的抗噪性和鲁棒性,提出了一种基于SDP和MCNN-LSTM的齿轮箱故障诊断模型。同时利用东南大学齿轮箱数据集,验证了基于SDP和MCNN-LSTM的齿轮箱故障诊断方法对齿轮和轴承常见故障类型特征提取的有效性,并与现有其他故障诊断方法进行对比,结果表明了所提方法具有更高的精度。

双向长短时记忆模型训练中的空间平滑正则化方法研究

双向长短时记忆模型(BLSTM)由于其强大的时间序列建模能力,以及良好的训练稳定性,已经成为语音识别领域主流的声学模型结构。但是该模型结构拥有更大计算量以及参数数量,因此在神经网络训练的过程当中很容易过拟合,进而无法获得理想的识别效果。在实际应用中,通常会使用一些技巧来缓解过拟合问题,例如在待优化的目标函数中加入L2正则项就是常用的方法之一。该文提出一种空间平滑的方法,把BLSTM模型激活值的向量重组成一个2维图,通过滤波变换得到它的空间信息,并将平滑该空间信息作为辅助优化目标,与传统的损失函数一起,作为优化神经网络参数的学习准则。实验表明,在电话交谈语音识别任务上,这种方法相比于基线模型取得了相对4%的词错误率(WER)下降。进一步探索了L2范数正则技术和空间平滑方法的互补性,实验结果表明,同时应用这2种算法,能够取得相对8.6%的WER下降。

基于KF-LSTM的轮轴横向力间接测量方法研究

轮轴横向力作为评价列车运行安全性的重要指标,对其进行服役状态下的在线监测尤为重要。结合卡尔曼滤波和长短时记忆网络算法(Kalman filter&long short-term memory, KF-LSTM)发展了轮轴横向力间接测量模型。首先利用17自由度车辆横向动力学方程建立卡尔曼滤波算法的过程和观测方程,其次构建最优观测变量集进行间接测量,然后采用长短时记忆网络算法对列车测量效果较差位置处的横向力测量公式进行修正补偿,通过数值仿真与现场试验证明了提出KF-LSTM模型的有效性。结果表明:基于KF-LSTM方法可准确测量0~20 Hz频域范围内轮轴横向力,仿真线路中轮轴横向力序列预测值与仿真真实值的相关系数约0.85,平均绝对误差值约4.82 kN;现场试验中轮轴横向力序列预测值与测力轮对实测值的相关系数约0.84,平均绝对误差值约2.99 kN,并依据该测量方法设置该车辆在该条线路运行时轮轴横向力的预警标准,为工程设计和实践提供依据。

基于4种长短时记忆神经网络组合模型的畸形波预报

为提高长短时记忆神经网络对畸形波预报精度,研究了长短时记忆神经网络与卷积神经网络(Convolution Neural Networks, CNN)、经验模式分解(Empirical Mode Decomposition, EMD)、差分自回归移动(Auto-Aggressive Integrated Moving Average, ARIMA)模型以及卡尔曼滤波(Kalman Filtering, KF)方法4种组合模型预报方法.基于两个单峰型畸形波和一个三姐妹组合型畸形波实验数据,经过数据归一化、模型参数设置及误差评估建立了组合预报模型和预报.结果表明:4种组合模型预报精度在所研究的3个畸形波序列预报中精度都得到了显著提高,其中与CNN组合模型的预报精度最高.组合模型方法为提高畸形波预报精度提供了可行方案.

基于长短时记忆网络的腐蚀工况下抽油杆剩余使用寿命预测

抽油杆工作环境复杂,失效形式多样,其工作寿命受诸多因素影响,如何提高抽油杆在腐蚀工况下的剩余使用寿命(remaining useful life,RUL)显得尤为关键。使用深度学习方法中的长短时记忆网络(long short-term memory,LSTM),根据已有的油田生产数据,选取了15项与抽油杆腐蚀密切相关的变量,通过参数优化、网络训练,构建了基于LSTM的抽油杆剩余寿命预测模型,对20口生产井数据的测试显示,模型预测结果的平均误差为36%,同时与双向LSTM和深度LSTM模型进行对比表明,LSTM预测模型具有更好的预测能力,结果表明:LSTM模型在抽油杆寿命预测领域具有良好的应用前景。

基于长短时记忆网络模型的电磁频谱预测方法

传统粗放式频谱监测存在效率低下、能量损耗大、时延严重等问题。电磁频谱预测是精准化频谱监测的基础。针对电磁频谱数据的时序化特点,设计基于长短时记忆网络的电磁频谱预测算法,包括模型训练及预测流程、3层网络结构及超参数优选策略,通过与典型时间序列模型预测方法的实验对比,验证所提出的长短时记忆网络预测模型具有更好的准确性。

基于长短时记忆网络的路口转向意图预测

提出了通用路口车辆行驶意图预测模型,对其他交通参与者在路口的转向意图进行预测。根据驾驶场景对真实数据集NGSim(Next Generation Simulation)进行特征选择与数据提取,然后使用长短时记忆(LSTM)网络进行通用模型训练。结果表明:该模型可以在停车线前10 m预测出车辆是左转、右转,还是继续直行,预测正确率为92. 3%。

基于VMD-LSTM-IPSO-GRU的电力负荷预测

为了挖掘电力负荷数据中的潜藏信息,提高短期负荷预测的精度,针对电力负荷强非线性、非平稳性等特点,提出一种基于变分模态分解(variational mode decomposition,VMD)、长短时记忆神经网络(long-term and short-term memory network,LSTM)、改进的粒子群算法(improve particle swarm optimization,IPSO)和门控循环单元(gated recurrent unit neural network,GRU)的混合预测模型。首先,使用相关性分析确定输入因素,再将负荷数据运用VMD算法结合样本熵分解为一系列本征模态分量(intrinsic mode fuction,IMF)和残差量,进而合理地确定分解层数和惩罚因子;其次,根据过零率将这些量划分为低频和高频,低频分量使用LSTM网络,高频分量利用IPSO-GRU网络分别进行预测;最后,将预测结果重构得到电力负荷的最终结果。仿真结果表明:相对于其他模型,所提混合模型可有效的提取模态特征,具有更高的预测精度。

基于长短时记忆-反向传播级联模型的湿法脱硫系统性能预测

为利用深度强化学习实现石灰石/石膏湿法烟气脱硫(wet flue gas desulfurization,WFGD)过程中脱硫成本的运行优化,需要建立WFGD系统与强化学习的环境模型。考虑到传统WFGD系统机理建模较为复杂以及脱硫数据具有时序性特征,构建长短时记忆(long short-term memory,LSTM)网络和反向传播(back propagation,BP)神经网络结合的LSTM-BP级联模型算法,采用数据预处理技术确定模型的输入量,并以给浆密度和给浆流量作为预测量验证模型的可靠性。以国内某2×600 MW电厂WFGD系统为例,验证模型在实际工况下的应用表现。基于Python语言和TensorFlow框架下的仿真结果表明,级联模型中LSTM具有2层隐含层时相比其他传统模型具有更高的预测精确度,均方根误差(root mean squared error,RMSE)和平均绝对百分比误差(mean absolute percentage error,MAPE)分别为3.47 kg/m^(3)、0.28%和0.97 m^(3)/h、6.4%,为进一步实现脱硫成本运行优化建立了良好的前提。

时间感知组合的动态知识图谱补全

针对现有时序知识图谱嵌入方法仅考虑时序信息的关系或仅编码独立的时序向量,知识图谱补全性能不高的问题,提出时间感知组合(TAC)的时序知识图谱补全方法.通过建模维度特征,分析时序信息对知识图谱补全方法的有效程度.通过时序信息内嵌和独立相结合的嵌入方式,考虑时序信息嵌入后,不同学习方式对表示学习能力产生不同的影响.提出的方法利用长短时记忆(LSTM)网络编码时序信息,学习到更准确的时间维度特征,有助于提升时序图谱的性能.在ICEWS14、ICEWS05-15和GDELT数据集上进行实验,验证了时间感知组合方法的有效性.对比相关的研究性能指标可知,本文方法在链接预测上表现较优.