Estimation of unloading relaxation depth of Baihetan Arch Dam foundation using long-short term memory network

The unloading relaxation caused by excavation for construction of high arch dams is an important factor influencing the foundation’s integrity and strength.To evaluate the degree of unloading relaxation,the long-short term memory(LSTM)network was used to estimate the depth of unloading relaxation zones on the left bank foundation of the Baihetan Arch Dam.Principal component analysis indicates that rock charac-teristics,the structural plane,the protection layer,lithology,and time are the main factors.The LSTM network results demonstrate the unloading relaxation characteristics of the left bank,and the relationships with the factors were also analyzed.The structural plane has the most significant influence on the distribution of unloading relaxation zones.Compared with massive basalt,the columnar jointed basalt experiences a more significant unloading relaxation phenomenon with a clear time effect,with the average unloading relaxation period being 50 d.The protection layer can effectively reduce the unloading relaxation depth by approximately 20%.

Conditional Random Field Tracking Model Based on a Visual Long Short Term Memory Network

In dense pedestrian tracking,frequent object occlusions and close distances between objects cause difficulty when accurately estimating object trajectories.In this study,a conditional random field tracking model is established by using a visual long short term memory network in the three-dimensional(3D)space and the motion estimations jointly performed on object trajectory segments.Object visual field information is added to the long short term memory network to improve the accuracy of the motion related object pair selection and motion estimation.To address the uncertainty of the length and interval of trajectory segments,a multimode long short term memory network is proposed for the object motion estimation.The tracking performance is evaluated using the PETS2009 dataset.The experimental results show that the proposed method achieves better performance than the tracking methods based on the independent motion estimation.

基于多源信息融合和WOA-CNN-LSTM的外脚手架隐患分类预警研究

面对施工现场外脚手架隐患信息的多样性,传统的基于传感器监测的单一信号预警研究存在容错力不佳、含有信息有限等问题。针对施工现场外脚手架“图像+监测”数据,提出一种基于数据层和特征层信息融合的脚手架隐患分类预警方法。首先,利用Revit三维建模软件建立外脚手架实体模型,对不同初始隐患下的外脚手架进行有限元分析,划分隐患预警等级;其次,利用无迹卡尔曼滤波算法(Unscented Kalman Filter,UKF)及卷积长短时记忆网络(Convolutional Neural Network-Long Short Term Memory Network,CNN-LSTM)实现脚手架同类信息数据层融合及异类信息特征层融合;最后,通过实时收集西安市某在建项目落地式双排扣件式钢管脚手架隐患信息,对其进行分类预警,并使用鲸鱼优化算法(Whale Optimization Algorithm,WOA)对CNN-LSTM网络进行参数优化,发现隐藏节点个数为30、学习率为0.0072、正则化系数为1×10^(-4)时分类效果最佳,优化后预警精度达到了91.4526%。通过可视化WOA-CNN-LSTM、CNN-LSTM、CNN-SVM(Support Vector Machine,支持向量机)及CNN-GRU(Gate Recurrent Unit,门控循环单元)分类预警结果,证实了优化后的CNN-LSTM网络在脚手架分类预警方面的优越性。

基于注意力机制的CNN-BiLSTM的IGBT剩余使用寿命预测

针对绝缘栅双极型晶体管(IGBT)可靠性问题,提出了一种融合卷积神经网络(CNN)、双向长短期记忆(BiLSTM)网络和注意力机制的剩余使用寿命(RUL)预测模型,可用于IGBT的寿命预测。模型中使用CNN提取特征参数,BiLSTM提取时序信息,注意力机制加权处理特征参数。使用IGBT加速老化数据集对提出的模型进行验证。结果表明,对比自回归差分移动平均(ARIMA)、长短期记忆(LSTM)、多层LSTM(Multi-LSTM)、 BiLSTM预测模型,在均方根误差和决定系数等评价指标方面该模型的性能最优。验证了提出的寿命预测模型对IGBT失效预测是有效的。

基于LSTM-SAFCN模型的生物质锅炉NO_(x)排放浓度预测

针对生物质锅炉燃烧过程的动态特性,提出一种改进的长短期记忆-自注意力机制全卷积神经网络(LSTM-SAFCN)模型用于预测NO_(x)排放浓度。首先利用完全自适应噪声集合经验模态分解法(CEEMDAN)对数据进行预处理,消除数据噪声对NO_(x)排放浓度预测的影响;其次融合自注意力机制与长短时记忆-全卷积神经网络(LSTM-FCN)进行特征提取与预测建模,该拓展方法能够同时兼顾时间序列数据的局部细节与长期趋势特征;最后,利用生物质热电联产系统的实际运行数据验证了所提算法的有效性。

基于CNN-LSTM和卷复制方法的高可用系统设计方法

针对单机服务器存在的单点故障问题,以及主备双机中存在的逻辑故障导致数据丢失的问题,设计了一种基于卷积和长短期记忆神经网络(CNN-LSTM)和卷复制方法的HA(High Availability)系统。系统至少包含两个节点,一个主节点以及一个或多个备用节点,主节点和备节点之间支持主备切换。每个服务器节点上包含4个模块,分别是负责接收配置信息与读写请求的代理模块;进行磁盘读写操作和重定向读写的磁盘I/O(输入输出)模块;负责主备节点间备份快照、映射表、数据块复制的卷复制模块以及基于CNN-LSTM进行状态检测的高可用模块。实验表明,该系统不仅可以解决单点故障问题,也可以解决主备双机集群中无法解决的逻辑错误问题;同时基于CNN-LSTM方法,自动针对服务器的运行健康状态进行分析和预测,可以根据预测结果自动通知管理员进行处理或自动进行主备切换。

基于多维可预知特征的TCN-LSTM城轨短期客流预测

地铁客流量波动受众多因素影响,准确的客流预测数据有利于制定更高效的行车控制方案和客流管控方案。为提高客流预测精度,提出一种基于多维可预知特征的时序卷积神经网络-长短期记忆神经网络模型(TCNLSTM)地铁短期客流预测方法。考虑外部因素的影响,引入Spearman相关系数分析并提取日期、天气等可预知特征及其状态集,以提升预测精度,缩小特征空间,克服了冗余特征数据导致的模型过于复杂问题;通过融合时序卷积神经网络(TCN)提取的客流时间序列特征和可预知特征状态集构建了长短期记忆神经网络(LSTM)层输入,组合模型学习客流与外部影响因素的长短期依赖,从而实现常规日、节假日、不同天气等多场景下的短期客流预测。基于某西南城市地铁刷卡交易数据,对比差分整合移动平均自回归模型(ARIMA)、TCN、LSTM及TCN-LSTM模型的短期客流预测结果,得出组合模型的总体平均绝对误差(MAE)值比其他方法低27%~48%,均方误差(MSE)值低13%~35%,平均绝对百分比误差(MAPE)值低2.8%~6.7%,上述3项指标均表明TCN-LSTM模型的客流预测效果更好。此外,对比实验表明通过融入提取的可预知特征数据,TCN-LSTM模型在测试集上的预测误差评价指标明显降低,所提方法能有效提高地铁短期客流预测精度。

组合模型对管道腐蚀速率预测的效能研究--基于注意力机制增强的CNN与LSTM模型

为评估卷积神经网络(Convolutional Neural Network,CNN)、长短期记忆(Long Short-Term Memory,LSTM)网络及结合的CNN-LSTM模型在管道腐蚀速率预测中的性能表现,特别引入注意力机制,以期提高模型对关键特征的捕捉能力和预测的准确性。分析影响管道腐蚀速率的环境因素作为模型输入,并通过注意力机制优化特征表示。结果表明,结合注意力机制的CNN-LSTM模型在准确性和可靠性上超越了单独的CNN或LSTM模型。这一结果不仅展示了深度学习模型通过技术增强了处理复杂数据的能力,也为实际工业应用中的时间序列预测提供了新的视角,同时证实了利用深度学习技术对管道腐蚀速率进行精确预测的可行性和有效性。

基于K均值聚类算法和LSTM神经网络的管道腐蚀阶段预测方法

针对声发射检测获得的管道腐蚀信号,提出了一种基于K均值(K-means)聚类算法和长短期记忆(LSTM)神经网络的管道腐蚀阶段预测方法。首先,利用K-means聚类算法将腐蚀信号分类,再构建LSTM神经网络模型,并采取了无监督学习的方式,以声发射波形为出发点,对模型进行参数优化,最后进行管道腐蚀阶段预测,并根据评价指标对模型进行评价。研究表明:对LSTM神经网络模型适当增加隐藏层,可以使得模型更加稳定,鲁棒性更好;与现有故障诊断模型相比,LSTM神经网络模型的精度更高。

基于VMD-SSA-LSTM的架空输电导线覆冰预测模型

针对输电导线覆冰过程间断性强且波动性大而导致的现有模型预测精度不高的问题,从覆冰厚度数据的时序信息和气象信息出发,提出一种基于变分模态分解(variational mode decomposition,VMD)的麻雀搜索算法(sparrow search algorithm,SSA)优化长短期记忆网络(long short-term memory network,LSTM)的覆冰组合预测模型.该方法首先使用VMD分解覆冰厚度数据,降低了原始序列的不稳定性,得到具有不同中心频率的本征模态分量;其次,采用SSA算法对LSTM中的3个参数进行寻优;最后,对模态分量分别建立LSTM预测模型,将各个模态分量的预测值叠加为覆冰厚度的总预测值.通过实例仿真,对所提预测模型进行验证.结果表明:VMD-SSA-LSTM组合模型与其他模型相比,其预测精度有进一步提高,验证了所提方法的有效性.

基于VMD-SSA-LSTM考虑刀具磨损的数控铣床切削功率预测模型研究

传统的切削过程功率获取需要基于复杂的切削功率模型且很少考虑刀具磨损的影响,针对此设计了一种基于变分模态分解(VMD)、麻雀搜索算法(SSA)、长短时记忆(LSTM)神经网络的考虑刀具磨损的数控铣床切削功率预测模型,该模型无需解构数控铣床运行过程的能耗机理,基于一次性的历史实验数据即可实现数控铣床切削过程功率的高精度预测。首先,采用人工智能机器视觉技术对刀具磨损图片进行分析处理,获取刀具磨损图像的数字化特征,从而得到刀具最大磨损量;然后,建立基于VMD-SSA-LSTM考虑刀具磨损的数控铣床切削功率预测模型,利用VMD对数控铣床运行数据进行分解,采用SSA算法对LSTM神经网络超参数进行寻优,并将分解出的铣床运行数据分量输入到LSTM神经网络中,接着将每个分量的预测值相加,得到切削功率预测值;最后以面铣加工为例,将所提出的预测模型与BP神经网络、LSTM神经网络和传统模型进行对比分析,验证了所提模型的有效性和优越性。

SBAS-InSAR技术融合CNN-LSTM模型的矿区开采沉陷监测与预测

针对传统矿区开采沉陷监测方法耗费人力财力和预测预警模型较少的问题,研究提出一种基于短基线集合成孔径雷达干涉测量(Small Baseline Subset-Interferometry Synthetic Aperture Radar,SBAS-InSAR)技术和卷积神经网络(Convolutional Neural Networks,CNN)与长短期记忆网络(Long Short-Term Memory,LSTM)相结合的矿区开采沉陷监测预测方法。首先,利用SBAS-InSAR技术对建新煤矿进行矿区开采沉陷监测,获取了该矿区的年平均沉降速率和累计沉降值。用GNSS监测数据与SBAS-InSAR结果进行对比验证,其拟合效果较好。其次,在此基础上利用CNN-LSTM模型预测后6期沉降数据,其结果与CNN和LSTM预测结果进行对比。研究显示,CNN-LSTM模型的平均绝对误差(S_(MAE))和均方根误差(S_(RMSE))比单一的CNN和LSTM分别至少降低了44.8%和40.6%,其决定系数均高于98%。最后,进一步预测前6期和中6期沉降数据,验证了CNN-LSTM预测模型在时间上的一致性。因此,SBAS-InSAR融合CNN-LSTM模型在类似矿山开采沉陷监测和预测中有较好的应用前景。

基于Transformer-LSTM的闽南语唇语识别

针对端到端句子级闽南语唇语识别的问题,提出一种基于Transformer和长短时记忆网络(LSTM)的编解码模型.编码器采用时空卷积神经网络及Transformer编码器用于提取唇读序列时空特征,解码器采用长短时记忆网络并结合交叉注意力机制用于文本序列预测.最后,在自建闽南语唇语数据集上进行实验.实验结果表明:模型能有效地提高唇语识别的准确率.

基于CNN-BiLSTM的油田注水流量预测

针对深度学习中的RNN(Recurrent Neural Networks)常用于时间序列预测,但其存在难以对历史序列进行特征提取、以及无法突出关键信息的影响且时间序列过长时早期信息易丢失等问题,提出一种基于双重注意力机制CNN(Convolutional Neural Networks)-BiLSTM(Bi-directional Long Short-Term Memory)的油田注水流量预测方法。该方法以油田历史注水数据为输入,利用CNN层提取历史注水数据特征,并引入特征注意力机制层,通过计算权重值的方式为特征赋予相应权重,使关键特征更容易得到较大权重,进而对预测结果产生影响;BiLSTM层对数据进行时序建模,并引入时间步注意力机制,通过选取关键时间步并突出该时间步的隐藏状态表达,使早期隐藏状态不会随时间消失,能提升模型对长时间序列的预测效果,最后完成流量预测。以公开数据集和中国南部某地区油田注水数据为算例,并与MLP(Multilayer Perceptron)、GRU(Gate Recurrent Unit)、LSTM(Long Short-Term Memory)、BiLSTM,CNN进行对比,证明该方法在油田注水流量预测中精度更高,可帮助油田制定生产计划、减少资源浪费以及提高注采率,具有一定的实际工程应用价值。

基于SDP和MCNN-LSTM的齿轮箱故障诊断方法

齿轮箱在长期使用过程中,不可避免地会产生齿轮故障和轴承故障,严重影响传动精度和设备运行安全。基于此,针对齿轮箱常见故障类型,研究多通道对称点图案(symmetrized dot pattern, SDP)数据处理方法,并利用最小能量误差法实现SDP关键参数的选取。结合多尺度卷积神经网络(multi-scale convolutional neural network, MCNN)的空间处理优势、长短时记忆网络(long short term memory, LSTM)的时间处理优势及其良好的抗噪性和鲁棒性,提出了一种基于SDP和MCNN-LSTM的齿轮箱故障诊断模型。同时利用东南大学齿轮箱数据集,验证了基于SDP和MCNN-LSTM的齿轮箱故障诊断方法对齿轮和轴承常见故障类型特征提取的有效性,并与现有其他故障诊断方法进行对比,结果表明了所提方法具有更高的精度。

基于改进鲸鱼算法优化LSTM的粮油温度预测

针对粮油温度预测问题,提出一种基于改进鲸鱼优化算法(IWOA)优化长短时记忆神经网络(LSTM)的粮油温度预测模型.针对传统WOA算法收敛速度慢和容易陷入局部最优等问题,提出了应用Logistic混沌映射、Levy飞行策略等方法来提升WOA算法的种群丰富度和搜索能力的方法.采用真实粮油温度值与多种模型预测值对比,IWOA-LSTM的MAE、RMSE比其他模型分别降低了13.64%~68.33%、6.06%~60.39%,R^(2)提高了1.65%~14.27%.结果表明,本文所提模型可以准确预测未来粮油温度变化趋势.

基于SARIMA‑LSTM模型的航空旅客运输市场需求分析与预测

市场需求预测是航空公司开展生产活动的前提,科学合理的预测结果能为航空公司降低成本、提高效益。首先,选取影响航空旅客运输市场需求的因素,并对其进行相关性分析;其次,采用季节性差分自回归移动平均(SARIMA)模型和长短期记忆(LSTM)网络模型,对航空旅客运输市场需求量进行特征分析,构建了基于SARIMA模型、LSTM网络模型的组合预测(SARIMA⁃LSTM)模型,提高市场需求时间序列预测的精度;最后,以北京市航空运输市场为例,分析结果显示,SARIMA⁃LSTM组合模型的预测准确性高于单一模型,对于市场需求的预测准确率较高。

基于注意力机制和CNN-LSTM融合模型的锂电池SOC预测

为提高锂电池荷电状态SOC(state-of-charge)预测精度,提出1种基于注意力机制和卷积神经网络-长短时记忆CNN-LSTM(convolution neural network-long short-term memory)融合模型的锂电池荷电状态预测方法。该模型采用一维CNN和LSTM神经网络学习得到SOC与锂电池放电数据的非线性关系,以及SOC序列存在的长期依赖性。同时,该模型采用“多对一”的结构,将当前时刻的锂电池SOC与多个历史时刻的放电数据建立映射关系,并通过注意力机制关注到对当前时刻SOC影响较大的历史放电数据,进一步提升SOC的预测准确度。动态工况下的锂电池SOC预测实验表明,该方法在不同温度条件下的平均预测误差为0.89%,与SVM、GRU和XGBoost相比,分别降低了81.2%、66.7%和56.5%,且优于未融合注意力机制的LSTM和CNN-LSTM,具有较高的预测精度和应用价值。

基于深度AttLSTM网络的脱硫过程建模

脱硫过程是具有高度动态非线性和较大延迟时间的复杂工业过程,为了解决烟气脱硫过程的建模问题,设计了注意力机制下的深度长短期记忆(attention mechanism-based long short-term memory,AttLSTM)网络,并基于该网络设计自动编码器,完成脱硫过程异常点的检测。该文首次提出使用AttLSTM网络自编码器对脱硫过程进行离群点检测,并且该网络模型同样首次应用于脱硫过程的辨识任务中。从更深的意义上讲,该文尝试使用深度学习模型对复杂系统进行辨识,所建立的AttLSTM网络之前未出现在系统辨识领域,该网络的出现可以丰富辨识模型的选择,同时为人工智能技术在系统辨识领域和控制领域的应用与推广提供参考。实验结果表明,相比于之前文献出现的脱硫过程建模方法,所提方法在不同性能指标上均具有更好的表现,由此可以证明深度AttLSTM网络在脱硫场景下的有效性。

基于Bi-TCN-LSTM的滚动轴承剩余使用寿命预测方法

由于时间卷积网络(temporal convolutional networks, TCN)感知场不足,轴承的关键退化信息常常被忽略,导致轴承剩余使用寿命(remaining useful life, RUL)预测结果不佳;而长短期记忆网络(long short-term memory, LSTM)随着数据量及序列长度的增加,长期依赖问题仍可能得不到很好解决。因此,课题组提出了一种基于双向时间卷积网络和长短期记忆(Bi-TCN-LSTM)的滚动轴承寿命预测方法。首先对多传感器数据进行归一化并做融合处理,然后采用Bi-TCN-LSTM进行数据特征提取与深度学习,其中对TCN模块引入卷积注意力机制(convolutional attention module, CAM),将LSTM的3个门简化为1个门,有效加快了预测模型学习的速度并提高了预测模型的精确度;采用IEEE PHM 2012轴承数据集作为实验数据集,进行了RUL预测实验。结果表明:与其他先进的预测模型相比,Bi-TCN-LSTM方法预测结果的误差相对较低,预测性能较好。