基于改进LSTMs模型的区域中长期气温预测方法研究

结合残差网络阶跃连接的优点,基于长短期记忆网络模型(LSTM)和双向长短期记忆网络模型(BiLSTM),提出了对区域中长期气温预测准确率较高的DeepLSTMs网络模型.利用主成分分析对哈尔滨2007-2018年逐时气象资料进行降维,得到温度预测的主要影响因素,对气象要素进行预处理和重构,并结合DeepLSTMs网络模型对哈尔滨市中长期气温进行了大量的预测实验.结果表明,利用DeepLSTMs网络模型对该地区中长期气温的预测精度高于比较所用方法.

基于CNN-LSTMs混合模型的人体行为识别方法

提出一种CNN-LSTMs混合深度学习模型,通过可穿戴式设备获取人体行为感知数据进行人体行为识别。该方法通过CNN网络对原始数据进行特征提取,利用LSTMs网络获取特征在时间轴上的依赖关系,并实现特征融合,最后送入softmax层进行分类。实验表明,该方法可有效识别日常生活中的六种常见动作。

基于LSTM网络的单台仪器地震烈度预测模型

烈度是地震预警系统的关键产出.如何实现快速预测目标场址的地震烈度是地震预警方法技术研究中的核心问题.本文提出了一种基于长短时记忆神经网络(Long Short-Term Memory,LSTM)的单台仪器地震烈度的预测模型(LSTM-Ⅰ).该模型以一个台站观测到地震动参数的时间序列特征为输入,实现动态预测该台站可能遭受的最大烈度.选取了日本K-NET台网记录的102次地震的5103条强震加速度记录训练了神经网络,利用89次地震的3781条数据检验了模型的泛化能力.利用准确率、漏报率以及误报率三个评价指标评价了LSTM-Ⅰ模型的性能.结果表明,当采用P波触发后3 s的序列进行预测时,模型出现漏报的概率为46.78%,出现误报的概率为1.25%;当采用P波触发后10 s的序列进行预测时,模型出现漏报的概率大幅降低到17.6%,出现误报的概率降低到1.14%.结果表明LSTM-Ⅰ模型很好把握住了时间序列中蕴含的特征.进一步基于LSTM-Ⅰ模型评估了Ⅵ度下台站所能提供的预警时间.本文模型能够提供的预警时间与P-S波到时差接近,说明LSTM-Ⅰ模型具有较高的时效性.

基于Bayes-LSTM的公路隧道围岩变形预测方法研究

在公路隧道施工过程中,围岩的稳定性对隧道施工的影响较大。因此公路隧道围岩变形的监控量测与准确预测是保障隧道施工安全的关键。针对当前隧道围岩变形的预测精度较低以及泛化能力较差等问题,该文提出一种基于贝叶斯(Bayes)优化长短期记忆网络(LSTM)的方法,该方法首先对拱顶沉降和周边收敛的原始监测数据进行预处理,而后构建公路隧道拱顶沉降与周边收敛的初始LSTM模型,并利用Bayes优化模型中的超参数,最终得出预测结果。利用该模型对某公路隧道拱顶沉降和周边收敛进行预测,将预测结果以均方根误差为评价指标与神经网络(CNN)和支持向量回归(SVR)进行对比。预测拱顶沉降时,Bayes-LSTM模型的平均预测精度相较于CNN与SVR模型分别提高了1.0与1.26;预测周边收敛时,Bayes-LSTM模型平均精度相较于CNN与SVR分别提高了0.3与0.32。表明Bayes-LSTM模型的预测精度较高,同时其能在训练模型过程中对历史信息进行判断和取舍,极大地提高了时序数据处理的效率,为公路隧道围岩变形预测提供了新的思路和探索。

10 kV电缆接头局部放电趋势分析及预警方法研究

电缆接头是局部放电频发的位置,针对目前对局部放电趋势研究的不足和预警不及时的问题,提出了一种基于Mann-Kendall检验法和长短期神经网络(LSTM)的局部放电的趋势分析和预警方法。为了清晰地揭示局部放电数据的趋势特征,文中采用Mann-Kendall检验法对采集的暂态地电压(TEV)数据进行处理,定量计算趋势变化及突变点检测。文中提出基于Mann-Kendall检验法和LSTM算法的综合预警模型,该模型利用LSTM预测TEV序列幅值,并用Mann-Kendall计算预测值的趋势参数,通过综合考虑TEV幅值大小和趋势参数实现了电缆接头局部放电主动预警。算例结果表明,Mann-Kendall能清晰揭示局部放电变化趋势,LSTM对局部放电数据预测效果良好,基于二者构建的预警模型能较好地对局部放电进行预警。

基于HHO优化的时空水质预测模型

我国水资源现状不容乐观,提高水质预测模型精度对水资源质量监测具有重要意义。为捕捉水质指标时序数据非线性变化趋势,水质指标多基于神经网络模型进行预测。但是现有模型忽略了河流流向,没有考虑上游监测点水质对下游水质的影响;同时现有模型多基于启发式优化算法中的粒子群算法调整神经网络的超参数,但该优化算法仍需设置较多超参数,而参数选取不当容易使模型陷入局部最优。为此,建立了时空水质预测模型(WT‐CNN‐LSTM‐HHO),利用哈里斯鹰优化算法(HHO),基于上游水质数据预测下游的氮、磷和溶解氧水质指标。实验结果显示,本文所提出的模型对水质预测性能有明显提升,可以实现设置较少超参数而达到较高的水质预测精度。

基于CNN-LSTM的大坝变形组合预测模型研究

为了提高大坝变形预测模型精度和泛化能力,建立了一种基于卷积神经网络(Convolutional neural networks,CNN)与深度学习长短期记忆(Long short-term memory,LSTM)神经网络的组合预测模型CNN-LSTM。该模型先利用CNN提取大坝变形监测时间序列的特征,再利用LSTM生成特征描述,该模型精度高、泛化能力强。以柏叶口水库混凝土面板堆石坝为例,经过CNN-LSTM模型计算,将模型变形预测值与原型监测资料进行对比,再与LSTM模型及CNN模型的预测结果进行对比。结果表明,CNN-LSTM模型预测值最接近监测资料实测结果。

老采空区地表沉降预测合理监测模式分析

为研究老采空区沉降监测数据时间间隔对预测精度的影响,本文利用某老采空区地表沉降监测点实测沉降数据,在等时间间隔、非等时间间隔两种情况下建立两种方案、六种沉降预测模式,采用长短期记忆神经网络(LSTM)预测模型对老采空区地表沉降进行预测,以平均绝对误差(MAE)和平均绝对百分比误差(MAPE)作为评价指标,分析不同时间间隔监测数据对预测精度的影响。结果表明,在总监测时长不变的情况下,预测精度随平均监测间隔时长的增长呈先增高后降低的趋势,即并非监测间隔越短,预测精度越高,而是在相应监测间隔范围内存在预测精度最优值。研究成果可为老采空区监测方案设计及沉降预测模式提供借鉴和指导。

基于融合注意力机制LSTM网络的地下水位自适应鲁棒预测

地下水水位是旱天污水管网地下水入渗量的重要影响因素,快速精准地预测地下水水位能有效提升旱天污水管网地下水入渗量估算准确度,辅助优化管网病害治理与维护策略。针对目前城市复杂水文预测存在的准确度低、灵敏度低、泛化能力弱等问题,本文提出了一种新的鲁棒自适应水位预测算法。首先,对水文数据进行预处理,解决了数据时间跨度大、噪声多、缺失及异常、非平稳等问题。其次,针对不同输入特征对预测指标的影响,在模型训练阶段提出一种新的空间变量注意机制,可快速识别与水位关联的关键变量,并对输入特征赋予不同的影响权重。然后,针对不同序列长度对预测效果的影响,还设计了自适应时间注意力机制,帮助网络自适应地找出与不同时间序列长度预测指标相关的编码器隐藏状态,以更好地捕捉时间上的依赖关系。在此基础上,以上下文向量作为输入,提出一种融合注意力机制的长短时记忆网络水文预测算法。最后,通过意大利Petrignano水文数据验证了所提算法的有效性,并与GRU、Elman、LSTM、VA–LSTM和S–LSTM等方法进行预测性能比较。结果表明,基于融合注意力机制的LSTM网络在面临大规模、噪点多的复杂数据时有优于其它几种算法的预测效果,表明该算法具有强自适应性和鲁棒性。本文研究结果可以为市政排水策略合理调整、及时控制提供参考。

面向喷染车间的挥发性有机物质量浓度预测方法及应用研究

以喷染车间挥发性有机物为研究对象,对喷染车间挥发性有机物(Volatile Organic Compounds, VOCs)质量浓度预测方法进行研究。首先,使用随机森林(Random Forest, RF)算法对影响喷染车间挥发性有机物质量浓度的特征变量进行权重分析。同时,构建基于长短期记忆神经网络(Long-Term and Short-Term Memory Neural Network, LSTM)的挥发性有机物质量浓度预测模型,并在此基础上引入麻雀搜索算法(Sparrow Search Algorithm, SSA)进行参数优化选择。最后,以浙江省杭州市某汽车喷染车间7月29日—10月28日的数据为样本,将温度、相对湿度、室内大气压、室外大气压作为模型输入变量,并与LSTM模型、随机森林-长短期记忆神经网络(Random Forest-Long Short-Term Memory neural network, RF-LSTM)模型、随机森林-反向传播神经网络(Random Forest-BP neural network, RF-BP)模型进行对比试验。结果显示,基于随机森林-麻雀搜索算法-长短期记忆神经网络(Random Forest-Sparrow Search Algorithm-Long Short-Term Memory neural network, RF-SSA-LSTM)模型的预测效果最佳,平均绝对误差、均方根误差和决定系数分别为2.812 2、3.457 4、0.988。同时,为验证RF-SSA-LSTM模型性能,通过不同时间步长实现对喷染车间VOCs质量浓度预测,结果显示预测误差较小,在可接受范围内。RF-SSA-LSTM预测模型提高了挥发性有机物质量浓度的预测精度,为减少挥发性有机物排放提供科学依据。

基于深度强化学习的工业网络入侵检测研究

为了有效识别工业网络环境中由多条异常数据共同组合的新型攻击,提出了一种基于深度强化学习的融合模型DQN-LSTM.该模型将流量数据的空间特征和时序特征相结合,展开异常检测.在公开的工控网络天然气工厂数据集上进行实验,DQN-LSTM模型在准确率和F1值上与SVM、CNN、LSTM、DQN等方法相比,本文模型的综合性能更好.

基于多模型融合的中长期径流集成预测方法

中长期水文预报是流域水资源规划与合理配置的重要依据。为提高中长期径流预测精度,提出了一种基于多模型融合的水库中长期径流集成预测方法。该方法将ARMA、BP、LSTM、RF和SVR等5个异质预测模型进行融合,同时采用超参数优化方法确定各模型的最优参数。将其用于青海省龙羊峡水库的中长期径流预报中,结果表明,通过Stacking融合算法建立的集成预测模型相较于单一模型,取得了更高的预测精度(R2值由0.71提升至0.82)。此方法可为提升流域中长期径流预测精度提供一定参考。

青少年篮球训练运动中关节损伤预警模型

为准确预警青少年在篮球训练中的关节损伤,构建了青少年篮球训练运动中关节损伤预警模型。使用基于独立成分分析和经验模态分解的关节受力信号去噪方法,保留有效信号,在CNN网络中提取关节受力特征后,输入LSTM网络识别关节受力信号的损伤级别后通过蜂鸣器预警。结果显示:所构建模型对青少年篮球训练运动中关节损伤级别识别结果符合实际,预警错误次数为0次,预警结果具有可信度。

基于注意力机制的CNN-BiLSTM的IGBT剩余使用寿命预测

针对绝缘栅双极型晶体管(IGBT)可靠性问题,提出了一种融合卷积神经网络(CNN)、双向长短期记忆(BiLSTM)网络和注意力机制的剩余使用寿命(RUL)预测模型,可用于IGBT的寿命预测。模型中使用CNN提取特征参数,BiLSTM提取时序信息,注意力机制加权处理特征参数。使用IGBT加速老化数据集对提出的模型进行验证。结果表明,对比自回归差分移动平均(ARIMA)、长短期记忆(LSTM)、多层LSTM(Multi-LSTM)、 BiLSTM预测模型,在均方根误差和决定系数等评价指标方面该模型的性能最优。验证了提出的寿命预测模型对IGBT失效预测是有效的。

基于灰色多元变权组合预测模型对山东省海水养殖产量预测

为了进一步提高海水养殖产量预测精度,考虑多因素对海水养殖产量的影响,文章基于变权组合预测模型,充分结合长短期记忆(Long Short-Term Memory,LSTM)神经网络预测模型、GM(1,N)预测模型和偏最小二乘回归预测模型等传统统计预测模型的优点,构建出一种基于灰色多元变权组合预测模型,并对山东省海水养殖总产量和分类产量进行了预测。实证结果显示,基于灰色多元变权组合预测模型对山东省海水养殖产量的预测精度高达99.13%,预测精度显著优于LSTM神经网络等各单项模型,并能综合于LSTM神经网络、GM(1,N)预测模型和偏最小二乘回归预测模型的优点,弥补各单项模型的不足,提高预测精度和可靠性。根据预测结果,到2025年山东省海水养殖产量仍将保持良好发展,海水养殖产量将达到579.28×10^(5)t,平均增长速度为3.11%,而鱼类、甲壳类、贝类、藻类以及海参海水养殖产量将分别达到6.27×10^(5)、26.27×10^(5)、445.83×10^(5)、68.65×10^(5)和9.5×10^(5)t。

Prophet-LSTM组合模型在运输航空征候预测中的应用

为准确预测中国运输航空征候万时率,提出了一种将时间序列模型和神经网络模型组合的预测方法。首先,利用2008年1月—2020年12月的运输航空征候万时率数据建立Prophet模型,使用RStudio软件进行模型拟合,获取运输航空征候万时率的线性部分;其次,利用长短期记忆网络(Long Short-Term Memory,LSTM)建模,获取运输航空征候万时率的非线性部分;最后,利用方差倒数法建立Prophet-LSTM组合模型,使用建立的组合模型对2021年1—12月运输航空征候万时率进行预测,将预测结果与实际值进行对比验证。结果表明,Prophet-LSTM组合模型的EMA、EMAP、ERMS分别为0.0973、16.1285%、0.1287。相较于已有的自回归移动平均(Auto Regression Integrated Moving Average,ARIMA)+反向传播神经网络(Back Propagation Neural Network,BPNN)组合模型和GM(1,1)+ARIMA+LSTM组合模型,Prophet-LSTM组合模型的EMA、EMAP、ERMS分别减小了0.0259、10.4874百分点、0.0143和0.0128、2.0599百分点、0.0086,验证了Prophet-LSTM组合模型的预测精度更高,性能更优良。

基于GPR-LSTM的地震热红外背景场的构建方法

地震监测是一项非常重要且具有挑战性的任务,遥感技术的不断发展加强了在宏观尺度上对地球表面的监测能力。研究表明,地震前通常都会出现地表温度异常升高的现象,因此各种异常提取算法被应用于地震热异常研究中。其中,基于背景场的提取方法由于具有较强的机理解释性而受到广泛应用。然而,以往基于背景场的异常提取方法更多将背景场限定于某一固定阈值,忽略了受外界因素(非震)影响导致的地表温度的小范围正常波动。据此,文中提出了一种基于GPR-LSTM的地震热红外背景场的构建方法。该方法包括两大部分:震期年变基准场的建立、实际LST的残差波动范围计算及背景场的构建。基于MODIS地表温度产品,以2008年四川汶川和新疆于田地震为研究对象,使用所述方法对地震前兆热异常信息进行提取与分析,经过实验得出以下结论:1)地震热异常通常沿青藏高原的断层分布,这不仅证明了文中方法能够减弱地表温度数据中噪声的干扰,同时也证明该方法在热异常信息提取方面的有效性;2)地震年份的构造活动比非地震年份更加活跃,导致地表温度的异常增温更加明显;3)不同地震案例震前的热异常时空特征各不相同。

基于随机森林和长短期记忆网络模型的高压气井环空带压预测方法

高压气井在生产过程中持续的环空带压容易引起套管柱变形或挤毁,是高压气井完整性失效的主要原因之一。为解决传统方法环空带压预测精度不高的问题,以鄂尔多斯盆地苏里格气田某高压气井为例,首先利用主成分分析法和相关系数法找到影响环空带压的主要因素,然后使用高压气井井筒温压场理论值和孤立森林模型对主成分进行物理解释和数据清洗,再对清洗后的数据使用随机森林(RF)和长短期记忆网络(LSTM)模型建立了环空带压定量预测模型,并对两类模型进行权重组合,最终建立了精确度高于任意单一模型的RF—LSTM组合环空带压预测新模型。研究结果表明:(1)环空带压的主要影响因子有温度分量、压力分量、产量分量、腐蚀程度、生产状态,而温度分量与环空带压间存在最高关联性;(2)通过错误格式、离群点及基于井筒温压场的数据清洗,可以得到数据清洗后的环空带压影响因素训练集;(3)通过平均绝对误差法(MAE)能够建立误差分数小于任意单一模型,而拟合优度介于两者之间的组合模型,因此可以将具有高拟合优度和低误差分数的两类模型结合,从而组合出同时满足两种分数的组合模型。结论认为:(1)运用大数据挖掘技术及算法进行环空带压定量预测,方法新颖,预测精度高,结果可行;(2)该方法为现场环空带压预测和风险管控提供了决策工具参考,为实现环空带压风险实时预测、预警和管控提供了理论支撑。

基于CNN-LSTM的水泥熟料f-CaO预测模型

水泥熟料中游离氧化钙(f-CaO)含量的传统人工离线检测缺乏时效性,不利于生产指导。针对离线检测的滞后问题和软测量模型中f-CaO含量与辅助变量的时序匹配问题,提出了一种基于卷积神经网络(convolutional neural network,CNN)和长短时记忆(long short-term memory,LSTM)神经网络的f-CaO含量预测模型。首先,利用滑动窗口截取辅助变量的区间数据;然后,采用CNN提取区间数据的时序特征;之后,构建LSTM神经网络模型;最后,控制截取辅助变量的延迟时间和间隔时间,根据模型预测拟合度提取辅助变量的最优时序特征。仿真结果表明,所提模型提高了水泥熟料中f-CaO含量的预测精度。

深度学习代理模型的消防传感系统优化方法

传感器合理布置显著影响消防监测系统的实际效用。为确保火灾预警及特性识别效率,建立了一套基于深度学习代理模型的消防监测传感系统优化方法。通过建立火灾仿真模型获取多场景模拟数据,利用深度学习技术学习火场演绎规律,结合不同数据设定下的实验量化模型的识别准确率、查准率、查全率和F1-score,从空间布局和采集频率、探测时间角度对整体监测系统进行了优化。结果表明,优化后的传感系统可在满足火灾特征识别准确率的前提下,显著减少传感器数量及数据采集成本。该解决思路可推广应用于不同建筑场景,为消防监测系统设计提供决策支持,研究成果有利于智慧消防和智慧建筑发展。