Estimation of unloading relaxation depth of Baihetan Arch Dam foundation using long-short term memory network

The unloading relaxation caused by excavation for construction of high arch dams is an important factor influencing the foundation’s integrity and strength.To evaluate the degree of unloading relaxation,the long-short term memory(LSTM)network was used to estimate the depth of unloading relaxation zones on the left bank foundation of the Baihetan Arch Dam.Principal component analysis indicates that rock charac-teristics,the structural plane,the protection layer,lithology,and time are the main factors.The LSTM network results demonstrate the unloading relaxation characteristics of the left bank,and the relationships with the factors were also analyzed.The structural plane has the most significant influence on the distribution of unloading relaxation zones.Compared with massive basalt,the columnar jointed basalt experiences a more significant unloading relaxation phenomenon with a clear time effect,with the average unloading relaxation period being 50 d.The protection layer can effectively reduce the unloading relaxation depth by approximately 20%.

基于BERT-BiLSTM-CRF模型的畜禽疫病文本分词研究

针对畜禽疫病文本语料匮乏、文本内包含大量疫病名称及短语等未登录词问题,提出了一种结合词典匹配的BERT-BiLSTM-CRF畜禽疫病文本分词模型。以羊疫病为研究对象,构建了常见疫病文本数据集,将其与通用语料PKU结合,利用BERT(Bidirectional encoder representation from transformers)预训练语言模型进行文本向量化表示;通过双向长短时记忆网络(Bidirectional long short-term memory network,BiLSTM)获取上下文语义特征;由条件随机场(Conditional random field,CRF)输出全局最优标签序列。基于此,在CRF层后加入畜禽疫病领域词典进行分词匹配修正,减少在分词过程中出现的疫病名称及短语等造成的歧义切分,进一步提高了分词准确率。实验结果表明,结合词典匹配的BERT-BiLSTM-CRF模型在羊常见疫病文本数据集上的F1值为96.38%,与jieba分词器、BiLSTM-Softmax模型、BiLSTM-CRF模型、未结合词典匹配的本文模型相比,分别提升11.01、10.62、8.3、0.72个百分点,验证了方法的有效性。与单一语料相比,通用语料PKU和羊常见疫病文本数据集结合的混合语料,能够同时对畜禽疫病专业术语及疫病文本中常用词进行准确切分,在通用语料及疫病文本数据集上F1值都达到95%以上,具有较好的模型泛化能力。该方法可用于畜禽疫病文本分词。

基于BiLSTM-XGBoost混合模型的储层岩性识别

储层岩性分类是地质研究基础,基于数据驱动的机器学习模型虽然能较好地识别储层岩性,但由于测井数据是特殊的序列数据,模型很难有效提取数据的空间相关性,造成模型对储层识别仍存在不足.针对此问题,本文结合双向长短期循环神经网络(bidirectional long short-term memory,BiLSTM)和极端梯度提升决策树(extreme gradient boosting decision tree,XGBoost),提出双向记忆极端梯度提升(BiLSTM-XGBoost,BiXGB)模型预测储层岩性.该模型在传统XGBoost基础上融入了BiLSTM,大大增强了模型对测井数据的特征提取能力.BiXGB模型使用BiLSTM对测井数据进行特征提取,将提取到的特征传递给XGBoost分类模型进行训练和预测.将BiXGB模型应用于储层岩性数据集时,模型预测的总体精度达到了91%.为了进一步验证模型的准确性和稳定性,将模型应用于UCI公开的Occupancy序列数据集,结果显示模型的预测总体精度也高达93%.相较于其他机器学习模型,BiXGB模型能准确地对序列数据进行分类,提高了储层岩性的识别精度,满足了油气勘探的实际需要,为储层岩性识别提供了新的方法.

基于VMD-BiLSTM-WOA的短期风电功率预测

风力发电对于解决全球能源短缺问题有重要意义,准确预测风电功率有助于风电并网的合理调度和可靠的电网运行.文章提出了一种基于变分模态分解(Variational Mode Decomposition, VMD)、双向长短期记忆网络(Bidirectional Long Short-term Memory Network, BiLSTM)以及鲸鱼优化算法(Whale Optimization Algorithm, WOA)的混合深度学习模型,以用于短期风电功率预测.首先,VMD将原始风电功率分解为多个子模态,有效减少了序列的波动性;然后对每个子模态分别建立BiLSTM模型,使用WOA对BiLSTM中的参数进行优化,以提高混合模型的效率和预测性能;最后将各个子模型的结果叠加得到最终预测结果.在实验中通过建立不同的比较模型来说明改进策略的有效性和优越性,结果表明所提的混合模型在风电功率预测中具有较高的预测精度.

基于Bo-BiLSTM网络的IGBT老化失效预测方法

针对绝缘栅双极型晶体管(IGBT)受热应力冲击后对其进行老化失效预测精度不高的情况,提出一种基于贝叶斯优化(Bo)-双向长短期记忆(BiLSTM)网络的IGBT老化失效预测方法。首先分析IGBT模块老化失效原理,然后基于NASA老化实验数据集建立失效特征数据库,最后利用Matlab软件构造Bo-BiLSTM网络预测失效特征参数数据。选取常用回归预测性能评估指标将长短期记忆(LSTM)网络模型、BiLSTM网络模型与Bo-BiLSTM网络模型的预测结果进行对比分析。结果表明,Bo-BiLSTM网络的模型拟合精度更高,基于Bo-BiLSTM网络的IGBT老化失效预测方法具有较好的预测效果,能够应用于IGBT的失效预测。

基于自注意力机制和改进的K-BiLSTM的水产养殖水体溶解氧含量预测模型

为精确预测水产养殖水体溶解氧含量,本研究提出一种基于自注意力机制(ATTN)和改进的K-means聚类-基于残差和批标准化(BN)的双向长短期记忆网络(BiLSTM)的水产养殖水体溶解氧含量预测模型。首先,根据环境数据的相似性,使用改进的K-means算法将数据划分成若干个类别;然后,在BiLSTM基础上构建残差连接和加入BN完成高层次特征提取,利用BiLSTM的长期记忆能力保存特征信息;最后,引入自注意力机制突出不同时间节点数据特征的重要性,进一步提升模型的性能。试验结果表明,本研究提出的基于自注意力机制和改进的K-BiLSTM模型的平均绝对误差为0.238、均方根误差为0.322、平均绝对百分比误差为0.035,与单一的BP模型、CNN-LSTM模型、传统的K-means-基于残差和BN的BiLSTM-ATTN等模型相比具有更优的预测性能和泛化能力。

GNSS拒止时基于并行CNN-BiLSTM回归和残差补偿的UAV导航误差校正方法

全球导航卫星系统(GNSS)拒止时,GNSS/惯性导航系统(INS)组合导航系统的性能严重下降,导致无人机集群导航误差快速发散.目前,利用神经网络预测位置与速度代替GNSS导航信息可校正无人机INS误差,但该方法仍存在定位误差较高且在轨迹突变时预测精度急剧下降的问题.因此,提出了一种基于卷积-双向长短时记忆网络联合残差补偿的位置与速度预测方法,用于提高位置与速度预测精度.首先,针对GNSS拒止后GNSS/INS组合导航系统定位误差较高的问题,提出卷积神经网络(CNN)与双向长短时记忆网络(BiLSTM)的融合模型,该模型可建立惯性测量单元(IMU)动力学测量数据与GNSS导航信息之间的关系,实现较准确的位置和速度预测.其次,针对轨迹突变时预测效果急剧下降的问题,提出并行CNNBiLSTM回归架构,在预测位置与速度的同时,挖掘IMU动力学测量数据、预测值与预测残差之间的关系,预测并补偿预测残差,增强模型在轨迹突变时的预测精度.仿真结果表明,所提模型在预测准确性、有效性和稳定性方面都优于CNN-LSTM、LSTM网络模型.

基于双流CNN-BiLSTM的毫米波雷达人体动作识别方法

目前基于雷达的人体动作识别方法,大多是先对人体动作的回波信号进行多维快速傅里叶变换(FFT)得到距离、多普勒和角度等信息,构造各种数据谱图后再输入到神经网络中进行分类识别,数据预处理过程较为复杂。提出了一种双流卷积神经网络(CNN)与双向长短时记忆网络(BiLSTM)串联的毫米波雷达人体动作识别方法。首先对原始的雷达回波信号复数采样数据(I/Q)进行帧差处理,以消除静态干扰,并将其转换为幅度/相位(A/P)的数据格式;然后将帧差后的I/Q和A/P数据分别输入单流的CNN-BiLSTM网络,提取人体动作的空间和时间特征,最后进行双流网络的融合以增强特征的交互性,提高识别准确率。实验结果表明,该方法数据预处理简单,并充分利用了动作数据的帧间相关性,模型收敛快,识别准确率可以达到99%,是一种快速有效的人体动作识别方法。

基于VMD-FE-CNN-BiLSTM的短期光伏发电功率预测

为提高光伏功率的预测精度,提出一种变分模态分解(VMD)、模糊熵(FE)、卷积神经网络(CNN)和双向长短期记忆神经网络(BiLSTM)的光伏功率组合预测模型。该方法首先采用VMD将原始光伏序列数据分解成多个子序列,从而减少随机波动分量和噪声干扰对预测模型的影响,通过FE对每个子序列进行重组,使用一维CNN的局部连接及权值共享提取不同分量的特征,将CNN输出的特征融合并输入到BiLSTM模型中;利用BiLSTM模型建立历史数据之间的时间特征关系,得到光伏发电功率预测结果。与BiLSTM、CNN-BiLSTM、EEMD-CNN-BiLSTM、VMD-CNN-BiLSTM这4种模型进行比较,该文提出的VMD-FE-CNN-BiLSTM模型在光伏发电功率预测中具有较高的精确度和稳定性,满足光伏发电短期预测的要求。

融合CNN与BiLSTM模型的短期电能负荷预测

针对卷积神经网络(CNN)在捕捉预测序列间历史相关性方面的不足以及在变量复杂情况下出现的无法精准提取预测关键信息的问题,提出一种将双向长短期记忆网络(BiLSTM)与卷积神经网络结合的CNN-BiLSTM模型.首先,采用数据预处理方法保证数据的正确性和完整性,并对数据进行分析以探究多变量之间的相关性;其次,通过CNN与L1正则化对多维输入特征进行特征筛选,选取与预测相关的重要性特征向量;最后,使用BiLSTM对CNN输出的关键特征信息进行保存,形成向量与预测序列,并通过分析时序特征的潜在特点,提取用户的内在消费模式.实验比较了该模型与其他时序模型在不同时间分辨率下的预测效果,实验结果表明,CNN-BiLSTM模型在不同的回望时间间隔下表现出了最佳的预测性能,能够实现更好的短期负荷预测.

基于TCN-BiLSTM-Attention-ESN的光伏功率预测

针对光伏发电功率随机性强、难以准确预测的问题,提出一种基于时间卷积网络(TCN)、双向长短期记忆网络(BiLSTM)和回声状态网络(ESN)的组合预测方法。首先,使用自适应噪声完备集合经验模态分解(CEEMDAN)将功率数据分解为一系列相对平稳、不同波动模式的子功率序列;再将分解重构后的功率序列和其他特征序列输入到TCN-BiLSTM-Attention-ESN组合模型中,其中TCN-BiLSTM-Attention用于提取光伏序列波动特征并构建时空特征向量;最后,将所提取的时空特征向量输入ESN获得预测结果。采用新疆某光伏电站的光伏功率数据进行验证,结果表明与时下先进的预测方法相比,所提方法具有更高的预测精度,有助于提升光伏发电占比,保障电力系统平衡和运行安全。

基于BERT+CNN_BiLSTM的列控车载设备故障诊断

列控车载设备作为列车运行控制系统核心设备,在高速列车运行过程中发挥着重要作用。目前,其故障诊断仅依赖于现场作业人员经验,诊断效率相对较低。为了实现列控车载设备故障自动诊断并提高诊断效率,提出了BERT+CNN_BiLSTM故障诊断模型。首先,使用来自变换器的双向编码器表征量(Bidirectional encoder representations from transformers,BERT)模型将应用事件日志(Application event log,AElog)转换为计算机能够识别的可以挖掘语义信息的文本向量表示。其次,分别利用卷积神经网络(Convolutional neural network,CNN)和双向长短时记忆网络(Bidirectional long short-term memory,BiLSTM)提取故障特征并进行组合,从而增强空间和时序能力。最后,利用Softmax实现列控车载设备的故障分类与诊断。实验中,选取一列实际运行的列车为研究对象,以运行过程中产生的AElog日志作为实验数据来验证BERT+CNN_BiLSTM模型的性能。与传统机器学习算法、BERT+BiLSTM模型和BERT+CNN模型相比,BERT+CNN_BiLSTM模型的准确率、召回率和F1分别为92.27%、91.03%和91.64%,表明该模型在高速列车控制系统故障诊断中性能优良。

基于自适应噪声完全集合经验模态分解与BiLSTM-Transformer的锂离子电池剩余使用寿命预测

锂离子电池剩余使用寿命(remaining useful life,RUL)是使用者十分关心的问题,其涉及电池的更换时间和安全。针对锂离子电池的电容量非线性变化趋势,提出了一种基于自适应噪声完全集合经验模态分解与双向长短期记忆网络-Transformer的锂离子电池剩余使用寿命预测方法。首先,利用自适应噪声完全集合经验模态分解方法对锂离子电池电容量数据进行分解。其次,使用串联的双向长短期记忆神经网络和Transformer网络对分解后得到的残差序列和本征模态分量序列进行建模预测。最后,将预测的若干本征模态分量序列和残差序列进行求和,并对求和之后的最终预测数据与原始数据进行RUL预测。采用NASA公开的电池数据集对所提方法进行验证,结果表明,所提方法的平均绝对误差、均方根误差、平均绝对百分比误差和绝对误差控制分别控制在0.0173、0.0231、1.2084%和3个循环周期以内,能够有效地提高锂离子电池RUL的预测精度。

基于RF-BiLSTM模型的河流水质预测

水环境中过量的氮、磷和高锰酸盐会对流域造成严重污染,准确预测这三类指标的含量对流域污染治理具有重要意义。然而,现有的模型预测精度低,输入因子的选择缺乏数理依据。基于此,以邕江为研究区域,提出一种RF-BiLSTM的混合网络模型。该模型具有利用RF算法提取水质指标最优特征和利用BiLSTM模型提取输入数据的时间特征的优势,采用先降维后预测的方式对TN、TP和COD Mn进行预测,并将深度学习中的CNN、LSTM、BiLSTM和RF-LSTM作为基准模型与本研究所提模型作对比研究。研究结果表明,本研究模型预测TN、TP和COD Mn的平均绝对百分比误差(MAPE)分别达到了4.330%、6.781%和7.384%,均低于其他基准模型,预测结果具有较高的准确性和实用性,可为水环境的污染治理提供有效的技术支持。

基于SSA-CNN-BiLSTM的航班延误预测

为了提高对机场航班延误时间的准确性,对预测模型进行了研究。采用麻雀搜索算法(SSA),结合卷积神经网络(CNN)和双向长短时记忆网络(BiLSTM),提出了一种基于SSA-CNN-BiLSTM的航班延误预测模型。使用美国亚特兰大机场的实际运行数据进行了验证,与BiLSTM,CNN-LSTM等基准模型进行了比较试验,并加入流量和时间双特征数据集验证模型性能。结果表明,SSA-CNN-BiLSTM模型在评价指标上表现最优,其平均绝对误差(MAE)为5.15,均方根误差(RMSE)为7.58,预测精度优于基准模型,具有良好的多特征处理能力。

基于经验模态分解和优化BiLSTM的短期负荷预测

针对电力负荷数据的非线性和不稳定性问题,提出了一种基于经验模态分解改进麻雀搜索算法双向长短期记忆神经网络相结合的EMD ISSA BiLSTM预测模型。首先采用EMD处理非线性负荷数据,将原始负荷数据分解为多个不同尺度的本征模态函数(IMF),引入反向学习策略和Levy飞行策略分别改进麻雀搜索算法(SSA)的收敛速度慢和容易陷入局部最优问题,利用改进麻雀搜索算法(ISSA)对BiLSTM神经网络进行参数寻优。然后再利用优化后的BiLSTM模型对每个分量进行预测,并将各预测结果叠加组合,得到整个负荷序列的预测结果。最后通过实际算例分析,证明该方法相对于传统的预测方法具有更好的预测精度和稳定性,可作为一种有效的短期负荷预测方法。

基于优化VMD-CNN-BiLSTM的电机轴承智能故障诊断研究

针对滚动轴承早期故障信号较弱及特征数据提取效果差,导致故障诊断准确率低以及故障诊断效率低的问题,提出一种信号处理结合深度神经网络的故障诊断方法。首先,采用变分模态分解(VMD)法提取主轴承振动数据中的特征数据;然后为了确定VMD算法中最佳的模态分量个数K及惩罚参数α,增强特征提取的效果,将最小排列熵作为适应度函数,采用全局优化能力强的正弦混沌自适应鲸鱼优化算法(CAWOA)进行参数的确定,得到最优模态分量;接着,根据最优模态分量构造特征向量,将特征向量作为CNN-BiLSTM网络的输入,实现故障的分类。最后,根据实验平台采集的数据进行实验分析。结果表明,优化VMD-CNN-BiLSTM轴承故障诊断模型相较于其他故障诊断模型,在准确率以及实时性上均有明显提升。

基于时序分析及CNN-BiLSTM-AM的阶跃型滑坡位移预测

传统基于递归神经网络的模型对阶跃型滑坡位移预测能力不足,为解决这一问题,提出一种基于时序分析及卷积神经网络-双向长短期记忆-注意力机制(CNN-BiLSTM-AM)的滑坡位移动态预测模型。首先使用变分模态分解方法(VMD)将序列分解为趋势项、周期项和随机项。采用二次指数平滑法拟合趋势项位移,然后引入最大互信息系数法(MIC)计算各类影响因子与周期项位移相关性,对于周期项和随机项位移采用CNN-BiLSTM-AM混合模型进行多因素和单因素预测,最终累加各分量预测值得到累积位移预测结果。实验结果表明,所提方法在最终累计位移预测结果中拟合系数R~2达0.984和0.987,平均绝对误差(MAE)分别为5.334和3.947,均方根误差(RMSE)分别为6.196和4.941,相比卷积神经网络-长短期记忆(CNN-LSTM)、麻雀搜索算法-核极限学习机(SSA-KELM)和NARX方法,所提方法能够更好的捕捉监测数据的时间相关性,预测精度显著提高,可为阶跃型滑坡预警及防治工作提供参考。

基于WT-CNN-BiLSTM模型的日前光伏功率预测

光伏功率的准确预测对于电网的安全稳定和经济运行具有重大意义。为此,提出了一种日前光伏功率预测方法,利用小波变换(wavelet transform,WT)将数值天气预报数据(numerical weather prediction,NWP)和光伏功率数据分解为具有时间信息的频率数据,消除数据信息中随机性和波动性对预测精度的影响,利用卷积神经网络(convolutional neural network,CNN)模型深度挖掘输入数据的季节性特征和空间关联特性,利用双向长短期记忆网络(bi-directional long-short term memory,BiLSTM)模型获取输入数据序列的时间相关性,构建基于WT-CNN-BiLSTM的日前光伏功率预测模型。以某一光伏电站为计算对象,在不同季节和气候条件下对比分析WT-CNN-BiLSTM模型、CNN-BiLSTM模型、LSTM(long-short term memory)模型、GRU(gated recurrent unit)模型以及PSO-BP(particle swarm optimization-back propagation)模型的预测结果,计算结果表明WT-CNN-BiLSTM模型的预测精度高于其他模型的预测精度。

基于SSA-VMD-BiLSTM模型的充电站负荷预测方法

随着电动汽车的普及,维护电网安全稳定运行的压力越来越大,为制定实施高效的需求响应策略,充电站的短期负荷预测尤为重要。然而针对充电站电力负荷变化不稳定、影响因素多的问题,现有方法缺乏对负荷数据的噪声分离和平滑分解以及对分解后的负荷数据进行针对性分析,为进一步提高充电站负荷预测精度,提出一种基于麻雀搜索算法(sparrow search algorithm,SSA)优化变分模态分解(variational mode decomposition,VMD)算法结合双向长短期记忆(bidirectional long short-term Memory,BiLSTM)神经网络的短期负荷预测方法。首先利用SSA算法优化VMD的参数,再通过VMD将不平稳的负荷数据分解成噪声集中的非周期性主分量和多个平滑的周期性分量;鉴于2种分量数据前后依赖性的不同,对多个周期性的分量直接基于历史数据结合BiLSTM模型方法进行负荷预测;对噪声集中的非周期性的主分量,考虑其负荷变化的不确定性,分析主要外部原因,基于特征因素数据结合BiLSTM模型方法进行预测。最后通过结果重构的方式得到综合预测结果。通过算例分析,考虑误差评估参数将所提方法与其他模型方法进行对比,验证所提方法具有更高的精确度、可靠性。