基于VMD-GA-BiLSTM的月降水量预测方法

利用辽宁省气象局提供的地面观测降水资料,构建了具有多元时间特征的降水数据,采用变分模态分解方法(variational mode decomposition,VMD)组合遗传算法(genetic algorithm,GA)对双向长短时记忆神经网络(bidirectional long short-term memory,BiLSTM)进行优化,建立基于VMD-GA-BiLSTM的月降水量预测模型,并与BiLSTM、VMD-BiLSTM和GA-BiLSTM进行实验对比,应用均方根误差(root mean square error,RMSE)、平均绝对误差(mean absolute error,MAE)和R 2决定系数作为模型评价指标。实验结果表明:VMD-GA-BiLSTM模型的R 2决定系数达到0.98,RMSE和MAE表现更低,验证了VMD-GA-BiLSTM模型在时间序列预测方面的优势。

基于残差修正CNN-BiLSTM的空中目标航迹短期预测算法

针对因深度学习自身局限性和递归预测策略产生的累积误差,导致航迹预测精度不高的问题,提出了一种基于残差修正CNN-BiLSTM的空中目标航迹短期预测算法。首先,引入卷积模块用于提取航迹数据之中具有潜在关联的空间位置特征,利用双向长短时记忆网络提取航迹数据中的时序特征,并实现对空中目标的实时单步预测和多步超前预测;其次,引入整合移动平均自回归为残差修正模型,对实时单步预测产生的残差建模,计算混合神经网络模型多步超前预测时的残差值;最后,将混合神经网络模型和残差修正模型的输出结果进行融合,得到最终的航迹预测值。实验结果表明,该算法大大降低了神经网络因自身局限性产生的误差和因递归策略预测产生的累积误差,能够显著提高空中目标航迹短期预测的精度。

基于BiLSTM-XGBoost混合模型的储层岩性识别

储层岩性分类是地质研究基础,基于数据驱动的机器学习模型虽然能较好地识别储层岩性,但由于测井数据是特殊的序列数据,模型很难有效提取数据的空间相关性,造成模型对储层识别仍存在不足.针对此问题,本文结合双向长短期循环神经网络(bidirectional long short-term memory,BiLSTM)和极端梯度提升决策树(extreme gradient boosting decision tree,XGBoost),提出双向记忆极端梯度提升(BiLSTM-XGBoost,BiXGB)模型预测储层岩性.该模型在传统XGBoost基础上融入了BiLSTM,大大增强了模型对测井数据的特征提取能力.BiXGB模型使用BiLSTM对测井数据进行特征提取,将提取到的特征传递给XGBoost分类模型进行训练和预测.将BiXGB模型应用于储层岩性数据集时,模型预测的总体精度达到了91%.为了进一步验证模型的准确性和稳定性,将模型应用于UCI公开的Occupancy序列数据集,结果显示模型的预测总体精度也高达93%.相较于其他机器学习模型,BiXGB模型能准确地对序列数据进行分类,提高了储层岩性的识别精度,满足了油气勘探的实际需要,为储层岩性识别提供了新的方法.

基于Bo-BiLSTM网络的IGBT老化失效预测方法

针对绝缘栅双极型晶体管(IGBT)受热应力冲击后对其进行老化失效预测精度不高的情况,提出一种基于贝叶斯优化(Bo)-双向长短期记忆(BiLSTM)网络的IGBT老化失效预测方法。首先分析IGBT模块老化失效原理,然后基于NASA老化实验数据集建立失效特征数据库,最后利用Matlab软件构造Bo-BiLSTM网络预测失效特征参数数据。选取常用回归预测性能评估指标将长短期记忆(LSTM)网络模型、BiLSTM网络模型与Bo-BiLSTM网络模型的预测结果进行对比分析。结果表明,Bo-BiLSTM网络的模型拟合精度更高,基于Bo-BiLSTM网络的IGBT老化失效预测方法具有较好的预测效果,能够应用于IGBT的失效预测。

基于CNN-BiLSTM的ICMPv6 DDoS攻击检测方法

针对ICMPv6网络中DDoS攻击检测问题,提出一种基于CNN-BiLSTM网络的检测算法。通过将带有注意力机制、DropConnect和Dropout混合使用加入到CNN-BiLSTM算法中,防止在训练过程中产生的过拟合问题,同时更准确地提取数据的特性数据。通过实验表明:提出的算法在多次实验中的检测准确率、误报率与漏报率平均值分别为92.84%、4.49%和10.54%,检测算法泛化性较强,性能由于其他算法,能够有效处理ICMPv6 DDoS攻击检测问题。

融合Res3D、BiLSTM和注意力机制的羊只行为识别方法

识别动物行为可以为疾病预防和合理喂养提供重要依据,从而有助于更好地关注动物的健康和福利。本文提出了一种融合三维残差卷积神经网络、双向长短期记忆网络和注意力机制的深度学习网络模型(AdRes3D-BiLSTM)。AdRes3D-BiLSTM模型可以直接针对视频流进行识别,在AdRes3D部分引入了深度可分离卷积和注意力机制,不但减少了浮点运算量,提升了网络轻量化程度,还提高了时间和空间两个维度的特征提取能力;提取的特征被输入BiLSTM模块后,从前后2个方向对时序特征向量进行筛选和更新,最后对羊只行为进行准确识别。试验结果表明,AdRes3D-BiLSTM对羊只站立、躺卧、进食、行走和反刍5种行为的综合识别准确率达到了98.72%,帧速率达到52.79 f/s,模型内存占用量为28.03 MB。研究结果为基于视频流的动物行为识别提供了新的方法和思路。

基于3D CNN-BiLSTM-ATFA网络和步态特征的奶牛个体识别方法

针对基于花纹的奶牛个体识别中纯色或花纹较少的奶牛识别准确率较低的问题,本文提出一种基于步态特征的奶牛个体识别方法。首先,将DeepLabv3+语义分割算法的主干网络替换为MobileNetv2网络,并引入基于通道和空间的CBAM注意力机制,利用改进后模型分割出奶牛的剪影图。然后,将三维卷积神经网络(3D CNN)和双向长短期记忆网络(BiLSTM)构建为3D CNN-BiLSTM网络,并进一步集成自适应时间特征聚合模块(ATFA)生成3D CNN-BiLSTM-ATFA奶牛个体识别模型。最后,在30头奶牛的共1242条视频数据集上进行了奶牛个体识别实验。结果表明,改进后DeepLabv3+算法的平均像素准确率、平均交并比、准确率分别为99.02%、97.18%和99.71%。采用r3d_18作为3D CNN-BiLSTM-ATFA的主干网络效果最优。基于步态的奶牛个体识别平均准确率、灵敏度和精确度分别为94.58%、93.47%和95.94%。奶牛躯干和腿部不同部位进行加权特征融合的个体识别实验表明识别准确率还可进一步提高。奶牛跛足对步态识别效果影响较为明显,实验期间由健康变为跛足和一直跛足的奶牛个体识别准确率分别为89.39%和92.61%。本文研究结果可为奶牛的智能化个体识别提供技术参考。

基于QM-DBSCAN与BiLSTM的风电机组异常工况预警研究

提出一种基于四分位(QM)-具有噪声的基于密度聚类法(DBSCAN)与双向长短期记忆网络(BiLSTM)的风电机组故障预警方法。首先,针对风速-功率图中限功率点难以清洗完全的问题,提出利用QM与DBSCAN联合来对建模运行数据进行预处理;其次,通过分析风电机组运行原理,并结合轻量梯度提升机(LightGBM)特征选择法确定风电机组正常工况预测模型的输入输出参数,并基于BiLSTM建立了高精度的风电机组正常性能预测模型;之后,利用滑窗算法构建了风电机组状态性能评价指标,并通过统计学区间估计法确定指标阈值;最后,采用风电机组真实故障数据,开展风电机组异常工况预警实验,验证了方法的有效性。

基于贝叶斯优化ResNet-BiLSTM的多电飞行器故障检测技术

针对多电飞行器在复杂运行模式下故障检测的精确性与实时性问题,开发了基于贝叶斯优化ResNet-BiLSTM模型的故障检测技术。首先设计以残差网络为核心的多层次特征提取模块,实现故障特征的多层次表达,以提升故障检测的实时性;接着构建以双向长短期记忆网络为核心的多尺度特征提取模块,获取长期依赖的故障特征信息,以提升故障检测的准确性;进而提出基于贝叶斯优化的超参数寻优方法,进一步提升故障特征的学习效果;最后,设计多电飞行器故障检测实验方案,并开展不同故障模式下的性能分析。结果表明,所提方法可有效实现多种故障模式下的故障诊断,并且检测准确率和实时性均优于现有方法,有助于提升多电飞行器故障检测性能,为飞行安全提供有力的技术保障。

基于自注意力机制和改进的K-BiLSTM的水产养殖水体溶解氧含量预测模型

为精确预测水产养殖水体溶解氧含量,本研究提出一种基于自注意力机制(ATTN)和改进的K-means聚类-基于残差和批标准化(BN)的双向长短期记忆网络(BiLSTM)的水产养殖水体溶解氧含量预测模型。首先,根据环境数据的相似性,使用改进的K-means算法将数据划分成若干个类别;然后,在BiLSTM基础上构建残差连接和加入BN完成高层次特征提取,利用BiLSTM的长期记忆能力保存特征信息;最后,引入自注意力机制突出不同时间节点数据特征的重要性,进一步提升模型的性能。试验结果表明,本研究提出的基于自注意力机制和改进的K-BiLSTM模型的平均绝对误差为0.238、均方根误差为0.322、平均绝对百分比误差为0.035,与单一的BP模型、CNN-LSTM模型、传统的K-means-基于残差和BN的BiLSTM-ATTN等模型相比具有更优的预测性能和泛化能力。

基于BERT-BiLSTM的油田安全生产隐患文本分类

事故隐患分类能够直观反映企业安全生产管理的薄弱点,同时将直接决定企业优化安全管理工作的方向。油田安全生产过程中,隐患种类多,数据量大,单纯依赖人工方式分类及管理效率较低,且难以发掘数据中蕴含的潜在规律。基于油田安全生产的需求及事故隐患特征,提出了一种基于BERT-BiLSTM的分类模型,用于油田安全生产隐患文本的主题自动分类,通过基于Transformer的双向编码器表示(bidirectionalencoder representations from Transformer,BERT)模型提取输入文本的字符级特征,生成全局文本信息的向量表示,再通过双向长短时记忆网络(bi-directional long short-term memory,BiLSTM)模型对局部关键信息和上下文深层次特征进行特征提取,进而通过Softmax激活函数进行概率计算得到分类结果。通过与传统分类方法的比较表明,BERT-BiLSTM分类模型在加权平均准确率、加权平均召回率和加权平均F_(1)等指标方面均有所改善,模型与油田企业现有安全管理信息系统的有机融合将为进一步提升油田企业的事故隐患管理针对性,推动企业安全管理从事后被动反应向事前主动预防转变提供重要的技术支撑。

融合BiLSTM和VMD的GNSS坐标时间序列重构

GNSS观测时间序列包含复杂的非线性构造运动,如地面质量荷载、模型残差、周围环境因素等。由于环境因素的复杂性,季节性信号可能具备准周期时变的特征,传统的时间序列分析模型很难模型化。因此,可以采用一种双向长短期记忆(Bidirectional Long Short-Term Memory,BiLSTM)循环神经网络与变分模态分解(Variational Mode Decomposition,VMD)联合的信号重构方法。首先利用VMD强大的分解能力将GNSS信号进行频域剖分并将其分为多项子信号和噪声项,再基于BiLSTM强大的学习能力对GNSS信号进行训练建模。结果表明,BiLSTM+VMD模型能充分挖掘信号的时频域特征,提高信号重构的精度和稳定性,GNSS N、E、U三分量重构结果均方根误差(Root Mean Squared Error,RMSE)都表现出不同程度的降低,尤其水平方向效果更为显著,相比EMD与VMD方法,E方向离散度分别降低了61%和19%,N方向离散度分别降低了20%和14%。这为GNSS观测时间序列中信号提取与模型参数估计提供了一个有价值的模型。

基于Hotelling T2-BiLSTM的同步调相机故障诊断方法

同步调相机故障会严重影响特高压直流输电工程的稳定性。针对特高压电网中不对称电压条件下同步调相机励磁绕组匝间短路故障难以识别问题,提出基于霍特林T2-双向长短期记忆网络(Hotelling T2-BiLSTM)的同步调相机故障诊断方法。首先,从三相电压、三相电流、励磁电流、转子振动和无功功率中提取故障特征,计算Hotelling T2统计量以构建故障检测指标;然后,采用BiLSTM模型对特征进行分类,并利用逻辑回归层进行故障诊断;最后,在动模实验室中进行实验验证其有效性。实验结果表明,所提方法具有较高的故障诊断精度。

基于改进DBO优化BiLSTM的IGBT老化预测模型

为了表征逆变器故障中IGBT模块的老化趋势,提高老化过程的预测精度,本文提出一种基于改进蜣螂搜索算法(IDBO)优化双向长短期神经网络(BiLSTM)超参数的IGBT老化预测模型。首先提取老化过程中Vce.on的时频域特征,利用核主成分分析进行降维构建归一化综合指标。其次,针对蜣螂搜索算法(DBO)的不足,通过引入改进Circle混沌映射、Levy飞行和自适应权重因子提升了DBO寻优能力和收敛性能,利用IDBO对BiLSTM预测模型超参数实现全局寻优。最后,通过实际IGBT退化数据验证了基于IDBO优化BiLSTM老化预测模型的有效性和优越性。结果表明,所构建的IDBO-BiLSTM模型与BiLSTM模型相比RMSE平均下降36.42%、MAE平均下降31.77%、MAPE平均下降41.03%。

基于二次分解策略和BiLSTM的短期碳排放预测模型设计

针对现有短期碳排放预测模型残余噪声大、忽略全局信息的特性导致预测精度不高的问题,提出一种基于二次分解策略和双向长短期记忆神经网络(BiLSTM)的新的短期碳排放预测模型。利用改进的自适应噪声完全集成经验模态分解(ICEEMDAN)方法和二次分解思想,将原始时间序列分解为多个本征模态函数(imfs);利用鲸鱼优化算法(WOA)优化的双向长短期记忆神经网络(BiLSTM)对所有函数序列进行预测,并将每个函数序列的预测值累加得到最终结果。实验结果显示,该文提出模型的R2达到0.999,MAPE和RMSE分别为1.3×10-3和97.4,优于其他对比模型,有效降低了预测误差。

基于Inception-BiLSTM和迁移学习的结构损伤识别

针对传统卷积神经网络(convolutional neural network,CNN)方法在时空特征提取存在不足,提出了一种改进的Inception与双向长短期记忆(bi-directional long short-term memory,BiLSTM)联合模型,以全面学习振动信号中的空间和时序信息。首先,构建具有多尺度感受野的Inception模块,自适应地提取不同尺度下的空间特征;其次,BiLSTM序列化处理时间特征,以深度挖掘时间相关性;最后,通过全局平均池化和Softmax分类器来实现钢框架结构的损伤识别。为评估该模型对噪声的鲁棒性,引入高斯白噪声作为干扰。此外,采用迁移学习策略来评估模型在不同强度激励和小样本下的泛化能力,确保适用于不同的损伤识别任务。结果表明,与传统的CNN方法相比,该模型在无噪声条件下及信噪比超过25 dB时保持了100%的识别精度。该方法解决了土木工程应用中样本量不足和不同强度激励的实际挑战。通过微调预训练模型的参数,实现了在不同强度激励和小样本情况下的知识迁移与泛化,从而增强了模型的实际适用性。

基于CNN-BiLSTM-SA网络的人类活动识别

针对传统的神经网络对人类活动行为识别精度不高的问题,本文提出了一种基于双通道机制的卷积神经网络叠加双向长短期记忆网络和自注意力的混合网络模型(convolutional neural network-bi-directional long short-term memory-self-attention,CNN-BiLSTM-SA)。首先将数据集中的加速度和角速度数据作为网络的两个输入,然后使用卷积神经网络叠加双向长短期记忆网络的模式搭建系统,最后引入自注意力机制增强系统的分类能力。实验结果表明,在UCI-HAR数据集中,本网络的平均F 1分数达到98.6%,平均准确率达到98.4%,比卷积神经网络叠加长短期记忆神经网络模型(convolutional neural network-long short-term memory,CNN-LSTM)收敛速度更快并且准确率提高了4.2%,在人类活动识别方面,具有更广阔的应用前景。

融合SBAS-InSAR技术与GRO-BiLSTM模型的开采沉陷边界划定方法

确定矿山开采沉陷边界有助于评估矿区生产活动对周围环境和基础设施的潜在影响,为制定有效的灾害防控措施提供技术手段。充分考虑到概率积分法等传统方法在划定矿山开采沉陷边界时的不足,采用在获取矿区大范围高精度地表沉降数据方面具有优势的SBAS-InSAR技术,并结合淘金算法(Gold Rush Optimizer,GRO)优化双向长短期记忆(Bidirectional Long Short Term Memory,BiLSTM)模型的预测方法,实现矿区开采沉陷边界划定。以红会煤矿为研究对象,依据SBAS-InSAR技术提取矿区沉降边缘高相干点在2018-11-29—2020-02-04时间段内共37期沉降数据,以下沉10 mm等值线划定沉陷边界,利用GRO-BiLSTM优化模型预测高相干点的地表沉降值,并将预测结果与LSTM和BiLSTM模型预测结果进行了对比分析。结果表明:GRO-BiLSTM模型在整体测试集中均方根误差为3.204mm,比LSTM和BiLSTM模型分别降低了22.16%和8.21%;平均绝对误差为2.062 mm,比LSTM和BiLSTM模型分别降低了23.96%和5.43%,表明该方法可以有效监测和预测矿区边界地区的沉陷状况。

基于充电阶段数据与GWO-BiLSTM模型的锂电池SOH估计方法

针对锂电池健康状态(state of health,SOH)估计过程中健康特征(health features,HFs)提取单一、估计精度较低等问题,提出一种基于充电阶段数据与灰狼优化(grey wolf optimizer,GWO)算法-双向长短期记忆(bidirectional long short-term memory,BiLSTM)神经网络的锂电池SOH估计方法。首先,从电池充电阶段数据中提取五类HFs。接着,利用核主成分分析法(kernel principal component analysis,KPCA)获取HFs的关键健康因子。最后,应用GWO-BiLSTM模型对关键健康因子和SOH之间的映射关系进行动态建模,实现锂电池SOH的估计。利用NASA电池老化数据集进行验证,结果表明,所提出方法能够准确估计锂电池的SOH,均方根误差保持在1%以内,具有较高的估计精度和鲁棒性。

基于XGBoost-WOA-BiLSTM-Attention的公共建筑暖通空调能耗预测研究

为在双碳目标下实现节能减排,降低能源成本,提出一种基于BiLSTM的公共建筑暖通空调能耗预测模型。在BiLSTM模型基础上,使用XGBoost算法对输入特征进行选择,剔除冗余特征,得到最佳模型输入特征;然后利用WOA优化算法对添加了Attention机制的BiLSTM模型中的6个超参数进行优化,将得到的最优参数代入BiLSTM-Attention神经网络中进行预测,并与BiLSTM模型、BiLSTM-Attention模型和WOA-BiLSTM-Attention模型进行对比。结果表明,所提出的XGBoost-WOA-BiLSTM-Attention模型的RMSE、MAE、R2分别为0.0106、0.006、0.9991,优于其他模型,且相对于持续模型在均方根误差RMSE上提升了98%,为降低公共建筑暖通空调能耗研究提供了参考。