基于改进灰狼算法优化双向长短时记忆神经网络的水冷壁壁温预测

提出一种基于改进灰狼(MGWO)算法优化双向长短时记忆(BiLSTM)神经网络的水冷壁壁温预测模型,灰狼算法采用非线性因子调整策略、自适应位置更新策略和动态权重修改策略进行改进以提升算法的全局寻优能力,利用改进灰狼算法优化BiLSTM模型的隐藏层数量、学习率和正则化参数以提高模型的预测精度,采用新疆某电厂的数据进行预测仿真,结果表明:改进后的算法预测精度更高,在机组升、降负荷时,均可以预测到壁温的变化趋势,模型的平均均方根误差相比于长短时记忆(LSTM)神经网络、BiLSTM模型分别降低了9.86%和3.69%,且可以提前预测到水冷壁壁温的超温情况,对于预防水冷壁超温有重要意义。

双向长短时记忆神经网络在滩坝砂储层岩性识别中的应用

研究区致密滩坝砂储层油气储量丰富,勘探开发潜力较高,但存在埋藏深、单层厚度薄、渗透率超低、孔隙结构复杂以及单井自然产能极低的特征,储层划分与岩性识别困难。针对测井数据具有纵向时序连续的特点,构建一个双向长短时记忆神经网络(BiLSTM)岩性识别模型,采用随机森林方法对常规测井数据等参数进行特征选择,将选择的参数作为输入变量训练BiLSTM模型。应用该模型对测试集的井资料进行验证,结果表明模型的岩性识别准确率为0.86,取得了良好的应用效果,证明了BiLSTM模型适用于滩坝砂储层岩性识别。

基于双向长短时记忆网络的并网微电网能量供需平衡优化

为保证并网微电网的稳定运行,针对微电网负荷波动较大,稳定性较差的问题,提出基于双向长短时记忆网络的并网微电网能量供需平衡优化方法。该方法通过双向长短时记忆网络划分并网微电网中的负荷类别,并引入注意力机制优化分类结果,获取并网微电网中的可控负荷结果;结合该结果和储能系统的能量损失情况、风光综合功率波动水平,构建目标函数并确定约束条件,采用改进帝国竞争算法求解目标函数,获取保证获取全局负荷调度最佳结果,实现并网微电网能量供需平衡优化。测试结果显示:该方法能够有效调度并网微电网中负荷,调整并网微电网供需侧有功和无功功率的结果,使其在±0.50kvar内范围波动,优化后满足微电网中的而负荷需求;保证微电网的稳定运行。

长短时记忆网络与新安江模型耦合的降雨径流模拟性能

深度学习技术在降雨径流模拟方面具有广阔应用前景,但受训练样本限制,需与传统水文模型相耦合,由传统水文模型提供训练数据。耦合数据的选择和超参数方案对耦合模型的模拟性能影响显著,但尚未有专门的研究。本文以东湾流域为例,用双向长短时记忆网络耦合新安江模型不同模块数据,并用灰狼优化算法优化超参数,构建降雨径流模型。结果表明:模型耦合不同数据时,对日径流和场次洪水的模拟性能均有提高,尤以耦合产流量和模拟流量数据时最为明显。不同耦合数据需调整超参数方案,灰狼优化算法可满足需求。本研究为提高耦合模型径流模拟能力提供了新思路和新方法。

基于双向长短时记忆网络和注意力机制的RNA m5C甲基化位点预测

RNA 5-甲基胞嘧啶(m5C)修饰在许多生物过程中发挥重要的作用,对m5C位点的准确识别有助于更好地理解其生物学功能,所以识别m5C甲基化位点十分必要。尽管已发展了多种识别m5C甲基化位点的机器学习方法,但预测能力仍有待提高。本文基于双向长短时记忆网络和注意力机制,提出了一种预测RNA m5C甲基化位点的深度学习算法。用该方法在人、小鼠、酿酒酵母和拟南芥共4种生物的RNA m5C数据集上进行实验,m5C位点预测AUC值分别达到92.5%、99.7%、93.6%和86.5%。与现有预测方法相比,该方法具有较好的预测性能,并且具有更优的泛化能力,为RNA m5C甲基化位点预测提供了一种新方法。

基于猎人猎物优化与双向长短时记忆组合模型的汽车出车率预测

汽车出车率预测对于交通管理者预先制定精准化管控方案、实施协调化统筹调度,以及调控汽车保有量规模具有重要意义。为此,本文提出一种基于猎人猎物优化算法与双向长短时记忆神经网络组合模型(HPO-BiLSTM)的汽车出车率预测方法。首先,分析汽车出车率的关键影响因素,提取出17个特征影响因子,结合标准化处理后的重构时间序列,基于随机森林算法进行变量的重要度评估,筛选出最优特征集合作为预测模型输入;其次,为解决神经网络算法容易陷入局部极值的难题,建立一种融合猎人猎物优化算法(HPO)与双向长短时记忆神经网络(BiLSTM)的组合预测模型,利用HPO的探索-开发机制,实现BiLSTM框架的动态化搭建与精细化调参;最后,结合北京市中心城区的汽车出车率数据集进行模型性能的测试与检验。结果表明:与自回归差分移动平均模型、灰色模型、卷积神经网络模型、长短时记忆神经网络模型以及双向长短时记忆神经网络模型等经典算法相比,HPO-BiLSTM模型在汽车出车率预测中的平均绝对误差(MAE)、平均绝对百分比误差(MAPE)和均方根误差(RMSE)分别降低了23.85%~54.38%、20.67%~57.40%、27.48%~59.32%,平均相对误差为-1.57%。说明本文提出的混合深度学习算法具有较高的预测精度与实用性能。

基于注意力机制和双向长短时记忆网络的横波速度预测方法及应用

横波速度信息对油气勘探而言至关重要,但实际测井资料中常常缺失横波速度资料。横波速度与测井参数之间存在非线性相关性,二者关系复杂难以用解析解表征。为此,提出了一种基于注意力机制和双向长短时记忆网络的横波速度预测方法(AT-BLSTM)。该方法首先利用注意力机制为测井参数分配权重,自动聚焦对横波速度预测贡献大的测井参数,然后利用双向长短时记忆网络以及横波速度曲线纵向上的时序特征,挖掘各种测井参数与横波速度之间的相关关系,获得各种测井参数与横波速度之间的学习模型,再输入优选测井参数,最终可直接获得横波速度的预测结果。将上述方法应用于挪威北海Volve油田和我国西南某工区的实际测井资料进行横波速度预测,并将预测结果与常规双向长短时记忆网络、门控循环神经网络以及基于经验公式的传统方法的预测结果进行对比。结果表明,利用基于注意力机制和双向长短时记忆网络的横波速度预测方法得到的测井参数权重分配合理,横波速度预测结果与实测横波速度误差较小、相关系数较高,有效提高了横波速度预测精度,预测结果具有良好的稳定性。

电力物联网下双向长短时记忆的线损预测计算策略研究

目前,光、风等可再生能源发电和柔性负荷并网方式导致电力物联网的运行调控难度加大,使输电线的损害逐渐增加。针对这种情况,提出了一种基于电力物联网下双向长短时记忆的线损预测计算方法,为电力运行调控提供重要依据。

基于改进双向长短时记忆网络的自动驾驶车辆驾驶意图识别

针对高速混行多车交互环境下车辆驾驶意图识别模型大多忽视驾驶风格和车-车交互信息等问题,提出一种基于改进双向长短时记忆(Bi LSTM)网络的驾驶意图识别模型,以目标车辆轨迹序列、驾驶风格、周围车辆的交互特征作为模型的输入进行训练学习,实现对考虑驾驶风格的驾驶意图特征数据集的分类识别,同时使用鲸鱼优化算法对隐含层节点数和学习率等超参数进行寻优,以规避人工调参的负面影响。最后,使用NGSIM数据集对该模型的有效性进行验证,结果表明,模型的识别准确率达到97.5%,证明其在识别车辆驾驶意图方面具有较高的准确性。

结合知识图谱与双向长短时记忆网络的小麦条锈病预测

针对现有小麦条锈病预测方法没有利用病害发生因素之间的语义信息,存在预测难度大、准确率低等问题,利用知识图谱(Knowledge Graph,KG)和双向长短时记忆网络(Bi-directional Long Short-Term Memory,Bi-LSTM)处理多源异构复杂数据的各自优势,提出一种基于KG与Bi-LSTM结合的小麦条锈病预测方法。首先,构建小麦条锈病知识图谱,将与小麦条锈病发生相关的环境信息转换为特征向量;其次,利用特征向量训练Bi-LSTM模型,得到基于Bi-LSTM的小麦条锈病预测模型;最后,利用小麦条锈病数据库数据进行试验。结果表明,KG丰富了进行病害预测所描述的语义信息,提升了Bi-LSTM提取高层病害预测特征的能力,从而提高了病害预测的准确率。在小麦条锈病数据库上的预测准确率达到93.21%,比基于Bi-LSTM的病害预测方法提高了4.5个百分点。该方法能较好预测小麦条锈病,为小麦条锈病的预报预警和综合防治提供科学依据。

基于双向长短时记忆模型的中文分词方法

中文分词是中文自然语言处理中的关键基础技术之一.目前,传统分词算法依赖于特征工程,而验证特征的有效性需要大量的工作.基于神经网络的深度学习算法的兴起使得模型自动学习特征成为可能.文中基于深度学习中的双向长短时记忆(BLSTM)神经网络模型对中文分词进行了研究.首先从大规模语料中学习中文字的语义向量,再将字向量应用于BLSTM模型实现分词,并在简体中文数据集(PKU、MSRA、CTB)和繁体中文数据集(HKCity U)等数据集上进行了实验.实验表明,在不依赖特征工程的情况下,基于BLSTM的中文分词方法仍可取得很好的效果.

基于多任务双向长短时记忆网络的隐式句间关系分析

隐式句间关系识别是篇章句间关系识别任务中一个重要的问题。由于隐式句间关系的语料没有较好的特征,目前该任务的识别仍不能达到很好的效果。隐式句间关系的语句和显式句间关系的语句在语义等方面有着一定的联系,为了充分利用这两个任务之间的联系,该论文使用多任务学习的方法,并使用双向长短时记忆(BiLSTM)网络学习语句的相关特征;同时,为充分利用文本的特征,采用融合词嵌入的方法并引入先验知识。与其他基于哈工大的中文篇章级语义关系语料库的实验结果表明,该文方法的平均F1值为53%,提升约13%;平均召回率(Recall)为51%,提升约9%。

考虑温度模糊化的多层长短时记忆神经网络短期负荷预测

智能电表的普及为短期负荷预测提供了海量数据,使得负荷精细化预测成为可能,而温度是影响夏季负荷的重要因素。提出一种考虑温度模糊化的多层长短时记忆神经网络(ML-LSTM)短期负荷预测方法。利用隶属度函数将预测时刻的温度和当日的平均温度进行模糊化处理,减小夏季温度波动性对负荷预测的影响;建立含3层隐藏层的长短时记忆神经网络(LSTM)预测网络,并利用适应性矩估计(Adam)优化算法提高LSTM梯度参数的自适应性学习能力。利用西南某地区2018年6月至8月的实测温度和负荷数据进行验证,负荷预测结果表明,ML-LSTM模型比BP神经网络和支持向量机的负荷预测精度更高,且温度的模糊化处理提高了模型的泛化性。

基于注意力机制的双向长短时记忆网络模型突发事件演化关系抽取

针对现有突发事件关系抽取研究多集中于因果关系抽取而忽略了其他演化关系的问题,为了提高应急决策中信息抽取的完备性,应用一种基于注意力机制的双向长短时记忆(LSTM)网络模型进行突发事件演化关系抽取。首先,结合突发事件演化关系的概念,构建演化关系模型并进行形式化定义,依据模型对突发事件语料进行标注;其次,搭建双向LSTM网络结构,并引入注意力机制计算注意力概率以突出关键词汇在文本中的重要程度;最终,使用搭建的网络模型进行演化关系抽取得到结果。在演化关系抽取实验中,相对于现有因果关系抽取方法,所提方法不仅抽取出更加充分的演化关系,为突发事件应急决策提供了更完善的信息;同时,在正确率、召回率和F1分数上分别平均提升了7.3%、6.7%和7.0%,有效提高了突发事件演化关系抽取的准确性。

基于变分模态分解和双向长短时记忆神经网络模型的滑坡位移预测

滑坡变形的定量预测是滑坡预警系统中的重要组成部分,滑坡变形受其自身地质条件和众多环境因素共同影响,具有动态、复杂和非线性等特点。针对目前滑坡累积位移—时间序列分析研究中随机性位移无法分解与预测、传统预测模型难以模拟滑坡动态演化特性等问题,本文建立了一种基于组合变分模态分解(Variational Mode Decomposition,VMD)和双向长短时记忆(Bidirectional Long Short-Term Memory,Bi-LSTM)神经网络的复合性滑坡位移动态预测模型。该模型首先利用时间序列分析和VMD将滑坡累积位移分解为趋势项、周期项和随机项位移分量,通过分析滑坡的演化特征和诱发滑坡的关键因素,为各位移分量选择合适的影响因素;然后采用多项式拟合预测趋势项位移、Bi-LSTM神经网络对周期项位移和随机项位移进行多数据驱动的动态预测;最后将各位移分量叠加得到累积位移预测值。以新滩滑坡和八字门滑坡为样本,利用实地观测数据,对本模型的预测精度与工程实用性进行对比评估。实验结果表明,本文提出的模型能较好地表征位移“阶跃式”的变形特征。在预测周期项位移时,Bi-LSTM网络相较于长短时记忆神经网络(Long Short-Term Memory,LSTM)和支持向量机(Support Vector Machine,SVM)具有更高的预测精度,平均相对误差(Mean Relative Error,MRE)分别降低了1.339%和7.817%,均方根误差(Root Mean Square Error,RMSE)分别降低了6.761 mm和27.163 mm。说明该模型不仅预测精度高,且更稳定,可以为滑坡防灾减灾工程的实际应用提供新的思路。

双向长短时记忆模型训练中的空间平滑正则化方法研究

双向长短时记忆模型(BLSTM)由于其强大的时间序列建模能力,以及良好的训练稳定性,已经成为语音识别领域主流的声学模型结构。但是该模型结构拥有更大计算量以及参数数量,因此在神经网络训练的过程当中很容易过拟合,进而无法获得理想的识别效果。在实际应用中,通常会使用一些技巧来缓解过拟合问题,例如在待优化的目标函数中加入L2正则项就是常用的方法之一。该文提出一种空间平滑的方法,把BLSTM模型激活值的向量重组成一个2维图,通过滤波变换得到它的空间信息,并将平滑该空间信息作为辅助优化目标,与传统的损失函数一起,作为优化神经网络参数的学习准则。实验表明,在电话交谈语音识别任务上,这种方法相比于基线模型取得了相对4%的词错误率(WER)下降。进一步探索了L2范数正则技术和空间平滑方法的互补性,实验结果表明,同时应用这2种算法,能够取得相对8.6%的WER下降。

基于双向长短时记忆网络的系统异常检测方法

在系统日志异常检测中,日志结构不统一且新执行的日志路径检测依然不够准确。针对这些问题,提出一种基于双向长短时记忆网络的日志路径异常检测模型。通过日志解析器构造日志键使得日志结构统一化,同时将日志键转化为时序序列构建时序化的日志结构;采用双向长短时记忆网络对时序化的日志序列进行建模和预测,根据是否发生误判来优化模型参数,提升新执行的日志路径检测效率。实验结果表明,与传统的基于机器学习的日志路径异常检测模型相比,该模型在HDFS和OpenStack数据集上准确率分别提升11%和20%,验证了该模型的有效性。

基于改进长短时记忆网络的地面空调能耗预测

在机场运行管理中,地面空调是对飞机客舱进行降温除湿的主要设备,准确预测出其在工作过程中的耗电量对于建设绿色机场具有重要意义。地面空调能耗受多维因素的影响,为提高预测精度,提出一种基于改进双向长短时记忆(BiLSTM)神经网络的飞机地面空调能耗预测方法。所提方法使用BiLSTM神经网络和注意力机制构造模型的预测部分,可以充分挖掘和利用数据中的时间序列特征;并以预测精度最优为指标,提出一种基于改进蚁狮优化(IALO)算法的超参数优化算法,与标准蚁狮优化算法相比,改进蚁狮优化算法在随机游走空间缩小机制中改进了收缩因子并赋予收缩系数一定的随机性,同时引入普通蚁狮权重系数动态调整机制,提高所提算法的收敛速度及寻优能力。在实际数据集上进行仿真可知,所提方法预测结果的均方误差为6.045,平均绝对百分比误差为0.928%,决定系数为0.956。通过与其他多种预测方法比较,充分证明所提方法具有准确度高、适应性强等优点。

基于双向长短时记忆神经网络的步态时空参数脑肌电解码方法

针对脑电(EEG)信号对连续步态轨迹解码结果与实际轨迹相关性低的问题,提出一种基于双向长短时记忆(BiLSTM)神经网络的步态参数解码方法。首先,构建基于双向长短时记忆神经网络的步态时空参数解码模型,根据脑肌电信号特性设计解码模型的超参数;其次,同步采集脑电、下肢运动相关肌肉的表面肌电信号(sEMG)和下肢关节运动信号,并对脑电和表面肌电信号的步态相关特征进行分析;然后,以多通道脑电和下肢运动相关表面肌电信号作为解码模型的输入,自动提取脑肌电融合信号中步态相关特征并构建膝踝关节运动轨迹与特征之间的非线性回归模型;最后,以多通道脑电作为解码模型的输入,构建步态相关脑电信号和表面肌电信号之间的非线性回归模型。实验结果表明:所提方法与传统支持向量机方法相比,对踝关节解码轨迹与实测轨迹形状相似性Pearson相关系数提高了0.12;与单独采用脑电、表面肌电信号和脑肌电信号平均绝对值特征融合信号进行解码方法相比,对踝关节解码轨迹与实测轨迹形状相似性Pearson相关系数分别提高了0.81、0.19和0.63。该方法可实现从脑电信号中对部分表面肌电信号波形的解码,解码波形和实测波形的平均Pearson相关系数值接近0.5,证明从脑电信号中可解码出肌肉通道的表面肌电信号波形,为下肢外骨骼主动连续控制的应用提供了新思路。

基于多通道卷积双向长短时记忆网络的输电线故障分类

针对单通道故障分类器不能全面表达三相故障特征信息引起分类精度不高的问题,提出了一种基于多通道卷积双向长短时记忆神经网络(MCCNN-BiLSTM)的输电线故障分类方法。该方法可同时输入故障三相信号,并能有效提取故障信号的空间和时间特征,实现了三相故障信号特征的全面提取,有效地提高了神经网络的分类的精度。基于735 kV三相串联补偿输电线模型大量故障数据分析,对三相故障电压信号不采用任何特征提取算法,仅截取故障周期的三相电压幅值数据作为基本故障特征信号输入。仿真实验结果表明:该网络能快速准确地分类识别11种故障,并且不易受故障时刻、过度电阻等因素的影响,具有良好的鲁棒性和适应性。