基于集群辨识和卷积神经网络-双向长短期记忆-时序模式注意力机制的区域级短期负荷预测

为了解决区域级短期电力负荷预测时输入特征过多和负荷时序性较强的问题,提出一种基于集群辨识和卷积神经网络(convolutional neural networks,CNN)-双向长短期记忆网络(bi-directional long short-term memory,BiLSTM)-时序模式注意力机制(temporal pattern attention,TPA)的预测方法。首先,将用电模式和天气作为影响因素,基于二阶聚类算法对区域内的负荷节点进行集群辨识,再从每个集群中挑选代表特征作为深度学习模型的输入,这样既能减少输入特征维度,降低计算复杂度,又能综合考虑预测区域的整体特征,提升预测精度。然后,针对区域电力负荷时序性的特点,用CNN-BiLSTM-TPA模型完成训练和预测,该模型能提取输入数据的双向信息生成隐状态矩阵,并对隐状态矩阵的重要特征加权,从多时间步上捕获双向时序信息用于预测。最后,在美国加利福尼亚州实例上分析验证了所提方法的有效性。

双向长短期记忆网络的时间序列预测方法

时间序列预测即利用历史时间序列数据,预测未来一段时间内的数据信息,以便提前制定相应策略。目前,时间序列的类别复杂繁多,而现有的时间序列预测模型面对多种类型数据时无法取得稳定预测的结果,进而难以同时满足对现实中多种复杂的时序数据预测的应用需求。针对上述问题,提出了一种基于时间注意力机制双向长短期记忆网络的时间序列预测方法。笔者提出的网络模型采用改进的正向和反向传播机制提取时序信息并通过自适应权重分配策略推理未来的时序信息。具体来说,设计了一个改进的双向长短期记忆网络,通过结合双向长短期记忆和长短期记忆网络提取深度时间序列特征,挖掘上下文的时序依赖关系。在此基础上,融合所提出的时间注意力机制,实现对深度时间序列特征进行自适应加权,提升深度时序特征的显著性表达能力。通过与同类代表性方法在多个不同类别数据集上的客观定量对比,实验结果表明,该方法能够在多种类别的复杂时间序列数据上更优的预测性能。

基于双向长短期记忆网络含间接健康指标的锂电池SOH估计

快速准确地对锂离子电池进行全寿命周期的健康状态(SOH)估计有助于提高储能设备的安全可靠性。提出一种基于间接健康指标(IHI)和鲸鱼优化算法(WOA)优化的双向长短期记忆(BiLSTM)网络相结合的锂电池SOH估计模型,该模型考虑了未来状态对当前SOH的影响。首先,对锂电池恒流恒压(CC-CV)充放电过程进行分析,提取出多个随充放电循环动态变化的电压、电流、温度的时间特征作为IHI,并加入放电负载电压下降时间这一指标;然后,通过相关性分析,从各IHI中筛选出和容量关联度高的IHI作为输入特征;最后,建立基于WOA优化的BiLSTM网络的电池SOH估计模型,并利用美国国家航天航空局锂电池数据集对2个不同工况下的电池SOH进行估计。结果表明,所提方法可有效提高SOH的估计精度。

鲸鱼优化算法-双向长短期记忆神经网络用于断路器机械剩余寿命的预测研究

低压断路器的安全可靠是电力系统能否稳定运行的关键一环,因此对断路器进行退化趋势预测和剩余寿命评估具有重要意义。基于鲸鱼优化算法(whale optimization algorithm,WOA)和双向长短期记忆神经网络(bidirectional long short-term memory,BiLSTM)提出了一种断路器操动机构剩余寿命的预测方法,首先采用Pearson相关系数法对获得的原始监测数据进行筛选,选择与断路器开断次数相关度较高的数据作为关键退化特征量,基于主成分分析法进行数据融合获得能够综合表征断路器运行状态的健康指数;随后使用滑动时间窗的方法对健康指数时间序列进行重构,再通过WOA-Bi LSTM寻优获得的最佳模型对健康指数进行时间序列预测,从而获得断路器未来多步的退化趋势;最后再根据设定的失效阈值,确定断路器操动机构的剩余寿命。实例验证表明,该文提出的混合预测模型预测精度最高可达96.43%,相比于其他传统预测模型显著提高,对于断路器的实际运维工作具有一定的指导意义。

基于残差神经网络、双向长短期记忆网络和注意力机制的肠鸣音检测方法研究

肠鸣音可以反映胃肠道的运动和健康状况,然而,传统的人工听诊方式存在主观性偏差且耗时耗力。为了更好地辅助医生对肠鸣音的诊断,提高肠鸣音检测的可靠性和高效性,该研究提出了一种结合残差神经网络(ResNet)、双向长短期记忆网络(BiLSTM)和注意力机制的深度神经网络模型。首先使用自主研发的多通道肠鸣音采集系统采集了大量带标签的临床数据,采用多尺度小波分解和重构方法对肠鸣音信号进行预处理,然后提取对数梅尔谱图特征送入网络进行训练,最后通过10折交叉验证和消融实验来评估模型的性能和验证其有效性。实验结果表明,该模型在精确率、召回率和F1分数方面分别达到了83%、76%和79%,能够有效地检测出肠鸣音片段并定位其起止时间,表现优于以往的算法。该算法不仅可以为医生在临床实践中提供辅助信息,还为肠鸣音的进一步分析和研究提供了技术支撑。

基于变分模态分解和麻雀搜索算法的双向长短期记忆网络的风电短期功率预测方法研究

针对风电随机波动性导致风电短期功率预测不准的问题,提出一种基于变分模态分解和麻雀搜索算法的双向长短期记忆网络的风电短期功率预测方法。首先采用变分模态分解将历史数据中的风电功率分解成若干个子序列,子序列中每个元素均对应一个历史时刻的气象数据向量,二者形成原始数据矩阵;然后采用基于麻雀搜索算法的双向长短期记忆网络功率预测方法对若干个原始数据矩阵分别进行建模;最后通过麻雀搜索算法自动寻出双向长短期记忆网络最优参数,并将若干个预测结果叠加形成最终预测结果。用湖南某风电场实际运行数据进行仿真测试,结果表明,所提模型的均方根误差、平均绝对误差和平均绝对百分比误差比双向长短期记忆网络模型分别减少了77.29%、75.52%和75.04%,有效提升了风电场短期功率预测精度。

基于残差双向长短期记忆效应网络模型的电力企业碳排放预测

针对电力企业碳排放核算时间长、连续排放监测系统误差大及传统模型拟合困难等问题,结合电力企业燃料燃烧的特性及现有污染物在线监测结果,成功构建了电力行业碳排放的残差双向长短期记忆效应网络(ResNet-BiLSTM)模型,并以浙江省113家电力企业的数据为样本进行验证。结果表明:与目前主流数据预测算法逻辑回归(Regression)、循环神经网络(RNN)、反向传播神经网络(BPNN)模型相比,ResNet-BiLSTM模型的平均绝对百分比误差分别低5.7、4.1、2.8百分点,对碳排放量的预测更贴近电力企业核算碳排放波动情况,且预测准确率(96%)最高。ResNet-BiLSTM模型的成功应用不仅为电力企业提供了新的碳排放预测途径,同时为提高相关管理部门的碳排放数据监管效率提供了支持。

基于扩散模型和双向长短期记忆网络的锂电池SOH估计

【目的】锂电池健康状态(state of health, SOH)的精确预测评估可以提高电池设备的安全性,降低故障的发生率。针对数据驱动方法在模型训练过程中需要大量标签样本数据的问题,提出了一种新的基于扩散模型和双向长短期记忆网络的锂电池SOH估计方法。【方法】首先,建立电池充电时间、电压和温度三者间的长期依赖关系云图;其次,设计一个时空信息捕捉模块,将该模块捕获的长期依赖信息作为扩散模型的生成条件,赋予扩散模型电池SOH数据生成能力;最后,利用双向长短期记忆网络(Bi-LSTM)对部分由原始数据和生成数据混合而成的电池数据集进行训练,并利用剩余的原始数据作为测试集对所提方法进行验证。【结果】验证结果表明,该方法不仅可以减少收集电池数据类型的周期和成本,而且能够有效预测电池SOH。【结论】该方法在电池SOH估计上具备良好的精度,可进一步探索其他电池数据集组合,优化模型结构,提高电池管理系统。

基于贝叶斯优化-卷积神经网络-双向长短期记忆神经网络的锂电池健康状态评估

准确估计电池健康状态是设备稳定运行的关键。针对当前健康状态研究中容量难以直接测量、估计模型调参费时等问题,提出基于多健康特征的贝叶斯优化(BO)算法优化卷积神经网络(CNN)与双向长短期记忆(BiLSTM)神经网络预测模型。基于NASA公开锂电池数据,提取3种健康特征。将CNN与BiLSTM结合,提高时间序列数据处理能力,加入BO算法自动搜寻最优参数集,避免组合网络模型陷入局部最优,从而减少评估时间。对比分析相关神经网络模型,结果表明所提方法预测准确度最高,可有效估计锂电池的健康状态,平均绝对误差和方均根误差均在1%以内。

基于长短期记忆网络的授时欺骗检测方法

时空信息安全是国家关键基础设施安全的基础,时间系统被阻断或受到干扰会对国家经济带来巨大损失,甚至对国防安全造成重大威胁.现有授时欺骗检测方法主要对接收机时钟模型变化特点建立模型,对欺骗进行检测.由于攻击方式的不确定性和建立的接收机时钟模型计算拟合过程中自身存在的系统误差,时钟模型参数准确拟合难度较大.环境适应能力较低.基于此,本文提出一种基于长短期记忆网络(long short-term memory,LSTM)的授时欺骗检测方法.该方法无需考虑授时欺骗的攻击方式,泛化能力强.根据授时欺骗前后接收机钟差变化的特点,利用LSTM优异的时间序列预测能力对接收机钟差变化趋势进行准确跟踪,实现对授时欺骗干扰的有效检测.最后使用TEXBAT(texas spoofing test battery)授时欺骗场景数据进行实验与分析,将LSTM与多层感知机(multilayer perceptron,MLP)进行实验对比.结果表明:LSTM授时欺骗检测的性能优于MLP.

基于卷积神经网络和双向长短期记忆网络的气温预测模型

气温与环境要素之间存在非线性关系,针对传统的预测方法难以捕捉数据的内在特征和时间相关性问题,提出一种基于卷积神经网络与双向长短期记忆网络相结合的气温预测模型。基于宿迁四个国家气象观测站的逐小时观测数据,首先通过一维卷积神经网络提取气象要素数据的空间特征,然后将这些特征引入双向长短期记忆网络中来全面学习并掌握气象要素的上下文信息,进而对气温进行有效预测。实验结果表明,与其他的预测方法相比,所提模型在空间特征提取和时序特征学习方面表现卓越,且其在气温预测的精度上有显著的优势。

基于长短期记忆网络的英语标题自动生成

为实现英文文本标题的自动化生成,研究一套基于长短期记忆网络的句子级LSTM编码策略,并在标题生成模型中引入注意力机制来获取英文文本的上下文向量,保留文本中的重要信息。在此基础上,通过负对数似然函数来对模型加以训练。最后通过Byte Cup 2018数据集对本文提出的英语标题自动生成算法进行实验,并通过过ROUGE-N指标对标题生成质量加以评价。实验研究发现,所提出的句子级LSTM编码方案在英文文本标题生成准确性方面相比于其他常规摘要生成模型来说具有显著优势。

基于改进注意力机制的时间卷积网络-长短期记忆网络短期电力负荷预测

为充分挖掘蕴含在电力负荷数据中的有效时序信息,提高短期电力负荷预测准确度,本文提出一种基于改进注意力机制的时间卷积网络(TCN)-长短期记忆(LSTM)网络负荷预测模型。首先,将时序数据输入TCN模型中进行时序特征提取;然后,将所提取的时序特征与非时序数据组合,并输入LSTM模型中进行训练;最后,采用贝叶斯优化方法进行超参数寻优以获得TCN-LSTM模型的最优参数,引入通过多层感知器(MLP)改进的注意力机制以减少历史信息丢失并加强重要信息的影响,完成短期负荷预测。通过对比多种深度学习模型的预测效果表明,本文所提模型的短期电力负荷预测准确度更高。

基于长短期记忆网络的CO_(2)气层识别方法

CO_(2)监测是油气开采中的关键环节,传统的CO_(2)监测方法面临很多挑战,在人工智能逐渐兴起的当下,深度学习技术被广泛应用于地球物理测井。珠江口盆地恩平凹陷深层CO_(2)气藏发育,传统测井方法无法准确评价储层流体。构建了基于长短期记忆网络(LSTM)的CO_(2)气层识别模型,采用m×2正则化交叉验证优选CO_(2)敏感测井参数,并对模型进行训练。利用该模型对珠江口盆地恩平凹陷L2井CO_(2)气层进行识别,并与支持向量机和K近邻算法识别结果进行对比。结果表明,3种深度学习算法对CO_(2)气层的识别效果良好,其中LSTM算法对CO_(2)气层的识别效果最好,准确度达93.4%,为深层CO_(2)气层识别工作提供了新思路。

基于图卷积和双向长短期记忆网络的受端电力系统暂态电压稳定评估

为快速、准确评估受端电力系统故障后暂态电压稳定状态并定位电压失稳节点/区域,提出一种基于图卷积网络(graph convolutional network,GCN)和双向长短期记忆网络(bidirectional long/short-term memory network,Bi LSTM)的受端电力系统暂态电压稳定评估方法。首先,基于暂态电压时序响应特性及空间分布规律,以及电力系统拓扑连接关系和各节点电气量测数据,构建表征电力系统运行状态的输入特征矩阵,以有效计及暂态电压的时空演变规律;然后,搭建由GCN和BiLSTM相结合的深度神经网络,提取具有最大相关性的暂态电压时空特征信息,进而建立时空特征与暂态电压稳定状态间的映射关系,实现暂态电压失稳节点/区域的精确定位;最后,通过修改后的IEEE-39节点测试系统和某实际电网系统算例对所提方法进行分析、验证,结果验证了所提暂态电压稳定评估方法的准确性和有效性。

基于双向长短期记忆的广州市PM_(2.5)浓度预测研究

提出一种基于双向长短期记忆网络的PM_(2.5)浓度预测方法,其可以利用深度学习模型准确预测1 h后的PM_(2.5)浓度。方法基于随机森林计算的特征重要性来选择预测模型的输入变量,并对数据进行权重分配以减少预测误差,构建双向长短期记忆网络模型最终实现对PM_(2.5)浓度的精准预测。借助广州市番禺区和南沙区2021年~2023年的监控数据进行验证分析,并与传统利用所有输入变量的方法进行对比,所提方案均方根误差减少了4.92%,平均绝对误差减小了7.57%,相对均方根误差减小了4.92%,所提方案能够获得更高的预测精度。

基于分组双阶段双向卷积长短期方法的高光谱图像超分辨率网络

文章提出基于分组的双阶段Bi-ConvLSTM网络(GDBN),可以充分利用图像的空间和光谱信息,通过使用以波段为单位的分组策略,有效缓解了计算负担,并对光谱信息进行保护。在编码器的不同阶段,对浅层信息提取模块和深度特征提取模块进行不同层次信息的提取,浅层信息提取模块能够对不同尺度的浅层特征信息进行充分捕捉,深度特征提取模块能够捕捉图像的高频特征信息。文章还引入通道注意力机制,增强网络对特征的组织能力,并在自然数据集cave上进行大量实验,效果普遍优于目前主流的深度学习方法。

基于联合注意力机制和一维卷积神经网络-双向长短期记忆网络模型的流量异常检测方法

针对流量数据集中类别不平衡限制了分类模型对少数类攻击流量的检测性能这一问题,该文提出一种基于联合注意力机制和1维卷积神经网络-双向长短期记忆网络(1DCNN-BiLSTM)模型的流量异常检测方法。首先在数据预处理过程中利用BorderlineSMOTE方法对流量数据不平衡训练样本预处理,使得各类流量数据均衡,有助于后续模型对各类数据的充分训练。然后设计联合注意力机制和1DCNN-BiLSTM的模型对流量数据进行训练,提取流量数据的局部和长距离序列特征并进行分类,通过注意力机制将对分类有用的特征按其重要性赋予权值,提高对少数攻击类的检出率。实验结果表明,同几种现有方法相比,该文方法对NSL-KDD和CICIDS2017数据集的检测准确率最高(可达93.17%和98.65%),对NSL-KDD数据集中的提权攻击(U2R)攻击流量的检出率至少提升13.70%,证明了该文方法提升少数类攻击流量检出率的有效性。

基于浣熊算法优化双向长短期记忆网络的碳价预测

针对碳排放价格预测精度欠佳的问题,提出一种基于完全集成经验模态分解(Complete ensemble empirical mode decomposition with adaptive noise,CEEMDAN)和浣熊算法(Coati optimization algorithm,COA)优化的双向长短期记忆网络(Bidirectional long short term memory network,BiLSTM)碳价预测模型。首先,采用CEEMDAN将原始碳价数据分解为若干内涵模态分量(Intrinsic mode functions,IMF);然后,运用COA对BiLSTM的参数进行优化;最后,使用COA-BiLSTM模型对IMF进行预测,将IMF预测值重构得到碳价预测值。实证结果表明,采用CEEMDAN对原始数据进行分解,使用BiLSTM模型进行预测,运用COA对预测模型参数进行优化均能有效提高碳价预测精度。

基于双向长短期记忆循环神经网络和条件随机场的钻井工况识别方法

传统钻井作业中,钻井工况主要通过基于机理模型与人工判断的方法进行识别,无法保证钻井工况识别的实时性与精准度。为此,采用近年来热门的人工智能算法,将井深与钻头位置的差、钻头位置、井深、大钩高度、大钩载荷、转速、钻压、扭矩、排量共9项钻井参数作为输入特征项,训练调优并建立了基于双向长短期记忆循环神经网络和条件随机场的钻井工况智能识别模型,对复合钻进、滑动钻进、上提开泵划眼、下放开泵划眼、静止、坐卡、原地循环等共计20种钻机动态进行实时智能识别,训练集、测试集的正确率分别为96.49%、97.23%。该模型的成功建立,验证了人工智能算法的优越性,为人工智能算法在钻井工程领域的后续应用提供了丰富经验。