基于卷积双向长短期记忆网络的微网继电保护故障诊断技术

分布式电源种类和容量不断提升的微网运行方式复杂、故障特征微弱,现有的继电保护装置故障诊断方法无法满足保护需求。提出一种基于卷积双向长短期记忆网络的微网继电保护故障诊断技术。首先,分析多能源互补微网系统架构,对采集的三相电流数据进行预处理,提高后续模型对数据的学习效率;然后,融合卷积神经网络和双向长短期记忆网络提出卷积双向长短期记忆网络的微网继电保护故障诊断方法,提取三相电流数据长序列和局部序列特征实现故障分类、故障定位,融合注意力机制,重点关注对故障诊断有影响的特征,提高故障诊断准确率;最后经过RTDS实时仿真系统进行验证,实验结果表明,所提方法故障诊断精度高、计算时间短,同卷积神经网络、长短期记忆网络、人工神经网络相比,故障分类准确率分别提升8.53%、9.62%、11.45%,故障定位准确率分别提升7.47%、10.61%、10.85%,验证所提方法的有效性与先进性。

基于多目标浣熊优化算法的双向长短期记忆神经网络预测

为了提高双向长短期记忆神经网络的预测性能,针对BiLSTM存在的预测精度低、预测结果不稳定的问题,提出了一种新的多目标浣熊优化算法;在浣熊优化算法的基础上,通过改进探索与开发算子,结合快速非支配排序与拥挤度距离计算方法建立精英浣熊保留策略,实现单目标到多目标的改进;基于所提算法,以预测均方误差及预测误差方差为目标函数对BiLSTM超参数进行优化,并建立MOCOA-BiLSTM预测模型,最终实现精确稳定预测;将所提MOCOA-BiLSTM预测模型在变电工程造价数据集上进行了仿真测试,并与其他3种主流算法优化后的模型进行了对比;结果表明,所提MOCOA-BiLSTM的平均百分比误差相比与MOSSA-BiLSTM、NSGAIII-BiLSTM、MOMVO-BiLSTM分别降低了69.59%、58.43%、56.67%。

基于双重分解和双向长短时记忆网络的中长期负荷预测模型

针对中长期电力负荷序列噪声含量高、难以直接提取序列周期规律从而影响预测精度的问题,提出了一种基于完全自适应噪声集合经验模态分解(complete ensemble empirical mode decomposition with adaptive noise,CEEMDAN)和奇异谱分析(singular spectrum analysis,SSA)双重分解的双向长短时记忆网络(bidirectional long and short time memory,BiLSTM)预测模型。首先,采用CEEMDAN对历史负荷进行分解,以得到若干个周期规律更为清晰的子序列;再利用多尺度熵(multiscale entropy,MSE)计算所有子序列的复杂程度,根据不同时间尺度上的样本熵值将相似的子序列重构聚合;然后,利用SSA去噪的功能,对高度复杂的新序列进行二次分解,去除序列中的噪声并提取更为主要的规律,从而进一步提高中长序列预测精度;再将得到的最终一组子序列输入BiLSTM进行预测;最后,考虑到天气、节假日等外部因素对电力负荷的影响,提出了一种误差修正技术。选取了巴拿马某地区的用电负荷进行实验,实验结果表明,经过双重分解可以将均方根误差降低87.4%;预测未来一年的负荷序列时,采用的BiLSTM模型将拟合系数最高提高2.5%;所提出的误差修正技术可将均方根误差降低9.7%。

基于集群辨识和卷积神经网络-双向长短期记忆-时序模式注意力机制的区域级短期负荷预测

为了解决区域级短期电力负荷预测时输入特征过多和负荷时序性较强的问题,提出一种基于集群辨识和卷积神经网络(convolutional neural networks,CNN)-双向长短期记忆网络(bi-directional long short-term memory,BiLSTM)-时序模式注意力机制(temporal pattern attention,TPA)的预测方法。首先,将用电模式和天气作为影响因素,基于二阶聚类算法对区域内的负荷节点进行集群辨识,再从每个集群中挑选代表特征作为深度学习模型的输入,这样既能减少输入特征维度,降低计算复杂度,又能综合考虑预测区域的整体特征,提升预测精度。然后,针对区域电力负荷时序性的特点,用CNN-BiLSTM-TPA模型完成训练和预测,该模型能提取输入数据的双向信息生成隐状态矩阵,并对隐状态矩阵的重要特征加权,从多时间步上捕获双向时序信息用于预测。最后,在美国加利福尼亚州实例上分析验证了所提方法的有效性。

融合BERT和双向长短时记忆网络的中文反讽识别研究

用户对微博热点话题进行评论时会使用反语、讽刺的修辞手法,其本身带有一定的情感倾向会对情感分析结果造成一定影响。因此该文主要针对中文微博评论进行反讽识别,构建了一个包含反语、讽刺和非反讽的三分类数据集,提出一个基于BERT和双向长短时记忆网络(BiLSTM)的模型BERT_BiLSTM。该模型通过BERT生成含有上下文信息的动态字向量,输入BiLSTM提取文本的深层反讽特征,在全连接层传入softmax对文本进行反讽识别。实验结果表示,在二分类和三分类数据集上,提出的BERT_BiLSTM模型与现有主流模型相比准确率和F1值均有明显提高。

双向长短期记忆网络的时间序列预测方法

时间序列预测即利用历史时间序列数据,预测未来一段时间内的数据信息,以便提前制定相应策略。目前,时间序列的类别复杂繁多,而现有的时间序列预测模型面对多种类型数据时无法取得稳定预测的结果,进而难以同时满足对现实中多种复杂的时序数据预测的应用需求。针对上述问题,提出了一种基于时间注意力机制双向长短期记忆网络的时间序列预测方法。笔者提出的网络模型采用改进的正向和反向传播机制提取时序信息并通过自适应权重分配策略推理未来的时序信息。具体来说,设计了一个改进的双向长短期记忆网络,通过结合双向长短期记忆和长短期记忆网络提取深度时间序列特征,挖掘上下文的时序依赖关系。在此基础上,融合所提出的时间注意力机制,实现对深度时间序列特征进行自适应加权,提升深度时序特征的显著性表达能力。通过与同类代表性方法在多个不同类别数据集上的客观定量对比,实验结果表明,该方法能够在多种类别的复杂时间序列数据上更优的预测性能。

基于双向长短期记忆网络与稀疏自注意力的票据文本识别方法

提出了一种基于双向长短期记忆网络(BiLSTM)与稀疏自注意力机制的票据文本识别方法。针对票据文本识别中面临的复杂布局、多变字体及背景噪声干扰等挑战,采用深度卷积神经网络进行预处理,准确提取文本区域,并将图像数据转换为序列数据输入到BiLSTM模型中。BiLSTM通过其双向结构,能够同时捕捉文本序列中的前向和后向信息,有效提高了文本理解的准确性。为了进一步提升识别性能,引入了稀疏自注意力机制,通过计算序列中不同位置之间的相关性得分,形成稀疏的注意力矩阵,从而捕捉文本中的长距离依赖关系。这种机制不仅降低了计算复杂度,还提高了模型对关键信息的关注度。实验结果表明,所提出的票据文本识别方法在处理复杂票据文本时表现出色,具有较高的识别精度和效率。与传统方法相比,所提方法能够更好地适应票据文本的多样性和复杂性,并在实际应用中展现出良好的鲁棒性和泛化能力。

基于双向长短期记忆网络含间接健康指标的锂电池SOH估计

快速准确地对锂离子电池进行全寿命周期的健康状态(SOH)估计有助于提高储能设备的安全可靠性。提出一种基于间接健康指标(IHI)和鲸鱼优化算法(WOA)优化的双向长短期记忆(BiLSTM)网络相结合的锂电池SOH估计模型,该模型考虑了未来状态对当前SOH的影响。首先,对锂电池恒流恒压(CC-CV)充放电过程进行分析,提取出多个随充放电循环动态变化的电压、电流、温度的时间特征作为IHI,并加入放电负载电压下降时间这一指标;然后,通过相关性分析,从各IHI中筛选出和容量关联度高的IHI作为输入特征;最后,建立基于WOA优化的BiLSTM网络的电池SOH估计模型,并利用美国国家航天航空局锂电池数据集对2个不同工况下的电池SOH进行估计。结果表明,所提方法可有效提高SOH的估计精度。

鲸鱼优化算法-双向长短期记忆神经网络用于断路器机械剩余寿命的预测研究

低压断路器的安全可靠是电力系统能否稳定运行的关键一环,因此对断路器进行退化趋势预测和剩余寿命评估具有重要意义。基于鲸鱼优化算法(whale optimization algorithm,WOA)和双向长短期记忆神经网络(bidirectional long short-term memory,BiLSTM)提出了一种断路器操动机构剩余寿命的预测方法,首先采用Pearson相关系数法对获得的原始监测数据进行筛选,选择与断路器开断次数相关度较高的数据作为关键退化特征量,基于主成分分析法进行数据融合获得能够综合表征断路器运行状态的健康指数;随后使用滑动时间窗的方法对健康指数时间序列进行重构,再通过WOA-Bi LSTM寻优获得的最佳模型对健康指数进行时间序列预测,从而获得断路器未来多步的退化趋势;最后再根据设定的失效阈值,确定断路器操动机构的剩余寿命。实例验证表明,该文提出的混合预测模型预测精度最高可达96.43%,相比于其他传统预测模型显著提高,对于断路器的实际运维工作具有一定的指导意义。

基于残差神经网络、双向长短期记忆网络和注意力机制的肠鸣音检测方法研究

肠鸣音可以反映胃肠道的运动和健康状况,然而,传统的人工听诊方式存在主观性偏差且耗时耗力。为了更好地辅助医生对肠鸣音的诊断,提高肠鸣音检测的可靠性和高效性,该研究提出了一种结合残差神经网络(ResNet)、双向长短期记忆网络(BiLSTM)和注意力机制的深度神经网络模型。首先使用自主研发的多通道肠鸣音采集系统采集了大量带标签的临床数据,采用多尺度小波分解和重构方法对肠鸣音信号进行预处理,然后提取对数梅尔谱图特征送入网络进行训练,最后通过10折交叉验证和消融实验来评估模型的性能和验证其有效性。实验结果表明,该模型在精确率、召回率和F1分数方面分别达到了83%、76%和79%,能够有效地检测出肠鸣音片段并定位其起止时间,表现优于以往的算法。该算法不仅可以为医生在临床实践中提供辅助信息,还为肠鸣音的进一步分析和研究提供了技术支撑。

基于双向长短期记忆网络的纺纱工艺重用知识图谱构建

针对获取碎片化纺纱工艺信息导致的生产效率低下、资源浪费及决策失误等问题,文章提出了一种基于双向长短期记忆网络的纺纱工艺重用知识图谱构建方法。首先,自上而下定义纺纱工艺相关概念、术语和关系,完成对知识图谱模式层的构建;其次,根据模式层规则来构建数据层,采用双向长短期记忆网络(Bi-directional Long Short-Term Memory,BiLSTM)模型捕捉输入序列的上下文信息作为条件随机场(Conditional Random Fields,CRF)的输入,对标签序列进行建模标注以提取关键知识信息,并通过词向量模型(Word2Vec)来计算纺纱相关的文本数据之间的相似度来实现知识融合,从而提升分词准确率;最后通过Neo4j图数据库存储抽取到的纺纱工艺知识,并可视化展示原料、工艺等复杂关系网络,可帮助纺织企业优化生产、提升决策效率。实例分析结果表明,该知识抽取方法具有较高的召回率(88.7%)、准确率(89.9%)和F 1值(89.3%),优于BiLSTM-CRF和LSTM-CRF模型,抽取效果有了显著提升。

基于改进灰狼算法优化双向长短时记忆神经网络的水冷壁壁温预测

提出一种基于改进灰狼(MGWO)算法优化双向长短时记忆(BiLSTM)神经网络的水冷壁壁温预测模型,灰狼算法采用非线性因子调整策略、自适应位置更新策略和动态权重修改策略进行改进以提升算法的全局寻优能力,利用改进灰狼算法优化BiLSTM模型的隐藏层数量、学习率和正则化参数以提高模型的预测精度,采用新疆某电厂的数据进行预测仿真,结果表明:改进后的算法预测精度更高,在机组升、降负荷时,均可以预测到壁温的变化趋势,模型的平均均方根误差相比于长短时记忆(LSTM)神经网络、BiLSTM模型分别降低了9.86%和3.69%,且可以提前预测到水冷壁壁温的超温情况,对于预防水冷壁超温有重要意义。

改进双向长短期记忆神经网络的瓦斯涌出量预测

为提高瓦斯涌出量预测精度,降低煤矿回采工作面瓦斯涌出超限事故的风险,针对瓦斯涌影响因素众多、难以预测等问题,采用灰狼优化算法(Grey Wolf Optimization,GWO)双向长短期记忆神经网络(Bi-directional Long Short-Term Memory,BiLSTM)的组合模型预测瓦斯涌出量。首先,运用主成分分析法(Principal Components Analysis,PCA)处理瓦斯涌出影响因素,降低数据维度,以减少模型计算时的负担;其次,利用GWO优化BiLSTM模型的学习率(best_lr)、隐藏层层数(best_hd)以及正则化系数(best_l2),可有效避免局部最优解问题,并采用决定系数(R-Square,R^(2))、均方根误差(Root Mean Square Error,RMSE)和平均绝对误差(Mean Absolute Error,MAE)对所建模型预测的结果进行综合评价分析;最后,将该模型应用于内蒙古自治区某矿回采工作面预测瓦斯涌出量。结果显示:PCA GWO BiLSTM组合模型相比于长短期记忆神经网络(Long Short-Term Memory,LSTM)和双向长短期记忆神经网络对应的单一模型,其MAE分别降低20.81%、30.17%,RMSE分别降低0.063、0.142,R^(2)则分别提高了0.023、0.075,表明该模型在复杂因素条件下具有更高的精准度、泛化性和鲁棒性。

基于双向长短时记忆网络和自注意力机制的药物-药物相互作用预测

提出了一种基于双层双向长短时记忆网络(bi-directional long short term memory,BiLSTM)和自注意力(self-attention)机制的药物-药物相互作用(drug-drug interactions,DDIs)预测方法SA-BiLSTM。首先,利用FP3指纹、MACCS指纹、Pubchem指纹和PaDEL分子描述符对药物特征信息进行提取。其次,使用套索回归(least absolute shrinkage and selection operator,Lasso)方法消除对分类无关的特征,并利用重复编辑最近邻(repeated edited nearest neighbors,RENN)方法对数据进行平衡处理,得到最优特征向量。最后,将最优特征向量输入结合自注意力机制和双向长短时记忆网络的分类器预测DDIs。基于五折交叉验证,同时与其它预测方法进行比较,本工作所提出的方法在两个数据集上获得较高的预测准确率。为了综合评价SA-BiLSTM的性能,对药物-药物相互作用网络进行验证。实验结果表明,SA-BiLSTM表现出优秀的预测能力,可以为DDIs的预测提供一种新的思路。

基于贝叶斯优化-卷积神经网络-双向长短期记忆神经网络的锂电池健康状态评估

准确估计电池健康状态是设备稳定运行的关键。针对当前健康状态研究中容量难以直接测量、估计模型调参费时等问题,提出基于多健康特征的贝叶斯优化(BO)算法优化卷积神经网络(CNN)与双向长短期记忆(BiLSTM)神经网络预测模型。基于NASA公开锂电池数据,提取3种健康特征。将CNN与BiLSTM结合,提高时间序列数据处理能力,加入BO算法自动搜寻最优参数集,避免组合网络模型陷入局部最优,从而减少评估时间。对比分析相关神经网络模型,结果表明所提方法预测准确度最高,可有效估计锂电池的健康状态,平均绝对误差和方均根误差均在1%以内。

基于变分模态分解和麻雀搜索算法的双向长短期记忆网络的风电短期功率预测方法研究

针对风电随机波动性导致风电短期功率预测不准的问题,提出一种基于变分模态分解和麻雀搜索算法的双向长短期记忆网络的风电短期功率预测方法。首先采用变分模态分解将历史数据中的风电功率分解成若干个子序列,子序列中每个元素均对应一个历史时刻的气象数据向量,二者形成原始数据矩阵;然后采用基于麻雀搜索算法的双向长短期记忆网络功率预测方法对若干个原始数据矩阵分别进行建模;最后通过麻雀搜索算法自动寻出双向长短期记忆网络最优参数,并将若干个预测结果叠加形成最终预测结果。用湖南某风电场实际运行数据进行仿真测试,结果表明,所提模型的均方根误差、平均绝对误差和平均绝对百分比误差比双向长短期记忆网络模型分别减少了77.29%、75.52%和75.04%,有效提升了风电场短期功率预测精度。

基于残差双向长短期记忆效应网络模型的电力企业碳排放预测

针对电力企业碳排放核算时间长、连续排放监测系统误差大及传统模型拟合困难等问题,结合电力企业燃料燃烧的特性及现有污染物在线监测结果,成功构建了电力行业碳排放的残差双向长短期记忆效应网络(ResNet-BiLSTM)模型,并以浙江省113家电力企业的数据为样本进行验证。结果表明:与目前主流数据预测算法逻辑回归(Regression)、循环神经网络(RNN)、反向传播神经网络(BPNN)模型相比,ResNet-BiLSTM模型的平均绝对百分比误差分别低5.7、4.1、2.8百分点,对碳排放量的预测更贴近电力企业核算碳排放波动情况,且预测准确率(96%)最高。ResNet-BiLSTM模型的成功应用不仅为电力企业提供了新的碳排放预测途径,同时为提高相关管理部门的碳排放数据监管效率提供了支持。

基于双向长短期记忆的广州市PM_(2.5)浓度预测研究

提出一种基于双向长短期记忆网络的PM_(2.5)浓度预测方法,其可以利用深度学习模型准确预测1 h后的PM_(2.5)浓度。方法基于随机森林计算的特征重要性来选择预测模型的输入变量,并对数据进行权重分配以减少预测误差,构建双向长短期记忆网络模型最终实现对PM_(2.5)浓度的精准预测。借助广州市番禺区和南沙区2021年~2023年的监控数据进行验证分析,并与传统利用所有输入变量的方法进行对比,所提方案均方根误差减少了4.92%,平均绝对误差减小了7.57%,相对均方根误差减小了4.92%,所提方案能够获得更高的预测精度。

基于双向长短时记忆网络的并网微电网能量供需平衡优化

为保证并网微电网的稳定运行,针对微电网负荷波动较大,稳定性较差的问题,提出基于双向长短时记忆网络的并网微电网能量供需平衡优化方法。该方法通过双向长短时记忆网络划分并网微电网中的负荷类别,并引入注意力机制优化分类结果,获取并网微电网中的可控负荷结果;结合该结果和储能系统的能量损失情况、风光综合功率波动水平,构建目标函数并确定约束条件,采用改进帝国竞争算法求解目标函数,获取保证获取全局负荷调度最佳结果,实现并网微电网能量供需平衡优化。测试结果显示:该方法能够有效调度并网微电网中负荷,调整并网微电网供需侧有功和无功功率的结果,使其在±0.50kvar内范围波动,优化后满足微电网中的而负荷需求;保证微电网的稳定运行。

基于扩散模型和双向长短期记忆网络的锂电池SOH估计

【目的】锂电池健康状态(state of health, SOH)的精确预测评估可以提高电池设备的安全性,降低故障的发生率。针对数据驱动方法在模型训练过程中需要大量标签样本数据的问题,提出了一种新的基于扩散模型和双向长短期记忆网络的锂电池SOH估计方法。【方法】首先,建立电池充电时间、电压和温度三者间的长期依赖关系云图;其次,设计一个时空信息捕捉模块,将该模块捕获的长期依赖信息作为扩散模型的生成条件,赋予扩散模型电池SOH数据生成能力;最后,利用双向长短期记忆网络(Bi-LSTM)对部分由原始数据和生成数据混合而成的电池数据集进行训练,并利用剩余的原始数据作为测试集对所提方法进行验证。【结果】验证结果表明,该方法不仅可以减少收集电池数据类型的周期和成本,而且能够有效预测电池SOH。【结论】该方法在电池SOH估计上具备良好的精度,可进一步探索其他电池数据集组合,优化模型结构,提高电池管理系统。