基于LSTM循环神经网络的船舶运动极短期预报

长短期记忆(LSTM)循环神经网络对于预报非线性时间序列有优势,尝试将LSTM网络应用于船舶运动极短期预报。利用某破冰船在北冰洋航行时两段典型海况下的横摇和纵摇运动实测数据,探究LSTM神经网络模型的预报精度和有效时长。研究发现,LSTM神经网络模型在海况良好、船舶的运动周期性强且主导频率突出时可以取得满意预报效果。但随着时长的增加,误差会不断累积,精确度逐步降低。在编码器-解码器逐步迭代框架基础上利用多层感知机提出直接多步预报改进模型。研究发现,改进模型可以有效减少误差积累、提高预报精度和延长有效时间,尤其在恶劣海况下预报结果改善更为显著。研究成果可以为基于神经网络开发高效准确的船舶运动极短期预报方法提供参考。

应用长短期记忆循环神经网络的弱反射信号增强方法

由于沉积环境的特殊性和复杂性,地下介质中不同反射界面的波阻抗差可能差异巨大。如果储层的有效反射信息较弱,在地震数据中极可能被强反射信息掩盖,不易被识别,影响了储层识别效果,因此亟需一种解释性处理技术突出弱反射信息。常规方法一般是先从地震数据中分离出强反射分量,再将它削弱或删除。但如果地震子波提取不准确,减去法中强反射残留会引入虚假信号。文中提出了一种“升弱降强”的新思路,通过构建幂次反射系数映射模型缩小弱反射信号与强反射信号的相对差异。首先计算测井反射系数的幂次反射系数,将弱反射系数相对增大、强反射系数相对减小,得到拟反射系数序列;再用原始反射系数序列和拟反射系数序列分别与地震子波进行褶积运算,得到合成地震记录和拟合成地震记录,生成训练样本集;然后用该样本集训练长短期记忆(LSTM)循环神经网络,建立合成地震记录与拟合成地震记录的映射关系;最后将该网络应用于地震数据,增强了地震弱反射信号。模型和实际数据应用结果表明,该方法能有效增强地层本身引起的弱反射信号,提高地震数据的储层识别能力。

基于双向长短期记忆循环神经网络和条件随机场的钻井工况识别方法

传统钻井作业中,钻井工况主要通过基于机理模型与人工判断的方法进行识别,无法保证钻井工况识别的实时性与精准度。为此,采用近年来热门的人工智能算法,将井深与钻头位置的差、钻头位置、井深、大钩高度、大钩载荷、转速、钻压、扭矩、排量共9项钻井参数作为输入特征项,训练调优并建立了基于双向长短期记忆循环神经网络和条件随机场的钻井工况智能识别模型,对复合钻进、滑动钻进、上提开泵划眼、下放开泵划眼、静止、坐卡、原地循环等共计20种钻机动态进行实时智能识别,训练集、测试集的正确率分别为96.49%、97.23%。该模型的成功建立,验证了人工智能算法的优越性,为人工智能算法在钻井工程领域的后续应用提供了丰富经验。

基于短期循环信贷模式的建筑施工企业融资租赁研究

建筑企业融资租赁可以在很大程度上缓解资金流问题,但是简单的融资租赁由于时间耗用较长,会产生较多的利息,而利用短期循环贷款模式进行融资租赁就能较好地解决这个问题。

基于长短期记忆循环神经网络的AGC实时控制策略

大量新能源的接入以及电网中冲击负荷数量的剧增,使得电网对自动发电控制(AGC)策略提出了新的要求。简化AGC的一般控制流程,对比不同AGC策略的控制特性,在每个考核周期内选择控制效果更优的控制策略,并充分发挥多种控制策略在各自优势工况下的性能,以得到优秀控制数据集;在此基础上,以长短期记忆(LSTM)循环神经网络为神经元构建AGC策略深度学习模型,并提出一种基于LSTM循环神经网络的数据驱动型AGC实时控制策略。仿真结果表明,基于深度学习的控制策略的整体性能优于任何单一控制策略。

短期循环信贷模式下的融资租赁

施工企业采用短期循环信贷模式进行融资租赁,是一种适合中国市场的新型建筑施工企业融资租赁模式,能够实现多方共赢,具有广阔的市场和前景。由于建筑行业自身的特点,设备的购置和技术水平的提高成为施工企业发展壮大的基础,设备和技术不仅可以作为企业获得承接工程项目的实力体现,而且设备还可以作为企业的固定资产,为企业规模的再扩大提供强有力的硬件支持。

LSTM循环神经网络的高速铁路越区切换算法

在高速铁路列车运行过程中,为了保持不中断通信,列车需要不断地与基站进行越区切换。越区切换作为LTE-R通信的关键技术,对于保障行车安全至关重要。针对下一代高速铁路无线通信LTE-R系统越区切换算法,因迟滞门限参数固定而导致切换成功率低等问题,提出了一种基于长短期记忆循环神经网络的高速铁路越区切换算法。首先,利用长短期记忆神经网络的记忆特性以及高速铁路越区切换重叠区信号时空相关性的特点,构建了基于长短期记忆循环神经网络的越区切换迟滞门限参数动态预测深度学习网络;其次,通过提出的长短期记忆深度学习模型,对越区切换迟滞参数进行线下训练和线上预测来获取未来时刻的切换门限值,实现了对越区切换迟滞参数的自适应预测,克服了迟滞门限参数固定的缺点;最后,通过仿真实验的结果表明,所提基于长短期记忆循环神经网络的高速铁路越区切换算法较其他比较方法能够有效地提高越区切换的成功率,并降低乒乓切换率的影响。

基于长短期记忆循环神经网络的伊拉克H油田碳酸盐岩储层渗透率测井评价

伊拉克H油田碳酸盐岩储层孔隙结构复杂,孔隙类型多样,给渗透率测井评价工作带来了极大困难。针对这一问题,建立了基于测井序列信息的长短期记忆(LSTM)循环神经网络渗透率预测模型。从测井响应差异以及测井序列信息出发,优选敏感测井曲线,搭建LSTM循环神经网络,训练网络并优化网络参数,建立了基于LSTM循环神经网络的伊拉克H油田碳酸盐岩储层渗透率预测模型。应用该模型对伊拉克H油田进行渗透率测井评价,并将预测结果与灰色系统预测模型GM(0,N)进行对比。结果表明:相对于灰色系统预测模型的结果,基于LSTM循环神经网络的渗透率预测模型的均方根误差降低了29.47%,皮尔逊(Pearson)相关系数提高了6.59%,取得了较好的应用效果。该模型能够充分挖掘测井曲线与渗透率之间关系的信息,提升了储层渗透率评价精度。

基于变分模态分解和分位数卷积-循环神经网络的短期风功率预测

由于风力发电的随机性和间歇性,风功率预测不仅需要准确的点预测,而且需要可靠的区间预测和概率预测来量化风功率的不确定性。提出了一种基于变分模态分解(variational mode decomposition,VMD)和分位数卷积-循环神经网络的风功率概率预测模型。首先,使用VMD技术将原始风功率数据序列分解为一系列特征互异的模态分量,再通过卷积神经网络(convolutional neural network,CNN)提取反映各模态分量动态变化的高阶特征。然后,基于提取的高阶特征进行分位数回归建模,采用长短期记忆(long shortterm memory,LSTM)循环神经网络预测未来任意时刻不同分位数条件下的风功率值。最后,利用核密度估计(kernel density estimation,KDE)得到风功率概率密度曲线。以中国某风电场数据作为算例测试,证明了所提出模型的有效性。

基于长短期记忆循环神经网络的变电站监控系统智能故障推理方法

针对变电站故障推理和分析应用存在人工总结的规则不全面、总结难度大、干扰信号多、故障推理配置可重用性低,以及故障推理往往需要考虑输入信号的时序性等问题,而采用传统机器学习算法无法有效解决此问题,提出一种基于长短期记忆循环神经网络(LSTM-RNN)、自然语言处理技术的变电站智能故障推理方法。分析了故障推理的应用场景,介绍了智能故障推理方法的整体架构、关键技术,并通过实际数据的应用试验进行了测试,验证了不依赖人工规则的智能故障推理方法的可行性,在信号时序可以记忆的场景中LSTM-RNN比其他机器学习算法有更好的适用性。

基于机器学习的短期电力负荷预测方法比较及改进研究

针对电力系统对短期电力负荷预测精确性的需求,以长短期记忆算法为基础,采用差分自适应进化算法对其进一步改进,从而提出一种基于机器学习的混合算法(SaDE-LSTM)对电力负荷进行短期预测。基于我国2004—2018年间月度社会用电负荷数据,对改进后的混合算法进行性能测试,首先利用差分进化算法的自适应变异和交叉因子来优化长短期记忆算法的初始参数,在此基础上,运用寻优得到的参数训练长短期记忆算法从而得到优化后的预测结果。为证明其优越性,对同组数据采用支持向量机(SVM)、反向传播神经网络、自回归积分滑动平均等算法分别预测。各方法预测结果和真实结果对比分析证明,SaDE-LSTM算法对时间序列数据量要求较低,同时相比其他传统算法有更高的预测精度。该改进算法能够为参与电力系统调度的虚拟电厂、负荷聚合商等对小样本和高精度预测有需求的主体提供参考。

基于循环神经网络的重力异常数据推估研究

利用鄂尔多斯西南缘的重力观测数据对长短期记忆循环神经网络(long short-term memory,LSTM)进行训练,结果表明,该神经网络可基于有限的数据获取较好的推估结果。基于自由空气重力异常数据,对比分析长短期记忆循环神经网络和传统克里金方法的推估结果发现,神经网络的推估能力优于传统克里金方法,但运算效率低于后者。利用自由空气重力异常对整个区域进行推估,结果表明,LSTM方法明显优于克里金方法,加入高程数据作为约束条件可有效提升LSTM方法推估自由空气重力异常场的精度。

一种基于LSTM循环神经网络和振动测试的结构损伤检测方法

提出一种基于长短期记忆(LSTM)循环神经网络的损伤检测方法,通过直接提取结构动态测试时域数据中的特征实现结构的损伤识别,基于不同损伤情况的重力坝有限元模型生成的加速度数据对LSTM网络进行在不同噪声水平下进行训练和测试,采用网格搜索方法对网络超参数进行优化。数值试验和试验室悬臂梁振动试验结果表明基于LSTM的损伤检测方法具有很高的损伤识别准确率和抗噪能力,其性能相对传统的循环神经网络(RNN)和门控循环单元(GRU)神经网络,不同损伤工况测试准确率均有提升,最高达16.25%。

基于特征相关分析修正的GPSO-LSTM短期负荷预测

针对多因素互影响造成负荷预测精度低的问题,提出一种基于特征相关分析修正与全局粒子群优化(GPSO)的长短期记忆循环神经网络(LSTM)短期负荷预测新方法。该方法首先对负荷相关序列进行探索性数据分析(EDA)及预处理,找寻特征内在机理与相关联系并加以修正,保证输入特征的强相关性和完整性。针对传统前馈神经网络无法处理序列关联信息和普通循环神经网络无法记忆久远关键信息的缺陷,构建基于LSTM负荷预测模型进行深度学习。由于LSTM网络权值的随机初始化,使得目标函数在训练过程中易陷入局部最优,利用改进粒子群算法优化预测模型的网络权值,提升模型整体预测能力。与反向传播神经网络(BPNN)和递归神经网络(Elman)的基准模型相比,所提模型方法的预测精度提高显著。

隐式特征和循环神经网络的多声部音乐生成系统

音乐生成是一种使用算法来生成音乐序列的研究。本文针对音乐样本特征提取以及自动作曲问题提出了一种基于音乐隐式特征和循环神经网络(recurrent neural network, RNN)的多声部音乐生成算法。该方法通过使用栈式自编码器对多声部音乐序列每个时间步的音符隐式特征进行提取,结合长短期记忆循环神经网络(long short-term memory, LSTM),以序列预测的方式搭建了基于隐式特征的音乐生成模型。仿真结果表明,该音乐生成算法在使用相同风格的音乐数据训练后,得到的模型可以生成旋律与和弦匹配较好的多声部音乐数据。

循环神经网络在结构损伤识别中的应用研究

通过直接提取结构动态测试时序数据中的特征来实现结构的损伤识别,基于重力坝有限元模型在不同损伤情况下生成的加速度时序数据对循环神经网络进行训练和测试,以对循环神经网络在结构损伤识别中的应用进行研究.首先比较了传统循环神经网络(RNN)、长短期记忆(LSTM)循环神经网络和门控循环单元(GRU)神经网络的性能,然后采用网格搜索和随机搜索对LSTM循环神经网络的超参数进行优化.结果表明,相较于传统的循环神经网络(RNN)和门控循环单元(GRU)神经网络,LSTM循环神经网络在不同损伤工况下的识别准确率均有提升,最高达46.5%.数值试验结果表明在保证一定准确率的基础上,随机搜索比网格搜索用时缩短了85.2%,大大提升了搜索效率.

LSTM的单变量短期家庭电力需求预测

针对短期家庭电力数据随机性强,数据维度低等问题,提出了一种基于长短期记忆循环神经网络(LSTM)的单变量短期家庭电力需求预测模型.实验表明,该模型能够准确反映以小时为单位的家庭电力需求趋势,且在不同家庭上的泛化性能优于传统的循环神经网络(RNN)和门控循环网络(GRU).

一种基于深度学习日志分析模型的压力测试算法

软件新系统上线前,常常需要对生产运行的系统开展压力测试,以规避系统因突发巨量客户端访问或生产过程中多用户集中操作,而出现报错及系统崩溃等严重问题。本文提出了一种基于深度学习日志分析模型的压力测试算法,该算法基于现有生产日志数据创建双向长短期记忆循环神经网络(Bi-LSTM)的分析模型,搭建并预测基于生产日志规律的闭环测试场景,模拟预测生产环境的理论测试场景,作为传统基于规则压力测试方法的补充。实验结果表明,使用本文所提双向LSTM分析模型可以有效地模拟生产日志的规律,使得压力测试更贴近真实场景,能有效观察系统运行状况,多维度了解系统性能的极限和缺陷。

一种基于LSTM-RNN的脉冲大倍率工况下锂离子电池仿真建模方法

锂离子电池是电力系统中不可或缺的重要储能元件,脉冲大倍率工况下运行的锂离子电池具有单次放电时间短、放电循环多、状态变化频繁、非线性极化现象明显等特点。该文以脉冲大倍率工况下锂离子电池模型为研究对象,针对电化学模型和等效电路模型对模型依赖度高、模型参数难以获取以及脉冲大倍率工况下非线性极化现象导致拟合精度不足等问题,提出基于长短期记忆循环神经网络(long short term memory recurrent neural network,LSTM-RNN)以实现准确的锂离子电池建模。该方法利用LSTM-RNN的动态逼近和长时记忆能力,以获取脉冲大倍率工况下锂离子电池性能参数和电池端电压、荷电状态、电流、温度之间的非线性关系。在6种脉冲大倍率放电工况下对磷酸铁锂电池进行建模,实验结果表明,所提出的基于长短期记忆循环神经网络的锂离子电池模型均能够准确表征磷酸铁锂电池工作特性。

基于神经网络的文本风格转换

文本风格转换在书面创作、品牌推广等许多方面具有良好的应用前景,近年来也逐渐成为研究热点。现有的文本转换工作对风格表示简单,无法适应文本风格差异较大的场景。本文提出一种基于注意力机制的风格表示方法,增加风格特征携带的信息量。文本的文本风格转换模型包括以下步骤:首先对输入句子的词序列与词性序列进行向量化,之后经过两个Bi-LSTM编码器分别计算文本的内容与风格特征序列,将内容序列作用于LSTM解码器生成词汇,而风格序列则经过本文提出的风格调整方法,对输出的词汇概率进行调整,最终输出为指定风格的句子。实验结果表明,对于不同类型的数据,模型的转换准确率与内容保存程度均有更好表现。