基于EMD-LSTM人工神经网络的云冈石窟环境参数预测

环境参数会直接影响石窟的风化过程,因此,预测环境参数是进行云冈石窟有效保护的重要内容.以云冈石窟第十窟为例,将壁温、环境湿度、环境温度的实测时序数据作为环境参数,使用经验模态分解(empirical model decomposition,EMD)对实测时序数据进行分解,研究了固有模态函数(intrinsic mode function,IMF)分量与实测时序数据的相关性,建立了基于EMD-长短期记忆(long short-term memory,LSTM)的人工神经网络(artificial neural network,ANN)组合模型.使用平均绝对误差(mean absolute error,MAE)、均方根误差(root mean square error,RMSE)、平均绝对百分比误差(mean absolute percentage error,MAPE)、决定系数(R2)作为评价指标,对比分析了使用组合模型与使用单一LSTM的ANN模型进行环境参数预测的效果.结果表明:IMF分量的变化速率越大,与实测时序数据的相关性就越强;对于组合模型中的LSTM网络模型,当隐藏层层数和初始学习率分别取2和0.001时,组合模型预测效果最优;与单一LSTM的ANN模型相比,使用基于EMD-LSTM的ANN组合模型,环境参数的MAE、RMSE、MAPE值减小、R2值增大,模型预测精度提高;环境参数预测效果主要受环境参数变化幅度的影响,变化幅度越小,组合模型预测效果越好.研究成果对于石窟文物保护具有一定的参考价值.

基于长短期记忆神经网络的检修态电网低频振荡风险预测方法

随着电网规模扩大和电力元件不断增加,电力系统检修方式变得日趋复杂,仅依靠传统方法难以对海量检修方式下电网的低频振荡风险进行评估。针对此问题,提出了一种基于长短期记忆(long short term memory,LSTM)神经网络的检修态电网低频振荡风险预测方法。首先,提出了电力系统检修方式的统一编码方法,使计算机能够快速、准确识别电网在各种检修方式下的运行状态;然后,基于同步相量测量单元(phasor measurement unit,PMU)实时测量的电网历史运行数据,利用LSTM神经网络对不同检修方式下电网的低频振荡次数进行预测,从而评估检修态电网发生低频振荡的风险;最后,以华中地区某省级电网为算例,验证了所提方法的准确性和快速性。

基于LSTM人工神经网络的电力系统负荷预测方法

针对电力市场环境下短期电力系统负荷预测准确性较低的问题,提出了一种基于LSTM人工神经网络的组合预测模型。分析了LSTM神经网络和其变体GRU神经网络在进行负荷预测时学习时序特征的独特优势,并以卷积神经网络作为负荷数据的特征提取层,结合GRU网络构建了组合模型,通过建立残差预测模型对结果进行修正。仿真结果表明,具有记忆功能的神经网络预测效果要优于ANN和SVM模型,且所提出残差预测模型的负荷预测平均相对误差约为1.79%,其准确性高于单一算法的负荷预测模型。

基于人工神经网络的自然语言处理技术研究

文章探讨了基于人工神经网络的自然语言处理技术,首先,阐述了人工神经网络的定义、结构、工作原理,以及与深度学习的关系。其次,详细研究了基于人工神经网络的自然语言处理技术,包括神经网络模型、词嵌入技术、循环神经网络、长短期记忆网络、转换器模型与自注意力机制等,并分析了这些技术面临的挑战。最后,通过实验设计与结果分析验证了所提出方法的有效性。文章研究内容对于推动自然语言处理技术的发展和应用具有重要意义。

应用长短期记忆循环神经网络的弱反射信号增强方法

由于沉积环境的特殊性和复杂性,地下介质中不同反射界面的波阻抗差可能差异巨大。如果储层的有效反射信息较弱,在地震数据中极可能被强反射信息掩盖,不易被识别,影响了储层识别效果,因此亟需一种解释性处理技术突出弱反射信息。常规方法一般是先从地震数据中分离出强反射分量,再将它削弱或删除。但如果地震子波提取不准确,减去法中强反射残留会引入虚假信号。文中提出了一种“升弱降强”的新思路,通过构建幂次反射系数映射模型缩小弱反射信号与强反射信号的相对差异。首先计算测井反射系数的幂次反射系数,将弱反射系数相对增大、强反射系数相对减小,得到拟反射系数序列;再用原始反射系数序列和拟反射系数序列分别与地震子波进行褶积运算,得到合成地震记录和拟合成地震记录,生成训练样本集;然后用该样本集训练长短期记忆(LSTM)循环神经网络,建立合成地震记录与拟合成地震记录的映射关系;最后将该网络应用于地震数据,增强了地震弱反射信号。模型和实际数据应用结果表明,该方法能有效增强地层本身引起的弱反射信号,提高地震数据的储层识别能力。

基于时空特征向量的长短期记忆人工神经网络的城市公交旅行时间预测

针对"随着预测距离的增加,旅行时间预测的难度加大"的问题,提出了一种基于时空特征向量的长短期记忆(LSTM)和人工神经网络(ANN)的综合预测模型。首先,将24 h切分为288个时间切片,以生成时间特征向量;然后,基于时间切片建立LSTM时间窗口模型,该模型可解决长期预测的窗口移动问题;其次,将公交线路切分为多个空间切片,并使用当前空间切片的共同平均速度作为瞬时速度,同时将每个空间切片的预测时间用作空间特征向量,并将其发送到新型的混合神经网络模型LSTM-A中,该模型结合两种预测模型的优点并解决了公交旅行时间预测问题;最后,基于实验数据集进行了实验和测试:将公交站点间的预测问题划分为线路切片预测子问题,并针对每个相关的子问题引入了实时计算的概念,从而避免了复杂路况带来的预测误差。实验结果表明,所提算法在准确性、适用性方面均优于单个神经网络模型。综上,所提的新型混合神经网络模型LSTM-A能从时间特征的维度实现长距离到站预测、从空间特征的维度实现短距离到站预测,从而有效地解决了城市公交旅行时间预测问题,避免了公交车辆的远程依赖和错误积累。

基于长短期记忆神经网络的检修态电网暂态稳定评估方法

随着电网规模不断扩大,电力元件持续增多,电力系统检修方式日趋复杂,仅依靠传统方法难以对海量检修方式下电网的暂态稳定风险进行评估。针对此问题,提出一种基于长短期记忆(LSTM)神经网络的检修态电网暂态稳定风险评估方法。首先提出电力系统检修方式的统一编码方法,使计算机能够快速、准确识别电网在各种检修方式下的运行状态,然后建立长短期记忆神经网络并基于大量检修态电网故障样本对网络进行训练,最终实现对不同检修方式下电网暂态稳定程度的准确评估。最后,以华中地区某省级电网为算例,验证了所提方法的准确性。

改进粒子群优化LSTM神经网络的基坑地表沉降预测

长短期记忆网络(LSTM)拥有较强的非线性拟合能力,近年来被较多用于基坑变形或沉降预测分析中.针对LSTM存在重要参数确定比较困难的问题,提出采用改进的粒子群算法(IPSO)对LSTM神经网络中的迭代次数、批处理大小、隐含层神经元数量进行寻优.改进的粒子群算法通过引入遗传算法中的变异机制,避免了粒子群算法(PSO)在前期寻优时陷入局部最优,同时利用非线性变化权重和改进学习因子的方法提高了PSO的寻优效率.利用提出的PSO-LSTM方法对实际基坑沉降进行预测分析,并将预测结果与PSO-LSTM、LSTM的预测结果进行对比,发现PSO-LSTM较LSTM、PSO-LSTM的平均百分比误差相对降低了56.47%、11.92%.验证了IPSO-LSTM对基坑地表沉降预测的准确性.

一种改进组合神经网络的超短期风速预测方法研究

超短期风速预测是保障风电机组桨距角前馈控制实施效果的关键,对提高风电机组环境适应性具有重要影响。为了提高预测精度,提出了一种改进组合神经网络的超短期风速预测方法。该方法选择适合时间序列预测且具有较强非线性学习能力的BP神经网络和长短期记忆(long short-term memory,LSTM)神经网络进行加权组合,以消除单个神经网络可能存在的较大误差;同时,为了提高组合效果,采用差分进化算法对组合权重进行优化。将该方法应用于某风场超短期风速预测中,通过与单神经网络预测、等权重组合神经网络预测的结果对比,验证了所提方法在提高预测精度上的有效性。

基于长短期记忆网络的英语标题自动生成

为实现英文文本标题的自动化生成,研究一套基于长短期记忆网络的句子级LSTM编码策略,并在标题生成模型中引入注意力机制来获取英文文本的上下文向量,保留文本中的重要信息。在此基础上,通过负对数似然函数来对模型加以训练。最后通过Byte Cup 2018数据集对本文提出的英语标题自动生成算法进行实验,并通过过ROUGE-N指标对标题生成质量加以评价。实验研究发现,所提出的句子级LSTM编码方案在英文文本标题生成准确性方面相比于其他常规摘要生成模型来说具有显著优势。

基于长短期记忆网络的CO_(2)气层识别方法

CO_(2)监测是油气开采中的关键环节,传统的CO_(2)监测方法面临很多挑战,在人工智能逐渐兴起的当下,深度学习技术被广泛应用于地球物理测井。珠江口盆地恩平凹陷深层CO_(2)气藏发育,传统测井方法无法准确评价储层流体。构建了基于长短期记忆网络(LSTM)的CO_(2)气层识别模型,采用m×2正则化交叉验证优选CO_(2)敏感测井参数,并对模型进行训练。利用该模型对珠江口盆地恩平凹陷L2井CO_(2)气层进行识别,并与支持向量机和K近邻算法识别结果进行对比。结果表明,3种深度学习算法对CO_(2)气层的识别效果良好,其中LSTM算法对CO_(2)气层的识别效果最好,准确度达93.4%,为深层CO_(2)气层识别工作提供了新思路。

基于多变量混合长短期记忆神经网络的长沙PM_(2.5)预报模型

为了提高PM_(2.5)浓度预报准确率,基于长短期记忆(long short-term memory,LSTM)神经网络构建多变量混合预报模型(hybrid long short-term memory,hLSTM),利用空气质量数据、气象数据和日期时间信息对长沙10个空气质量监测站未来24 h PM_(2.5)浓度进行逐小时预报,并对模型精度进行评估。结果表明:hLSTM逐小时PM_(2.5)预报模型误差随预报时效的增加呈现前陡后缓逐步增大,均方根误差(root mean squared error,RMSE)、平均绝对误差(mean absolute error,MAE)和平均绝对百分比误差(mean absolute percentage error,MAPE)分别从1 h的6.53μg/m^(3)、4.03μg/m^(3)和16.02%增大到24 h的20.62μg/m^(3)、13.56μg/m^(3)和47.34%;模型误差存在明显的季节性差异,呈现冬季>秋季>春季>夏季的特征;相较于基于决策树(decision trees,DTs)、循环神经网络(recurrent neural network,RNN)和普通LSTM的预报模型,hLSTM模型能更好地提取长沙PM_(2.5)浓度数据的时序特征,达到更高的预报精度;利用hLSTM模型对长沙2019年12月13—16日重污染天气过程PM_(2.5)浓度进行预报,各时效的预报结果均能反映污染过程中PM_(2.5)的变化趋势,其中3 h内的预报结果与观测值吻合程度较高。可见hLSTM可较好提取长沙PM_(2.5)浓度变化特征,为其短临预报提供一种新思路。

长短期记忆神经网络在厦门风暴潮预报中的应用

利用长短期记忆神经网络(LSTM)模型强大的长短期记忆能力,建立厦门风暴潮增水预报的人工神经网络模型。利用信息流理论确定了影响增水的10种因子,分别利用不同因子组合测试了不同模型的表现,确定了表现最佳的因子组合。基于此因子组合,对比了LSTM模型和常用的BP神经网络模型、SVM模型和线性回归模型,确定了LSTM模型在风暴潮增水上的优势。基于LSTM最佳预测模型预测了1、2、3及6 h风暴潮增水值,并基于三种不同台风路径分析了模型的平均绝对误差、相关系数、有效系数和极值偏差指标。结果显示,LSTM模型在预报风暴潮短期增水有很高精度,可为防灾减灾提供辅助和参考。

基于长短期记忆神经网络模型的共享单车短时需求量预测

共享单车具有很强的流动性和高随机性,为了更加准确地预测某区域内每小时的单车使用数量,通过爬取纽约市Citi Bike共享单车的天气特征数据信息,并分析时间因子、气象因子等对单车需求量的影响;采用长短期记忆(long short-term memory,LSTM)神经网络模型预测共享单车的短期需求量,并与传统的循环神经网络(recurrent neural network,RNN)和BP(back-propagation)神经网络模型预测结果进行比较。实验结果表明:影响单车需求量的主要因素包括温度、节假日、季节以及早晚高峰时间段等因素;与传统BP神经网络算法和循环神经网络RNN算法相比,LSTM鲁棒性高,泛化能力强,且预测结果曲线与真实结果曲线相吻合;预测精度高(精确度为0.860)均方根误差最小(为0.090),误差小。可见LSTM模型可以用来对共享单车的短时需求量进行预测。

长短期记忆神经网络在多时次土壤水分动态预测中的应用

基于长沙站2016—2019年10 cm深度土壤水分自动观测小时数据集,利用长短期记忆神经网络(LSTM)模型结合随机采样学习方法,开展了土壤水分多时次预测,结果表明:LSTM模型对6、12、24、48 h后的土壤体积含水量预测均方根误差(RMSE)分别为0.22%、0.28%、0.38%、0.54%,决定系数(R2)分别为0.99、0.99、0.98、0.96,除6 h预测步长外,准确率均优于自回归整合滑动平均(ARIMA)模型,且误差稳定、无异常值出现,预测准确率远优于相关研究。该结果证实了基于LSTM模型精准预测土壤水分动态的可行性,为精准灌溉和干旱预警提供了计算机技术及手段支撑,为政府及科研部门水资源管理政策的制定提供了数据支持。

计及误差修正的变分模态分解-长短期记忆神经网络短期负荷预测

精确地短期负荷预测为电力系统经济调度和机组最优负荷分配交易奠定基础。因此,提出了一种将变分模态分解(variational mode decomposition,VMD)和长短期记忆神经网络(long short-term memory,LSTM)结合的短期负荷预测模型,并使用支持向量回归(support vector regression,SVR)构建修正后的误差序列对初始预测序列补偿。首先,运用VMD算法将非平稳的负荷序列分解为多个相对平稳的模态分量;然后,将每个模态分量输入LSTM模型进行预测,并将各分量预测结果合并得到VMD-LSTM的预测结果;最后将残差值输入SVR模型中构造误差序列,来修正后一日的VMD-LSTM预测结果。通过实际案例测试,实验结果对比其他模型结果有更低的预测误差,证明所提方法的有效性。

一种基于卷积神经网络和长短期记忆网络的光伏系统故障辨识方法

随着光伏发电装机容量的不断上升,如何及时检测并解决光伏组件故障和异常,减少组件能量损失,提高光伏系统的发电效率成为一项重要任务。本文通过研究光伏阵列处于不同故障状态下的I-V曲线之间的特征差异性,直接以I-V曲线作为故障诊断的输入量,提出一种融合卷积神经网络(CNN)与长短期记忆(LSTM)网络的光伏系统故障辨识方法。实验结果表明,该方法不仅能识别出单一故障,如短路、遮阴、老化等,而且能有效识别出双重故障同时存在的情况。

基于Adam优化算法和长短期记忆神经网络的锂离子电池荷电状态估计方法

锂离子电池是电动汽车、无人机及电力电子设备的储能系统组件,对其进行准确的荷电状态(SOC)估计对于正确决策、安全控制和维护具有重要意义。针对锂离子电池SOC估计问题,本文采用长短期记忆(LSTM)神经网络搭建锂离子电池SOC估计模型,将电池电压、电流、温度作为输入,建立多层LSTM预测模型,采用Adam优化算法与Dropout正则化方法完成LSTM模型的训练。测试结果表明,在模型训练过程中加入Adam优化算法与Dropout正则化方法,使模型对实验数据集的非线性和初始荷电状态的不确定性具有鲁棒性。

基于长短期记忆神经网络的饱和负荷预测方法及应用

为充分分析关联因素对饱和负荷水平的影响,针对饱和负荷预测不确定性强、时间相关性大的特点,利用长短期记忆神经网络的长期记忆单元与可遗忘机制保存和更新历史用电信息,构建了多输入的长短期记忆神经网络饱和负荷预测模型。首先提取出人口、经济等6个影响因素作为网络模型输入量,采用Adam优化方法训练网络模型,并在多场景下,运用优化后的模型进行饱和负荷预测,结合饱和判据得到最终的饱和时间与用电规模。某省电网的饱和负荷预测结果表明,所建模型及预测方法合理、有效。

基于LSTM神经网络的光伏系统功率预测

在光伏产业快速发展的背景下,为了确保电力系统的安全调度和稳定运行,提高光伏企业的经济运行水平和生产管理水平,本文提出了一种基于长短期记忆(long short-term memory,LSTM)神经网络的光伏系统功率预测方法。该方法分析SCADA系统记录的大量监测参数,根据光伏系统出力的工作原理,选择当前时刻辐照度、温度、风速和功率作为模型输入参数,选择下一时刻功率作为模型输出参数,通过局部异常因子算法(local Outlier Factor,LOF)、降采样、时间对齐和归一化方法对以上数据进行异常数据剔除和数据轴统一,进而建立基于长短期记忆神经网络的光伏系统模型,同时通过优模型权重和阈值提高模型预测精度。测试阶段,选取6399组数据集训练并测试该模型对新能源院光伏系统发电功率的预测性能。结果表明,LSTM网络下的预测模型与普通BP网络预测模型相比,前者的发电功率平均绝对误差和均方根误差分别为45.5 kW和92.3 kW,明显小于后者的52.3 kW和95.6 kW,LSTM网络下的预测模型能够更加准确的预测光伏系统功率。因此,所设计模型可有效预测光伏发电功率,可为实际应用提供指导。