神经记忆的电阻网络综合

本文提出了从神经系统功能进行网络综合的观点。对神经网络的记忆功能进行了研究,建立了数学模型,并用分段线性电阻网络进行综合。所得到的非线性电阻网络除具有并行性、实时性、分布性和自适应等一系列人工神经网络的特点外,网络中各参数由网络所应记忆模式和特征向量的解析式给出,这比传统的人工神经网络具有较强的直观性,便于实际应用。

基于足底压力和卷积长短期记忆神经网络的前交叉韧带断裂智能辅助诊断

提出一种基于卷积长短期记忆神经网络的深度学习模型PressureConvLSTM,用来提取行走过程中足底压力的空间特征和时序特征,并进行步态分类。通过对前交叉韧带断裂患者的足底压力数据分析,实现智能辅助诊断。结合临床数据的实验结果表明,PressureConvLSTM模型对前交叉韧带断裂的辅助诊断,能够达到95%的预测准确度;与卷积神经网络等其他模型相比,准确度得到大幅度提升。

基于长短期记忆神经网络的在线学习眼动认知层次智能识别模型

学习者对于所学知识的认知水平与其在线学习的体验和效果密切相关,衡量在线学习者的认知水平具有重要意义。本研究基于布鲁姆的认知理论将学习者的认知水平划分为低、中、高三个层次,追踪学生在线学习过程中产生的眼动数据,采用主成分分析法聚合相关性高的特征指标,达到保留有效信息且维度下降的效果,接着运用长短期记忆神经网络构建在线学习认知层次智能识别模型,并与其他6种机器学习方法进行了比较。研究结果表明,学习者的眼动指标和认知层次显著相关。同时,在模型性能方面,长短期记忆神经网络模型的性能显著高于其他模型,具有较高的测试准确率和F1分数,证明其在在线学习认知水平评估领域的有效性。本研究不仅丰富了在线学习认知领域的理论和实践,而且为在线课程设计、在线学习评价、学习资源优化等提供了强有力的支持。

一种采用记忆神经网络和曲线形状修正的负荷预测方法

针对分布式电源和新型负荷容量累积造成负荷影响因素多元化和不确定性特性增强的问题,文中提出一种采用记忆神经网络和曲线形状修正的负荷预测方法。在负荷峰值预测中,采用最大信息系数计算负荷峰值与影响因素的非线性相关性,实现对输入特征的筛选;综合考虑负荷峰值序列的长短期自相关性和输入特征与负荷峰值的不同程度相关性,结合Attention机制和双向长短时记忆(bidirectional long short-term memory,BiLSTM)神经网络建立负荷峰值预测模型。在负荷标幺曲线预测中,通过误差倒数法组合相似日和相邻日,建立负荷标幺曲线预测模型;针对预测偏差的非平稳特征,利用自适应噪声的完全集成经验模态分解和BiLSTM网络建立误差预测模型,对曲线形状进行修正。应用中国北方某城市的区域电网负荷数据为算例,验证了所提模型的有效性。

基于长短时记忆神经网络的励磁涌流与故障电流识别方法

变压器空载合闸时产生励磁涌流导致差动保护误动作的问题至今仍未能被完全解决.针对该问题,提出一种利用长短时记忆(LSTM)神经网络识别励磁涌流与故障电流的方法.首先,在PSCAD软件平台上搭建变压器空载合闸及内部故障仿真模型,通过仿真产生大量三相电流瞬时采样数据作为训练神经网络的样本集;然后,利用Keras平台搭建LSTM神经网络模型并完成训练;最后,利用新的仿真数据和现场故障录波数据对训练好的LSTM神经网络进行测试.结果表明LSTM神经网络可以快速准确地区分各种情况下的励磁涌流和故障电流,从而证实该方法的有效性.

基于多源数据融合与卷积长短期记忆神经网络的聚合物挤出过程熔体密度监测方法

聚合物挤出过程中熔体密度是影响产品质量的关键因素。由于挤出加工过程的高温、高压复杂工况,寻求能准确、在线监测聚合物挤出过程中熔体密度的方法是一个具有挑战性的问题。尽管基于机器学习的质量监测方法提供了一种解决方案,但在聚合物挤出加工过程中,由于数据类型、工艺参数、操作环境等多变性因素的影响,传统的机器学习方法可能难以捕捉聚合物加工中不同输入参数和输出质量参数之间的复杂关系,使得监测任务难以获得理想的准确性。本文提出了一种基于多源数据融合与卷积长短期记忆神经网络(CNN–LSTM)的熔体密度监测方法,用于在线监测聚碳酸酯–丙烯腈–丁二烯–苯乙烯共聚物(PC/ABS)共混体系的熔体密度。首先,通过实时采集安装在挤出机模头处的近红外、拉曼及超声3种传感器数据,对3种传感数据进行预处理并融合后作为输入;然后,通过合理设计的网络结构,构建CNN–LSTM监测模型,利用CNN的特征提取能力与LSTM的预测能力,最终实现对聚合物共混过程中的熔体密度的实时监测。基于独立开发的多源传感数据实时采集装置获取的数据,利用所提方法对PC/ABS共混挤出过程的熔体密度进行实时监测,结果表明:本文方法能够准确监测聚合物熔体密度,其在测试集上的均方根误差和决定系数分别为0.975 5、0.006 3 g/cm3,比传统的卷积神经网络方法、长短期记忆网络方法、岭回归方法、偏最小二乘回归方法、多层感知机方法和支持向量机回归方法具有更高的预测精度;本文方法的10次输入平均预测时间为1.523 5 s,能够满足实际生产过程的实时监测。综上所述,所提出的基于多源数据融合与CNN–LSTM的熔体密度监测方法显著提高了聚合物挤出过程中熔体密度的实时监测精度,为挤出过程中聚合物的质量提供了可靠的技术支持。

基于时空长短时记忆神经网络的地基云图预测算法

针对传统云运动轨迹预测方法存在的预测精度差、空间结构细节信息丢失等问题,提出一种基于时空长短时记忆(ST-LSTM)神经网络的地基云图预测模型。首先使用卷积编码网络提取输入视频流的高维图像特征;然后在特征提取模型中对图像潜在信息进行多分支获取,一部分使用ST-LSTM神经网络提取不同帧之间的时空特征,另一部分将图像序列进行分解,并通过基于门控机制的记忆融合网络来获取分解后图像中的结构细节信息;最后将得到的分支特征进行组合后经过解码网络输出最终的预测视频流。在地基云图、Moving MNIST和Human 3.6M数据集上的实验结果表明,在图像预测准确率、结构细节信息保留效果以及人眼主观感受上,该预测模型均优于对比模型。与基准模型TaylorNet相比,所提模型在Moving MNIST数据集上均方误差指标和平均绝对误差指标分别降低15.7%和11.8%,在地基云图数据集上,其结构相似性指标与峰值信噪比指标分别提升1%和3.2%,且生成的视频流数据更为清晰,能够更准确地描述云层未来的运动状况,从而更可靠地预测光伏电站未来的输出功率。

使用CNN(卷积神经网络)-LSTM(长短期记忆)联合神经网络预测盾构隧道施工引起的地面沉降

[目的]地铁盾构隧道施工会引起周围地面沉降,影响周围环境。传统地面沉降预测方法难以综合考虑沉降影响因素,对此,为提高地面沉降的预测精度,使用CNN(卷积神经网络)-LSTM(长短期记忆)联合神经网络,对盾构隧道施工引起的地面沉降进行预测。[方法]以某地铁施工区间地面沉降监测数据为研究对象,使用CNN对影响参数(压缩模量、黏聚力、内摩擦角、泊松比、土层厚度、隧道埋深和施工参数)与地面沉降监测值进行连接,使用LSTM神经网络对地面沉降进行分析,建立了基于CNN-LSTM联合神经网络的地面沉降预测模型,探讨了同时考虑多个因素对地面沉降预测值的影响。[结果及结论]使用CNN对地面沉降相关的影响参数特征提取效果较好;所建CNN-LSTM模型的准确率比单独使用LSTM模型的准确率提高了3%、比传统BP(反向传播)神经网络模型准确率提高了9%;所建CNN-LSTM模型,对单测点短时间地面沉降预测准确率达到93%,预测值与监测值吻合较好。

基于改进灰狼算法优化双向长短时记忆神经网络的水冷壁壁温预测

提出一种基于改进灰狼(MGWO)算法优化双向长短时记忆(BiLSTM)神经网络的水冷壁壁温预测模型,灰狼算法采用非线性因子调整策略、自适应位置更新策略和动态权重修改策略进行改进以提升算法的全局寻优能力,利用改进灰狼算法优化BiLSTM模型的隐藏层数量、学习率和正则化参数以提高模型的预测精度,采用新疆某电厂的数据进行预测仿真,结果表明:改进后的算法预测精度更高,在机组升、降负荷时,均可以预测到壁温的变化趋势,模型的平均均方根误差相比于长短时记忆(LSTM)神经网络、BiLSTM模型分别降低了9.86%和3.69%,且可以提前预测到水冷壁壁温的超温情况,对于预防水冷壁超温有重要意义。

基于长短时记忆神经网络的Multi-GNSS卫星钟差建模预报

针对卫星钟差预报中二次多项式模型存在易受噪声干扰、预报精度不高的问题,构建一种基于长短时记忆神经网络的multi-GNSS卫星钟差预报模型,并分析不同卫星系统、不同钟类型基于不同建模方案的模型精度。为验证该模型的有效性和可行性,利用LSTM模型、QP模型、QP-LSTM模型分别基于12 h和24 h钟差序列进行建模,预报1 h、3 h、6 h、12 h钟差。结果表明,LSTM模型建模24 h、预报1 h精度最高。multi-GNSS卫星钟差LSTM预报模型中Galileo系统精度最高,其次为BDS-2系统和GPS系统,GLONASS系统精度最低,精度分别为0.018 ns、0.069 ns、0.133 ns、0.242 ns。不同原子钟预报精度不同,氢原子钟预报精度优于铷原子钟、铯原子钟。LSTM神经网络模型预报精度相较于QP-LSTM模型提升27%,相较于QP模型提升36%。

卷积-长短期记忆神经网络超宽带定位方法

针对室内视距环境下超宽带(UWB)观测值中的测距误差影响定位精度的问题,提出一种基于卷积神经网络与长短期记忆网络(CNN-LSTM)相结合的UWB测距误差改正模型:将基站与标签之间的测距值和Chan算法解算的标签初始坐标作为卷积神经网络(CNN)的输入,借助CNN良好的数据特征提取能力,充分挖掘UWB测距值的特征;然后利用长短期记忆网络(LSTM)进行进一步的特征学习,并进行训练和预测UWB测距值,以减少测距误差对UWB测距值精度的影响;最后,利用高斯-牛顿迭代算法求解出最终的UWB定位结果,同时,建立多项式和指数函数UWB测距误差改正模型,并与本文方法进行对比分析。实验结果表明,在静态和动态实验下,基于CNN-LSTM网络模型结果的精度均优于其他2种模型,证明该算法可有效降低测距误差,提高UWB的定位精度。

基于长短时记忆神经网络易损性分析的适用性研究

桥梁的损坏或失效可能导致严重的人员伤亡和巨大的经济损失。因此,对桥梁的破坏损失和地震性能进行准确的定量评估至关重要。为了实现这一目标,通常会采用构建易损性曲线的方法。易损性曲线表征在给定地震动强度下,桥梁部件或结构达到或超过某一破坏程度的条件概率。采用桥墩位移延性比作为损伤指标,利用长短时记忆(long short-term memory,简称LSTM)神经网络成功地建立了桥梁地震易损性曲线。研究结果表明,该模型展现了高计算效率和精度,可快速而准确地预测地震作用下桥梁结构构件的损伤指标。

基于图嵌入长短时记忆神经网络的非线性动态过程监控与诊断

针对复杂工业过程存在的非线性、动态性,以及故障标签难获取等特征,提出一种图嵌入长短时记忆神经网络在线监控与故障诊断方法。首先,对正常工况下采集的多维时序数据进行图嵌入,获得结构信息。其次,采用图注意力神经网络融合结构信息,并将融合后的结构信息输入用于预测的长短时记忆神经网络中。最后,提出一种新的基于预测误差指标的非线性动态过程在线监控方法和基于因果分析图的故障诊断方法。采用田纳西-伊斯曼数据集进行实验验证,结果表明了所提方法的有效性。

基于卷积神经网络-长短期记忆神经网络模型利用光学体积描记术重建动脉血压波信号

目的直接动脉血压(arterial blood pressure,ABP)连续监测是侵入式的,传统袖带式的间接血压测量法无法实现连续监测。既往利用光学体积描记术(photoplethysmography,PPG)实现了连续无创血压监测,但其为收缩压和舒张压的离散值,而非ABP波的连续值,本研究期望基于卷积神经网络-长短期记忆神经网络(CNN-LSTM)利用PPG信号波重建ABP波信号,实现连续无创血压监测。方法构建CNN-LSTM混合神经网络模型,利用重症监护医学信息集(medical information mart for intensive care,MIMIC)中的PPG与ABP波同步记录信号数据,将PPG信号波经预处理降噪、归一化、滑窗分割后输入该模型,重建与之同步对应的ABP波信号。结果使用窗口长度312的CNN-LSTM神经网络时,重建ABP值与实际ABP值间误差最小,平均绝对误差(mean absolute error,MAE)和均方根误差(root mean square error,RMSE)分别为2.79 mmHg和4.24 mmHg,余弦相似度最大,重建ABP值与实际ABP值一致性和相关性情况良好,符合美国医疗器械促进协会(Association for the Advancement of Medical Instrumentation,AAMI)标准。结论CNN-LSTM混合神经网络可利用PPG信号波重建ABP波信号,实现连续无创血压监测。

基于北方苍鹰优化算法优化长短期记忆神经网络的光伏发电功率短期预测

为提高光伏发电功率短期预测的精度,提出一种结合时变滤波经验模态分解和北方苍鹰优化算法优化长短期记忆神经网络的组合预测方法。首先,利用时变滤波经验模态分解将光伏发电功率分解成多个固有模态函数分量。其次,利用北方苍鹰优化(northern goshawk optimization,NGO)算法优化长短期记忆(long short-term memory,LSTM)神经网络隐含单元的个数、最大训练次数和初始学习率,构建NGO-LSTM预测模型。最后,把每一个固有模态函数分量都输入到预测模型中进行预测,将所有固有模态函数分量的预测结果进行叠加便可得到光伏发电功率短期预测的结果。仿真结果表明,所提的预测模型可以有效提高光伏发电功率的预测精度。

基于小波变换和长短期记忆神经网络的电力负荷预测

电力系统需要保持发电功率与用电负荷的即时平衡,而电力负荷具有非线性、时变性和不确定性等特点。针对此问题,考虑天气与日期类型的影响,构建小波变换(wavelet transform,WT)和长短期记忆(long short-term memory,LSTM)神经网络组合预测模型,对电力负荷进行短期电力负荷预测。首先,用小波变换对数据集进行特征提取、信号去噪,消除数据的波动性;其次,将预处理后的数据利用LSTM进行训练,将输出结果进行序列重构;最后,进行负荷预测,WT-LSTM组合预测模型分别与BP神经网络预测模型和LSTM预测模型进行对比数据。结果表明,WT-LSTM神经网络组合预测模型的预测效果最好,有效地提高了预测精度。

考虑地质分层约束的长短期记忆循环神经网络测井曲线重构

延长油田东部裸眼井区早期测井资料普遍只有自然电位(SP)、自然伽马(GR)及梯度电阻率(R2.5)三条曲线,因缺失声波(AC)、地层电阻率(RT)等测井曲线,难以满足精细油藏地质研究需求。东部裸眼井区开发时间长、单井产量低,重新测井缺乏可行性及经济性。采用长短期记忆循环神经网络(long short-term memory,LSTM)模型进行缺失测井曲线重构是一种经济有效方法,适用于地层测井序列数据。然而延长油田东部浅层油藏上覆黄土层段测井数据信号干扰大,直接应用模型精度较差。针对此问题,采用考虑地质分层约束的LSTM模型进行缺失测井曲线的重构,通过分层数据截取每口井长6层段测井数据作为样本数据,既保留了LSTM模型处理序列数据的优势,同时又避免了上覆黄土层测井数据对模型的干扰。利用裸眼井区完整测井数据进行模型训练优化和验证,讨论了考虑地质分层约束的LSTM测井曲线重构精度,结果表明通过引入地质分层约束,模型重构测井曲线精度更高。应用优化后模型实现裸眼井区50口仅有GR、SP、R2.5三条曲线数据井的AC、RT曲线重构,对50口井的142个射孔段进行二次解释,对比试油解释结论符合率达到89.4%,验证了该方法对测井曲线重构的实用性和有效性。

阀控液压马达位置伺服系统长短时记忆神经网络预测抗扰反步控制

针对阀控液压马达位置伺服系统中存在的时滞性与摩擦非线性问题,设计了一种长短时记忆神经网络预测抗扰反步控制器。该控制器通过引入长短时记忆神经网络对当前位置轨迹进行预测,并将预测值反馈给控制器对系统时滞进行直接补偿。对于系统中难以建模的摩擦非线性,将其视为扰动,通过设计扩张状态观测器进行估测,并使用反步法对估测得到的总扰动进行补偿。最后,在Simulink中搭建长短时记忆神经网络预测抗扰反步控制算法进行仿真验证,并与径向基函数滑模控制算法、反步控制算法和自抗扰控制算法进行对比,证明其在对含有时滞及摩擦非线性的阀控液压马达位置伺服系统进行控制时,具有较快的响应速度及较好的跟踪性能。

基于长短期记忆神经网络的电力用电量预测

为解决现有用电量预测精确度较低等问题,提出了基于长短期记忆神经网络的电力用电量预测方法。分析了电力负荷分类以及典型负荷曲线,说明了支持向量回归以及长短期记忆神经网络的基本原理,提出了基于支持向量回归和长短期记忆神经网络结合的预测方法,说明了预测流程,给出了预测结果统计评价标准。根据所提出的方法进行了案例分析,论证了所提方法的有效性。

基于长短期记忆神经网络的反应液葡萄糖含量预测

目的建立皮尔逊相关系数(Pearson correlation coefficient,PCC)和长短期记忆(long short term memory,LSTM)神经网络的反应液葡萄糖含量预测模型用以实时预测葡萄糖酸锌生产过程中反应液葡萄糖含量。方法通过葡萄糖酸锌制备实验,结合PCC理论确定对反应液葡萄糖含量有较大影响的因素,对这些因素进行数据采集并将其作为神经网络的输入变量,采集反应液葡萄糖含量数据并进行处理,将其作为神经网络的输出变量,进而建立反向传播神经网络(backpropagation neural network,BP)和LSTM神经网络的反应液葡萄糖含量预测模型。结果通过100次模型迭代训练,对照BP反应液葡萄糖含量预测模型可以看出LSTM反应液葡萄糖含量预测模型在测试集的误差约为0.45%,误差较小,准确度较高。结论基于LSTM反应液葡萄糖含量预测模型显著提高了预测精度,相比现有检测方法更加智能高效,能够有效辅助生产进行。