基于卷积神经网络-长短期记忆神经网络模型利用光学体积描记术重建动脉血压波信号

目的直接动脉血压(arterial blood pressure,ABP)连续监测是侵入式的,传统袖带式的间接血压测量法无法实现连续监测。既往利用光学体积描记术(photoplethysmography,PPG)实现了连续无创血压监测,但其为收缩压和舒张压的离散值,而非ABP波的连续值,本研究期望基于卷积神经网络-长短期记忆神经网络(CNN-LSTM)利用PPG信号波重建ABP波信号,实现连续无创血压监测。方法构建CNN-LSTM混合神经网络模型,利用重症监护医学信息集(medical information mart for intensive care,MIMIC)中的PPG与ABP波同步记录信号数据,将PPG信号波经预处理降噪、归一化、滑窗分割后输入该模型,重建与之同步对应的ABP波信号。结果使用窗口长度312的CNN-LSTM神经网络时,重建ABP值与实际ABP值间误差最小,平均绝对误差(mean absolute error,MAE)和均方根误差(root mean square error,RMSE)分别为2.79 mmHg和4.24 mmHg,余弦相似度最大,重建ABP值与实际ABP值一致性和相关性情况良好,符合美国医疗器械促进协会(Association for the Advancement of Medical Instrumentation,AAMI)标准。结论CNN-LSTM混合神经网络可利用PPG信号波重建ABP波信号,实现连续无创血压监测。

基于长短期记忆神经网络模型的分层注水优化方法

分层注水是改善层间注采矛盾、提高水驱开发效果的一种重要手段。基于油藏数值模拟的分层注水优化存在地质模型不确定性强、所需数据多、计算耗时长等缺点,数据驱动的优化方法可有效克服上述缺点。以井组中所有注水井的分层注水层段为考察对象,采用平均不纯度减少(MDI)方法筛选影响每口生产井产液量和含水率的主要注水层段,以此为基础利用注水井分层注水量以及生产井产液量和含水率时序数据建立长短期记忆神经网络(LSTM)深度学习预测模型,结合粒子群优化算法(PSO)实现分层注水量优化。实例应用表明:基于注水井分层注水量的LSTM模型可以准确预测产液量和含水率,平均误差分别为0.5%和1.7%;在总注水量基本保持不变的情况下,优化后井组产油量增加12.2%、平均含水率下降4.2个百分点,实现较好的增油控水目的,为深度学习在分层注水优化方面的应用研究提供了一种新的方法。

基于长短期记忆神经网络模型的地下水水位预测研究

利用长短期记忆神经网络(LSTM)构建地下水水位预测模型,解决了传统神经网络预测模型处理时序数据时未考虑时间序列的问题,同时采用多影响变量输入的方式弥补了简单时序模型处理数据时过于依赖时间的缺点。以泰安市岱岳区满庄镇姜家园村046J地下水位监测井为例,采用2001-2016年的监测资料与相关气候数据,利用长短期记忆神经网络构建了地下水水位预测模型,以控制变量的方法确定最优参数,对该井的地下水水位进行了预测,并与单变量LSTM神经网络、BP神经网络预测模型作对比。研究结果表明:基于多变量输入的LSTM神经网络模型能够通过少量历史数据准确的预测未来地下水水位变化情况,特别是在一些资料匮乏的地区,预测误差要显著低于参与对比的预测模型,预测均方根误差仅为2.052。因此,基于多变量的LSTM神经网络模型能够作为简单有效的地下水水位预测工具,为区域水资源管理提供一定的参考。

基于长短期记忆神经网络模型的空气质量预测

随着城市化和工业化的快速发展,空气污染问题日益突出,空气质量预测显得尤为重要。当前一些有代表性的研究对空气质量进行实时监测和预报,例如周广强等采用数值预报的方法对中国东部地区的空气质量进行分析,但其实验结果表明该方法难以预测非常重的污染;SANKAR等使用多元线性回归对空气质量进行预测,但其实验结果表明线性模型预测精度低、效率慢;P REZ等使用统计方法对空气质量进行预测,实验结果证明统计方法的预测精度比较低;WANG等采用改进的BP神经网络建立了空气质量指数的预测模型,其实验验证了BP神经网络收敛速度慢、容易陷入局部最优解的问题;YANG等利用相邻网格的空气质量浓度效应,建立了基于随机森林的PM 2.5浓度预测模型,通过实验过程证明网格划分程序削弱了后续空气质量分析的质量和效率。这些方法都难以从时间角度建模,其中预测精度低是比较重要的问题。因为预测精度低可能会导致空气质量预测结果出现较大的误差。针对空气质量研究中预测精度低的问题,提出了基于长短期记忆单元(long short-term memory,LSTM)的神经网络模型。该模型使用MAPE,RMSE,R,IA和MAE等指标来检测LSTM神经网络与对比模型的预测性能。由于Delhi和Houston是空气污染程度比较严重的城市,所以使用的实验数据集来自Delhi的Punjabi Bagh监测站2014—2016年的空气质量数据和Houston的Harris County监测站2010—2016年的空气质量数据。LSTM神经网络与多元线性回归和回归模型(SVR)的比较结果表明,LSTM神经网络适应多个变量或多输入的时间序列预测问题,LSTM神经网络具有预测精度高、速度快和较强的鲁棒性等优点。

基于贝叶斯优化算法的长短期记忆神经网络模型年径流预测

为解决长短期记忆神经网络模型超参数人为确定造成径流预测精度低的问题,将贝叶斯优化算法(BOA)应用于长短期记忆神经网络(LSTM)超参数的率定,构建BOA-LSTM径流预测模型,并研究分析模型超参数对预测精度的影响。采用呼兰河下游兰西水文站1959~2014年相关水文气象数据进行年径流预测及验证,并与麻雀搜索算法(SSA)优化超参数的LSTM神经网络模型(SSA-LSTM)及LSTM神经网络模型进行比较。结果表明,贝叶斯优化算法能更加准确高效地率定模型超参数。同时,研究提出的BOA-LSTM模型为年径流预测提供了一种有效的新方法。

基于长短期记忆神经网络模型的共享单车短时需求量预测

共享单车具有很强的流动性和高随机性,为了更加准确地预测某区域内每小时的单车使用数量,通过爬取纽约市Citi Bike共享单车的天气特征数据信息,并分析时间因子、气象因子等对单车需求量的影响;采用长短期记忆(long short-term memory,LSTM)神经网络模型预测共享单车的短期需求量,并与传统的循环神经网络(recurrent neural network,RNN)和BP(back-propagation)神经网络模型预测结果进行比较。实验结果表明:影响单车需求量的主要因素包括温度、节假日、季节以及早晚高峰时间段等因素;与传统BP神经网络算法和循环神经网络RNN算法相比,LSTM鲁棒性高,泛化能力强,且预测结果曲线与真实结果曲线相吻合;预测精度高(精确度为0.860)均方根误差最小(为0.090),误差小。可见LSTM模型可以用来对共享单车的短时需求量进行预测。

基于集成式长短期记忆神经网络模型的股价涨跌预测分析

在股价预测领域,预测的准确率比估计的相合性更有价值,因此保证相合估计的传统线性模型正逐渐被长短期记忆神经网络(long short-term memory,简称LSTM)等深度学习方法替代.然而,影响股价的因素是多源的,不仅包括股市历史交易信息,还包括企业基本面信息和宏观经济信息等,这些不同来源的信息间有长期确定关系,而关于此关系的数据记忆会被传统LSTM模型在学习过程中抛弃.构建“集成式长短期记忆神经网络模型”即ensemble LSTM,应用动态网络生成机制保证不同来源数据间的长期均衡关系不会被遗忘,且采用多个LSTM并联,让各神经网络独立处理单来源数据,再通过稠密层融合,因此该模型具有节约运算资源的能力.随机选取了16支个股,对比LSTM和ensemble LSTM在预测股价涨跌方面的性能,发现后者在节约运算资源上具有优势,且准确率也大多高于前者.

基于稳健设计的双向长短期记忆神经网络模型的调优方法

双向长短期记忆神经网络模型在自然语言处理中广泛使用,但其调优问题是使用中的难点.本文以自然语言处理中的语义角色识别任务为例,在双向长短期记忆神经网络模型的调优中,将4个候选特征(词、词性、目标词和位置)和2个超参数(网络的层数和是否在顶层添加CRF分类器)看作稳健设计中的因子,设置各因子的水平,进行实验来选择特征和超参数的最优配置组合.本文在小数据集(6692条带有语义角色标注信息的例句)上以3×2交叉验证来做完全实验,以稳健设计的望大特性信噪比为优化目标,选出了模型的最优配置组合,并采用因子的方差分析,定量分析了各因子对模型性能的影响,使得模型有一定的可解释性.为了验证本文选出的最优配置组合的优良性,采用传统方法,在大数据集(约4万条例句)上以自然语言处理中常用的标准切分8:1:1,基于传统的贪心策略调优方法选出最优配置组合,并与本文方法在测试集进行比较,验证了本文的调优方法优于传统的调优方法.

基于互信息粒子群优化-长短期记忆神经网络医疗设备运行质量预测模型的慢性呼吸系统疾病诊疗设备智能管理研究

目的:基于互信息粒子群优化(PSO)-长短期记忆(LSTM)神经网络构建医疗设备运行质量预测模型,辅助慢性呼吸系统疾病诊疗设备智能管理。方法:采集设备基本数据、使用数据、维修数据和性能数据进行去噪和标准化处理,构建基于PSO-LSTM神经网络医疗设备运行质量预测模型(简称PSO-LSTM模型),制定设备使用、维护、维修及报废的智能管理方案。选取2019年8月至2023年7月新疆维吾尔自治区人民医院呼吸科临床在用的139台医疗设备,将2019年8月至2021年7月的67台设备采用经验管理模式,2021年8月至2023年7月的72台设备采用智能管理模式。计算传统循环神经网络(RNN)、LSTM神经网络模型训练集和测试集与PSO-LSTM神经网络模型的预测准确性,对比两种管理模式设备管理质量和设备使用操作与技术保障人员以及患者或家属对两种管理模式的管理满意度。结果:PSO-LSTM模型训练集预测准确性的平均绝对百分比误差(MAPE)值和均方根差(RMSE)值分别为0.014和0.008,测试集分别为0.032和0.018,均低于RNN和LSTM模型。采用智能管理模式的设备平均故障频次、平均开机率、管理成本平均增幅、平均维护执行率及平均报废合规率分别为(0.99±0.85)次/年、(95.74±2.16)%、(1.72±1.28)%、(96.49±1.97)%和(97.59±1.49)%,平均故障频次和管理成本平均增幅低于经验管理模式,平均开机率、平均维护执行率和平均报废合规率高于经验管理模式,差异有统计学意义(t=3.297、3.469、2.394、4.187、3.503,P<0.05);设备使用操作与技术保障人员及患者或家属对采用智能管理模式的设备性能、运行质量、管理方式、管理成本以及诊疗效果满意度评分分别为(94.73±1.85)分、(93.38±3.15)分、(93.48±2.02)分、(94.35±2.34)分和(95.14±2.07)分,均高于经验管理模式,差异有统计学意义(t=4.131、3.827、5.716、3.430、3.173,P<0.05)。结论:基于PSO-LSTM神经网络医疗设备运行质量预测模型能更准确地评估设备运行状况,提高医疗设备临床运行质量,改善临床服务满意度。

基于长短期记忆神经网络的在线学习眼动认知层次智能识别模型

学习者对于所学知识的认知水平与其在线学习的体验和效果密切相关,衡量在线学习者的认知水平具有重要意义。本研究基于布鲁姆的认知理论将学习者的认知水平划分为低、中、高三个层次,追踪学生在线学习过程中产生的眼动数据,采用主成分分析法聚合相关性高的特征指标,达到保留有效信息且维度下降的效果,接着运用长短期记忆神经网络构建在线学习认知层次智能识别模型,并与其他6种机器学习方法进行了比较。研究结果表明,学习者的眼动指标和认知层次显著相关。同时,在模型性能方面,长短期记忆神经网络模型的性能显著高于其他模型,具有较高的测试准确率和F1分数,证明其在在线学习认知水平评估领域的有效性。本研究不仅丰富了在线学习认知领域的理论和实践,而且为在线课程设计、在线学习评价、学习资源优化等提供了强有力的支持。

结合层次图神经网络与长短期记忆的产业链风险评估预警模型

产业链风险评估预警是有效保护产业链上下游公司利益和减轻公司风险的重要措施。然而,现有方法由于忽视了产业链上下游公司之间的传播效应和公司信息的不透明性,无法准确评估公司风险,且忽略了动态财务数据对产业链的影响,无法提前感知风险,进行风险预警。针对以上问题,提出一种结合层次图(HG)神经网络与长短期记忆(LSTM)的产业链风险评估预警模型(HiGNN)。首先,利用产业链上下游关系和投融资关系构建“产业链-投资”HG;其次,利用财务特征提取模块提取公司多季度财务数据的特征;再次,利用投资特征提取模块提取投资关系图特征;最后,利用注意力机制融合财务特征和投资特征,通过图表示学习方法对公司节点进行风险分类。在真实的集成电路制造业数据集上的实验结果表明,与图注意力网络(GAT)模型、循环神经网络(RNN)模型相比,当训练比率为60%时,所提模型的准确率分别提升了14.87%、22.10%,F1值提升了12.63%、16.67%。所提模型能够有效捕捉产业链中的传染效应,提高风险识别能力,优于传统的机器学习方法和图神经网络方法。

基于集群辨识和卷积神经网络-双向长短期记忆-时序模式注意力机制的区域级短期负荷预测

为了解决区域级短期电力负荷预测时输入特征过多和负荷时序性较强的问题,提出一种基于集群辨识和卷积神经网络(convolutional neural networks,CNN)-双向长短期记忆网络(bi-directional long short-term memory,BiLSTM)-时序模式注意力机制(temporal pattern attention,TPA)的预测方法。首先,将用电模式和天气作为影响因素,基于二阶聚类算法对区域内的负荷节点进行集群辨识,再从每个集群中挑选代表特征作为深度学习模型的输入,这样既能减少输入特征维度,降低计算复杂度,又能综合考虑预测区域的整体特征,提升预测精度。然后,针对区域电力负荷时序性的特点,用CNN-BiLSTM-TPA模型完成训练和预测,该模型能提取输入数据的双向信息生成隐状态矩阵,并对隐状态矩阵的重要特征加权,从多时间步上捕获双向时序信息用于预测。最后,在美国加利福尼亚州实例上分析验证了所提方法的有效性。

基于足底压力和卷积长短期记忆神经网络的前交叉韧带断裂智能辅助诊断

提出一种基于卷积长短期记忆神经网络的深度学习模型PressureConvLSTM,用来提取行走过程中足底压力的空间特征和时序特征,并进行步态分类。通过对前交叉韧带断裂患者的足底压力数据分析,实现智能辅助诊断。结合临床数据的实验结果表明,PressureConvLSTM模型对前交叉韧带断裂的辅助诊断,能够达到95%的预测准确度;与卷积神经网络等其他模型相比,准确度得到大幅度提升。

基于密度聚类模态分解的卷积神经网络和长短期记忆网络短期风电功率预测

近年来,随着碳达峰和碳中和“双碳”战略目标的提出,风力发电已成为可再生能源发电的关键部分。为提高风电功率短期预测的准确度,提出基于密度聚类与自适应噪声完备集成经验模态分解(complete ensemble empirical mode decomposition with adaptive noise,CEEMDAN)和卷积神经网络与长短期记忆网络结合的短期风电功率预测方法。首先,利用密度聚类将风电功率与天气特征分成不同类别的数据集,通过自适应噪声完备集成经验模态分解算法将不同类别的数据进行频域分解得到子序列分量。以此为基础,将不同的子序列分量与天气特征进行特征选择,输入到卷积神经网络与长短期记忆网络的预测模型。最后,将不同的预测结果进行叠加得到最终的预测结果。整个预测过程通过聚类、分解和特征选择,有效提高了短期风电功率预测的准确度。

基于卷积神经网络和双向长短期记忆网络的气温预测模型

气温与环境要素之间存在非线性关系,针对传统的预测方法难以捕捉数据的内在特征和时间相关性问题,提出一种基于卷积神经网络与双向长短期记忆网络相结合的气温预测模型。基于宿迁四个国家气象观测站的逐小时观测数据,首先通过一维卷积神经网络提取气象要素数据的空间特征,然后将这些特征引入双向长短期记忆网络中来全面学习并掌握气象要素的上下文信息,进而对气温进行有效预测。实验结果表明,与其他的预测方法相比,所提模型在空间特征提取和时序特征学习方面表现卓越,且其在气温预测的精度上有显著的优势。

基于多源数据融合与卷积长短期记忆神经网络的聚合物挤出过程熔体密度监测方法

聚合物挤出过程中熔体密度是影响产品质量的关键因素。由于挤出加工过程的高温、高压复杂工况,寻求能准确、在线监测聚合物挤出过程中熔体密度的方法是一个具有挑战性的问题。尽管基于机器学习的质量监测方法提供了一种解决方案,但在聚合物挤出加工过程中,由于数据类型、工艺参数、操作环境等多变性因素的影响,传统的机器学习方法可能难以捕捉聚合物加工中不同输入参数和输出质量参数之间的复杂关系,使得监测任务难以获得理想的准确性。本文提出了一种基于多源数据融合与卷积长短期记忆神经网络(CNN–LSTM)的熔体密度监测方法,用于在线监测聚碳酸酯–丙烯腈–丁二烯–苯乙烯共聚物(PC/ABS)共混体系的熔体密度。首先,通过实时采集安装在挤出机模头处的近红外、拉曼及超声3种传感器数据,对3种传感数据进行预处理并融合后作为输入;然后,通过合理设计的网络结构,构建CNN–LSTM监测模型,利用CNN的特征提取能力与LSTM的预测能力,最终实现对聚合物共混过程中的熔体密度的实时监测。基于独立开发的多源传感数据实时采集装置获取的数据,利用所提方法对PC/ABS共混挤出过程的熔体密度进行实时监测,结果表明:本文方法能够准确监测聚合物熔体密度,其在测试集上的均方根误差和决定系数分别为0.975 5、0.006 3 g/cm3,比传统的卷积神经网络方法、长短期记忆网络方法、岭回归方法、偏最小二乘回归方法、多层感知机方法和支持向量机回归方法具有更高的预测精度;本文方法的10次输入平均预测时间为1.523 5 s,能够满足实际生产过程的实时监测。综上所述,所提出的基于多源数据融合与CNN–LSTM的熔体密度监测方法显著提高了聚合物挤出过程中熔体密度的实时监测精度,为挤出过程中聚合物的质量提供了可靠的技术支持。

基于残差神经网络、双向长短期记忆网络和注意力机制的肠鸣音检测方法研究

肠鸣音可以反映胃肠道的运动和健康状况,然而,传统的人工听诊方式存在主观性偏差且耗时耗力。为了更好地辅助医生对肠鸣音的诊断,提高肠鸣音检测的可靠性和高效性,该研究提出了一种结合残差神经网络(ResNet)、双向长短期记忆网络(BiLSTM)和注意力机制的深度神经网络模型。首先使用自主研发的多通道肠鸣音采集系统采集了大量带标签的临床数据,采用多尺度小波分解和重构方法对肠鸣音信号进行预处理,然后提取对数梅尔谱图特征送入网络进行训练,最后通过10折交叉验证和消融实验来评估模型的性能和验证其有效性。实验结果表明,该模型在精确率、召回率和F1分数方面分别达到了83%、76%和79%,能够有效地检测出肠鸣音片段并定位其起止时间,表现优于以往的算法。该算法不仅可以为医生在临床实践中提供辅助信息,还为肠鸣音的进一步分析和研究提供了技术支撑。

基于卷积神经网络和长短期记忆网络的坝上水位精细化建模方法

坝上水位是水电站调度运行的重要依据,然而受调峰非恒定流的影响,传统插值计算的水电站坝上水位与实际值存在较大的误差,不利于水库水位的精细控制和实际调度。本研究采用最大互信息系数探索水电站坝上水位变化的关联因素,并提出一种基于深度学习的CNN-LSTM模型计算方法,实现了准确计算受调峰非恒定流影响的水电站坝上水位。为验证本文所提模型的有效性,将其与传统法在三种评价准则进行对比,结果表明,所提的CNN-LSTM模型在汛期和枯水期的各种评价准则下均优于传统法,模型计算结果更接近实际坝上水位。本文所提模型在水电运行时可有效避免计算水位不准确带来的控制风险,降低水电站运行风险。

煤棚表面风压的多尺度长短期记忆神经网络预测方法

风荷载是影响大跨度空间结构安全性和稳定性的关键因素之一,因此研究结构表面风压对煤棚结构设计具有重要意义。风洞试验是获取煤棚结构表面风压的主要方法,但其存在成本较高和耗时较长的问题。利用风洞试验积累的大量数据发展风压快速预测方法是目前的研究热点之一。该文以长短期记忆(Long Short-Term Memory,LSTM)神经网络为基础,建立了煤棚结构风压时序预测模型,该模型利用高斯平滑将实验数据分为光滑数据和脉动数据,进而分别训练大尺度网络和小尺度网络。结果表明:所提出的多尺度网络预测模型可以实现对煤棚表面风压的快速预测,且相比于传统LSTM神经网络,多尺度LSTM神经网络具有误差小、精度高等优势。因此,基于LSTM的多尺度神经网络可以为煤棚等大跨空间结构表面风压提供依据。

卷积-长短期记忆神经网络超宽带定位方法

针对室内视距环境下超宽带(UWB)观测值中的测距误差影响定位精度的问题,提出一种基于卷积神经网络与长短期记忆网络(CNN-LSTM)相结合的UWB测距误差改正模型:将基站与标签之间的测距值和Chan算法解算的标签初始坐标作为卷积神经网络(CNN)的输入,借助CNN良好的数据特征提取能力,充分挖掘UWB测距值的特征;然后利用长短期记忆网络(LSTM)进行进一步的特征学习,并进行训练和预测UWB测距值,以减少测距误差对UWB测距值精度的影响;最后,利用高斯-牛顿迭代算法求解出最终的UWB定位结果,同时,建立多项式和指数函数UWB测距误差改正模型,并与本文方法进行对比分析。实验结果表明,在静态和动态实验下,基于CNN-LSTM网络模型结果的精度均优于其他2种模型,证明该算法可有效降低测距误差,提高UWB的定位精度。