时间感知的用户长短期兴趣特征分离推荐算法

针对传统推荐算法未充分考虑行为序列间的动态时间间隔、语义不规则以及用户长短期兴趣相互纠缠的问题,提出一种时间感知的用户长短期兴趣特征分离推荐算法。利用用户个性化时间聚合间隔感知和时间位置多头注意力捕获长期兴趣特征,采用动态时间间隔感知和潜在意图注意力的Time-LSTM捕获短期兴趣特征,提出长短期兴趣特征分离获取方法,分别独立捕获两种时间尺度的用户兴趣,通过注意力机制自适应融合长短期兴趣特征,提高用户兴趣特征捕获准确率。实验结果表明,该算法在预测精度指标AUC和GAUC上较对比算法均有提升,消融实验也进一步验证了该算法的必要性。

基于足底压力和卷积长短期记忆神经网络的前交叉韧带断裂智能辅助诊断

提出一种基于卷积长短期记忆神经网络的深度学习模型PressureConvLSTM,用来提取行走过程中足底压力的空间特征和时序特征,并进行步态分类。通过对前交叉韧带断裂患者的足底压力数据分析,实现智能辅助诊断。结合临床数据的实验结果表明,PressureConvLSTM模型对前交叉韧带断裂的辅助诊断,能够达到95%的预测准确度;与卷积神经网络等其他模型相比,准确度得到大幅度提升。

基于卷积和长短期记忆网络的地浸开采铀浓度预测研究

文章通过集成经验模态分解(Empirical Mode Decomposition,EMD)、卷积神经网络(Convolutional Neural Networks,CNN)、长短期记忆网络(Long Short-Term Memory,LSTM)、傅里叶变换,提出了一种新型地浸单元浸出液铀浓度预测方法。该方法将浸出液铀浓度监测值时间序列使用EMD进行分解,分解为趋势项、周期项和随机项。通过构建CNN+LSTM网络,并结合傅里叶变换和多项式拟合对铀浓度趋势项、周期项和随机项进行预测,3者预测之和作为铀浓度预测结果。实证结果表明:EMD能够有效分解铀浓度时间序列,模型拟合度比未进行EMD分解的模型提升超50%;基于EMD、CNN+LSTM和傅里叶变换的集成方法预测精度良好,预测的平均绝对百分比误差(Mean Absolute Percentage Error,MAPE)为0.348,与LSTM、反向传播(Back Propagation,BP)和门控循环网络(Gate Recurrent Unit,GRU)等模型相比最高提升超80%。文章提出的集成方法能够准确预测浸采单元铀浓度变化,解决了原有方法和模型无法对非线性、非平稳铀浓度序列进行准确预测的问题,从而为地浸矿山生产规划提供技术支持,并有助于提升中国铀矿山的数字化、信息化程度。

云南高原昆明市城市发展对雨季长短变化的反馈

利用昆明站1991-2020年近30年逐日降水数据计算昆明雨季(5-10月)的起止时期,进一步确定昆明市雨季的长短。又基于云南省和昆明市的统计年鉴数据,使用年末总人口、城市建成区面积、城镇化率、人均GDP等城市发展因子确定昆明的城市发展进程,将昆明市的城市发展进程划分为缓慢发展期(1991-2003年)和快速发展期(2004-2020年),进而分析比较两段时期中昆明市雨季长短的特征和差异,采用统计分析、小波分析和M-K突变检验等综合分析方法,系统分析了昆明市雨季长短的时间变化特征,并用灰色关联度分析方法分析了昆明市雨季长短与城市发展的关联性。结果表明,1991-2020年昆明市的雨季开始日呈逐渐偏晚的趋势,而雨季结束日呈逐渐偏早的趋势,总体上雨季长度呈逐渐缩短的趋势;小波系数分析结果显示,在8年以下的时间尺度上,昆明市雨季长短变化的周期不存在明显的规律性,在17年时间尺度上的周期变化明显,呈偏短-偏长-偏短-偏长-偏短的5个循环交替,2003-2008年、 2014-2017年雨季增长,1991-2002年、 2009-2012年、 2018-2020年雨季缩短,2018-2020年等值线未闭合说明还有进一步缩短的趋势。通过M-K检验表明昆明市的雨季长短在1991-2020年间出现4次突变,分别发生在2002年、 2008年、 2012年和2017年。从昆明城市发展与雨季长短的关系来看,昆明城市发展缓慢期的雨季长短的变化趋势较为平稳,而城市发展快速期2004年以后,昆明市雨季长度缩短的变化明显,并随着城市发展进程的加快其极端波动性更加明显。运用SPSS(Statistical Product and Service Solutions)软件对未来10年昆明的雨季长短进行预测,结果显示未来10年昆明雨季长短将持续偏短的趋势。在灰色关联度分辨率为0.5时,表征城市发展进程的4个因子对昆明雨季长短变化均产生不同程度影响,其关联度系数都在0.70以上,表明昆明城市发展与雨季长短显著关联性,其中影响最大的因子是年末总人口,最小为人均GDP,灰色关联度分别为0.88和0.70,属于高度关联和显著关联。对4个因子的关联系数进行排序为:年末总人口>城镇化率>城市建成区面积>人均GDP。

基于长短时记忆网络的恒温水浴锅温度模型预测

【目的】由于恒温水浴锅温度系统存在强非线性及大滞后性,本研究提出一种基于长短时记忆网络的恒温水浴锅温度模型预测方法。【方法】首先,对采集到的数据进行标准化处理,寻找长短时记忆网络的最优结构及超参数,用来拟合出最佳的数据映射特征,并构建恒温水浴锅温度的动态数学模型。其次,通过模型对未来一段时间内的温度趋势进行预测。最后,使用本研究提出的方法与最小二乘法所预测的结果进行对比分析。【结果】本研究所提方法构建的模型的拟合度达到了98.2%,预测结果的MSE及MAE比最小二乘法模型分别降低了4.616、0.823。【结论】本研究所提方法具有更高的预测精度,对提高恒温水浴锅的生产效率及控制精度具有重要意义。

基于卷积长短时记忆网络的短时公交客流量预测

针对传统的短时客流预测方法没有考虑到时序特征中跨时段客流之间的相似性问题,提出一种改进k-means聚类算法与卷积神经网络和长短时记忆网络相结合的短时客流量预测模型k-CNN-LSTM。通过k-means算法对跨时段时序数据进行聚类,使用间隔统计确定k值,构建交通流矩阵模型,采用CNN-LSTM网络处理具有时空特征的短时客流。该模型能够对具有空间相关性的数据进行较为准确的预测。使用真实数据集对模型进行检验和参数调优,实验结果表明:k-CNN-LSTM模型较其他模型有相对较高的预测精度。

基于形变长短期记忆网络的换道意图预测

混行交通下的自动驾驶车辆需具备换道意图预测能力来保障行驶安全。为尽早预测车辆换道意图,提出一种基于形变长短期记忆(mogrifier long short-term memory,M-LSTM)网络的换道意图预测模型。首先采用S-G(Savitzky-Golay)滤波器对自然驾驶数据集NGSIM(next generation simulation)进行降噪筛选,按向左换道、向右换道、直线行驶对不同时间长度的轨迹序列标注,选取车辆运动信息与环境信息输入模型,最后采用softmax函数进行意图分类。试验结果表明,在不同预判时间下,模型准确率均高于支持向量机(support vector machine,SVM)、LSTM模型,且越接近换道点预测准确率越高,在1.0、2.5 s时预测准确率分别为93.83%与81.30%。提出的模型具有良好的准确性与预判性,能为自动驾驶车辆尽早识别换道意图提供技术支持。

卷积与长短期记忆网络在火灾源强实时预测中的应用

针对火灾场景中火源位置及强度实时、准确识别困难的问题,利用卷积神经网络(Convolutional Neural Networks,CNN)与长短期记忆(Long Short-Term Memory,LSTM)网络的算法优势,构建一种火灾源强实时预测模型,该模型通过建筑内温度传感器接收的序列数据,实时、准确地预测火灾场景中的火源位置及强度信息。采用火灾动力学模拟软件(Fire Dynamics Simulator,FDS)模拟火灾场景,获得温度传感器实时接收的序列数据,建立火灾场景数据库,进行火灾场景数据分析并对火灾源强实时预测模型完成训练,通过实例验证该模型的准确性、及时性和鲁棒性。结果表明,该模型能够通过较短长度样本数据实时、准确预测火灾场景中火源位置及强度,预测准确率为99.18%,在温度传感器间隔损坏且损坏率不高于70%时,预测准确率仍可达到95.10%以上。

基于集群辨识和卷积神经网络-双向长短期记忆-时序模式注意力机制的区域级短期负荷预测

为了解决区域级短期电力负荷预测时输入特征过多和负荷时序性较强的问题,提出一种基于集群辨识和卷积神经网络(convolutional neural networks,CNN)-双向长短期记忆网络(bi-directional long short-term memory,BiLSTM)-时序模式注意力机制(temporal pattern attention,TPA)的预测方法。首先,将用电模式和天气作为影响因素,基于二阶聚类算法对区域内的负荷节点进行集群辨识,再从每个集群中挑选代表特征作为深度学习模型的输入,这样既能减少输入特征维度,降低计算复杂度,又能综合考虑预测区域的整体特征,提升预测精度。然后,针对区域电力负荷时序性的特点,用CNN-BiLSTM-TPA模型完成训练和预测,该模型能提取输入数据的双向信息生成隐状态矩阵,并对隐状态矩阵的重要特征加权,从多时间步上捕获双向时序信息用于预测。最后,在美国加利福尼亚州实例上分析验证了所提方法的有效性。

GPU异构计算环境中长短时记忆网络模型的应用及优化

随着深度学习的广泛应用及算力资源的异构化,在GPU异构计算环境下的深度学习加速成为又一研究热点。文章探讨了在GPU异构计算环境中如何应用长短时记忆网络模型,并通过优化策略提高其性能。首先,介绍了长短时记忆网络模型的基本结构(包括门控循环单元、丢弃法、Adam与双向长短时记忆网络等);其次,提出了在GPU上执行的一系列优化方法,如CuDNN库的应用及并行计算的设计等。最终,通过实验分析了以上优化方法在训练时间、验证集性能、测试集性能、超参数和硬件资源使用等方面的差异。

基于长短期记忆网络的英语标题自动生成

为实现英文文本标题的自动化生成,研究一套基于长短期记忆网络的句子级LSTM编码策略,并在标题生成模型中引入注意力机制来获取英文文本的上下文向量,保留文本中的重要信息。在此基础上,通过负对数似然函数来对模型加以训练。最后通过Byte Cup 2018数据集对本文提出的英语标题自动生成算法进行实验,并通过过ROUGE-N指标对标题生成质量加以评价。实验研究发现,所提出的句子级LSTM编码方案在英文文本标题生成准确性方面相比于其他常规摘要生成模型来说具有显著优势。

基于鲸鱼优化算法的长短期记忆模型水库洪水预报

洪涝灾害是世界主要自然灾害之一,优化洪水预报方案对防洪决策至关重要,然而传统水文模型存在参数多、调参受人为因素影响,泛化能力弱等问题。针对上述问题,本文提出基于改进的鲸鱼优化算法和长短期记忆网络构建自动优化参数的WOA-LSTM模型,通过优化神经网络结构进一步增强该模型的稳定性和精确度,并且建立不同预见期下的洪水预报模型来分析讨论神经网络结构与预报期之间的关系。以横锦水库流域1986-1997年洪水资料为例,其中以流域7个雨量站点的降雨以及横锦站水文资料为输入,不同预见期下洪水过程作为输出,以1986-1993年作为模型的率定期,1994-1997年作为模型的检验期,研究结果表明:(1)以峰现时差、确定性系数、径流深误差和洪峰流量误差作为评价指标,相比较于LSTM模型和新安江模型对检验期的模拟结果表明WOA-LSTM模型拥有更高的精度、预报结果更稳定;(2)结合置换特征值和SHAP法分析模型特征值重要性,增强了神经网络模型的可解释性;(3)通过改变神经网络结构在一定程度避免由于预见期增加和数据关联性下降而导致的模型预报精度下降的问题,最终实验表明该模型在预见期1~6 h下都可以满足横锦水库的洪水预报要求,可以为当地的防洪决策提供依据。

基于变分模态分解的卷积长短时记忆网络短期电力负荷预测方法

电力负荷序列易受多重外部因素影响而呈现复杂性,不利于精准预测。为此,提出一种基于变分模态分解(variational mode decomposition,VMD)的卷积神经网络和长短期记忆网络(convolutional neural network and long short-term memory network,CNN-LSTM)相结合的短期电力负荷并行预测方法。先采用VMD将负荷数据分解为规律性强的各本征模态函数(intrinsic mode function,IMF)及残差;再将各分量分别输入到各自对应的CNN-LSTM混合预测网络,获得各初始预测值,并将该值与由气候、日期类型等组合得到的相关因素特征集相结合,进一步得出修正预测值;最终,叠加各分量修正预测值即得到完整预测结果。在实际负荷数据上做验证分析,结果表明,考虑相关外部因素特征集后日负荷预测平均相对误差均值可降低2.18%。与几种常规负荷预测方法进行效果对比,验证了该方法的有效性和可行性。

方形基坑尺寸效应对长短桩围护结构支护效果的影响

为研究方形基坑尺寸效应对长短桩围护结构支护效果的影响,以某桥梁承台基坑为依托,采用数值分析手段,通过现场实测对选用参数进行验证,依托选用参数拟定不同平面尺寸计算工况,通过地层应力与桩后土压力变化分析其尺寸效应;通过对比长短桩围护结构与等长桩围护结构的变形受力差异,探明尺寸效应对长短桩围护结构支护效果的影响。结果表明:当方形基坑尺寸较小时,在坑边一定距离处会形成连续、封闭的“类圆形”拱区域,存在与圆形基坑中环箍效应相似的“类环箍效应”,算例表明该效应在边长大于18.0 m后环箍断开,效应消失;当拱区域封闭为环箍时,围护结构桩后土压力显著降低,当其不封闭时,土压力增长,坑边中部桩后土压力增长量大于坑角处;长短桩围护结构的支护效果在尺寸效应越强的方形基坑中降低越少,基坑的尺寸效应对其变形及稳定有利,算例中边长小于等于14.4 m的基坑可充分利用其尺寸效应,采用长短桩代替等长桩围护,做到绿色环保。

基于长短时记忆网络和生成对抗网络的VRB储能系统虚假数据注入攻击检测

随着信息技术的不断发展,直流微电网储能系统已成为深度融合的信息物理系统,而精确的荷电状态估计对储能系统的实时监测和安全稳定运行至关重要。针对全钒液流电池(vanadium redox flow battery,VRB)储能系统荷电状态估计中,由虚假数据注入攻击导致的异常数据检测问题,提出一种基于长短时记忆网络和生成对抗网络的检测方法。首先,建立了VRB等效电路模型和虚假数据注入攻击模型;然后,通过训练长短时记忆网络和生成对抗网络组成的循环网络,将长短时记忆神经网络嵌入生成对抗网络框架作为生成器和鉴别器来分析电池时序数据,通过判别网络中的判别损失误差和生成网络中的重构残差得到异常损失进行综合判断;最后,以CEC-VRB-5kW型号电池为对象,并构造不同强度的虚假数据攻击进行实验,验证检测方法的准确性与可行性。结果表明,与经典循环神经网络、随机森林、自编码器、长短时记忆网络检测方法进行对比,所提方法具有较高的检测精度,在VRB储能系统荷电状态估计中能够有效辨识虚假数据攻击。

套筒强夯长短桩复合地基承载特性研究

【目的】随着大型海洋工程项目不断发展,对水下软土地基处理提出了新的挑战,水下挤密砂桩和水下水泥搅拌桩复合地基等传统方法具有定位难、制桩难、桩体质量差等问题,始终制约着其在海洋工程中的应用和发展。【方法】借鉴陆上孔内深层强夯施工方法,因地制宜地提出水下套筒强夯复合地基成桩技术,该技术使用套筒阻隔海水进入桩孔,具有定位准、加固深和强度高等优点,通过模型试验的方法对该技术进行研究。【结果】结果表明,在强夯碎石桩与传统碎石桩相结合的工况下,地基极限承载力提高50%以上,等长度群桩复合地基极限承载力比长短桩复合地基提升18%;在全部采用强夯碎石桩的工况下,地基极限承载力提高170%以上,等长度群桩复合地基极限承载力比长短桩复合地基提升3.7%。【结论】全部采用强夯碎石桩的复合地基比强夯碎石桩与传统碎石桩组合而成的复合地基承载力提高更多,在提高承载力方面,采用套筒强夯长短桩复合地基更加经济有效。

基于拟合椭圆的等震线长短轴测量方法

提出了一种改进的拟合椭圆算法用于测量等震线长短轴,即将等震线测量的模式和直接测量算法的概念以约束的形式加入拟合椭圆算法,并使用最小二乘法求解椭圆系数,在与传统等震线测量方法保持一致的基础上,减少了直接测量方法的主观不确定性。在此基础上讨论了拟合椭圆算法的适用性和鲁棒性,将等震线长短轴的测量结果与前人的结果进行了对比。结果表明:拟合椭圆算法的适用性较好,可用于等震线的拟合;拟合椭圆算法的鲁棒性较好,计算结果较为稳定;对于未闭合且形状复杂的等震线,计算结果相对离散,要单独验证结果是否合理;利用拟合椭圆算法得到的等震线长短轴结果与前人的结果较为一致,可用于建立烈度衰减关系。

基于混沌理论、变分模态分解和长短期记忆网络的地磁变化预测方法

针对地磁变化场的非平稳性、非线性以及物理模型难以预测的特点,提出了一种改进的长短期记忆网络预测方法并进行了验证。首先应用变分模态分解方法对地磁台站数据进行去噪,再根据地磁变化的混沌特性引入混沌理论对样本集进行优化,最终以长短期记忆网络预测地磁变化并对改进前后的方法进行了对比。结果显示,优化方法的预测效果较稳定,平均绝对误差小于2 nT,相关指数R~2超过0.8,预测值与实测值的拟合度较高,有效预测时长可达2.5天,且在中国大陆的泛用性较好。

基于改进长短期记忆网络的电力系统暂态稳定评估方法研究

现代电力系统海量量测数据为电力系统暂态稳定评估提供可靠的数据基础,与此同时,数据信息挖掘成为研究焦点,暂态稳定分析中不平衡故障样本以及多特征电气量时间序列数据中所蕴藏的信息仍有待深入挖掘。为此,该文提出一种结合注意力机制的长短期记忆网络(long short term memory network with attention,LSTMA)方法,用以深入挖掘暂态稳定评估样本中所蕴藏的信息。在离线训练环节,以长短期记忆网络为基础分类器,引入Attention注意力机制引导模型学习样本中关键特征,并对损失函数进行改进,以此强化对不平衡样本的学习能力;在线应用环节,在目标域小样本条件下采用迁移学习方法更新成型的离线LSTMA模型,并对比不同迁移学习策略对模型性能影响,经过迁移学习建立的新运行点下的改进LSTMA模型评估精度有效提高,训练时间大幅减少,所得出的迁移学习策略确定方法有利于实际应用环节快速决策。研究在IEEE39节点和IEEE300节点系统上进行实验,验证了所提方法的有效性。

基于长短时记忆神经网络的励磁涌流与故障电流识别方法

变压器空载合闸时产生励磁涌流导致差动保护误动作的问题至今仍未能被完全解决.针对该问题,提出一种利用长短时记忆(LSTM)神经网络识别励磁涌流与故障电流的方法.首先,在PSCAD软件平台上搭建变压器空载合闸及内部故障仿真模型,通过仿真产生大量三相电流瞬时采样数据作为训练神经网络的样本集;然后,利用Keras平台搭建LSTM神经网络模型并完成训练;最后,利用新的仿真数据和现场故障录波数据对训练好的LSTM神经网络进行测试.结果表明LSTM神经网络可以快速准确地区分各种情况下的励磁涌流和故障电流,从而证实该方法的有效性.