钢筋混凝土剪力墙抗震滞回性能的多元时序深度神经网络预测

钢筋混凝土剪力墙结构抗震性能优越且造价合理,广泛用于抗震烈度较高的地区。准确地预测剪力墙的滞回性能与骨架曲线,直接决定了结构设计与分析的准确度与可靠性。该文提出了一种基于深度学习的剪力墙结构滞回性能预测方法,可以根据结构的基本设计参数(如材料属性、几何尺寸、荷载工况等),直接预测出其承载力。通过3组剪力墙的滞回试验预测1组结构的滞回曲线,结果表明:通过比较时域的特征,深度学习方法具有较高的预测精度。通过与有限元仿真结果对比,深度学习仅需输入不同参数就能够快速预测滞回曲线,其优势还在于具有较高的计算效率,而有限元仿真需要几何建模、本构模型选取、材料属性输入和荷载工况定义,整个过程相较于深度学习耗时耗力。

基于深度神经网络的燃煤电站SCR脱硝系统时序建模研究

选择性催化还原(SCR)脱硝系统可以通过控制氨的注入,有效减少氮氧化物的排放,但能源结构、负荷波动、反应器动态特性和系统延迟等因素均会影响氨注入量的精确控制。为了实现高精度的氮氧化物排放预测,提出基于时间序列特征的深度神经网络建模方法,用于预测反应器动态特性和系统延迟。以1台660 MW燃煤锅炉为例,利用连续3 d的50 000多个采样数据建立深度神经网络。结果显示:模型实现了对t+1时刻SCR出口NO_(x)的精确估算,测试集上的最大绝对误差仅为1.6 mg/m^(3)。

基于深度卷积神经网络的多元医学信号多级上下文自编码器

多元医学信号的典型代表有多模态睡眠图和多通道脑电图等,采用无监督深度学习表征多元医学信号是目前健康信息学领域中的一个研究热点。为了解决现有模型没有充分结合医学信号多元时序结构特点的问题,该文提出了一种无监督的多级上下文深度卷积自编码器(mCtx-CAE)。首先改进传统卷积神经网络结构,提出一种多元卷积自编码模块,以提取信号片段内的多元上下文特征;其次,提出采用语义学习技术对信号片段间的时序信息进行自编码,进一步提取时序上下文特征;最后通过共享特征表示设计目标函数,训练端到端的多级上下文自编码器。实验结果表明,该文所提模型在两种应用于不同医疗场景下的多模态和多通道数据集(UCD和CHB-MIT)上表现均优于其它无监督特征学习方法,能有效提高多元医学信号的融合特征表达能力,对提高临床时序数据的分析效率有着重要意义。

基于深度神经网络和多元损失的说话人识别

生物特征识别技术相对于传统密码等方式具有更高的可靠性,而作为生物特征识别技术的重要研究方向之一的声纹识别方法,研究更精确的声纹识别方法具有更高的研究意义。随着深度学习的发展,深度学习应用在声纹识别技术上成为在声纹识别领域研究的重点。提出一种基于深度神经网络和beyond triplet loss相结合的说话人识别方法,模型通过梅尔频率倒谱系数(MFCC)提取MFCC声学特征,对MFCC声学特征提取说话人声纹特征,然后进行多元损失的模型训练。实验结果表明,DNN-BTL算法在说话人识别领域比高斯混合-隐马尔可夫模型(GMM-HMM)具有更好的识别效果。

用于视频图像帧间运动补偿的深度卷积神经网络

为探索深度学习理论在视频图像帧间运动补偿问题中的应用,提出一种用于视频图像帧间运动补偿的深度卷积神经网络。该网络由卷积模块和反卷积模块构成,可以处理不同分辨率输入图像并具备保持较完整图像细节的能力。利用具有时序一致性的视频图像序列构造训练样本,采用随机梯度下降法对设计的深度卷积神经网络进行训练。视觉效果和数值评估实验表明,训练得到的网络较传统方法能更有效地进行视频图像帧间运动补偿。

多元向量值函数求导的矩阵表示及其在人工神经网络中的应用

在介绍多元向量值函数求导的矩阵表示的基础上,给出了梯度下降法的工作原理及其训练神经网络的过程,最后通过Matlab仿真实验验证了梯度下降法的有效性.

基于深度帧差卷积神经网络的运动目标检测方法研究

复杂场景中的运动目标检测是计算机视觉领域的重要问题,其检测准确度仍然是一大挑战.本文提出并设计了一种用于复杂场景中运动目标检测的深度帧差卷积神经网络(Deep Difference Convolutional Neural Network,DFDCNN).DFDCNN由DifferenceNet和AppearanceNet组成,不需要后处理就可以预测分割前景像素.DifferenceNet具有孪生Encoder-Decoder结构,用于学习两个连续帧之间的变化,从输入(t帧和t+1帧)中获取时序信息;AppearanceNet用于从输入(t帧)中提取空间信息,并与时序信息融合;同时,通过多尺度特征图融合和逐步上采样来保留多尺度空间信息,以提高网络对小目标的敏感性.在公开标准数据集CDnet2014和I2R上的实验结果表明:DFDCNN不仅在动态背景、光照变化和阴影存在的复杂场景中具有更好的检测性能,而且在小目标存在的场景中也具有较好的检测效果.

基于时域卷积与双向GRU神经网络的时序预测模型

随着物联网技术和5G技术的发展,各类智能设备收集的时序数据规模急剧增长,为了利用深度学习技术对大规模时序数据进行预测,提出一种基于深度神经网络的时序预测模型。该模型首先利用时域卷积神经网络层对时序数据进行预处理,然后利用双向GRU神经网络层提取时序数据的前向特征和后向特征,最后对时序数据进行预测。在真实数据集上的实验结果表明,该模型相比传统长短期记忆网络模型,预测准确度提高了近70%,预测速度提高了近10%,可更好地满足对大规模时序数据的预测需求。

基于GRU神经网络的测井曲线重构

通过测井曲线解释可以获得地层岩性、电性以及孔渗饱等地层参数,然而,实际应用中时常出现部分测井数据失真或缺失的情况,而重新测井不仅价格昂贵且实现较困难。目前基于传统的线性假设和统计分析的测井曲线重构方法已不能满足储层特征的精细描述要求。门控循环单元(GRU)神经网络是一种适合于解决非线性和时序性问题的新型深度学习算法。基于深度学习的最新成果,提出使用GRU神经网络进行测井曲线重构。该方法兼顾了测井数据之间的非线性映射关系、数据随储层深度变化的趋势及历史数据之间的关联性。对实际资料进行试算,并与多元回归方法结果对比,表明GRU网络模型取得了良好的重构效果,为测井曲线重构提供了一种新的思路。

基于长短期记忆神经网络模型的空气质量预测

随着城市化和工业化的快速发展,空气污染问题日益突出,空气质量预测显得尤为重要。当前一些有代表性的研究对空气质量进行实时监测和预报,例如周广强等采用数值预报的方法对中国东部地区的空气质量进行分析,但其实验结果表明该方法难以预测非常重的污染;SANKAR等使用多元线性回归对空气质量进行预测,但其实验结果表明线性模型预测精度低、效率慢;P REZ等使用统计方法对空气质量进行预测,实验结果证明统计方法的预测精度比较低;WANG等采用改进的BP神经网络建立了空气质量指数的预测模型,其实验验证了BP神经网络收敛速度慢、容易陷入局部最优解的问题;YANG等利用相邻网格的空气质量浓度效应,建立了基于随机森林的PM 2.5浓度预测模型,通过实验过程证明网格划分程序削弱了后续空气质量分析的质量和效率。这些方法都难以从时间角度建模,其中预测精度低是比较重要的问题。因为预测精度低可能会导致空气质量预测结果出现较大的误差。针对空气质量研究中预测精度低的问题,提出了基于长短期记忆单元(long short-term memory,LSTM)的神经网络模型。该模型使用MAPE,RMSE,R,IA和MAE等指标来检测LSTM神经网络与对比模型的预测性能。由于Delhi和Houston是空气污染程度比较严重的城市,所以使用的实验数据集来自Delhi的Punjabi Bagh监测站2014—2016年的空气质量数据和Houston的Harris County监测站2010—2016年的空气质量数据。LSTM神经网络与多元线性回归和回归模型(SVR)的比较结果表明,LSTM神经网络适应多个变量或多输入的时间序列预测问题,LSTM神经网络具有预测精度高、速度快和较强的鲁棒性等优点。

基于双流卷积神经网络的人体行为识别方法

时序行为检测是指在一段未分割的长视频中,检测出其中包含的若干行为片段的起止时间和类别.针对该项任务,提出基于双流卷积神经网络的行为检测模型.首先使用双流卷积神经网络提取视频的特征序列,然后使用TAG(Temporal Actionness Grouping)生成行为提议,为了构建高质量的行为提议,将行为提议送入边界回归网络中修正边界,使之更为贴近真实数据,再将行为提议扩展为含有上下文信息的三段式特征设计,最后使用多层感知机对行为进行识别.实验结果表明,本算法在THUMOS2014数据集和ActivityNet v1.3数据集获得较好的识别率.

Conv-WGAIN:面向多元时序数据缺失的卷积生成对抗插补网络模型

油浸式变压器的油色谱数据是一种多元时序传感数据,设备或网络失误往往会导致数据缺失,通常需要通过插补形成完整数据集,才能用于进一步的业务分析研究。但是,现有的插补模型无法面向多元时序数据同时处理因时间不均匀性和时间双向性带来的插补效率低和效果难以保障的问题,对此提出一种名为Conv-WGAIN的生成对抗插补网络模型,通过构建的插补特征图,可利用二维卷积从前后2个方向学习时间特征,处理时间间隔不均匀的数据;在判别器中引入Wasserstein距离来判别生成插补数据与真实观测数据,提升了生成器的稳定性。在真实项目中的油色谱数据集和3个公开数据集上的实验表明,该模型在多元时序缺失数据上具有普遍适用性,而且在不同的缺失率下的插补结果要优于其他对比模型的,RMSE降低了20.75%~73.37%。

基于时序生成对抗网络和注意力机制的电器数据生成方法

在智能电网中,非侵入式负荷检测等技术的实现都需要使用大量标记过的电器功率数据,而这类数据的收集和标注十分昂贵、耗时并且容易侵犯用户的安全隐私。为了应对数据收集的挑战,文中提出一种将时序生成对抗网络和通道空间双注意力机制相结合的数据生成方法,用来合成与实际电器功率数据相似的合成数据。时序生成对抗网络结合无监督的灵活性和有监督的可控性,能够进行家用电器数据生成,注意力机制又能够使时序生成对抗网络注重电器启动时的波形,忽略电器未启动时的干扰,构建一个符合真实工况且随机的数据生成模型。文中使用五种性能度量指标对该模型生成的数据进行评估,并且使用主成分分析(PCA)降维进行可视化分析。实验结果表明,使用该方法生成的合成数据具有与真实数据非常相似的特征,并有较高的精度。

基于循环神经网络的森林火灾识别研究

森林火灾初期的烟雾检测对于预防森林火灾有着重要意义。由于长距离视频监控中通常烟雾运动速度慢、特征不明显,可靠的烟雾检测仍然是一项十分具有挑战性的任务。以林火视频监控场景为研究对象,提出了一种基于循环神经网络的森林火灾识别算法。该算法由空间特征提取网络和时序神经网络组成。空间特征提取网络通过深度学习来高效提取烟和火的静态特征。循环神经网络通过中间隐藏层的记忆内容来对空间特征进一步融合,进而挖掘烟火动态特征。该方法不仅可以从图像局部区域中提取具有区分性的空间特征,还可以通过循环神经网络来提取时序特征。实验表明,基于循环神经网络的森林火灾识别算法能够在多种多样的场景下实现96.3%的准确率和4.5%的误报。

基于卷积神经网络和Transformer的手写体英文文本识别

手写体文本识别技术可以将手写文档转录成可编辑的数字文档。但由于手写的书写风格迥异、文档结构千变万化和字符分割识别精度不高等问题,基于神经网络的手写体英文文本识别仍面临着许多挑战。针对上述问题,提出基于卷积神经网络(CNN)和Transformer的手写体英文文本识别模型。首先利用CNN从输入图像中提取特征,而后将特征输入到Transformer编码器中得到特征序列每一帧的预测,最后经过链接时序分类(CTC)解码器获得最终的预测结果。在公开的IAM(Institut für Angewandte Mathematik)手写体英文单词数据集上进行了大量的实验结果表明,该模型获得了3.60%的字符错误率(CER)和12.70%的单词错误率(WER),验证了所提模型的可行性。

基于Transformer神经网络模型的网络入侵检测方法

网络入侵检测一直以来都是网络安全中亟待解决的关键任务之一,传统网络入侵检测方法主要通过提取多维特征,采用机器学习方法构建检测模型,大多忽略了入侵行为的时间相关性。通过提取网络入侵行为的时序特征,设计基于降维特征的多头自注意力机制Transformer网络模型,以解决传统串行化时序神经网络模型不易收敛且时间开销较大的问题,通过选取最优的损失函数和训练参数进行并行化训练,实现网络入侵行为检测。实验结果表明,基于Transformer网络模型的网络入侵检测方法在多个数据集上均获得了99%以上的精度和检出率。

基于长短期记忆神经网络的风力发电功率预测方法

风力发电过程具有较强的随机性,导致风力发电功率的预测准确度不高。针对上述问题,提出了一种融合深度学习算法的风力发电功率预测方法。以历史风力发电功率数据作为输入,建立风力发电功率预测模型,实现对未来一个时间刻度的风力发电功率预测。算例结果表明,与传统时序预测方法相比,基于长短期记忆神经网络的风力发电功率预测结果在各项指标中误差更小,验证了上述方法在风力发电功率预测中的可行性和有效性,提升了风力发电功率预测的准确性。

一种基于GRU神经网络的电力负荷预测

针对电力负荷序列不稳定且传统的神经网络在电力负荷预测中预测精度较低等问题,提出了门控循环单元神经网络(Gated Recurrent Unit Neural Network, GRU)负荷预测的方法。利用python编程语言在Tensorflow框架在搭建门控循环单元神经网络,将影响电力负荷的特征数据输入模型中进行训练。通过和人工神经网络(Artificial Neural Network,ANN)模型对比,可得出门控循环单元神经网络模型的效果要优于传统神经网络。

基于谱域超图卷积网络的交通流预测模型

针对传统图结构难以对节点间的隐含复杂关联关系建模的问题,利用超图对交通流数据进行高阶表示,提出基于谱域超图卷积网络的交通流预测方法。首先,通过动态超边刻画数据特征层面的关系,利用谱域超图卷积,包括基于傅里叶和图小波的超图卷积及门控时序卷积,在多尺度上提取交通流的时空特征,实现端到端的节点级交通流预测。然后,采用北京市以及美国加利福尼亚州真实历史数据集进行预测实验。消融实验通过孤立和重构网络模型验证了所提方法的有效性。全时段和早高峰交通流预测的实验结果表明,该方法预测准确率高于目前主流交通流预测模型。

基于时序图推理的设备剩余使用寿命预测

剩余使用寿命(Remaining useful life,RUL)预测是大型设备故障预测与健康管理(Prognostics and health management,PHM)的重要环节,对于降低设备维修成本和避免灾难性故障具有重要意义.针对RUL预测,首次提出一种基于多变量分析的时序图推理模型(Multivariate similarity temporal knowledge graph,MSTKG),通过捕捉设备各部件的运行状态耦合关系及其变化趋势,挖掘其中蕴含的设备性能退化信息,为寿命预测提供有效依据.首先,设计时序图结构,形式化表达各部件不同工作周期的关联关系.其次,提出联合图卷积神经网络(Convolutional neural network,CNN)和门控循环单元(Gated recurrent unit,GRU)的深度推理网络,建模并学习设备各部件工作状态的时空演化过程,并结合回归分析,得到剩余使用寿命预测结果.最后,与现有预测方法相比,所提方法能够显式建模并利用设备部件耦合关系的变化信息,仿真实验结果验证了该方法的优越性.