一维卷积神经网络的自编码癫痫发作异常检测模型

目的将一维卷积神经网络(1DCNN)作为自编码模型的特征提取网络,利用1DCNN对头皮脑电信号(EEG)局部特征的感知能力来提高自编码模型(AE)在低维特征空间的表达能力,提出一种简单高效的癫痫异常检测模型。方法癫痫发作后会出现标志性的EEG波形变化,通过1DCNN的局部特征提取能力,捕捉正常信号的局部信息;利用正常数据训练自编码器,学习正常EEG数据在低维特征空间的表达,作为异常数据的癫痫EEG数据会脱离正常数据的低维特征空间,从而自编码模型无法有效地实现癫痫异常信号的重构;首先将输入和输出的差值作为异常分数值,然后通过ROC曲线的最优平衡点确定阈值,超过阈值的EEG信号被诊断为癫痫发作数据。利用公开数据集CHB-MIT脑电数据集和TUH脑电数据集,评估本文所提出的1DCNN-AE癫痫检测模型。结果从AUC值和癫痫事件检测两个任务来看,1DCNN-AE模型在患者平均水平下的AUC值分别达到了CHB-MIT的0.890和TUH的0.686,癫痫检测率达到了0.974和0.893,其结果优于最新癫痫异常检测模型LSTM-VAE和模型GRU-VAE。对于模型参数量而言,与LSTM-VAE的47.4M和GRU-VAE的36.9M等模型参数量相比,1DCNN模型的参数量Params达到了58.5M,处于同一个量级;但1DCNN-AE模型计算量FLOPs为0.377G,远远小于LSTM-VAE的21.6G和GRU-VAE的16.2G。结论1DCNN的自编码模型能有效地实现癫痫发作异常检测。

基于深度卷积自编码器和多尺度残差收缩网络的滚动轴承寿命状态识别

针对滚动轴承早期故障识别困难、退化性能难以准确评估的问题,提出了基于深度卷积自编码器(DCAE)和多尺度残差收缩网络(MSRSN)的滚动轴承寿命状态识别方法。首先,为获得清晰的故障特征频率及倍频,将原始数据样本转换为包络谱输入深度卷积自编码器中,实现轴承寿命状态特征的自动提取与表达,并基于多维尺度分析(MDS)算法约简寿命状态特征获得低维特征,然后计算低维特征空间内样本间的欧几里得距离(ED),即为轴承性能衰退评估指标;其次,为全面提取轴承性能衰退特征,提出了改进的多尺度残差收缩网络识别模型,并开发了ReLU与DropBlock正则化相结合的新激活策略增强模型的抗噪性;最后,将所提方法及对比方法应用于轴承全寿命实验数据。实验结果表明:笔者提出的性能衰退评估指标能够精准地识别轴承性能退化起始点以及刻画轴承的退化趋势,所提出的改进的多尺度残差收缩网络识别模型在S SNR=-4~6 dB环境中平均识别正确率为91.75%,能够准确识别轴承寿命状态,验证了方法的实用性以及有效性。

基于近红外光谱数据的一维卷积神经网络模型研究

近红外光谱技术已被广泛应用于各种检测行业,但传统方法难以汇集光谱关键信息,导致模型预测误差较大。为减少误差,基于452个茄科植物,以化学成分为目标,探索了一维卷积神经网络(1DCNN)在近红外数据上的回归模型研究。经参数优化,总结了一套兼顾精度与训练效率的1DCNN模型参数,为后续模型研究提供参考。模型测试集的均方根误差为0.02~0.49,平均相对误差为0.8%~1.7%,远小于历史文献。相比传统方法,1DCNN可充分利用全部近红外谱图数据,且建模简单,模型预测能力强。该工作能为近红外光谱相关研究提供新的数据处理思路,也能促进该技术的应用与发展。

一种基于一维卷积神经网络的试井模型智能识别方法

为提高试井分析工作效率,实现试井模型的自动识别,提出了基于一维卷积神经网络(1D CNN)的试井模型智能识别方法。根据实测数据的特点,提出基于理论曲线构建样本库的原则与方法,并构建了4种常用油藏模型的训练样本库;建立了一维卷积神经网络模型,将样本库中双对数曲线的压力变化和压力导数数据作为输入,油藏类别作为网络输出训练及优化网络,总识别准确率可达99.16%,敏感度均在98%以上。经4口井实例应用,正确识别试井模型的概率大于0.99,与二维卷积神经网络相比,1D CNN显著降低了计算复杂度和时间成本,加快了训练速度。这表明基于试井理论所构建的样本库是有效的,能满足实测数据模型识别的需求;同时证明了方法的有效性、实用性和普适性。

基于卷积神经网络的三维表面分形维数识别

分形维数作为机械加工表面形貌的重要参数,可用于接触表面的摩擦特性分析。然而,现有的分形维数计算方法大多需要选择多组尺度计算相应的测度,这不仅影响分形维数的计算速度和精度,也增加了计算的复杂度。针对机加工表面的三维分形维数测量问题,提出一种基于卷积神经网络的分形维数的识别方法。采用Weierstrass-Mandelbrot分形函数构建一个包含不同分形维数的三维粗糙表面数据集,利用单因素实验法分析网络参数(网络深度、滤波器大小、滤波器数量)对三维分形维数识别精度的影响,以找到最优的神经网络参数组合。通过与差分盒维数法、三角棱镜表面积法和分形布朗运动法3种方法进行对比,验证卷积神经网络法识别三维分形维数的有效性。实验结果表明:基于卷积神经网络方法计算的分形维数平均绝对百分比误差可控制在1.5%以下;该方法在分形维数全动态范围内都表现出较小的误差,可用于计算三维表面轮廓分形维数。

基于改进反馈卷积自编码器的高光谱图像降维

高光谱图像具有光谱分辨率高、特征丰富、图谱合一等优势,在土地利用分类、城市规划管理、森林资源调查等领域有着广泛应用。但是,高光谱图像不同光谱通道间存在大量冗余信息,导致高光谱图像降维算法复杂度高,同时也降低了高光谱图像降维算法的性能。针对该问题,结合目前主流的深度学习技术,文中提出一种基于改进反馈卷积自编码器的高光谱图像降维方法。首先,为增强信息的流动,在原有编码器模型中引入残差连接,促进了梯度信息的传播;其次,为了能够更好地捕捉高光谱数据的关键特征,在现有解码器模型中加入分支结构;最后,通过使用平均池化替换最大池化,采用平均绝对误差(MAE)替换均方误差(MSE)损失函数,进一步优化模型的特征提取能力,提高高光谱图像降维的性能。实验结果表明,所提出模型在Indian Pines数据集上的高光谱图像降维性能超过了现有最新方法,为高光谱图像降维提供了一个新思路。

循环相关熵和一维浅卷积神经网络轴承故障诊断

针对传统二维深度卷积神经网络结构复杂、易产生过拟合和难以有效处理低信噪比信号的问题,提出了一种基于循环相关熵和一维浅卷积神经网络的故障诊断-CCe-1D SCNN方法。该方法综合利用了一维浅卷积神经网络结构简单、计算复杂度低和循环相关熵能在低信噪比环境下有效提取故障特征的优点。首先,计算轴承故障振动信号的循环相关熵函数、循环相关熵谱密度函数和广义循环平稳度;其次,将一维归一化的广义循环平稳度作为一维浅卷积神经网络的输入层,通过一维浅卷积神经网络自动实现故障特征提取和模式分类;最后,将CCe-1D SCNN方法应用于电机轴承故障特征提取和分类,实验结果表明:CCe-1D SCNN方法在低噪声比情况下仍能保持很高的模式识别正确率,为一种自动故障特征提取和模式识别的有效方法。

基于降噪自动编码器与一维卷积网络的风机故障诊断方法

针对风力发电机在发生不同故障时相应的传感器数据会发生变化的特点,提出了一种基于自动降噪编码器与一维卷积网络的故障诊断模型。通过构建在时序上能同时识别多个特征的一维卷积层,实现对所有传感器时序数据的特征提取,提取的特征在全连接层的作用下,通过合理设置网络结构与参数,实现对故障的准确识别。同时,针对在复杂生产环境中,传感器的数据会含有噪声的情况,提出了基于自动降噪编码器的降噪方法,通过降噪编码器的降噪作用,将噪声信号重构成原始信号,从而提高在噪声环境下的故障识别效果。仿真算例表明,与基于模型的方法和其他基于数据驱动方法相比,所提出的方法在精度、鲁棒性上都有明显优势。

利用一维超深度卷积神经网络的金银花NIRS分类模型设计

当前应用于近红外光谱(NIRS)数据定性分析的经典一维卷积神经网络(1D-CNN)模型,通过增加卷积核数量,导致模型臃肿、参数量巨大、计算复杂度高,同时易产生过拟合。为克服传统方法的不足,改进传统1D-CNN模型为一维超深度卷积神经网络模型。首先,采集金银花近红外光谱为样本数据,并采用KS法对样品集预处理;其次,改进传统1D-CNN中的隐含层结构为一维超深度卷积神经网络,并针对NIRS数据适应性进行改进,使其可直接应用于一维NIRS数据;最后,用分层算法完成训练集、验证集和测试集的划分,构建基于一维超深度卷积神经网络的金银花NIRS分类模型。结果表明,改进后的一维超深度卷积神经网络训练集的准确率达到100%,测试集的准确率达到99.57%,损失值收敛为0.018附近。与传统1D-CNN模型相比,本设计模型的训练集与测试集的准确率分别提升了约0.05%与1%,同时,参数量和FLOPs分别减少约47%和5%,并且可大幅度降低过拟合。

改进一维深度卷积神经网络的轴承性能退化指标构建方法

为更好构建能够表征轴承退化过程的性能退化指标,提出一种改进一维深度卷积神经网络轴承性能退化指标的构建方法。首先,构建一维深度卷积神经网络,利用其对原始时域信号自适应提取特征优势,以深度挖掘全寿命时域信号的退化特征;其次,设计一种组合损失函数,在均方误差函数上引入退化特征相邻点正负微分累积值,使得网络在训练过程中退化特征相邻点正微分值不断增大,负微分值不断减小,以提高性能退化指标单调性;最后,通过全连接层将高维特征转化为低维特征,实现性能退化指标构建。通过在公开和实测的数据集上进行实验,验证了所提方法的有效性和可行性。

基于深度学习的二维人体姿态估计综述

人体姿态估计是近年来计算机视觉问题中的一个热门话题,它在改善人类生活方面具有巨大的益处和潜在的应用。近年来深度神经网络得到快速发展,相较于传统方法而言,采用深度学习的方法更能提取图像表征信息。综合分析近年来人体姿态估计的进展,根据检测人数分为单人和多人人体姿态估计。针对单人姿态估计,介绍了基于直接预测人体坐标点的坐标回归方法及基于预测人体关键点高斯分布的热图检测方法;针对多人姿态估计,采用解决多人到解决单人过程的自顶向下方法和直接处理多人关键点的自底向上方法。总结了各方法网络结构的特点和优缺点,并阐述当前面临的问题及未来发展趋势。

基于数据增强型一维改进卷积神经网络的变压器故障诊断方法

为提升基于深度学习的变压器故障诊断精度,提出了一种数据增强型一维改进卷积神经网络的变压器故障诊断方法。首先,针对传统变分自编码器数据生成过程中的盲目性弊端,提出改进变分自编码器(improved variational autoencoder,IVAE)优化变压器溶解气体数据生成策略。其次,为使深层网络结构能适应变压器溶解气体数据,构建一维改进卷积神经网络(one-dimensional improved convolutional neural network,1D-ICNN)作为故障诊断分类器。最后,通过算例仿真验证了所提方法的可行性和适应性。结果表明IVAE能有效解决变压器故障数据样本少、诊断准确率低的局限;数据增强型1D-ICNN在分类精准度上表现优异,准确度提升了13.49%,研究结果可为变压器故障的准确诊断提供新思路。

三维卷积神经网络及其在视频理解领域中的应用研究

3维卷积神经网络(3D CNN)是近几年来深度学习研究中的热点,在计算机视觉领域取得了诸多成就。虽然研究多年且成果丰富,但目前仍缺少关于此内容全面、细致的综述。基于此,该文从以下几个方面对其进行综述:首先阐述3维卷积神经网络的基本原理和模型结构,接着从网络结构、网络内部和优化方法总结3维卷积神经网络的相关改进工作,然后对3维卷积神经网络在视频理解领域中的应用进行总结,最后总结全文内容并对未来发展方向进行展望。该文针对3维卷积神经网络的最新研究进展以及在视频理解领域中的应用进行了系统的综述,对3维卷积神经网络的研究发展具有一定的积极意义。

基于一维卷积神经网络的儿童身体活动类型识别模型构建研究

目的:通过构建高精度、高效的儿童身体活动类型识别模型,为监控儿童日常身体活动及肥胖预防等提供科学、有效的工具。方法:基于包含10种儿童身体活动类型(慢走、快走、慢跑、快跑、走上楼梯、走下楼梯、跳绳、站起、坐下、保持静止)的三轴加速度计数据集,设计了计算复杂度较低的一维卷积神经网络结构ConvNet1D-4,对数据集中10种儿童身体活动类型通过不同的组合方式开展了网络模型的训练和分类研究,并与以往研究成果进行了比较分析。结果:一维卷积神经网络模型ConvNet1D-4对10种儿童身体活动类型分类平均准确率为91.9%,合并2种加速度计数据相似的身体活动生成9种活动类型时,平均准确率为99.5%,均优于前人研究结果,且模型的计算复杂度更低。结论:基于一维卷积神经网络的儿童身体活动类型识别模型ConvNet1D-4性能优良,分类效率高,可在儿童日常身体活动的监控中实现规模化应用。

伪异常引导的卷积自编码网络视频异常检测

视频异常检测由于可以高效、低成本地维护公共安全,在国家安防、医疗监护中发挥着重要作用.基于重构的深度自编码网络异常检测方法因其强大的表示能力而得到了广泛的研究.然而,自编码网络通常也可以成功地重建异常行为,从而导致异常行为的漏检.针对这一问题,提出了一种伪异常引导的卷积自编码网络视频异常检测方法,模型使用3D卷积提取视频时空特征.首先,通过正常数据模拟异常数据分布生成伪异常,提出了两种生成伪异常的方法:基于跳帧的方法和基于补丁的方法;然后,使用正常数据和生成的伪异常数据训练模型,训练时较好地重建正常数据同时较差地重建伪异常数据,由此模型被鼓励为限制异常数据的重建;最后,在UCSD-Ped2、Avenue和ShanghaiTech三个公共视频异常检测数据集上与其他基于重建的模型进行比较,其检测精度获得了有效提升.

基于一维卷积神经网络的地层智能识别方法

地层识别是油气藏勘探的研究基础。传统地层识别由地质学家根据自身掌握的知识和经验手工完成,这种地质学家主导的人工解释是主观的、耗时的,可能引入人为偏差。深度学习在解决复杂非线性问题上具有优势,目前尚无有效解决地层识别的深度学习方法。针对测井-地层识别,提出了基于特征工程和一维卷积神经网络的地层智能识别方法。首先,利用INPEFA技术和中值滤波对原始曲线进行了多维重构,更好地提取了原始曲线的地层趋势及边缘特征,并对重构矩阵和原始曲线特征采用K-means聚类算法提取时空相关聚类特征;然后,以原始曲线特征、INPEFA曲线、中值滤波特征和聚类特征作为输入,基于一维卷积神经网络得到当前深度地层预测类型。与长短期记忆网络(LSTM)和传统的机器学习方法对比发现,在地层的识别上,地层智能识别方法具有更优异的性能和鲁棒性。该方法能有效识别地层,识别准确率达到92.82%,且在识别地层的同时也完成了地层划分。

基于深度卷积变分自编码网络的故障诊断方法

机械传动部件的健康状况影响设备的正常运行,针对齿轮、轴承等传动部件的故障诊断,传统的诊断方法是依靠人工经验提取和选择故障特征,然而,特征选择的优劣直接影响诊断效果。结合深度学习在特征提取和处理高维数据方面的优势,提出一种基于深度卷积变分自编码网络（DCVAEN）的故障诊断方法。该方法利用频谱数据训练深度神经网络,能减少特征提取对人工经验的依赖和信息的损失,在网络中加入了变化的噪声和调整学习率,使得网络隐层提取判别性的故障特征,能满足多故障和变工况的诊断。利用自吸式离心泵数据和西储大学轴承数据进行分析验证,实验结果表明,所提方法能更准确、更稳定地识别传动部件的各种故障,具有较强的泛化能力。

双约束深度卷积网络的高光谱图像空谱解混方法

高光谱图像凭借其“图谱合一”的特点逐渐在军事、环境、农业等方面发挥出重要作用。但是,由于传感器空间分辨率的限制以及地物分布的复杂多样性,高光谱遥感图像中通常存在大量的混合像元,严重制约了高光谱遥感的应用范围。目前,处理混合像元问题最有效的分析方法是混合像元分解(解混)。近年来,深度学习的发展对高光谱遥感产生了重大影响,也催生出一系列基于深度学习的解混方法。现有基于深度学习的解混方法在隐藏信息挖掘方面表现出极大的潜力和优势,通常情况下能够取得更加准确的结果。然而,这些方法大多只考虑了地物的光谱信息而忽略空间分布规律,导致在复杂场景中估算结果可能并不理想,逐渐难以满足工程应用的实际需求。为进一步发掘和利用空间信息提升解混的准确性,本文构建了一种新的深度学习网络来实现高光谱图像解混。新提出的解混网络采用卷积层来获取先验信息,利用高斯核函数的特性来协助区分物质属性,并且通过分配中心像元与邻域像元间的权重来增进丰度平滑性。在新网络中,本文使用Softmax作为丰度对应层的激活函数来约束丰度的输出。此外,在Softmax中,本文采用了L1/2正则化来避免节点出现过拟合而影响最终结果,进一步强化了网络性能,最终形成了一种双约束强化的深度卷积自编码网络来实现无监督的解混。为了验证新方法的有效性和优势,本文将新提出的方法与同类解混方法应用在一系列高光谱数据(包括模拟图像和真实图像)中进行测试,均达到了预期效果。本文的研究成果能够为处理混合像元问题提供了新的技术支撑和理论参考。

一种深度卷积自编码网络及其在滚动轴承故障诊断中的应用

为了解决卷积神经网络权值往往只能随机初始化的问题,提出了一种卷积自编码器。以卷积池化过后的特征为权值,对反卷积核进行叠加,叠加步长为池化时的长度,将信号重构回原信号空间。以原信号与重构信号的差值最小为目标,对卷积核和反卷积核进行优化。进一步,编码特征可以作为新的输入,利用同样的方式进行编码,依次循环,最后给网络加上全连接网络和分类器,用少量带标签样本进行微调,形成具有复杂特征提取能力的深度卷积自编码网络。将该网络用于滚动轴承故障识别,将时域振动信号直接输入网络,在公共数据集——西储大学轴承数据集以及实验室实测数据集上均取得了比传统卷积神经网络要好得多的识别效果,例如在实验室实测数据集上将识别精度从0.799提高到了0.921。将底层提取到的特征通过反卷积核逐层重构,第一次在原信号空间看到了神经网络到底"学"到了什么。观察重构信号可知,卷积神经网络对信号特征的提取实际上就是对信号的一种分解,网络底层通道数对应信号分解时基的个数,通道内单个特征对应基分解时的时间点。提出的卷积自编码器以及对网络结构的分析可为后续科研技术人员构建卷积神经网络提供指导。

基于深度卷积自编码神经网络的手写数字识别研究

针对提高不同笔体下的手写识别准确率进行了研究,将深度卷积神经网络与自动编码器相结合,设计卷积自编码器网络层数,形成深度卷积自编码神经网络。首先采用双线性插值方法分别对MNIST数据集与10000幅自制中国大学生手写数字图片进行图像预处理,然后使用单一MNIST数据集对深度卷积自编码神经网络进行训练与测试;最后使用MNIST与自制数据集中5000幅图片混合,再次训练该网络,对另外5000幅图片进行测试。实验数据表明,所提深度卷积自编码神经网络在MNIST测试集正确率达到99.37%;且5000幅自制数据集模型测试正确率达99.33%,表明该算法实用性较强,在不同笔体数字上得到了较高的识别准确率,模型准确有效。