基于Winograd算法的3D卷积神经网络权重剪枝方法

针对3D卷积神经网络在资源有限的环境下高计算成本的挑战,文章提出了一种融合Winograd算法和网络剪枝技术的3D卷积神经网络优化方法。首先,将标准3D卷积层替换为效率更高的3D Winograd层,实现对卷积操作的优化。接着,对3D Winograd层的权重进行重要性评估,保留重要的权重单元并剪枝获得稀疏模型。最后,对稀疏模型进行重训练,恢复剪枝后网络的性能。通过结合Winograd算法和网络剪枝技术,能够在提高识别准确度的同时,显著降低了模型的计算需求。实验结果证实,与其他优化技术相比,本方法能有效减少计算资源消耗,同时保持甚至提高识别性能。

基于3D卷积神经网络的膏体屈服应力预测

膏体流变性能是膏体充填技术重要指标,是金属矿膏体充填工艺流程的重要工程参数.本文提出一种基于3D卷积神经网络的膏体屈服应力预测方法,通过制定图像采集标准并研发图像采集装置采集图像数据集.经Sobel算子实现膏体边缘检测、全图缩小等预处理,得到膏体图像数据集.采用十折交叉验证方法划分数据集,避免因单次随机划分造成的偶然误差.以膏体图像–屈服应力数据集为基础,利用3D卷积神经网络模型提取膏体纹理特征和时序信息等,又通过引入直方图均衡化算法的图像增强策略减少环境因素干扰,提高模型稳健性.利用预处理后的数据集在3D卷积神经网络模型上做训练和测试,得到模型损失值曲线图和混淆矩阵.将屈服应力模型预测结果进行分析,又引入卷积注意力机制嵌入到卷积神经网络实现模型优化,并对模型参数进行调整,模型预测平均准确率从93.26%提升至98.19%,论证了基于3D卷积神经网络的膏体屈服应力预测方法可行性.经图像增强处理的数据集应用到各模型中,模型预测平均准确率均提升3%以上.相比传统膏体流变测量方式,解决了传统膏体屈服应力测量操作复杂、外部因素扰动大、工程现场难以开展等问题.

神经网络-遗传算法对杏鲍菇粉3D打印的建模与优化

【目的】食品3D打印技术是食品领域具有发展前景的新技术,但是打印过程影响因素多,存在打印参数确定困难、打印精度预测能力差等问题。寻找有效建模方法,对杏鲍菇粉3D打印参数进行寻优,以确定最佳3D打印条件。【方法】本研究采用杏鲍菇粉和刺槐豆胶为3D打印原料,以单因素试验为基础,通过中心组合试验设计,研究喷嘴直径、打印高度、喷嘴移动速度和填充率4个关键的工艺参数对杏鲍菇粉3D打印精度的影响,并在此基础上采用响应面法和神经网络-遗传算法分别建模分析,确定3D打印的工艺参数。【结果】单因素试验及中心组合试验结果表明,影响3D打印精度的主要因素从大到小顺序为填充率、喷嘴直径、喷嘴移动速度、打印高度。响应面法和神经网络-遗传算法均可用于杏鲍菇粉3D打印参数优化,但是优化效果不同。响应面法的决定系数R^(2)值、均方根误差、相对误差、预测最优值分别为0.8817、0.2314、72.73%、0.148;神经网络-遗传算法的决定系数R^(2)值、均方根误差、相对误差、预测最优值分别为0.9389、0.2269、33.85%、0.215。比较模型参数可得,神经网络-遗传算法的决定系数R^(2)值较高,均方根误差、相对误差较低,比响应面法拟合能力更好,同时其预测最优值较高,具有更好的预测能力。神经网络-遗传算法比响应面法更适合于杏鲍菇粉3D打印参数工艺的优化。采用神经网络-遗传算法获得以杏鲍菇为原料的3D打印最佳工艺参数条件为:喷嘴直径1.2 mm、打印高度1.1 mm、喷嘴移动速度24 mm·s^(-1)、填充率84%。经过试验验证,神经网络-遗传算法确定的最优参数打印样品偏差为0.325,优于响应面的实际打印偏差0.550。【结论】本研究结果表明神经网络-遗传算法可以有效确定3D打印过程最优工艺参数,准确预测食品3D打印产品的精度,可作为农产品及食品个性化3D打印工艺参数优化的一种有效便捷方法。

基于3D U-Net++卷积神经网络的断层识别方法及应用

断层解释是地震资料解释的基础与关键,准确合理的断层识别对油气开采有着至关重要的作用。随着油田对断层解释精度需求的日益提高,单纯通过基于人工的如相干体、曲率等属性的传统断层解释方法,其精度已无法满足要求。笔者在U-Net卷积神经网络模型的基础上进行改进,得出了一种自动断层识别方法,能够从任意三维地震图像中自动提取断层。文中该模型在足量样本集训练下,对两区块的实际地震数据进行自动断层识别,将识别结果进行分析对比。实验结果表明,该模型能够对任意三维地震数据进行自动断层识别,基于3D U-Net++网络模型的断层识别结果相比于传统U-Net网络识别结果准确性有明显提高,对潜山内部的小断层识别也表现出良好的效果,明显提高了常规、复杂断层识别的工作效率。

基于改进3D卷积神经网络的疼痛检测

在临床实践中,精确评估疼痛对于疼痛管理和诊断至关重要.但传统的评估方法主观性高且依赖医生经验,迫切需要更可靠客观的替代方法.利用深度学习的方法实现基于面部表情的疼痛检测研究近年已取得显著进展,但复杂的结构和高计算成本制约了其实际应用.因此,本文提出了一个改进的3D卷积神经网络,采用轻量级的3D卷积神经网络L3D作为骨干网络,并结合改进的SE注意力机制,把多个不同尺度的特征进行融合,捕捉疼痛序列中具有较强辨别能力的时空特征.在UNBC-McMaster和BioVid数据集上进行评估,与最新方法相比,该方法在疼痛检测性能以及计算复杂度上取得了优势.

基于3D卷积神经网络的MPI新视点合成算法

多平面图像(Multiplane Image, MPI)能够构造出一种以相机为中心、按深度分层的三维场景显式表示,用于新视点合成研究与应用。由于MPI生成预测网络在训练时不能有效捕获深度平面间遮挡区域的空间特征,使得MPI合成的新视点图像往往存在明显的伪影和扭曲。为此提出利用3D卷积神经网络捕捉深度平面间的空间特征,用于提高对平面图像几何结构和Alpha值的预测能力,从而实现高质量MPI场景表示和新视点合成目标。在两个数据集上的数值实验表明,算法在窄基线视点外推和宽基线多视点内插任务中能够有效消除合成新视点图像中的伪影和扭曲。当参考视点水平基线宽度增大一倍且不增加MPI深度平面数量时,算法仍然能够有效地预测出不同深度平面的遮挡区域信息,从而保证了视点内插合成图像的质量。

基于连续卷积神经网络的3D脑电图情绪识别

作为人类大脑神经活动的重要指标,脑电(EEG)信号能更深层次地反映人的情绪状况,但当前大多数深度学习模型通过EEG识别情绪不够精确。本文提出基于连续卷积神经网络的3D脑电图情绪识别模型,采用提取DE和PSD特征时得到的等价矩阵所构造的三维脑电图立方体作为输入,舍弃卷积神经网络中的池化层。在DEAP数据集上进行实验,Arousal准确率为95.77%,Valence准确率为93.52%,表明该方法非常适用于情绪识别,能给后续相关研究提供参考。

基于融合多序列MRI的3D卷积神经网络评估脑胶质瘤患者生存预测应用研究

目的利用3D卷积神经网络融合多序列MRI数据探究脑胶质瘤患者生存风险概率。材料与方法回顾性分析来自河南省人民医院影像归档和通信系统的63例术前行颅脑MRI检查的脑胶质瘤患者病例资料(私有病例数据),收集患者的T1加权成像、T2加权成像、T1增强加权成像、液体衰减反转恢复序列数据,结合公开数据集癌症影像档案库(The Cancer Imaging Archive,TCIA)的500例脑胶质瘤患者病例资料,由两名神经影像诊断医师在MRI图像上手动勾画病灶感兴趣区,根据患者生存期分为高风险组、中风险组和低风险组,构建3D卷积神经网络深度学习模型,将数据集按照3∶1∶1的方式划分为训练集、验证集和测试集评估脑胶质瘤患者的生存风险概率。563例病例数据的60%用于训练模型(所有私有病例数据用于训练),20%用于验证方法,20%用于测试结果。结果训练集中高、中、低风险组的受试者工作特征曲线下面积(area under the curve,AUC)分别为0.81、0.79、0.86,验证集中高、中、低风险组的AUC分别为0.74、0.78、0.81,测试集中高、中、低风险组的AUC分别为0.72、0.74、0.75。结论基于多序列MRI的深度学习模型能够为脑胶质瘤患者的生存预测提供辅助支持,为医生临床诊断和预后预测等方面提供定量信息,具有重要的科学价值和临床意义。

基于3D卷积神经网络对局部晚期NSCLC患者的生存预测

目前关于非小细胞肺癌(NSCLC)患者生存分析的研究已经有很多,但是大多数都是在医生勾画出肿瘤的基础上进行影像组学特征提取,其次结合临床以及治疗前患者的肿瘤PET/CT图像特征进行生存分析的研究。在无医生勾画肿瘤的基础上,采用深度学习的方法,基于患者治疗前后FDG-PET是否可以对局部晚期NSCLC患者进行生存分析。在采用治疗前和治疗后FDG-PET时,基于3D卷积神经网络(3D CNN)的深度生存模型的一致性指数(C-index)为0.67。研究表明,同时使用治疗前后PDG-PET进行阅片可以预测出患者的风险概率。

3D卷积神经网络的结构优化及中枢神经系统药物的识别

该文研究了如何利用3D-CNN识别中枢神经系统(CNS)药物和non-CNS药物。首先,构建CNS药物和non-CNS药物数据集并优化小分子构象;然后,以3D网格矩阵编码小分子结构,作为3D-CNN模型的输入;接着,在模型训练中,采用正交实验法对3D-CNN模型的超参数进行快速优化;最后,使用外部测试集检验模型,达到ACC为84.3%,MCC为0.685,AUC为0.884的泛化性能。实验表明,在正交实验法获取可靠超参数组合的基础上,3D-CNN模型对于CNS药物的识别具有良好效果,所构建的模型为设计新的CNS药物提供了基础。

基于改进3D卷积神经网络的行为识别

鉴于基于视频的人体行为识别中的视频流数据过于庞大,3D卷积核参数设置过多,存在训练时间较长,调参困难等问题,以3D卷积神经网络为基础,提出一种将3D卷积核拆分成空间域和时间域两种卷积核的神经网络结构。两种卷积核分别形成两个数据流进行交互,同时引入残差网络以优化网络结构,减少参数设置。将所提方法应用于两个行为识别数据集KTH和UCF101上进行训练验证,其行为识别准确率分别为96.2%和90.7%。结果表明,较改进前的神经网络框架,所提方法在保证动作识别准确度的前提下,训练速度提高了7.5%~7.8%。该方法可以有效降低深度学习进行行为识别的硬件要求,提高模型训练效率,并可以广泛应用于智能机器人领域。

多模态3D卷积神经网络脑部胶质瘤分割方法

由于大多数脑部胶质瘤边界有水肿且内部结构复杂,分割胶质瘤及瘤内结构难度较大。提出一种新的基于多模态MRI 3D卷积神经网络(CNN)脑部胶质瘤及瘤内各结构的自动分割算法。首先,标准化由T1、T1c、T2、FLAIR 4个MRI模态组成的输入图像。其次,构建10个卷积层,2个全连接层的3D CNN。卷积层采用3×3×3的3D卷积核;全连接层采用PRe Lu激励函数,并结合dropout技术防止过拟合。构建的3D CNN分割胶质瘤和瘤内各结构精度高,与专家手动分割的结果接近。实验结果表明,构建的多模态3D CNN能够准确地分割MRI多模态图像脑部胶质瘤及瘤内各结构,具有重要的临床意义。

多维度自适应3D卷积神经网络原子行为识别

针对现有的3D卷积神经网络(3D Convolutional Neural Networks,3DCNN)行为识别算法将输入视频分块划分为固定长度,其包含的行为信息可能冗余或不全的问题,提出了解决方案。利用人体运动质点轨迹的特性定义了人体原子行为;以原子行为的长度作为视频分块的长度进行视频划分,得到包含完整信息的人体行为。3DCNN要求输入数据必须是相同维度,而原子行为视频块长度不同。为此改进了空间金字塔池化(3D Spatial Pyramid Pooling,3D SPP)技术,以适用于不同长度视频处理。把SPP层放置在全连接层前,处理3DCNN卷积层输出的不同长度特征图,以输出相同长度特征向量。与相关算法相比,实验数据说明该算法对输入数据要求更低,由于视频分块信息的完整性,识别率有显著提高。

基于3D卷积神经网络的活体人脸检测

非法入侵者通过伪装人脸骗取系统认证,给人脸认证系统带来了严重的威胁。因此,活体人脸检测成了人脸认证系统走向实用必须解决的一个重要课题。现有活体人脸检测方法多为基于照片的人脸攻击方面的研究成果,对于基于视频的人脸攻击,效果并不理想。3D卷积神经网络(Convolutional Neural Network,CNN)具有深度学习的特点,能自动学到图像的分布式特征表示;与2D卷积相比,它能学到连续视频帧的动作信息。本文结合3D卷积神经网络的特性,提出利用3D卷积实现视频人脸伪装检测。通过提取3D卷积神经网络最后全连接层学到的时间空间特征,训练SVM(Support Vector Machine)分类器,实现真实人脸和伪装人脸的分类。实验采用两个人脸伪装公开数据库Replay Attack和CASIA,实现多尺度内部数据库测试和交叉数据库测试。实验结果相对于纹理特征及2D卷积方法有较大提高,可应用于视频人脸攻击的活体人脸检测。

基于3D卷积神经网络的IR-BCI脑电视频解码研究

采用3D卷积神经网络模型,对脑电信号进行解码研究,旨在挖掘其深层的特征表达,以提高脑-机接口系统的性能.实验在获取“模拟阅读”脑-机接口系统的多维脑电信号后,将原始的通道特征构建成“脑电视频”的格式.其构造方法为:将通道按实际空间排布为二维矩阵,这样某时刻的多通道采样点在空间上形成一个“视频帧”,这些空间信息在连续时间帧上的堆叠,形成“脑电视频”.这种自然表达信息的方法,不仅包含大脑的空间分布信息,还反映了时间信息的关联,丰富了数据所包含的事件相关信息.借鉴图像领域特征学习的“局部感受野”和“权值共享”思想,搭建了自主学习脑电信号特征的3D卷积神经网络模型,将已打标签的脑电视频数据对模型进行训练,之后对测试集进行测试.与经典的卷积神经网络和传统的最佳单通道算法相比,分类正确率有了进一步的提高.实验表明,基于脑电视频的3D卷积神经网络能够更有效地学习脑电特征,改善了模拟阅读脑-机接口系统的性能.

基于3D卷积神经网络的脑肿瘤医学图像分割优化

针对2D卷积神级网络不能够较好地提取各模态之间的差异信息,不同的图像层肿瘤大小差异显著,且分割精度低,单模态MRI无法清晰地反映GBM的不同组织结构,提出一种基于3D多池化卷积神经网络拟解决以上实际问题。将卷积神经网络应用到脑肿瘤分割上,并针对脑肿瘤的特点,提出3D多池化卷积神经网络模型,通过多尺度的输入与多尺度的下采样,且在后端使用条件随机场(CRF)使图片尽量在边界处分割,增加图像的分割精度,克服脑肿瘤的个体差异,同时适应脑肿瘤不同图像层之间的大小位置差异。通过对100例患者的多模态磁共振图像进行分割,Dice系数达到91.64%;MRI脑肿瘤分割的改进方法可使分割精度得到明显提高,可更好地提取各模态之间的差异信息,实现适应范围更广的MRI肿瘤分割,并准确有效地分割脑肿瘤。

基于3D卷积神经网络的区域降雨量预报

准确的区域降水量预报,在气象服务领域一直是非常重要的问题。短时降雨量预报的目标是在未来短期(0~6小时)内,对当地区域的降雨强度进行精确和及时的预测。气象站通过预测的短期降雨量数据,与观测的天气预报气象数据进行整合,能够发布城市紧急降雨警报,提供有效的防汛防洪信息。本文根据自动站检测的周边历年降水量数据,以及气象站观测的区域上空不同高度的多普勒雷达回波外推图,提出一种基于深度学习方法的降雨预测模型。所提出的模型基于3D卷积神经网络(3D Convolution Neural Network),将所建立的网络模型应用于降雨预测的回归问题,并利用合适的指标对模型精度进行评价,对高精度下特定区域的短时期降雨量进行预测。通过实验,在不同网络结构下进行分析对比实验预测值与观测值的均方根误差达到了6以下。该方法能够对区域上空未来短期的降雨量进行准确的预测。该训练模型在气象站整年的数据中预测稳定。

基于注意力机制的3D卷积神经网络孤立词手语识别

手语识别可以使聋哑人与健全人之间的交流更加便捷,随着深度学习领域的快速发展,手语识别领域迎来了新的机遇.本文以孤立词手语识别为研究对象,针对手语数据冗余、信息多的问题,提出了一种基于3D卷积神经网络的手语识别新方法.通过提取手部区域和关键帧去除手语视频中的冗余信息,改进C3D网络模型结构并引入注意力机制,重点关注语义信息丰富的视频帧,使用余弦退火学习率下降算法提高模型的收敛速度.在DEVISIGN-D手语数据集上,与3种手语识别算法做了实验对比,实验结果表明,该方法能很好地识别孤立词手语,top-5准确率达到了98.4%.

基于3D卷积神经网络的手语动作识别

为了提高3D卷积神经网络在进行动态手语识别任务时的准确率,参考Resnet50网络提出了一种双通道的时空特征提取网络。该网络包含一个高采样频率分支和一个低采样频率分支,分别关注图像中的运动信息和语义信息,最终融合两个分支提取到的特征完成分类识别。在公开数据集UCF-101和自建手语数据集上完成实验验证,结果表明该网络能够充分捕捉时间特征信息和空间特征信息,对人体动作识别与手语动作识别均具有较高的识别能力。

基于3D双流卷积神经网络和GRU网络的人体行为识别

针对基于双流卷积神经网络的人体行为识别准确率不高,不能充分利用时间维度的信息问题,提出一种基于3D双流卷积和门控循环单元(GRU)网络的人体行为识别模型。将3D卷积神经网络引入到双流卷积神经网络中,在双流卷积神经网络的空间流和时间流中分别使用3D卷积神经网络提取视频的时空信息;融合3D双流卷积神经网络提取到的时空特征,形成有时间顺序的时空特征流;将时空特征流输入到具有记忆信息能力的GRU网络中递归学习时间维度的长时序列特征并利用线性SVM分类器进行人体行为识别。在行为识别数据集UCF101上的实验结果表明,该模型充分地利用了视频的时间维度信息,识别率为92.2%,优于其他人体行为识别算法。