基于空洞转置卷积神经网络的人体骨骼关键点检测算法研究

目前对人体姿态骨骼关键点检测存在两个研究难点,一是如何由2D姿态进行3D人体姿态估计,另一个是标准数据库和用户上传的视频动作在时间上不匹配。为此,本文提出基于空洞转置卷积的沙漏结构(Dilated and Transpose Convolutions Hourglass,DTCH)神经网络;然后应用卡尔曼滤波算法进行数据降噪处理,最后利用动态时间规整(Dynamic Time Warping,DTW)算法提高患者运动时姿态匹配的准确性。在仿真实验中,该模型在Human3.6M数据集上的平均每关节位置误差(MPJPE)与相关研究的最佳结果相比减少了11%,可以精确高效地实现3D人体姿态估计。

基于变分模态分解与空洞卷积神经网络的配电网故障选线方法

小电流接地系统发生单相接地故障时,零序电流故障特征微弱且繁杂多变,传统选线方法可靠性有待提高。提出了一种基于变分模态分解(variational mode decomposition,VMD)与空洞卷积神经网络的配电网故障选线方法。首先,分析配电网健全线路和故障线路的电气特征,采用零序电流作为故障特征信号,为选线模型的输入量提供理论依据;其次,通过变分模态分解把零序电流序列分成不同频率的固有模态函数,提高故障信号特征的平稳性和差异性;然后,采用空洞卷积神经网络作为选线网络,以增大卷积操作感受野的方式增强模型的自适应分类能力;最后,在MATLAB/Simulink中构建10kV配电网进行算例分析,结果表明,该方法在不同故障场景条件下均有较高的选线效果,验证了所提方法的鲁棒性与准确性。

基于空洞卷积神经网络的红壤有机质含量预测研究

土壤有机质(SOM)含量是衡量土壤肥力的重要指标之一,从高光谱遥感图像中有效预测SOM含量具有重要意义。传统的机器学习方法需要复杂的特征工程且精度不高,而以卷积神经网络(CNN)为代表的深度学习方法在土壤高光谱领域研究较少,且对小样本数据建模精度较差,光谱数据的空间特征提取不足。因此,提出了一种使用通道注意力机制的一维空洞卷积网络模型(SE-DCNN)。以广西国有黄冕林场和国有雅长林场采集的207个土壤样本为研究对象,对比分析了3种机器学习方法和4种深度学习方法在不同光谱预处理下的建模效果。结果表明,SE-DCNN模型因为使用了空洞卷积和通道注意力机制,扩大感受野并提取多尺度特征,有较好的建模精确度和泛化拟合能力。最佳预测模型是基于S-G降噪(SGD)和一阶微分(DR)的光谱预处理方式建立的SE-DCNN模型,验证集的决定系数(R^(2))为0.971,均方根误差(RMSE)为2.042 g·kg^(-1),相对分析误差(RPD)为5.273。因此,使用SE-DCNN能够对广西林地红壤有机质含量进行准确预测。

基于卷积神经网络的氢氦协同效应下的空洞演化预测

[目的]了解辐照引起的核结构材料的降质过程对于反应堆安全运行至关重要.然而,由于辐照损伤实验和基于物理的多尺度模拟存在时间和资源密集性的特点,无法快速评估材料的空洞演化行为.[方法]应用卷积神经网络(CNN)对空洞尺寸和数密度进行预测,并在现有的实验数据范围外,对氦和氢注入量在连续参数变化范围内的相关性进行预测.[结果]经过参数优化的CNN可以很好地克服实验数据不足的限制,仅利用元素组分和环境参数即获得准确的数值回归.[结论]这项工作证明了CNN预测氢氦协同效应下辐照损伤的可行性,对核材料的优化和反应堆安全运行具有实际意义.

基于空洞卷积神经网络的铝硅合金实体关系联合抽取模型(英文)

近年来,材料基因组计划(Material genome initiative,MGI)已经成为全球热点。随着材料科学的不断发展,材料文献中包含的海量信息成为研究人员关注的焦点,如何获取大量有效的材料数据是现阶段的主要挑战。本文采用自然语言处理(Natural language processing,NLP)技术从铝硅合金材料文献中获取数据。命名实体识别(Named entity recognition,NER)和关系抽取(Relation extraction,RE)是NLP的两个子任务,可以高效地从文本中提取单词信息及其之间的关系。铝硅合金文献中存在多种命名实体及多种关系,本文从材料科学文献中选择11种实体类型和13种关系类型,手动标注构建了铝硅合金实体关系数据集,将命名实体识别与关系抽取进行联合学习,即对实体识别和关系抽取进行统一建模。此外,针对基础模型的编码层存在捕捉文本语义信息不充分问题,通过改进模型的编码层,将基础模型的BiLSTM层与空洞卷积模型结合,组成了新的编码器,避免了BiLSTM处理文本信息丢失的问题,最终使铝硅合金实体关系联合抽取模型能够更好地捕捉文本中句子的语义单元信息。

基于卷积神经网络的抽油机故障诊断

抽油机故障诊断对于保障油气田的稳定运行至关重要.针对已有基于深度学习的故障诊断模型参数量大导致应用范围受限的问题提出一种基于空洞卷积和惩罚机制的卷积神经网络模型.该模型在浅层神经网络部署不同空洞卷积率的空洞残差模块高效获取示功图轮廓特征的同时降低了模型参数量.其次将惩罚机制融入Softmax损失函数增强模型诊断气体影响等难分样本的故障准确率.采用抽油机实况数据集进行实验验证结果表明该模型参数量为0.94 M浮点型计算量为165.24 M.与MobileNetV3相比改进后的算法模型在准确率同为96.6%的前提下参数量减少了3.30 M浮点型计算量减少了52.22 M更易部署在资源受限的故障诊断平台.

基于注意力机制多尺度卷积神经网络的轴承故障诊断

提出了基于注意力机制的多尺度卷积神经网络(Multi-scale and Attentive Convolutional Neural Network,MACNN)进行轴承故障分类,该模型以一维Resnet18网络结构为主体,卷积模块采用残差模块和空洞卷积并行方式以达到扩大感受野、避免特征信息丢失的目的,同时利用注意力机制可以自动提取有用特征的能力,将模型提取特征作为输入送入注意力机制模块,进一步提高模型故障分类能力。此外,采用边界平衡生成对抗网络(Boundary Equilibrium Generative Adversarial Networks,BEGAN)模型对故障数据增强,改变不平衡数据集的比例,增加数据集样本数量,降低MACNN模型的过拟合,提高诊断的准确率。在帕德博恩轴承数据集(Paderborn University Dataset,PU)上验证MACNN模型,实验结果表明,该模型在特征提取和故障分类方面都表现出了良好的性能,优于当前主流模型。

空洞卷积结合全局池化的卷积神经网络识别作物幼苗与杂草

针对传统Alex Net模型参数大、特征尺度单一的问题,该文提出一种空洞卷积与全局池化相结合的多尺度特征融合卷积神经网络识别模型。通过对初始卷积层的卷积核进行膨胀,以增大其感受野而不改变参数计算量,并采用全局池化代替传统的全连接层来减少模型的参数。通过设置不同膨胀系数的初始卷积层卷积核与全局池化层类型,以及设置不同Batch Size,得到8种改进模型,用于训练识别共12种农作物幼苗与杂草,并从建立的模型中选出最优模型。改进后的最优模型与传统Alex Net模型相比,仅经过4次训练迭代,就能达到90%以上的识别准确率,平均测试识别准确率达到98.80%,分类成功指数达到96.84%,模型内存需求减少为4.20 MB。实际田间预测野芥与雀麦幼苗的准确率都能达到75%左右,说明该文最优模型对正常情况下的幼苗识别性能较好,但对复杂黑暗背景下的甜菜幼苗准确率为60%,对恶劣背景下的识别性能还有待提升。由于模型使用了更宽的网络结构,增加了特征图的多尺度融合,保持对输入空间变换的不变性,故对正常情况下不同作物幼苗与杂草的识别能力较强。该文改进模型能达到较高的平均识别准确率及分类成功率,可为后续深入探索复杂田间背景下的杂草识别以及杂草与幼苗识别装置的研制打下基础。

基于多维度卷积神经网络的m7G位点识别

N7-甲基鸟苷(N7-methylguanosine,m7G)修饰在RNA修饰中普遍存在,识别m7G位点对认识m7G功能和深入了解人类疾病具有重要意义.目前关于m7G位点的识别方法大多基于传统机器学习,需要手动输入筛选最优特征,存在特征冗余问题.为了解决以上问题,提出一种多维度卷积神经网络,该方法基于卷积神经网络构建,并在卷积的基础上增加空间空洞卷积层,采用空洞空间卷积池化金字塔模块获得多尺度序列信息特征,以扩大模型的感受野,使得提取的特征更加全面.基于相同的m7G位点序列数据,将多维度卷积神经网络模型的m7G位点预测能力与几种已有算法进行比较,结果表明,多维度卷积神经网络模型的预测性能优于现有算法.

应用空洞卷积的神经网络轻量化方法

为了深度卷积神经网络能够更好地应用于边缘设备,减少深度神经网络的模型参数量,降低网络复杂度,对于轻量化卷积神经网络的研究日益增多。将常用于多尺度融合的卷积——空洞卷积首次应用于神经网络轻量化领域研究。利用空洞卷积采样与扩大感受野的结构特性,实现了模型参数量的减少与计算复杂度的降低。将空洞卷积单纯作用于残差网络结构,达到轻量化目的,并进一步与逐点卷积结合,提高轻量化效果,形成改进型空洞卷积轻量化方法。为减少准确率衰减,将改进型空洞卷积与普通卷积相融合,提出一种融合型空洞卷积轻量化方法。实验结果表明,改进型空洞卷积轻量化方法具有最显著的轻量化效果,融合型空洞卷积轻量化方法使模型参数量减少同时具有最佳速度与精度的权衡。

基于改进级联卷积神经网络的织物疵点检测

为了改进当前织物检测算法样本数量少、织物疵点检测准确率低和定位精准度差的问题,提出一种端到端的改进的织物疵点检测算法。针对公开数据集样本数量少、样本种类不均衡的问题,采用线下与线上结合的数据增广方式,除了基本的数据增广方法,同时引入复制粘贴以及混合的方式对样本进行扩充与增强;针对特征提取算法提取特征不精确的问题,对特征金字塔进行改进,通过加入可变形卷积、递归特征金字塔、可切换的空洞卷积、全局语义信息的方法扩大感受野、增强语义信息。实验结果验证了算法的有效性,该算法对天池雪浪制造数据集9种布匹疵点进行检测,检测是否具有瑕疵的准确率达到97%以上,疵点定位的平均检测精度为56.7%,样本检测效率为2.4 FPS。相对于基础模型定位精准度提升了10%以上,并且检测效果满足工业上的生产需求。

基于双通道空洞卷积神经网络的手势识别

为了提高手势识别过程中识别率,提出了一种基于双通道卷积神经网络(CNN)的识别算法。首先,对原始手势图像进行预处理,得到手部边缘图像;然后,分别选取手势图像和手部边缘图像作为CNN的两个输入通道;最后,在全连接层进行特征融合,并用SoftMax分类器对输出结果进行分类。通过实验证明:该算法能有效提高手势识别率,达到99.6%,增强了CNN的泛化能力。

基于转置卷积神经网络的路面裂缝识别算法

为解决卷积神经网络(CNN)在二维路面灰度图像裂缝自动检测中存在的识别效率和精确度低的问题,首先提出了一套基于转置CNN层间特征融合的三阶段路面裂缝提取算法(该算法包括区域判定、图像分割、多层特征融合等模块);然后构建了分类-分割网络,训练了多个融合分类网络中间层和分割网络输出层的转置卷积网络,并与CrackNet进行了运行效果的对比。结果表明:当用于区域判定的分割网络CNN-Ⅰ的召回率最小值设置为0.95时,精确度为0.497,此时的阈值为0.003152,结合用于裂缝提取的分割网络CNN-Ⅱ的训练结果得出,分类-分割网络的精确度为0.78、召回率为0.73、F-1分数为0.75、计算一张图片的时间缩短到0.79 ms以内;多层特征融合方法提取裂缝信息更准确,保留了裂缝的连续性特征,实现了基于CNN的路面裂缝自动识别和提取的优化。

基于改进空洞卷积神经网络的丘陵山区田间道路场景识别

基于机器视觉的自主导航是智能农业机械的主要导航方式之一。丘陵山区复杂的田间道路场景,使得智能农机在田间道路上的自主导航与避障存在较大的困难。该文根据丘陵山区田间道路图像特征,将田间道路场景对象分为背景、道路、行人、植被、天空、建筑、牲畜、障碍、水塘、土壤和杆等11类,构建了基于空洞卷积神经网络的田间道路场景图像语义分割模型。该模型包括前端模块和上下文模块,前端模块为VGG-16融合空洞卷积的改进结构,上下文模块为不同膨胀系数空洞卷积层的级联,采用两阶段训练方法进行训练。利用CAFFE深度学习框架将改进的网络模型与经典的FCN-8s网络模型进行了对比测试,并进行了道路阴影的适应性测试。语义分割测试结果表明:Front-end+Large网络的统计像素准确率、类别平均准确率以及平均区域重合度都最高,而FCN-8s网络最低;Front-end+Large网络在无阴影道路训练集和有阴影道路训练集上的平均区域重合度分别为73.4%和73.2%,对阴影干扰有良好的适应性。该文实现了丘陵山区田间道路场景像素级的预测,能为智能农业机械在田间道路上基于机器视觉的自主导航和避障奠定基础。

基于空洞卷积神经网络的医学超声图像去噪

散斑严重影响医学超声图像的质量,从而导致临床诊断和图像处理困难。为解决上述问题,提出一种基于空洞卷积神经网络的散斑减小方法。不同于其他的散斑抑制方法,文中通过建立超声图像和散斑图像之间的非线性映射,同时结合跳跃连接使网络不会发生梯度爆炸或消失,从而具有较好的反向传播能力。该方法可以通过超声图像预测散斑,再由超声图像与预测的散斑图像相减从而得到干净的超声图像。该方法相较于散斑减少各向异性扩散(SRAD)和细节保持各向异性扩散(DPAD),具有更好的散斑减少和结构保存性能,在对比的量化数据上提升巨大。实验结果表明,该方法在超声医学图像上具有较好的性能和鲁棒性。

基于卷积神经网络的超分辨率失真控制图像重构研究

目的解决超分辨率图像重构模型中存在的功能单元之间关联性差,图像色度特征提取完整性不强、超分辨率重构失真控制和采样过程残差控制偏弱等问题。方法通过在卷积神经网络模型引入双激活函数,提高模型中各功能单元之间的兼容连接性;引用密集连接卷积神经网络构建超分辨率失真控制单元,分别实现对4个色度分量进行卷积补偿运算;将残差插值函数应用于上采样单元中,使用深度反投影网络规则实现超分辨率色度特征插值运算。结果设计的模型集联了内部多个卷积核,实现了超分辨率色度失真补偿,使用了统一的处理权值,确保了整个模型内部组成单元的有机融合。结论相关实验结果验证了本文图像重构模型具有良好可靠性、稳定性和高效性。

一种新的卷积神经网络图像隐写分析模型

针对现有卷积神经网络模型在图像隐写分析领域提取特征不充分、检测准确率不高的问题,提出一种融合转置卷积与普通卷积的图像隐写分析神经网络模型TCIS(Transposed Convolution-Convolutional Neural Network Image Steganalysis),包括四大模块:一是预处理模块,使用30个高通滤波器,从多个尺度提取图像噪声的残差信息,减少图像内容的影响;二是转置卷积模块,对特征图进行上采样,放大隐写特征;三是普通卷积模块,由卷积层、BN层和激活函数组成,卷积层包括5个,最后一层使用全局卷积的方式精简识别特征;四是分类模块,通过全连接层和Softmax层判断图像是否隐写。实验结果表明,相比于典型卷积神经网络图像隐写分析模型,TCIS模型在嵌入率0.4bpp情况下使用S-UNIWARD和HUGO算法的隐写分析准确率分别提升了2.94%~25.24%和3.92%~21.64%。

基于空洞卷积神经网络的毒株胚蛋裂纹分割

针对工厂机械设备的噪声和振动、胚蛋蛋壳表面的污斑和裂纹大小、光源打光方式会对裂纹检测产生严重影响,提出一种基于密集空洞卷积模块(DACM)与空洞空间金字塔池化结构(ASPP)的卷积神经网络(CNN)分割方法分割胚蛋裂纹。采用编码器-解码器网络结构与密集连接的空洞卷积结合,增强空间信息表示并重建不同尺度目标信息;同时,在网络浅层引入ASPP,获取多尺度特征,增强细节信息,提高网络分割性能。结果表明:在自制毒株胚蛋顶部裂纹与侧面裂纹数据集上,该方法的平均交并比(MIoU)分别达到了74.2%与81.3%,具有较强的鲁棒性。

基于改进轻量卷积神经网络MobileNetV3的人脸表情识别

人脸表情识别在授课中应用的及时检测可有效提升教育质量和学生参与度。为实现人脸表情识别在授课中的实时检测,该研究基于卷积神经网络MobileNetV3进行学习,对SE和卷积层进行了改进,以构建人脸表情识别模型,可识别八种不同的表情类别。研究空洞卷积的位置对模型性能的影响,发现将空洞卷积放在网络的前部对性能有积极影响,而放在后部则会导致性能下降。同时,通过引入SSE(space squeeze-and-excitation)模块并优化其位置和结构,进一步提高了模型性能。最终提出的MobileNetV3改进版本在参数数量和模型文件大小上有显著减小,但精度下降了1%左右。对模型进行了多次随机试验,鲁棒性良好。该研究可为人脸表情识别在授课中的实时应用提供理论基础和技术支持,未来将致力于开发可在移动端应用的人脸表情识别系统。

融合深度神经网络和空洞卷积的语义图像分割研究

语义分割是计算机视觉中的基本任务,是对图像中的不同目标进行像素级的分割与分类.针对多尺度的目标分割难题,本文提出了一种基于Res Net网络的方法,通过定义并联支路,将浅层特征图像信息融合到深层特征图像中,提出新的空洞空间金字塔模块,该模块采用并行的不同采样率的空洞卷积进行特征提取与融合,从而更有效的提取不同层的特征以及上下文信息,并且在新模块中加入批规范化计算,增强参数调优的稳定性.本文还采用了Adam自适应优化函数,在训练的过程中,使得每个参数的更新都具有独立性,提升了模型训练的稳定性.本文结果在PASCAL VOC 2012语义分割测试集中取得了77.31%mIOU的成果,优于Deeplab V3的效果.