-
题名自学习稀疏密集连接卷积神经网络图像分类方法
被引量:3
- 1
-
-
作者
吴鹏
林国强
郭玉荣
赵振兵
-
机构
全球能源互联网研究院有限公司
电力系统人工智能(联研院)国家电网公司联合实验室
华北电力大学电子与通信工程系
-
出处
《信号处理》
CSCD
北大核心
2019年第10期1747-1752,共6页
-
基金
国家电网有限公司总部科技项目(基于人工智能的视频图像处理及在巡检中的应用研究,5455HJ170002)
国家自然科学基金项目(61871182,61401154,61773160,61302163)
+3 种基金
北京市自然科学基金项目(4192055)
河北省自然科学基金项目(F2016502101,F2017502016,F2015502062)
中央高校基本科研业务费专项资金项目(2018MS095,2018MS094)
模式识别国家重点实验室开放课题基金(201900051)等资助
-
文摘
通道剪枝是深度模型压缩的主要方法之一。针对密集连接卷积神经网络中,每一层都接收其前部所有卷积层的输出特征图作为输入,但并非每个后部层都需要所有先前层的特征,网络中存在很大冗余的缺点。本文提出一种自学习剪枝密集连接网络中冗余通道的方法,得到稀疏密集连接卷积神经网络。首先,提出了一种衡量每个卷积层中每个输入特征图对输出特征图贡献度大小的方法,贡献度小的输入特征图即为冗余特征图;其次,介绍了通过自学习,网络分阶段剪枝冗余通道的训练过程,得到了稀疏密集连接卷积神经网络,该网络剪枝了密集连接网络中的冗余通道,减少了网络参数,降低了存储和计算量;最后,为了验证本文方法的有效性,在图像分类数据集CIFAR-10/100上进行了实验,在不牺牲准确率的前提下减小了模型冗余。
-
关键词
剪枝冗余通道
自学习
稀疏化密集连接卷积神经网络
图像分类
-
Keywords
pruning redundant channel
self-learning
sparse densely concatenated convolutional neural network
image classification
-
分类号
TN911.73
[电子电信—通信与信息系统]
-