面向弹载图像的深度学习网络压缩方法研究

针对基于深度学习目标识别算法具有网络结构复杂、参数量大、计算延迟高等特点,难以直接应用于弹载任务的问题,对网络轻量化方法进行了归纳总结。介绍了已有的压缩方法和轻量化网络的优点及各自特点,并选择各个方面优秀的算法进行比较。最后,结合深度学习在目标检测领域中的发展,对轻量化弹载图像目标识别算法进行了展望。

带比例因子的卷积神经网络压缩方法

针对卷积神经网络在图像分类任务中,分类准确率高但实时性差的问题。提出了一种含比例因子的"知识提取"算法。此方法在已有的"知识提取"算法上,加入了衡量样本类间相近关系的比例因子,充实了网络压缩手段,使得神经网络可以更精确地进行"知识提取"。其原理是将比例因子误差值作为代价函数的一部分参与训练调节神经网络的神经元参数,进而使得神经网络的泛化能力更加趋近于具有更好分类表现能力的压缩参考网络。结果表明,含比例因子的神经网络压缩算法可以更细致地刻画训练集的类间相近关系,拥有比原"知识提取"算法更好的训练性能,进而训练出泛化性能更强、精度更高的神经网络。实现了在网络分类准确率下降尽量小的前提下,较大程度地减少神经网络的分类耗时,以达到网络压缩的目的。

基于跳白块编码和深度神经网络对脉冲星候选体诊断图像的压缩研究

500 m口径球面射电望远镜(Five-hundred-meter Aperture Spherical radio Telescope,FAST)脉冲星搜索产生的候选体诊断图量级呈指数增长,给科学数据管理工作带来挑战,迫切需要研究压缩方法,实现诊断图的有效存储,加快其在网络中传输共享。脉冲星诊断图像由稀疏的黑白图像、随机分布的灰度图和彩色图像组成,简单视为彩色图像用同一种压缩方法处理显然不合理。提出跳白块编码和深度网络压缩编码压缩模型对脉冲星候选体诊断图分区压缩,使用近年来FAST巡天搜索项目脉冲星候选体诊断图来训练和验证。结果表明,改进的跳白块编码(White Block Skipping,WBS)压缩稀疏黑白图像的性能是PNG(Portable Network Graphics)的5倍;深度网络压缩算法处理灰度图和彩色图峰值信噪比(Peak Signal-to-Noise Ratio,PSNR)性能优于JPEG(Joint Photographic Experts Group)和JPEG2000算法,与BPG(Better Portable Graphics)算法性能相当,结构相似性(Structural Similarity,SSIM)远超传统压缩算法。

轻量级神经网络架构综述

深度神经网络已经被证明可以有效地解决图像、自然语言等不同领域的问题.同时,伴随着移动互联网技术的不断发展,便携式设备得到了迅速的普及,用户提出了越来越多的需求.因此,如何设计高效、高性能的轻量级神经网络,是解决问题的关键.详细阐述了3种构建轻量级神经网络的方法,分别是人工设计轻量级神经网络、神经网络模型压缩算法和基于神经网络架构搜索的自动化神经网络架构设计;同时,简要总结和分析了每种方法的特点,并重点介绍了典型的构建轻量级神经网络的算法;最后,总结现有的方法,并给出了未来发展的前景.