基于知识蒸馏的超分辨率卷积神经网络压缩方法

针对目前用于超分辨率图像重建的深度学习网络模型结构深且计算复杂度高,以及存储网络模型所需空间大,进而导致其无法在资源受限的设备上有效运行的问题,提出一种基于知识蒸馏的超分辨率卷积神经网络的压缩方法。该方法使用一个参数多、重建效果好的教师网络和一个参数少、重建效果较差的学生网络。首先训练好教师网络,然后使用知识蒸馏的方法将知识从教师网络转移到学生网络,最后在不改变学生网络的网络结构及参数量的前提下提升学生网络的重建效果。实验使用峰值信噪比(PSNR)评估重建质量的结果,使用知识蒸馏方法的学生网络与不使用知识蒸馏方法的学生网络相比,在放大倍数为3时,在4个公开测试集上的PSNR提升量分别为0.53dB、0.37dB、0.24dB和0.45dB。在不改变学生网络结构的前提下,所提方法显著地改善了学生网络的超分辨率重建效果。

基于压缩卷积神经网络的心律不齐分类方法

心律不齐是一种常见的心脏疾病,严重时可能会危及生命,因此对该疾病开展早期筛查和分类在临床医学中具有重要意义。搭载心电信号(ECG)传感器的可穿戴设备凭借低成本和便捷等特点,是实现日常心脏健康监测的理想平台之一。然而受制于计算能力等因素的限制,可穿戴设备需要将数据上传到云端进行分析,增加了等待时延和用户隐私泄露风险。另一方面,现有心律不齐分类算法在训练时受疾病样本分布不平衡等因素的影响,在识别部分异常病症时的表现不尽人意,限制了其应用范围。为解决上述问题,本文提出了一种基于压缩卷积神经网络的心律不齐分类算法,增强了其在移动平台上的部署能力。同时在训练过程中通过将类别先验分布引入损失函数中,提升了算法对异常病症的识别能力。实验结果表明,本文提出的压缩模型相比经典模型在减少98.2%参数量的同时,超越了许多相关工作取得了0.759的宏F1值。