基于二值卷积神经网络的钢铁缺陷检测

缺陷检测是钢铁生产质量管控的重要一环,基于视觉和深度学习的钢铁缺陷自动检测受到了广泛关注。针对卷积神经网络计算及存储资源要求高的问题,基于二值卷积神经网络实现了轻量的钢铁缺陷检测网络。具体地,基于空洞卷积,设计了一种具有分支结构的可融合的二值卷积神经网络,在降低了参数和计算量的同时,有效提升分类准确率。实验结果表明,该网络参数大小为ResNet-18的6.99%,在NEU-CLS数据集上表面缺陷识别率接近最新的全精度PSO-Gabor-CNN算法,达到98.11%。

深度二值卷积网络的人脸表情识别方法

为解决人脸表情识别时存在的参数量大、速度低和表情区域特征表示力不足的问题,提出一种基于深度二值卷积网络的人脸表情识别方法.首先设计一个二值卷积与传统卷积并行运算的轻量化网络模型BRNet,以降低网络模型参数的复杂度,从而提升识别的速度;然后构建一个动态半径策略提取表情二值特征,并形成表情区域注意权重,实现表情局部特征与人脸全局特征的有效融合;最后设计交叉熵和L2损失,快速实现了表情图像的准确分类.实验结果表明,所提方法在常用的CK+和Oulu-CASIA表情库上的平均识别率分别达到99.25%和93.85%,皆优于同类轻量级卷积网络;网络参数量和计算量为5.0×10^(5)B和2.1×10^(5)B,而EfficientFace模型的计算量约为该方法的77倍,证明了所提方法在表情识别中的有效性和轻量性.

基于方向的二值卷积指纹增强优化算法

指纹图像增强是指纹识别系统中非常重要的一个环节,对基于二值卷积模板的指纹增强算法提出了一种优化方法,首先利用基于梯度矢量的方法计算块方向场,然后采用基于多数点的对比平均法进行方向校正,针对特定阈值内的方向应用特定的二值卷积模板进行指纹图像增强。对FVC 2002指纹库中图像进行实验表明该方法是一种简单有效的指纹图像增强算法。

基于二值化条件随机场卷积网络的极化SAR海陆分割

针对现有SAR海陆分割预测精度较低,采用的分割网络模型普遍较大、难以星上部署等难点,提出了一种基于二值化条件随机场卷积网络的极化SAR海陆分割方法(BiCSNet)。该模型的轻量化主要通过所设计的适用于海陆分割二元任务的二值化卷积模块实现,为了提高轻量化网络的分割精度,BiCSNet还融入了卷积条件随机场实现端到端的网络预测功能。基于我国沿海区域的全极化SAR图像构建的数据集,验证了所提出网络在精度和轻量化两方面的良好性能。

二值卷积神经网络综述

二值卷积神经网络(BNN)占用存储空间小、计算效率高,然而由于网络前向的二值量化与反向梯度的不匹配问题,使其与同结构的全精度深度卷积神经网络(CNN)之间存在较大的性能差距,影响了其在资源受限平台上的部署。至今,研究者已提出了一系列网络设计与训练方法来降低卷积神经网络在二值化过程中的性能损失,以推动二值卷积神经网络在嵌入式便携设备发展中的应用。因此,本文对二值卷积神经网络进行综述,主要从提高网络表达能力与充分挖掘网络训练潜力两大方面,给出了当前二值卷积神经网络的发展脉络与研究现状。具体而言,提高网络表达能力分为二值化量化方法设计、结构设计两方面,充分挖掘网络训练潜力分为损失函数设计与训练策略两方面。最后,对二值卷积神经网络在不同任务与硬件平台的实验情况进行了总结和技术分析,并展望了未来研究中可能面临的挑战。

二值VGG卷积神经网络加速器优化设计

基于FPGA的二值卷积神经网络加速器研究大多是针对小尺度的图像输入,而实际应用主要以YOLO、VGG等大尺度的卷积神经网络作为骨干网络。通过从网络拓扑、流水线等层面对卷积神经网络硬件进行优化设计,从而解决逻辑资源以及性能瓶颈,实现输入尺度更大、网络层次更深的二值VGG神经网络加速器。采用CIFAR-10数据集对基于FPGA的VGG卷积神经网络加速器优化设计进行验证,实验结果表明系统实现了81%的识别准确率以及219.9 FPS的识别速度,验证了优化方法的有效性。

基于特征图分块偏移的二值化卷积神经网络

近年来,随着卷积神经网络(Convolutional Neural Network,CNN)的发展,网络模型变得更加庞大,网络结构更加复杂,这限制了其在性能受限的嵌入式平台上的发展。针对这个问题,研究人员提出了一种模型二值化的方法,大幅度提升了网络存储和计算效率,但同时带来了信息损失,导致模型准确率下降。针对二值化卷积神经网络中信息损失问题,提出了两种解决方法。首先提出最大最小池化,使降采样层能够同时保留正值信息和负值信息;其次对特征图二值激活过程中信息丢失的原因进行了分析,并提出了基于特征图分块偏移的二值化方法,有效保留了特征图在二值量化后的局部信息;最后通过实验表明所提方法有效提升了二值化网络模型的性能。

基于硬件描述语言的目标识别硬件加速器设计

本文针对深度学习方法在目标识别领域内的应用,设计了一种基于硬件描述语言的目标识别硬件加速器,运用数据流架构优化方法,设计了二值化卷积神经网络算法所对应的硬件模块单元,实现了对输入图片的识别。实验结果表明,基于多帧分辨率为224×224的图片输入,在硬件平台仿真软件中达到了不俗的识别速率以及识别准确率,为基于硬件系统的深度学习加速器的研究奠定了基础。

二值图像超分辨率重建网络

近年来,深层卷积神经网络在图像超分辨率重建任务中取得了巨大成功,然而复杂的深度神经网络会消耗大量存储空间以及计算资源,严重限制了其在资源有限的移动端设备上的部署.因此降低模型的资源消耗将有助于扩展深度超分辨率网络的实际应用范围.二值神经网络占用存储空间小、计算效率高,激励我们将二值化算法应用于目前的深度超分辨率重建领域,满足现有移动设备对于超分辨率的实际应用需求.因此,本文关注于二值图像超分辨率重建网络的研究.为此,我们首先总结了现有二值化方法,并针对其技术细节和算法特点进行了详细介绍.随后,我们探索了目前二值化方法在超分辨率领域的实际应用效果,并面向图像超分辨率重建任务提出一种新的二值化算法,主要通过提高网络前向过程表达能力和减少网络反向过程训练损失提升二值超分辨率网络的性能.实验表明,无论对比现有基于分类任务的二值化算法还是对比基于超分辨率任务的二值化算法,我们的方法均可以取得最优的性能.

面向弹性光网络中间节点的嵌入式光性能监测系统

针对目前卷积神经网络在弹性光网络中间节点监测时硬件成本高,占用内存大的问题,提出一种基于二值卷积神经网络与异步延时抽头采样技术的嵌入式光性能监测系统。结果表明,对于16QAM、32QAM、64QAM信号,调制格式识别准确率均为100%,光信噪比识别准确率分别为99.1%、98.5%和97.4%。这些结果证明了在嵌入式平台上将异步延时抽头采样技术和二值卷积神经网络用于中间节点进行链路监测的可行性。此外,本系统的内存占用减少为浮点型卷积神经网络的1/4,识别时间缩短为它的1/3,更适合部署于资源有限的弹性光网络中间节点。