面向FPGA的二值神经网络模型压缩方法研究

针对卷积神经网络在正向推理时的高计算复杂度与空间复杂度问题,提出了一种基于二值神经网络(Binary Neural Network,BNN)的过滤器剪枝算法(Binary Filter Pruning:BFP). BFP算法通过剪除L2范数较小的过滤器,构建剪枝压缩后的二值神经网络模型.进一步面向FPGA(Field Programmable Gate Array)平台,设计并实现了基于二值复值神经网络(Binary Complex Neural Network,BCNN)的ResNet-18加速计算模型.对二值复值卷积层与预处理过程中的卷积层,分别设计了数据预处理合并优化与数据重排序.实验结果显示,BFP算法在CIFAR-10数据集上的分类精度,比基于SLR(Surrogate Lagrangian Relaxation)的通道剪枝方法平均提高了1%.与CPU平台相比,设计的加速器在PYNQ-Z1平台上的计算性能提高了23倍.

基于自适应梯度优化的二值神经网络

二值神经网络由于在储存空间和计算上的高效性,在视觉任务中被广泛运用.为了训练不可导的二值网络,直通近似(Straight-Through Estimator)和S型近似(Sigmoid)等多种松弛优化方法被用来拟合量化函数.但是,这些方法存在两个问题:(1)由于松弛函数和量化算子的差异导致的梯度失配;(2)由于激活值饱和引起的梯度消失.量化函数自身的特性使二值网络梯度的准确性和有效性无法同时保证.本文提出了基于自适应梯度优化的二值神经网络(Adaptive Gradient based Binary Neural Networks,AdaBNN),其通过自适应地寻找梯度准确性和有效性之间的最佳平衡来解决梯度失配和梯度消失的问题.具体而言,本文从理论上证明了梯度准确性和有效性之间的矛盾,并通过比较松弛梯度的范数和松弛梯度与真实梯度之间的差距,构建了这一平衡的度量标准.因此,二值神经网络能根据所提出的度量调整松弛函数,从而得到有效训练.在ImageNet数据集上的实验表明,本文的方法相较于被广泛使用的BNN网络将top-1准确率提升了17.1%.

基于二值神经网络的SSD目标检测算法

针对SSD(Single Shot MultiBox Detector)目标检测算法存在的计算量过大、占用内存空间较多而影响检测速度的问题,提出一种融合二值神经网络的改进算法。将SSD算法的浮点型的参数以及激活函数进行二值化,降低算法的时间复杂度和空间复杂度。实验结果表明,所提算法能够在基本确保目标检测准确率的情况下,减少内存占用量并有效提高检测的速度。

基于ARM+FPGA平台的二值神经网络加速方法研究

现有的卷积神经网络由于其结构复杂且依赖的数据集庞大,难以满足某些实际应用或者计算平台对运算性能的要求和能耗的限制。针对这些应用或计算平台,对基于ARM+FPGA平台的二值化算法进行了研究,并设计了二值神经网络,该网络减少了数据对存储单元的需求量,也降低了运算的复杂度。在ARM+FPGA平台内部实现时,通过将卷积的乘累加运算转换为XNOR逻辑运算和popcount等操作,提高了整体的运算效率,降低了对能源和资源的消耗。同时,根据二值神经网络中数据存储的特点提出了新的行处理改进算法,提高了网络的吞吐量。该实现方式在GOPS、能源和资源效率方面均优于现有的FPGA神经网络加速方法。

基于PYNQ开发板的二值神经网络分类模型研究

对人工神经网络(artificial neural network,ANN)、卷积神经网络(convolutional neural network,CNN)以及二值神经网络(binary neural network,BNN)模型的原理进行了深入研究,对二值神经网络的特点和优势进行了说明。为了应用在PYNQ开发板上,首先根据传统卷积神经网络的结构搭建了具有适当规模的网络模型,分别在现有的公开数据集如MNIST、CIFAR10、SVHN上进行了训练,取得了良好的分类效果。硬件方面,首先通过HLS综合生成PYNQ开发板可调用的硬件库,再将训练完的权重生成二进制文件进行移植并在开发板上进行分类的预测。测试结果表明,分类模型能在计算资源有限的情况下较为理想地完成分类任务。

融合RBF的二值神经网络推荐模型

随着网络通信技术的快速发展和互联网信息资源的大规模扩张,信息过载问题日益严重,传统的信息服务使得这一问题得到缓解。但对具有海量条目的信息,用户要根据自己的喜欢找到想要的目标并不容易。为了解决该问题,提出一种融合径向基函数(RBF)的二值化卷积神经网络的推荐模型。该模型建立在卷积神经网络的基础上将输入数据预处理为0或1,极大节省数据存储空间并提高推荐效率。利用RBF建立可信任的亲属网络,根据亲属网络中的相似用户筛选出有用信息并进行分析做出相应推荐。针对电影推荐进行实验,实验结果表明该方法是有效可行的。

基于误差模型的权重二值神经网络近似加速

针对智能识别系统精确度和硬件复杂度之间的均衡设计问题,提出了一种基于误差统计模型的权重二值神经网络近似加速方法。在提出了一种获得高精度轻量神经网络的权重二值化处理算法基础上,引入近似加法器、消除乘法器以进一步提高能效。最终提出了一种系统级误差统计模型用于系统评估和优化设计,该设计能够分析和预测权重二值神经网络近似加速系统的最终精度。结果表明:该模型可以准确地预测系统精度,与仿真结果对比,相对误差在2.05%~3.07%。该模型预测用于指导相应软硬件的设计优化,可大幅提高设计的迭代速度。

面向高能效加速器的二值化神经网络设计和训练方法

针对二值化神经网络加速器计算溢出和乘法器依赖的问题,提出一套二值化神经网络设计及其训练方法.首先设计能够模拟溢出的矩阵乘法,保证模型部署后不丢失准确率;然后优化卷积层和激活函数,缓解溢出总量;再设计移位批标准化层,使二值化神经网络摆脱对乘法运算的依赖,并有效地降低访存;最后针对改进的模型提出基于溢出启发的协同训练框架,确保模型训练能够收敛.实验结果表明,与10个主流的关键词激活方法相比,在准确率无明显损失的情况下,所提方法使片上计算规模减少超过49.1%,并为加速器带来至少21.0%的速度提升.

基于二值卷积神经网络的钢铁缺陷检测

缺陷检测是钢铁生产质量管控的重要一环,基于视觉和深度学习的钢铁缺陷自动检测受到了广泛关注。针对卷积神经网络计算及存储资源要求高的问题,基于二值卷积神经网络实现了轻量的钢铁缺陷检测网络。具体地,基于空洞卷积,设计了一种具有分支结构的可融合的二值卷积神经网络,在降低了参数和计算量的同时,有效提升分类准确率。实验结果表明,该网络参数大小为ResNet-18的6.99%,在NEU-CLS数据集上表面缺陷识别率接近最新的全精度PSO-Gabor-CNN算法,达到98.11%。

基于二值神经网络的大场景点云分类

近年随着3维数据采集技术不断发展,大场景点云数据的获取越来越方便。目前深度学习网络框架在2维图像处理领域越来越成熟,而大场景点云是一种3维无规则化的数据,3维卷积神经网络直接处理大场景3维数据会存在分类精度低和计算复杂等问题。因此为了有效解决基于深度学习的点云分类任务中存在的计算时间长和分类精度低的问题,本文提出基于二值神经网络的大场景点云分类方法,针对不规则的3维点云数据设计特征值计算方法,基于IR-Net二值神经网络处理输入的点云特征图像,进一步采用Dynamic ReLU激活函数,提高神经网络的计算效率,最后得出点云分类结果。实验结果表明,所提出的方法在Oakland数据集上分类精度达到97.6%,在GML数据集中取得了92.3%和97.2%的分类精度,实验结果证明Dy-ResNet能够有效提升了点云分类的精度,减少计算的复杂度,并提高了训练效率。

二值VGG卷积神经网络加速器优化设计

基于FPGA的二值卷积神经网络加速器研究大多是针对小尺度的图像输入,而实际应用主要以YOLO、VGG等大尺度的卷积神经网络作为骨干网络。通过从网络拓扑、流水线等层面对卷积神经网络硬件进行优化设计,从而解决逻辑资源以及性能瓶颈,实现输入尺度更大、网络层次更深的二值VGG神经网络加速器。采用CIFAR-10数据集对基于FPGA的VGG卷积神经网络加速器优化设计进行验证,实验结果表明系统实现了81%的识别准确率以及219.9 FPS的识别速度,验证了优化方法的有效性。

基于特征图分块偏移的二值化卷积神经网络

近年来,随着卷积神经网络(Convolutional Neural Network,CNN)的发展,网络模型变得更加庞大,网络结构更加复杂,这限制了其在性能受限的嵌入式平台上的发展。针对这个问题,研究人员提出了一种模型二值化的方法,大幅度提升了网络存储和计算效率,但同时带来了信息损失,导致模型准确率下降。针对二值化卷积神经网络中信息损失问题,提出了两种解决方法。首先提出最大最小池化,使降采样层能够同时保留正值信息和负值信息;其次对特征图二值激活过程中信息丢失的原因进行了分析,并提出了基于特征图分块偏移的二值化方法,有效保留了特征图在二值量化后的局部信息;最后通过实验表明所提方法有效提升了二值化网络模型的性能。

基于三值向二值演化的BNN剪枝方法

针对目前BNN(Binarized Neural Network)剪枝方法存在剪枝比例低、识别准确率显著下降以及依赖训练后微调的问题,提出了一种基于三值向二值演化的滤波器级的BNN剪枝方法,命名为ETB(Evolution from Ternary to Binary)。ETB是基于学习的,通过在BNN的量化函数中引入可训练的量化阈值,使权重和激活值逐渐从三值演化到二值或零,旨在使网络在训练期间自动识别不重要的结构。此外,一个剪枝率调节算法也被设计用于调控网络的剪枝率。训练后,全零滤波器和对应的输出通道可被直接裁剪而获得精简的BNN,无需微调。为证明提出方法的可行性和其提升BNN推理效率而不牺牲准确率的潜力,在CIFAR-10上进行实验:在CIFAR-10数据集上,ETB对VGG-Small模型进行了46.3%的剪枝,模型大小压缩至0.34 MByte,准确率为89.97%,并在ResNet-18模型上进行了30.01%的剪枝,模型大小压缩至1.33 MByte,准确率为90.79%。在准确率和参数量方面,对比一些现有的BNN剪枝方法,ETB具有一定的优势。

基于特征分布调整的深度神经网络二值量化方法

二值卷积神经网络(BNNs)由于其占用空间小、计算效率高而受到关注.但由于量化激活特征的正负部分分布不均等问题,二值网络和浮点深度神经网络(DNNs)之间存在着明显的性能差距,影响了其在资源受限平台上的部署.二值网络性能受限的主要原因是特征离散性造成的信息损失以及分布优化不当造成的语义信息消失.针对此问题,应用特征分布调整引导二值化,通过调整特征的均值方差均衡特征分布,减小离散性造成的信息损失.同时,通过分组激励与特征精调模块设计,调整优化量化零点位置,均衡二值化激活分布,最大程度保留语义信息.实验表明,所提出方法在不同骨干网络、使用不同数据集时均能取得较好效果,其中在CIFAR-10上使用ResNet-18网络量化后网络准确率仅损失0.4%,高于当前主流先进二值量化算法.

模糊神经网络在城市轨道交通行车组织管理中的应用

研究一种可有效促进城市轨道交通行车组织管理效能的模糊神经网络算法。利用超限学习机模块对站点客流量进行初步卷积,使用卷积神经网络将考察线路内的各站点客流量数据进行汇总,同时构建其他线路的参照数据,使用二值化模块形成放行信号灯建议数据。应用该系统后,客流峰值车辆满载率显著下降,客流估值车辆满载率显著提升,客流估值发车间隙显著增加但并未影响到旅客的站内滞留时间。表明该算法可以有效提升城市轨道交通的运行效率和经济效益。

基于轻量级深度神经网络的电磁信号调制识别技术

针对6G时代将会是移动通信与人工智能紧密结合的时代,产生数量庞大的边缘智能信号处理节点的趋势,提出了一种可部署于资源受限的边缘设备上的高效智能电磁信号识别模型。首先,通过绘制电磁信号的星座图将电磁信号具象为二维图像,并根据归一化点密度对星座图上色以实现特征增强;然后,使用二值化深度神经网络对其进行识别,在保证识别准确率的同时明显降低了模型存储开销以及计算开销。采用电磁信号调制识别问题进行验证,实验选取常用的8种数字调制信号,选择加性高斯白噪声为信道环境。实验结果表明,所提方案可以在信噪比为-6~6 d B的噪声条件下获得96.1%的综合识别率,网络模型大小仅为166 KB,部署于树莓派4B的执行时间为290 ms,相比于同规模的全精度网络,准确率提升了0.6%,模型缩减到1/26.16,运行时间缩减到1/2.37。

一种基于MRⅡ算法的三层二值双向联想记忆网络

传统的两层二值双向联想记忆(BAM)网络因其结构的限制存在着存储容量有限、区分小差别模式和存储非正交模式能力不足的缺陷,结构上将其扩展至三层网络是一个有效的解决思路,但是三层二值BAM网络的学习是一个难题,而三层连续型BAM网络又存在处理二值问题不方便的问题。为了解决这些问题,提出一种三层结构的二值双向联想记忆网络,创新之处是采用了二值多层前向网络的MRⅡ算法实现了三层二值BAM网络的学习。实验结果表明,基于MRⅡ算法的三层二值BAM网络极大地提高了网络的存储容量和模式区分能力,同时保留了二值网络特定的优势,具有较高的理论与实用价值。

电气控制线路和人工神经网络关系初探

为了寻求构建人工神经网络的新方法,通过研究人工神经元和继电器的联系,以多速电机控制电路为例,阐述了将电气控制线路转化为人工神经网络的方法,不但为人工神经网络的研究开辟了新的途径,还为用人工神经网络进行电气控制打下了初步的基础。

二值量化的多尺度描述子网络优化

本文提出基于图像比特位的多尺度方法,通过分析图像比特位图中的信息分布,提出并设计层级提取的多尺度结构,将图像的多个比特位信息分级利用,有效地提升神经网络在图像分类、图像匹配等计算机视觉任务中的性能表现。

二值卷积神经网络综述

二值卷积神经网络(BNN)占用存储空间小、计算效率高,然而由于网络前向的二值量化与反向梯度的不匹配问题,使其与同结构的全精度深度卷积神经网络(CNN)之间存在较大的性能差距,影响了其在资源受限平台上的部署。至今,研究者已提出了一系列网络设计与训练方法来降低卷积神经网络在二值化过程中的性能损失,以推动二值卷积神经网络在嵌入式便携设备发展中的应用。因此,本文对二值卷积神经网络进行综述,主要从提高网络表达能力与充分挖掘网络训练潜力两大方面,给出了当前二值卷积神经网络的发展脉络与研究现状。具体而言,提高网络表达能力分为二值化量化方法设计、结构设计两方面,充分挖掘网络训练潜力分为损失函数设计与训练策略两方面。最后,对二值卷积神经网络在不同任务与硬件平台的实验情况进行了总结和技术分析,并展望了未来研究中可能面临的挑战。