基于三值向二值演化的BNN剪枝方法

针对目前BNN(Binarized Neural Network)剪枝方法存在剪枝比例低、识别准确率显著下降以及依赖训练后微调的问题,提出了一种基于三值向二值演化的滤波器级的BNN剪枝方法,命名为ETB(Evolution from Ternary to Binary)。ETB是基于学习的,通过在BNN的量化函数中引入可训练的量化阈值,使权重和激活值逐渐从三值演化到二值或零,旨在使网络在训练期间自动识别不重要的结构。此外,一个剪枝率调节算法也被设计用于调控网络的剪枝率。训练后,全零滤波器和对应的输出通道可被直接裁剪而获得精简的BNN,无需微调。为证明提出方法的可行性和其提升BNN推理效率而不牺牲准确率的潜力,在CIFAR-10上进行实验:在CIFAR-10数据集上,ETB对VGG-Small模型进行了46.3%的剪枝,模型大小压缩至0.34 MByte,准确率为89.97%,并在ResNet-18模型上进行了30.01%的剪枝,模型大小压缩至1.33 MByte,准确率为90.79%。在准确率和参数量方面,对比一些现有的BNN剪枝方法,ETB具有一定的优势。

面向FPGA的二值神经网络模型压缩方法研究

针对卷积神经网络在正向推理时的高计算复杂度与空间复杂度问题,提出了一种基于二值神经网络(Binary Neural Network,BNN)的过滤器剪枝算法(Binary Filter Pruning:BFP). BFP算法通过剪除L2范数较小的过滤器,构建剪枝压缩后的二值神经网络模型.进一步面向FPGA(Field Programmable Gate Array)平台,设计并实现了基于二值复值神经网络(Binary Complex Neural Network,BCNN)的ResNet-18加速计算模型.对二值复值卷积层与预处理过程中的卷积层,分别设计了数据预处理合并优化与数据重排序.实验结果显示,BFP算法在CIFAR-10数据集上的分类精度,比基于SLR(Surrogate Lagrangian Relaxation)的通道剪枝方法平均提高了1%.与CPU平台相比,设计的加速器在PYNQ-Z1平台上的计算性能提高了23倍.

基于灰度图二值化的汽车制动器摩擦片残缺检测方法

由于传统方法在汽车制动器摩擦片残缺检测应用中正检率比较低,无法达到预期的检测效果,提出基于灰度图二值化的汽车制动器摩擦片残缺检测方法。采用CCD工业相机采集到摩擦片图像信息,通过对摩擦片灰度图二值化处理,提取到摩擦片图像前景区域,利用递增函数计算出摩擦片轮廓连通域,提取到摩擦片残缺特征,从而识别检测出摩擦片残缺。经实验证明,设计方法正检率在95%以上,在汽车制动器摩擦片残缺检测方面具有良好的应用前景。

随机初始化神经网络剪枝的稀疏二值规划方法

传统深度神经网络剪枝方法往往以预训练模型为初始网络并需要在剪枝后进行微调。受到近年来edgepopup等基于随机初始化网络的剪枝算法优异性能的启发,提出了一种基于稀疏二值规划的随机初始化网络剪枝算法。该算法将剪枝训练过程建模为一个稀疏二值约束优化问题。其核心思想是利用稀疏二值规划来学习一个二值掩膜,利用该掩膜可以从随机初始化的神经网络上裁剪出一个未经训练却性能良好的稀疏网络。与之前基于随机初始化网络的剪枝算法相比,该算法找到的稀疏网络在多个稀疏度下都具有更好的分类泛化性能。与edge-popup算法相比,在ImageNet数据集分类任务中,模型在稀疏度为70%时精度提升7.98个百分点。在CIFAR-10数据集分类任务中,模型在稀疏度为50%时精度提升2.48个百分点。

基于二值离焦的双目结构光三维测量方法

为提高光学三维测量系统的条纹投影效率和测量精度,提出使用二值离焦方法快速投影编码条纹并结合双目立体匹配算法得到视差信息。首先采用Bayer抖动技术将投射的灰度条纹转化为二值条纹,降低投影仪离焦造成对比度、景深下降的影响。然后借助多频外差方法将包裹相位展开为绝对相位,利用视差约束关系和平均误差平方和代价计算来获取最佳相位匹配点。最后经三角测量原理和双目标定获取被测物体的深度信息和三维信息。通过实验对精密小球和雕像进行测量,表明本文提出的方法测量精度和传统十二步相移测量精度接近,比传统三步相移提高了52.8%。

增强型局部二值模式及其图像纹理特征提取

局部二值模式(Local binary pattern, LBP)是一种非常有效的图像纹理描述算子。为了提取更丰富的人脸特征,提出了局部二值模式和环式二值模式(Ring Local binary pattern, RLBP)特征融合的增强局部二值模式算法。先用LBP算法对图像进行特征提取并转化为特征向量,再将其与使用RLBP算法生成的特征向量相融合。最后使用直方图交叉距离计算特征向量的相似度得到在数据集中的识别率。实验数据集选用ORL、ExtendYaleB人脸数据库以及掌纹数据库,实验结果表明,相对于LBP算法和其它融合算法提取到的图像特征而言,融合算法提取的特征更具有鉴别力,获得了更高的识别率。另外还在不同的噪声环境下进行了相关实验分析,证明了所提融合算法对噪声更具有鲁棒性。

面向虹膜识别的多方向中心对称局部二值模式

为了提升虹膜纹理的表征效果,获得稳定的局部纹理信息表达,提出基于多方向中心对称局部二值模式的虹膜识别算法.首先通过眼睑边缘快速定位生成掩膜,抑制眼睑区域噪声;然后在多方向的基础上,提出多方向中心对称的局部二值模式完成虹膜纹理特征的表征;最后利用汉明距离判定虹膜是否匹配.针对由于类内与类间匹配次数失衡导致评价指标正确识别率存在的不足,提出修正的正确识别率.在CASIA.V1,CASIA.V3-Interval,JUL6.0和CASIA.V4-Lamp虹膜库上的实验结果表明,所提算法的修正的正确识别率分别为99.857%,99.940%,99.640%和97.973%,等错误率下降0.03%~5.96%;该算法能够有效地表征虹膜纹理信息,具有良好的识别性能和鲁棒性.

基于二值网络的自动驾驶目标检测方法

针对现有全精度自动驾驶目标检测方法难以在车载计算资源受限平台实时部署等问题,提出了一种基于二值网络的目标检测方法.该方法通过重构残差网络单元和加宽每阶段通道数改进Faster R-CNN主干网络,以增强主干网络特征提取的能力.此外,该方法通过修改卷积核改进特征金字塔网络和区域提议网络,增强表征和预测能力.通过在两种常用目标检测数据集上进行的大量实验表明,该方法能够大幅度减小模型内存,提高检测速度,并取得与全精度模型相近的检测精度.该方法相比于其他先进的二值化目标检测算法,取得了最优秀的检测性能;相比全精度模型,平均参数量减少1.89倍,平均推理速度提高了6.10倍,而检测精度mAP在两数据集上分别仅下降0.2%和2.4%.

基于二值条纹三维测量的相位补偿方法

快速三维测量在工业检测、逆向工程领域得到广泛应用,提出一种基于二值条纹解相的三维测量方法。首先,通过投影1幅二值条纹图像,利用条纹级次分布特点,将携带物体相位信息的图像分割成两个条纹掩膜,利用连通域对白色像素点进行阶梯式标记,以此获得条纹级次。其次,由于环境噪声等干扰因素导致解相时出现跳变误差,因此提出了通过融合半周期位移级次的方法来对相位进行补偿,利用解相的二值条纹来获取半周期错位的互补级次。最后,根据条纹级次和互补级次实现解相进行实验验证。实验结果表明,本文方法解决了相位展开时出现的毛刺问题,并以平板为测量对象,利用本文方法测得的均方根误差为0.1980 mm,且只需要1幅图像即可完成解相,具有良好的鲁棒性和有效性,可应用于快速测量领域。

二值形态学边缘检测算法的量子实现及仿真

为进一步完善量子计算机图像边缘检测算法,结合IBM Q平台上的量子计算操作,提出了量子图像二值形态学边缘检测算法。在NEQR量子二值图像表示和量子二值腐蚀和膨胀操作的基础上,设计并实现了相应的二值形态学去噪处理量子电路和边缘提取量子电路。通过Qiskit扩展在虚拟本地量子模拟器上实现了8×8和128×128大小的量子图像二值形态学边缘检测,同时在IBM Q平台的真实云端量子模拟器上实现了8×8大小的量子图像对比仿真实验,实验结果证明了量子图像二值形态学边缘检测算法的可行性与有效性。

基于中心对称局部二值模式的合成伪装语音检测方法

针对基于局部二值模式的伪装语音检测方法的合成语音检测准确度较低的情况,提出了一种基于中心对称局部二值模式的伪装语音检测方法。该方法通过短时傅里叶变换得到语音信号的语谱图,再利用中心对称局部二值模式提取语谱图的纹理特征,并用该纹理特征训练随机森林分类器,从而实现真伪语音的判别。该方法综合考虑语谱图中像素点的数值大小和位置关系,包含了更加全面的纹理信息,并将特征维度降低至16维,有利于减少计算量。实验结果表明,在ASVspoof 2019数据集上,与传统的基于局部二值模式的伪装语音检测方法相比,所提方法将合成伪装语音的串联检测代价函数(t-DCF)降低了16.98%,检测速度提高了89.73%。

面向高能效加速器的二值化神经网络设计和训练方法

针对二值化神经网络加速器计算溢出和乘法器依赖的问题,提出一套二值化神经网络设计及其训练方法.首先设计能够模拟溢出的矩阵乘法,保证模型部署后不丢失准确率;然后优化卷积层和激活函数,缓解溢出总量;再设计移位批标准化层,使二值化神经网络摆脱对乘法运算的依赖,并有效地降低访存;最后针对改进的模型提出基于溢出启发的协同训练框架,确保模型训练能够收敛.实验结果表明,与10个主流的关键词激活方法相比,在准确率无明显损失的情况下,所提方法使片上计算规模减少超过49.1%,并为加速器带来至少21.0%的速度提升.

基于自适应梯度优化的二值神经网络

二值神经网络由于在储存空间和计算上的高效性,在视觉任务中被广泛运用.为了训练不可导的二值网络,直通近似(Straight-Through Estimator)和S型近似(Sigmoid)等多种松弛优化方法被用来拟合量化函数.但是,这些方法存在两个问题:(1)由于松弛函数和量化算子的差异导致的梯度失配;(2)由于激活值饱和引起的梯度消失.量化函数自身的特性使二值网络梯度的准确性和有效性无法同时保证.本文提出了基于自适应梯度优化的二值神经网络(Adaptive Gradient based Binary Neural Networks,AdaBNN),其通过自适应地寻找梯度准确性和有效性之间的最佳平衡来解决梯度失配和梯度消失的问题.具体而言,本文从理论上证明了梯度准确性和有效性之间的矛盾,并通过比较松弛梯度的范数和松弛梯度与真实梯度之间的差距,构建了这一平衡的度量标准.因此,二值神经网络能根据所提出的度量调整松弛函数,从而得到有效训练.在ImageNet数据集上的实验表明,本文的方法相较于被广泛使用的BNN网络将top-1准确率提升了17.1%.

基于潜在组分配及对比学习增强的符号二值图神经网络

针对符号二值网络的节点异质性及三角形形式平衡理论不适用性的问题,提出一种基于潜在类分配及对比学习增强的符号二值图神经网络模型,其通过同质和异质双空间的互相补充来充分提取网络的隐式和显式信息。在同质空间,采用可学习的潜在组对节点进行分配并将节点看做多个潜在组的组合,然后通过训练来自动挖掘节点间的信息。在异质空间,对节点邻居进行有方向区分的注意力聚合,然后采用网络重建的互信息对比学习来引导聚合过程以获得表达能力更强的表示向量。在符号链接预测任务上与多种相关模型进行对比实验,实验结果显示所提出的模型在四个真实数据集上采用四种评价指标获取的16个评价结果中,12个评价结果可以取得最优值,验证了所提出模型的有效性。

BRIFT:一种基于二值描述符的多模态图像匹配方法

针对使用辐射变化不敏感特征变换(RIFT)在最大索引图(MIM)上计算特征描述符、进行特征匹配耗费时间长的问题,提出了基于RIFT的二值描述符算法(BRIFT)。首先计算图像的相位一致性并得到MIM,然后在MIM上通过快速算法计算特征描述符并将其二值化,最后利用Hamming距离作为距离测度进行匹配。将存在多种几何畸变和辐射度变化的异源遥感图像作为测试数据,将BRIFT算法分别与SIFT,BRISK,BRIEF,RIFT等方法进行对比,结果表明,在略微损失匹配精度的情况下,所提BRIFT算法能节省约80%~90%的特征描述符计算时间,节省约50%的特征匹配时间,实现异源遥感图像的快速鲁棒匹配。

基于二值和三值忆阻器模型构建的混沌系统的特性分析

近年来,基于忆阻器的非线性动力学问题备受关注。该文以二值和三值忆阻器为例分析了二值和多值忆阻器对于混沌系统动力特性的影响。首先,将二值忆阻器引入Chen系统,构建了一个4维的基于二值忆阻器的混沌系统(BMCS)。其次,使用三值忆阻器替换上述系统中的二值忆阻器,构建一个4维的基于三值忆阻器的混沌系统(TMCS)。通过理论分析与数值仿真,从多个角度对比了两个混沌系统之间的动力学特性差异,如Lyapunov指数、分岔图、系统的平衡点、系统稳定性、对初值的敏感性以及系统的复杂度分析等。结果表明,两个基于忆阻器的混沌系统都具有无穷多个平衡点,二者产生的吸引子均为隐藏吸引子,且都存在的暂态混沌现象,但三值忆阻混沌系统具有超混沌特性,且相比二值忆阻混沌系统具有更强的初值敏感性以及更大的参数取值区间。分析得出基于三值忆阻器构建的混沌系统比基于二值忆阻器的混沌系统能够产生更为复杂的动力学特性,混沌信号也更为复杂。

基于自适应混合阈值的智能电表图像二值化

智能电表芯片图像中存在的亮度不均匀和字符大小不一等问题会影响二值化效果,导致字符识别率降低。而目前常用于处理亮度不均匀图像的局部阈值二值化算法大多都没有考虑图像的整体情况,容易产生过分割效应和伪影,且需要手动调整参数,无法有效处理大小不一的字符。针对上述问题,提出一种基于自适应混合阈值的二值化算法,改进了局部阈值的计算方法,利用笔画宽度变换自动计算窗口大小,并根据窗口大小计算自适应参数K,由此得到自适应的局部阈值,对局部和全局阈值进行加权,得到自适应的混合阈值。实验结果表明,相比传统的全局和局部阈值算法,该算法的评估指标和二值化效果都有一定的提升。

基于增强方向局部二值模式的纹理分类

针对方向局部二值模式特征维数高且易受噪声影响的问题,提出了增强方法。首先,在方向局部二值模式的基础上,通过将局部邻域划分为多个8-正交邻域的策略,以降低方向局部二值模式的特征维数;其次,在方向局部模式中引入局部三值模式的思想,以减少噪声的影响。采用CURet、UIUC及Outex三个纹理图像库进行实验,结果证明了该方法以较低的特征维数取得了更好的分类性能。

基于改进局部二值模式及特征融合的人脸表情识别

局部特征描述算子在表情识别领域有着广泛的使用。通过对现有表情识别算法的的研究,针对传统局部二值模式(LBP)算法只考虑领域像素和中心像素点的关系,而忽略了领域像素之间的相互影响。而中心对称局部二值模式(CS-LBP)只考虑了中心对称像素之间的影响。结合LBP和CS-LBP特点出了一种改进的LBP算法,实验结果表明改进的LBP算子利用像素点更充分,能更好的表达特征。针对单一特征很难准确描述原始图片的信息,又提取了图像的Gabor特征,分别与提取LBP特征和改进的LBP特征进行特征融合,使提取的特征更加丰富详细。分类算法中考虑到SVM具有强大的非线性分类能力,将提取的特征与SVM分类器进行结合,在公开表情数据集CK+上采用留出法进行验证,准确率达到95.77%,实验结果表明该方法优于传统的表情识别算法。

基于LMS-STFT-SPWVD的二值化融合分析方法研究

针对二值法存在干扰信号抑制效果、中心频率能量识别效果较差且阈值参数范围难以确定的缺点,提出了LMS-STFT-SPWVD二值化融合时频分析方法。首先,采用LMS-STFT、LMS-SPWVD算法对双分量LFM含噪信号测试函数进行分析,获取LMS-STFT、LMS-SPWVD时频分布模型;结合图像处理的方法,将整个二维时频分布模型进行二值化处理,使其转化为黑白二值时频图像;将二者进行点乘运算,获取LMS-STFT-SPWVD二值化黑白融合时频图像,并与经典方法(LMS-STFT、LMS-SPWVD及STFT-SPWVD)进行了对比研究,讨论了其干扰信号抑制效果与中心频率能量识别效果。结果表明,在阈值范围内,LMS-STFT-SPWVD二值法突出了信号频率能量,具有较好的抗干扰能力。