二值量化的多尺度描述子网络优化

本文提出基于图像比特位的多尺度方法,通过分析图像比特位图中的信息分布,提出并设计层级提取的多尺度结构,将图像的多个比特位信息分级利用,有效地提升神经网络在图像分类、图像匹配等计算机视觉任务中的性能表现。

基于W正则化和变式余弦动量的二值量化

目前二值量化在信息提取过程中只能提取参数符号信息并且完全忽视位置信息,这导致了二值神经网络精度提升困难.针对当前存在的问题,提出了基于W正则化及变式余弦动量的新训练模块.W正则化可依据二值量化特点,对网络权重进行一定调整,使得不同位置的参数根据不同函数进行优化.设计充分利用了参数位置信息,同时提升了二值量化精度.此外,引入连续可导的变式余弦动量,即针对权重的位置分布添加不同幅度的动量,使得距离±1区间较远的参数可以以较快的速度逼近零点,该动量可以大幅提升收敛速度,在不影响推理速度的情况下进一步增加量化精度.在CIFAR-10, CIFAR-100, SVHN, Tiny ImageNet数据集上的实验结果表明,该方法在预测准确率上分别可以达到84.74%, 56.58%, 96.33%和42.41%,高于现有的先进算法.

一种优化的可拓展激光雷达点云可学习二值量化网络

为解决激光雷达点云深度学习网络模型在移动端嵌入式设备部署存在的耗时耗存储问题,提出了一种激光雷达点云可学习二值量化网络模型。该模型基于特征的知识蒸馏,将全精度网络各层统计特征知识转移到二值量化网络,较大幅度地提升了量化精度;提出基于遗传算法的二值量化尺度因子恢复可学习优化算法,通过逐层搜索初始最优尺度恢复因子,并通过网络自学习大幅减少网络参数量;提出一种统计自适应池化损失最小化算法,包括量化网络自调节和全精度网络转移调节两种方式,以解决量化网络中池化信息损失较大的问题。实验结果表明,所提算法在获取高精度的同时实现了较大压缩比和加速比,可将PointNet大小压缩为原来的1/23、加速35倍以上,对其他点云主流深度网络具有良好的扩展性。

三维点云深度模型压缩算法

随着计算机三维视觉的广泛应用,近几年基于深度学习的点云处理算法得到了大量研究,而耗时耗存储的缺陷较大程度限制了其在移动端的部署应用。基于改进损失函数的总体思路,提出了一种新的点云深度模型压缩框架,将知识蒸馏方法引入二值量化模型中,同时考虑点云聚合操作的特殊性引入了辅助损失项,改进的损失函数共包括预测损失项、蒸馏损失项和辅助损失项三部分。实验结果表明,和已有算法相比,所提算法可以获取更高的精度,同时对当前点云主流深度网络模型也具有良好的扩展性。

视觉传感器网络中基于散度模型的协作式图像压缩机制

结合视觉传感器网络的协同工作特性,提出一种基于散度模型的图像压缩机制。理论分析和实验结果表明,该压缩机制不仅可以减少图像数据量,而且由于压缩后每字节数据所含信息量由各簇内节点的二值量化像素均分,不会引起传输错误在图像中大面积扩散。相比于采用传统的图像压缩算法,随着平均分组丢失率的增高,接收图像峰值信噪比较高。

Tent混沌伪随机序列发生器设计与实现

混沌理论作为非线性科学是近年来发展最快的分支,具有非周期、连续宽频带、类噪声和长期不可预测等特点。Tent映射具有迭代方程简单,易于实现,数量众多,相关性能良好等特点。本文设计了Tent映射的二值量化序列算法,将Tent实值序列转化为二进制序列,生成了Tent伪随机序列。使用可视化仿真工具Simulink对该序列发生器进行了数值仿真,证明了方案的正确性和可行性。