深度神经网络压缩与加速综述

深度神经网络在人工智能的应用中,包括计算机视觉、语音识别、自然语言处理方面,取得了巨大成功.但这些深度神经网络需要巨大的计算开销和内存存储,阻碍了在资源有限环境下的使用,如移动或嵌入式设备端.为解决此问题,在近年来产生大量关于深度神经网络压缩与加速的研究工作.对现有代表性的深度神经网络压缩与加速方法进行回顾与总结,这些方法包括了参数剪枝、参数共享、低秩分解、紧性滤波设计及知识蒸馏.具体地,将概述一些经典深度神经网络模型,详细描述深度神经网络压缩与加速方法,并强调这些方法的特性及优缺点.此外,总结了深度神经网络压缩与加速的评测方法及广泛使用的数据集,同时讨论分析一些代表性方法的性能表现.最后,根据不同任务的需要,讨论了如何选择不同的压缩与加速方法,并对压缩与加速方法未来发展趋势进行展望.

深度学习:开启大数据时代的钥匙

随着大数据时代的到来,基于深度学习技术的机器学习方法被用于有效地分析和处理这些数据。本文首先概述了深度学习技术的由来,对比了浅层结构与深度结构模型的差异,分析了深度结构模型在大数据应用中的优势;认为深度学习取得成功的条件是,大规模训练数据集的支撑、先进的硬件平台支持、新的优化技术的提出;基于计算机视觉应用,从有监督特征学习和无监督特征学习两个方面分别介绍了当前深度学习研究的现状和典型的深度结构模型的基本原理和主要应用;针对当前深度学习的发展现状,总结了深度学习研究存在的挑战和未来的研究方向。

语调、情绪及市场影响:基于金融情绪词典

金融文本的语调与情绪含有上市公司管理层以及个体投资者表达的情感信息,并对股票市场产生影响.通过词典重组和深度学习算法构建了适用于正式文本与非正式文本的金融领域中文情绪词典,并基于词典构建了上市公司的年报语调和社交媒体情绪指标.构建的年报语调指标和社交媒体情绪指标能有效地预测上市公司股票的收益率、成交量、波动率和非预期盈余等市场因素,并优于基于其他广泛使用情绪词典构建的指标.此外,年报语调指标和社交媒体情绪指标对上市公司的股价崩盘风险具有显著的预测作用.为文本大数据在金融市场的应用提供了分析工具,也为大数据时代的金融市场预测和监管等活动提供了决策支持.

双标签监督的几何约束对抗训练

近年来的研究表明,对抗训练是一种有效的防御对抗样本攻击的方法.然而,现有的对抗训练策略在提升模型鲁棒性的同时会造成模型的泛化能力下降.现阶段主流的对抗训练方法通常都是独立地处理每个训练样本,而忽略了样本之间的关系,这使得模型无法充分挖掘样本间的几何关系来学习更鲁棒的模型,以便更好地防御对抗攻击.因此,重点研究如何在对抗训练过程中保持样本间的几何结构稳定性,达到提升模型鲁棒性的目的.具体而言,在对抗训练中,设计了一种新的几何结构约束方法,其目的是保持自然样本与对抗样本的特征空间分布一致性.此外,提出了一种基于双标签的监督学习方法,该方法同时采用自然样本和对抗样本的标签对模型进行联合监督训练.最后,分析了双标签监督学习方法的特性,试图从理论上解释对抗样本的工作机理.多个基准数据集上的实验结果表明:相比于已有方法,该方法有效地提升了模型的鲁棒性且保持了较好的泛化精度.相关代码已经开源:https://github.com/SkyKuang/DGCAT.

基于注意力机制的实例分割算法

实例分割作为计算机视觉领域极具挑战性的任务之一,要求在图像分类的基础上为每一个物体生成像素级别的分割掩码。业界主流方案可分为自上而下和自下而上两种范式,自上而下范式又可分为双阶段分割和单阶段分割。单阶段分割方案为了提高推断速度,往往使用全图卷积操作取代双阶段分割方案中先检测后分割的策略。然而,卷积网络的平移不变性使得同一种类的不同实例提取到的特征相似,仅靠全图卷积难以进行区分,从而导致单阶段分割方案精度下降。针对单阶段分割精度降低的问题,提出了一种注意力机制,该机制在特征图每个位置的特征向量上进行点积运算,并将运算结果作为新的特征图,同一位置点积结果最大化,不同位置点积结果最小化,以丰富特征图中不同实例的差异信息。通过注意力机制使得单阶段分割方案中的全图卷积操作能更好地区分同一种类的不同实例,从而生成高质量分割掩码。在公开数据集上进行实验,验证了所提方法的有效性。

基于采样和加权损失函数的模型窃取攻击方法

模型窃取攻击旨在获得一个和目标受害模型功能相似的替代模型.现有的方法主要采用数据生成或数据选择方法和交叉熵损失函数去获得一个较好的攻击效果.据此,本文着重研究了攻击过程中这两个极为重要的模块:数据采样和损失函数.同时,本文提出了一个新颖的模型窃取攻击方法S&W,其包含了一种新的采样策略和一个精心设计的加权损失函数.首先,新的采样策略更加关注于从受害者模型中获得更多信息的重要样本.与此同时,本文通过引入k-Center算法达到选择样本的多样性的目的.其次,受到经典Focal损失函数的启发,本文设计了一种新的加权损失函数.该损失函数主要关注于受害者模型和替代模型对于相同输入所给出的输出之间的差异,从而促使替代模型模拟受害者模型.在4个常用的数据集上,我们通过实验证明了本文提出的方法的有效性.相比于之前最好的方法,本文方法最高有5.03%的性能提升.

高管之“人”的先天特征在IPO市场中起作用吗?

目前,高管特征的研究仅关注于个人生活经历和工作经历等"后天"因素,缺乏高管先天特征的研究。本文以我国创业板公司在IPO网上路演中的推介高管为研究对象,检验了高管的长相和语音对IPO市场的影响,研究发现:投资者偏好高管长相较好的公司:公司高管长相好,IPO申购中签率低、首日换手率低。高管长相在IPO市场中存在"美貌溢价",即高管长相较好的公司,IPO折价率低;而高管长相较差的公司,则并无显著结论。IPO市场对高管的"低音偏好"具体表现为:高管语音的音量越低,IPO热度越高、IPO折价率也越低;并且,声音低沉的高管所管理的公司价值较高。对比发现,语音特征的作用比长相特征的作用稳定。本文利用机器学习的方法获取客观数据,将高管特征的研究从"后天塑造"的角度拓展至"先天遗传"的领域,为先天特征与公司财务之间关系提供了直接证据。

基于LHBP多尺度向性滤波的文字检测算法

复杂光照条件和文字—背景的交融是自然场景图像中文字检测的主要难点。为解决该问题,提出了基于LHBP(local Haar binary pattern)多尺度向性滤波的文字检测算法。该算法首先采用对光强变化不敏感并具文字特征显式描述特点的LHBP模式的纹理描述算子;并在LHBP模式上采用多尺度向性滤波器MDF(multi-scaledirectional filtering)来确定候选文字区域;最后使用基于LHBP直方图的支持向量机法精确定位文字区域。实验结果表明,与其他主流算法相比,该算法能够去除复杂光照条件和文字—背景交融的影响,具有更好的性能。

深度神经网络结构搜索综述

深度神经网络在图像识别、语言识别和机器翻译等人工智能任务中取得了巨大进展,很大程度上归功于优秀的神经网络结构设计。神经网络大都由手工设计,需要专业的机器学习知识以及大量的试错。为此,自动化的神经网络结构搜索成为研究热点。神经网络结构搜索(neural architecture search,NAS)主要由搜索空间、搜索策略与性能评估方法3部分组成。在搜索空间设计上,出于计算量的考虑,通常不会搜索整个网络结构,而是先将网络分成几块,然后搜索块中的结构。根据实际情况的不同,可以共享不同块中的结构,也可以对每个块单独搜索不同的结构。在搜索策略上,主流的优化方法包含强化学习、进化算法、贝叶斯优化和基于梯度的优化等。在性能评估上,为了节省计算时间,通常不会将每一个网络都充分训练到收敛,而是通过权值共享、早停等方法尽可能减小单个网络的训练时间。与手工设计的网络相比,神经网络结构搜索得到的深度神经网络具有更好的性能。在Image Net分类任务上,与手工设计的MobileNetV2相比,通过神经网络结构搜索得到的MobileNetV3减少了近30%的计算量,并且top-1分类精度提升了3.2%;在Cityscapes语义分割任务上,与手工设计的Deep Labv3+相比,通过神经网络结构搜索得到的Auto-DeepLab-L可以在没有Image Net预训练的情况下,达到比Deep Labv3+更高的平均交并比(mean intersection over union,mIOU),同时减小一半以上的计算量。神经网络结构搜索得到的深度神经网络通常比手工设计的神经网络有着更好的表现,是未来神经网络设计的发展趋势。

《中国图象图形学报》多媒体智能专刊简介

近年来,人工智能和高性能计算快速发展,大规模多媒体数据的智能应用需求日趋广泛,多媒体数据的融合、转换、理解、搜索、推理与推荐等方向的新问题也不断涌现,推动了多媒体智能处理与分析技术的迅速发展,在学术界和产业界均引起极大关注。为更好地推动多媒体智能处理与分析理论、技术、应用的发展,及时记录我国多媒体智能领域的最新技术、前沿进展、学者观点、算法研究、数据集构建及应用落地等方面的优秀成果.