复杂场景下深度表示的无人机目标检测算法

复杂地物背景下的无人机检测是“低小慢”目标检测任务中的难点问题。针对环境物体的扰动、无人机目标小而导致无人机目标检测算法准确率低,提出一种基于深度表示的复杂场景无人机目标检测方法。针对无人机目标位置检测不准确的问题,采用广义交并比度量目标真实位置与候选目标位置的偏差。针对正负样本不均衡和易分样本多而导致的学习效果差的问题,通过焦点损失的调制系数,降低负样本和易分样本的损失贡献。调整位置损失与类别损失的权重,提升位置准确性。为了验证性能,建立了一个无人机数据集。实验表明该算法在无人机数据上比YOLOv3提升了20.04%,在PASCAL VOC上比SSD和Retinanet的检测精度提升巨大。

基于深度表示学习和高斯过程迁移学习的情感分析方法

情感分析是自然语言处理领域的重要研究问题。现有方法往往难以克服样本偏置与领域依赖问题,严重制约了情感分析的发展和应用。为此,该文提出了一种基于深度表示学习和高斯过程知识迁移学习的情感分析方法。该方法首先利用深度神经网络获得文本样本的分布式表示,而后基于深度高斯过程,从辅助数据中迁移与测试集数据分布相符的高质量样例扩充训练数据集用于分类器训练,以此提高文本情感分类系统性能。在COAE2014文本情感分类数据集上进行的实验结果显示,该文提出的方法可以有效提高文本情感分类性能,同时可以有效缓解训练数据的样本偏置以及领域依赖问题的影响。

基于深度表示模型的移动模式挖掘

针对时空轨迹中位置顺序和时间对于理解用户移动模式的重要性,提出了一种新的用户轨迹深度表示模型。该模型考虑到时空轨迹的特点:1)不同的位置顺序表示不同的移动模式;2)轨迹有周期性并且在不同的时间段有变化。首先,将两个连续的位置点组合成位置序列;然后,将位置序列和对应的时间块组合成时间位置序列,作为描述轨迹特征的基本单位;最后,利用深度表示模型为每个序列训练特征向量。为了验证深度表示模型的有效性,设计实验将时间位置序列向量应用到用户移动模式发现中,并利用Gowalla签到数据集进行了实验评测。实验结果显示提出的模型能够发现"上班""购物"等明确的模式,而Word2Vec很难发现有意义的移动模式。

基于深度表示模型的旅游路线推荐算法研究

针对现有旅游路线推荐算法在实际应用中景点标签缺失、依赖用户评分等缺陷,提出一种基于深度表示模型的旅游路线推荐算法。根据时空轨迹隐含的位置顺序和时间中的用户移动模式,建立深度表示模型对每个用户的时空间序列训练特征向量,并用Kmeans算法对训练结果进行聚类。为验证实验结果,将用户的移动模式应用到旅游路线推荐上,选择使用Gowalla上的签到数据集进行检测。实验结果表明,包含诸如"购物","夜生活"等标签的移动轨迹具备推荐价值。

基于自主认知深度时间聚类表示的隔离开关故障诊断方法

为准确识别隔离开关发生的故障,并确定故障类型,保证电网的稳定运行,提出一种基于自主认知的深度时序聚类表示模型(Autonomous-cognition deep temporal clustering representation model,AC-DTCR)对隔离开关的故障进行诊断。在数据量少且类别标签信息不可用的情况下,时间序列聚类是非常好的无监督学习技术,而AC-DTCR模型集成了时间重建和K-means目标,为提高编码器的能力,提出一种假样本生成策略和辅助分类任务,改进集群结构,获得特定于集群的时间表示。根据高压隔离开关故障模拟试验得到的电机电流数据,使用AC-DTCR模型分成四个部分对试验数据进行训练。结果表明,该模型具有良好的分类性能,与传统的分类模型和时间序列聚类模型相比,有更高的准确率,可应用于电力设备故障诊断领域中。

基于深度表示学习的多语言文本情感分析

迁移学习专注于解决监督学习在小数据集上难以获得好的分类效果的问题,与传统监督学习的基本假设相比,它并不要求训练集和测试集服从相同或相似的数据分布。通过在标注资源丰富的源语言中学习,并将目标语言的文档投影到与源语言相同的特征空间中去,从而解决目标语言因数据量较小而难以获得好的分类模型的问题。选择亚马逊在书籍、DVD和音乐类目下的中文、英文和日文评论作为实验数据,情感分析作为研究任务,提出了一种新的跨语言深度表示学习模型(cross lingual deep representation learning,CLDRL),实现了不同语言环境下的知识迁移。实验结果表明,CLDRL模型在跨语言环境下最优F1值达到了78.59%,证明了该模型的有效性。

基于深度表示学习的跨领域情感分析

【目的】通过在标注资源丰富的源领域中学习,并将目标领域的文档投影到与源领域相同的特征空间中去,从而解决目标领域因数据量较小难以获得好的分类模型的问题。【方法】选择亚马逊在线购物网站在书籍、DVD和音乐类目下的中文、英文和日文评论作为实验数据,在卷积神经网络和结构对应学习的基础上提出跨领域深度表示模型(CDDRM),以实现不同领域环境下的知识迁移,并将其应用到跨领域情感分析任务之中。【结果】实验结果表明,CDDRM在跨领域环境下最优的F值达到0.7368,证明了该模型的有效性。【局限】CDDRM针对长文本的跨领域情感分类F值仍然有待提升。【结论】知识迁移能够解决监督学习在小数据集上难以获得好的分类效果的问题,与传统监督学习的基本假设相比,它并不要求训练集和测试集服从相同或相似的数据分布。

商空间粒变换的深度特征表示

目前,大数据问题亟待解决,关键就是对问题的特征描述.目前特征描述最流行的理论是深度学习理论,但深层结构共需要多少层,每层需要多少特征?这是深度学习最需要解决的问题.引入商空间理论对深度学习理论进行改进,根据粒度变换原理对问题特征进行深层表示,克服深度学习理论中深度不确定,特征描述不明确的缺点.首先根据商空间理论的粒度变换原则,在多粒度空间分层描述问题特征,从而形成多层的深度特征表示.接着,根据商空间粒度变换的描述特性,在不同粒度空间对问题进行求解.最后,作者选取Letter-recognition数据集进行实验,实验结果表明本文所提的深度特征表示法可以自动将问题分为多层结构,分层描述问题的特征,提升了问题求解精度.

融合特征关联性的深度哈希图像表示方法

针对深度描述子无法提供图像特征之间关联性的问题进行了研究,提出了一种融合特征关联性的深度哈希图像表示方法,这种方法将深度描述子之间的关系融入到图像内容的描述中,用于提高图像检索性能。首先,通过预训练网络生成图像的特征映射,并在此基础上提取出深度特征描述子。然后,将深度特征描述子映射为深度视觉词,从而用于深度视觉词的频繁项集发现。接下来将离散值的深度视觉词图像表示和哈希值的频繁项集图像表示连接生成图像表示。最后,算法通过图像类内、类间的相似性关系构造优化,得到最优的阈值,用于将图像表示变为哈希值。实验中,将提出的方法与一些优秀的图像表示方法在holiday、Oxford和Paris图像集的图像检索任务中进行了性能比对,用于证明此方法的有效性。

基于深度流形表示学习的工业过程多故障识别方法

深度流形表示学习对于自动学习系统的本质特征有着重要的作用。论文提出了一种基于深度流形表示学习的多故障识别方法。所提的多故障识别方法可以分为三个阶段:第一,将故障识别问题转化为分类问题,定义正常和故障状态,以及预处理原始数据;第二,利用深度流形表示学习对深度神经网络进行预训练;第三,利用故障标签数据全局训练深度网络。所提出的方法被应用于由一种典型的工业系统生成的两个不同尺寸以及多个故障类型的数据集。测试结果表明,所提方法能够准确预测故障类型,优于其他两种分类方法。此外,由于所提出的方法仅需要数据,因此很容易迁移到其他的工业系统。

基于深度学习和稀疏表示的分类算法研究

本文采用了一种基于深度学习的稀疏表示分类方法。该网络由一个带有卷积层的自编码器和一个全连接层组成。编码器网络的作用是学习图像鲁棒的深层特征,解码器的任务是进行分类。同时,位于编码器和解码器网络之间的稀疏编码层用于寻找来自编码器深层特征的稀疏表示,然后使用对测试集预测的稀疏编码进行分类。本文对传统的稀疏表示分类网络(SRC)以及结合深度学习的稀疏表示分类网络(DSRC)在UMD移动人脸数据集(UMDAA-01)上进行实验,实验结果表明深度学习与稀疏表示相结合的分类效果优于传统的SRC方法。

联合成对学习和图像聚类的无监督肺癌亚型识别

基因诊断是近年来提高肺癌治愈率的一种新型且有效的方法,但这种方法存在基因检测时间长、费用高、侵入式取样损伤大的问题。文中提出了基于成对学习和图像聚类的无监督学习的肺癌亚型识别方法。首先,采用无监督卷积特征融合网络用于学习肺癌CT图像的深度表示,有效地捕捉被忽略的重要特征信息,并使用包含不同层次抽象信息的最终融合特征来表征肺癌亚型。然后,使用联合成对学习和图像聚类的分类学习框架进行建模,充分利用学习到的特征表示,确保有效的聚类学习,以取得更高的分类精度。最后,利用生存分析和基因分析对肺癌亚型进行多角度验证。在合作医院和TCGA-LUAD数据集上的实验结果表明,该方法通过可靠无创的影像分析和放射成像技术,发现了3种具有不同分子特征的肺癌影像亚型,在降低基因检测问题的同时可有效辅助医师进行精准诊断和个性化治疗,进而提高肺癌患者的治愈生存率。

多角度语义轨迹相似度计算模型

移动设备的发展使得轨迹数据可以记录更多有用的信息,比如签到信息、活动信息,构成了语义轨迹数据。快速有效的轨迹相似度计算会为分析问题带来巨大好处,已有学者对轨迹相似性及语义轨迹相似性做出研究,并提出了一些有效的方法。但是现有轨迹相似性计算方法无法应用于语义轨迹数据,而目前的语义轨迹相似性计算方法又在轨迹采样频率低的情况下效果不佳。因此在解决轨迹相似性计算对低采样频率敏感的基础上,结合了语义轨迹的附加访问地点信息,提出了一种新的轨迹相似性计算模型,叫作多角度语义轨迹(MAST)相似度计算。模型基于LSTM并且引入自注意力机制,学习到的轨迹表达为多个关注轨迹不同方面的低维向量,构成了一个矩阵,从而解决了单一向量无法准确表达轨迹的问题。这个矩阵不仅包含轨迹的空间信息,也包含语义信息,可用于计算语义轨迹相似度。提出的模型在两个现实语义轨迹数据集上进行实验,实验数据表明MAST的计算结果优于现有方法。

基于交互注意力机制的观点检索方法

观点检索旨在从社交媒体文档集中找出与主题相关的观点文档,过程中包含了对主题—文档相关性特征及文档观点特征的提取.现有模型在相关性特征提取时,集中于语义概念扩展层面的研究,忽视了词语的权重问题,导致模型在语义层面的泛化能力受限,进而影响了观点检索结果的准确性.因此,该文在现有模型的基础上使用交互注意力机制提取文本中词语权重,计算出更为准确的相关性特征,将其应用于统一检索模型,实现观点检索.实验表明:与当前最好的模型相比,改进后的统一检索模型在两个Twitter公开数据集上,MAP主指标分别提升了1.5%和1.1%,很好验证了该文所提方法的有效性.

基于堆叠降噪自编码器的跨项目软件缺陷数量预测方法

在软件缺陷预测技术应用中,需要预测的项目可能是一个全新的项目,或者需要预测的项目历史数据较为不足。一种解决方法是利用已有数据充足的项目(源项目)构建模型完成对新项目(目标项目)的预测,主要利用传统机器学习方法对源项目与目标项目进行特征迁移学习完成缺陷预测,但不同项目之间的数据存在较大的分布差异,同时传统机器方法学习到的特征表示能力很弱且缺陷预测性能较差。针对此问题,从深度学习出发提出一种基于堆叠降噪自编码器的跨项目缺陷预测方法,该方法结合堆叠降噪自编码器和最大均值差异距离,能够有效地提取源项目与目标项目可迁移的深层次特征表示,基于该特征可以训练出有效的缺陷数量预测模型。实验结果表明,在Relink数据集和AEEEM数据集上与经典的跨项目缺陷预测方法Burak过滤法、Peters过滤法、TCA以及TCA+进行比较,该方法在大多数情况下可取得最好的预测结果。

面向文本游戏的深度强化学习模型

为了提高文本游戏中智能体的表现性能,提出了一种基于孪生网络和深度后继表示的深度强化学习模型SADSR。首先,使用自然语言处理技术对文本信息进行处理,得到词的嵌入向量,有效地将文本信息转化为数字向量。然后,利用孪生网络分别对状态和动作信息进行特征提取,通过提取到的状态特征向量预测即时奖励,使用状态和动作的联合向量预测后继表示。最后,将后继表示与特定层的权重向量通过交互函数进行计算得到动作价值。实验结果表明:该模型可以有效对价值函数进行拟合,与目前的主流模型相比,SADSR可以将文本游戏中智能体的表现性能提高10%~60%。