基于深度卷积限制玻尔兹曼机的步态识别

传统的步态识别方法难以得到有效的步态特征,而深度学习方法可以通过学习自动获得特征,然而现有的深度学习模型用于步态识别时存在一些问题。深度卷积神经网络训练速度快,但训练精度较低;深度置信网络模型精度较高,但模型收敛速度较慢。针对这两种模型的特点,提出一种两者平衡的算法模型,即深度卷积限制玻尔兹曼机。将卷积神经网络中权值共享、提取图像局部特征等方面的优势融入深度玻尔兹曼机模型中,提高训练精度,减少参数数量。所提算法在CASIA步态数据库上的实验结果验证了该算法在步态识别问题上的有效性和可行性。

基于限制玻尔兹曼机的无极性标注情感分类研究

已有的网络评论情感分类算法都需要手工标注词汇情感倾向,然而网络评论具有表达形式自由、模式多变、词汇更新速度快等特点,手工标注的方式适应能力较低。为解决上述问题,结合限制玻尔兹曼机和相似差异向量运算,通过降低向量相似度,强调其差异性的方式,提出基于限制玻尔兹曼机的无词汇标注情感分类算法。实验表明,该算法虽褒义精确度稍低于支持向量机,但是在贬义精确度上优于支持向量机,并且不需要进行词汇情感倾向标注,降低了算法的复杂度,提高了泛化能力。

基于限制玻尔兹曼机的极限学习机方法

针对高维数据中存在冗余以及极限学习机(ELM)存在随机给定权值导致算法性能不稳定等问题,将限制玻尔兹曼机(RBM)与ELM相结合提出了基于限制玻尔兹曼机优化的极限学习机算法(RBM-ELM).通过限制玻尔兹曼机对原始数据进行特征降维的同时,得到ELM输入层权值和隐含层偏置的优化参数.实验结果表明,相比较随机森林,逻辑回归,支持向量机和极限学习机四种机器学习算法,RBM-ELM算法能获得较高的分类精度.

基于连续限制玻尔兹曼机的支持向量机岩性识别方法

基于测井数据分析的岩性识别是油气地球物理勘探的基础性问题之一.支持向量机(SVM)是目前分辨能力最高的岩性识别方法,特征优化可提高SVM的识别正确率,该方法采用主成分分析(PCA)进行目标特征提取,易受特征选取的影响.针对诸如白云岩和灰岩的区分等测井响应差别不明显,岩性区分困难而又必须进行的问题,本文引入概率生成模型连续限制玻尔兹曼机(CRBM)进行测井数据岩性特征提取,然后再运用SVM在提取特征上进行岩性识别.运用所发展的CRBMSVM进行川西海相灰岩及白云岩的识别,正确率达到了81.9%.基于同样的支持向量机,CRBM提取特征识别正确率要高于PCA提取特征.

基于限制性玻尔兹曼机的微博主题分类

智慧城市依赖于对大数据的充分利用。近年来,随着移动互联网的发展,在线微博平台,比如新浪微博、Twitter等,已经成为了大数据的主要来源之一。微博平台上产生的海量短文文本信息使用户很难找到自己感兴趣主题的相关信息。本文提出了一种基于限制性玻尔兹曼机的微博短文本的主题分类方法。通过对短文本进行主题建模,挖掘出潜在主题信息,根据短文本的潜在主题信息可实现对短文本的主题分类。

基于限制性玻尔兹曼机的叶片识别算法研究

叶片识别是最简单和直接的植物识别方法,采用机器学习算法是解决叶片识别的重要途径。为更有效的识别叶片,提出基于限制性玻尔兹曼机的叶片识别算法,并通过实验论证算法的可行性。

受限玻尔兹曼机研究综述

概率图模型是目前机器学习研究的热点,基于概率图模型构造的生成模型已广泛应用于图像和语音处理等领域。受限玻尔兹曼机(restricted Boltzmann machines,简称RBMs)是一种概率无向图,在建模数据分布方面有重要的研究价值,RBMs既可以结合卷积算子构造深度判别模型,为深度网络提供统计力学的理论支持,也可以结合有向图构建生成模型,提供具有多峰分布的先验信息。主要综述了以RBMs为基础的概率图模型的相关研究。首先介绍了基于RBMs的机器学习模型的基本概念和训练算法,并讨论了基于极大似然估计的各训练算法的联系,比较了各算法的log似然损失;其次,综述了RBMs模型最新的研究进展,包括在目标函数中引入对抗损失和W距离,并构造基于RBMs先验的变分自编码模型(variational autoencoders,简称VAEs)、基于对抗损失的RBMs模型,并讨论了各实值RBMs模型之间的联系和区别;最后,综述了以RBMs为基础的模型在深度学习中的应用,并讨论了神经网络和RBMs模型在研究中存在的问题及未来的研究方向。

基于深度信念网络的风机叶片结构损伤识别研究

【目的】解决由于模态参数辨别的不确定性,以及虚假模态干扰造成的风机叶片结构损伤识别精度不高的问题.【方法】采用以深度信念网络提取的模态参数特征向量作为标识量的损伤检测方法.首先分别获取ANSYS仿真和实验条件下风机叶片的模态参数;然后利用深度信念网络提取模态参数特征向量作为损伤标识量,检测多种工况下的风机叶片损伤,并与传统BP神经网络方法进行对比;最后搭建实验平台,在实验条件下验证方法的有效性.【结果】基于深度信念网络的损伤识别方法相比传统BP神经网络精度更高,网络训练时间更长.【结论】将深度信念网络提取的模态参数特征向量作为BP神经网络训练的输入向量,可以减小噪声和虚假模态信息等因素对损伤识别结果的影响,提高损伤识别的精度.

基于深度学习的太阳能电池片表面缺陷检测方法

目前对太阳能电池片的缺陷检测仍依赖人工完成,很难通过传统的CCD成像系统自动识别.作为一种多层神经网络学习算法,深度学习因对输入样本数据强大的特征提取能力而受到广泛关注.文中提出一种基于深度学习的太阳能电池片表面缺陷检测方法,该方法首先根据样本特征建立深度置信网络(DBN),并训练获取网络的初始权值;然后通过BP算法微调网络参数,取得训练样本到无缺陷模板之间的映射关系;最后利用重构图像与缺陷图像之间的对比关系,实现测试样本的缺陷检测.实验表明DBN能较好地建立上述映射关系,且准确、快速地进行缺陷检测.

基于自编码网络特征降维的轻量级入侵检测模型

基于支持向量机(SVM)的入侵检测方法受时间和空间复杂度约束,在高维特征空间计算时面临"维数灾害"的问题.为此,本文提出一种基于自编码网络的支持向量机入侵检测模型(AN-SVM).首先,该模型采用多层无监督的限制玻尔兹曼机(RBM)将高维、非线性的原始数据映射至低维空间,建立高维空间和低维空间的双向映射自编码网络结构,进而运用基于反向传播网络的自编码网络权值微调算法重构低维空间数据的最优高维表示,从而获得原始数据的相应最优低维表示;最后,采用SVM分类算法对所学习到的最优低维表示进行入侵识别.实验结果表明,AN-SVM模型降低了入侵检测模型中分类的训练时间和测试时间,并且分类效果优于传统算法,是一种可行且高效的轻量级入侵检测模型.

基于深度学习的人体行为识别算法综述

人体行为识别和深度学习理论是智能视频分析领域的研究热点,近年来得到了学术界及工程界的广泛重视,是智能视频分析与理解、视频监控、人机交互等诸多领域的理论基础.近年来,被广泛关注的深度学习算法已经被成功运用于语音识别、图形识别等各个领域.深度学习理论在静态图像特征提取上取得了卓著成就,并逐步推广至具有时间序列的视频行为识别研究中.本文在回顾了基于时空兴趣点等传统行为识别方法的基础上,对近年来提出的基于不同深度学习框架的人体行为识别新进展进行了逐一介绍和总结分析;包括卷积神经网络(Convolution neural network,CNN)、独立子空间分析(Independent subspace analysis,ISA)、限制玻尔兹曼机(Restricted Boltzmann machine,RBM)以及递归神经网络(Recurrent neural network,RNN)及其在行为识别中的模型建立,对模型性能、成果进展及各类方法的优缺点进行了分析和总结.

基于时序深度置信网络的在线人体动作识别

在线人体动作识别是人体动作识别的最终目标,但由于如何分割动作序列是一个待解决的难点问题,因此目前大多数人体动作识别方法仅关注在分割好的动作序列中进行动作识别,未关注在线人体动作识别问题.本文针对这一问题,提出了一种可以完成在线人体动作识别的时序深度置信网络(Temporal deep belief network,TDBN)模型.该模型充分利用动作序列前后帧提供的上下文信息,解决了目前深度置信网络模型仅能识别静态图像的问题,不仅大大提高了动作识别的准确率,而且由于该模型不需要人为对动作序列进行分割,可以从动作进行中的任意时刻开始识别,实现了真正意义上的在线动作识别,为实际应用打下了较好的理论基础.

基于深度信念网络的苹果霉心病病害程度无损检测

针对现有霉心病无损检测只能检测出有无病害,无法对病害程度进行判断的问题,研究并提出一种基于深度信念网络(deep belief net,DBN)的无监督检测模型。该模型由多层限制玻尔兹曼机(restricted Boltzmann machine,RBM)网络和1层反向传播(back propagation,BP)神经网络组成,RBM网络实现最优特征向量映射,输出的特征向量由BP神经网络对霉心病病害程度分类。对225个苹果样本在波长200~1 025 nm获取其透射光谱后,根据腐烂面积占横截面比例将霉心病害程度分为健康、轻度、中度和重度4种,分别用150个和75个样本作为训练集和测试集,以全光谱数据和基于连续投影算法提取的特征波长数据为输入构建病害程度判别模型,并比较DBN模型与偏最小二乘判别分析、BP神经网络和支持向量机模型的识别效果,实验结果表明,DBN模型病害判别准确率达到88.00%,具有较好的识别效果。

基于深度信念网络的入侵检测模型（英文）

研究了入侵检测系统中海量数据分类的问题.讨论了深度信念网络(DBN)的原理,提出了基于DBN的入侵检测模型.DBN由多层无监督的限制玻尔兹曼机(RBM)网络和一层有监督的反向传播(BP)网络构成.该入侵检测模型采用一种快速、贪婪的方法对DBN网络进行预训练,利用对比分歧算法逐层训练每一个RBM网络;然后,利用有监督的BP算法对整个DBN网络进行微调,并同时对RBM网络输出的低维特征进行入侵数据分类.基于KDD CUP 1999数据集的实验结果表明,使用3层以上的DBN模型分类效果优于自组织映射和神经网络方法.因此,DBN是一种有效且适用于高维特征空间的入侵检测方法.

网络媒体大数据流异构多模态目标识别策略

如何对海量的网络媒体大数据进行准确地目标识别,是当前的一个研究热点和难点.针对此问题提出一种利用媒体流时间相关特性的异构多模态目标识别策略.首先基于媒体流中同时存在音频和视频信息的特征,建立一种异构多模态深度学习结构;结合卷积神经网络(convolutional neural network,CNN)和限制波尔兹曼机(restricted Boltzmann machine,RBM)的算法优点,对音频信息和视频信息分别并行处理,这种异构模式可以充分利用不同深度神经网络的特点;然后生成基于典型关联分析的共享特征表示,并进一步利用时间相关特性进行参数的优化.3种对比实验用来验证所提策略的效果,首先将策略与单一模态算法进行对比;然后再在复合的数据库上建立对比实验;最后在网络视频库上建立对比实验,这些对比实验验证了策略的有效性.

一种基于深度学习的异构多模态目标识别方法

提出一种基于深度学习的异构多模态目标识别方法。首先针对媒体流中同时存在音频和视频信息的特征,建立一种异构多模态深度学习结构;结合卷积神经网络和限制波尔兹曼机的算法优点,对音频信息和视频信息分别并行处理,生成基于典型关联分析的共享特征表示,并进一步利用时间相关特性进行参数的优化。分别使用标准语音人脸库和截取的实际电影视频对算法进行实验。研究结果表明:对于这2种视频来源,所提出方法在目标识别的精度方面都有显著提高。

基于深度模型的社会新闻对用户情感影响挖掘

该文研究了社会新闻中影响读者情感的深层特征。使用三种文本特征选择方法,分别从一元词、二元词和主题粒度下提取文本浅层特征,使用支持向量机模型选择三种粒度下最优浅层特征并且进行分类,得到最优宏平均F1值分别为60.5%、62.1%、63.3%。引入深度信念网络模型,使用三种粒度下最优浅层特征作为输入,进一步训练和抽象得到深层特征,实验中使用深度为3的深度信念网络模型进行训练与分类,最优宏平均F1值分别为61.4%、63.5%、66.1%。实验结果表明,深层特征比浅层特征具有更多的文本语义信息,可以更好地判断社会新闻对公众情绪影响。

深度信念网软件缺陷预测模型

软件缺陷预测技术在检测软件缺陷、保证软件质量方面发挥了重要的作用。利用神经网络分类算法构建的软件缺陷预测模型得到了广泛的应用。但是利用神经网络分类算法训练历史数据只能进行"浅层学习",无法对数据特征进行深度挖掘。针对该问题,利用多层限制玻尔兹曼机叠加成深度信念网,先进行特征集成与迭代,并对这些特征数据进行深度学习,构建了基于深度信念网的软件缺陷预测模型(DBNSDPM)。仿真实验表明,本模型预测的准确性与传统的神经网络缺陷预测模型预测的准确性相比有显著提高。

基于改进深度学习模型C-GRBM的人体行为识别

为了提高复杂视频中人体行为识别的性能,在Gate限制玻尔兹曼机(gate restricted boltzmann machine,GRBM)模型基础上提出一种结合卷积神经网络的Convolutional-GRBM(C-GRBM)模型。利用视频图像平稳性的特点,通过不同的卷积核提取可见层不同的特征,提高模型局部特征提取能力,进而得到更好的人体行为识别率;加入池化操作,对卷积层输出的不同位置上的特征进行聚合统计,降低卷积层输出特征量的维度,从而解决原模型参数过多、容易过拟合等缺陷,进而降低人体行为识别复杂度。在人体行为测试库上的测试表明,本文提出的CGRBM模型能够较好地提高人体行为识别性能。

集成参数自适应调整及隐含层降噪的深层RBM算法

深度置信网络是由若干层无监督的限制玻尔兹曼机(Restricted Boltzmann machines,RBM)和一层有监督的反馈神经网络组成的深层结构,该结构通过对低层输入的逐层抽象转化提取复杂输入及复杂分类数据的有效信息.然而,深度置信网络模型存在隐含层数及特征维数难以确定,后向有监督过程存在"导数消亡"问题,使得低层结构参数得不到有效的训练,而且噪声干扰直接影响识别结果的问题.针对以上问题,提出以下解决方法:每个隐含层位置构建当前层输出与样本标签之间的映射转换矩阵,根据理论标签与实际标签之间的差异,实现隐含层特征维数的自适应调整,缓解"导数消亡"问题,同时在第一隐含层位置进行特征空间降噪,保证计算效率及提高诊断模型的识别效果.复杂工况的齿轮箱故障模拟实验,验证所提方法的有效性.