兼顾宽度优化的RBM训练算法及其在特征抽取中的应用

DBN(Deep Belief Network,深度置信网络)是由一系列RBM(Restricted Boltzmann Machine,受限玻尔兹曼机)堆叠而成,并附加一个某种类型的分类器(例如softmax)。由于其出色的特征抽取能力,DBN已成功应用于模式识别和数据重构等领域,成为目前深度学习领域最著名的网络之一。RBM作为DBN的核心组件,具有良好的无监督学习能力,广泛应用于协同过滤、数据重构和特征抽取等方向。因此,RBM对数据重构和特征抽取的能力会直接影响DBN的最终表现。

应用贪婪训练算法的装配机械手定位控制研究

装配机械手在开展复杂装配工作时,由于运动路径较为复杂,经常会导致目标定位效果差,影响装配精度。为提升装配机械手的装配精度,提出应用贪婪训练算法的装配机械手定位控制方法。该方法首先依据机械手结构设计机械手动力学方程,构建参数标定模型,引入贪婪训练算法获取机械手的运动学参数;再以此为依据,设计精确的定位控制算法获取机械手的位置误差以及位置变化率;设计模糊控制器对机械手的位置误差以及位置变化率展开实时修正;最后通过控制器的修正输出值实现复杂运动路径下,机械手的高精度定位控制。实验结果表明,使用该方法开展机械手定位控制时,控制效果好。

支持向量机训练算法综述

本文介绍统计学习理论中最年轻的分支——支持向量机的训练算法 ,主要有三大类 :以 SVM-light为代表的分解算法、序贯分类方法和在线训练法 ,比较了各自的优缺点 ,并介绍了其它几种算法及多类分类算法 .最后指出了支持向量机具体实现的方向及其在模式识别、数据挖掘。

一种径向基函数神经网络在线训练算法及其在非线性控制中的应用

针对现有径向基函数 (RBF)神经网络训练算法存在的问题 ,给出了 RBF神经网络的一种在线训练算法 ,对这种在线训练算法所涉及到的各个方面进行了全面的分析 .仿真表明所提出的算法是非常有效的 ,它克服了以往算法的不足并具有很大的实用性 .进一步将 RBF神经网络用于非线性控制 ,取得了良好的结果 .

支持向量机训练算法比较研究

论文介绍了一种年轻的机器学习方法——支持向量机,详细论述了目前主要的支持向量机的训练算法,包括:二次规划算法,分解算法和增量算法。通过实验验证了普通二次规划算法的缺陷,比较了三种典型的SVM分解训练算法的性能,说明了其相对于二次规划算法的优点和对SVM训练问题的适用性,指出了训练速度优劣的原因。最后指出了未来支持向量机训练算法研究的方向。

BP网络的权值诱导与层次训练算法

BP神经网络以其结构简单、工作状态稳定等特点,成为当前应用最广的一种神经网络模型,应用范围包括识别分类、非线性映射、复杂系统仿真等方面。但是,BP网络也存在局部极小、收敛速度慢、网络结构选取困难等缺点。对此。

一种具有强分类能力的离散HMM训练算法

提出了一种具有强分类能力的离散 HMM(hidden Markov models)训练算法 .该算法利用矢量量化技术将来自不同话者的训练数据进行混合训练 ,以生成包含各个话者特征的话者特征图案 .用该特征图案代替经典的离散 HMM中的 VQ码本 ,可以提高观察值符号序列的模式辨识能力 ,从而提高了离散 HMM的分类能力 .给出了该方法用于文本有关的话者识别的实验结果 ,表明该算法可提高系统的识别性能 ,并要降低 HMM对训练集大小的依赖程度 ,且识别时计算量明显小于经典 HMM训练算法 。

超球体单类支持向量机的SMO训练算法

由于One-class支持向量机能用于无监督学习,被广泛用于信息安全、图像识别等领域中。而超球体One-class支持向量机能生成一个合适的球体,将训练样本包含其中,故更适合于呈球形分布的样本学习。但由于超球体One-class支持向量机没有一种快速训练算法,使其在应用中受到限制。SMO算法成功地训练了标准SVM,其训练思想也可用于超球体One-class支持向量机的训练。本文提出了超球体One-class支持向量机的SMO训练算法,并对其空间和时间复杂度进行了分析。实验表明,这种算法能迅速、有效地训练超球体One-class支持向量机。

基于EREF的PSO-AdaBoost训练算法

针对基于PSO的AdaBoost算法(PSO-AdaBoost)的不足,分析了传统目标函数不能适应多个弱分类器拥有相同最小错误率时弱分类器的选择问题,提出了解决这一问题的有效方法。新方法使用特征值和阈值的绝对值差衡量错分样本的错误程度,结合相对熵理论形成PSO算法的适应度函数,使其根据错分样本的错误程度挑选最佳弱分类器。实验结果表明,所提算法具有较高的检测率和较小的泛化错误。

一种改进的神经网络训练算法

针对递归最小二乘反向传播训练(RLS-BP)算法在推导过程中因引入近似公式而影响了收敛速度的进一步提高的情况,提出了一种改进的RLS-BP训练算法,它通过修改误差性能测度使推导过程中不引入近似公式,进一步提高了收敛速度.实验也表明改进的RLS-BP算法比原算法的收敛速度一般要快,有较好的实用价值.

支持向量机的训练算法综述

支持向量机(SVM)是在统计学习理论基础上发展起来的新方法,其训练算法本质上是一个二次规划的求解问题.首先简要概述了SVM的基本原理,然后对SVM训练算法的国内外研究现状进行综述,重点分析SVM的缩减算法和具有线性收敛性质的算法,对这些算法的性能进行比较,并且对SVM的扩展算法也进行简单介绍.最后对该领域存在的问题和发展趋势进行了展望.

扩展隐层的误差反传网络训练算法研究

为提高神经网络的预测精度,对现有的误差反传网络训练算法进行了改进。对三层误差反传网络进行了结构扩展,在训练过的三层网络中,动态增加一个具有线性激活函数的辅助隐层,形成一种新的网络扩展模型。用改进的蚁群算法对新增权值参数进行训练,着重阐述算法的实现过程及算法分析。最后,设计了一组催化剂活性预测实验,对算法改进前后的预测能力及训练误差进行了对比。结果表明,采用该模型及训练算法,可以在不影响网络表达能力的基础上提高网络的训练精度及预测精度,改善了网络的泛化能力。

基于多相关分组的HMM训练算法

在用多观察序列训练HMM理论的基础上,提出了一种基于对多观察序列按多相关系数分组的HMM训练算法(简称基于多相关分组的HMM训练算法).该算法避免了直接计算条件概率的困难,与传统的Baum-Welch算法相比,既考虑了训练序列之间的相关性,又不增加计算量.

一种Adaboost快速训练算法

为解决基于Adaboost算法的人脸检测训练耗时的问题,提出一种Adaboost快速训练算法。基于原算法,在训练中使用序列化表格选取弱特征,在一轮训练结束后不进行样本权值更新,直接在已选分类器的基础上利用直方图统计的方法进行下一轮训练。实验证明该算法有较高的训练效率。

BP网络的SPDS训练算法的鲁棒性

证明了作为BP网络的训练算法之一的SPDS算法在收敛的同时具有鲁棒性这一良好性质、实例也证明了SPDS算法较之BP算法在鲁棒性问题上有较大进步 .

模糊传感器训练算法

本文提出了模糊传感器的一种分段式训练调参方法。对温度模糊传感器的仿真结果表明，该方法能在不同的测量结构下，较好地解决人类感知温度的模糊语言描述问题。

以熵序列收敛作算法停止判据的码书训练算法

以LBG算法为代表的传统码书训练算法基本上都用量化失真序列收敛作算法停止条件。提出了一种简单、快速的新算法。该算法的基本思想为 ,不必计算量化失真 ,直接用区域序列对应的熵序列收敛作停止条件。与经典的LBG算法相比 ,该算法结构更简单、速度更快、更容易理解。我们用典型的测试图像Lena、Barbara作实验 ,实验结果表明 ,该算法的PSNR与著名的LBG算法相差小于 0 1dB ,但它的运行速度比LBG快两倍以上。

一种基于SDTS的HMM训练算法

用传统的BW算法训练语音识别系统的HMM需要大量的语音数据。本文在假设声学模型系统的子空间捆绑结构(SDTS)为己知的前提下,提出了一种新的训练算法,可以有效地减少系统对训练数据的需求。理论分析和仿真表明,与传统的BW算法比较,新的训练算法(IBW)可压缩模型参数15倍,从而可大量地减少训练数据。尽管新算法要用到系统的先验知识,但它还是显示了许多优越性。

一种进化RBF神经网络的模型及其训练算法

径向基函数神经网络 (RBFNN)具有最优逼近和全局逼近的特性 ,在函数拟合方面优于传统的 BP网络 ,因此被广泛应用于非线性时间序列分析等领域 .本文针对时间序列中的非平稳数据 ,结合差分平稳化与分阶遗传的思想 ,提出一个新的进化 RBF神经网络的模型及其训练算法 .通过实例分析表明 。

分区域收敛的快速码书训练算法

该文提出分区域收敛的快速码书训练算法LC,它与LBC算法相比,结构简单、速度快,用典型的测试图像Lena和Barbara做实验,表明LC算法峰值信噪比只比LBG算法少2％左右,但运行速度东LBG的4.61-13.6倍。在比特率为0.375 bpp条件下,LC算法与LBG算法的重建图像质量无明显差别。