支持在线学习的增量式极端随机森林分类器

提出了一种增量式极端随机森林分类器(incremental extremely random forest,简称IERF),用于处理数据流,特别是小样本数据流的在线学习问题.IERF算法中新到达的样本将被存储到相应的叶节点,并通过Gini系数来确定是否对当前叶节点进行分裂扩展,在给定有限数量,甚至是少量样本的情况下,IERF算法能够快速高效地完成分类器的增量构造.UCI数据集的实验证明,提出的IERF算法具有与离线批量学习的极端随机森林(extremely random forest,简称ERF)算法相当甚至更优的性能,在适度规模的样本集上,性能优于贪婪决策树重构算法和其他几种主要的增量学习算法.最后,提出的IERF算法被应用于解决视频在线跟踪(包含多目标跟踪)问题,基于多个真实视频数据的实验充分验证了算法的有效性和稳定性.

改进的随机森林分类器网络入侵检测方法

目前网络入侵检测方法大多基于改进的机器学习算法,但是机器学习算法会出现过拟合情况,导致入侵检测准确率降低。为解决该问题,提出一种改进的随机森林分类器网络入侵检测方法,通过高斯混合模型聚类算法将数据分成不同的簇,为每一个簇训练不同的随机森林分类器,通过这些训练好的随机森林分类器进行网络入侵检测。训练和实验数据采用NSL-KDD网络入侵数据集,实施中首先根据属性比率数据特征提取方法进行数据处理,然后进行高斯混合聚类,最后使用随机森林分类器对聚类结果进行训练。实验结果表明,该方法相比其它机器学习算法具有更高的入侵检测准确率。

结合时-频纹理特征的随机森林分类器应用于鸟声识别

研究一个基于时频纹理特征和随机森林分类器的抗噪鸟声识别系统。首先,针对实际环境中,各种不可预料的噪音会使得系统识别性能严重下降的问题,使用一种基于噪声估计的音频增强算法对带噪鸟声信号进行前端处理。然后将增强后的信号功率谱以时频图形式输出,并根据时频图中所包含的纹理信息,利用基于灰度共生矩阵的纹理分析法进行纹理特征提取。最后使用基于决策树的组合分类器—随机森林进行分类和识别。实验结果表明,该方法不仅能对鸟类声音进行快速准确地识别而且具有良好的抗噪性。

基于深度优先随机森林分类器的目标检测

从机载视觉传感器获取的图像中检测近距离目标,对小型无人机飞行安全非常重要,需要大量样本训练分类器以提高目标检测的准确性。然而,如果训练样本太大,随着树的层数增加,广度优先方法训练随机森林分类器会导致欠拟合问题。针对这个问题,提出了深度优先方法递归训练随机森林分类器,每次递归过程只分裂一个节点。实验表明,在SenseAndAvoid数据集目标检测的平均准确率是69.3%,比广度优先方法训练的随机森林分类器高7.6%。深度优先方法递归训练随机森林分类器,能有效抑制广度优先方法训练时的欠拟合问题,提高了随机森林分类器的泛化能力和目标检测的准确性。

基于改进Grassberger熵随机森林分类器的目标检测

对Grassberger熵进行改进,采用改进的Grassberger熵计算信息增益,选择分裂节点的最优分裂属性训练随机森林分类器,利用经过训练的随机森林分类器预测选择性搜索生成的子窗口是否包含目标。对每个训练样本及子窗口提取1个归一化梯度幅值、3个LUV颜色通道和6个梯度方向直方图的特征。在SenseAndAvoid数据集上测试了所提方法的性能,取得了73.2%的平均检测准确率。结果表明:安全包络范围内的平均检测准确率高于98%。利用改进的Grassberger熵计算信息增益,能提高目标检测的准确率。

基于DWT和随机森林的运动自动分类方法

为了对运动员训练过程中的运动进行自动分类,以可穿戴式惯性传感器采集的信息为基础,提出了一种基于离散小波变换(DWT)和随机森林分类器的分类方法 .首先,通过佩戴于身体特定部位的微型加速度计和陀螺仪,采集速度和角度信息,从而估计出运动员的膝关节和髋关节的运动角度.然后,通过DWT从关节角度信息中提取特征.接着,利用提取的特征集来训练随机森林分类器,以此实现运动的自动分类.实验结果表明,该方法能够有效分类出多类运动,具有较高的分类精度.

基于双分类器辅助进化的多目标优化算法

在昂贵多目标优化问题中,常采用代理辅助进化算法以减少真实目标函数的评估次数,但传统的代理辅助进化算法因代理模型计算复杂而运行时间较长.为缩短运行时间,提出基于双分类器辅助进化的多目标优化算法(DC-MOEA),利用两个随机森林分类器,分别预测解的多样性优劣和解的收敛性优劣,选出同时具备优秀收敛性和多样性的解进行真实评估和环境选择.DC-MOEA对决策变量分类并用分类后的数据训练分类器,降低整体复杂度,减少运行时间.通过仿真试验,利用基准测试函数比较在不同问题上的性能,验证本算法在多样性探索和收敛性增强方面的能力.

基于Kalman和双级联随机森林的在线目标跟踪算法

针对传统的基于检测的在线目标跟踪算法容易产生跟踪漂移的现象,提出了一种新的在线目标跟踪算法。以基于主方向模板特征的双级联随机森林分类器作为检测器,卡尔曼滤波器作为跟踪器。首先利用卡拉曼算法跟踪目标,然后以跟踪的目标位置为中心向外扩展一定的范围作为双级联随机森林分类器的检测区域,利用全局随机森林分类器和局部随机森林分类器进行目标检测,并将检测结果作为Kalman跟踪算法下一帧的观测值。实验结果显示,提出的算法在跟踪大小420×320的图像时,跟踪速度达到24.3 f/s(帧/秒),目标中心位置误差在30 pixel时,算法准确率可达到80%以上。

基于改进的LBP特征和随机森林相结合的人脸关键点检测方法研究

提出了一种人脸关键点检测方法,该方法用了少量的正面图像,不用归一化人脸图像,而传统的人脸关键点检测方法需要对图像进行严格预处理。随机森林是一种分类器融合算法,可以很好地解决多类分类问题,虽然LBP特征简单,但其可以包含大量的纹理信息。利用改进的LBP特征与随机森林相结合,构成一种对人脸关键点检测的方法。通过高斯平滑图像的LBP特征的提取,对每个点生成特征,计算出有用的特征作为正例,并且与反例集合变为训练集。通过随机森林分类器进行分类,误差率较低,仅在10%左右。

基于随机森林的通信信号识别算法

直扩信号类似噪声,低信噪比条件下,传统弱分类器对常规调制信号和扩频信号的混合识别效果不理想。为了提高信号调制方式识别性能,利用常规调制信号和扩频信号的瞬时特征和频域特征,选取零中心归一化瞬时信号幅度谱密度最大值、信号幅度谱占用带宽及峰度等3种特征参数,采用随机森林作为分类器,实现对AM,FM,BFSK,QPSK,16QAM,DSSS和FHSS信号的识别。仿真结果表明,当信噪比高于-1 dB时,该算法对上述7种信号的识别正确率可达100%。

牛乳体细胞分类器的研究与实现

牛奶中所含体细胞的类别与数量是诊断与治疗奶牛乳腺炎的重要依据。针对牛乳体细胞分类识别问题,本文针对牛乳体细胞构建四个单一分类器分别是K近邻分类器、支持向量机分类器、BP神经网络分类器和随机森林分类器对牛乳体细胞进行分类识别。牛乳体细胞与其他人体血液细胞存在不同,目前针对牛乳体细胞方面的研究较少,因此本文针对牛乳体细胞进行分类研究,实现单一分类器对牛乳体细胞的高精度分类。

基于奇异样本熵和随机森林的某电机故障诊断研究

针对传统奇异值算法分解出的奇异值数目较多、运算量较大且不能完整表达信号矩阵整体特征与内部差异本质的缺陷,提出一种将Hankel矩阵奇异样本熵、奇异能量值和随机森林相结合的电机故障诊断方法。首先将提取到的电流信号进行Hankel矩阵转换和奇异值分解,再求出所有奇异值及其奇异能量值和奇异样本熵,最后将其作为特征参数输入到泛化性能较好的随机森林分类器进行诊断。实验结果表明,提出的故障诊断方法能有效提高某电机的故障诊断率,其最终故障诊断率高达96.7%。

基于随机森林算法构建云-云阴影-水体掩模

遥感图像数据中云和云阴影的存在是影响数据应用的主要原因，专家已经研发了多种去除云及其阴影的方法。在对不同目标像元光谱曲线分析的基础上，研究了基于随机森林（random forests，RF）分类器的云-云阴影-水体掩模建立方法。由于云阴影是阴影与地表物体的叠加，其光谱曲线与水体的光谱曲线之间存在细微的差别，这使得决策树（decision tree，DT）分类方法不能非常有效地应对这种细微差别。RF分类器是建立在多个DT分类结果集成的基础上，其算法原理保证了该算法的稳健性和有效性。研究结果表明：在样本容量较少时，RF算法比DT具有更好的分类效果；而在样本容量增大到250～400个像元时，2种方法的分类效果没有明显区别。这表明RF算法可以成功地用于建立云-云阴影-水体掩模，这将在遥感数据处理中得到更加广泛的应用。

基于随机森林癫痫患者脑电数据的分析研究

目的:脑电信号的研究对癫痫状态的判别具有重要的临床意义,利用癫痫患者的脑电信号数据所做出模型来判别预测。方法:该分类将随机抽样66.7%的脑电信号数据(4084个样本)作为训练集。将33.3%的脑电信号数据(2042个样本)作为测试集,脑电信号数据输入到随机森林分类器。进行正常脑电和癫痫脑电信号的预测判别,并证实此方法的可行性和可靠性。结果:随机森林模型总的预测误差为2.94%。结论:所提出的利用随机森林的方法研究癫痫患者的正常脑电和癫痫脑电信号的预测误差较低,具有良好的参考价值。

基于CNN和RFC的极化SAR图像分类

卷积神经网络(Convolution Neural Network,CNN)在极化合成孔径雷达(Synthetic Aperture Rader,SAR)图像分类的应用中在类别非边界区域取得了好的分类结果,在类别边界区域没有取得好的分类结果,随机森林分类器(Random Forest Classifier,RFC)在极化SAR图像分类领域也得到了不错的分类结果,但是在类别非边界区域的分类结果没有CNN好。提出在类别边界区域使用RFC的分类结果,在类别非边界区域使用CNN的分类结果,通过此种集成学习方式得到了更好的分类结果。

WorldView-3短波红外影像分类性能研究

WorldView-3卫星在8个可见光-近红外(VNIR)波段的基础上,新增了8个短波红外(SWIR)波段,大大提高了对地物信息的提取能力。利用随机森林分类方法分别对可见光-近红外8个波段影像和可见光-近红外-短波红外16个波段的影像进行实验验证;采用基于多尺度分割技术的面向对象方法对合理的特征空间进行实验与挑选。结果表明,引入SWIR波段后分类性能总体精度提升了3.78%,人工地物制图精度提升了5.65%,自然地物制图精度提升了2.88%;且允许识别特定类别(村镇中的红色低矮砖瓦房居民区),能保持地物较为完整的形状信息,可提高多光谱遥感影像的分类精度。

基于PX-LBP和像素分类的装配体零件识别研究

针对机械产品装配维修诱导中零件和装配体的识别、监测问题,对装配体零件识别及装配监测进行了研究,对LBP算子进行了改进,提出了一种基于像素局部二值模式(PX-LBP)和像素分类的装配体零件识别及装配监测方法。首先将LBP算子与像素分类融合,提出了PX-LBP算子;然后对深度图像进行了PX-LBP特征提取,生成了训练集和测试集;最后训练随机森林分类器,并利用训练好的随机森林分类器实现了对测试集深度图像的像素分类,生成了像素预测图像,通过像素预测图像与标记图像对比实现了装配体零件的识别及装配过程的监测。研究结果表明:该方法对于模型深度图像的像素识别率可达到98.81%,对于真实装配体深度图像的像素识别率也可达到77.51%;该方法兼具了一定的实时性与鲁棒性,可用在装配维修诱导、装配监测和自动化装配邻域中。

基于随机森林算法的大数据异常检测模型设计

针对大数据异常检测过程易受边缘数据的干扰,导致大数据异常检测准确率较差的问题,提出了一种基于随机森林算法的大数据异常检测模型。首先,利用改进k-means算法对大数据实行聚类处理,采用主成分分析法提取大数据特征;然后,构建基于随机森林分类器的大数据异常检测模型,将提取的特征输入到模型中,构建决策树,并通过动态更新决策树的权重值提高分类器的分类精度;最后,输出分类结果,完成大数据的异常检测。实验结果表明,本文模型的检测时间约为25 s,大数据异常检测准确率平均值为91%,误报率为4.5%。

弯扭耦合型软体机器人智能感知抓取性能研究

触觉感知功能对于生物或机器人进行目标物体的智能感知与抓取具有重要意义。首先,研究设计了一种新型弯扭耦合型软体机器人,并将压力传感器和弯曲传感器嵌入设计在软体机器人底层;其次,组合设计了能够感知抓取目标物体信息的二指软体夹爪;第三,搭建了二指软体夹爪抓取性能实验测试平台,系统分析了二指软体夹爪在抓取不同目标物体时的指尖触觉信息;最后,对生活中常见的12种物体进行了抓取性能测试,获得了不同压力下的压力序列信号并建立了抓取数据集,还采用多种机器学习算法对触觉数据集进行分类研究。结果表明:设计方案能够成功识别出目标物体的真实情况,其中随机森林分类算法具有最优的分类效果,准确率达到了93.33%。该研究有望为智能软体机器人的设计和智能抓取提供一定的理论和技术支持。

一种鲁棒的全自动人脸特征点定位方法

人脸特征点定位的目标是能够对人脸进行全自动精确定位.主动形状模型(Active shape modal,ASM)和主动表象模型(Active appearance modal,AAM)的发表为全自动人脸特征点定位工作提供了很好的思路和解决框架.之后很多研究工作也都在ASM和AAM的框架下进行了改进.但是目前的研究工作尚未很好地解决人脸表情、光照以及姿态变化情况下的人脸特征点定位问题,本文基于ASM框架提出了全自动人脸特征点定位算法.和传统ASM方法以及ASM的改进方法的不同在于:1)引进有效的机器学习方法来建立局部纹理模型.这部分工作改进了传统ASM方法中用灰度图像的梯度分布进行局部纹理建模的方法,引入了基于随机森林分类器和点对比较特征的局部纹理建模方法.这种方法基于大量样本的统计学习,能够有效解决人脸特征点定位中光照和表情变化这些难点;2)在人脸模型参数优化部分,本文成功地将分类器输出的结果结合到人脸模型参数优化的目标函数当中,并且加入形状限制项使得优化的目标函数更为合理.本文在包含表情、光照以及姿态变化的人脸数据上进行实验,实验结果证明本文提出的全自动人脸特征点定位方法能够有效地适应人脸的光照和表情变化.在姿态数据库上的测试结果说明了本算法的有效性.