基于自编码机和聚类的混合推荐算法

针对传统的协同过滤推荐算法在稀疏数据集上表现不佳的情况,提出了一种将自编码机(Autoencoder)和聚类结合的混合推荐算法.首先将用户项目评分数据和用户人口统计学数据作为自编码机的输入,提取用户特征.然后利用提取到的用户特征对用户聚类得到用户类别,从而使近邻搜索范围减小.接着通过计算平均绝对误差(MAE)寻找到适用于同一类别用户的推荐算法,最后组合各类别上适用的推荐算法,得到混合推荐模型.推荐阶段,计算目标用户类别,并使用混合推荐模型得到推荐结果.实验结果表明,该算法可以有效的提高推荐质量。

连续时变自编码机在人体行为识别中的应用

针对人体行为数据的识别与分类问题,提出一种连续时变自编码机(Continuous Time-varying Autoencoder,CTAE)模型.该模型在激活函数中增加高斯随机单元,强化对非线性连续型数据的特征学习与提取.在人体行为识别实验中,从原始数据信号中提取十维频域特征和四维时域特征;利用主成分分析(Principle Component Analysis,PCA)方法实现特征数据降维;针对预处理完的人体行为数据,训练由多个CTAE组成的深度信念网络(Deep Belief Network,DBN),实现行为识别与非线性分类.仿真验证了模型的有效性.

基于堆栈式消噪自编码机的分块目标跟踪（英文）

在视觉目标跟踪系统中,特征的表达和提取是重要的组成部分.本文提出基于多个自编码机网络相联合的特征提取机,通过对输入数据进行一定程度的重组,采用深度学习的理论对其局部特征进行描述并对结果进行联合决策.结合该网络结构,本文提出一种融合局部特征的深度信息进行目标跟踪的算法.将输入图像分块使得大量的乘法运算转化为加法和乘法的混合运算,相对于全局的特征表达,大幅降低了运算复杂度.在跟踪过程中,目标候选区的各分块权重能够根据相应网络的置信度进行自适应的调整,提升了跟踪器对光照变化、目标姿态和遮挡的适应.实验表明,该跟踪算法在鲁棒性和跟踪速度上表现优秀.

基于改进卷积自编码机的油茶果图像识别研究

为进一步提高油茶果识别的速度与精度,提出一种基于改进卷积自编码机神经网络的油茶果图像识别方法。该方法以非对称分解卷积核提高训练速度,以输出端重构输入端的直连训练方式减少信息损失;利用改进的自编码机训练不同颜色通道的图像,随后在共享层中利用金字塔池化算法融合高阶特征,利用softmax算法构建分类器。结合selective-search算法生成候选区域,并对其进行筛选,利用训练好的网络设计油茶果果实图像检测器验证算法的实用性。改进算法100次迭代所需时间为166 s,平均识别准确率为90.4%;改进模型收敛性能较好,学习能力强,经过10次迭代之后即可达到85%的识别准确率,在样本数目为200的小数据集上可达到82%的识别准确率;同时,检测器的搭建验证了算法的有效性,在2 s内即可实现对单张实际图像上目标区域的检测,总体识别精度为87%,使得算法具有一定的实时检测能力。试验结果证明,改进后的算法具有较高的识别准确率与学习能力,以及一定的实用性,可为油茶果图像识别提供参考。

基于流形结构约束的堆栈自编码机模拟电路故障诊断

针对传统智能故障诊断方法过度依赖特征提取算法和诊断模型泛化能力不足的问题,提出将堆栈自编码机应用于模拟电路故障诊断;通过分析堆栈自编码机在模拟电路故障诊断应用中的不足,提出基于流形结构约束的堆栈自编码机。通过给自编码机的隐层输出加上流形结构特征约束,增强堆栈自编码机的特征提取能力。在3个不同的数据集上,用不同的分类器做故障诊断仿真实验,结果表明,该方法在3个数据集上较之其他分类器都表现出更高的识别率,并且在训练数据量很小时仍然有很好的诊断结果。

基于堆叠降噪自编码机的广告博文识别方法

在针对广告博文进行识别过程中,首先构建文本特征向量和人工定义的特征向量,使用堆叠降噪自编码机对这两种特征向量进行处理,获得处理后的两种特征向量,然后将得到的这两种特征向量进行组合得到第三种特征向量.最后将这三种特征向量用于最大熵分类模型的训练,依据实验结果找出分类效果最好的模型,使用该模型对博文进行处理过滤掉其中的广告博文,实验证明得到的最大熵分类模型的P、R、F可达到65.58%、87.9%、75.12%,能有效识别绝大多数的广告博文.

基于栈式自编码机和模糊函数主脊的雷达辐射源信号识别

针对人工提取雷达辐射源信号特征存在提取周期长、特征描述不完备等局限性,提出了一种基于深度学习栈式自编码机和模糊函数主脊的雷达信号识别方法.该方法根据信号模糊函数主脊包含丰富的内在调制信息的特点,从信号中提取用于分类识别的抽象特征.通过对六种雷达辐射源信号进行实验,并对比人工特征提取及其他深度学习方法,结果表明,本文所提方法在信噪比(signal-noise ratio,SNR)为2 dB以上时均能保持100%的识别准确率,SNR为-6 dB时识别准确率仍能保持82.83%以上,明显高于其他方法.即使在包含相同调制类型不同参数的信号环境中,当SNR大于0 dB时识别率均稳定在95.0%以上,SNR降低到-4 dB时识别率也能达到79.0%.证明该方法能有效提取到信号的深层特征,且具有良好的抗噪性能,基本满足实际战场的需求.

基于解耦表征变分自编码机的雷达目标识别算法

在雷达高分辨距离像目标识别任务中,数据表征对于分类器的性能影响巨大。针对传统法提取的数据表征可分性不强的问题,本文提出了一种解耦表征变分自编码机的方法。该方法通过对类间特性表征和类间共性表征分别建模的方式,优化网络模型参数,实现了高可分性雷达高分辨距离项数据的表征提取,并采用基于实测数据的实验验证了所提算法的有效性。

一种基于改进堆栈自动编码器的航空发电机旋转整流器故障特征提取方法

提出一种基于灰色关联度分析优化堆栈自动编码器的故障特征自适应提取方法,并用于航空发电机的旋转整流器二极管故障诊断中。首先,采集发电机交流励磁机励磁电流信号;其次,借助灰色关联度和深度学习理论对堆栈编码器网络进行训练学习,以确立其较优的网络结构,通过该网络可以自适应地从励磁电流信号中提取故障特征;训练完毕,借助于支持向量机(support vector machine,SVM)分类器实施故障诊断。对所提方法与快速傅里叶变换方法进行了仿真和物理实验,并对分类性能进行比较。结果表明,所提方法自动化程度高,自适应性能好,所提取的特征用SVM评估可以取得很好的分类效果。

基于免疫堆叠降噪自编码机网络的运动想象脑电信号识别

针对运动想象(MI)脑电信号识别精度低的实际问题,提出一种结合免疫优化算法和决策机制的堆叠降噪自编码机网络(ISDAE).ISDAE模型通过多层DAE对MI脑电信号分层提取最优特征向量,再通过最后一层神经网络(NN)对所得特征向量进行识别;同时,添加决策机制,并结合免疫优化算法对模型进行参数寻优,最终得到识别准确率更高的ISDAE脑电信号识别模型.实验结果表明,所提出的ISDAE模型对粗糙的脑电数据具有强大的特征学习能力和较高的MI脑电信号识别率,可为MI脑电信号的识别提供一种有效的方法.

基于混合卷积自编码极限学习机的RGB-D物体识别

有效学习丰富的表征信息在RGB-D目标识别任务中至关重要,是实现高泛化性能的关键。针对卷积神经网络训练时间长的问题,提出了一种混合卷积自编码极限学习机(HCAE-ELM)结构,包括卷积神经网络(CNN)和自编码极限学习机(AE-ELM),该结构合并了CNN的有效性和AE-ELM快速性的优点。它使用卷积层和池化层分别从RGB和深度图来有效提取低阶特征,然后在共享层合并两种模型特征,输入到自编码极限学习机中以得到高层次的特征,最终的特征使用极限学习机(ELM)进行分类,以获得更好的快速泛化能力。文中在标准的RGB-D数据集上进行了评估测试,其实验结果表明,相比较深度学习和其他的ELM方法,文中的混合卷积自编码极限学习机模型取得了良好的测试准确率,并且有效地缩减了训练时间。

一种基于重构性深度网络的MELP语音编码改进算法

为了提高深度模型的编码重构性能,本文为传统对比散度(Contrastive divergence,CD)添加了基于交叉熵的重构误差约束。利用改进后的算法训练了重构性深度自编码机(Reconstructive deep auto-encoder,RDAE),并用RDAE替换混合激励线性预测编码(Mixed excitation linear prediction,MELP)语音编码器中LSF参数的矢量量化方法。测试结果表明,改进后的算法在损失一定模型似然度的条件下获得了重构性能的提升,当RDAE隐藏层结点设为19bit时,本文方法所测得的加权LSF距离、重构语音质量、谱失真指标在训练集和测试集上均优于25bit矢量量化方法,即利用本文方法改进的MELP编码器,在不降低语音质量的条件下,可将MELP编码速率从2.4kb/s降低至2.1kb/s,编码速率降低了12.5%。

基于一维卷积神经网络和降噪自编码器的驾驶行为识别

针对驾驶行为分类中出现的精度不足和时间复杂度高的问题,提出一种基于一维卷积神经网络(1D-CNN)和降噪自编码机(DAE)的混合模型。使用移动终端在车辆行驶中采集加速度传感器数据、陀螺仪传感器数据以及磁场传感器数据,融合这三种传感器数据,经过预处理后输入到DAE中,提取DAE中隐藏层特征数据完成降维处理,将降维数据输入到三通道的1D-CNN中,通过Softmax分类器识别出九种驾驶行为。实验结果表明,该模型的整体识别率为93.7%,分类效果优于传统的机器学习算法。

结合迁移学习模型的卷积神经网络算法研究

针对传统的卷积神经网络算法在训练集与测试集分布不同时分类精度较低且标注成本较高的问题,提出结合迁移学习模型的卷积神经网络算法。使用主成分分析算法对源域数据进行无监督降维,同时结合自编码机算法对目标数据集降维,使源域和目标数据集在低维度下具有相似的特征分布;根据卷积神经网络特征提取的特点,利用JS散度来判别卷积池层能否迁移,并使用初始化的隐藏层补全trCNN模型;使用少量带标注的目标数据集进行训练,完成分类模型的构建。设计实验验证分类模型能够在使用少量标注数据情况下准确地完成分类工作。

关于深度学习的综述与讨论

机器学习是通过计算模型和算法从数据中学习规律的一门学问,在各种需要从复杂数据中挖掘规律的领域中有很多应用,已成为当今广义的人工智能领域最核心的技术之一。近年来,多种深度神经网络在大量机器学习问题上取得了令人瞩目的成果,形成了机器学习领域最亮眼的一个新分支——深度学习,也掀起了机器学习理论、方法和应用研究的一个新高潮。对深度学习代表性方法的核心原理和典型优化算法进行了综述,回顾与讨论了深度学习与以往机器学习方法之间的联系与区别,并对深度学习中一些需要进一步研究的问题进行了初步讨论。

基于深度学习的智能电网通信网可靠性评估方法

传统智能电网通信网可靠性评价方法是人为制定评价因素,会导致主观性和重复性问题,基于此,文章提出一种基于数据驱动的智能电网通信网可靠性评估方法。首先,基于层次分析法对通信网可靠性评价体系进行建模,构建原始可靠性特征;其次,将原始可靠性特征作为深度学习模型的输入,依据历史监测的智能电网通信网运行数据对深度学习模型进行训练,输出符合实际智能电网通信网运行状态的降维后的可靠性特征;最后,将降维后的可靠性特征输入神经网络模型,训练得到可靠性特征与可靠性的映射关系。实验结果表明,所提基于深度学习模型能够从电力通信网的实际运行数据中完成可靠性预测。

结合双模多尺度CNN特征及自适应深度KELM的浮选工况识别

针对可见光图像特征驱动的浮选工况识别方法的不足,提出一种基于双模态图像多尺度CNN特征及自适应深度自编码核极限学习机(Kernel Extreme Learning Machine,KELM)的浮选工况识别方法。先对泡沫的可见光、红外图像进行非下采样剪切波多尺度分解,设计双通道CNN网络对双模态多尺度图像进行特征提取及融合,将多个双隐层自编码极限学习机串联成深度学习网络对CNN特征逐层抽象提取,然后通过核极限学习机映射到更高维空间进行决策,最后改进量子细菌觅食算法并应用于深度自编码KELM识别模型参数优化。实验结果表明采用双模多尺度CNN特征较单模多尺度、双模单尺度CNN特征的识别精度提高了2.65%,自适应深度自编码KELM模型具有较好的分类精度和泛化性能,各工况识别的平均准确率达到95.98%,识别精度和稳定性较现有方法有较大提升。

基于双模态卷积神经网络自适应迁移学习的浮选工况识别

为提高小规模训练集下CNN特征驱动的浮选工况识别效果,提出一种基于泡沫红外与可见光图像CNN特征提取及自适应迁移学习的工况识别方法.首先构建基于AlexNet的双模态CNN特征提取及识别模型,并通过RGB-D大规模数据集对模型的结构参数进行预训练;其次,用多个串联的双隐层自编码极限学习机代替预训练模型的全连接层,实现对双模态CNN特征的融合及逐层抽象提取,然后通过核极限学习机映射到更高维空间进行决策;最后构建浮选小规模数据集对迁移后的模型进行训练,并改进量子狼群算法用于模型参数优化.实验结果表明:自适应迁移学习能够明显提高小样本数据集下的识别准确度,采用双模态CNN迁移学习较单模态CNN迁移学习的工况识别精度提高了3.06%,各工况的平均识别准确率达到96.83%,识别精度和稳定性较现有方法有较大提升.

NSST域改进ORB的泡沫流动特征提取及加药状态识别

针对浮选泡沫表面图像动态变化、光照影响、噪声干扰导致流动特征难于提取的问题,提出了一种在NSST域改进ORB的泡沫流动特征提取方法,并应用于浮选加药状态识别。对相邻两帧泡沫图像NSST分解,对多尺度高频子带先通过尺度相关系数去除噪声再分为多个内层和外层,在各内层通过方向模极大值检测提取兴趣点,然后在本层和上下层通过非极大值抑制提取特征点,采用多尺度BRIEF描述子对特征点描述,结合泡沫的运动趋势动态调整搜索的匹配区域,根据匹配结果计算泡沫流动特征。最后,构建行列自编码极限学习机对泡沫形态、尺寸分布特征和流动特征进行融合,然后通过自适应随机森林对加药状态分类识别。实验结果表明,改进的ORB受噪声和光照影响小,流动特征检测精度和效率较现有方法有较大提高,能准确地表征不同加药状态下泡沫表面的流动特性,加药状态的平均识别精度达97.85%,较现有文献方法有较大提升,为后续的加药量优化控制奠定基础。

基于相似时段和PCA-ELM的超短期风电功率预测

为提高风电场输出功率的预测精度,提出一种采用相似时段选取原则和基于主成分分析(principal component analysis,PCA)与多层自编码极限学习机(multi-layer auto encoder extreme learning machine,ML-AE-ELM)组合算法(PCA-ELM)的预测模型。通过关联度分析明确待测时段的相似时段范围,结合天气数据、机组状态和历史功率构建训练和测试样本,利用预测算法完成样本的训练和测试,得到输出功率预测结果并验证。实验结果表明:与常见的算法模型相比,该预测模型在不同装机容量和不同工作状态的风电场中均具有较高的预测精度,表现出良好的预测稳定性和泛化能力。