一种改进的深度置信网络及其在自然图像分类中的应用

深度置信网络DBN(deep belief network)由受限玻尔兹曼机RBM(restricted Boltzmann machine)堆叠而成。针对RBM只能接受二值输入而导致的信息丢失问题,给出将可视层节点替换为具有高斯噪音的实数节点的解决方法,并且用线性修正节点替代隐层的Sigmoid节点。线性修正单元具有良好的稀疏性,可以很好地提高网络性能。DBN自底向上逐层训练网络,初始化网络的参数。在自然图像数据库中与传统DBN以及BP神经网络做分类性能比较,实验结果表明,改进的DBN的图像平均分类正确率以及时间复杂度都得到了较好的改善。

基于线性判别深度信念网络的人脸表情识别

深度信念网络在人脸表情识别领域表现出很好的性能,但由于其最后一个隐层与分类层之间的初始权值矩阵通常随机生成,这样的权值矩阵不具有判别能力,从而导致经该权值矩阵映射得到的特征不能保证适合于分类任务。为了解决此问题,提出一种新的深度信念网络结构——线性判别深度信念网络,其对传统线性判别分析法进行改进,设计了一个新的类间离散度矩阵,解决了传统线性判别分析法中存在的秩限问题;使用改进的线性判别分析法初始化深度信念网络最后一个隐层和分类层之间的权值矩阵,使网络更适合于分类任务。本文提出的线性判别深度信念网络在JAFFE和Extended Cohn-Kanade人脸表情数据库上分别得到了78.26%和94.48%的识别率。