融合卷积神经网络与多层感知器的鞍部识别方法

针对传统鞍部识别方法中特征选择困难及未考虑鞍部与其它地形要素的共生关系等问题,利用深度卷积神经网络的特征自学习性能,提出了一种卷积神经网络与多层感知器相结合的混合模型实现DEM数据中的鞍部要素识别.首先设计改进的卷积神经网络模型自动提取鞍部的深度特征,经过Softmax分类器得到候选鞍部点,再运用多层感知器对候选鞍部点的位置进行精细回归,标识出最终的鞍部要素坐标.通过自建的鞍部样本集SADDLE-100训练网络模型,并在三种不同的山地样区进行实验,实验结果表明该方法比其它鞍部识别方法的漏提率减少约50%,正确识别率提高6.7%,在一定程度上避免了人工选择特征造成的鞍部语义信息缺失现象,为DEM中的点状要素识别提供了新的技术途径.

多层感知器深度卷积生成对抗网络

生成对抗网络(GAN)是目前图像生成领域中一种新的、有效的训练生成模型方法。深度卷积生成对抗网络(DCGAN)作为GAN的一种延伸,将卷积神经网络引入到生成模型中进行无监督训练。但DCGAN的线性卷积层对于下层数据块是一个广义线性模型,其抽象层次较低,生成的图像质量不高,并且在模型性能度量方面仅以主观的视觉感受来评判图像质量。针对以上问题,文中提出了一种多层感知器深度卷积生成对抗网络(MPDCGAN),采用多层感知器卷积层取代广义线性模型在输入数据上进行卷积,以捕获图像更深层次的特征,并采用定量评估方法Frechet Inception Distance(FID)衡量图像生成质量。在4种基准数据集上的实验结果表明,采用MPDCGAN生成的图像的 FID 值与图像质量呈负相关关系,且图像生成质量随着 FID 值的降低得到了进一步的提高。

基于ResNet卷积神经网络的机场能见度预测

机场能见度是飞机安全运行的重要保障。本文选用ResNet卷积神经网络提取机场视频数据的特征向量,并添加多层感知器(MLP)分类提取的特征向量,充分挖掘视频中的时空信息,以增强能见度的分类效果。结果表明,该模型对机场能见度的预测精度达到80.3%,可用于处理类似机场能见度预测的情景。

基于改进的卷积神经网络的肺结节良恶性分类

为提高肺结节良恶性分类的准确率,降低误诊率,提出一种基于改进的卷积神经网络的肺结节良恶性分类方法。采用多层感知器卷积层来提取肺结节特征;利用卷积层代替全连接层,减少网络参数,将提取到的特征输入至分类器进行分类;从网络深度、参数优化算法、学习率衰减策略、激活函数4个方面分析对分类效果的影响,构建改进的卷积神经网络模型。在LIDC-IDRI数据集上的实验结果表明,该模型的准确率、敏感性、特异性和AUC值分别为95.5%、0.96、0.95和0.96,该方法比传统卷积神经网络有更高的分类准确率和低误诊率,取得了较好的分类效果。

基于双向循环卷积神经网络的网络异常流量监测

由于对网络流量特征的提取结果存在偏差,导致对应的监测结果可靠性较低,为此,提出一种基于双向循环卷积神经网络的网络异常流量监测方法。在构建双向循环卷积神经网络阶段,通过感知器单元激活流量数据后,利用交叉熵代价函数对流量数据在神经网络各神经元之间的传递进行约束,并将卷积神经网络中的卷积层替换为循环卷积层,通过在卷积层的输出结果中添加空数据,实现对网络流量特征的循环迭代计算,将最终提取到的特征参量作出异常流量判断标准输出到池化层。当待监测的网络流量数据输入到循环卷积神经网络后,通过拟合其特征参量与池化层特征之间的关系,判断其是否存在异常,并根据时间标签计算网络异常流量的规模。测试结果表明,设计方法可以实现对异常流量的准确监测。

基于神经网络的降落伞落点散布快速生成方法

为了解决使用蒙特卡洛法计算降落伞落点散布慢的问题,提出了组合使用降落伞运动模型和神经网络产生落点散布,并利用硬件加速神经网络推理过程的方法。降落伞运动模型用于产生散布中心,神经网络用于产生相对于散布中心的落点。验证了两种不同结构的神经网络:多层感知器和转置卷积神经网络。发现降落伞运动模型结合多层感知器计算得到的降落伞落点散布和使用蒙特卡洛法计算得到的落点散布最为接近。同时,降落伞运动模型和多层感知器或者转置卷积神经网络组合使用都可以达到实时计算降落伞落点散布的效果。因此,提出的方法可以较好地应用于高时效性场景下的降落伞落点散布计算。

用于短文本分类的BLSTM_MLPCNN模型

文本表示和文本特征提取是自然语言处理的基础工作,直接影响文本分类的性能。文中提出了以字符级向量联合词向量作为输入的BLSTM_MLPCNN神经网络模型。该模型首先将卷积神经网络(CNN)作用于字符以获取字符级向量,并将字符级向量联合词向量作为预训练词嵌入向量,也即双向长短时记忆网(BLSTM)模型的输入;然后联合BLSTM模型的前向输出、词嵌入向量、后向输出构成文档特征图;最后利用多层感知器卷积神经网络(MLPCNN)进行特征提取。在相关数据集上的实验结果表明:相比于CNN,RNN以及CNN与RNN的组合模型,BLSTM_MLPCNN模型具有更优的分类性能。

基于光网络的深度学习算法研究

光网络是一种轻便的、通用的和纯基于Matlab的深度学习框架。其思想是为深度学习研究提供一个易于理解、易于使用和高效的计算平台。实现此框架可以支持大部分深度学习架构例如多层感知器网络(MLP)、卷积神经网络(CNN)和循环神经网络(RNN)。该框架支持CPU和GPU无缝转换。实验证明此框架在计算机视觉、自然语言处理以及机器人技术中有不同的应用。

基于Network In Network网络结构的高光谱影像分类方法

为进一步提高高光谱影像分类精度,通过引入Network In Network网络结构,构建了一种新的网络模型。该网络模型能够对局部感受野内的数据进行更加抽象的建模,从而能够对影像中的空谱联合特征进行更为抽象的表达。通过在Pavia University和Indian Pines两个数据集上进行验证,实验结果表明,所构建的网络模型能够有效提高分类精度,在减少训练样本的条件下仍具有较好的分类性能。

基于改进注意力机制的时间卷积网络-长短期记忆网络短期电力负荷预测

为充分挖掘蕴含在电力负荷数据中的有效时序信息,提高短期电力负荷预测准确度,本文提出一种基于改进注意力机制的时间卷积网络(TCN)-长短期记忆(LSTM)网络负荷预测模型。首先,将时序数据输入TCN模型中进行时序特征提取;然后,将所提取的时序特征与非时序数据组合,并输入LSTM模型中进行训练;最后,采用贝叶斯优化方法进行超参数寻优以获得TCN-LSTM模型的最优参数,引入通过多层感知器(MLP)改进的注意力机制以减少历史信息丢失并加强重要信息的影响,完成短期负荷预测。通过对比多种深度学习模型的预测效果表明,本文所提模型的短期电力负荷预测准确度更高。

基于CNN的分类器在图像缺陷检测中的应用研究

针对现有玻璃表面缺陷检测系统,本文提出了一种基于卷积神经网络(CNN)模型的分类器提高玻璃缺陷检测智能化处理。所使用CNN模型使用多层卷积层的一个多层感知器,通过有监督方式下学习。实验通过使用添加RBF网络的方法,算法通过在最后一个下采样层与输出层之间加上RBF隐层,并同时增加最后一个下采样层神经元的数量来提高网络识别准确率。实验表明,该方法迭代次数少,有助于建立泛化能力强、检测精度高的图像缺陷检测分类器。

深度学习在神经影像中的应用研究

深度学习是机器学习方法的一个重要分支,它通过基于多层神经网络的计算模型来进行学习。一个深度学习网络可以通过组合低层特征形成更抽象的高层特征,以发现数据的复杂的内在特征。由于深度卷积网络在图像处理中的出色表现,它已成为当前研究中应用最为广泛的一种深度网络。本文首先介绍了深度学习网络的结构特征和训练方法,分析了算法的优越性,之后进一步介绍了深度卷积网络,最后讨论了深度学习在神经影像领域的最新应用现状及其发展趋势。

融合上下文信息的深度推荐模型

目前,在基于文档信息的推荐任务中,传统基于文档的混合推荐算法仍依赖于浅层的线性模型,当评分数据变得庞大且复杂时,其推荐性能往往不太理想。针对此问题,提出一种深度融合模型(DeepFM),该模型能够在完全捕获文本信息的同时也能很好地处理复杂且稀疏的评分数据。DeepFM由两个并行的神经网络组成,其中一路神经网络使用多层感知器提取评分矩阵的行向量信息从而获得用户的潜在特征向量,另一路则使用MLP和卷积神经网络(CNN)共同建模从而提取额外有关项目的文本信息得到项目潜在特征向量。最后,通过构建融合层将用户特征向量和项目特征向量进行融合得出预测评分。实验结果表明,DeepFM在MovieLens数据集和亚马逊数据集上的性能优于主流的推荐模型。

机器和深度学习算法在手写数字识别中的应用比较

手写数字识别在多个领域具有广泛应用。在实际应用中,手写数字识别的准确性至关重要。为获得最佳的手写数字识别模型,文章提出一种用于手写数字识别的卷积神经网络模型,通过实验比较支持向量机、多层感知器和卷积神经网络模型在MNIST数据集手写数字识别中的识别准确性及其执行时间。实验结果表明,本文提出的卷积神经网络模型,在手写体数字数据集上的识别正确率可达99.4%。

关于深度学习的综述与讨论

机器学习是通过计算模型和算法从数据中学习规律的一门学问,在各种需要从复杂数据中挖掘规律的领域中有很多应用,已成为当今广义的人工智能领域最核心的技术之一。近年来,多种深度神经网络在大量机器学习问题上取得了令人瞩目的成果,形成了机器学习领域最亮眼的一个新分支——深度学习,也掀起了机器学习理论、方法和应用研究的一个新高潮。对深度学习代表性方法的核心原理和典型优化算法进行了综述,回顾与讨论了深度学习与以往机器学习方法之间的联系与区别,并对深度学习中一些需要进一步研究的问题进行了初步讨论。

基于CNN/LSTM和稀疏下采样的人体行为识别

针对人体行为识别提出一种基于深度学习的方法,使用CNN和LSTM以及MLP来构建的模型。用CNN提取视频的空间信息,LSTM提取视频的时间信息,使用MLP实现最后的分类,为提高训练速度,对视频剪辑进行稀疏下采样预处理。该模型在UCF-101数据集上达到了令人满意的效果,在与该领域中的同类算法比较中表现优异。

考虑用户参与度的电动汽车集群优化调度策略

针对大规模电动汽车参与电网调峰的调度问题,文章提出一种考虑用户参与度的电动汽车集群优化调度策略。其采用多层感知器神经网络预测电力负荷并获取负荷峰谷差;利用大量车辆信息并考虑车主意愿训练基于卷积神经网络的电动汽车集群,对车辆调峰参与情况进行集群分类,并快速确定参与调峰的总电量;构建同时考虑调峰效果和用户经济收益的优化目标,采用改进粒子群算法优化集群参与调峰的功率。最后,以县级地区为例,在Matlab平台对所提出的方法进行验证,各类电动汽车集群分类结果准确率均高于90%,同时通过电动汽车集群充放电降低了负荷峰谷差,证明了电动汽车集群方法及削峰填谷调度方案的有效性。

基于神经协同过滤的个性化商品推荐方法

针对现有协同过滤方法对用户与商品的潜在信息挖掘不全面的问题,提出了一种基于多特征融合和外积神经协同过滤的个性化商品推荐方法。该方法分别采用多层感知器和卷积神经网络提取用户与商品之间的交互关系矩阵,充分利用拼接方法和外积运算的互补性,提高了对用户与商品关系的表征能力。利用外积神经协同过滤模型提升模型稳定性和拓展性。亚马逊公开数据集的测试结果表明,与原有单一特征的推荐模型相比,多特征融合能够有效提高商品评分预测性能,且推荐性能优于现有协同过滤方法。

基于HOG-CNN的高相似度叶片图像识别方法

依赖特征工程的传统图像识别技术对高度相似叶片图像识别困难,对此提出一种融合方向梯度直方图(HOG)与卷积神经网络(CNN)的图像识别方法。首先由HOG算子提取叶片图像的局部纹理特征,然后将特征向量导入卷积神经网络进行训练、测试和输出分类结果。通过组合对比试验结果表明,该方法能够有效提高数据的鲁棒性,提高叶片图像的平均正确识别率,比多层感知器(MLP)和支持向量机(SVM)分类器的准确率提高了12%左右,平均准确率达到85%。

旁路密码攻击建模分析方法研究进展与分析

嵌入加密算法的密码芯片是信息安全的有效保障,而旁路建模分析方法可以有效攻击密码实现。详述了建模类旁路分析原理,包含攻击原理以及攻击方法破密性能的评估手段。介绍了不同时期表现突出的基于旁路泄漏信号的3种建模分析方法:经典建模(Template Attack,TA)、多层感知器建模(Multi-Layer Perceptron Side Channel Analysis,MLPSCA)和卷积神经网络建模(Convolutional Neural Network Side Channel Analysis,CNNSCA)。通过模型对比以及实验结果论证了在攻击理想低噪的旁路信号时,新型建模方法MLPSCA、CNNSCA破密性能明显优于传统模板攻击TA。进一步比较了MLPSCA与CNNSCA的破密性能,用这2种方法分别攻击带高斯噪声的功耗数据以及带防护的功耗数据,这2种功耗数据分别表示有环境噪声干扰或采取防护策略的目标信号。验证结果表明,MLP模型仅关注输入数量级不考虑数据拓扑结构,CNN具有更为鲁棒的结构特性,对失真功耗数据依旧具有良好的识别性能,CNNSCA攻击因噪声和防护对策而产生畸变的旁路信号更具优势。