稀疏网络编码中秩分布分析模型研究

针对现有稀疏网络编码研究中线性相关概率性能指标精准度较低的问题,提出基于马尔可夫链的性能分析模型。对线性相关概率、秩的概率分布等性能指标及其复杂度进行分析,并通过该性能分析模型分析编码包传输后期的译码成功概率;基于吸收马尔可夫链计算编码包传输过程中的瞬态、吸收态以及各状态间的状态转移概率,并对状态转移概率中蒙特卡罗模拟误差较大的问题进行改进,由状态转移概率构建吸收马尔可夫链基本矩阵,得出信宿端收到非再生包的线性相关概率,进而推导出秩的概率分布和译码成功概率性能指标。仿真结果表明,在相同条件下所提模型性能指标精确度均优于对比模型,且能精确地评估信宿端解码矩阵秩的概率分布、译码成功概率等稀疏网络编码的译码行为。

融合项目特征级信息的稀疏兴趣网络序列推荐

在以往提取多兴趣嵌入的序列推荐模型中仅能通过聚类的方法发现少量兴趣概念,忽视项目交互序列中特征级信息对最终推荐结果的影响。针对此问题,对传统的多兴趣序列推荐模型进行改进,提出一种融合项目特征级信息的稀疏兴趣网络序列推荐模型。实验结果表明,相比其它模型,该模型可以更好捕捉用户的多样化偏好并缓解冷启动问题。在给定数据集上,该模型比传统的序列推荐模型在命中率上平均提高了6.4%,归一化折损累计增益平均提高了8.7%。

面向稀疏卷积神经网络的CGRA加速器研究

本文针对规模日益增长和演变迅速的稀疏卷积神经网络(CNN)应用,提出一款高能效且灵活的加速结构DyCNN来提升其性能和能效。DyCNN基于兼具灵活性和高能效的粗粒度可重构架构(CGRA)设计,可以利用其指令的高并行性来高效支持CNN的操作。DyCNN使用基于数据感知的指令动态过滤机制来滤除各计算单元中由于稀疏CNN中权值静态稀疏性和激活值动态稀疏性产生的大量无效计算和访存指令,使它们能像执行稠密网络一样高效复用一组指令。此外DyCNN利用基于负载感知的动静结合负载调度策略解决了稀疏导致的负载不均衡问题。实验结果表明,DyCNN运行稀疏CNN与运行密集CNN相比实现了平均1.69倍性能提升和3.04倍能效提升,比先进的GPU(cuSPARSE)和Cambricon-X上的解决方案分别实现了2.78倍、1.48倍性能提升和35.62倍、1.17倍能效提升。

基于深度SSDAE网络的刀具磨损状态识别

针对刀具磨损状态识别过程中采集数据量大、干扰信号复杂且需人为选择特征参数的问题,为提高刀具磨损状态识别模型的鲁棒性与泛化性,提出了一种数据驱动下深度堆叠稀疏降噪自编码(stacking sparse denoising auto-encoder,简称SSDAE)网络的刀具磨损状态识别方法,实现隐藏在数据中深层次的数据特征自动挖掘。首先,将原始振动信号分解为一系列固有模态分量(intrinsic mode function,简称IMF),并采用皮尔逊相关系数法选取了最优固有模态来组合一个新的信号;其次,采用SSDAE网络自适应提取特征后对刀具磨损阶段进行了状态识别,识别精度达到98%;最后,对网络模型进行实验验证,并与最常用的刀具磨损状态识别方法进行了对比。实验结果表明,所提出的方法能够很好地处理非平稳振动信号,对不同刀具磨损阶段状态的识别效果良好,并具有较好的泛化性能和可靠性。

基于稀疏深度神经网络的电磁信号调制识别

为在低复杂度约束条件下提升电磁信号调制识别的性能,提出了一种基于稀疏深度神经网络(Sparse Deep Neural Network,SDNN)的电磁信号调制识别方法。首先,通过提取电磁信号同相和正交两路数据绘制出信号的星座图,作为信号的浅层特征表达;然后,基于星座图中各信号点密度大小对星座图进行上色,增强星座图中信号特征;最后,通过SDNN对增强后的星座图进行识别分类。实验结果表明,SDNN模型选取合适的剪枝率后,能够有效降低模型存储规模和计算量,其中模型参数压缩了72%,浮点运算量压缩了45%,与原模型97%的综合识别率相比,稀疏化处理后模型的综合识别率为96.8%,在小幅度识别精度损失范围内大幅降低了模型复杂度。

基于非负矩阵分解的稀疏网络社区发现算法

社区结构是复杂网络的重要特征之一,社区发现对研究网络结构有重要的应用价值.基于非负矩阵分解(Non-negative Matrix Factorization,NMF)的社区发现方法是解决社区发现问题的一类基本方法,然而,大多数不能很好地扩展以适用于大型网络,并且在稀疏网络上往往会失败.由于表达复杂网络拓扑结构特征的邻接矩阵在数据矩阵稀疏时,特征向量的局部化导致基于NMF的方法往往无法工作.本文提出一种基于NMF的稀疏网络社区发现算法,尝试提高使用非负矩阵分解方法进行社区发现的准确性以及普适性.本文提出从局部特征向量学习正则化矩阵用来表达原始网络拓扑结构特征,得到的特征矩阵能够很好地发掘数据矩阵隐含的全局结构有更强的特征表达能力.与邻接矩阵相比,正则化数据矩阵克服了由于稀疏或噪声引起的特征向量(或奇异向量)的局部化问题.在人工网络和现实网络中的实验结果显示:与经典的基于NMF的社区发现算法相比,该算法能够发现更准确的社区结构,同时,在稀疏网络上也有较好的表现.

多通道稀疏图变换网络用于早期阿尔茨海默病识别

目前阿尔茨海默病(AD)尚无有效的防治方法,早期临床干预可以延缓其进展,改善预后。然而现有的方法只考虑从群体关系中学习到的神经影像学特征而不考虑被试的个体特征。本研究设计了一种新颖的多模态多通道稀疏图变换网络(MSGTN)以期实现早期AD识别。首先,获取并处理每个被试者的影像信息[如弥散张量成像(DTI)和功能磁共振成像(fMRI)等]以及其相应的非影像信息(如年龄、性别等);其次,利用局部加权聚类系数(LWCC)将功能信息和结构信息进行融合,并将已融合的多模态影像特征与受试者的性别和年龄信息相结合来构建稀疏图;最后,将构建的稀疏图输入所设计的MSGTN网络模型用于早期AD识别。从公共数据库ADNI上获得共170个受试者,其中38个晚期轻度认知障碍(LMCI)患者,44个早期轻度认知障碍(EMCI)患者,44个显著记忆下降(SMC)患者和44个正常对照(NC)。结果表明,SMC与NC的准确度为87.02%,EMCI与NC的准确度为87.40%,LMCI与NC的准确度为91.49%,SMC与EMCI的准确度为88.93%、SMC与LMCI的准确度为86.74%、EMCI与LMCI的准确度为92.12%。所提出的诊断模型不仅能够分析出NC与3种不同早期AD疾病状态,而且在3种不同早期AD疾病状态中也取得了优越的分类性能。

基于序列判定的多维网络双向链路稳定性预测

为了确保多维网络双向链路的稳定运行,提出一种多维网络双向链路稳定性预测算法。根据多维网络维数定义和小世界网络特性分析结果,获取多维双向网络的主要特征,通过提取的特征建立多维网络模型,采用稀疏编码网络方法对模型降维处理。以结构相似性为基础,计算降维处理后多维网络双向链路中不同节点之间的相似度,通过相似度排序结果获取一个连边序列,以连边序列为判定依据实现多维网络双向链路稳定性预测。实验结果表明,采用所提算法可以获取高精度、高效率的预测结果,有利于提升网络链路的稳定性。

稀疏神经网络硬件加速前沿技术分析

阐述稀疏神经网络硬件架构,它是利用稀疏神经网络的特点而设计的硬件架构。当神经网络非常稀疏时,这种架构一般会达到更高的性能和效能。神经神经网络硬件架构是深度学习硬件架构的热点。探讨稀疏神经网络硬件架构的前沿技术,展望未来的发展趋势。

基于稀疏化双线性卷积神经网络的细粒度图像分类

针对双线性卷积神经网络(B-CNN)在细粒度图像分类中因参数过多、复杂度过高而导致的过拟合问题,提出稀疏化B-CNN。首先对B-CNN的每个特征通道引入比例因子,在训练中采用正则化方法对其稀疏。然后利用比例因子的大小判别特征通道的重要性。最后将不重要特征通道按一定比例裁剪,消除网络过拟合,提高关键特征的显著性。稀疏化B-CNN属于弱监督学习,可实现端到端训练。在FGVC-aircraft、Stanforddogs、Stanfordcars这3个细粒度图像数据集上的实验表明,稀疏化B-CNN的准确率高于B-CNN,也优于或基本接近其它通用的细粒度图像分类算法。

融合改进参考白和稀疏网络的彩色人脸检测

面部肤色的提取容易受到光照干扰,因此采用改进参考白和稀疏网络(SNoW)相结合的彩色人脸检测方法。首先,在对光照变化较大的人脸图像进行肤色提取之前,在HSV颜色空间进行参考白和直方图均衡的融合以减小光照变化引起的色彩偏差,再将参考白光照补偿结果进行肤色模型的人脸信息提取;最后借助稀疏网络模型法计算分割提取出的人脸区块特征并进行人脸的正确分类。实验结果表明,该方法实现了光照变化剧烈的复杂场景下较优的肤色提取及人脸的准确检测和定位,满足了系统实时性需求。

基于自适应深度稀疏网络的在线跟踪算法

视觉跟踪中,高效鲁棒的特征表达是解决复杂环境下跟踪漂移问题的关键。该文针对深层网络预训练复杂费时及单网络跟踪易漂移的问题,在粒子滤波框架下,提出一种基于自适应深度稀疏网络的在线跟踪算法。该算法利用Re LU激活函数,针对不同类型目标构建了一种具有自适应选择性的深度稀疏网络结构,仅通过有限标签样本的在线训练,就可得到鲁棒的跟踪网络。实验数据表明:与当前主流的跟踪算法相比,该算法的平均跟踪成功率和精度均为最好,且与同样基于深度学习的DLT算法相比分别提高了20.64%和17.72%。在光照变化、相似背景等复杂环境下,该算法表现出了良好的鲁棒性,能够有效地解决跟踪漂移问题。

稀疏无线传感器网络中基于beta分布的信任模型

针对无线传感器网络节点随机部署的不均匀性、节点能量消耗的非均衡性以及节点容易被俘获窜改的妥协性等,提出一个基于beta分布的稀疏网络信任模型。该模型充分考虑了稀疏网络的自身特点,利用beta密度函数构建节点的信任值并进行实时更新。模拟实验与分析表明:该模型能有效剔除节点发送的虚假数据和准确识别出失效节点,优化网络性能,为拓扑控制算法、数据收集压缩算法等提供一个可信的支撑环境。

稀疏网络中SIRS病毒局域控制模型与仿真

根据计算机病毒迅速传播所造成的重大危害,为了研究局域控制策略对稀疏网络中病毒传播的影响,提出了一个带有局域控制的二维规则稀疏网络SIRS模型。运行系统状态随时间的演化最终会达到一个稳定状态。发现病毒传播效率、网络中被控制个体比例、网络中个体密度和免疫个体失去免疫能力的概率这四个要素决定系统中病毒的稳态感染比例。只有当传播效率大于一个临界值时,病毒才能在网络中持续传播。采用计算机仿真和动力系统稳定性分析,仿真结果表明局域控制策略对控制稀疏网络中SIRS病毒传播有很好的效果。

基于稀疏神经网络的说话人分割

提出一种基于稀疏神经网络的说话人分割方法,利用稀疏的单隐层神经网络提取语音的超矢量特征中说话人因子特征,然后通过K均值聚类得到每帧语音的标号来分割不同说话人,在稀疏网络的训练过程中引入了dropout技术以克服过拟合问题.在TIMIT语音数据库构成的多说话人语音数据上的实验结果表明:通过增加稀疏网络中隐层节点的个数可以提高说话人分割的效果,与贝叶斯信息准则(Bayesian information criterion,BIC)方法和稀疏自编码网络方法相比,所提基于稀疏神经网络的说话人分割方法的性能有明显提高.

一种有效的稀疏无线传感器网络路由方案

稀疏无线传感器网络中节点之间距离过远,使得移动代理节点成为最有效的数据收集方式,然而移动代理节点由于能量限制无法在一次数据收集中到达网络所有节点进行数据收集。为保证在能量受限的移动代理节点总路由路径最短,给出了一种稀疏无线传感器网络能量受限移动代理节点的路由方案。首先构建移动代理节点的路由数学模型,然后根据移动代理节点初始能量将无线传感器网络划分成不同的子集,最后采用旅行商人问题的模拟退火算法计算出每个子集最短路由,全部子路由的集合即最优路由。仿真及其分析结果表明:随着网络节点个数增多和移动代理节点能量增大,所给方案的总路由能够比较接近于理想情况,在实际应用中比较有效且适于推广。

一种基于稀疏指数联想记忆神经网络的图像识别方法

区别于一般的图像识别方法,指数联想记忆模型(EAM)是一种对数据分布无任何要求的非线性技术,具有指数级的存储容量和良好的容噪性能。随着实际的需求和被处理问题规模的扩大,EAM所采用的全互连结构将导致布线工艺上的困难而难以克服,限制了模型的VLSI(超大规模集成电路)硬件实现。通过在EAM中引入社会领域中广泛存在的"六度分离"现象,借鉴Watts和Strogatz提出的"小世界网络"理论对EAM进行了稀疏化改造。改造后的稀疏指数联想记忆模型(SEAM)不仅结构相对简单、易于硬件实现,而且仿真结果表明在灰度图像加噪和部分缺失的情况下,SEAM识别性能和全互连的EAM相当,表现出了较强的鲁棒性。

基于强制稀疏自编码神经网络的作战态势评估方法研究

针对传统数据挖掘方法无法解决态势评估中防空体系特征自主挖掘和生成机理分析的问题,提出一种基于强制自编码神经网络的态势评估方法。结合大数据与复杂网络技术,构建强制自编码深度学习网络模型,形式化描述体系能力指标之间的级联涌现关系,在战场态势预测分析的基础上,进一步深入分析体系能力生成机理及贡献度,并通过仿真数据对模型进行验证。该模型对体系能力指标涌现的形式化描述,不仅体现了涌现过程的非线性、不确定性等复杂性特征,还赋予指标体系相对明确的物理含义,为辅助指挥员深入认知复杂战场态势提供了可行的方法手段。

一种适用于稀疏无线传感器网络的改进分布式UIF算法

分布式无迹信息滤波(Distributed unscented information filter,DUIF)算法是一种有效的非线性分布式状态估计多源信息融合方法,然而当将该算法应用于稀疏无线传感器网络(Wireless sensor networks,WSN)时,稀疏WSN中存在的无效节点会引起使滤波趋于发散的平均一致误差.针对该问题,本文提出一种改进DUIF算法.该算法不改变DUIF算法的级联结构,而是将其底层和上层滤波器分别改进为局部无迹信息滤波器(Local unscented information filter,LUIF)和加权平均一致性滤波器.LUIF对每个节点的局部多源观测信息进行局部融合,得到局部的后验估计信息向量和矩阵,进而将它们作为加权平均一致性滤波器的输入,最终得到不包含平均一致误差的分布式后验估计结果.其中,加权平均一致性滤波器是通过对由LUIF输出的局部后验估计信息向量和矩阵分别进行平均一致性滤波而得以在改进DUIF算法框架下实现的.同时,在此过程中,相邻节点之间的状态估计互相关信息也被引入改进DUIF算法的输出结果中,进一步增强了滤波的可靠性.仿真实验结果表明,改进DUIF算法能够在稀疏WSN中对机动目标进行有效跟踪,在估计精度和抑制滤波发散方面明显优于标准DUIF算法.

基于稀疏自编码神经网络的肺结节特征提取及良恶性分类

目的:针对目前计算机辅助诊断中肺结节特征提取单纯依靠人工设计,分类结果存在很大差异这一问题,提出一种新的肺结节特征自动提取及良恶性分类方法。方法:首先通过阈值概率图从肺部CT图像中分割肺结节图像,然后通过一个2层的稀疏自编码神经网络自动提取肺结节图像的特征,最后利用Logistic回归分类器对提取到的特征进行良恶性分类。结果:肺部图像数据库联盟(1ung image database consortium,LIDC)数据库上的实验结果表明,与目前基于人工设计的特征提取方法相比,该提取方法获得了最高的分类精度与曲线下面积(area under curve,AUC)值。结论:稀疏自编码神经网络能够直接从肺结节图像本身自动提取肺结节特征,避免了人工提取及选择的差异性,提高了肺结节良恶性分类的准确度,能够为临床诊断提供参考依据。