基于最大均值差异的能量侧信道泄露量化评估

能量侧信道分析是通过对密码设备运行时的能量消耗进行分析,推导出运行时的操作及操作涉及的敏感中间值.对密码设备进行能量泄露量化评估是分析密码设备信息泄露程度的重要手段,目前主流的评估方案主要关注于能量迹上单个样本点的泄露,并未充分考虑高阶攻击模型下的泄露评估问题,对于采用掩码防御措施的密码芯片来说,一旦发生泄露,通常表现为多变量联合泄露,因此采用传统的单样本点方法进行泄露评估会存在假阴性的问题.本文研究多点联合泄露评估问题,引入最大均值差异方法,提取能量迹的多变量联合特征,构建基于最大均值差异的能量泄露量化评估模型,提供了一种有效的能量侧信道泄露量化评估方法.通过实现无防御对策和有防御对策的AES算法,使用DPA contest v2、ASCAD v1和自采能量迹数据集进行实验,结果表明,基于最大均值差异的泄露量化评估方法能够有效降低单样本点检测方法出现假阴性的风险,HAC、MTD和Bartlett-F检验的对照结果也进一步验证了该方法的有效性.

基于云模型和最大均值差异的指标迁移学习

针对应用实验场景中数据样例稀少的难题,提出基于云模型和最大均值差异的指标迁移学习方法,将典型仿真试验实验场景中的指标计算模型迁移到应用实验场景中,以适应跨平台跨领域仿真评估需求。使用最大均值差异方法将典型仿真实验场景中的指标分布与应用实验场景中的指标分布对齐,从而实现指标迁移;使用云模型基于少量样例对指标分布进行建模和采样,提高了指标迁移学习建模效率。通过典型仿真实验场景到多个应用实验场景的指标模型迁移学习仿真实验结果验证了本文方法的有效性,得到的目标域分布较基于生成对抗网络迁移方法得到的目标域分布更为接近源域,采用Wasserstein距离度量感知、认知、决策、学习能力指标的迁移学习性能平均提升了36.62%。

基于最大均值差异的卷积神经网络故障诊断模型

针对工程场景中轴承故障数据采集困难,小样本下轴承故障诊断准确率较低且稳定性不高的问题,提出了一种小样本下滚动轴承故障的诊断方法,即基于最大均值差异(MMD)的卷积神经网络(CNN)诊断模型(方法)。首先,根据轴承故障机理,获取了滚动轴承故障的仿真信号,基于生成式对抗网络构建了仿真信号与少量真实样本间的对抗训练模型,得到了伪域样本,并将其扩充为训练数据集;其次,以交叉熵损失和最大均值差异(MMD)为卷积神经网络(CNN)的优化准则,引入了缩放因子,对网络进行了动态优化,根据测试结果选取缩放因子为0.05作为最优网络结构参数,构建了故障诊断的训练模型;最后,将结构均为1024个数据点的伪域样本和真实样本共同构成模型的训练集,对其进行了归一化处理,然后将其输入到构建的网络模型中,并以MMD作为约束,进行了卷积、池化操作,以实现特征提取的目的,经反向传播对模型进行了优化,实现了诊断模型参数的迭代更新目标。研究结果表明:基于MMD的CNN诊断模型(方法)对小样本下轴承的故障诊断识别精度有明显的改善,当样本数仅为16时,识别率可达95%以上,证明该方法在小样本下的轴承故障诊断中依然能获得较高的故障识别率。

基于图谱功率谱熵和最大均值差异的GIS机械状态辨识方法

针对常规方法对于气体绝缘金属封闭开关设备(Gas Insulated Switchgear,GIS)机械缺陷的特征识别稳定性差、识别率低的问题,在图谱理论的基础上,提出一种基于图谱功率谱熵和最大均值差异(Maximum Mean Discrepancy,MMD)的GIS机械状态辨识方法。首先将采集得到的GIS振动信号转化为图信号,并利用图傅里叶变换技术变换至图谱域进行分析处理;然后提取图谱功率谱熵作为表征GIS不同状态的特征参数;最后利用MMD距离判别函数实现GIS不同工况下的状态辨识。实验结果表明:在噪声干扰的情况下,所提方法能够有效提取GIS不同状态下的特征参数,并成功区分出屏蔽罩松动及内部异物缺陷,状态辨识精度高达93.89%,较常规方法有明显提高。

基于改进的最大均值差异算法的深度迁移适配网络

在基于模型参数的迁移学习研究中,两域样本的分布差异、源模型卷积层之间的互适应性都是影响模型迁移性能的重要因素。针对上述问题,提出一种多层卷积适配(MCA)深度迁移框架并将其应用于台风卫星云图的等级分类,在交叉熵函数的基础上添加L-最大均值差异(MMD)算法作为正则项,并对样本在再生核希尔伯特空间(RKHS)中的分布进行线性的无偏估计,最终定义了CE-MMD损失函数。在反向传播过程中,将残差和两域样本分布的差异共同作为网络参数更新的指标,使得迁移模型收敛速度更快、精度更高。在自建的台风数据集上对L-MMD算法和Bregman差异、KL散度两种度量算法进行对比实验,结果表明所提算法的精度分别高出11.76个百分点和8.05个百分点。实验结果表明,L-MMD算法优于其他度量算法,而且MCA深度迁移框架具有可行性。

基于类内最大均值差异的无监督领域自适应算法

传统的无监督领域自适应算法在对齐总体分布时存在分类信息流失问题,难以保证迁移学习效果。针对这个问题,提出了一种基于类内最大均值差异的分布对齐策略。该策略首先预测所有样本的伪标签,然后借助伪标签样本信息依次对齐每个类别的领域类内分布。在深度学习框架下,所提算法能够有效保留分类信息,提高了目标领域的预测能力。实验结果表明,与传统算法比较,所提算法在多个基准数据集上获得了最优的迁移学习效果。

基于最大均值差异迁移学习的飞机燃油泵故障诊断

燃油泵是飞机燃油系统的核心部件。燃油泵的工作环境恶劣,一旦发生故障,会对飞机的飞行安全造成严重的后果,所以对飞机燃油泵进行故障诊断至关重要。现阶段飞机燃油泵故障存在一些问题,如故障较为随机,故障数据稀缺等。针对这些问题,提出了基于深度迁移学习的飞机燃油泵故障诊断算法。首先,将飞机燃油泵和其他结构相似泵的数据分别作为目标数据和训练数据,利用小波包分解,对两种泵的原始数据进行特征提取。其次,对分解后的两种故障数据进行过采样处理,增加数据量。使用最大均值差异算法(MMD)作为衡量域损失的度量,并将其嵌入到1维卷积神经网络(CNN)结构中。使用该算法对数据进行训练,最终完成故障分类。实验结果表明,该算法相对于BP神经网络、LSTM以及CNN有更好的准确性。

基于多核最大均值差异迁移学习的WLAN室内入侵检测方法

无线局域网(WLAN)室内入侵检测技术是目前智能检测领域的研究热点之一,而传统基于数据库构建的入侵检测技术没有考虑复杂室内环境中WLAN信号的时变性,从而导致WLAN室内入侵检测系统的鲁棒性较差。为了解决这一问题,该文提出一种基于多核最大均值差异(MKMMD)迁移学习的WLAN室内入侵检测方法。该方法首先利用离线有标记和在线伪标记的接收信号强度(RSS)特征来分别构建源域和目标域;其次,通过构造最优迁移矩阵以最小化源域和目标域RSS特征混合分布之间的MKMMD;再次,利用迁移后的源域RSS特征与对应标签来训练分类器,并将其用于对迁移后的目标域RSS特征进行分类以得到目标域标签集;最后,迭代更新目标域标签集直至算法收敛,进而实现对目标环境的入侵检测。实验结果表明,该文所提方法在保证较高检测精度的同时,能够有效克服信号时变性对检测性能的影响。

采用最大均值差异和权重约束的服装识别迁移学习

为了提高基于深度学习的服装图像识别网络的泛化性能,文章提出了一种迁移学习方法,即从一个服装识别任务中提取知识并将其迁移到另一个相似任务中。所提出的神经网络由2个分支组成,一个分支在源域上进行计算,另一个分支在目标域上进行计算。为了表征2个分支之间的相似性,采用最大均值差异损失减小输出特征之间的分布差异,并使用权重约束损失来减小权重的差异。结果表明:与其他迁移学习方法相比,该方法可以提高2%的预测准确率,迁移学习后的Resnet50模型在ACWS数据集上的预测准确率可以达到69.01%,在IDesigner数据集上的预测准确率可以达到91.18%。

基于最大均值差异的多模态过程过渡模态识别方法

为了更好地揭示多模态过程的运行状态和数据分布变化规律,提高后续建模精度,提出基于最大均值差异(MMD)的多模态过程的过渡模态识别方法.引入滑动窗口对数据进行切割,使用最大均值差异对多模态过程数据的分布差异进行度量,通过与稳定模态阈值α比较区分过程数据的稳定模态和过渡模态.在过渡模态段内减小滑动窗口窗宽,利用过渡模态阈值β识别出过渡子模态.数值仿真实验的模态识别结果表明,所提方法可以准确检测出输入变量期望值的阶跃变化,实现对模态的准确识别.田纳西伊斯曼(TE)过程仿真数据实验表明,所提方法可以有效地划分出合理的模态,进而选择出分布最相近的历史模态建模,提高多模态过程的软测量建模精度.

基于最大均值差异测度的装配体相似性研究

基于距离的装配体相似性度量方法由于忽略了对距离分布的分析,在其案例初筛过程中,采用该方法时易导致丢失部分相似的案例。针对这一问题,提出了一种基于最大均值差异(MMD)的装配体相似性度量方法。首先,利用装配体中零部件数量及零部件类型数量、连接数量及连接类型数量,共4个参数,将装配体模型化为一维数据集合;然后,使用最大均值差异(MMD)算法,将表示装配体模型的一维数组映射到再生核希尔伯特空间(RKHS),在该空间内计算出装配体间的距离,并利用离散系数对距离进行了统计学分析;最后,通过基于实例的实验和基于装配体参数生成规则的仿真比较实验对其进行了验证。实验及研究结果表明:在准确度上,MMD算法与欧氏距离(ED)和加权距离(WD)算法一致;在鲁棒性上,无论进行相似性分析的两装配体零部件数量是否一致,该方法的距离分布在零部件数量超过6个后即可达到基本稳定,最高离散系数约为WD算法的23%,距离分布的鲁棒性有了较大程度的增强。

集成最大均值差异正则约束的迁移子空间软测量

针对流程工业中湿式球磨机工况变化后,数据分布差异导致的原测量模型失准问题,引入集成最大均值差异、正则约束的迁移子空间(the transfer subspace with integrated maximum mean discrepancy and regular constraint MRTS)软测量建模方法。该方法首先在源领域和目标领域上训练2个耦合投影矩阵,将源域和目标域映射到2个低维子空间中,然后,集成最大方差、最大均值差异及正则项,通过优化求解得到这2个特征耦合的变化矩阵,最后在源领域所构建的子空间中建立回归模型。实验室磨机负荷参数的预测结果表明,该方法优于传统软测量建模方法,能够有效提高模型的预测精度,对实际流程工业具有一定的指导意义。

基于软联合最大均值差异的域自适应齿轮箱故障诊断

为了解决源域和目标域之间存在联合分布差异,提出了一种基于软连接最大均值差异的域自适应齿轮箱故障诊断方法。首先提出了一种域自适应Y网模型,用于提取跨源域和目标域的域不变深度特征,解决域自适应问题。然后通过软联合最大均值差异来驱动传输过程,从而模拟源域和目标域之间的分布差异。进一步引入SE-RES模块,增强了稀疏特征提取的双连接卷积流水线,并提出了一种考虑类权重偏差的软联合最大均值差异度量。最后通过两个行星齿轮箱数据集进行实验验证,结果证明提出的方法实现了不同行星齿轮箱在不同工况下的域自适应故障诊断。

一种使用最大均值差异方法的多因子进化算法

主要研究和改进多因子进化算法(Multi-Factor Evolutionary Algorithm,MFEA),使用最大均值差异(Maximum Mean Discrepancy,MMD)方法优化的后代种群的混合概率分布作为算法的度量准则。MFEA-MMD在MFEA-II算法的随机分配概率(Random Mating Probability,RMP)矩阵的基础上改进,最大程度避免多因子进化算法最常见的负迁移的影响,改进后的算法收敛速度比MFEA-II更快,算法运算速率比MFEA-II高出29%,任务间知识迁移程度比MFEA-II高出35%。

基于最大均值差异的多标记迁移学习算法

针对多标记迁移学习中源领域与目标领域的特征分布差异会导致源领域数据无法被目标领域利用的问题,提出了一种基于最大均值差异的多标记迁移学习算法(Multi-Label Transfer Learning via Maximum mean discrepancy,M-MLTL),算法通过分解关系矩阵构造共享子空间,并采用最大均值差异(maximum mean discrepancy)作为评价指标,最小化子空间特征的分布差异,从而使源领域与目标领域的特征分布尽可能相似.多标记图像分类实验的结果表明,新算法比同类算法有更高的精度和计算效率.

基于最大均值差异多源域迁移学习的湿式球磨机负荷参数软测量

针对湿式球磨机工况改变时,实时数据与建模数据分布不一致,不满足数据同分布的假设,传统软测量模型难以适应数据分布变化,造成模型性能恶化的问题,有针对性地引入迁移学习策略,并通过多源域集成机制提高模型的鲁棒性,实现多工况下湿式球磨机负荷参数测量.首先,对多工况数据进行预处理并提取频谱特征,经过联合分布适配对多工况数据进行边缘、条件分布适配;然后,使用最大均值差异对适配后的数据进行分布度量并为源域构建的回归器加权;最后,对目标域数据进行负荷预测.通过对比实验与交叉实验表明了模型的实用性和有效性.

最大局部加权均值差异嵌入

最大均值差异嵌入(Maximum Mean Discrepancy Embedding,MMDE)作为一种基于最大均值差异(MaximumMean Discrepancy,MMD)度量的特征提取方法被成功地运用.然而通过分析得知,该方法在处理原始输入空间上的特征提取问题时一定程度上缺乏适应性.因此本文在MMD准则的基础上,并结合已经被广泛研究和探讨的局部学习方法,提出一个新的评价度量:最大局部加权均值差异(Maximum LocalWeightedMean Discrepancy,MLMD),该度量反映源域和目标域分布差异时能充分考虑两个区域内在的局部结构,同时还能通过局部分布差异去反映全局分布差异.本文还在此度量的基础上提出一种能实现迁移学习任务并具有一定局部学习能力的特征提取方法:最大局部加权均值差异嵌入(Maximum Local WeightedMean Discrepancy Embedding,MWME).该方法不但能完成传统意义上的特征提取,同时还能完成在两个分布存在差异但相关的两个区域上实现领域适应学习,从而表明该特征提取方法具有较好的鲁棒性和适应性.实验证明MLMD准则和MWME方法具有上述优势.

结合对抗网络与条件均值的多源适应分类方法

生成适应网络利用对抗训练辅助模型进行域适应分类,但仅使用单源域学到的知识有限,且对抗训练不足以减少域差异,造成判别特征难以识别,影响分类精度。针对该问题,提出一种结合对抗网络与条件均值的多源适应分类方法(MSDACG)。对多个源域进行特征提取,提升特征学习的有效部分,对不同源和目标域特征使用特定域的生成对抗网络及条件最大均值差异拉近域间距离,采用差异损失约束由不同源域训练的分类器,实现利用多个源域的监督信息对目标域样本进行分类。实验结果表明,MSDACG模型能学到更优的域不变特征,与目前多源域适应算法比较,其图像生成质量和分类精度有明显提升。

基于改进多尺度卷积循环神经网络的滚动轴承故障研究

针对传统卷积神经网络故障诊断方法提取特征不丰富,容易丢失故障敏感信息,且在单一尺度处理方法限制实际复杂工况下故障特性的深度挖掘问题,提出了注意力机制的多尺度卷积神经网络和双向长短期记忆(bi-directional long short-term memory,BiLSTM)网络融合的迁移学习故障诊断方法。该方法首先应用不同尺寸池化层和卷积核捕获振动信号的多尺度特征;然后引入多头自注意力机制自动地给予特征序列中的不同部分不同的权重,进一步加强特征表示的能力;其次利用BiLSTM结构引入双向性质提取特征前后之间的内部关系实现信息的逐层传递;最后利用多核最大均值差异减小源域和目标域在预训练模型中各层上的概率分布差异并利用少量标记的目标域数据再对模型进行训练。试验结果表明,所提方法在江南大学(JNU)、德国帕德博恩大学(PU)公开轴承数据集上平均准确率分别为98.43%和97.66%,该方法在重庆长江轴承股份有限公司自制的轴承故障数据集上也表现出了极高的准确率和较快的收敛速度,为有效诊断振动旋转部件故障提供了实际依据。

基于多源域自适应残差网络的滚动轴承故障诊断

针对传统无监督领域自适应方法扩展到多工况滚动轴承故障诊断场景适用性较弱的问题,提出了一种多源域自适应残差网络(multi-source domain adaptive residual network,MDARN),通过对齐来自多个源域的相关子域,从而提高模型在多工况下的故障诊断性能。首先,利用ResNeXt残差网络从源域和目标域充分提取可迁移特征;然后,引入局部最大平均差异(local maximum mean difference,LMMD)准则,以两个源域的子域为基础对齐目标域中相关子域,减少相关子域间和全局域间的分布差异;最后,利用美国凯斯西储大学轴承数据集和MFS机械综合故障试验台产生的真实的轴承振动数据集,对所提方法进行了试验验证。结果表明,该方法在多工况下的平均故障诊断精度高达99.76%。与现有代表性方法相比,所提方法具有更好的故障诊断效果。