基于无监督学习的软件定义网络异常流量检测技术

软件定义网络中存在多种不同类型的异常流量,高维数的异常流量需要大量的数据进行训练和检测,异常流量难以被准确提取,导致软件定义网络异常流量难以精准检测。为此,该研究基于无监督学习的软件定义网络异常流量检测技术,提升软件定义网络的运行安全性。利用无监督学习方法中的自编码器方法,通过压缩网络和检测网络2部分检测软件定义网络异常流量。压缩网络部分采用收缩自编码技术,通过调节重构误差的损失函数,对软件定义网络流量特征实施降维处理;将降维处理后的软件定义网络流量特征,输入条件生成对抗网络-长短时记忆网络模型中,该模型利用生成器生成软件定义网络流量样本,作为判别器训练的依据,利用完成训练的判别器,输出软件定义网络异常流量检测结果。实验结果表明,该方法在迭代次数接近150次时,重构误差稳定至0.01左右,该方法能够有效检测软件定义网络受到不同类型的攻击造成的流量异常情况,及时发出告警,异常流量检测精度为98.98%。

基于半监督学习的网络异常检测研究综述

网络流量数据的获取较为容易,而对流量数据进行标记相对困难。半监督学习利用少量有标签数据和大量无标签数据进行训练,减少了对有标签数据的需求,能较好适应海量网络流量数据下的异常检测。文章对近年来的半监督网络异常检测领域的论文进行深入调研。首先,介绍了一些基本概念,并深入剖析了网络异常检测中使用半监督学习策略的必要性;然后,从半监督机器学习、半监督深度学习和半监督学习结合其他范式三个方面,分析和比较了半监督网络异常检测领域近年来的论文,并进行归纳和总结;最后,对当前半监督网络异常检测领域进行了现状分析和未来展望。

基于注意力机制的无监督异常声音检测方法

针对传统的基于自编码器的无监督异常声音检测方法存在特征表达能力不足的问题,提出一种基于注意力-跳跃自编码器-生成对抗网络的无监督异常声音检测方法ASAE-GAN(Attentional Skip-connected Auto Encoder and Generative Adversarial Network)。ASAE-GAN在跳跃自编码器和生成对抗网络的基础上,引入通道间注意力机制和时间注意力机制,增强模型的特征表达能力。使用MIMII数据集中的pump声音数据进行实验,评价指标使用AUC分数。结果表明:ASAE-GAN的平均AUC分数相比较于AE、UNET和Skip-GANomaly分别提升了16.27%、14.23%和6.55%,验证了其在无监督异常声音检测方面的优越性。

基于特征重建的无监督木材图像异常检测

为有效解决目前木材图像异常边缘区域检测精度不高的问题,提出一种基于特征重建的无监督异常检测模型FRNet。设计多层级特征提取器为图像子区域生成多个空间上下文特征表示;多尺度特征生成器将多层特征融合为一幅具有多尺度特征表达的特征图;设计具有跳跃连接的卷积自编码器,通过补充下采样时丢失的细节信息重建特征图,根据重建误差定位异常区域。在构建的木材异常数据集上进行实验,其结果表明,FRNet取得了最好的异常检测性能。

面向日志的半监督一致性异常检测

为了解决真实数据缺少类标签、日志解析错误影响模型性能的问题,设计了基于置信度的半监督异常检测模型SemiCAD.该模型首先基于原始日志数据进行特征提取;其次,通过基于分层密度的带噪声应用空间聚类(HDBSCAN)的正例无标记样本(PU)学习算法,对训练集中无标签的数据进行伪标签估计;最后,使用一致性预测中的统计量p值度量日志数据间的不一致性,选择多个合适的集成算法作为不一致性度量函数计算不一致得分进行协同检测,给出待测日志序列的标签及其标签置信度.在超级计算机(Blue Gene/L)和Hadoop分布式文件系统(HDFS)的日志数据上进行实验,结果表明,相比其他日志异常检测模型,该模型的召回率和F1值等均有所提升,证明该半监督模型在缺少标签的日志中可以有效检测异常.

基于双向时间卷积网络的半监督日志异常检测

由于日志解析准确率不高以及标记样本不足降低了异常检测的准确率,所以提出了一种新的基于日志的半监督异常检测方法。首先,通过改进字典的日志解析方法,保留了日志事件中的部分参数信息,从而提高日志信息的利用率和日志解析的准确率;然后,使用BERT对模板中的语义信息进行编码,获得日志的语义向量;接着采用聚类的方法进行标签估计,缓解了数据标注不足的问题,有效提高了模型对不稳定数据的检测;最后,使用带有残差块的双向时间卷积网络(Bi-TCN)从两个方向捕获上下文信息,提高了异常检测的精度和效率。为了评估该方法的性能,在两个数据集上进行了评估,最终实验结果表明,该方法与最新的三个基准模型LogBERT、PLELog和LogEncoder相比,F 1值平均提高了7%、14.1%和8.04%,能够高效精准地进行日志解析和日志异常检测。

基于半监督目标检测的异常用能检测研究

研究有效学习含噪声标签数据集中异常用能行为特征的检测方法,对降低非技术性损失以保障电网经济与安全运行至关重要。针对异常用能检测问题,提出一种基于半监督目标检测的异常用能检测模型,该模型利用多通道特征拼接检测网络,提高了检测准确性,同时结合半监督学习方法,有效缓解了标签数据不足的问题,为异常用能检测提供了创新的技术路线。

无创产前检测技术在胎儿脉络丛囊肿筛查染色体异常的应用

目的探讨无创产前检测技术(NIPT)应用于胎儿脉络丛囊肿(CPC)筛查染色体异常的临床价值。方法回顾性分析因胎儿CPC或CPC合并其他超声软指标异常孕妇选择NIPT的临床资料,总结NIPT的检出率、阳性预测值等指标。结果608例胎儿CPC或CPC合并其他超声软指标异常孕妇中,16例胎儿为高风险,检出率为2.6%(16/608),9例为染色体非整倍体,7例为染色体拷贝数变异(CNV)。15例孕妇选择了浸入性产前诊断,确诊8例,阳性预测值(PPV)为53.3%(8/15)。≥35岁和<35岁的胎儿CPC检出率差异无统计学意义(χ^(2)=0.000,P=1.000)。iCPC和cCPC的检出率差异有统计学意义(χ^(2)=8.988,P=0.003)。双侧、左侧和右侧胎儿CPC的检出率差异无统计学意义(P>0.05)。结论CPC与胎儿染色体异常存在相关性。NIPT可应用于超声提示胎儿CPC孕妇的可选筛查技术,且筛查准确性较高,避免侵入性检查,有助于提高产前诊断的检出率,降低产前诊断压力。

基于双重动态记忆网络的弱监督视频异常检测

视频异常检测需从整段视频中识别帧级别的异常行为。弱监督方法使用正常与异常视频,辅以视频级别标签训练模型,相比无监督视方法展现出了更优越的性能。然而,目前的弱监督视频异常检测方法无法记录视频长期模态,且部分方法为了获得更优的检测效果,利用了未来帧的信息,导致无法在线应用。为此,文中首次提出了一种基于双重动态记忆网络的弱监督视频异常检测方法,通过设计包含两个记忆模块的记忆网络来分别记录视频中长期的正常和异常模态。为了实现视频特征和记忆项的协同更新,采用读操作基于记忆模块中的记忆项对视频帧的特征进行增强,采用写操作基于视频帧特征对记忆项的内容进行更新,同时记忆项的数量在训练的过程中会动态调整从而适应不同视频监控场景的需求。在训练时,设计模态分离损失增加记忆项之间的区分度。在测试时,仅需要记忆项而不需要未来视频帧的参与,从而实现准确的在线检测。在两个公开的弱监督视频异常检测数据集上的实验结果表明,所提方法优于所有在线应用的方法,相比只能离线应用的方法也具有很强的竞争力。

知识增强的自监督表格数据异常检测方法研究

传统的监督异常检测方法快速发展,为了减少对标签的依赖,自监督预训练方法得到了广泛的研究,同时研究表明额外的内在语义知识嵌入对于表格学习至关重要。为了挖掘表格数据当中存在的丰富知识信息,提出了一种基于知识增强的自监督表格数据异常检测方法(self-supervised tabular data anomaly detection method based on knowledge enhancement,STKE)并进行了改进。提出的数据处理模块将领域知识(语义)、统计数学知识融入到特征构建中,同时自监督预训练(参数学习)提供上下文知识先验,实现表格数据的丰富信息迁移。在原始数据上采用mask机制,通过学习相关的非遮掩特征来学习遮掩特征,同时预测在数据隐层空间加性高斯噪声的原始值。该策略促使模型即使在有噪声输入的情况下也能恢复原始的特征信息。使用混合注意机制有效提取数据特征之间的关联信息。在6个数据集上的实验结果展现了提出的方法优越的性能。

Laplace周期图与关联性检验相结合的半监督信号异常检测方法

信号异常检测方法具有普遍的研究意义和广泛的实用价值.该文首先研究Laplace周期图的统计性质,再结合用于关联性检验的有力工具互信息的刀切估计(JMI),对两段信号的Laplace周期图对数比进行统计检验,可判断所检测信号是否具有相同的归一化动态特征.作为一种半监督的异常检测方法,可在已知正常信号标签的情况下,以动态特征检测出未知信号是否异常.统计模拟试验和滚动轴承数据的实例分析显示,该文所提的新方法优于Laplace周期图分别与B样条F检验(B-spline F test)、Ljung-Box Q检验(LBQ)、游程检验(run test)相结合的方法,兼顾了稳健性和较低的犯错概率,具备一定的实用性和有效性.

基于三元中心引导的弱监督视频异常检测

针对监控视频异常的复杂多样性和短时持续性,引入弱监督视频异常检测方法,旨在仅使用视频级别的标签进行异常检测,并提出了基于变分自编码器(VAE)与长短期记忆(LSTM)网络的异常回归网络VLARNet作为异常检测框架,以捕获时序数据中的时间依赖关系、去除冗余信息,保留数据的关键信息。该框架将异常检测视为回归问题,为学习检测特征,设计了异常分数回归的三元中心损失(TCLASR),与动态多实例学习损失(DMIL)相结合以进一步提高特征的区分能力。DMIL能够扩大异常实例与正常实例之间的类间距离,但同时也扩大了类内距离,而TCLASR可使来自同类的实例与类中心的距离更接近,与不同类中心的距离更远。对VLARNet在ShanghaiTech与CUHK Avenue数据集上进行了综合实验。实验结果表明,VLARNet能够有效利用视频数据的各种信息,在两个数据集上获得的受试者工作特征曲线下面积(AUC)分别为94.64%和93.00%,明显优于对比算法。

结合模式记忆和自监督注意力的人群异常行为检测方法

为实现复杂环境下监控视频中异常事件的快速检测和准确定位,提出一种结合正常模式记忆和自监督注意力机制的异常检测框架。记忆机制综合考虑正常模式的多样性和差异性,解决卷积神经网络(CNN)泛化性过强的问题。自监督模块包含遮罩卷积层和通道注意力层,通过遮罩信息预测的自监督训练,提高模型对全局特征结构的理解。公开数据集的实验结果表明,所提方法的曲线下面积(AUC)指标分别达到92.6%和82.7%,性能优于当前其它先进的视频异常检测方法,在轨迹检测标准(TBDC)和区域检测标准(RBDC)指标中表现出优秀的异常跟踪和定位能力。

无监督异常检测模型的鲁棒性基准

由于生产环境的复杂性和多样性,了解无监督异常检测模型对常见降质的鲁棒性是至关重要的。为了系统地探索这个问题,我们提出一个名为MVTec-C的数据集来评估无监督异常检测模型的鲁棒性。基于这个数据集,我们探索了五种不同范式的方法的鲁棒性,包括基于重建的、基于表征相似度的、基于归一化流的、基于自监督表征学习的和基于知识蒸馏的范式。此外,我们还探讨了两种最佳的方法中不同模块对鲁棒性和准确性的影响,包括Patch Core方法中的多尺度特征、邻域大小、采样比例和Reverse Distillation方法中的多尺度特征、MMF模块与OCE模块、多尺度蒸馏。最后,我们提出了一个特征对齐模块(FAM),以减少降质带来的特征偏移,并将Patch Core和FAM结合起来,得到一个同时具备高准确率和高鲁棒性的模型。我们希望这项工作能够作为一种鲁棒性评估手段,并在将来为构建鲁棒的异常检测模型提供经验。

基于自监督特征提取的骨骼X线影像异常检测方法

为探索自监督特征提取方法在骨骼X线影像异常检测方面的可行性,提出了基于自监督特征提取的骨骼X线影像异常检测方法。将自监督学习框架与ViT(Vision Transformer)模型结合用于骨骼异常检测的特征提取,并通过线性分类器进行异常检测分类,在特征提取阶段可有效避免有监督模型对大规模有标注数据的依赖性。在公开的骨骼X线影像数据集上进行实验,采用准确率分别评估预训练的卷积神经网络(CNN)和自监督特征提取的骨骼异常检测模型。实验结果表明,自监督特征提取模型相较于一般的CNN模型效果更优,在7个部位分类结果与有监督的CNN模型ResNet50相差无几,但在肘部、手指、肱骨的异常检测中准确率均取得了最优值,平均准确率提升了5.37个百分点。所提方法易于实现,可以作为放射科医生初步诊断的可视化辅助工具。

联合语义提示和记忆增强的弱监督跳绳视频异常检测方法

面向全国的学生综合评价与发展平台采集了百万级学生跳绳运动数据用于中小学生身体素质测评,然而在采集的跳绳视频中存在着非跳绳视频、人物未全身出镜等不符合拍摄要求的各类异常视频,严重影响了后续学生身体素质测评模型的准确性和鲁棒性。针对上述问题,提出一种联合语义提示和记忆增强的弱监督跳绳视频异常检测方法。该方法首先提取正常跳绳视频和异常跳绳视频的视觉特征,将正常特征和异常特征成对训练,增强模型对异常视频特征的感知能力;其次设计两个自监督记忆网络分别存储和分离正常视频和异常视频的特征,进一步增强模型的特征表达能力;最后引入提示学习方法迁移大规模预训练模型中的多种跳绳异常类型的语义先验知识,增强模型在样本不足的情况下对多种异常类型语义信息的理解。实验结果表明,该方法在自建的跳绳异常检测数据集(SRAD)上的AUC为94.14%,相较于基准方法提升了2.71个百分点,具有较高的准确性。该方法对实现身体素质的智能测评、推动教育评价改革具有重要意义。

一种基于半监督学习的网络异常流量检测方法

针对网络流量数据存在标记样本获取困难、实际数据类别不平衡等问题,提出一种合成数据增强的半监督网络异常流量检测方法(SEASAND)。SEASAND利用无标记数据辅助模型学习,只需少量的有标签数据即可达到较高识别准确率,降低了训练成本。考虑一致性正则和熵最小化原则,通过混合采样解决网络流量数据不平衡的问题,并采用混合样本算法对样本进行二次数据增强,提高了对无标记数据的利用效率。最后利用一维残差网络Resnet1D 18对数据增强后的数据集进行训练。SEASAND在KDDCup9910、UNSW-NB15、CICIDS2017数据集上进行仿真实验,结果表明,与相关算法对比,SEASAND在少样本、多分类问题上具有较好的性能,降低了对有标记样本量的需求。

基于对比学习和伪异常合成的无监督火灾检测

传统的火灾检测方法大多基于目标检测技术,存在火灾样本获取难度高、人工标注成本高的问题.为解决该问题,本研究提出了一种基于对比学习和伪异常合成的无监督火灾检测模型.为了实现无监督图像特征学习,提出了交叉输入对比学习模块.然后,引入了一个记忆原型学习正常场景图像的特征分布,通过特征重建实现对火灾场景的判别.并且,提出了伪异常火灾场景合成方法和基于欧氏距离的异常特征区分损失,使模型对于火灾场景具有针对性.根据实验表明,我们的方法在Fire-Flame-Dataset和Fire-Detection-Image-Dataset两个公开火灾检测数据集上的图像级AUC分别达到89.86%和89.56%,优于PatchCore、PANDA、Mean-Shift等主流图像异常检测算法.

应用视角下基于异常检测的颠覆性技术爆发机会识别

[研究目的]及时、准确地识别关键技术在应用领域的颠覆性信号,有利于产业的提前布局,对于提升国家和企业的核心竞争力具有重要价值。[研究方法]该研究以技术应用为导向,构建了颠覆性技术爆发机会的识别模型。首先,提取论文和专利数据蕴含的创新关系和核心语义;其次,融合市场环境与公众感知的多源数据;最后,利用BERT孪生网络模型和无监督异常检测算法识别异常点。[研究结论]以2014—2023年洪水灾害领域的相关数据为研究对象进行实证研究,共检测出142个异常点。通过分析异常点和市场爆发趋势,验证了识别模型的有效性,并总结了应用视角下的四类颠覆性技术机会,为颠覆性技术在潜在应用领域的机会识别提供新的视角和参考。

基于大数据技术的智能电网异常入侵动态检测方法

为避免异常入侵信息过度占据电网存储环境,方便智能电网主机对入侵参量的动态检测与处理,提出基于大数据技术的智能电网异常入侵动态检测方法。在大数据处理架构中,确定异常行为指征的取值范围,联合已获取数据样本,求解入侵风险系数的计算结果,完成基于大数据技术的入侵信息处理。根据动态检测目标定义式,计算威胁性度量指标的具体数值,通过构建损失函数的方法,实现智能电网异常入侵信息的动态检测。对比实验结果表明,应用所提方法后,入侵信息在电网环境中的存储总量低于35%,符合动态处理电网异常入侵信息的应用需求。