面向非均匀分布数据的代价敏感标记分布学习

标记歧义近年来在机器学习和数据挖掘领域备受关注.标记分布学习(LDL)通过为样本分配概率标记来解决标记歧义问题.现有的LDL方法主要是为处理训练数据均匀分布的情况而设计的.然而,在实际应用中,训练数据往往呈现非均匀分布.因此,提出了一种代价敏感的标记分布学习方法(CSLDL),用以处理这种非均匀分布的数据.通过充分利用样本的密度信息,设计了一种新的损失函数.首先,将描述度集平均划分为多个区间,并统计这些区间中的样本个数,从而推导出每个类别标记的经验密度向量.其次,为了确保不同区间之间的连续性,利用邻居来对目标区间的经验密度进行修正.将经验密度向量与对称核进行卷积,以使每个区间不仅考虑当前区间,还考虑附近区间.最后,利用修正后的密度向量构建代价矩阵,并结合Kullback-Leibler(K-L)散度来处理非均匀分布的训练数据.CSLDL在10个真实世界的数据集上与6种最先进的算法进行了对比实验.实验结果充分验证了提出的方法的有效性和优越性.

高效联邦学习:范数加权聚合算法

在联邦学习中,跨客户端的非独立同分布(non-IID)数据导致全局模型收敛较慢,通信成本显著增加。现有方法通过收集客户端的标签分布信息来确定本地模型的聚合权重,以加快收敛速度,但这可能会泄露客户端的隐私。为了在不泄露客户端隐私的前提下解决non-IID数据导致的收敛速度降低的问题,提出FedNA聚合算法。该算法通过两种方法来实现这一目标。第一,FedNA根据本地模型类权重更新的L 1范数来分配聚合权重,以保留本地模型的贡献。第二,FedNA将客户端的缺失类对应的类权重更新置为0,以缓解缺失类对聚合的影响。在两个数据集上模拟了四种不同的数据分布进行实验。结果表明,与FedAvg相比,FedNA算法达到稳定状态所需的迭代次数最多可减少890次,降低44.5%的通信开销。FedNA在保护客户端隐私的同时加速了全局模型的收敛速度,降低了通信成本,可用于需要保护用户隐私且对通信效率敏感的场景。

时域与频域自适应SVD融合去噪算法

时域方法在地震同相轴倾斜或弯曲时,难以保证去噪的有效性;频域方法在信号频带较宽时,会衰减过多信号。基于此,提出一种时域与频域自适应奇异值分解(singular value decomposition,SVD)融合去噪算法。该算法包含分解与融合技术:在分解技术中,根据奇异值二阶差分谱,在时域与频域中分别进行自适应去噪,得到两个分解矩阵;在融合技术中,提出了用于评估分解矩阵的一致度,利用融合策略得到融合矩阵,最后根据局部相似性调整得到去噪矩阵。在合成与野外数据集上与一些算法进行了对比实验,结果表明,所提算法能够更有效地压制噪声。

基于密集扩张卷积残差网络的地震数据随机噪声压制方法

地震数据处理过程中压制随机噪声是提高地震数据质量的重要环节之一,其关键是有效压制噪声并尽可能地保留有效信号。针对深度学习方法在地震数据去噪处理时局部特征提取的局限性,提出了一种基于密集扩张卷积残差网络(DDCRN)的去噪方法。DDCRN主要由多个密集扩张卷积特征融合块(DDCFFB)构成,DDCFFB内部的密集块和多尺度扩张卷积可以用来并行提取特征,融合结构可以用来融合特征,残差结构则跳跃连接通道数。其中,密集块连接不同的卷积层来学习特征,关注局部特征的传播和重用,高效提取复杂信息;多尺度扩张卷积扩大感受野,增加特征提取范围;残差学习则加快网络训练的收敛速度。分别采用K奇异值分解(KSVD)、频域空间域反卷积(f-x decon)、去噪卷积神经网络(DnCNN)、U型网络(Unet)以及DDCRN去噪方法对合成地震数据和实际地震数据进行去噪处理。结果表明,DDCRN去噪方法不仅能更有效地压制随机噪声,同时还能更完整地保留同相轴的连续性。

三支残差修正的时间序列预测

时间序列预测是大数据发展背景下的重要研究课题,具有广泛的应用前景,其主要任务是根据时序数据反映的发展规律去推测未来某阶段的走势,但大多数预测模型未能充分考虑残差带来的影响,无法取得更优的预测结果 .提出一种三支残差修正的融合时序预测模型,能够有效地将残差圈定在一定范围内,提高时间序列的预测精度.首先,利用时间序列分解算法STL (Seasonal-Trend Decomposition Procedure Based on Loess)将时间序列分解为趋势项、周期项和余项;其次,针对分解后的三个分量,设计轻量级梯度提升机(Lightweight Gradient Boosting Machine,LightGBM)和时间卷积网络(Temporal Convolutional Network,TCN)的融合预测模型;最后,结合三支决策理论设计了三支残差修正算法,修正余项预测过程中产生的残差,进而修正时间序列的预测结果 .实验结果证明,提出的模型在绝大多数情况下优于其他对比模型,预测效果更好.

融合矩阵分解和代价敏感的微生物数据扩增算法

微生物会对人类健康产生直接影响,对相关数据的分析有助于疾病诊断。然而,采集到的数据存在类不平衡与高稀疏性两个问题。现有的过采样方法在一定程度上可缓解数据的类不平衡,但是难以应对微生物数据的高稀疏性。本文提出了一种融合矩阵分解和代价敏感的数据扩增算法,其包含3个技术。首先,将原始矩阵分解为样本子空间和特征子空间;其次,利用样本子空间的正向量及其近邻向量生成合成向量;最后,根据合成向量与所有负向量的距离对其过滤。实验在8个微生物数据集上进行,同时与5种过采样算法对比,结果表明本文所提算法能够增强正样本的多样性,在识别出更多正样本的同时,分类结果的代价更低。

基于标签相关性的预测调整算法

多标签学习已成功应用于文本分类、图像识别等各个领域。流行的技术包括提取标签特定特征、利用标签相关性等。提出带有标签相关性的预测调整算法PALC(Prediction adjusting with label correlation)将标签相关性融入串行并行神经网络。一方面,采用新颖的、更有效的串行并行神经网络架构来替代常见的显式特征提取或压缩感知方法;另一方面,考虑用固有的标签矩阵内的相关性来计算相关性矩阵,并以流形正则的方式优化分类器。对10个基准数据集与7种流行算法进行比较,结果表明PALC在3大排名指标下均有优势。

细粒度视觉分类:深度成对特征对比交互算法

由于高类内和低类间方差,细粒度图像识别成为计算机视觉领域一项极具挑战性的研究课题。经典的细粒度图像识别方法采用单输入单输出的方式,限制了模型从成对图像中对比学习推理的能力。受人类在判别细粒度图像时的行为启发,提出了深度成对特征对比交互细粒度分类算法(PCI),深度对比寻找图像对之间的共同、差异特征,有效提升细粒度识别精度。首先,PCI建立正负对输入策略,提取细粒度图像的成对深度特征;其次,建立深度成对特征交互机制,实现成对深度特征的全局信息学习、深度对比以及深度自适应交互;最后,建立成对特征对比学习机制,通过对比学习约束成对深度细粒度特征,增大正对之间的相似性并减小负对之间的相似性。在流行的细粒度数据集CUB-200-2011、Stanford Dogs、Stanford Cars以及FGVC-Aircraft上开展了广泛的实验,实验结果表明PCI的性能优于当前最先进的方法。

分布式系统中任务分配的一种结点自适应算法

基于一个非常简单的假设 :各独立结点对系统反馈的认识具有一致性 ,提出了一种结点自适应算法 .文中运用概率论的相关知识 ,分析了算法的各项重要性能指标 ,给出了一般情况下的表达式 ,并运用分段讨论和求极值等方法得出了这些表达式在特殊情况下的简化形式 .算法所需条件较弱 。

SUCE:基于聚类集成的半监督二分类方法

半监督学习和集成学习是目前机器学习领域中的重要方法。半监督学习利用未标记样本,而集成学习综合多个弱学习器,以提高分类精度。针对名词型数据,本文提出一种融合聚类和集成学习的半监督分类方法SUCE。在不同的参数设置下,采用多个聚类算法生成大量的弱学习器;利用已有的类标签信息,对弱学习器进行评价和选择;通过集成弱学习器对测试集进行预分类,并将置信度高的样本放入训练集;利用扩展的训练集,使用ID3、Nave Bayes、 kNN、C4.5、OneR、Logistic等基础算法对其他样本进行分类。在UCI数据集上的实验结果表明,当训练样本较少时,本方法能稳定提高多数基础算法的准确性。

弱电网下基于虚拟同步机的并网逆变器短路电流抑制研究

随着电力系统中新能源发电渗透率的提高,电网逐渐趋于弱电网,导致发电系统中低惯量、弱阻尼现象日益严重。虚拟同步机(VSG)技术可以提高惯量增加阻尼,保证系统在小扰动下的动态稳定性。然而高渗透率的电网系统为非无穷大系统,当网侧发生短路故障时,故障瞬间产生因非周期分量引起的暂态冲击电流,仅依靠传统的VSG控制无法有效地抑制短路电流,难以保证系统在大扰动下的暂态稳定性。针对以上问题,本文基于VSG暂态功角特性,提出了适用于弱电网的单位圆混合相量分析法,并结合提出的动态调节控制策略能够在电网阻抗波动时有效地抑制短路电流的稳态值和暂态冲击峰值,保证了系统的暂态稳定性。仿真和实验结果验证了本文所提控制方法的正确性和可行性。

基于试探的公平任务分配算法

在任务不可剥夺的分布式服务器系统中,如何实现公平性,降低平均延迟比是提高服务质量的关键。文章介绍一种基于试探的任务分配算法,当任务长度服从指数分布时,能获得很好的公平性、很低的平均延迟比和较低的总延迟。通过仿真,得到了具有很好代表性的实验结果。

可伸缩TAGS

In a distributed Web server system where tasks are unpreemptible,the most important issue for improving quality of service (QoS) is how to realize fairness and reduce average slow down. In this paper we present an algorithm named Scalable TAGS by integrating Central Queue algorithm and Task Assignment by Guessing Size (TAGS), together with its performance analysis, system parameter setting algorithm subject to fairness requirement, and optimal grouping method.

扩展的TAGS算法

在任务不可剥夺的分布式Web服务器系统中，如何实现公平性、降低平均延迟比是提高服务质量的关键。该文结合集中队列算法与进行长度猜测的任务分配（TAGS）算法，提出一种扩展的TAGS算法，并依次给出其性能计算式、公平性要求下的系统参数设置算法及服务器最佳分组方法。

分布式系统中的一类任务分配算法

本文提出了分布式系统中各独立结点根据自身状态和系统反馈进行自适应,以使系统达到 最优状态的一种机制。它突破了以往相关工作的一些重要限制,性能得到了很大的改善。

改进的TAGS算法

在任务不可剥夺的分布式Web服务器系统中 ,如何实现公平性 ,降低平均延迟比是提高服务质量的关键 ,本文提出一类改进的TAGS算法 ,它具有比TAGS算法更低的平均延迟比和更低的总延迟 ,本文还对这类算法的几种策略进行了分析比较 ,找出了其中最佳的一种 。

结构化程序设计思想在形式语言与自动机理论中的体现

在形式语言与自动机理论课程中，文法与自动机的构造在本质上都与结构化程序设计的思想有着很强的联系。本文从具体例子出发，阐明了这种联系并将其上升到理论的高度。在教学实践中对这种联系的讲述，对学生理解和掌握文法和自动机的构造起到了非常积极的作用。

一种基于新的条件信息熵的高效知识约简算法

分析了在知识约简过程中现有条件信息熵的不足,给出一种新的条件信息熵,由此定义新的属性重要性.将其与基于正区域和基于现有条件信息熵的属性重要性进行比较,结果表明新的属性重要性是一种更准确、更全面的启发信息.以新的属性重要性为启发信息设计约简算法,并给出计算新的条件信息熵的高效算法.理论分析和实验结果表明,与基于现有条件信息熵的约简算法相比,该约简算法时间复杂度较低,且在搜索最小或次优约简方面更优.

一种求解MPMGOOC问题的启发式算法

具有间隙约束和一次性条件的最大模式匹配(Maximum Pattern Matching with Gaps and One-Off Condition,MPMGOOC)是一种具有通配符长度约束的模式匹配问题,其任务是寻找彼此互不相关的最多出现.文中基于一种新的非线性数据结构——网树,提出了一种解决MPMGOOC问题的启发式算法.与树结构不同之处在于,除根结点外,网树中任何结点可以多于1个双亲结点.文中给出了网树的定义及其相关的概念和性质.基于这些概念和性质,提出了一种选择较优出现(Selecting Better Occurrence,SBO)的启发式算法.该算法在搜索一个出现的循环中,采用了贪婪搜索双亲策略(Strategy of Greedy-Search Parent,SGSP)和最右双亲策略(Strategy of RightMostParent,SRMP)寻找相同叶子的两个出现并选择其中较好的出现作为SBO算法的结果.SGSP策略的核心思想是每一步都寻找当前结点的一个近似最优双亲(Approximately Optimimal Parent,AOP);SRMP策略的核心思想是每一步都寻找当前结点的最右双亲结点.实验结果表明,在多数情况下SBO算法可以获得更好的解且解的质量较其它算法有显著的提高.文中不但提供了一个解决MPMGOOC问题的启发式算法,更重要的是对于求解其它复杂问题具有一定的参考价值.

一种启发式知识约简算法

属性约简是Rough集理论中的核心问题之一,找出所有的约简或最小约简是一个NP难题。本文证明了正区域和边界域的一些性质,指出在考虑工区域作为启发信息的同时,还应该考虑在不一致决策表中边界域对约简的影响,综合这两种信息,提出了不一致决策表约简的启发信息。并在此基础上,设计了不一致决策表的启发式约简算法。实验证明,在多数情况下,该算法能够得到决策表的最小或次优约简。