高斯混合分布之间K-L散度的近似计算

高斯混合分布之间的K-L散度没有闭式解,通常采用其上界来近似.对于具有相同高斯数的混合分布,基于相对熵链规则推导其K-L散度上界,提出一种更紧上界的计算方法.为计算具有不同高斯数的混合分布之间的K-L散度上界,提出基于最佳高斯分量复制的方法.在中文声韵母声学模型上的实验结果显示,所提出方法可更好地近似等高斯数的混合分布之间的K-L散度,并能有效处理具有不同高斯数的混合分布.

结合K-L散度和互信息的无监督波段选择算法

波段选择是重要的高光谱图像降维手段。为了达到降维的目的,提出结合K-L散度和互信息的无监督波段选择算法,并进行了理论分析和实验验证。首先选出信息熵最大的波段作为初始波段,然后将散度与互信息量的比值定义为联合散度互信息(KLMI)准则,选择KLMI值大且信息量也大的波段加入波段子集中,选出信息量大且相似度低的波段集合,最终利用k最近邻分类算法实现了基于最大方差主成分分析算法、聚类算法、互信息算法和本文中方法的真实高光谱数据分类实验。结果表明,本文中的算法总体分类精度和κ系数均达到0.8以上,高于其它算法;大多数地物的分类精度均得到提升,具有较好的分类性能。该算法是一种实用的高光谱图像降维算法。

基于K-L散度的核磁共振波谱数据尺度缩放方法

在基于核磁共振(NMR)的代谢组学数据分析中,尺度缩放是关键的预处理步骤之一,其主要目的是通过调整数据的方差结构,改善后续的多变量统计分析的结果。从信息熵的角度出发,利用KullbackLeibler(K-L)散度来度量不同实验分组的生物样品的1 H NMR波谱数据的差异程度,并结合单位方差缩放法,提出一种基于K-L散度的尺度缩放方法。该方法先利用单位方差法将数据各变量的标准差调整到同一水平上,再利用K-L散度对各变量进行有监督地加权,增强重要变量、减弱无关变量。由于K-L散度是在概率分布的意义上度量数据间的差异程度,且对于高斯和非高斯分布的数据均适用,因此能更准确地度量不同实验分组样品的1 H NMR波谱数据的差异性,从而更有效地地对谱数据的重要变量进行识别和加权。人群尿液1 H NMR波谱数据的分析结果表明,基于K-L散度的尺度缩放方法能有效抑制噪声变量,同时很好地区分特征变量和非特征变量;提高主成分回归(PCR)模型的判别能力;改善偏最小二乘回归判别分析(PLS-DA)模型的解释能力、预测能力以及对特征代谢物的辨识能力。

基于K-L散度与光谱可分性距离的波段选择算法

波段选择是高光谱降维的常用手段,文中从波段选择应遵循的3个原则出发设计了一种基于信息散度与光谱可分性距离的波段选择算法。将高光谱数据中每个波段的光谱分量看作一个一维向量,使用K-L散度表示其相互之间的信息量,选出信息量大且相似性最小的波段组合;根据每个波段中不同地物光谱可分性距离的计算,得到可分性较大的波段组合;将两组波段组合取交集,即得到最优组合波段。为了验证算法的有效性,将选出的最佳3个波段进行伪彩色合成,对其进行光谱角制图分类,分类精度达到92.2%,Kappa系数为0.88.

基于概率神经网络和K-L散度的样例选择

提出了一种基于概率神经网络和K-L散度的样例选择算法。该算法利用概率神经网络估计训练样例的概率分布,利用K-L散度作为启发式来进行样例选择,用该方法选出的样例大多分布在分类边界附近。与五个著名的样例选择算法CNN、ENN、RNN、MCS和ICF进行了实验比较,实验结果显示,算法的选择比更低,训练出分类器具有更好的泛化能力,提出的方法是有效的。

基于K-L散度与PSO-SVM的齿轮故障诊断

针对表征齿轮故障信号特征难提取及支持向量机结构参数基于经验选取,致使故障状态识别精度差的问题,提出了一种基于K-L散度与PSO-SVM的齿轮故障诊断方法。首先,用经验模式分解(EMD)将齿轮振动信号筛分为多个本征模式分量(IMF);然后,选取包含有信号主要特征的IMF并求其与无故障原信号的K-L散度值;其次,利用粒子群算法(PSO)优化支持向量机(SVM)的惩罚系数和高斯核宽度系数两个结构参数,在此基础上建立齿轮故障分类模型;并利用实验齿轮数据验证方法的有效性,结果表明,与TF-SVM、TF-PSO-SVM、K-L-SVM方法相比,基于K-L散度与PSOSVM的齿轮故障诊断方法具有更高的精度。

基于K-L散度的机械或传感器故障判别方法

机械故障诊断系统中,对同一监测部位通常采用双传感器配置(如水平和垂直方位)。文中首先运用核密度估计方法得到两传感器输出信号的概率密度函数估计,然后计算两输出信号间K-L(Kullback-Leiber)散度,并提出一种基于K-L散度值的机械或传感器故障判别准则。通过对一个齿轮减速箱实测振动信号和模拟的传感器故障信号的计算,可以发现,与无故障状态时K-L散度相比,监测部位出现机械故障时两传感器输出信号间K-L散度显著减小;而两传感器之一出现故障时其K-L散度显著增大。因此,两信号间K-L散度的变化可用于区别机械和传感器故障。

基于K-L散度的恶意代码模型聚类检测方法

在云计算应用环境下,由于服务系统越来越复杂,网络安全漏洞和被攻击情况急剧增加,传统的恶意代码检测技术和防护模式已无法适应云存储环境的需求。为此,通过引入高斯混合模型,建立恶意代码的分层检测机制,使用信息增益和文档频率等方法分析和提取样本数据特征值,结合K-L散度特性,提出基于K-L散度的恶意代码模型聚类检测方法。采用KDDCUP99数据集,使用Weka开源软件完成数据预处理和聚类分析。实验结果表明,在结合信息增益和文档频率进行特征分析的前提下,与贝叶斯算法相比,该方法在虚拟环境中恶意代码的平均检测时间降低16.6%,恶意代码的平均检测率提高1.05%。

基于K-L散度的VMD瞬时能量与PNN的滚动轴承故障诊断

针对滚动轴承失效模式的有效识别,提出了基于K-L散度的变分模态分解(VMD)的瞬时能量与概率神经网络(PNN)的滚动故障轴承故障诊断方法。首先,利用VMD将滚动轴承信号进行分解成若干个本征模态函数(IMF);然后,分别计算原始信号和每个IMF分量的K-L值,并选择具有较小的K-L值的两个IMF分量以计算其瞬时能量并组成特征向量;最后,将特征向量输入到PNN实现故障模式识别。通过对滚动轴承故障诊断实验对该方法进行验证,结果表明,基于K-L散度的VMD瞬时能量与PNN的滚动故障轴承故障诊断准确率高达100%,将所提的方法与通过峭度准则选择VMD分量的瞬时能量和通过K-L散度值选择的集合经验模态分解(EEMD)分量与PNN网络相结合的诊断方法作对比,则明显高于其他两种方法,证明了所提方法的可行性。

基于K-L散度液位自适应判定的乌式粘度仪系统设计

针对传统乌式粘度仪测量数据操作性差、液位检测自动化程度有限的弱点,设计一种液位自适应判定乌氏粘度仪。通过分析粘度仪的测量原理,根据吸液液位检测信号特征,提出基于K-L散度的吸液液位自动判定方法。设定液位到达计时刻度线会存在一个标志点,首先利用K-L散度方法获取标志点所在的液位检测信号窗口,采用格罗布斯准则自动判定窗口中标志点的位置,然后根据标志点计算计时起点或计时终点;再通过计时时间差进行吸液过程的流速估计,完成吸液自动判定。结合嵌入式UCOSIII操作系统和em Win图形库设计粘度仪系统,在触摸屏交互界面上实现数据的实时输入与显示。应用与实验结果表明,该粘度仪满足国家粘度测试标准,重复性优于0.35%,测量误差优于0.1%,并能进行直观的触摸界面操作,仪器显示界面友好。

基于K-L散度和TEO的滚动轴承故障频率识别方法

目的:针对滚动轴承故障信号易受噪声干扰,使故障频率难以识别,而传统奇异值分解方法存在主观性强、降噪效果不显著的问题,提出一种K-L散度与TEO相结合的滚动轴承故障频率识别方法。方法:首先,将一维故障信号构造成Hankel矩阵,并采用SVD对信号矩阵进行分解;然后,利用信号分量与原始信号的K-L散度值确定有效阶次进行降噪;最后,采用TEO对降噪后的信号进行解调,从而提取信号中的故障频率。结果:利用美国西储大学的滚动轴承数据集进行了验证,准确识别滚动轴承的转频、内圈故障频率及其倍频、内圈故障频率与转频之和的频率。结论:提出的方法可有效应用于滚动轴承振动信号的降噪及故障频率识别。

基于K-L散度模型聚类的快速说话人辨识方法

在网络应用环境下,需要处理的音频数据和注册说话人急剧增加,传统说话人辨识方法难以满足实时性要求.文中提出采用K-L散度的说话人模型聚类方法,从而构造一个分级辨识模型,提高辨识效率.研究利用类辨识信息估计置信度的方法,可尽早有效排除集外说话人.实验结果显示,文中方法可使辨识速度平均提高3.2倍,而闭集辨识错误率平均只有0.9%的增加.采用类辨识置信度进一步提高开集辨识速度,并且在保持集内错误率不变的情况下,使集外错误率相对下降5.1%.

基于K-L散度和散度均值的改进矩阵CFAR检测器

传统雷达中一般是通过FFT处理接CFAR(constant false alarm rate)来实现目标检测的,该方法面临以下问题:(1)当数据长度较短时,FFT多普勒分辨率较低,会出现多普勒跨越损失;(2)在杂波背景下,杂波谱展宽会使得杂波能量分散到目标所在位置;(3)对于频域扩展目标,单频率通道检测会损失较多目标回波能量.本文分别利用K-L(Kullback-Leibler)散度和散度均值替代基本矩阵CFAR检测器中的测地线距离和黎曼均值,提出了一种改进的矩阵CFAR检测器,较好地克服了以上三个问题,并相比基本矩阵CFAR检测器具有更优的检测和恒虚警性能,减小了计算量.最后通过仿真实验进行了性能分析验证,取得了较好效果.

考虑风电不确定性的交直流配电网低碳分布鲁棒优化调度

为增加配电网风电的消纳能力,减少碳排放,建立了一种交直流配电网低碳分布鲁棒优化调度模型。分析风电预测误差和预测出力历史数据之间的正相关性,采用混合Copula函数,建立它们之间的联合概率分布,得到风电预测误差的条件概率分布。将交直流配电网解耦为交流和直流子网,以各自综合运行成本最小为优化目标,在交流子网优化模型中引入碳交易机制,建立交直流配电网分散协调优化模型。以得到的风电预测误差的条件概率分布为参考,构建了基于K-L散度的分布鲁棒模糊集。利用拉格朗日对偶理论,将优化模型转化为单层优化目标模型,并利用交替方向乘子法进行分散协调优化求解。基于修改后33节点交直流配电网模型的仿真结果表明所提模型能有效减少配电网侧碳排放量,显著提高风电消纳能力。

改进LMD及高阶模糊度函数的管道泄漏定位

针对天然气管道泄漏定位的问题,提出一种基于改进局域均值分解(LMD)及高阶模糊度函数的时延估计方法。该方法首先采用改进的LMD对声发射信号进行分解,获得多个PF分量,进而提出根据K-L散度的PF分量自动选择算法,获取含有主要泄漏信息的PF分量,在此基础上,研究了基于高阶模糊度函数计算声发射信号的时频参数,并通过时频分析获取特征频率的到达时间差,最后结合泄漏产生的广义声发射信号的传播速度完成对天然气管道泄漏的定位。实验结果表明,提出的方法能够进行定位且精度较直接相关法明显提高。

基于CEEMDAN-SOBI对桥梁监测挠度的分离研究

为实现桥梁挠度监测信号各种效应值的分离,提出1种基于自适应噪声的完备集合经验模态分解(Complete Ensemble Empirical Mode Decomposition with Adaptive Noise,CEEMDAN)结合二阶盲源辨识(Second Order Blind Identification,SOBI)的单通道盲源分离算法。首先利用自适应噪声的完备集合经验模态分解将单通道的桥梁挠度信号分解为一系列线性平稳的本征模函数,计算各子序列的排列熵(Permutation Entropy,PE)并将排列熵值相近的序列相加组成新的序列;然后采用K-L散度的判别法剔除虚假的分量,将真实的分量组成盲源分离模型的输入信号;最后采用二阶盲源辨识对输入信号进行盲源分离,得到桥梁监测挠度的各效应值。结果表明:该方法能有效分离挠度监测信号中的各种效应值。

基于集成固有时间尺度分解和谱峭度的滚动轴承故障检测

针对固有时间尺度分解(ITD)方法中固有旋转分量存在局部波动的问题,提出一种集成固有时间尺度分解,将其结合谱峭度法,提高轴承故障检测的准确度。首先运用3次样条插值拟合基线控制点,实现振动信号的自适应频带划分,获得若干个固有旋转分量;然后根据K-L散度准则选取真实分量进行信号重构,使用谱峭度法确定带通滤波器的最优参数;最后分析滤波处理结果的包络谱,得到振动信号的特征信息。研究结果表明:与经验模式分解和单纯包络谱分析方法相比,采用集成固有时间尺度分解和谱峭度的包络方法(EITD-SK)能更好地提取滚动轴承故障特征信息,实现轴承故障的准确检测,结果与实际相符。

基于核密度估计的MAPSK调制信号识别

针对多进制幅相键控(MAPSK)调制信号中核密度估计的误差大,识别效率相对较低等问题,提出了一种基于核密度估计的MAPSK调制识别算法。分析对比主要模块调制码率恢复、基于核密度估计的幅度特征提取和基于K-L散度的分类识别器等算法。在调制模式QPSK、16-APSK、32-APSK和64-APSK条件下进行仿真,实验表明:调制阶数越高其识别效率越高,反之QPSK的识别效率最低。与其他算法相比,本算法计算复杂度低;定时误差不敏感,算法鲁棒性好。

基于VMD-KLD的桥梁挠度监测数据温度效应分离方法

传统经验模态分解(empirical mode decomposition, EMD)方法在处理桥梁挠度信号时存在模态混叠、分解误差累积等问题,致使分解结果尚不理想。为此,提出了一种结合变分模态分解(variational mode decomposition, VMD)和K-L散度(Kullback-Leibler divergence, KLD)的桥梁挠度监测数据温度效应分离方法。利用VMD分解桥梁挠度信号,获得若干个本征模态函数(intrinsic mode function, IMF);借助核密度估计求得各IMF分量的概率密度函数分布,进而得到各分量KLD值,剔除虚假IMF分量,选定最佳分量;运用Pearson相关系数对最佳分量进行效果评价;通过数值仿真算例与实桥监测数据,验证了该方法的有效性。结果表明:该方法融合了VMD自适应、抗噪能力强和KLD快速选取最优信号的优势,克服了传统EMD模态混叠等缺陷,减少了虚假分量的干扰,将两者结合使得分解及筛选特征信号分量高效可靠,温度效应分离效果良好;仿真信号经VMD-KLD分析得到日、年温差效应及长期挠度相关系数分别为0.994 6、0.983 7和0.970 4,实测信号得到的日、年温差效应相关系数分别为0.908 1、0.936 4;同EMD-KLD相比,VMD-KLD分离出的各挠度成分相关系数更接近于1,仿真信号分析中日、年温差效应及长期挠度分别提升了4.43%、10.84%和8.81%,实测信号分析中日、年温差效应分别提升了12.35%、5.57%。该方法可为桥梁挠度监测数据温度效应在线分离提供一种新的思路。

基于最大信息量的高光谱遥感图像无监督波段选择方法

提出一种基于最大信息量的高光谱遥感图像无监督波段选择方法.该方法以在所选择的波段中保留原数据中所包含的最大信息量为目标,并采用逐个移除波段的方式来实现.算法使用K-L散度来定量表示信息量的大小,并通过信息量在整个数据集中的分布情况来决定所移除的波段.与传统方法相比,具有物理意义明确、计算过程简单的优点,同时还能够完全自动地完成任务,实现无监督的波段选择.