基于MMI-PCA-KLPP二次降维和模糊树模型的NO_X浓度软测量方法

针对火电厂气体分析仪测量存在滞后和NO_X软测量不准确的问题,提出了一种基于改进互信息-主成分分析-核局部保持投影(MMI-PCA-KLPP)二次降维和模糊树模型(FT)的NO_X浓度软测量方法。首先对样本进行剔除离群点等预处理,再通过查阅文献大体确定模型的输入变量,并采用MMI方法对输入变量进行降维处理;针对MMI降维后依然有较多输入变量的问题,综合考虑了样本全局结构特性和局部结构特性,用PCA-KLPP方法对MMI降维后的变量二次降维;最后针对二次降维后的数据,基于模糊树算法建立了NO_X软测量模型。实验结果表明,模糊树模型精度高且泛化能力强,结合MMI-PCA-KLPP二次降维处理后,大大缩短了模型的训练时间且精度未出现较大程度的降低。

非线性盲源分离的原理及算法综述

本文主要阐述了非线性盲源分离(BSS)/独立成分分析(ICA)模型的基本数学原理、分离算法、算法性能及其应用。首先对线性和非线性BSS/ICA的数学模型作了介绍,重点介绍了非线性BSS/ICA解的不确定性,然后在此基础上对近十年来出现的各种非线性BSS/ICA算法进行简单综述,着重分析了一类可解且应用比较广泛的非线性BSS/ICA模型-后非线性BSS/ICA模型及其分离算法。最后对非线性BSS/ICA存在的问题和发展趋势进行了总结。

基于云模型、图论和互信息的遥感影像分割方法

针对传统的基于局部信息搜索的分割方法很少考虑图像的全局信息,而且容易忽略影像分割中的随机性和不确定性,本文提出了一种基于云模型、图论和互信息的影像分割方法.使用云模型来反映像素聚类成区域时的不确定性和随机性,将图论方法引入基于互信息的最优割集的生成从而得到全局最优分割,利用云模型区域概念所呈现出的多维特征,通过云综合异质性度量来改进边界权重的计算,从而实现对区域相异性的区分能力.从实验结果来看,本文提出的方法,能产生有意义的、完整的、内部同质的分割区域,在分割精度上基本能满足人眼的视觉要求.

基于旋转变换的最小互信息量盲分离算法

一种新的实时线性混叠信号盲分离算法在本文提出 .该算法先采取白化混叠信号将混叠矩阵转换为正交矩阵 ,然后基于QR分解理论 ,将混叠信号进行一系列初等旋转变换 ,并结合源信号相互独立时互信息量最小的特点 ,导出了一种新的自适应盲分离算法 .该方法回避了目前基于信息理论方法中 (如Torkkola 1996 ;Pham 1999;Lee 2 0 0 0以及谭 2 0 0 0等 )对“ln|detw|”的复杂计算 .我们不仅给出了详细的理论证明 ,而且也进行了仿真试验 ,理论分析与仿真结果表明该算法减少了分离时间 ,并具有很好的分离效果 .

鉴别性最大后验概率声学模型自适应

为了更加准确地估计最小音素错误最大后验概率(MPE-MAP)自适应算法中的先验分布中心,使自适应后的声学模型参数更为准确,从而提高系统的识别性能,分别采用最大互信息最大后验概率(MMI-MAP)自适应和基于最大互信息准则与最大似然准则相结合的H-criterion最大后验概率(H-MAP)自适应估计先验分布中心,提出了基于最大互信息最大后验概率先验的最小音素错误最大后验概率(MPE-MMI-MAP)和基于H-criterion最大后验概率先验的最小音素错误最大后验概率(MPE-H-MAP)算法。任务自适应实验结果表明,MPE-MMI-MAP和MPE-H-MAP算法的自适应性能均优于MPE-MAP、MMI-MAP和最大后验概率(MAP)自适应方法,分别比MPE-MAP相对提高3.4%和2.7%。

一种基于文本互信息的金融复杂网络模型

复杂网络能够解决许多金融问题,能够发现金融市场的拓扑结构特征,反映不同金融主体之间的相互依赖关系.相关性度量在金融复杂网络构建中至关重要.通过将多元金融时间序列符号化,借鉴文本特征提取以及信息论的方法,定义了一种基于文本互信息的相关系数.为检验方法的有效性,分别构建了基于不同相关系数(Pearson和文本互信息)和不同网络缩减方法(阈值和最小生成树)的4个金融复杂网络模型.在阈值网络中提出了使用分位数来确定阈值的方法,将相关系数6等分,取第4部分的中点作为阈值,此时基于Pearson和文本互信息的阈值模型将会有相近的边数,有利于这两种模型的对比.数据使用了沪深两地证券市场地区指数收盘价,时间从2006年1月4日至2016年12月30日,共计2673个交易日.从网络节点相关性看,基于文本互信息的方法能够体现出大约20%的非线性相关关系;在网络整体拓扑指标上,本文计算了4种指标,结果显示能够使所保留的节点联系更为紧密,有效提高保留节点的重要性以及挖掘出更好的社区结构;最后,计算了阈值网络的动态指标,将数据按年分别构建网络,缩减方法只用了阈值方法,结果显示本文提出的方法在小世界动态和网络度中心性等指标上能够成功捕捉到样本区间内存在的两次异常波动.此外,本文构建的地区金融网络具有服从幂律分布、动态稳定性、一些经济欠发达地区在金融地区网络中占据重要地位等特性.

一种改进的最大熵方法在船舶辐射噪声盲分离中的应用

对于船舶辐射噪声信号的盲信号分离(BSS)问题,由于常用的最小互信息(MMI)方法需要估计输出信号的高阶累积量,这对于非高斯、非平稳的船舶辐射噪声来说信号估计的精度将会降低.为此,本文验证了最大熵(ME)方法在处理此类复杂信号时能作为最佳对比函数的条件,并在此基础上用高斯混合模型来估计信号的概率分布,提高了信号概率密度估计的精度;同时在算法的迭代过程中使用自然梯度下降法代替随机梯度下降法,提高了算法的收敛速度.通过对船舶辐射噪声信号的盲分离实验,证明了此分离算法是有效的.

基于MRMR的光伏出力匹配方法研究及预测应用

针对光伏出力匹配系统存在的气象因子选取不合理、有效信息提取不够精细化等问题,文章提出一种基于MRMR的光伏出力匹配方法。该方法采用皮尔逊相关系数对数据库进行缩减,减少冗余数据空间;然后,通过互信息理论剔除耦合气象因素,挖掘待匹配日气象因素与短波辐射之间的联系,进一步提高光伏出力匹配标准;最后,将提取出的待匹配日特征通过马氏距离进行光伏出力匹配。文章利用基于MRMR的光伏出力匹配方法,在4种天气类型条件下,对新疆某光伏发电站的光伏出力进行匹配。分析结果表明了该匹配方法的正确性和有效性。

基于MISEP算法的瞬时混合模型非线性电路的信噪盲分离

针对非线性电路信噪分离问题,提出基于互信息的信噪盲分离算法,用以对非线性电路的测量信号进行补偿.首先面向瞬时混合模型下的非线性电路,将用于计算分离信号的模块与用于调整参数的模块进行反馈级联,构造多层感知机网络;然后采用含随机噪声的电路测量数据,以最小互信息为目标对该网络进行训练,直至代价函数值收敛于预设的误差范围;最后利用训练好的网络进行非线性电路盲源分离问题的解算.对前非线性电路、后非线性电路和单级放大器的实验结果表明,该算法分离出的信号和噪声在时域波形和功率谱特征方面均与输入相符.

一种基于最大互信息/进化计算混合结构的语音识别方法

传统的最大互信息训练中一般采用梯度方法 ,这就使得所得模型往往只是一个局部最优模型 .文中将最大互信息 (MMI)和演化计算 (EC)相结合 ,引入到隐马尔柯夫模型 (HMM)的训练中去 .各模型集用个体表示 ,个体的适应值采用模型的最大互信息 .这样借助于进化计算的全局搜索及种群的特点 ,得到了基于最大互信息估计的 HMM模型的更优解 .实验结果表明 。

一种基于混合优化算法的医学图像配准方法

为了实现脑部多模医学图像配准,提出了一种基于混合优化算法的配准方法。该算法采用遗传算法中的杂交思想改进了混沌粒子群算法,并用最大互信息测度对脑部MRI及CT图像进行配准。该改进算法可有效地避免优化算子陷入局部极值,而且算法收敛快。实验结果证明了提出的基于遗传思想的改进混沌粒子群优化算法对多模医学图像配准具有有效性。

归一化互信息与多分辨率融合的2D-3D配准方法

针对微创脊柱手术配准环节中存在的配准精度和效率低的问题,本文提出了一种2D-3D配准方法。采用基于区域贡献的归一化互信息与多分辨率策略相结合的方法,并通过改变配准步长,研究配准精度和时间。整体配准精度提高了40%,配准时间缩短了53%,当配准步长由0.1降到0.05时,其配准精度提高了8%,配准时间增加了12%。由此可知,配准步长变小时,配准精度相对提高,但配准时间增加。此算法可以实现三维与二维图像的配准,且可以有效提高配准精度和配准效率,基本符合医生手术过程图像配准3 mm以内的需要。

基于多分辨率GMI Demons算法的^(18)F-FDG PET-CT图像配准在食道癌病例中的应用

18F-FDG PET和CT图像的精确配准在肿瘤的放射治疗中具有重要的临床研究意义,本研究采用全局刚性粗配准对食道癌病例中的PET和CT图像进行预处理,尽可能地减小摆位误差,然后使用基于互信息梯度的Demons算法(GMI Demons)进行局部形变配准,有效弥补内部器官误差,另外为了加快配准过程,保持图像的鲁棒性的同时避免局部极值,在形变配准前使用多分辨率图像金字塔结构。通过对10例食道癌病例的定量分析,最大互信息值结果说明经GMI Demons算法配准之后的图像精度比基于MI算法要提高8.046%±0.041%,配准前后临床上肿瘤靶区(GTV)大小的变化,说明经GMI Demons算法配准之后的GTV大小比基于MI算法配准之后的精度提高8.022%±0.044%。两种定量结果的一致性和通过对图像的定性分析,说明该配准策略可以快速地精确肿瘤靶区位置,在制定精确的放疗计划和实际的临床应用中具有研究意义。

基于最小概率距离和改进PV插值的图像配准

提出一种基于最小概率距离和改进部分体积(PV)插值的图像配准方法。采用Powell优化算法迭代搜索对称KL距离的最小值,获取最小概率距离,将其作为配准测度,并利用改进的PV插值算法提高图像配准的鲁棒性。实验结果表明,与基于互信息的图像配准方法相比,该方法能有效地减少耗费时间,提高配准精度。

语音检索中子词单元的构建算法

针对语音关键词检索中的集外词问题,提出基于最大互信息-最小描述长度(MMI-MDL)的子词集构建算法。根据子词对的互信息挑选聚合对,通过MDL准则判断是否聚合成新的子词。使用该子词集把单词映射成子词的组合用于检索。实验结果表明,与已有的MDL子词集构建算法相比,由MMI-MDL方法得到的子词集对检索性能有较大提高,在相同精确率指标下,集外词的召回率相对MDL算法提高12.1%。

宁波地区基于统计升尺度的新能源区域功率预测算法

为实现电网调度对大规模风电场和光伏站的监控和调度,需要进行新能源区域功率预测。提出了一种基于子区域划分和统计升尺度的区域功率预测算法,通过浙江区域9个风电场和16个光伏站2016年4-9月的历史数据,对比了6种不同的组合方案,发现利用互信息理论,基于最大相关–最小冗余原则累加选取4个代表站点或者直接选取9个代表站点,采用布谷鸟搜索算法训练得到各个代表站点的权重,升尺度得到区域功率预测误差较低,月均方根误差(RMSE)分别为8.51%和7.64%。说明在夏季风盛行时,在浙江区域采用互信息为指标,基于最大相关–最小冗余的原则选取代表站点后,再采用布谷鸟搜索算法得到子区域功率预测值,累加各子区域功率预测结果为最终的区域功率预测结果最优。

基于品质函数估计的非线性盲源分离算法

研究非线性盲源信号分离优化问题。由于混合信号同时包含超高斯和亚高斯信号且混合信号具有很强的非线性时,传统的非线性盲源分离算法中对于品质函数的选取一般都是通过经验,现有算法难以取得理想的分离效果。在Pearson模型的基础上提出了一种新的估计品质函数的方法,算法能够成功地估计出次高斯(sub-Gaussian)和超高斯(super-Gaussi-an)混合信号的品质函数,同时克服了Pearson模型对同类信号只能估计得到相同的品质函数的缺陷,提高了算法的估计精度。通过在MATLAB仿真验证了算法的可行性和有效性,成功估计出源信号的品质函数且实现了非线性盲源分离。

基于图嵌入和最大互信息组合的降维

在特征降维方面,图嵌入框架统一了PCA,LDA等一系列特征降维算法,方便求解,但相似度矩阵计算有赖于人为假设。而最大互信息(MMI)从信息论的角度得到有效的特征降维变换,但是求解复杂。针对这种情况,本文指出了图嵌入和最大互信息的联系,给出了基于两者组合的新算法GE-MMI。该算法继承了两者的优点,是一种有效的特征降维方法。

基于交互信息的连续值属性决策树学习算法

Fayyad连续值属性决策树学习算法使用信息熵的下降速度作为选取扩展属性标准的启发式,本文针对其易选取重复的条件属性等不足之处,引入属性间的交互信息,提出了一种改进算法——基于交互信息的连续值属性决策树学习算法,它的核心是使用信息熵和交互信息的下降速度作为选取扩展属性标准的启发式.实验结果表明,与Fayyad决策树学习算法相比,该算法降低了决策树中同一扩展属性的重复选取率,实现了信息熵的真正减少,提高了训练精度和测试精度,能构造出更优的决策树.

基于特征选择的CP-nets结构学习

作为描述多属性之间定性条件偏好的一种图模型,条件偏好网(Conditional Preference networks,CP-nets)的结构学习问题在CP-nets的研究中起着重要的作用.不同于传统的CP-nets学习方法,提出基于信息论和特征选择的方法来研究偏好数据库上的CP-nets的结构学习问题.首先建立了偏好数据库上的互信息和条件互信息的求解方法,并将互信息看作一个属性和它的可行父亲之间的相关性,条件互信息看作可行父亲集中属性之间的冗余性,从而构造出极大相关极小冗余(Maximal Relevance Minimal Redundancy,mRMR)的目标函数,同时指出,一个属性的父亲集是由属性之间冗余度小,但对孩子属性的偏好却影响极大的属性子集组成的.随后基于特征选择中的mRMR方法来实现CP-nets的结构学习,并设计相应的算法来完成从偏好数据中学习CP-nets的结构.最后在电影推荐数据集上验证了算法的有效性.研究结果表明,基于mRMR的特征选择方法可有效获取变量之间的因果关系,从而求取出每个属性的父亲集合,进而获得CP-nets的结构.