基于改进MMI的HMM训练算法及其在面部表情识别中的应用

提出一种改进的最大互信息(MMI)准则函数并把它应用于隐马尔可夫模型(HMM)的参数估计,重新推导了HMM的迭代公式.该准则函数相对于原来准则函数定义更为合理,能有效利用训练样本集中的鉴别信息,使得训练数据得到充分利用,提高了HMM的性能.把这种改进的HMM算法应用于面部表情识别,利用改进的光流算法提取面部表情特征向量序列,并利用改进HMM算法和BP神经网络构建了面部表情混合分类器.实验结果表明了该方法能有效提高面部表情识别率,有效解决HMM参数估计问题.

基于mRMR-SOM的异步电机轴承故障诊断研究

针对异步电机轴承故障诊断问题,提出了一种融合最大相关最小冗余特征选择算法(mRMR)和自组织映射神经网络(SOM)的故障诊断方法,并将其应用于轴承故障诊断的不同阶段。首先,在实验室环境下搭建了异步电机故障诊断试验平台,在不同电机状态下分别采集振动、电流和电压信号,利用统计学方法获取了高维混合特征集;然后,以互信息为背景,利用mRMR根据特征与状态标签间的相关性和特征间的冗余性,筛选了具备强区分能力的特征,以避免计算冗余和后验诊断性能下降;最后,采用SOM对异步电机健康和轴承故障状态进行了分类识别,验证了SOM对异步电机轴承故障诊断的有效性,以及mRMR对故障诊断结果的影响。研究结果表明:基于mRMR-SOM的异步电机轴承故障诊断方法能够准确地区分健康和故障状态,测试集分类准确率达到89%;使用mRMR特征筛选能够将154维特征降低至17维,缩短23.5%的网络收敛时间,并将分类准确率由89%提升至98%;试验结果验证了基于mRMR-SOM的异步电机轴承故障诊断方法对于异步电机轴承故障诊断问题的有效性,且证实其具备良好的诊断效果。

一种基于互信息最大化的模型无关基因选择方法

针对大规模基因芯片高维度的基因表达数据存在大量无关和冗余特征可能降低分类器性能的问题,提出了一种基于互信息最大化方法(MMI)和与遗传算法的模型无关的基因选择方法来将特征选择转化为全局优化问题,其中的适应度函数定义为类间距离与类内距离之比,适应程度高。为了评价算法的性能,采用3个数据集进行了实验,结果表明MMIGA-Selection取得了较好的效果,在每个数据集上获得了较高的5折交叉验证正确率。MMIGA-Selection主要有两个优点:一是可以有效减少冗余基因;二是模型无关性,选择得出的特征子集可直接用于其他类型的分类器,分类精度较高。

鉴别性最大后验概率声学模型自适应

为了更加准确地估计最小音素错误最大后验概率(MPE-MAP)自适应算法中的先验分布中心,使自适应后的声学模型参数更为准确,从而提高系统的识别性能,分别采用最大互信息最大后验概率(MMI-MAP)自适应和基于最大互信息准则与最大似然准则相结合的H-criterion最大后验概率(H-MAP)自适应估计先验分布中心,提出了基于最大互信息最大后验概率先验的最小音素错误最大后验概率(MPE-MMI-MAP)和基于H-criterion最大后验概率先验的最小音素错误最大后验概率(MPE-H-MAP)算法。任务自适应实验结果表明,MPE-MMI-MAP和MPE-H-MAP算法的自适应性能均优于MPE-MAP、MMI-MAP和最大后验概率(MAP)自适应方法,分别比MPE-MAP相对提高3.4%和2.7%。

改进进化算法的贝叶斯网络结构学习及其应用

针对现有的基于进化算法(EA)的贝叶斯网络结构学习算法存在收敛速度慢、局部搜索能力差以及种群数目难以确定的问题,提出了一种基于改进EA的贝叶斯网络结构学习算法。借助最大支撑树(MWST)得到种群中节点的父节点数目上限,设计了计算函数来估计参与进化的种群数目。为了提高算法的局部搜索能力,设计了个体变异函数来增加种群多样性。利用条件独立性获得初始结构来进一步限制模型搜索空间,提高算法的运行效率。实验结果表明:与经典的EA和最大最小爬山(MMHC)算法对比,本文提出的MWST-EA提高了贝叶斯网络(BN)模型的学习效率,并且能够得到较高的准确率。将MWST-EA用于UCI数据库中糖尿病数据集上,与支持向量机(SVM)、MMHC方法相比,识别率分别提高了1.54%和11.15%,具有良好的应用价值。

一种改进的最大熵方法在船舶辐射噪声盲分离中的应用

对于船舶辐射噪声信号的盲信号分离(BSS)问题,由于常用的最小互信息(MMI)方法需要估计输出信号的高阶累积量,这对于非高斯、非平稳的船舶辐射噪声来说信号估计的精度将会降低.为此,本文验证了最大熵(ME)方法在处理此类复杂信号时能作为最佳对比函数的条件,并在此基础上用高斯混合模型来估计信号的概率分布,提高了信号概率密度估计的精度;同时在算法的迭代过程中使用自然梯度下降法代替随机梯度下降法,提高了算法的收敛速度.通过对船舶辐射噪声信号的盲分离实验,证明了此分离算法是有效的.

基于改进的互信息结合边缘互方差的医学图像配准方法研究

研究了灰度多模医学图像配准中广泛使用的最大互信息方法,在此基础上,又研究了边缘图像的互方差配准原理,并将其引入到原始图像的互信息中,综合互信息和边缘互方差对图像配准的目标函数作了改进,定义了一个新的测度函数.通过使用Powell算法和模拟退火混合优化算法对目标函数进行寻优,得到了配准变换参数,最终对图像实现了配准.这种方法既利用了原始图像的灰度互信息,又利用了边缘图像在二维水平面上像素间的关系,起到了补偿互信息缺陷的作用,提高了配准的精度.通过Matlab仿真实验证明这是一种有效的医学图像配准方法.

QPSK调制下最大平均互信息量化在LDPC译码中的应用

对低密度奇偶校验(low-density parity-check,LDPC)码在四进制相移键控(quaternary phase shift keying,QPSK)调制下的译码算法进行了深入研究,分析和推导了最大平均互信息量化的具体方法。在QPSK调制下,通过此方法量化初始消息,最终使每次迭代的变量消息和校验消息都是整数,实现了基于整数运算的最小和译码算法。仿真结果表明,其性能与基于高精度浮点数的和积译码算法大约相差0.39dB,同时该算法中所有变量都用固定长度的整数表示,便于硬件实现,在其译码性能比和积译码性能下降不大的情况下,大大缩短了译码时间。

肿瘤特征基因选择的互信息最值过滤原则与粒子群优化算法

基因数据小样本、高维数、高冗余的特点常导致特征基因选择出现"维数灾难"和"过拟合",针对这一问题,提出一种特征基因提取算法——互信息最值过滤原则-惯性权重粒子群优化(MIMVFC-IWPSO)算法。首先,借鉴过滤法的思路,通过计算互信息指标,依据互信息最值过滤原则(MIMVFC)获得特征基因候选子集(FGCS),缩小分类操作的范围,提高特征基因被覆盖的概率;接着,对粒子群优化(PSO)算法进行改进,引入惯性权重实现自调节可变惯性权重粒子群优化(IWPSO)算法,使得在算法迭代初期有着快速的全局优化能力,而在算法后期具有较强的局部搜索能力;最后,运用IWPSO从FGCS中提取核心信息基因子集(CFGS),并基于CFGS对样本进行肿瘤与正常组织的分类。采用3个公开的肿瘤基因表达谱数据进行实验,MIMVFC正确分类率优于信噪比(SNR)、t-检验和信息增益(IG)方法,与卡方统计值(Chi-Square)方法接近,而MIMVFC还能利用IWPSO进一步优化结果。基于相同的FGCS,与目前效果较好的二进制粒子群优化与防治基因算法(BPSO-CGA)相比,IWPSO的运算耗时有所增加,但所获得的CFGS规模减小,准确率提高;而与经典PSO相比,所获得的CFGS规模减小、运算耗时减少、准确率提高。实验结果表明MIMVFC-IWPSO具有较好的综合分类性能,能有效提高准确率和效率,可用于多种肿瘤的特征基因选择,辅助指导分子生物学实验设计和验证。

一种基于最大互信息/进化计算混合结构的语音识别方法

传统的最大互信息训练中一般采用梯度方法 ,这就使得所得模型往往只是一个局部最优模型 .文中将最大互信息 (MMI)和演化计算 (EC)相结合 ,引入到隐马尔柯夫模型 (HMM)的训练中去 .各模型集用个体表示 ,个体的适应值采用模型的最大互信息 .这样借助于进化计算的全局搜索及种群的特点 ,得到了基于最大互信息估计的 HMM模型的更优解 .实验结果表明 。

基于仿射投影--独立分量分析的盲源分离

仿射投影算法(APA)重复利用数据,可提高算法的收敛速度。针对现有盲源分离(BSS)收敛慢问题,以BSS的独立分量分析(ICA)为基础,结合APA思想,设计出BSS的APA-ME、APA-MMI、APA-EASI新算法。在这些新算法中,输出向量数据被重复利用,向量式数据转变成矩阵式数据,从而加快了BSS的收敛速度。仿真结果表明,APA-ICA类的BSS算法是有效的。

二阶HMM的参数估计算法

在经典隐马氏模型中,假设状态转移概率只和当前状态的临近状态有关,而和以前的状态无关;在t时刻输出观测值的概率只和当前状态有关,而和以前的状态无关.这样的假设不是很合理,因为任一时刻的观测值不仅和当前状态有关,还和以前的状态有关.由此提出了二阶隐马氏模型的基于最大互信息的参数估计算法.

基于多分辨率GMI Demons算法的^(18)F-FDG PET-CT图像配准在食道癌病例中的应用

18F-FDG PET和CT图像的精确配准在肿瘤的放射治疗中具有重要的临床研究意义,本研究采用全局刚性粗配准对食道癌病例中的PET和CT图像进行预处理,尽可能地减小摆位误差,然后使用基于互信息梯度的Demons算法(GMI Demons)进行局部形变配准,有效弥补内部器官误差,另外为了加快配准过程,保持图像的鲁棒性的同时避免局部极值,在形变配准前使用多分辨率图像金字塔结构。通过对10例食道癌病例的定量分析,最大互信息值结果说明经GMI Demons算法配准之后的图像精度比基于MI算法要提高8.046%±0.041%,配准前后临床上肿瘤靶区(GTV)大小的变化,说明经GMI Demons算法配准之后的GTV大小比基于MI算法配准之后的精度提高8.022%±0.044%。两种定量结果的一致性和通过对图像的定性分析,说明该配准策略可以快速地精确肿瘤靶区位置,在制定精确的放疗计划和实际的临床应用中具有研究意义。

基于双互信息准则的雷达自适应波形设计方法

自适应波形优化技术是认知雷达的关键技术之一,通过优化发射波形能够提高雷达系统性能.针对目标检测问题,在杂波环境下,提出一种基于双互信息优化准则的自适应波形优化方法.该方法同时以接收信号与目标冲激响应之间的互信息最大和接收信号与杂波冲激响应之间的互信息最小为优化准则,在发射信号能量有限的约束条件下,建立优化模型,通过最大边缘分配算法求解最优波形.仿真结果表明,相对于固定波形,所提方法优化发射波形能够提高目标检测性能.

基于MIC-VMD-GWO-LSTM的短期风电功率预测

准确的风电功率预测可以合理安排风电场的发电计划和提高电网稳定性。针对单一预测模型预测精度低的问题,提出一种基于MIC-VMD-GWO-LSTM的短期风电功率预测模型。首先使用最大互信息系数法(MIC)对高维特征的风电数据集进行特征提取,以降低数据复杂度;然后采用变分模态分解(VMD)技术将风电功率序列分解为不同频率的模态,以减少功率数据的波动性;接着对每个模态建立GWO-LSTM预测模型,并利用灰狼优化(GWO)算法LSTM模型的相关参数进行优化;最后将每个模态的预测结果求和重构,得到最终的预测结果。仿真结果表明,相对于单一的BP和LSTM预测模型,基于MIC-VMD-GWO-LSTM的组合预测模型的MAPE分别降低了43.16%和31.14%,可有效提高预测精度,证明了该方法在风电功率预测运用中的有效性和可行性。

基于重要特征分析的水电站运营成本回归

近年来,我国能源发展环境发生重要变化。在能源转型的大背景下,水电发展重心也需从开发新水电转为对已建水电站的精细化运营管理。为此,以某地区65座水电站运营成本为研究对象,定义了水电站标准支出成本概念,利用皮尔逊相关系数、互信息等方法进行重要特征识别,在此基础上利用列文伯格-马夸尔特方法对成本进行回归。结果表明,上述方法对水电站成本具有较好的拟合效果,为水电站运营效率对标评价、水电企业寻优补差工作提供了新思路。

基于mRMR-BP算法的辛烷值损失预测模型研究

化工过程建模一般通过数据关联或机理建模的方法来实现,但由于炼油工艺过程的复杂性以及设备的多样性,其操作变量之间具有高度非线性和相互强耦联的关系。在传统的数据关联模型中,变量相对较少、机理建模对原料的分析要求较高,对过程优化的响应不及时,效果并不理想。本文为了降低模型求解的复杂性,使用互信息法和mRMR算法,对367个变量进行降维处理,筛选出同时满足与辛烷值之间具有最大相关性,彼此之间又有最小的冗余性的主要变量。引入BP神经网络模型对辛烷值损失建立预测模型,经过数据训练与学习,产生辛烷值损失的预测结果,并分析主要操作变量对辛烷值损失的影响。

基于深度置信网络的风功率预测模型

准确的风功率预测可以缓解风电并网对电力系统的负面影响.本文提出一种新的组合模型来提高风电功率预测精度.首先,对特征变量进行时间延迟实现数据重构,利用完全集成经验模态分解(CEEMDAN)将重构后的数据分解为趋势分量和波动分量.其次,利用最大互信息(MIC)选出低维敏感的变量.最后,低维变量输入置信神经网络(DBN)中进行风电功率预测.基于风机实际运行数据的实验结果表明,所建立模型预测结果的MAPE为3.41%,相比于对比模型取得了更高的预测性能.

区分性模型在英语自动发音评测中的应用

为了改善英语自动发音评测中所使用的声学模型,提高评测的准确性,分别采用区分性训练中的最大互信息(MMI)和最小音素错误(MPE)算法训练出隐含Markov声学模型,并采用最大似然线性回归(MLLR)对模型进行非母语说话人的口音自适应,最后应用到英语自动发音评测系统中。实验结果表明:分别对MMI和MPE方法训练所得模型作自适应后的机器总分与人工评分之间的相关度在说话人层次上分别提高了3.3%和5.2%,证明了在英语发音评价中区分性模型的实用性和有效性。

一种结合均值和互信息的线上AP选取新算法

探讨了基于RSS（received signal strength）的WiFi室内定位技术的AP（access points）选取算法,并分析了两种现有AP选取算法对WiFi室内定位性能的影响。基于均值最大的AP选取算法存在无法顾及AP相互干扰的局限,而基于线上互信息最小的AP选取算法计算过程复杂,当AP个数较多时,其时耗较大,同时难以完全摒弃观测质量过差的AP。考虑到上述两种方法的局限,提出了一种线上AP选取新算法,首先利用均值最大选取算法对AP进行预处理,从而加快AP选取的速度,并剔除部分观测质量较差的AP,然后利用互信息进行AP的精确选取。实验分析表明,新算法能够有效地提高位置估计的速度,并且改进了位置估计精度。