基于互信息与萤火虫算法的网络入侵特征选择

为减少网络入侵检测数据中的冗余特征,提出一种结合互信息和萤火虫算法的特征选择方法。针对互信息不能精确计算特征间冗余度,提出类内特征冗余互信息特征选择方法。针对萤火虫算法步长因子固定易使算法陷入局部最优等问题,提出自适应步长萤火虫算法特征选择。以上方法分别选取特征子集后利用投票策略选取最优子集,对该子集基于C4.5和贝叶斯网络分类器分类。实验结果表明,使用10个特征检测能有效提高入侵检测率、误报率和F-measure,同时还缩短训练和检测时间。此外,与现有的几种方法相比,该方法在准确率、检测率和F-measure都获得不错效果。

基于邻域互信息的组合预测最优子集选择算法

为在候选模型集中高效地选择时间序列组合预测的最优子集,提出一种CSPSO-NMI-MRMR最优子集选择算法。利用邻域互信息(neighborhood mutual information, NMI)度量相关性和冗余度,避免数值型数据的离散化,按最大相关最小冗余原则(minimal redundancy and maximal relevance, MRMR)筛选最优子集;邻域互信息中的邻域参数与子集选择效果密切相关,采用CSPSO算法寻找最优邻域参数,充分利用布谷鸟算法(cuckoo search, CS)和粒子群优化算法(particle swarm optimization, PSO)的优势,兼顾搜索效率和全局搜索能力;在寻参过程中设计一种淘汰策略,优化邻域参数的寻优区间并淘汰部分单模型,减少计算量。仿真结果表明,所提方法在预测精度、运行时间和稳健性上效果更优。

一种基于互信息加权的K近邻填补算法(MIW-KNN)——心力衰竭合并艰难梭菌感染的死亡率预测应用

在医疗领域,普遍存在的数据缺失现象会加剧构建临床预测模型的难度.针对某些具有重要医学价值的特征因数据缺失率较高而被丢弃的问题,提出基于互信息加权的K近邻填补算法(Weighted KNN Imputation Algorithm Based on Mutual Information,MIW-KNN).首先,在心力衰竭合并艰难梭菌感染患者的数据集上,与多重插补法、K近邻(K-nearest neighbor,KNN)填补法、均值法等方法进行对比验证所提出方法的有效性.其次,对比不同模型的死亡风险预测效果以验证所提出方法的性能优势.通过单变量分析法所筛选的20个特征,根据9种机器学习算法分别构建预测模型.采用AUC(Area Under the Receiver Operating Characteristic Curve)与准确率作为主要指标以评估模型的性能,通过SHAP(Shapley Additive Explanations)解释分析不同临床特征对模型的影响.最终表明,MIW-KNN算法具有最高的填补精度,基于该方法填补的数据集所构建的随机森林模型实现了最佳的预测性能.AUC为0.841,准确率为0.821.SHAP显示红细胞宽度、晶体输注、白细胞计数是最具影响力的前三个特征.

基于邻域容差互信息和鲸鱼优化算法的非平衡数据特征选择

针对大多数特征选择算法未充分考虑数据的类不均匀分布、特征之间的相关性和不同参数对特征选择结果的影响等问题,提出一种基于邻域容差互信息和鲸鱼优化算法(WOA)的非平衡数据特征选择方法。首先,在不完备邻域决策系统中,针对二分类数据集和多分类数据集,基于上、下边界域定义两种非平衡数据的特征重要度;然后,为充分反映特征的决策能力和特征之间的相关性,构建邻域容差互信息;最后,通过将非平衡数据特征重要度和邻域容差互信息相结合,提出基于邻域容差互信息的非平衡数据特征选择(FSIDN)算法,该算法采用WOA获取特征选择算法中的最优参数,并引入非线性收敛因子和自适应惯性权重来改进WOA,以解决WOA易陷入局部最优的问题。在8个基准函数上进行实验,结果表明改进的WOA具有较好的优化性能;在13个二分类和4个多分类的非平衡数据集上进行特征选择实验,实验结果表明,与其他相关算法相比,所提算法能够有效地选择出具有良好分类性能的特征子集。

基于SPICE模型与互信息的光伏电池最大功率点定位算法

保证光伏电池始终输出最大功率的前提是准确定位光伏电池最大功率点,为此研究基于仿真电路模拟器(simulation program with integrated circuit emphasis,SPICE)模型与互信息的光伏电池最大功率点定位算法。通过基于SPICE模型的光伏电池建模方法,将光伏电池电路网表、最大功率点电压、最大功率点电流、开路电压、短路电流数据输入SPICE模型,构建光伏电池模型,仿真拟合光伏电池运行状态;由基于最大互信息的最大功率点定位算法,将最大互信息值设成最大功率点定位的测度指标,使用改进新型狮群算法,检索光伏电池模型电路中满足最大互信息值约束条件的最大功率点。研究表明,此算法可利用SPICE模型准确仿真分析电池运行状态;最大功率点定位时,定位偏差最大值仅有0.1 W;在光伏电池功率调控任务中,此算法辅助定位后,光伏电池功率调控振荡较小,说明定位精度可满足使用需求。

基于互信息和贝叶斯算法的天然气合成润滑油鉴别技术

目的为完善润滑油的关税鉴定,提出了一种基于互信息和贝叶斯算法的天然气合成润滑油鉴别技术。方法首先,提取了天然气合成润滑油和常规矿物油基润滑油的特征参数,并运用互信息方法对其进行特征指标选择,筛选出具有鉴别能力的特征指标。然后,对所选特征指标采用贝叶斯算法进行建模,最终实现了天然气合成润滑油和常规矿物润滑油的分类鉴别。结果实验结果表明,该方法所建立的模型能够有效鉴别天然气合成润滑油和常规矿物润滑油。结论该方法所建立的模型具有良好的稳定性和可靠性,为润滑油行业和关税鉴定提供了一种全面和准确的鉴别工具。

采用改进梯度互信息和粒子群优化算法的红外与可见光图像配准算法

针对传统互信息图像配准容易产生局部极值,以及传统梯度互信息配准方法计算量大等问题,在互信息和梯度方法基础上构建了一种改进的梯度互信息方法,该方法直接统计梯度图像的互信息,有效地将图像梯度信息和灰度信息结合起来,不仅保证了配准精度,而且较传统梯度互信息方法减少了计算量。在参量优化的过程中,针对传统粒子群优化算法易陷入局部极值的缺点,提出了改进的粒子群优化算法,该算法在传统粒子群优化算法基础上引入混沌优化思想和遗传算法中的杂交思想,不仅能够有效抑制局部极值,而且加快了收敛速度。多种红外与可见光图像配准实验结果证明,文中提出的算法能够有效提高配准精度和速度。

基于互信息改进算法的新词发现对中文分词系统改进

提出一种非监督的新词识别方法。该方法利用互信息（PMI）的改进算法——PMIk算法与少量基本规则相结合,从大规模语料中自动识别2~n元网络新词（n为发现的新词最大长度,可以根据需要指定）。基于257MB的百度贴吧语料实验,当PMIk方法的参数为10时,结果精度达到97.39%,比PMI方法提高28.79%,实验结果表明,该新词发现方法能够有效地从大规模网络语料中发现新词。将新词发现结果编纂成用户词典,加载到汉语词法分析系统ICTCLAS中,基于10 KB的百度贴吧语料实验,比加载用户词典前的分词结果准确率、召回率和F值分别提高7.93%,3.73%和5.91%。实验表明,通过进行新词发现能有效改善分词系统对网络文本的处理效果。

基于互信息的遥感图像区域配准并行算法的研究与实现

图像配准是图像融合、变化检测、目标识别等遥感应用中的重要步骤。互信息由于具有无需预处理、自动化程度高以及鲁棒性强等特点,将其作为一种相似性测度进行图像配准成为近几年图像处理领域的研究热点。随着遥感图像数据量的不断加大,传统的单机处理模式已经无法满足一些应用的时效性要求。基于对串行算法计算瓶颈的实验分析,研究并提出了一种基于互信息的遥感图像区域配准并行算法,分别给出了数据划分策略和互信息计算并行处理方案,采用边界冗余划分和二叉树归约方法减少数据通信,并对算法进行了定量的复杂度分析。实验结果表明该算法可扩展性好,通用性强。

基于萤火虫算法的互信息医学图像配准

针对互信息配准方法中目标函数因存在多极值而容易陷入局部最优的问题,提出了一种基于萤火虫算法改进优化策略的互信息医学图像配准算法。该算法使用归一化互信息作为相似性测度,用萤火虫所处位置来表示配准参数,根据每个萤火虫的位置计算互信息函数值并将其作为当前萤火虫的亮度,通过亮度和吸引度的迭代更新来寻找互信息函数取最优解时的最佳配准参数。实验结果表明,该方法克服了互信息函数容易陷入局部最优的问题,有效地提高了配准精度。

基于条件互信息特征选择法和Adaboost算法的电能质量复合扰动分类

为准备识别复杂电能质量扰动类型,提出一种基于条件互信息平均最优化(avg-CMIM)特征选择法与Adaboost动态集成分类器的电能质量复合扰动分类策略。首先基于条件互信息,提出准确衡量特征与扰动类别相关性、特征集内部目标导向冗余性的评价准则,得到不同扰动标签相匹配的最优分类特征集。再利用Adaboost分类器进行动态增强学习,对未知样本进行标签识别,通过组合标签结果确定复合扰动的组成成分,实现电能质量复合扰动的识别。仿真结果表明,在不同程度噪音下,该方法能够高效准确地识别电压暂升、电压暂降、电压短时中断、谐波、脉冲暂态和振荡暂态等单一扰动和其组合成的复合扰动,并通过实测数据验证了方法的正确性和可行性。

基于互信息和遗传算法的两阶段特征选择方法

为了在特征选择过程中得到较优的特征子集,结合标准化互信息和遗传算法提出了一种新的两阶段特征选择方法。该方法首先采用标准化的互信息对特征进行排序,然后用排序在前的特征初始化第二阶段遗传算法的部分种群,使得遗传算法的初始种群中含有较好的搜索起点,从而遗传算法只需较少的进化代数就可搜寻到较优的特征子集。实验显示,所提出的特征选择方法在特征约简和分类等方面具有较好的效果。

相空间重构延迟时间互信息改进算法研究

针对改进互信息算法利于快速可靠获得时间序列相空间重构的延迟时间问题,通过等边缘分布2、4等分Lorenz时间序列构成平面分析Cellucci互信息算法缺陷;用大小顺序值代替原序列数值、判断新序列数值所在等边缘概率区间获得概率分布矩阵、修正概率分布矩阵最末行与列改进Cellucci互信息算法;以改进算法所得最佳延迟时间进行Lorenz时间序列相空间重构并以小数据量法得出其最大Lyapunov指数,对比雅可比矩阵法所得最大Lyapunov指数以确认改进算法的有效性。结果表明,时间序列长度不能整除划分区间数时Cellucci互信息算法会获得错误的最佳延迟时间;所提改进算法能消除Cellucci算法缺陷,且计算速度快于Fraser算法;数据序列长度较大时改进算法结果更稳定;由两种最大Lyapunov指数计算方法所得结果间误差较小,表明改进的互信息算法有效、可靠。

基于互信息的混合蚁群算法及其在旅行商问题上的应用

为了提高蚁群算法的求解性能,从医学图像配准算法的思想出发,提出了一种基于互信息相似度的混合蚁群算法.为了表示最优路径和待配准路径之间的互信息熵,在蚁群算法的概率算子中增加了一个新的相似度影响因子,从而可以增加原算法的全局搜索能力,同时可以加速算法在解空间的搜索速度.将该算法应用在旅行商问题上,根据旅行商问题的特定环境,对混合蚁群算法的算式进行了一定程度的化简,使得算法在解决此类问题时,相应的时间复杂度降低.通过实验与多种传统算法进行对比,结果表明该改进算法在求解性能和跳出局部最小解方面都有一定程度的提高.

基于互信息和模拟退火算法的多模式医学图像配准

目的 实现 CT- MR多模式医学图像配准 .方法 提出了一种基于互信息和模拟退火算法的医学图像配准方法 .对多模式医学图像 ,运用信息论的基本概念“互信息(MI)”作为匹配标准 ,使用改进的模拟退火算法作为优化准则 ,通过求解两幅图像的最大互信息量搜索出最佳匹配参数 ,对待配准图像进行变换 ,从而达到配准的目的 .结果 我们把此方法应用于 CT和 MR图像的三维刚性配准 ,取得了较好的配准效果 .结论 该方法匹配精度和鲁棒性比较高 ,其中模拟退火算法克服了其他搜索算法容易陷入局部极大值的弊病 。

基于互信息的VMD算法在管道泄漏检测中的应用

针对在管道泄漏检测中,泄漏信号和噪声都与管道状态和环境密切相关,且变分模态分解(VMD)方法不能较好地分解高频部分的信号,存在一定的噪声干扰问题,提出了一种基于互信息的VMD自适应噪声消除算法。首先,通过VMD算法将泄漏信号分解成具有不同特征时间尺度的固有模态函数;然后根据互信息准则,通过依次计算相邻分量之间的互信息值来区分高频和低频信号;最后将经过小波去噪后的高频信号和低频信号一起进行信号重构,得到特征增强信号。试验结果表明,对于信号去噪方面,相对于VMD方法,该方法更具有优越性。

基于互信息和混合优化算法的多模医学图像配准

针对互信息函数的多极值问题,提出了一种基于混合优化算法的多模医学图像配准方法.对于多模医学图像,以互信息作为相似性测度,使用混合优化算法搜索出最佳配准变换参数,将待配准图像进行变换,从而达到配准的目的.实验表明,该算法能避免陷入局部最优值,配准结果精度达到亚像素级.

结合DBSCAN聚类与互信息的图像拼接算法

为了更好地实现图像拼接的实时性、提高特征点匹配的效率和图像拼接的准确度,本文提出了一种基于DBSCAN(Density-Based Spatial Clustering of Applications with Noise)与互信息的图像拼接算法.首先,为了图像拼接的实时性,用ORB(Oriented FAST and Rotated BRIEF)算法快速提取特征点,在此基础上利用DBSCAN聚类算法快速构建邻接图,通过邻接图估算图像的重叠区域;然后,用二值化互信息与欧式距离方法相结合的筛选方法,实现特征点的粗匹配,该方法可以提高特征点匹配准确度,此外根据估算的重叠区域,可以提高特征点匹配的效率;最后,用改进的RANSAC算法,计算出更精确的变换矩阵,使图像拼接的结果更准确.实验证明该方法能够实时的、高效的、精准的实现图像拼接.

一种基于蚁群算法和互信息测度的图像拼接技术

以图像间的互信息为基础,通过计算图像的信息熵来获得2幅图像的匹配区域。利用互信息量测度函数作为蚁群算法的适应值函数,通过蚁群迭代寻找最优的匹配区域。与SIFT拼接算法进行比对实验。实验结果表明,本文算法具有良好的拼接效果和较高的拼接效率。

基于改进粒子群优化算法的互信息图像配准

为了实现快速精确的图像配准,提出了基于改进粒子群优化算法的互信息图像配准方法,以互信息作为图像配准的相似性测度,使用改进的PSO算法来求解配准所需的空间变换参数。改进的粒子群算法引入组织的概念把整个种群划分为多个子群体共同进化,并引入变异运算减少算法陷入局部最优。把改进的粒子群优化算法应用到医学图像配准领域上来,实验结果表明,算法能够得到比较满意的配准结果。