Excel在留一法交叉验证实验教学中的作用

为了使学生更好地理解和掌握留一法交叉验证的计算过程,在实验教学中利用Excel分步完成留一法交叉验证的计算过程。这不仅实现了教学内容与计算机软件应用的有机融合,而且细化了计算方法,有利于学生的学习和掌握,达到了激发学生学习兴趣,提高实验教学质量的效果。

比较基于留一法和bootstrap留一法得到的估计误差的近似密度函数曲线

模型评估在统计学习中占有重要的位置.数据集相对较小时,交叉核实(CV)是一种应用较广而且有效的方法,该方法的平均性能优于任何一种单一方法的使用.目前很多研究都比较了基于CV的不同变体得到的预估误差的性能.本文中,我们首先根据数据集建立线性回归模型和二元线性回归模型;然后从误差率和估计误差的近似密度函数曲线两个方面来比较留一的交叉核实(LOOCV)和bootstrap的LOOCV;最后通过模拟给出结论.

AIC准则与留一法交叉验证渐近等价的证明

AIC准则与留一法交叉验证是进行模型选择的常用方法。现有的证明二者渐近等价的方法是极大似然估计法。文章在线性模型的基础上,用删除残差与普通残差间的关系来推导AIC准则与留一法交叉验证对模型选择的效果,发现其是渐近等价的。这样的方法适用性更为广泛。最后通过仿真模拟和实际数据分析验证了结论。

基于代表的留一法集成学习分类

为应对抽样不均匀带来的影响,以基于代表的分类算法为基础,提出一种用于符号型数据分类的留一法集成学习分类算法(LOOELCA)。首先采用留一法获得n个小训练集,其中n为初始训练集大小。然后使用每个训练集构建独立的基于代表的分类器,并标注出分类错误的分类器及对象。最后,标注分类器和原始分类器形成委员会并对测试集对象进行分类。如委员会表决一致,则直接给该测试对象贴上类标签;否则,基于k最近邻(k NN)算法并利用标注对象对测试对象分类。在UCI标准数据集上的实验结果表明,LOOELCA与基于代表的粗糙集覆盖分类(RBC-CBNRS)算法相比,精度平均提升0. 35～2. 76个百分点,LOOELCA与ID3、J48、Na6ve Bayes、OneR等方法相比也有更高的分类准确率。

第二十九讲 关于留一法PRESS统计量的应用讨论

应国家奖励办聘任,6月15日赴北京参加2016年科技进步奖化工组评审工作。因提前一天报到,带了一本《六西格玛管理统计指南——MINITAB使用指南》,再次阅读有关统计量预测残差平方和PRESS的相关内容。这段时间借用化机所小会议室作办公室,更接近科研一线,有了更多机会和吴芳、浦静雯硕士一起学习、讨论PRESS的相关问题。在实验研究中,拟合选定统计模型后需要分析评估回归模型的总效果：回归模型的P值。

基于改进萤火虫算法的永磁同步电机多模态优化设计

永磁同步电机的结构参数选择往往是多模态、非线性的优化问题,同时其结构优化设计又存在计算分析时间过长、计算效率过低、收敛慢等问题。文中针对此类问题提出了一种基于改进萤火虫算法的新型多模态优化算法。改进萤火虫算法主要引用了等值线概念并通过克里金(Kriging)代理模型自适应确定子计算区域,从而获得多个全局最优解和局部解,并且引入单纯形法和改进停止条件以提高算法效率。此外,研究了分层余一法用于检验代理模型精度。最后,将其应用到永磁同步电机的结构优化中,使齿槽转矩成功降低了38.33%。

极限学习机的快速留一交叉验证算法

针对回归和分类问题,提出一种极限学习机(Extreme Learning Machine,ELM)的快速留一交叉验证算法,并从理论和数值仿真两方面说明其有效性.结果表明,该算法避免了以训练样本数量N次的ELM模型的显式训练,其计算复杂度与N仅呈线性趋势增长,即O(N).即使在处理大型数据集建模问题时,该算法仍然可以快速地进行ELM模型的选择和评价.通过人工和实际数据集上的仿真实验,验证了该快速留一交叉验证算法的有效性.

基于BOHB-BP的增材制造成型件质量预测方法

表面粗糙度和拉伸强度是衡量熔融沉积制造(FDM)成型件质量的重要指标,但由于FDM工艺参数众多,且与FDM成型件质量之间呈现非线性关系,因此传统方法难以准确预测这两项指标。为此,提出一种贝叶斯超频道优化算法(BOHB)与BP神经网络相结合的FDM 3D打印成型件质量预测方法以提高预测精度与稳定性。将层厚、扫描次数和填充间隔这三个工艺参数作为模型的输入;利用BOHB算法对BP神经网络的超参数进行优化得到BOHB-BP模型;使用中心复合实验获取表面粗糙度和拉伸强度的实验数据,在以上两种数据集上根据留一法验证模型的精度与稳定性;将模型BOHB-BP与模型GA-BP和BP的预测情况进行对比实验,证明了所提方法在不同数据集上均有更好的预测精度与稳定性。

基于ν-SVR算法的边坡稳定性预测

提出基于一种改进支持向量机算法(ν-SVR)的边坡稳定性预测方法,直接利用边坡的特征参数快速预测边坡稳定性。为解决算法中模型选择困难的问题,用留一法设计预测模型,用网格搜索法搜索最优参数。留一法可以避免传统方法中根据经验确定预测模型的缺点,较为客观地获取合适的预测模型。网格搜索法可以保证搜索到合适的参数。计算结果显示,联合运用这两种方法可以获得合适的预测模型。利用该预测模型对82个圆弧破坏边坡实例中的71个实例进行学习,对另外11个实例进行推广预测,取得了较好的效果,其预测精度明显优于一种改进BP神经网络算法和常规SVR算法,与GA-BP神经网络算法相近。在此基础上,提出基于ν-SVR算法的边坡设计方法,能够快速、准确的获取不同方案下的边坡安全系数,评价其稳定性,为选择经济合理的边坡设计方案提供决策依据。

基于混合特征的人体动作识别改进算法

运动特征的选择直接影响人体动作识别方法的识别效果。单一特征往往受到人体外观、环境、摄像机设置等因素的影响不同,其适用范围不同,识别效果也是有限的。在研究人体动作的表征与识别的基础上,充分考虑不同特征的优缺点,提出一种结合全局的剪影特征和局部的光流特征的混合特征,并用于人体动作识别。实验结果表明,该算法得到了理想的识别结果,对于Weizmann数据库中的动作可以达到100%的正确识别率。

用于发酵过程在线建模的自适应局部最小二乘支持向量机回归方法

提出一种基于自适应局部学习的最小二乘支持向量机回归(LSSVR)在线建模方法。考虑样本间的距离和角度信息以获得更全面合理的相似样本集,推导了采用快速留一法在线优化模型参数的准则,并给出了发酵过程在线自适应模型选择的策略。以链激酶流加发酵过程为例,验证了所提出算法能够从过程的第2批次开始,同时对活性菌体浓度和链激酶浓度进行较准确的在线预报,较普通的局部LSSVR等建模方法具有更高的预报精度和自适应性。

LSSVM过程建模中超参数选取的梯度优化算法

基于结构风险最小的最小二乘支持向量机(least squares support vector machine,LSSVM)为标准支持向量机(SVM)的约简,训练简易,性能良好。其模型精度受超参数影响,常规的网络搜索法很难搜得最佳超参数。在快速留一法的基础上,以全样本留一预测误差平方和最小化为目标,导出基于梯度的最优化算法,用以优选为LSSVM超参数,进而构建G-LSSVM模型。以柠檬酸发酵过程为算例对G-LSSVM进行检验,结果表明G-LSSVM的超参数选取耗时少,模型稳定性良好,且拟合和预报性能都优于标准SVM和神经网络。有望适用于机理不明、高度非线性、小样本的化工过程建模。

支持向量机算法优化制备赛隆-刚玉浇注料工艺参数

运用可限制过拟合、有较强预报能力的支持向量机算法(SupportVectorMachine,简称SVM)对赛隆-刚玉浇注料的工艺参数进行优化,通过试验数据处理,建立了工艺参数与烧成后常温抗折强度的数学模型。留一法结果表明,用支持向量机算法优化制备赛隆-刚玉浇注料的工艺参数是可行和有效的。

基于维纳过程的MEMS陀螺仪贮存寿命评估

目的 针对MEMS陀螺仪在步进应力加速试验条件下获取的性能退化数据,提出基于维纳过程的贮存寿命评估方法及其模型准确度检验方法。方法 首先,确定温度为影响MEMS陀螺仪性能退化的主要环境因素,采用步进温度应力加速试验的方式获取其性能退化数据。其次,分析各项性能参数的演变规律,确定标度因数为表征产品性能退化的特征性能参数。最后,采用漂移维纳过程对标度因数退化轨迹进行建模,并外推得到常温条件下的贮存寿命。结果 采用留一法对模型精度进行验证,模型准确度最低为86.44%。可靠度水平为0.95时,常温贮存(25℃)条件下的寿命评估结果为50.02 a。结论 基于维纳过程建立的性能退化模型的准确度在85%以上,该模型可应用于指定贮存条件下MEMS陀螺仪的性能退化预测及贮存寿命评估。

基于支持向量学习机方法的抗真菌药物活性预测

为了预测分子的抗真菌活性,计算了表征分子的电子、拓扑、几何结构和分子形状等特征的67个分子描述符,并用于支持向量学习机对分子抗真菌活性分类模型的建立和活性预测.分别用留一法和五重交叉法对模型进行了验证.在五重交叉验证中,根据分子三维结构的相似性,首先把所研究的94个分子分成若干类,再分别从每一类中随机选择若干个分子组成若干个训练集,剩余的分子构成相应的测试集.结果表明,用上述两种验证方法得到的结果相近,且所建立的模型具有较高的预测性,交叉验证的预测正确率达到84.0%.

荧光光谱法结合神经网络优化定量分析蒽芘混合物

采用荧光光谱法结合神经网络优化对蒽芘双组分混合物进行了定量分析,提出了利用留一法交叉验证(leave one out cross validation,LOOCV)的模型训练方法,以解决混合样品光谱定量分析中用有限样品建立非线性回归模型的问题。蒽和芘混合样品的激发波长为320nm,发射波长范围为320～450nm,以混合样品光谱数据的主分量作为输入、混合样品浓度作为输出进行LOOCV训练,对神经网络进行优化设计。在LOOCV实验结果中,预测10个测试质量较好的样品,平均相对误差(ARE)为3.39%,比预测所有12个样品的ARE低0.46%,样品最小相对误差可达到1.25%,10次重复实验相对标准偏差小于0.84%。该方法具有所需样品少、容错性好、分析精度高和稳定的特点。

基于交叉验证法探究砾岩储集层特征及对化学驱油剂损耗的影响

以克拉玛依油田七东1区克下组砾岩储集层为研究对象,通过X射线衍射、薄片鉴定、孔渗分析等实验,系统开展储集层纵向岩石学特征、孔隙结构特征及宏观物性变化的研究。结合驱油剂动态损耗实验,采用基于交叉验证的逐步回归法,探究储集层特征对驱油剂损耗规律的影响;并应用Petrel建模计算油藏范围内驱油剂损耗量。结果表明:研究区储集层矿物成分成熟度低,结构成熟度低,储集层呈现中-低孔隙度,渗透率纵向变化大,非均质性显著;驱油剂动态损耗量受储集层特征控制,与储集层渗透率、孔隙度、黏土矿物含量等地质特征有较好的相关关系;应用Petrel建模可以实现快速、准确、可视化的油藏范围内驱油剂损耗量计算。在地质条件复杂、驱油剂损耗机理未完全探究清楚的情况下,通过逐步回归法直接从数据中建立模型;并用交叉验证法对模型进行筛选和优化,是驱油剂损耗量计算领域的一个创新应用。

一种新的雷达辐射源信号脉内特征参数选择方法

为提高雷达辐射源信号识别速度,提出了一种脉内特征参数选择的新方法.首先对熵、相像系数、模糊函数、复杂度和双谱五种脉内特征参数的提取算法进行了研究,其次利用留一法误差来评估特征参数对分类器泛化性能的影响,最后对特征参数的评估进行了仿真实验.仿真结果表明,基于留一法误差可以较好地实现特征参数选择,为提高雷达辐射源信号识别准确率提供参考.

选择性自适应k子凸包分类方法

k子凸包分类方法在实际问题中有广泛应用.但是该方法仍然对噪声和参数k比较敏感,并且在k邻域内不同类的样本数经常严重失衡,导致分类性能下降.针对上述问题,设计了一种选择性自适应k子凸包分类方法.首先根据k子凸包分类的特点给出冗余数据、噪声和决策邻域的概念,并对数据进行网格化处理.然后采用留一法对数据集进行选择性修剪,去掉冗余数据和噪声;并为每个样本学习一个不同的决策邻域,使得不同样本的决策邻域能够自适应变化.实验表明,该方法不仅缩小了问题规模,而且分类性能也有显著提高.

计算机超频结果测量值的预测算法

针对计算机超频结果测量值的估计问题,提出一种优化的LS-SVM回归模型解决方案;首先对CPU和显示卡超频的参数设置及主要结果进行了分析,并探讨了常用预测算法的不足,据此选择LS-SVM回归模型进行超频结果测量值的预测;然后设计了一种LCQPSO算法寻找模型参数的最优值,使模型的预测精度和泛化能力得以提高;经采集AMD FX-8350CPU的50组超频样本验证,该算法的预测误差比RBF神经网络降低了80%,表明了该算法的有效性。