基于K折交叉验证的SVM隧道围岩分级判别

针对隧道施工期间围岩分级因样本数较少存在分类结果可靠性较低的问题,建立基于K折交叉验证的支持向量机判别模型。依据TSP303系统确定判别指标并建立判别指标体系;根据围岩勘测情况,将围岩分为4个等级,并作为输出变量;选取40组样本数据训练模型、10组样本数据测试模型,结果表明,10组样本中仅1组样品判别错误,准确率达到90%。研究成果为隧道围岩的分级判别提供了新方法。

基于K折交叉验证Beta分布的AUC度量的置信区间

在统计机器学习研究中,基于K折交叉验证的AUC(Area Under ROC Curve)度量常常被用作分类算法性能的评价.然而,点估计显然没有考虑方差的信息,为此,基于正态假定的K折交叉验证t分布构造的AUC度量的通用对称置信区间(区间估计)被提出.但是,这些对称置信区间往往表现出低的置信度或长的区间长度,从而容易导致激进的(liberal)统计推断结果.通过对AUC度量的理论分析,发现AUC度量的真实分布实际上是非对称的,此时简单使用对称分布去近似它显然是不合适的.因此,针对二类分类问题,本文提出了一种新的基于K折交叉验证Beta分布的AUC度量的非对称置信区间,在模拟和真实数据实验上验证了提出的置信区间相对于传统的基于K折交叉验证t分布的对称置信区间的优越性.

基于正则化KL距离的交叉验证折数K的选择

在机器学习中,K折交叉验证方法常常通过把数据分成多个训练集和测试集来进行模型评估与选择,然而其折数K的选择一直是一个公开的问题。注意到上述交叉验证数据划分的一个前提假定是训练集和测试集的分布一致,但是实际数据划分中,往往不是这样。因此,可以通过度量训练集和测试集的分布一致性来进行K折交叉验证折数K的选择。直观地,KL(Kullback-Leibler)距离是一种合适的度量方法,因为它度量了两个分布之间的差异。然而直接基于KL距离进行K的选择时,从多个数据实验结果发现随着K的增加KL距离也在增大,显然这是不合适的。为此,提出了一种基于正则化KL距离的K折交叉验证折数K的选择准则,通过最小化此正则KL距离来选择合适的折数K。进一步多个真实数据实验验证了提出准则的有效性和合理性。

基于交叉验证的集成学习误差分析

目前关于集成学习的泛化性能的研究已取得很大成功,但是关于集成学习的误差分析还需要进一步研究.考虑交叉验证在统计机器学习中对于模型性能评估有重要应用,为此,应用组块3×2交叉验证和k折交叉验证方法为每个样本点进行赋予权重的预测值的集成,并进行误差分析.在模拟数据和真实数据上进行实验,结果表明基于组块3×2交叉验证的集成学习预测误差小于单个学习器的预测误差,并且集成学习的方差比单个学习器方差小.与基于k折交叉验证的集成学习方法相比,基于组块3×2交叉验证的泛化误差小于基于k折交叉验证的泛化误差,说明基于组块3×2交叉验证的集成学习模型稳定性好.

基于真实世界数据研究注射用伏立康唑致急性肾损伤的危险因素建立预测模型及验证

目的 基于真实世界数据,分析注射用伏立康唑发生急性肾损伤(AKI)的危险因素,建立预测模型并进行内部验证和外部验证,为临床安全用药提供参考。方法 收集2020年1月1日至2023年6月30日在某院注射用伏立康唑治疗≥3 d,且年龄≥18岁患者的病历资料。其中2023年1月1日之前出院的患者作为建模组,之后的患者作为验证组。提取患者的基本信息、实验检查指标、临床诊断、联合用药等数据。根据是否发生AKI将患者分为AKI组和非AKI组。采用多因素Logistic回归法分析注射用伏立康唑致AKI的危险因素,并建立预测模型。通过受试者工作特征(ROC)、ROC曲线下面积(AUC)及Hosmer-Lemeshow检验(H-L检验)评估区分度和校准度,并进行内部验证和外部数据验证检验该模型的价值。结果 共625例(男性371例,女性254例)患者纳入研究。其中建模组489例(男性296例,女性193例),发生AKI 87例;验证组136例(男性75例,女性61例),发生AKI 32例。建模组多因素Logistic回归分析显示血流感染、肾脏疾病、心血管疾病、使用利尿剂是发生AKI危险因素,肌酐清除率(CrCl)和血清白蛋白(Alb)是保护因素。用上述影响因素建立Logistic回归方程,经变换后得到预测因子Y=0.735X_(1)+0.707X_(2)+0.701X_(3)+0.683X_(4)-0.062 X_(5)-0.008X_(6)。X_(1)~X_(6)分别表示使用利尿剂、心血管疾病、肾脏疾病、血流感染、Alb、CrCl。经ROC曲线分析验证,模型组AUC为0.750(95%CI:0.692~0.808,P<0.0 01),H-L检验χ^(2)值为7.535,P=0.480;验证组AUC为0.821(95%CI:0.749~0.893,P<0.001),H-L检验χ^(2)值为13.924,P=0.084,提示该模型具有较好的区分度。模型的约登指数最大值为0.389,对应ROC曲线切点最佳值为-0.976,敏感度为56.3%,特异度为82.6%。k折交叉验证提示该模型的准确率较好(Accuracy=0.823),一致性较低(Kappa=0.191)。结论 CrCl、Alb、血流感染、肾脏疾病、心血管疾病、利尿剂是注射用伏立康唑发生AKI的独立影响因素。基于这6个变量建立AKI的预测模型具有一定的区分度,可在一定程度上辅助临床治疗决策,有利于临床安全用药。

基于异质聚类与Stacking的双集成光伏发电功率预测

光伏功率预测是实现能源优化分配与电网稳定运行的关键基础。然而传统方法中数据预处理不精细以及预测算法对数据挖掘不到位的问题,往往致使准确率不足。针对上述问题,该文提出基于聚类集成和预测集成的双集成光伏功率预测方法,以异质集成的方式提升了气象分类和功率预测的精度。首先,基于重标记法和投影法,构建了融合Kmeans、高斯混合模型(gaussian mixture model, GMM)、AGNES(agglomerative nesting)和BIRCH(balanced iterative reducing and clustering using hierarchies)4种异质算法的聚类集成框架,并依据滑动时间窗口筛选离群日,建立典型气象模型。其次,基于Stacking集成学习框架,在采用k折交叉验证法规避过拟合的基础上,构建由门控循环单元(gated recurrent unit,GRU)、随机森林(random forest,RF)、XGBoost和Light GBM组成的预测集成模型,深度挖掘光伏数据的潜在规律。最后以澳大利亚某光伏电站为例进行仿真,结果表明双集成功率预测的准确性比传统模型有较大提升,证明了聚类集成和预测集成的有效性。

基于时频域融合和ECA-1DCNN的航空串联故障电弧检测

为了快速准确地检测航空交流线路中出现的串联故障电弧,提出了一种基于时频域融合和加入高效注意力机制(efficient channel attention, ECA)的一维卷积神经网络(one-dimensional convolutional neural network, 1DCNN)的故障检测算法。首先,搭建航空交流电弧故障实验平台,负载选择多类型、多参数值进行电流信号的采集;其次,为了保留更多的故障信息,分析其特征频段,经过大量数据验证,航空串联电弧在发生时,1 000~4 000 Hz分量具有一定的占比,因此将原始信号与特征频段进行融合,融合后的一维数据作为模型输入;最后,搭建ECA-1DCNN检测模型,进行训练,并通过K折交叉验证模型的有效性,得到测试集平均准确率为97.96%。该方法网络层数较少,计算快速,避免了复杂时频域计算过程,较为智能,对航空串联电弧检测装置的研究提供了理论参考。

基于多异学习器融合Stacking集成学习的窃电检测

针对窃电检测中用户用电数据类别不平衡、采用投票法作为结合策略的集成学习方法无法充分发挥多个不同学习器优势等问题,提出一种利用Stacking集成学习融合多异学习器的模型应用于窃电检测。首先,从影响电量计量的因素出发,根据常见的5种窃电方法模拟6种窃电行为模式;其次,采用合成少数类过采样技术(SMOTE)对不平衡的用电数据进行处理,并利用K折交叉验证法对平衡后的训练集进行划分以缓解因重复学习造成的过拟合;然后,使用评价指标和多样性度量优选模型的不同初级学习器和元学习器,构建融合不同学习器优势和差异的Stacking集成学习窃电检测模型;最后,算例对比分析结果表明所提窃电检测模型能有效解决用电数据类别不平衡,充分发挥不同学习器的优势,评价指标良好。

基于深度神经网络的船舶系泊受灾预报研究

为避免船舶系泊于码头时遭受恶劣海况而发生的缆绳断裂等问题,通过深度神经网络建立了系泊受灾预测模型,来快速获得系泊船舶所有系泊缆绳的受力。模型输入特征数量为11个,涵盖风、浪、流、涌、船舶吃水及船舶系泊方式等基本参数,输出特征为系泊系统中所有缆绳的受力。对模型的测试结果表明,相比于径向基神经网络,模型具有较高的预测精度,每组测试工况下的平均相对误差不超过10%。可将该模型用于在恶劣海况来临前对系泊系统的安全评估和风险分析,有助于相关人员及时采取应对措施,从而保证系泊系统的稳定性与可靠性。

具有趋势项的残差自回归移动平均模型的修正预测

为了研究新数据产生背景下时序模型的预测问题,本文针对含多项式趋势项的残差ARMA模型探讨了无需重新拟合的不变模型修正预测法。采用K折交叉验证,并以平均RMSE作为评价指标,确定最佳的多项式拟合次数。基于最小二乘法和线性时间序列建模方法进行了数值模拟和实证分析。结果显示,与需要重新拟合的改变模型修正预测法相比,无需重新拟合的不变模型修正预测法具有一定的优越性,计算成本小,且优于传统的未修正预测法,可以看作是一种简单易行的修正预测方法。

基于天气数据对空气质量预测的改进KNN算法

基于天气数据进行空气质量预测,首先收集成都市A区2018年4月1日到2018年6月3日64天24个天气属性,然后对天气属性进行筛选、数据处理;接着,建立KNN分类模型,利用k折交叉验证和多数表决原则对64个样本进行分类;最后在传统KNN分类模型的基础上,使用反距离加权建模,结果表明模型有较好的泛化能力和预测效果。

基于RF-SA-SDCNN的涡扇发动机剩余寿命预测

针对涡扇发动机现阶段预测精确度低的问题,提出了一种基于RF-SA-SDCNN相融合的涡扇发动机剩余寿命预测方法。首先,将多传感器长序列数据进行指数平滑和归一化处理,以减少由于量纲、取值范围不同和噪声波动引起的误差,并利用随机森林算法对多元传感器信号进行重要性特征提取;然后,搭建基于随机森林算法和自注意机制与堆叠膨胀卷积神经网络相结合的预测模型,自注意机制通过对特征赋予不同权重分配加强贡献度,堆叠膨胀卷积通过扩大模型感受野提取时序特征用于回归分析,并利用GridSearch优化算法和StratifiedKFold交叉验证方法优化模型提升模型预测精度;最后,采用CMAPSS数据集验证验证所提方法的有效性。结果表明,所提方法可有效提高涡扇发动机剩余寿命预测精度。

基于机器学习技术的返乡发展人群预测模型研究与应用

随着经济的发展和一线城市生活压力的增大,越来越多的人迁移城市以及返回家乡发展,为了高效服务用户和提升用户产品使用体验,提出基于LightGBM、CatBoost等算法来预测返乡发展人群,并进行了异构模型融合。通过模型对比,所提融合模型有更好的效果,可以为服务和产品提供依据,减少流失优化感知,提高市场保有率。

基于Stacking集成学习模型的气态亚硝酸预测

建立了基于Stacking集成学习下气态亚硝酸(HONO)预测模型.利用非相干宽带腔增强吸收光谱(IBBCEAS)系统获得的北京城区HONO的浓度,结合HONO的来源,选取了O3、CO、SO2、NO、NO2、NOy、温度(T)、相对湿度(RH)、风速(WS)、j(HONO)、j(NO2)、j(O1D)作为特征数据,通过对HONO的平均日变化分析,将测量时间按小时转换为新特征.分别以极端梯度提升(XGBoost)、轻量化梯度促进机(LightGBM)以及随机森林(RF)算法构建基模型,采用5折交叉验证的方式划分训练集,将基模型输出的结果作为新特征集,并将新特征集作为第二层线性回归模型的输入,通过对这两层中的模型进行训练,最终得到Stacking集成学习HONO预测模型.通过对模型的特征重要度分析和计算夜间交通直接排放所占的贡献,表明CO是模型预测中重要的影响因子,说明机动车的直接排放是该区域冬季时期HONO的重要来源.利用测试集分别对单模型和融合后模型的预测性能进行评估,3个单模型的预测结果与测量值的相关系数都达到了0.91以上,其中Stacking融合后的模型性能最好,相关系数达到了0.94,平均绝对误差和均方根误差分别为0.307×10-9和0.453×10-9,结果表明基于Stacking集成学习方式下HONO预测模型的可解释性和推广性.

基于核函数及参数优化的KPLS质量预测研究

核偏最小二乘(KPLS)在工业过程监测和质量预测中得到了广泛的应用,核函数和核参数的选取对KPLS质量预测结果有重要影响。然而,如何选择核函数类型和核参数一直是该方法应用的瓶颈。针对以上问题,提出一种改进遗传算法的核函数优化方法。该方法将核的种类及核参数作为优化的决策变量,以均方根误差为目标,分别从编码方案、遗传策略、适应度函数优化、交叉和变异算法等方面进行设计,以保证核函数种类的多样性,利用2折交叉验证法对训练结果进行验证。以田纳西-伊斯曼过程(TE)与MATLAB结合进行仿真实验,仿真结果表明,该方法能寻找到最优核函数以及其核参数,具有很好的稳定性和一致性。

基于Stacking集成学习的心脏病诊断方法

心脏病是威胁国民健康的主要疾病。将机器学习技术应用于心脏病诊断任务,是临床医疗诊断领域的重大突破。以UCI的心脏病数据集为实验数据,提出一种基于Stacking算法的集成学习模型,对不同的基分类器组合进行集成训练,寻找最优的组合策略。结果表明,基分类器差异性大的组合模型具有更好的分类性能,该方法对于提高分类器性能具有可行性和有效性,在心脏病数据集上的分类准确率达到89.78%,能够较好地解决心脏病的临床诊断问题。

基于优化神经网络的磁弹电感传感器温度补偿试验研究

磁弹电感传感器是磁弹电感法监测预应力钢绞线应力的主要设备。温度会引起监测误差,为提升监测精度,首先,分析了磁弹电感法监测应力的原理以及温度影响机理;其次,对4组不同张拉控制力的预应力钢绞线进行温度补偿试验,研究了传感器的温度敏感性,发现传感器电感漂移与变温幅度和路径相关,温度引起的相对误差最大达11.1%;最后,利用K折交叉验证方法,分别采用BP神经网络与优化后的GA-BP神经网络进行温度补偿。研究结果表明:相较于BP神经网络,GA-BP神经网络可有效修正温度误差,提升泛化能力,优化后相对误差降至3.3%。

基于FBG柔性传感器的人体姿势识别

为了进一步提高人体姿势在生物医学和运动学中的识别精度,设计了一种基于光纤布拉格光栅柔性传感器人体姿势识别的智慧鞋垫,并结合K折交叉验证支持向量回归算法提升识别精度。采用COMSOL仿真软件分析足底受力分布,确定4个关键受力点布设光纤布拉格光栅传感器,采用波分复用方式进行连接。征集25名参与者分别完成8种不同人体姿势,记录该串光纤布拉格光栅传感器200组中心波长变化量并构建数据集。引入K折交叉验证支持向量回归模型进行数据处理,经K折交叉验证自动搜索支持向量回归惩罚因子和径向基函数参数的最优值分别为0.5和8。实验结果表明K折交叉验证支持向量回归模型的相关系数为0.9996,均方根误差和平均绝对误差分别为0.0502、0.0446,较SVR回归模型的均方根误差和平均绝对误差分别降低0.4604、0.0877,有效提高人体姿势的识别精度。

采用迁移学习的小样本锂电池荷电状态估算方法

针对锂电池荷电状态(SOC)估算面临的大型数据集获取困难和训练速度慢的问题,结合深度学习和迁移学习提出一种小样本锂电池荷电状态估算方法。基于卷积-长短期记忆网络(CNN-LSTM)构建深度神经网络结构。在源域上采用K折交叉验证对NASA数据集进行划分,选取SOC估计性能最优的网络,利用目标域内具有多种工况和温度条件的Panasonic小样本数据进行迁移学习。为了提升方法的整体性能,分析了网络超参数对SOC估计结果的影响。实验结果表明:在相同的迭代次数下,该方法在不同的工况下可以较准确地实现小样本电池SOC估计,相较于非小样本迁移学习处理方法的均方根误差降低了47.29%。

基于SE-ResNet34的红火蚁巢穴判别模型

红火蚁是近年来侵害我国南方的主要外来入侵物种之一,精确识别红火蚁巢穴是防控红火蚁的关键所在。为解决传统红火蚁防控依赖人工巡视、高危险、效率低的问题,降本增效实现红火蚁巢穴的智能检视,提出了一种基于ResNet34改进的红火蚁巢穴判别模型。该模型借助采集于不同地貌特征下的红火蚁巢穴图像,结合数据增强技术进行训练,通过在ResNet34的第1层卷积层之后和全连接层之前加入SE注意力机制模块,提升网络的自适应选择和通道权值调整能力,以提取红火蚁巢穴表面局部非线性的纹理特征。经过K折交叉验证试验和超参数探究消融试验,将SE-ResNet34与AlexNet、VGG-16、ResNet18、ResNet34、ResNet50进行对比,分析得出SE-ResNet34的峰值准确率达到了98.76%,比ResNet34的准确率提高了2.17%,较其他测试模型有训练时间短、识别精度高的特点,同时展现出较强的鲁棒性和稳定性。该方法在减少人工成本的同时可降低杀虫剂的使用,为红火蚁巢穴判别提供了一种便捷高效的解决方案。