基于Stacking集成算法的抛石护岸水毁破坏预测研究

抛石护岸在顶冲等极端情况下易发生水毁破坏,给人民的生命财产带来威胁。通过水槽试验获取496组样本数据,利用互信息(MI)筛选出6个关键特征属性,并采用支持向量机(SVR)、广义回归神经网络(GRNN)和随机森林(RF)等机器学习算法构建多个预测模型。然后,将这些模型作为基学习器,结合BP神经网络(BPNN)作为元学习器,采用Stacking集成学习方法构建抛石护岸破坏程度预测模型。最后,通过决定系数(R^(2))、均方根误差(R_(RMSE))及平均绝对误差(M_(MAE))等评价指标对模型性能进行评估。结果表明,Stacking模型在抛石护岸破坏高度、长度、范围上的平均R^(2)为0.98、RRMSE为0.02、M_(MAE)为0.03,相较于单一模型(SVR、GRNN、RF),Stacking模型的R_(RMSE)、M_(MAE)皆为最小,R2最高。在抛石护岸水毁破坏程度的预测中,融合的Stacking模型展现出更高的准确性与稳定性。

基于联邦集成算法对不同脱敏数据的研究

针对联邦学习中存在梯度更新导致本地数据可能泄露的问题,提出基于本地脱敏数据上的联邦集成算法。该算法用变异率与适应度阈值的不同取值对原始数据进行脱敏,且使用不同类型的模型在经不同程度脱敏的数据上进行本地模型训练,以确定适合的联邦集成算法参数。实验结果表明,与联邦平均算法和传统集中式训练相比,stacking联邦集成算法与voting联邦集成算法的准确率要优于基线准确率。在实际应用中,可根据不同的需求设置不同的脱敏参数来保护数据,以此提升数据的安全性。

基于多目标优化加权软投票集成算法的信用债违约预警研究

为了提高信用债违约预测的准确性和稳定性,便于金融风险管理,以2014年1月1日—2021年12月31日的信用债为研究对象,提出一种基于多目标优化的加权软投票集成算法。该算法通过计算每个基分类器的模糊密度来量化其识别能力,并使用多目标粒子群算法来求解基分类器的权重。将所提算法与其他单一分类器如支持向量机、逻辑回归、高斯贝叶斯、MLP,以及其他集成算法如投票类集成算法(voting)和stacking算法进行比较,采用期望PFI算法进行特征重要度分析。结果表明,加权软投票集成算法在信用债违约预测中表现出色,不仅提升了单一算法的性能,且相对于其他集成算法,具有更高的准确性、精确度和AUC值。违约前主体评级、交易所、违约前债项评级、总资产周转率、货币资金、净资产增长率、经营活动现金流量占营收比、GDP、PPI、注册地、短期国债利率、宏观经济景气指数(先行指数)、债券类型和所属行业的特征重要度较高,在信用债违约中值得关注。该研究可为金融风险预测提供一种有效方法,对于投资者和金融机构的风险预警具有重要参考意义。

基于Stacking集成算法的混凝土28d抗压强度预测

为实现混凝土28d抗压强度的精准预测并解决不同机器学习模型间相互独立不能优势互补的问题。本研究通过357组混凝土配合比数据构建数据库,并采用Stacking集成方法对3个单一机器学习模型(KNN、XGBoost和RF)进行集成预测研究。首先通过随机抽样方法将数据库划分为训练集和测试集,然后分别进行了单一机器学习模型和集成模型的训练和测试集预测,最后采用平均绝对误差指标(MAE)、均方根误差指标(RMSE)和确定系数(R2)对模型的预测结果进行评价。结果表明,RF模型在三个单一机器学习模型(KNN、XGBoost和RF)中表现最好(MAE=3.0705,RMSE=4.1847,R^(2)=0.8817);此外,Stacking集成模型的预测性能优于任意单一模型,相较于单一模型中表现较好的RF模型,其预测性能实现了显著提升(MAE下降2.6%,RMSE下降9.8%,R2提升2.5%)。

GBDT集成算法在医院财务困境动态预测中的应用研究

传统财务困境动态预测模型在处理医院繁杂数据时准确率较低。为解决此问题,研究提出利用最小绝对收缩和选择算子算法选取财务指标,使用梯度提升决策树集成算法构建医院财务困境动态预测模型。结果表明,该模型的最高准确率为96%、F值为86%、G值为93%,均高于另外六种用于对比的财务困境动态预测模型。且在试验过程中,研究提出模型的运行时间与平均误差分别为23s、7%,均低于对比模型。实验显示,基于梯度提升决策树集成算法的医院财务困境动态预测模型的预测结果更准确、更可靠,为医院财务管理提供保证,从而提高医院财务的稳定性。

集成算法在职业倦怠中的应用

工作倦怠作为一种长期性的心理反应,虽然最初是从医疗和精神科的职业中探讨而来,但目前已普遍存在于各行各业中。尤其在COVID-19全球大流行的情况下,员工职业倦怠感更为严重。因此,文中使用四种集成算法对黑客地球平台发布的职业倦怠数据集进行预测,其中,随机森林MSE值为0.00401,梯度提升决策树MSE值为0.00383,XGBoost的MSE值为0.00381,Catboost的MSE值为0.00360,结果表明Catboost算法的预测效果较好。

基于Voting和Stacking集成算法的岩爆倾向性预测

岩爆是矿山深部开采中常见的地质灾害,准确预测岩爆可降低矿山生产安全风险。将机器学习应用于岩爆预测是切实可行的,但仅用一种方法或将几种方法简单结合对于提高岩爆预测的准确性或泛化性作用十分有限。基于此,将最大切向应力、应力集中系数、脆性系数、弹性能量指数等作为指标,利用231组有效岩爆数据,基于Voting和Stacking集成算法,融合精确率较高的6种基础分类器(LR、RF、SVM、DT、KNN、GNB),建立了4个集成分类器V 1、V 2、S 1和S 2。根据预测结果的混淆矩阵计算了精确率、准确率、召回率及F 1分数,对各分类器性能进行了评估,结果表明:基础分类器中SVM、RF对Ⅰ级、Ⅱ级样本较敏感,KNN对Ⅲ级、Ⅳ级样本更敏感;RF、SVM整体预测效果最好,精确率分别为0.93、0.94;集成分类器相对于基础分类器性能均有不同程度的提升,但受性能较差的基础分类器及投票机制影响,Voting集成分类器整体性能弱于Stacking集成分类器;4个集成分类器中S 1性能提升最显著,预测效果最佳,精确率、准确率、召回率、F 1分数分别为0.95、0.97、0.96、0.95;将基于Stacking算法构建的集成分类器S 1应用于秦岭隧道的岩爆预测,预测结果与工程现场实际一致,验证了其可靠性。

基于集成算法的信用债违约预测模型及其影响因素研究

本文选取2014—2021年的信用债作为研究对象,以单一算法(逻辑回归、高斯朴素贝叶斯、支持向量机和伯努利朴素贝叶斯)分别构建Bagging和Stacking集成学习模型,并将其与单一算法以及传统方法(KMV模型)进行对比,探讨如何提高信用债违约预测精度,证明Bagging集成算法的可靠性,还通过SHAP可解释算法研究信用债违约中的重要指标。实证结果显示,四种单一机器学习模型在预测准确率上优于传统KMV模型;进一步对机器学习模型进行集成,发现同质集成算法在提高预测性能方面不如异质集成算法,且Bagging异质集成算法的预测准确率优于Stacking异质集成算法。将性能最好的Bagging异质集成算法与SHAP可解释算法结合,得到对识别信用债违约具有重要价值的9个指标,分别是违约前债项评级、违约前主体评级、交易所、净资产收益率、债券类型、企业性质、财务费用、总资产增长率以及第一大股东持股比例,关键指标的识别对信用债违约预测具有指导意义。

基于KRX模型集成算法

KRX模型将改进KNN算法、随机森林算法及XGBooost算法作为基模型,KNN算法通过其相邻样本的距离进行权值分配,提高了分类的准确性。对两个标签的准确率达到81%和88%。

基于集成算法和普通机器学习算法的岩爆分级预测及选择

岩爆是国内外深部地下工程面临的巨大灾害,岩爆预测具有显著的现实意义。现阶段单一的机器学习算法准确率较低、泛化性不足,难以发挥各个算法优点。为满足岩爆预测与工程实际需要,提出基于集成算法和普通机器学习算法相互结合预测岩爆各个等级,充分发挥不同算法在某一岩爆等级预测的优势并形成互补。提出改进的Boosting、Bagging集成预测算法,与Stacking、Random Forest、Random Subspace集成算法和普通学习算法诸如BP、贝叶斯算法(bayes)、k最近邻(KNN)、支持向量机(SVM)等在内的14种预测算法进行相互结合验证。基于国内外地下工程165组岩爆实例,选取围岩最大切向应力(MTS)、岩石单轴抗压强度(UCS)、岩石单轴抗拉强度(UTS)、岩石弹性能量指数(W et)构建岩爆预测体系,引入T-分布邻域嵌入(T-SNE),对数据进行降维可视化。为避免算法预测岩爆过程中预测结果的偶然性,即出现预测准确率过高或过低的现象,采用在各个岩爆等级按照比例随机筛选训练集和测试集,确保数据集分类的严谨性;每次机器学习过程的数据都具有随机性,在采用10次运行结果后取各项预测平均值,评价算法在各个等级的准确率和算法整体的预测稳定性。结果表明:LDA对Ⅱ级岩爆有更高的准确率,Bayes分类Ⅳ级岩爆效果最好,Adaboost.M1对Ⅰ级和Ⅲ级有最高的准确率。整体预测效果基于决策树的Bagging预测稳定性更好,预测精确率高。最后引入终南山隧道竖井工程案例,预测结果与现场实际工况较为一致,表明本文所建立算法的可靠性。

融合Stacking集成算法的联邦学习技术

提出一种基于集成算法的联邦学习模型(Stacked Federated Learning,Stacked-FL)。模型将集成算法与联邦学习相结合,基于RSA加密与同态加密的隐私保护方法,实现多方数据去中心化处理,并设计了数据预处理、样本对齐、联邦集成算法模块。实验结果表明,该模型在预测准确性方面有显著提升,相比传统的数据中心化模型,其安全性得到了保证。实验使用Lending Club贷款数据集,选取MAE与RMSE作为评价指标,根据Stacked-FL算法的结果显示,其性能相比SecureBoost算法分别提升7.98%和0.83%。在保障用户隐私安全的同时,也提高了预测精确度,相比传统的联邦算法泛化能力增强,该模型满足中小型敏感数据集联合建模的基本需求,为中小型银行定制化信贷提供了更有效的解决方案。

基于贝叶斯优化与集成算法的债券违约风险预测

本文选取2014-2022年发生实质违约与交叉违约的所有发行主体为研究对象,使用随机森林、AdaBoost、GBDT、XGBoost、LightGBM共5种集成算法构建了债券违约风险预测模型,并采用贝叶斯优化对模型的超参数进行优化。实证结果显示,在债券违约风险预测中,相较于传统机器学习算法,集成算法所构建的预警模型性能更为出色,具有更加优异的预测精度与稳定性,且在超参数优化中,贝叶斯优化运行效率更高、效果更好。同时,LightGBM算法在5个集成算法中表现最优,可以最为有效地进行债券违约风险预测。最后通过比较特征重要性,发现净资产收益率、总资产报酬率、营业利润率、第一大股东持股比例可以作为企业债券违约风险预警指标。

基于集成算法的软件缺陷预测方法研究

软件缺陷预测对保证软件质量至关重要,不平衡数据严重影响软件缺陷预测模型的性能,采用集成算法与不平衡学习方法相结合的方式可以有效解决该问题。基于6种集成学习算法与16种不平衡学习方法,提出一些新的集成预测方法,在14个高不平衡数据集上进行M×N路交叉验证实验,并选取3种常用机器学习算法作为对比。使用AUC、G-mean、recall和F1指标评价预测性能。实验结果表明:所提预测方法指标平均值比3种传统机器学习算法高出1.5%。

基于集成算法的知识追踪智能导学系统的设计与实现

为了更准确地判断学生的知识掌握状态,设计开发了一个基于集成算法的知识追踪智能导学系统。该系统从学生的学习行为数据出发,提出了一种新的基于集成算法的知识追踪模型,将当前主流的知识追踪模型的结果进行集成,达到更加准确地判断学生知识掌握状态的目的。实验表明,该系统可以较为准确地判断学生的知识掌握状态,预测学生未来的学习表现,便于教师了解学生的知识掌握状态,从而进行有针对性地教学;也便于学生了解自身的知识掌握状态,从而进行自适应性学习。

一种结合LSTM和集成算法的文本校对模型

伴随着互联网的飞速发展,各行各业产生了大量的电子文本数据,但是这些文本经常存在语义错误,数据质量良莠不齐,如何提高电子文本的质量是亟待解决的难题.本文设计一种基于集成算法和长短时记忆网络的集成模型,提高语义特征检测和校对的准确性.主要工作分为三部分:(1)使用神经网络和HowNet学习词语-义原之间的搭配关系;(2)将抽象化信息输入至长短时记忆网络集成模型,预测语义搭配关系;(3)结合模糊匹配方法,依据聚合度对预测结果投票并排序,将排名靠前的结果作为校对建议输出.实验结果显示,本文提出的校对模型和算法与其他文献相比在检错准确率和校对准确率上分别提高了1.8%和2.3%.

重要矿产资源安全评价的集成算法与实证

文章提出了融数量维、质量维和时空维三维一体的"2AST"矿产资源安全概念框架与评价体系;突破了传统AHP中的九标度法,基于改进的层次分析法和加速遗传算法,通过集成熵值法、灰色关联分析和逼近于理想值的排序方法,提出了一种改进的集成算法,对2001—2014年我国11种重要矿产资源安全水平进行了评价,为我国政府掌握重要矿产资源安全动态提供了科学的决策依据。

混沌神经网络智能集成算法优化策略

为了将神经网络的通用性、灵活性与混沌优化易于跳出局部最优解达到全局最优、搜索效率高、对优化条件的要求不高 (不需具有连续性和可微性 )的优点有机地结合起来 ,智能集成了混沌神经网络优化算法。该算法寻优效率高 ,通用性强 。

基于选择性集成算法的浸出率混合预测模型

一个精确的模型对浸出过程中浸出率预测是十分重要的。针对湿法冶金浸出生产过程中浸出率在线检测的难点,提出一种有效的混合建模方法,建立浸出率的预测模型。在对浸出过程进行分析后,建立了一个浸出过程机理模型。由于机理模型与实际之间存在着较大的误差,因此建立了混合模型来减少误差。随后,针对小样本建模问题,提出了基于二进制PSO算法的选择性bagging集成算法,并将该算法应用于混合模型的误差补偿中去。实验结果表明该混合模型的预测精度比其他模型的预测精度高。

聚类集成算法在客户细分模型中的应用

营销分析、客户分析和内部运营管理是企业大数据应用最广泛的3个领域。基于某市烟草零售数据,运用聚类集成算法构建客户细分模型,实现烟草零售精准营销。本算法集成了Clara算法和K-means算法,首先采用Clara算法随机生成初始聚类中心,K-means算法进行无监督学习,得到最少代价的聚类中心,然后基于零售客户基本信息进行聚类因子建模,将类别与档位进行维度交叉,对零售客户在档位内二次细分,优化迭代分配,解决烟草零售客户档位内部差异化大的问题。经多种聚类算法比较,本文方法的总误差和误差波动率小于其他单一的聚类算法。将该方法用于烟草营销投放策略,经市场验证,能够提升订足率和需求满足率。

解调分析中差频现象的理论分析及细化解调/频谱分析集成算法

应用泰勒级数展开方法研究了解调分析中的差频现象 ,指出信号解调前必须滤除与调制信息无关的加性频率成分。为方便实际应用 ,提出了细化解调 /频谱分析集成算法 ,算法中两种信号分析方法均由带通滤波、Hibert变换和重抽样三个步骤组成 ,算法实现时将这三个步骤集成在一个复解析带通滤波过程之中 ,具有很高的计算效率 。