深度学习框架:算法集成和产业基础

人工智能发展离不开算法、算力、数据三要素,深度学习框架是加速算法创新和应用的基础软件,是决定产业技术水平的关键。在深度学习框架方面,我国与美国存在较大差距。美国的领先地位源自先发优势,也得益于科技巨头的大力推动,更重要的是生态体系导致的强者恒强。在大国竞争的背景下,应高度重视深度学习框架在人工智能产业发展中的关键作用,遵循产业发展规律制定长期追赶策略。

基于多代理系统的算法集成模型及其博弈分析

针对单个算法难以解决复杂优化的问题,提出了集成算法的黑板模型。各种算法被封装为代理(A-gent)参与优化问题的求解;对模型设计了优胜劣汰机制,使各Agent处于竞争环境中,迫使它们对模型的运算速度或优化能力做出贡献。为使模型保持较高运行效率,基于多方博弈观点,分析了不同算法Agent在竞争中需采取的策略,并探讨了几种非数值算法在模型中的个性化策略。以作业车间调度问题为例,验证了模型有效性。

卷烟零售终端走访路径规划算法集成与应用

为解决卷烟零售终端走访业务领域中的多点路径规划问题,对现有路径规划算法进行归纳和总结。提出了一种Top-K群体算法集成方法将多种路径规划算法进行组合优化及集成应用,以克服单个算法存在的固有缺陷,获得更优的规划结果。以沈阳市卷烟零售终端为研究对象进行15.6万次模拟实验。结果表明:Top-K比6种原算法获得的路径平均缩短约9.82%,算法优化提升效果显著,能够获得更好的路径规划结果,具有更好的可靠性和通用性。基于Top-K开发了一种适用于烟草零售客户走访的路径规划微服务,并在沈阳烟草进行实际应用。过去1年时间里,该服务使用频次超过1.7万次,路径规划总长度超过15.6万公里,具有良好的实用性和通用性。

一个多算法集成的灵活并行测试生成原型系统

并行测试生成原型系统 PATGTA基于串行 ASIC测试生成和可测性分析系统 ATGTA,采用 PVM作为并行支撑环境 ,可方便地移植于各种并行计算环境 ,采用主从模式开发并集成了多种并行算法。对 Benchmark- 89电路的实验结果表明 。

小麦模型算法集成平台构建与算法比较

为方便小麦模型算法比较与多算法集成模拟,本研究参考国内外主流作物模型CERESWheat、APSIMWheat、WheatSM、WOFOST、SWAT等的主要算法,集成了发育期、生物量、产量形成等模块的多种算法,构建了小麦模型算法集成平台(Wheat model algorithm integration platform,WMAIP)。发育期模块集成了小麦钟模型和热时两种算法;生物量模块集成了群体光合作用、光能利用效率和二氧化碳同化率3种算法;产量形成模块集成了籽粒灌浆、生物量转移和收获指数3种算法。基于模型平台组成了6个具有代表性的模拟模型。利用河北省吴桥县2017—2019年两年播期试验的田间观测数据结合2011—2014年3年播期耦合水分文献资料对模型进行参数校准与验证,并对特定模块的不同算法进行比较。结果表明,各模型的模拟结果与实测值均吻合良好,模拟误差在合理范围之内,其中发育期、地上部生物量、产量和土壤贮水量模拟值和实测值的归一化均方根误差(NRMSE)分别在0.56%~4.00%、16.13%~18.72%、12.48%~18.95%和10.78%~11.63%之间,模型集合的模拟效果优于单一模型。通过算法比较发现,发育期模块中热时法模拟播种至拔节阶段较优,小麦钟模型模拟播种至开花阶段和播种至成熟阶段较优;生物量模块中3种算法均为模拟小麦生物量的较佳模型,但在高辐射条件下,群体光合作用法模拟的生物量较高;产量模块中3种算法模拟的产量变化趋势较为一致,但生物量转移法效果略好。该平台集成了特定模块的多种算法,能较好地模拟土壤贮水量和冬小麦的生物学指标,在小麦模型算法比较与改进、集成模拟及气候变化影响评估方面具有较大的应用潜力。

基于Stacking算法集成的我国信用债违约预测

通过对2014~2019年我国信用债违约案例的原因分析及相关文献综述,从债券资质、债务主体、财务数据、宏观因素四个维度构建债券违约的指标体系,利用随机森林算法优化,研究发现当影响因素选择18项与37项时,样本内外预测结果达到均衡。基于不同角度的七种算法对比分析,择优选取三种作为底层算法:随机森林算法、梯度提升决策树算法与贝叶斯算法,并结合逻辑回归算法为次级训练算法融合构建基于Stacking算法集成的债券违约预测模型。实证结果表明,第一,Stacking算法的双重集成作用相对底层的单次集成总体精确度提升了1%到8%;第二,对不同指标数量的Stacking算法集成模型的评估表明所构建的指标体系提高了预测水平;第三,基于样本内外预测均衡的底层算法选择方法有效可取,分别纳入相对劣势的底层算法时,会逐渐影响模型稳定性。研究成果可以为我国债券市场风险管理提供技术支持与参考。

基于算法集成的调度系统多智能体实现框架

在混合算法研究的基础上,提出了调度系统中算法集成的概念,建立了算法类库。以多智能体系统为实施平台,给出了一种新的具体实现框架。系统中智能体可分为构造型、改进型和决策型三类,且无主控智能体,各智能体间不直接通讯,而是通过共享内存进行合作。描述了单智能体的基本结构。考虑到领域专家知识在调度系统中的重要性,将调度员作为一个特殊的智能体引入调度系统,改善了决策过程。最后分析了系统的特点。

物探数据在线处理平台算法集成技术研究

地球物理软件是学习和研究地球物理的必要工具。现有的地球物理软件解决了常规数据处理和可视化需求,但在多源地质大数据综合应用方面依然存在问题。而“云化”可以更好地实现团队远程协作,优化软件计算性能,提高数据处理效率,是解决现有问题的方法之,RGIS.online是RGIS的云化产物,实现了“云+端”数据处理模式.

基于算法集成分段自适应道路检测技术研究

视觉辅助导航系统要求具有很高的稳定性和实时性,而车辆行驶过程中道路场景会发生变化,目前常用的道路检测算法难以保证在各种道路环境下都有很好的检测性能,迫切需要研究能够跟踪道路场景变化的自适应道路检测技术;提出了基于算法集成分段自适应道路检测系统,给出了系统流程及结构;实验结果表明,该方法具有自适应性强、算法设计简便、实现成本低等优点,具有很高的实用意义。

分布式计算系统中的算法集成方法

算法集成是研制建设综合性数据处理分析系统的一项重要内容.本文基于临近空间科学实验支持系统研制实践,针对面向科学研究需求的数据处理分析系统的算法集成问题,设计了一种大型分布式系统中集成多种类、多版本、多功能算法的方法,通过构建算法插件,满足了此类科学实验支持系统并行开发、插件化调用、灵活扩展、更新迭代的要求.采用该方法集成的系统部署在ZStack私有云平台上,通过对临近空间科学实验中多种大气参数、原位探测参数、生态参数的计算分析实验验证了该方法的有效性.

一种分层多算法集成的微博情感分类方法

目前主观信息情感分类常用的方法主要有基于知识工程和基于统计两类,其中基于统计的机器学习方法在效率上优于基于知识的方法,但单一的机器学习算法有各自的优缺点,难以胜任复杂的分类任务。本文将微博情感判别任务分层,在不同层次选择合适的机器学习算法,提出了一种多算法集成的微博细粒度情感分类方法。首先采用朴素贝叶斯(NB)分类器对微博进行有无情绪分类,然后采用AdaBoost集成算法对KNN进行集成训练出多个分类器,对有情绪微博基于训练出的多个分类器通过线性组合模型进行情感判别。实验结果表明,在文本分类任务中合理集成不同机器学习算法,较单一机器学习算法和基于情感词典的方法能够提高分类性能。

互联网金融社交平台数据不平衡类分布问题的重采样与算法集成策略

互联网金融社交平台存在大量无关用户,致使潜在客户发掘工作面临挑战,使用重采样技术和算法集成可以解决这种不平衡类分布问题。本文整理出各种方法及其技术的优缺点,给出具体方法及代码,并证明方法的有效性。

基于集成树算法的岩石黏聚力和内摩擦角预测方法

岩石的黏聚力(c)和内摩擦角(φ)是岩石工程设计及稳定性评价的重要参数,其直接测量需通过多组三轴或剪切试验,耗时多且成本高。基于4个易获取的岩石物理力学参数(纵波波速VP、密度ρ、单轴抗压强度UCS和巴西抗拉强度BTS),构建了用于预测c和φ值的智能模型。共收集了199组含不同岩石类型的数据,采用5种集成树算法开发预测模型,使用贝叶斯优化算法对模型的超参数进行优化。模型评估结果表明:构建的模型均具有较好的预测性能,其中极端随机树模型表现最佳(测试R^(2)>0.97)。敏感性分析表明:VP、UCS和BTS对c值的预测结果影响较大,ρ对φ值的预测结果影响较大。研究成果已成功应用于金川矿区,验证了模型的实用性,开发的图形用户界面便于工程技术人员使用。

基于Stacking集成算法的抛石护岸水毁破坏预测研究

抛石护岸在顶冲等极端情况下易发生水毁破坏,给人民的生命财产带来威胁。通过水槽试验获取496组样本数据,利用互信息(MI)筛选出6个关键特征属性,并采用支持向量机(SVR)、广义回归神经网络(GRNN)和随机森林(RF)等机器学习算法构建多个预测模型。然后,将这些模型作为基学习器,结合BP神经网络(BPNN)作为元学习器,采用Stacking集成学习方法构建抛石护岸破坏程度预测模型。最后,通过决定系数(R^(2))、均方根误差(R_(RMSE))及平均绝对误差(M_(MAE))等评价指标对模型性能进行评估。结果表明,Stacking模型在抛石护岸破坏高度、长度、范围上的平均R^(2)为0.98、RRMSE为0.02、M_(MAE)为0.03,相较于单一模型(SVR、GRNN、RF),Stacking模型的R_(RMSE)、M_(MAE)皆为最小,R2最高。在抛石护岸水毁破坏程度的预测中,融合的Stacking模型展现出更高的准确性与稳定性。

基于集成学习算法的可持续模块划分方法

随着客户对可持续产品需求的增加,针对产品功能和结构属性的传统模块化设计,正逐步转向可持续模块化设计。然而当前的模块划分方法更注重于对模块化指数的优化迭代,忽略了产品多组件间的信息传递和反馈。为此,提出一种集成学习算法的可持续模块划分方法。首先,面向组件间的回收性、材料和寿命因素,构建产品的综合DSM模型。其次,提出集成学习算法的弱分类器构建规则和强分类器结合策略。最后,通过颚式破碎机案例验证了所提模块划分方法的可行性,集成学习算法同直接聚类和遗传算法的模块划分结果对比,表明所提方法各模块组件更接近DSM的对角线。

基于多目标优化加权软投票集成算法的信用债违约预警研究

为了提高信用债违约预测的准确性和稳定性,便于金融风险管理,以2014年1月1日—2021年12月31日的信用债为研究对象,提出一种基于多目标优化的加权软投票集成算法。该算法通过计算每个基分类器的模糊密度来量化其识别能力,并使用多目标粒子群算法来求解基分类器的权重。将所提算法与其他单一分类器如支持向量机、逻辑回归、高斯贝叶斯、MLP,以及其他集成算法如投票类集成算法(voting)和stacking算法进行比较,采用期望PFI算法进行特征重要度分析。结果表明,加权软投票集成算法在信用债违约预测中表现出色,不仅提升了单一算法的性能,且相对于其他集成算法,具有更高的准确性、精确度和AUC值。违约前主体评级、交易所、违约前债项评级、总资产周转率、货币资金、净资产增长率、经营活动现金流量占营收比、GDP、PPI、注册地、短期国债利率、宏观经济景气指数(先行指数)、债券类型和所属行业的特征重要度较高,在信用债违约中值得关注。该研究可为金融风险预测提供一种有效方法,对于投资者和金融机构的风险预警具有重要参考意义。

基于集成学习算法和WOFOST模型的小麦生长模拟分析与产量预测

针对传统单一作物生长模型和机器学习模型在预测上的限制,将WOFOST模型与灌溉模型结合,利用集成学习算法建立多模型耦合系统(WOFOST耦合模型),选用美国航空航天局(NASA)1990—2020年数据进行模拟试验,选取2006年、2018年展示试验成果。结果表明,WOFOST耦合模型的小麦叶面积指数、总生物量均高于WOFOST模型,WOFOST耦合模型更贴近实际生产活动。耦合算法的MAE、MSE均低于Bagging、Boosting、Stacking算法,分别为2.836、7.581,R~2均高于Bagging、Boosting、Stacking算法,高达0.942。WOFOST耦合模型更全面和准确地模拟作物生长状态,提高产量预测的准确性与可信度。

基于Stacking集成算法的混凝土28d抗压强度预测

为实现混凝土28d抗压强度的精准预测并解决不同机器学习模型间相互独立不能优势互补的问题。本研究通过357组混凝土配合比数据构建数据库,并采用Stacking集成方法对3个单一机器学习模型(KNN、XGBoost和RF)进行集成预测研究。首先通过随机抽样方法将数据库划分为训练集和测试集,然后分别进行了单一机器学习模型和集成模型的训练和测试集预测,最后采用平均绝对误差指标(MAE)、均方根误差指标(RMSE)和确定系数(R2)对模型的预测结果进行评价。结果表明,RF模型在三个单一机器学习模型(KNN、XGBoost和RF)中表现最好(MAE=3.0705,RMSE=4.1847,R^(2)=0.8817);此外,Stacking集成模型的预测性能优于任意单一模型,相较于单一模型中表现较好的RF模型,其预测性能实现了显著提升(MAE下降2.6%,RMSE下降9.8%,R2提升2.5%)。

基于联邦集成算法对不同脱敏数据的研究

针对联邦学习中存在梯度更新导致本地数据可能泄露的问题,提出基于本地脱敏数据上的联邦集成算法。该算法用变异率与适应度阈值的不同取值对原始数据进行脱敏,且使用不同类型的模型在经不同程度脱敏的数据上进行本地模型训练,以确定适合的联邦集成算法参数。实验结果表明,与联邦平均算法和传统集中式训练相比,stacking联邦集成算法与voting联邦集成算法的准确率要优于基线准确率。在实际应用中,可根据不同的需求设置不同的脱敏参数来保护数据,以此提升数据的安全性。

基于GA、BP神经网络和多元回归的集成算法研究

遗传算法、BP神经网络和多元回归是目前应用比较广泛的数据挖掘算法,它们各俱优点,同时也存在诸多无法避免的缺陷。该文在前三者的基础上,提出一种BP网络与多元回归模型融合的杂合BP网络,并采用遗传算法优化杂合BP网络的初始权值,有效地避免几种方法在单独使用时存在的缺陷。验证实验结果表明:新方法所建立的模型在收敛速度、精度和泛化能力上都明显优于GA、BP神经网络和多元回归,并且较当今比较热门的ELM、SVRKM和SVM也有较显著的改进。