基于多精度深度神经网络的汽车气动外形优化设计方法

在汽车气动外形优化设计中,往往需要大量的高精度CFD数据作为支撑。然而,高精度CFD数据获取难度大、成本高。为了缓解汽车气动优化设计中气动特性评估精度和效率之间的矛盾,根据迁移学习与数据融合的思想,提出了一种基于多精度深度神经网络(multi-fidelity deep neural network, MFDNN)的汽车外形优化设计方法,以减少优化设计中所需的高精度数据个数,从而有效提升优化速度、降低优化成本。将所发展的优化方法应用于快背式MIRA标准模型减阻优化设计中,优化结果表明,该方法能够充分融合不同精度数据所蕴含的知识,加速气动外形优化进程,提升优化效率。以收敛用时作为评价指标,在取得相近或更优优化结果的前提下,基于多精度神经网络的优化框架的收敛速度是基于单精度神经网络的离线优化框架的5.85倍,是基于单精度神经网络的在线优化框架的2.81倍。

基于多特征的深度神经网络混合推荐模型研究

近年来,深度学习广泛应用于推荐系统领域,并受到了极大的欢迎。然而,将混合推荐与深度学习技术相结合的研究还处于起步阶段。将深度学习技术应用于混合推荐,设计了一个基于多特征的深度神经网络混合推荐模型(MFDH),通过将深度学习技术和多层感知机技术相结合,从多角度自动学习用户和项目之间的交互,更全面地反映出用户的偏好。在两个不同的公开数据集上进行了实验,结果证明,该模型相比基线模型有较高的推荐质量。

轻量级深度神经网络模型适配边缘智能研究综述

随着物联网和人工智能的迅猛发展,边缘计算和人工智能的结合催生了边缘智能这一新的研究领域。边缘智能具备一定的计算能力,能够提供实时、高效和智能的响应。它在智能城市、工业物联网、智能医疗、自动驾驶以及智能家居等领域都具有重要的应用。为了提升模型的准确度,深度神经网络往往采用更深、更大的架构,导致了模型参数的显著增加、存储需求的上升和计算量的增大。受限于物联网边缘设备在计算能力、存储空间和能源资源方面的局限,深度神经网络难以被直接部署到这些设备上。因此,低内存、低计算资源、高准确度且能实时推理的轻量级深度神经网络成为了研究热点。文中首先回顾边缘智能的发展历程,并分析轻量级深度神经网络适应边缘智能的现实需求,提出了两种构建轻量级深度神经网络模型的方法:深度模型压缩技术和轻量化架构设计。接着详细讨论了参数剪枝、参数量化、低秩分解、知识蒸馏以及混合压缩5种主要的深度模型压缩技术,归纳它们各自的性能优势与局限,并评估它们在常用数据集上的压缩效果。之后深入分析轻量化架构设计中的调整卷积核大小、降低输入通道数、分解卷积操作和调整卷积宽度的策略,并比较了几种常用的轻量化网络模型。最后,展望轻量级深度神经网络在边缘智能领域的未来研究方向。

基于深度神经网络与Logistic模型的财务风险预警研究——来自制造业上市公司数据

复杂多变的外部经济环境促使企业财务风险不断上升,寻求有效的财务风险预警模型以提高公司财务风险管理能力是当前理论界与实务界重点关注的热点话题。人工智能技术在各领域应用的飞速发展,为识别和评估公司财务风险提供了新方向,本文基于人工智能领域主流算法——机器学习算法,构建深度神经网络预警模型以识别和评估公司财务风险。本文以2001-2023年制造业上市公司为样本,使用PSM匹配将样本分为财务危机组和经营良好组,综合多维度多目标的财务风险预警指标体系,并使用计算机模拟仿真技术和多模型对比测试,研究发现基于机器学习算法的深度神经网络模型对预测财务风险准确率达到90%。进一步,本文运用Logistic模型获取了对企业财务风险影响较大的因素。本文研究为识别、评估和控制财务风险提供了新的理论模型,也为管理者增强公司风险防范水平提供了实践指导。

基于混合优化算法和深度神经网络模型结合的致密砂岩气藏裂缝参数优化

水平井分段压裂是致密砂岩气藏的主要开发方式,其中水力压裂裂缝参数的合理设计对于气藏的经济效益开发至关重要。基于群智能优化算法和机器学习代理模型的自动优化方法存在所需数值模拟次数多、收敛速度慢和代理模型更新复杂等问题,且依靠现场工程师经验和正交实验等传统方法难以获得最佳的裂缝参数设计。为此,建立了一种新的基于混合优化算法和自适应深度神经网络(DNN)结合的致密气藏裂缝参数优化方法。首先,混合优化算法采用遗传算法(GA)和贝叶斯自适应直接搜索(BADS)之间循环迭代的混合策略。在自适应学习过程中,提出了以“最大平均距离点”作为最不确定解,同时辅以最有希望解和少量拉丁超立方采样解共同更新优化过程中的DNN代理模型。随后,将建立的优化方法用于非均质致密砂岩气藏裂缝参数优化。研究结果表明:(1)在标准测试函数和低维裂缝参数优化问题上,GA+BADS混合优化算法表现出了显著优于GA的寻优速度;(2)针对高维裂缝参数优化问题,GA+BADS混合优化算法在约1/2的GA总数值模拟次数下提高了131万元的经济净现值(NPV),收敛速度和寻优精度都明显增加;(3)相比于GA+BADS混合优化算法,在获得相同NPV时,自适应DNN代理加速优化可再减少24.54%的数值模拟运算次数。结论认为,该优化方法显著提升了优化效率,为解决非常规油气藏中水力压裂裂缝参数设计问题提供了一套可行且高效的智能优化方法,将有力促进非常规油气的规模效益开发。

基于深度神经网络的杉木树高-胸径模型研建

利用深度神经网络(DNN)模型建立杉木的树高-胸径模型,寻求一种更加高效的杉木树高预测方法。以贵州省清镇市国有林场49块样地中杉木的胸径、树高数据为研究对象,分成不同比例的训练集和测试集,训练集占比分别为20%,30%,40%,50%,60%,70%,80%;对应的测试集占比分别为80%,70%,60%,50%,40%,30%,20%。利用DNN构建树高-胸径模型,并将其与11个传统基础模型进行比较,通过R^(2)、RMSE和MAE对比选出预测效果最好的模型,并根据最优模型添加林木胸径与优势木平均胸径比(DDH),以提高模型的预测精度。利用DNN模型建立的树高-胸径模型在训练集占比为20%的情况下,加入DDH因子后其预测精度R^(2)达到0.89。利用DNN构建杉木树高-胸径模型对杉木树高进行预测,在使用较小数据量的前提下加入DDH因子能够提高对杉木树高的预测效果。

基于前馈神经网络的钻孔精度影响因素预测模型

孔的加工是影响机械产品质量的关键工序之一,一旦出问题很难修复,钻孔精度的提升对于改进孔的加工质量、降低钻孔工件废品率、减少重复加工有着重要意义。机械产品中设计孔时经常有较高的精度要求,但实际孔加工时受到设备、钻头、材料加工方法等的影响,其精度影响因素众多,要在加工前对孔的加工精度进行预测,无法利用数学关系建立准确的预测模型,因此将其精度主要影响因素进行分析,设计影响因素的主要数据采集点,通过小批量的实验采集数据建立钻孔实验数据库,结合其数据特点,基于多模态的需要,利用深度为2的前馈神经网络拟态模型将钻孔精度定义的定位精度、尺寸精度、形状精度、表面精度和垂直精度五种精度建立预测模型,利用Adam优化器,结合均方误差(mean-square error,MSE)以及梯度下降法进行反向传播训练,对比实际加工结果,本模型在训练集中达到了89%的孔加工精度预测准确度。基于本模型的结果即可针对孔加工过程不同的影响因素进行针对性调整优化,提升孔加工的整体精度。

深度神经网络模型任务切分及并行优化方法

为解决传统手工切分神经网络模型计算任务并行化方法面临的并行化难度大、训练耗时长、设备利用率低等问题,提出了一种基于深度神经网络(DNN)模型特性感知的任务切分及并行优化方法。结合硬件计算环境,对模型计算特性进行动态分析,获取模型内部相关性和各类参数属性,构建原始计算任务有向无环图(DAG);利用增强反链,构建DAG节点间可分区聚类的拓扑关系,将原始DAG转换为易于切分的反链DAG;通过拓扑排序生成反链DAG状态序列,并使用动态规划将状态序列切分为不同执行阶段,分析最佳分割点进行模型切分,实现模型分区与各GPU间动态匹配;对批量进行微处理,通过引入流水线并行实现多迭代密集训练,提高GPU利用率,减少训练耗时。实验结果表明:与已有模型切分方法相比,在CIFAR-10数据集上,所提模型切分及并行优化方法可实现各GPU间训练任务负载均衡,在保证模型训练精度的同时,4 GPU加速比达到3.4,8 GPU加速比为3.76。

深度神经网络模型水印研究进展

随着深度神经网络在诸多领域的成功应用,以神经网络水印为代表的深度模型知识产权保护技术在近年来受到了广泛关注。对现有的深度神经网络模型水印方法进行综述,梳理了目前为了保护模型知识产权而提出的各类水印方案,按照提取水印时所具备的不同条件,将其分为白盒水印、黑盒水印和无盒水印3类方法,并对各类方法按照水印嵌入机制或适用模型对象的不同进行细分,深入分析了各类方法的主要原理、实现手段和发展趋势。然后,对模型水印的攻击方法进行了系统总结和归类,揭示了神经网络水印面对的主要威胁和安全问题。在此基础上,对各类模型水印中的经典方法进行了性能比较和分析,明确了各个方法的优势和不足,帮助研究者根据实际的应用场景选用合适的水印方法,为后续研究提供基础。最后,讨论了当前深度神经网络模型水印面临的挑战,并展望未来可能的研究方向,旨在为相关的研究提供参考。

基于深度神经网络的年龄预测模型的构建和评价

目的利用GEO数据库筛选年龄相关的差异基因,构建和评价基于深度神经网络(DNN)的年龄预测模型。方法收集GEO数据库583例正常人的转录组数据,利用R语言的“limma”软件进行差异表达分析,进一步通过Lasso回归筛选年龄相关特征基因。构建深度神经网络模型,训练集数据优化模型后,采用测试集数据对模型进行评价。结果共筛选出156个年龄相关特征基因,采用15个年龄相关特征基因构建的DNN年龄预测模型效果最佳,其最大误差、中位数误差和均方根误差分别为11岁、4岁和6岁。与弹性网络回归算法(ENR)、随机森林算法(RF)、随机梯度下降算法(SGD)和支持向量回归算法(SVR)相比,基于DNN的年龄预测模型误差最小,精度最高。15个年龄相关特征基因在HUVEC衰老细胞中的表达量也发生显著变化。结论本研究构建的基于DNN的年龄预测模型可准确和特异地预测年龄,在衰老相关疾病的发生机制、治疗和预后方面发挥重要作用。

融合蛋白质语言模型与深度神经网络的植物蛋白质相互作用预测研究

预测植物中的蛋白质-蛋白质相互作用(PPI)具有重要的生物学意义。同时采用了4种编码方法及深度神经网络构建了蛋白质相互作用预测模型。结果表明,提出的融合蛋白质语言模型Ankh与深度神经网络的方法构建的PPI预测模型性能在3种植物数据集上均获得了最优的AUPR和AUC值,Sen及MCC值也均优于其他4种蛋白质相互作用预测模型。当模型在水稻、大豆的植物PPI数据集上进行测试时,所提出的模型AUPR值分别为0.8025、0.7301,AUC值分别为0.9562、0.9507。这些优异的结果表明,融合蛋白质语言模型Ankh的PPI模型可以作为植物蛋白质相互作用预测的一个有前途的工具。

基于模型剪枝的深度神经网络分级授权方法的实现

基于现有深度神经网络模型无法根据使用权限进行分级授权的问题,设计提出了一种新型的DNN模型分级授权方法,其可以根据模型权限不同分发不同模型精度。该方法依据模型剪枝技术实现了模型性能的分级,利用特定的剪枝速率或剪枝阈值对模型进行剪枝和微调,通过在剪枝和微调阶段对模型进行调整从而使模型输出不同等级的准确率,最后将不同的用户权限与对应等级的准确率相匹配。在多个数据集和DNN模型上进行了实验,并利用CIFAR-10和CIFAR-100数据集进行验证。实验结果表明,该方法能够有效地将模型的性能分级,在多个DNN模型上都有良好的效果。

基于GWO算法和NARX神经网络训练方法的高精度热电偶动态补偿模型构建与实践研究

为提升热电偶测量精度和准确度,本文基于GWO算法和NARX神经网络训练方法,构建高精度的热电偶动态补偿模型,并进行实践研究。结果表明:该模型具有较高的精度和准确性,能有效预测和补偿热电偶的温度数据,对提高热电偶测量系统的性能和稳定性具有重要意义,可广泛用于工业自动化和环境监测等领域。

基于双输入输出卷积神经网络代理模型的油藏自动历史拟合研究

传统油藏自动历史拟合方法需进行多次计算耗时的油藏数值模拟,而深度学习代理模型可以实现高效且精度近似的油藏数值模拟替代计算。在基于深度学习代理模型的油藏自动历史拟合方法中,通常将采用油藏自动历史拟合方法进行调整的油藏不确定性参数作为深度学习代理模型的输入参数。现有的深度学习代理模型常为单一输入输出的神经网络模型架构,并未考虑油藏自动历史拟合方法需要对多个油藏不确定性参数进行调整,且需要训练多个深度学习代理模型以实现对油藏含水饱和度场分布及压力场分布的预测。为此,提出了一种基于双输入输出卷积神经网络代理模型的油藏自动历史拟合方法,将油藏渗透率场分布及相对渗透率参数作为输入,使用双输入输出卷积神经网络同时对油藏含水饱和度场分布及压力场分布进行预测,利用Peaceman方程计算产量,并耦合到多重数据同化集合平滑器(ES-MDA)方法中,对油藏渗透率场分布及相对渗透率参数进行反演更新,实现较为高效的油藏自动历史拟合求解。研究结果表明:双输入输出卷积神经网络代理模型在指定时间步的油藏含水饱和度场分布、压力场分布的预测精度均为93%以上。相较于传统油藏自动历史拟合方法,基于双输入输出卷积神经网络代理模型的油藏自动历史拟合方法避免了多次调用油藏数值模拟器的计算耗时问题,提高了拟合效率。

基于YOLO神经网络构建压力性损伤自动检测和分期的人工智能模型

背景随着人口老龄化,压力性损伤(PI)的发病率逐渐增加,这不仅严重影响了患者的生存质量,还增加了医保支出。然而,PI的早期发现和准确分期极大地依赖于专业培训。目的构建并测试一个用于PI自动检测和分期的人工智能模型,以提高PI诊断的实时性、准确性和客观性。方法选取常熟市第一人民医院压疮电子化管理系统中2021年1月—2024年2月的693张PI图像,将图像随机划分为训练集(551张)和测试集(142张),并按照2019年美国压疮咨询委员会(NPUAP)制订的PI预防和治疗指南分为6期,包括:Ⅰ期154张、Ⅱ期188张、Ⅲ期160张、Ⅳ期82张、深部组织损伤期57张、不可分期52张。利用基于5种不同版本的YOLOv8[nano(n)、small(s)、medium(m)、large(l)和extra large(x)]神经网络和迁移学习,建立针对PI的深度学习目标检测模型。模型评价指标包括精确度、准确率、灵敏度、特异度及检测速度等。最后,通过Ultralytics Hub平台将模型部署到手机应用程序(App)中,实现AI模型在临床工作中的应用。结果在对包含142张PI图像的测试集进行评估时,YOLOv8l版本在确保高精确度(0.827)的同时,也展现了较快的推理速度(68.49帧/s),与其他YOLO版本相比,在精确度与速度之间取得了最佳的平衡。具体而言,其在所有类别上的整体准确率为93.18%,灵敏度为76.52%,特异度为96.29%,假阳性率为3.72%。在6个PI分期中,模型预测Ⅰ期的准确率最高,达到95.97%;预测Ⅱ期、Ⅲ期、Ⅳ期、深部组织损伤期、不可分期分别取得了91.28%、91.28%、91.95%、95.30%和93.29%的准确率。就处理速度而言,YOLOv8l处理142张图像的总耗时为2.07 s,平均每秒可处理68.49张PI图像。结论基于YOLOv8l网络的AI模型能够快速、准确地对PI进行检测和分期。将该模型部署到手机App中,能够在临床实践中便携使用,具有很大的临床应用潜力。

并联卷积神经网络的近红外光谱定量分析模型

近红外光谱分析已成为工农业生产过程质量监控领域中不可或缺的重要分析手段之一,在食品、农业、医药等定性定量分析领域被广泛应用。预测精度高、运行速度快、泛化能力强的近红外光谱预测模型可用于不同物质的定性定量分析。但由于近红外光谱数据量的激增,传统的近红外光谱建模方法已经出现明显的不足。随着人工智能技术的不断发展,深度学习算法在近红外光谱分析领域得到了广泛应用。提出了一种基于并联卷积神经网络的近红外光谱定量分析模型(PaBATunNet)。该模型由1个一维卷积层、1个并联卷积模块(Module)、1个展平层、4个全连接层和1个参数调节器(PR)组成,Module模块包括5个子模块分别对光谱数据进行线性及非线性多维特征提取,并通过Concatenate函数将提取后的光谱特征数据进行拼接,PR模块通过调节优化PaBATunNet模型参数,提高模型预测精度。基于Gard-CAM思想给出了PaBATunNet模型高贡献度特征波长,增加了PaBATunNet模型的可解释性。以谷物、柴油、啤酒、牛奶四组公开的近红外光谱数据为例,将PaBATunNet模型的预测结果与偏最小二乘(PLS)、主成分回归(PCR)、支持向量机(SVM)和BP神经网络(BP)模型的预测结果进行比较。结果表明,与PLS相比,PaBATunNet模型在谷物、柴油、啤酒、牛奶数据集的预测精度上分别提高了30.0%、40.7%、43.0%、52.8%;与PCR相比,PaBATunNet模型的预测精度分别提高了28.8%、35.9%、40.8%、52.2%;与SVM相比,PaBATunNet模型的预测精度分别提高了45.5%、37.4%、45.3%、54.7%;与BP相比,PaBATunNet模型的预测精度分别提高了7.9%、32.4%、90.1%、62.0%。基于并联卷积神经网络的近红外光谱建模方法相比于传统建模方法解决了模型预测精度低、运行时间长、泛化能力差以及可解释性不强等问题,可有效应用于工农业生产中不同物质的定量分析,为建立快速、无损、高精度的近红外光谱定量分析模型提供了科学基础。

一种基于一维卷积神经网络的试井模型智能识别方法

为提高试井分析工作效率,实现试井模型的自动识别,提出了基于一维卷积神经网络(1D CNN)的试井模型智能识别方法。根据实测数据的特点,提出基于理论曲线构建样本库的原则与方法,并构建了4种常用油藏模型的训练样本库;建立了一维卷积神经网络模型,将样本库中双对数曲线的压力变化和压力导数数据作为输入,油藏类别作为网络输出训练及优化网络,总识别准确率可达99.16%,敏感度均在98%以上。经4口井实例应用,正确识别试井模型的概率大于0.99,与二维卷积神经网络相比,1D CNN显著降低了计算复杂度和时间成本,加快了训练速度。这表明基于试井理论所构建的样本库是有效的,能满足实测数据模型识别的需求;同时证明了方法的有效性、实用性和普适性。

基于卷积神经网络的福建省区域滑坡灾害预警模型

福建省滑坡灾害频发,开展区域尺度上的滑坡灾害预警是防灾减灾的重要手段,但由于滑坡成灾机理复杂,传统的区域滑坡预警方法存在精度不足等问题。深度学习是指通过构建神经网络模型进行特征的提取、抽象、表示与学习的技术,是机器学习的一种。卷积神经网络作为一种经典的深度学习算法,具有比传统机器学习更强大的分类能力与表征能力。文章以福建省为研究区,将卷积神经网络引入滑坡灾害预警领域,构建福建省区域滑坡预警模型,过程及结果如下:(1)采用SMOTE优化算法对2010—2018年福建省滑坡灾害样本库进行优化,扩充正样本的个数,将正负样本比例从1∶3.4扩充到1∶2,样本总量达到18040个;(2)构建卷积神经网络模型结构,模型结构包括一个输入层、两个卷积层、两个最大池化层和一个全连接层以及一个输出层;(3)使用卷积神经网络对优化后的样本(2010—2018年样本的80%作为训练集)进行训练,并用贝叶斯优化算法优化模型超参数,得到福建省区域滑坡预警模型;(4)以2010—2018年样本的20%作为测试集对模型进行测试,采用混淆矩阵、ROC曲线进行模型测试,结果显示模型准确度为0.96~0.97,AUC值达到0.977,模型精度与泛化能力良好;(5)以2019年汛期滑坡灾害实况作为正样本,通过时空采样的方法采集负样本,构建2019年区域滑坡样本校验集(样本数603个),对模型进行进一步实况校验,采用混淆矩阵、ROC曲线进行模型校验,结果显示模型准确度为0.75~0.85,AUC值为0.852。虽然仅用了2019年汛期的滑坡实况样本进行校验,但也达到较好的效果。将卷积神经网络算法应用到区域滑坡预警中,为建立区域滑坡预警模型提供了一种新的途径,初步校验表明,模型效果良好,今后将在福建省对模型进行进一步的应用与校验。

基于深度复数神经网络的雷达目标DOA估计算法

传统模型驱动的波达方向(direction of arrival, DOA)估计算法性能受限于有限的信号特征、快拍数、信噪比、信杂比等因素,在低信噪比、快拍数少的极端情况下,性能较差。为克服上述问题,提高在极端条件下的估计精度,文章提出基于深度复数神经网络(complex-valued neural networks, CVNN)的单快拍DOA估计算法,构建深度复数神经网络模型,学习原始带噪信号与理想无噪复信号之间的映射关系,进而实现噪声抑制和期望信号特征增强的目的,提高DOA估计精度。仿真实验结果表明,经CVNN增强后,数据的等效信噪比约提高了1 dB,等效快拍数提高了3,该文所提算法相较于已有的多种物理驱动算法而言,具有更高的估计精度和泛化性。

基于EEMD-NGO-LSTM神经网络耦合的月径流预测模型及应用

为了提高径流序列的稳定度和精度,减小参数优化不当导致的非线性误差,研究将长短期记忆神经网络(LSTM)、集成经验模态分解(EEMD)和北方苍鹰优化算法(NGO)相结合,构建了EEMD-NGO-LSTM耦合预测模型。将此预测模型应用于模拟东辽河中下游的控制总站——王奔水文站2012年~2021年逐月径流过程,并与鲸鱼算法(WOA)以及灰狼算法(GWO)优化的长短期记忆神经网络进行模型比较。结果表明,EEMD-NGO-LSTM耦合预测模型的超参数迭代速度最快,精度最高,预测结果最接近实测值,其决定系数R^(2)为0.8643。而后采用CMIP6气候模式(SSP126情景)下的2030年的降水、气温数据输入模型进行预测,在气温上升1℃,降水不变的情景下,年径流量将增加6.61%;在降水升高5%,气温不变的情景下,年径流量将增加6.95%;在气温上升1℃、降水升高5%的情境下,年径流量将增加22.16%。