基于时变深度前馈神经网络的风电功率概率密度预测

针对传统循环神经网络(RNN)和卷积神经网络(CNN)模型对风电功率进行较长时间尺度的短期预测时出现的时不变性问题,应用时变深度前馈神经网络(ForecastNet)模型进行短期风电功率不确定性预测。该模型的网络结构随时间变化以提高多步提前预测能力,模型交错输出以缓解梯度消失问题,使用混合密度网络得到各个时刻的概率密度分布。在避免传统深度学习模型中,该模型能避免递归多步预测累积误差的同时可以充分考虑相邻时刻风电功率的相关性;在模型隐藏层中,使用美国PJM网上的风电功率实际数据,分别应用全连接网络、卷积网络以及基于注意力机制的卷积网络3种神经网络模型进行预测,每次预测未来12 h的风电功率,滚动预测得到未来500 h的风电功率区间和概率密度,实验仿真结果能够证明所提预测模型的有效性。

基于地震属性和深度前馈神经网络的天然气水合物饱和度预测

天然气水合物饱和度是评价资源量的重要参数,常规的地震反演储层预测方法存在精度低、效率不高的问题,且无法解决地震数据与储层参数之间的非线性问题。随着人工智能技术的迅速发展,许多相关技术已经应用于地震勘探领域,其中人工神经网络是人工智能的一个重要分支,其可以通过从大量的样本数据中不断学习,进而拟合复杂非线性函数来实现地下储层特征反演,有着很强的非线性映射和泛化能力。因此,本文在分析了常规线性公式以及岩石物理建模法优缺点的基础上,提出了基于地震属性和深度前馈神经网络预测水合物饱和度的方法。首先,基于测井和地震数据,通过筛选出不同类型与水合物饱和度相关性高的地震属性体,多维度构建样本标签数据;然后采用地震反演与端到端(地震数据-储层物性数据)反演相结合的策略,对全连接神经网络的隐藏层数、神经元数量、迭代次数等参数进行测试训练,最后将训练结果应用于地震数据体获得水合物饱和度预测结果。实际数据应用结果表明:基于地震属性和深度前馈神经网络预测的饱和度结果精度高、多解性低,与测井数据吻合好,证明该方法具有较好的应用价值;同时,预测的水合物空间分布特征表明研究区水合物成藏为平面游离气-水合物过渡成藏模式。

基于深度学习前馈神经网络的单斜辉石温压计分析火山的岩浆通道系统

对火山的岩浆通道系统的深入了解,对理解岩浆如何储存和迁移,以及评估与火山活动伴生的地质灾害等问题,都是至关重要的。单斜辉石(Cpx)温压计是最重要的研究手段之一。在此之前,使用Cpx温压计的前提是准确评估天然样品中所选的Cpx是否与共存熔体平衡。然而,无论是使用Cpx-熔体Fe-Mg交换系数,或是判断Cpx组分是否与模拟计算结果一致,均不足以准确判断Cpx的平衡状态。此外,由于无法准确获得Cpx中Fe^(3+)/ΣFe而将所有Fe视为Fe^(2+)的处理将导致高估Cpx中的硬玉端元(jadeite,NaAlSi_(2)O_(6)),并忽略霓石端元(aegirine,NaFe^(3+)Si_(2)O_(6)),进而高估了温压计算结果。另外,电子探针在评估矿物和熔融物中的水含量方面存在不足,这进一步影响了温压计的准确性。

前馈神经网络在预测连续泄漏系数中的应用

受泄漏孔几何参数、液位、液体物理特性及流动状态等因素影响,储罐连续泄漏系数难以直接采用流体力学建模求解。通过常压立式储罐连续泄漏试验获取数据样本,利用前馈神经网络(Feedforward Neural Network, FNN)算法构建连续泄漏系数(Cs)与输入变量间的非线性关系,建立基于前馈神经网络算法的Cs预测模型。模型性能评估结果表明,模型的平均绝对误差(EMA)、解释方差分(SEV)及决定系数(R2)分别为0.015 4、0.949 2及0.948 2,表明模型预测性能良好。与相应连续泄漏试验值比较,预测Cs的总平均绝对偏差范围为5.28%~7.34%,质量流率平均偏差为4.60%~6.51%,连续泄漏量的平均偏差为0.84%~2.03%,模型预测结果优于采用泄漏经验常数的计算结果,证明该模型可有效预测连续泄漏期间Cs值及变化趋势。

基于深度前馈神经网络的致密砂岩储层孔隙度预测

致密砂岩储层具有低孔低渗特点,由孔隙度变化引起的弹性参数和地震响应特征变化较弱,为解决常规的基于岩石物理关系线性映射孔隙度预测或者基于多属性融合的概率映射孔隙度预测方法难以表征孔隙度与地震属性间复杂非线性关系的问题,提出了基于深度前馈神经网络的孔隙度预测方法。该方法首先以测井计算的有效孔隙度曲线作为训练目标,以井旁的地震数据属性和反演弹性属性作为训练特征构成训练样本;其次通过优选评价确定复杂结构深度前馈神经网络模型参数,建立井旁地震数据与孔隙度之间的非线性映射关系;最后将训练优良的深度网络模型应用到整个数据体,得到有效孔隙度预测成果,进而实现致密砂岩优质储层定量表征。松辽盆地北部三角洲前缘沉积的致密砂岩应用实例表明,基于深度学习的孔隙度预测结果与井资料吻合较好,相对误差为8.1%,较常规基于岩石物理关系的线性映射孔隙度预测方法误差减小8.2%;证明了该方法对致密砂岩储层孔隙度预测的有效性。研究成果可为井位部署及方案优化设计提供理论指导与技术参考。

基于深度前馈神经网络方法的横波速度预测

针对横波速度预测问题,在分析经验公式法和岩石物理建模法优缺点的基础上,结合横波速度预测原理,提出基于深度前馈神经网络方法(DFNN)进行横波速度的预测。研究从纵、横波速度关系入手,详细阐述了DFNN方法应用于横波速度预测的可行性,并介绍了该深度学习方法的基本原理;选择声波时差、密度、中子孔隙度、泥质含量、孔隙度5个储层参数与横波速度进行深度神经网络训练,建立可靠的横波速度预测模型。将该模型应用于不同研究区的横波速度预测,结果表明基于DFNN方法预测横波速度能够有效提高预测的精度和效率,适用范围广,可以为叠前AVO分析、叠前反演提供可靠的横波数据,具有较高的实际应用价值和推广意义。

基于深度前馈神经网络的多因子人体表面积计算模型

人体表面积(BSA)在临床医学上有着至关重要的作用,但现有BSA计算方法大多只使用身高和体重2个参数且采用匹配简单函数的方法来估计体表面积,临床上也认为现有的BSA计算方法误差较大。针对这些问题,提出一种BSA回归预测模型。该回归预测模型包含2个部分:首先,借助相关性和显著性分析选择相关性较高的体表面积影响因子;其次,利用人体数据训练深度前馈神经网络,构建回归模型。实验分别采取5-折交叉验证与测试集验证2种方法。首先,将深度前馈神经网络模型与传统人体表面积计算方法进行精度评估和结果对比分析;其次将深度前馈神经网络模型与3种模型进行精度评估和结果对比分析。在与传统方法对比中,深度前馈神经网络模型的决定系数高于2种传统方法的,且比传统方法提高了6%,误差与传统方法的相比降低了近一倍。在与3种模型的对比中,深度前馈神经网络的决定系数比其他模型的提高了至少2%,误差降低。一致性分析实验结果也显示,深度前馈神经网络95%一致性界限最小,一致性最好。总体来说,提出的回归预测模型可以得到更加精确的体表面积预测值。

基于深度神经网络(DNN)的压电陶瓷前馈补偿研究

针对压电陶瓷固有的迟滞非线性,设计了一种基于深度神经网络(DNN)的前馈补偿控制系统。该系统包含1个输入层、7个隐藏层和1个输出层。实验结果表明,开环情况下压电陶瓷的位移线性误差达8.91μm。施加神经网络前馈补偿后,压电陶瓷的最大位移误差降低到80 nm,稳态误差为±20 nm。进一步测试表明,在10~100 Hz输入频率下系统最大误差小于100 nm,均方根误差为0.01μm,验证了深度神经网络能够准确补偿压电陶瓷动态迟滞非线性,具有较好的频率泛化能力。

基于麻雀搜索算法结合深度前馈神经网络的近红外模型转移方法研究

该文提出了一种基于麻雀搜索算法结合深度前馈神经网络(SSA-DFN)的近红外光谱模型转移方法。使用深度前馈神经网络拟合不同仪器采集到的光谱之间的非线性函数映射,并将麻雀搜索算法用于网络各层连接权值和阈值的初始化,通过种群中个体位置的迭代更新,求得连接权值和阈值的最优初始值;通过多次调整深度前馈神经网络模型的超参数,使网络拟合效果趋于最优,最终确定转移函数。为验证方法的有效性,分别从烟叶近红外光谱谱图、主成分投影和预测结果的角度,将SSA-DFN方法与分段直接校正算法(PDS)、典型相关性分析算法(CCA)转移前后的效果进行了对比。结果表明SSA-DFN方法转移后的从机光谱与原主机光谱重合度最高,转移后主、从机总糖、烟碱含量的预测结果差异不显著,预测平均误差从8.32%、9.15%分别降至4.65%、4.82%,预测均方根误差(RMSEP)和决定系数(R^(2))等指标均优于PDS和CCA,取得了最佳的转移效果,可满足企业需求。结果表明该方法是一种有效的模型转移方法。

基于主成分分析的深度前馈神经网络的肾小球滤过率估算算法

目的提出一种基于主成分分析(principal component analysis,PCA)的深度前馈神经网络(deep feedforward neural network,DFNN),建立一个适用于中国慢性肾脏病(chronic kidney disease,CKD)人群的肾小球滤过率(glomerular filtration rate,GFR)估算模型,并探讨其在慢性肾脏病患者肾小球滤过率估算中的应用。方法受试者为2019年5月—2021年1月就诊于安徽医科大学第二附属医院,排除年龄<18岁的肾功能不稳定,服用甲氧苄啶或西咪替丁或接受透析后的163例患者。本研究以99m Tc-DTPA肾动态显像测定GFR为标准,建立主成分分析的深度前馈神经网络(deep feedforward neural network,DFNN)模型,以此估算GFR,同时将估算GFR结果与传统CG方程和BP神经网络估算结果进行对比分析。结果通过PCA-DFNN-1神经网络训练出来的估算模型的15%符合率、30%符合率、50%符合率分别为38.77%、55.1%、75.5%;ROC曲线下面积为0.845;Youden指数为0.58。结论提出的基于主成分分析的深度前馈神经网络模型有优于CG方程和BP神经网络模型的结果,可以用于估算GFR。

大数据分析的无限深度神经网络方法

深度神经网络(deep neural networks,DNNs)及其学习算法,作为成功的大数据分析方法,已为学术界和工业界所熟知.与传统方法相比,深度学习方法以数据驱动、能自动地从数据中提取特征(知识),对于分析非结构化、模式不明多变、跨领域的大数据具有显著优势.目前,在大数据分析中使用的深度神经网络主要是前馈神经网络(feedforward neural networks,FNNs),这种网络擅长提取静态数据的相关关系,适用于基于分类的数据应用场景.但是受到自身结构本质的限制,它提取数据时序特征的能力有限.无限深度神经网络(infinite deep neural networks)是一种具有反馈连接的回复式神经网络(recurrent neural networks,RNNs),本质上是一个动力学系统,网络状态随时间演化是这种网络的本质属性,它耦合了"时间参数",更加适用于提取数据的时序特征,从而进行大数据的预测.将这种网络的反馈结构在时间维度展开,随着时间的运行,这种网络可以"无限深",故称之为无限深度神经网络.重点介绍这种网络的拓扑结构和若干学习算法及其在语音识别和图像理解领域的成功实例.

BP神经网络预测河湾最大冲刷深度

影响河湾凹岸最大冲刷深度的因素众多,而且这些因素的关系是非线性的.实现河湾最大冲刷深度预测的实质是建立一个非线性映射.实现这种映射的传统途径是在室内试验的基础上,采用量纲分析和多元回归的方式建立经验公式.根据BP(前馈)神经网络模型能逼近任何闭区间的连续函数的性质,在室内试验的基础上,尝试采用人工神经网络模型对河湾冲刷深度进行预测,并与经验公式的计算结果进行了比较.结果显示,BP神经网络能够更为准确地对河湾最大冲刷深度做出预测.

基于Spark大数据计算模型的遗传算法深度前馈神经网络训练算法

新兴的Spark大数据并行计算模型为实现遗传算法深度前馈神经网络数据并行训练提供了一个可能的选择。但是,Spark模型有其特有的数据编码规则和转换规则,目前尚无成熟方法在该模型上实现GADFNN训练。为此,研究了Spark模型的数据编码和转换规则与GADFNN训练的内在关系,提出一个基于Spark模型的GADFNN训练算法——Spark-GADFNN。实验表明,提出的Spark-GADFNN训练算法在中、大规模数据集上,训练时间分别缩短为传统算法的18.18%和16.67%。

基于改进遗传算法的深度神经网络优化研究

深度前馈神经网络在分类和回归问题上得到了很好的应用,但网络性能极大程度上受到其结构和超参数影响。为了获得高性能的神经网络,首先对遗传算法的选择策略进行改进,之后利用该改进遗传算法,采用二进制编码与实数编码的混合编码策略对深度前馈神经网络层数、每层节点量以及学习率和权重进行优化。改进的选择策略,在最优保存策略的基础上从父代和子代合并的2n个个体中,以一定的概率选择部分适应值较差个体作为新父代,以增加种群多样性,避免陷入局部最优。同时引入dropout方法减少网络过拟合训练数据。使用Ring、Breast cancer、Twonorm、Heart、Blood、Ionosphere、Monk共7个数据集进行数值实验,并与其他相关文献中的算法比较,仿真结果表明,改进的遗传算法能搜索到较高性能的神经网络。

基于自适应卡尔曼滤波和深度前馈神经网络的氚源项反演

氘氚聚变反应被认为是能够最先实现商业发电的聚变反应,但氚的使用也带来了放射性安全问题。为探究适用于聚变堆事故后的大气释放氚源项反演的计算方法,本研究将自适应卡尔曼滤波与深度前馈神经网络相结合,建立聚变堆事故后的氚释放源项估计算法,对氚的释放高度及释放率进行反演。对神经网络使用滤波前后的观测值作为输入数据时的预测源强进行分析。结果表明,滤波能有效降低神经网络的预测误差。当监测数据误差为20%时,释放高度反演相对误差均值约为3%,释放率反演相对误差均值约为4%。

一种深度小波过程神经网络及在时变信号分类中的应用

针对多通道非线性时变信号分类问题,提出一种基于稀疏自编码器的深度小波过程神经网络(SAE-DWPNN)。通过构建一种多输入/多输出的小波过程神经网络(WPNN),实现对时变信号的多尺度分解和对过程分布特征的初步提取;通过在WPNN隐层之后叠加一个SAE深度网络,对所提取的信号特征进行高层次的综合和表示,并基于softmax分类器实现对时变信号的分类。SAE-DWPNN将现有过程神经网络扩展为深度结构,同时将深度SAE网络在信息处理机制上扩展到时间域,扩展了两类模型的信息处理能力。该网络可提取多通道时序信号的分布特征及其结构特征,并保持样本特征的多样性,提高了对信号时频特性和结构特征的分析能力。文中分析了SAE-DWPNN的性质,给出了综合训练算法。以基于12导联ECG信号的7种心血管疾病分类诊断为例,实验结果验证了模型和算法的有效性。

基于遗传算法优化深度前馈神经网络的住房租金预测

为了提高中国房地产市场的住房租金预测准确性,文章提出了一种由遗传算法和深度前馈神经网络相结合的预测模型(GA-DFNN)。基于深圳市在线房地产网站租赁数据的实证检验显示,GA-DFNN模型的预测效果优于具有单一隐藏层的前馈神经网络模型(FNN)、其它结构的DFNN模型以及基于随机搜索优化的DFNN模型,证明了经GA优化的DFNN模型在住房租金预测问题上的明显优势。

基于前馈神经网络的编译器测试用例生成方法

编译器模糊测试,是测试编译器功能性与安全性的常用技术之一.模糊测试器通过产生语法正确的测试用例,对编译器的深层代码展开测试.近来,基于循环神经网络的深度学习模型被引入编译器模糊测试用例生成过程.针对现有方法生成测试用例的语法正确率不足、生成效率低的问题,提出一种基于前馈神经网络的编译器模糊测试用例生成方法,并设计实现了原型工具FAIR.与现有的基于token序列学习的方法不同,FAIR从抽象语法树中提取代码片段,利用基于自注意力的前馈神经网络捕获代码片段之间的语法关联,通过学习程序设计语言的生成式模型,自动生成多样化的测试用例.实验结果表明,FAIR生成测试用例的解析通过率以及生成效率均优于同类型先进方法.该方法显著提升了检测编译器软件缺陷的能力,已成功检测出GCC和LLVM的20处软件缺陷.此外,该方法具有良好的可移植性,简单移植后的FAIR-JS已在JavaScript引擎中检测到两处软件缺陷.

基于深度神经网络的中期电力负荷预测

电力负荷预测的精确度对于电厂的实际发电量、配电、系统维护以及与电价相关的能源供应商运营计划等都有着极大地影响;研究了前馈深度神经网络和递归深度神经网络在中期电力负荷预测中的应用及其准确性和计算能力分析;首先,针对收集的原始数据集进行预处理,提出了一种时域-频域分析特征提取方法,该方法可以充分地挖掘隐藏在原始数据集中的深层信息;然后利用前馈深度神经网络和递归深度神经网络模型进行中期电力负荷预测;最后,利用某城市5年期间的实际负荷数据,预测未来1年中不同季节的负荷;通过仿真结果表明:时域-频域分析法和深度神经网络协同使用于中期负荷预测具有更高的准确性。

基于前馈神经网络的MPPSK接收机位同步方法研究

目前,在通信领域,深度学习(deep learning,DL)被认为是处理无线通信物理层的有效工具之一,有诸如自动调制识别、信道估计等方面应用。针对DL接收机设计中的同步问题,提出了一种在多元位置相移键控(m-ary position phase shift keying,MPPSK)调制方式下的滑窗式位同步方法。首先,训练一个前馈神经网络,作为码元的分类器;然后,使用滑动窗口在信号的采样点上滑动,每个窗口中的信号作为输入送入神经网络,得到的输出作为码元的判决准确度;最后,在滑动过程中,取置信度最高的采样点为同步点。通过仿真实验证明了同步的可靠性和精确性。