基于地震属性和深度前馈神经网络的天然气水合物饱和度预测

天然气水合物饱和度是评价资源量的重要参数,常规的地震反演储层预测方法存在精度低、效率不高的问题,且无法解决地震数据与储层参数之间的非线性问题。随着人工智能技术的迅速发展,许多相关技术已经应用于地震勘探领域,其中人工神经网络是人工智能的一个重要分支,其可以通过从大量的样本数据中不断学习,进而拟合复杂非线性函数来实现地下储层特征反演,有着很强的非线性映射和泛化能力。因此,本文在分析了常规线性公式以及岩石物理建模法优缺点的基础上,提出了基于地震属性和深度前馈神经网络预测水合物饱和度的方法。首先,基于测井和地震数据,通过筛选出不同类型与水合物饱和度相关性高的地震属性体,多维度构建样本标签数据;然后采用地震反演与端到端(地震数据-储层物性数据)反演相结合的策略,对全连接神经网络的隐藏层数、神经元数量、迭代次数等参数进行测试训练,最后将训练结果应用于地震数据体获得水合物饱和度预测结果。实际数据应用结果表明:基于地震属性和深度前馈神经网络预测的饱和度结果精度高、多解性低,与测井数据吻合好,证明该方法具有较好的应用价值;同时,预测的水合物空间分布特征表明研究区水合物成藏为平面游离气-水合物过渡成藏模式。

基于深度前馈神经网络的致密砂岩储层孔隙度预测

致密砂岩储层具有低孔低渗特点,由孔隙度变化引起的弹性参数和地震响应特征变化较弱,为解决常规的基于岩石物理关系线性映射孔隙度预测或者基于多属性融合的概率映射孔隙度预测方法难以表征孔隙度与地震属性间复杂非线性关系的问题,提出了基于深度前馈神经网络的孔隙度预测方法。该方法首先以测井计算的有效孔隙度曲线作为训练目标,以井旁的地震数据属性和反演弹性属性作为训练特征构成训练样本;其次通过优选评价确定复杂结构深度前馈神经网络模型参数,建立井旁地震数据与孔隙度之间的非线性映射关系;最后将训练优良的深度网络模型应用到整个数据体,得到有效孔隙度预测成果,进而实现致密砂岩优质储层定量表征。松辽盆地北部三角洲前缘沉积的致密砂岩应用实例表明,基于深度学习的孔隙度预测结果与井资料吻合较好,相对误差为8.1%,较常规基于岩石物理关系的线性映射孔隙度预测方法误差减小8.2%;证明了该方法对致密砂岩储层孔隙度预测的有效性。研究成果可为井位部署及方案优化设计提供理论指导与技术参考。

基于时变深度前馈神经网络的风电功率概率密度预测

针对传统循环神经网络(RNN)和卷积神经网络(CNN)模型对风电功率进行较长时间尺度的短期预测时出现的时不变性问题,应用时变深度前馈神经网络(ForecastNet)模型进行短期风电功率不确定性预测。该模型的网络结构随时间变化以提高多步提前预测能力,模型交错输出以缓解梯度消失问题,使用混合密度网络得到各个时刻的概率密度分布。在避免传统深度学习模型中,该模型能避免递归多步预测累积误差的同时可以充分考虑相邻时刻风电功率的相关性;在模型隐藏层中,使用美国PJM网上的风电功率实际数据,分别应用全连接网络、卷积网络以及基于注意力机制的卷积网络3种神经网络模型进行预测,每次预测未来12 h的风电功率,滚动预测得到未来500 h的风电功率区间和概率密度,实验仿真结果能够证明所提预测模型的有效性。

基于深度前馈神经网络的多因子人体表面积计算模型

人体表面积(BSA)在临床医学上有着至关重要的作用,但现有BSA计算方法大多只使用身高和体重2个参数且采用匹配简单函数的方法来估计体表面积,临床上也认为现有的BSA计算方法误差较大。针对这些问题,提出一种BSA回归预测模型。该回归预测模型包含2个部分:首先,借助相关性和显著性分析选择相关性较高的体表面积影响因子;其次,利用人体数据训练深度前馈神经网络,构建回归模型。实验分别采取5-折交叉验证与测试集验证2种方法。首先,将深度前馈神经网络模型与传统人体表面积计算方法进行精度评估和结果对比分析;其次将深度前馈神经网络模型与3种模型进行精度评估和结果对比分析。在与传统方法对比中,深度前馈神经网络模型的决定系数高于2种传统方法的,且比传统方法提高了6%,误差与传统方法的相比降低了近一倍。在与3种模型的对比中,深度前馈神经网络的决定系数比其他模型的提高了至少2%,误差降低。一致性分析实验结果也显示,深度前馈神经网络95%一致性界限最小,一致性最好。总体来说,提出的回归预测模型可以得到更加精确的体表面积预测值。

基于深度前馈神经网络方法的横波速度预测

针对横波速度预测问题,在分析经验公式法和岩石物理建模法优缺点的基础上,结合横波速度预测原理,提出基于深度前馈神经网络方法(DFNN)进行横波速度的预测。研究从纵、横波速度关系入手,详细阐述了DFNN方法应用于横波速度预测的可行性,并介绍了该深度学习方法的基本原理;选择声波时差、密度、中子孔隙度、泥质含量、孔隙度5个储层参数与横波速度进行深度神经网络训练,建立可靠的横波速度预测模型。将该模型应用于不同研究区的横波速度预测,结果表明基于DFNN方法预测横波速度能够有效提高预测的精度和效率,适用范围广,可以为叠前AVO分析、叠前反演提供可靠的横波数据,具有较高的实际应用价值和推广意义。

基于麻雀搜索算法结合深度前馈神经网络的近红外模型转移方法研究

该文提出了一种基于麻雀搜索算法结合深度前馈神经网络(SSA-DFN)的近红外光谱模型转移方法。使用深度前馈神经网络拟合不同仪器采集到的光谱之间的非线性函数映射,并将麻雀搜索算法用于网络各层连接权值和阈值的初始化,通过种群中个体位置的迭代更新,求得连接权值和阈值的最优初始值;通过多次调整深度前馈神经网络模型的超参数,使网络拟合效果趋于最优,最终确定转移函数。为验证方法的有效性,分别从烟叶近红外光谱谱图、主成分投影和预测结果的角度,将SSA-DFN方法与分段直接校正算法(PDS)、典型相关性分析算法(CCA)转移前后的效果进行了对比。结果表明SSA-DFN方法转移后的从机光谱与原主机光谱重合度最高,转移后主、从机总糖、烟碱含量的预测结果差异不显著,预测平均误差从8.32%、9.15%分别降至4.65%、4.82%,预测均方根误差(RMSEP)和决定系数(R^(2))等指标均优于PDS和CCA,取得了最佳的转移效果,可满足企业需求。结果表明该方法是一种有效的模型转移方法。

基于主成分分析的深度前馈神经网络的肾小球滤过率估算算法

目的提出一种基于主成分分析(principal component analysis,PCA)的深度前馈神经网络(deep feedforward neural network,DFNN),建立一个适用于中国慢性肾脏病(chronic kidney disease,CKD)人群的肾小球滤过率(glomerular filtration rate,GFR)估算模型,并探讨其在慢性肾脏病患者肾小球滤过率估算中的应用。方法受试者为2019年5月—2021年1月就诊于安徽医科大学第二附属医院,排除年龄<18岁的肾功能不稳定,服用甲氧苄啶或西咪替丁或接受透析后的163例患者。本研究以99m Tc-DTPA肾动态显像测定GFR为标准,建立主成分分析的深度前馈神经网络(deep feedforward neural network,DFNN)模型,以此估算GFR,同时将估算GFR结果与传统CG方程和BP神经网络估算结果进行对比分析。结果通过PCA-DFNN-1神经网络训练出来的估算模型的15%符合率、30%符合率、50%符合率分别为38.77%、55.1%、75.5%;ROC曲线下面积为0.845;Youden指数为0.58。结论提出的基于主成分分析的深度前馈神经网络模型有优于CG方程和BP神经网络模型的结果,可以用于估算GFR。

基于Spark大数据计算模型的遗传算法深度前馈神经网络训练算法

新兴的Spark大数据并行计算模型为实现遗传算法深度前馈神经网络数据并行训练提供了一个可能的选择。但是,Spark模型有其特有的数据编码规则和转换规则,目前尚无成熟方法在该模型上实现GADFNN训练。为此,研究了Spark模型的数据编码和转换规则与GADFNN训练的内在关系,提出一个基于Spark模型的GADFNN训练算法——Spark-GADFNN。实验表明,提出的Spark-GADFNN训练算法在中、大规模数据集上,训练时间分别缩短为传统算法的18.18%和16.67%。

基于改进遗传算法的深度神经网络优化研究

深度前馈神经网络在分类和回归问题上得到了很好的应用,但网络性能极大程度上受到其结构和超参数影响。为了获得高性能的神经网络,首先对遗传算法的选择策略进行改进,之后利用该改进遗传算法,采用二进制编码与实数编码的混合编码策略对深度前馈神经网络层数、每层节点量以及学习率和权重进行优化。改进的选择策略,在最优保存策略的基础上从父代和子代合并的2n个个体中,以一定的概率选择部分适应值较差个体作为新父代,以增加种群多样性,避免陷入局部最优。同时引入dropout方法减少网络过拟合训练数据。使用Ring、Breast cancer、Twonorm、Heart、Blood、Ionosphere、Monk共7个数据集进行数值实验,并与其他相关文献中的算法比较,仿真结果表明,改进的遗传算法能搜索到较高性能的神经网络。

基于深度神经网络的中期电力负荷预测

电力负荷预测的精确度对于电厂的实际发电量、配电、系统维护以及与电价相关的能源供应商运营计划等都有着极大地影响;研究了前馈深度神经网络和递归深度神经网络在中期电力负荷预测中的应用及其准确性和计算能力分析;首先,针对收集的原始数据集进行预处理,提出了一种时域-频域分析特征提取方法,该方法可以充分地挖掘隐藏在原始数据集中的深层信息;然后利用前馈深度神经网络和递归深度神经网络模型进行中期电力负荷预测;最后,利用某城市5年期间的实际负荷数据,预测未来1年中不同季节的负荷;通过仿真结果表明:时域-频域分析法和深度神经网络协同使用于中期负荷预测具有更高的准确性。

基于自适应卡尔曼滤波和深度前馈神经网络的氚源项反演

氘氚聚变反应被认为是能够最先实现商业发电的聚变反应,但氚的使用也带来了放射性安全问题。为探究适用于聚变堆事故后的大气释放氚源项反演的计算方法,本研究将自适应卡尔曼滤波与深度前馈神经网络相结合,建立聚变堆事故后的氚释放源项估计算法,对氚的释放高度及释放率进行反演。对神经网络使用滤波前后的观测值作为输入数据时的预测源强进行分析。结果表明,滤波能有效降低神经网络的预测误差。当监测数据误差为20%时,释放高度反演相对误差均值约为3%,释放率反演相对误差均值约为4%。

基于遗传算法优化深度前馈神经网络的住房租金预测

为了提高中国房地产市场的住房租金预测准确性,文章提出了一种由遗传算法和深度前馈神经网络相结合的预测模型(GA-DFNN)。基于深圳市在线房地产网站租赁数据的实证检验显示,GA-DFNN模型的预测效果优于具有单一隐藏层的前馈神经网络模型(FNN)、其它结构的DFNN模型以及基于随机搜索优化的DFNN模型,证明了经GA优化的DFNN模型在住房租金预测问题上的明显优势。

基于个性化联邦学习的异构船舶航行油耗预测

船舶航行油耗的精准预测,对保护海洋环境、减少航运业运营成本起关键作用,但航运业船舶的数据私密性、及异构船舶的数据异质性,导致常规机器学习方法的预测效果有限。为此,提出一种基于类别型特征的梯度提升(CatBoost)联合个性化联邦学习(PFL)预测方法。首先,对本地不同数据源的船舶信息数据及海况数据进行数据融合和清洗过滤,以提高输入数据质量;其次,对本地融合数据用CatBoost进行特征选取,以去除冗余数据;随后,引入带个性化层的联邦学习(FedPer)框架,建立异构船舶航行油耗预测模型,以保证异构船舶的数据私密性;进一步,对基本层权重矩阵采用联邦平均算法(FedAvg)聚合参数并反馈,对个性化层权重矩阵由本地客户端采用深度前馈神经网络(DFNN)进行训练优化,以消除数据异质性的影响,提高预测精度。最后,结合实际异构船舶航行油耗算例进行对比实验,结果表明,相比于其他模型,CatBoost联合个性化联邦学习预测方法的预测精度更高,对降低异构船舶航行油耗具有一定的指导意义。

基于深度学习方法改进的中国A股市场动量策略研究

将深度学习方法运用到对中国股票市场特征的提取上,具有创新性和进步性。选取了沪深A股自开市至2017年11月30日的所有股票的周回报率数据进行实证分析。由于2005年的股权分置改革可能对中国证券市场产生较大影响,分别对1990—2017年和2006—2017年的数据做了研究。在两个时期分别建立了考虑卖空限制的传统动量策略,和用堆叠自编码器进行特征学习后进入前馈神经网络进行训练的深度学习方法改进策略。实证表明,基于深度学习方法改进的动量策略在两个研究时间段均能够获得比传统动量策略更高且更稳健的收益。这说明了深度学习方法运用于中国A股市场历史收益率特征提取的有效性,以及中国A股市场历史数据包含着能够对未来进行预测的信息。

基于深度学习的页岩储层总有机碳含量预测方法

页岩储层总有机碳(total organic carbon,TOC)含量的地震预测普遍采用密度回归拟合法,仅考虑了单因素的线性关系,预测结果误差较大。针对常规方法的不足,提出了基于深度学习的TOC含量预测方法。首先,从测井资料中优选出与TOC含量曲线相关度相对较高的多个弹性参数曲线作为样本集输入数据,TOC含量曲线作为样本集输出数据,构建针对TOC含量预测的深度前馈神经网络模型;然后,调试网络模型结构,并利用共轭梯度法进行网络参数寻优;最后,将叠前振幅随偏移距变化(amplitude versus offset,AVO)反演得到的弹性参数数据体输入深度前馈神经网络模型,预测得到最终的TOC含量数据体。通过四川盆地页岩储层实际测井、地震资料的应用,对比了该方法相对于常规回归拟合法的优越性,验证了方法的实用性和可行性,为页岩储层TOC含量预测提供了新思路。

DFSMN-T:结合强语言模型Transformer的中文语音识别

自动语音识别系统由声学模型和语言模型两部分构成,但传统语言模型N-gram存在忽略词条语义相似性、参数过大等问题,限制了语音识别字符错误率的进一步降低。针对上述问题,提出一种新型的语音识别系统,以中文音节(拼音)作为中间字符,以深度前馈序列记忆神经网络DFSMN作为声学模型,执行语音转中文音节任务,进而将拼音转汉字理解成翻译任务,引入Transformer作为语言模型;同时提出一种减少Transformer计算复杂度的简易方法,在计算注意力权值时引入Hadamard矩阵进行滤波,对低于阈值的参数进行丢弃,使得模型解码速度更快。在Aishell-1、Thchs30等数据集上的实验表明,相较于DFSMN结合3-gram模型,基于DFSMN和改进Transformer的语音识别系统在最优模型上的字符错误率相对下降了3.2%,达到了11.8%的字符错误率;相较于BLSTM模型语音识别系统,其字符错误率相对下降了7.1%。