联合自然梯度和AdamW算法的RSF图像分割模型

关键零件内部复杂结构的精密测量是高端制造领域攻克的难题。当采用工业CT技术实现对象内部结构精密测量时,面临目标图像灰度不均匀性、边缘模糊、伪影等问题。有鉴于此,本文研究了局部能量最小化模型(RSF)的图像分割方法,引入自然梯度和AdamW算法分别提高了RSF模型的收敛速度和参数自适应性。首先,在统计流形上计算自然梯度,提高梯度下降效率和RSF模型收敛速度;其次,采用AdamW算法实现RSF模型的高斯核函数尺度大小自适应控制。与经典RSF模型相比,改进后的RSF模型迭代次数减少了1353次,迭代次数降低约76.79%,迭代时间减少约43.61%,测针球面半径和航空燃油喷嘴圆柱直径测量误差均较小,既保持了原模型亚像素分割精度,又大幅提高了模型收敛速度和鲁棒性。

基于自然梯度的噪声自适应变分贝叶斯滤波算法

考虑到运动目标跟踪系统机动、隐身等人为对抗特征以及非视距、干扰、遮挡等环境因素,其系统建模、估计与辨识过程中越来越无法回避非线性、非高斯以及参数未知等复杂系统特征的影响.针对过程噪声先验信息不准确以及量测噪声非高斯环境下运动目标的非线性状态估计问题,提出一种基于自然梯度的噪声自适应变分贝叶斯(Variational Bayes,VB)滤波算法.首先,利用指数族分布具有统一表达形式的优势,构建参数化逆威沙特(Inverse-Wishart,IW)分布作为状态一步预测误差协方差的共轭先验分布,同时选取学生t分布重构因量测随机缺失导致的具有非高斯特点的似然函数;其次,在变分贝叶斯优化框架下采用平均场理论将状态变量联合后验分布近似分解为独立的变分分布,在此基础上,结合坐标上升方法更新各变量的变分分布参数;进而,结合Fisher信息矩阵推导置信下界最大化关于状态估计及其估计误差协方差的自然梯度,使非线性状态后验分布的近似分布沿梯度下降,以实现对状态后验概率密度函数(Probability density function,PDF)的“紧密”逼近.理论分析和仿真实验表明:相对传统的非线性滤波方法,本文算法对噪声不确定问题具有较好的自适应能力,并且能够获得较高的状态估计精度.

酸枣茎导管对自然梯度干旱生境响应的结构特征

近期因全球变暖高温干旱事件频发,严重影响植物的生长发育。逆境中植物的形态结构必定发生改变而得以生存。然而关于不同自然梯度干旱生境中植物导管形态特征变化及其规律方面的研究较少。以采自烟台、石家庄、银川和吐鲁番地区形成的自然梯度干旱条件下生长的酸枣植株为试验材料,离析观察酸枣茎次生木质部导管,研究比较不同干旱条件下酸枣茎中次生木质部导管的结构及适应特征。结果表明:酸枣茎中次生木质部导管有多种类型,不同生境中同种导管的比例不同。根据管尾情况可将导管分为三类:无尾型、一端有尾型和两端有尾型导管,且在结构上表现出特定的适应特征及规律。从烟台到新疆自然梯度干旱条件下,茎中环纹导管和螺纹导管的长度、宽度和管径总体呈减小的趋势,管壁逐渐增厚;网纹导管的宽度和直径逐渐增大;梯纹导管的长度总体呈增大的趋势,管径以宁夏的最大,新疆的最小;木纤维的宽度、管径和管壁的厚度逐渐增大。生长在不同自然梯度干旱生境中的酸枣,其导管结构的变化,提高了水分和无机盐的输导效率,可以快速补充酸枣在干旱环境中蒸腾散失的水分,抵御适应逆境,保证植株正常生长。

一种基于自然梯度的地震盲反褶积方法

常规反褶积方法在地震子波和反射系数未知的情况下,需要做统计性假设,这样往往会降低地震数据处理的分辨率和可靠性。基于自然梯度的盲反褶积算法无需任何假设,利用自然梯度法估算地震子波,得到更接近于实际情况的混合相位子波,用于反褶积,使地震资料的分辨率得到了提高。首先介绍了源数据体可分离的数学依据;然后阐述了基于自然梯度盲反褶积算法的数学原理,并引入补偿函数,推导出适合地震盲反褶积的迭代公式;最后分别利用合成地震记录和实际地震数据对方法进行了验证,结果表明,基于自然梯度的盲反褶积算法能较好地适用于混合相位子波,最大可能地估算原始反射系数。

基于自然梯度算法的盲信源分离研究

盲信源分离试图从给定的一组混合观察数据中恢复未知的独立信源。文中介绍盲信源分离的一种非常重要的算法———自然梯度算法。对通信信号和自然语音信号采用不同的活动函数进行了盲信源分离的计算机模拟实验,结果显示该算法能够分别有效地分离这两类随机混合的信号。

一种解决连续空间问题的真实在线自然梯度AC算法

策略梯度作为一种能够有效解决连续空间决策问题的方法得到了广泛研究,但由于在策略估计过程中存在较大方差,因此,基于策略梯度的方法往往受到样本利用率低、收敛速度慢等限制.针对该问题,在行动者-评论家(actor-critic,简称AC)算法框架下,提出了真实在线增量式自然梯度AC(true online incremental natural actor-critic,简称TOINAC)算法.TOINAC算法采用优于传统梯度的自然梯度,在真实在线时间差分(true online time difference,简称TOTD)算法的基础上,提出了一种新型的前向观点,改进了自然梯度行动者-评论家算法.在评论家部分,利用TOTD算法高效性的特点来估计值函数;在行动者部分,引入一种新的前向观点来估计自然梯度,再利用资格迹将自然梯度估计变为在线估计,提高了自然梯度估计的准确性和算法的效率.将TOINAC算法与核方法以及正态策略分布相结合,解决了连续空间问题.最后,在平衡杆、Mountain Car以及Acrobot等连续问题上进行了仿真实验,验证了算法的有效性.

白化处理的自然梯度盲源分离统一算法

分析了基于自然梯度的信号白化处理和白化后的盲信号分离,提出了一种基于白化处理的自然梯度盲源分离算法.算法统一了信号的白化和分离,而不需要单独再对信号进行白化预处理,通过采用自然梯度学习规则提高了算法的性能,并理论证明了算法的可分离性、等变化性和分离矩阵的非奇异性.仿真表明,算法能够有效地分离和重构源信号,相比信号未白化的随机梯度算法以及传统的FastICA算法,收敛速度快、分离效果好,更适合盲源分离.

基于自适应自然梯度法的高斯过程磨矿粒度软测量建模

针对现有的磨矿粒度测量仪表检测周期长,难以满足实时检测的问题,结合典型两段式磨矿回路的特点,提出了基于高斯过程(Gaussian process,GP)的磨矿粒度软测量建模方法,将自适应自然梯度(adaptive natural gradient,ANG)法应用到对高斯过程超参数优化过程中,构建基于ANG-GP磨矿粒度软测量模型,并分别与BP神经网络和支持向量机软测量模型进行仿真试验的比较研究.结果表明:基于ANG-GP的磨矿粒度软测量方法优于其他2种方法,且具有较高预测精度,能有效地对磨矿粒度进行在线检测,表明了该方法的有效性.

基于分离度的步长自适应自然梯度算法

首先定义了描述信号分离状态的分离度,并利用分离度作为参数来控制自然梯度算法中的步长因子,从而首次提出了一种基于分离状态的步长自适应自然梯度盲源分离算法。由于该算法步长是基于分离度的,其学习速率由信号的分离程度自适应地选取,因而能很好地解决收敛速度和稳态误差之间的矛盾。计算机仿真结果与理论分析相一致,证实了该算法明显优于其它固定步长或变步长的自然梯度算法。

基于符号算子的变步长不完整自然梯度算法

通过引入不完整约束使不完整自然梯度算法有效克服传统自然梯度算法的缺点和不足,即当源信号幅度随时间快速变化或在某段时间为零时,不完整算法仍能较好地工作.同时,从一般动态分离模型中推导出的符号算子可改善算法的收敛性.结合上述两种思想提出一种基于符号算子的不完整自然梯度算法,增加基于代价函数梯度的变步长运算以平衡算法中收敛速度和稳态误差之间的矛盾.仿真结果表明,改进算法的性能明显优于传统算法,在保持良好稳态误差的基础上大大加快收敛速度.

基于最短路径和自然梯度的过完备ICA算法

独立成分分析(ICA)是一种在给出的随机向量中找出统计独立的数据的统计方法,而过完备独立成分分析则是ICA问题中的一类特殊的情形,它要的源信号的数目比观测信号的数目要多。该文提出了一种基于最短路径算法和自然梯度的解决过完备独立成分分析的新算法Turbo-overcomplete。该算法采用了最短路径方法来推断源信号和采用自然梯度的方法来学习基向量,并采用Turbo-overcomplete算法来进行语音信号分离的实验,并把实验结果与现在的一些过完备独立成份分析算法进行了比较。

基于TD(λ)的自然梯度强化学习算法

近年来强化学习中的策略梯度方法以其良好的收敛性能吸引了广泛的关注。研究了平均模型中的自然梯度算法,针对现有算法估计梯度时效率较低的问题,在梯度估计的值函数逼近中采用了TD(λ)方法。TD(λ)中的资格迹使学习经验的传播更加高效,从而能够降低梯度估计的方差,提升算法的收敛速度。车杆平衡系统仿真实验验证了所提算法的有效性。

基于分级迭代变步长的自然梯度盲源分离算法

自然梯度算法是处理盲源分离问题的一个重要方法。自然梯度算法的分离速度与稳态性能之间存在矛盾,步长增大收敛速度加快,但是稳态误差随之增大。自适应变步长算法是解决收敛速度与稳态误差之间的矛盾的有效手段。基于原有自适应算法,提出了一种分级迭代变步长算法,更好地解决了算法存在的收敛速度与稳态误差的矛盾。仿真结果表明,该算法具有更快的分离速度和更好的稳态性能。

基于改进自然梯度算法的双目标辨识研究

对时变的水下目标声信号进行盲分离时,针对自然梯度算法存在不稳定收敛的不足,提出了一种可对水下目标进行辨识的改进自然梯度算法。通过对观测数据的白化处理、构建实信号和复信号盲分离都适用的非线性函数、快速收敛学习因子和基于功率谱方法的盲分离效果评估函数,实现了水下目标声信号盲分离和目标辨识的改进算法。仿真结果和实船信号试验数据的一致性,表明了改进算法具有更好的收敛性能,而且在频域评估时盲分离效果更加简单直观,验证了改进算法的实用性和有效性。

基于分值函数估计的自然梯度盲分离算法

分值函数估计的准确性是影响自然梯度盲分离算法收敛速度和稳定性的一个重要因素。提出了一种通过函数逼近直接估计分值函数的方法。用一组正交多项式的线性组合来逼近分值函数,其性能用均方误差来衡量。线性组合的系数向量可运用分值函数的性质,通过最小化均方误差自适应学习得到。将估计到的分值函数代入自然梯度迭代公式中就得到新算法。实验仿真表明,与传统的自然梯度盲分离算法相比,新算法的收敛速度与稳定性均有显著提高。

未知源信号数目投影自然梯度盲信号分离算法

分析了已有源信号数目未知的盲信号分离算法中分离矩阵的动态变化,找到了分离矩阵范数趋于无穷大而导致算法发散的原因:分离矩阵在某一等价类中的冗余移动.利用正交投影方法消去了自然梯度中引起冗余移动的冗余分量,推导出源信号数目未知的投影自然梯度算法.新算法具有与自然梯度算法相同的收敛速度,而且克服了已有算法不能稳定收敛的缺点.仿真验证了新算法的分离性能和收敛稳定性.

基于自然梯度的独立子空间盲信号处理方法

作为盲信号处理的独立成分分析方法的扩展,独立子空间分析具有更广阔的应用前景.本文首先给出了独立子空间分析的一般定义和正则化定义,同时把其与独立成分分析方法进行了对比.此外,讨论了独立子空间分析的可分离性与解的唯一性问题.基于极大似然估计和自然梯度方法,本文给出了独立子空间分析的自然梯度算法.仿真实验通过二维的独立子空间分析说明本文提出算法的有效性.

基于自然梯度的非平稳信号自适应盲分离算法

基于自然梯度原则并利用信号的时间相关属性对一类代价函数进行推导,获得一种新的非平稳信号自适应盲分离算法.算法利用样本的多时延解相关方法以及迭代计算的形式获得盲混合信号的分离矩阵,无需对观测样本进行分块处理,计算工作量低.仿真结果表明,算法分离精度高,迭代过程平稳,对多个信号源的盲分离可实现良好的分离性能.

可变步长正交性约束的自然梯度盲信号分离算法

针对移频轨道电路移频键控信号FSK等的非平稳性,在正交性约束的自然梯度算法的基础上,提出1种利用估计函数的自适应可变步长自然梯度算法,主要原理是根据每次所取分离结果与优化值距离的远近对步长参数取值作在线自适应调整,将每次分离出的瞬时信号的相关性测度作为调整步长参数的依据,同时给出步长参数的上界以使算法稳定。用给出的可变步长算法对FSK信号中的干扰信号进行在线分离。仿真实验结果表明,用可变步长算法分离出的信号精度达到了要求,并且与固定步长算法相比具有更快的收敛速度。

基于分离度梯度的步长自适应自然梯度算法

首先定义了描述信号分离状态的分离度,并利用分离度作为参数来控制自然梯度算法中的步长因子,从而首次提出了一种基于分离状态的步长自适应自然梯度盲源分离算法。由于该算法步长是基于分离度的,其学习速率由信号的分离程度自适应地选取,因而能很好地解决收敛速度和稳态误差之间的矛盾。计算机仿真结果与理论分析相一致,证实了该算法明显优于其他固定步长或变步长的自然梯度算法。