BIFURCATION IN A TWO-DIMENSIONAL NEURAL NETWORK MODEL WITH DELAY

A kind of 2-dimensional neural network model with delay is considered. By analyzing the distribution of the roots of the characteristic equation associated with the model, a bifurcation diagram was drawn in an appropriate parameter plane. It is found that a line is a pitchfork bifurcation curve. Further more, the stability of each fixed point and existence of Hopf bifurcation were obtained. Finally, the direction of the Hopf bifurcation and the stability of the bifurcating periodic solutions were determined by using the normal form method and centre manifold theory.

基于流形神经网络的协作频谱感知

针对传统频谱感知在复杂信号环境,如低信噪比和多路径衰落等情况下的性能局限,提出了一种基于黎曼流形神经网络的创新性协作频谱感知方案。该方法首先通过将多个协作用户的信号矩阵映射到黎曼流形上,生成具有几何特性的协方差矩阵。接着,利用黎曼流形神经网络进行高效的信号特征分类和频谱感知。黎曼流形神经网络不仅充分发挥了黎曼流形在非欧几里得数据结构上的优势,而且结合了神经网络强大的表达能力,从而在各种复杂环境下都展示出显著优越的频谱感知性能。通过一系列详细的仿真实验,证明了该方法在多样化环境下的优越性能,展示了其在实际无线通信系统中的潜在应用价值。

基于深度流形学习的人脸年龄识别

现有的人脸年龄识别方法大多利用深度学习框架提取人脸特征来识别年龄,但深度学习方法提取的高维人脸特征往往包含大量的冗余信息,不利于人脸年龄的识别。为了提高人脸年龄识别算法的精度和鲁棒性,提出了一种基于深度流形学习(Deep Manifold Learning, DML)的算法,采用深度学习提取人脸特征,通过流形学习选择具有判别性的人脸特征,将深度学习提取的高维人脸特征嵌入到低维的判别子空间上识别年龄。在公开的人脸数据库MORPH和FG-NET上对DML算法进行了实验,结果表明DML方案平均绝对误差(Mean Absolute Error, MAE)大幅度降低,不同误差值下识别累积评分(Cumulative Score, CS)明显提高,显著优于当前流行的人脸年龄识别方法。

基于多尺度一维卷积神经网络的弯管冲蚀损伤智能检测方法

针对高压管汇损伤需要提高检测效率和准确率的问题,提出一种基于多尺度一维卷积神经网络(multi-scale one-dimensional convolutional neural network,MS-1DCNN)的弯管冲蚀损伤智能检测新方法,即用多尺度卷积层代替传统的单一尺度卷积层。在MS-1DCNN模型中,把通过模拟实验所得弯管冲蚀损伤原始时域信号作为多尺度一维卷积神经网络的输入,这样能解决传统方法依赖人工提取特征和专家知识的问题;然后,通过多尺度卷积层和池化层的交替连接对输入信号进行特征提取;最后,经由输出层输出弯管冲蚀损伤分类结果。模型试验结果表明:基于MS-1DCNN弯管冲蚀损伤检测方法可以有效检测出弯管冲蚀损伤,且平均检测准确率达到99.18%。研究可为高压管汇冲蚀损伤智能检测提供一种新思路。

多任务学习方法在神经网络替代火焰面数据库中的应用

为实现神经网络对火焰面模型数据库的高精度替代,以残差神经网络为主体,采用多任务学习方法进行训练,并结合fmFoam求解器以Sandia D扩散火焰为对象,对该方法训练出的神经网络模型精度进行了验证。结果表明:采用多任务学习方法可有效提高神经网络对火焰面数据库的预测精度。相比于仅使用残差神经网络方法,采用多任务学习方法训练的神经网络可将各物理量预测结果的皮尔森系数由0.9990提升至0.9999,对质量占比前10组分预测结果的平均相对误差至少可降低81.1%;基于OpenFOAM对Sandia D火焰进行数值模拟,其计算结果在中心轴线以及各轴向位置的径向线上与传统方法基本一致,仅在反应进度变量源项上存在小范围差异;以传统查表方法为基准,FGM-MTL计算的温度及主要燃烧产物在中心轴线上的峰值相对误差最大为0.98%,峰值位置相对误差最大为2.37%。

粒子群算法优化的广义回归神经网络求解流形学习样本外点问题

目前流形学习已成功应用于降维和数据可视化领域,但在监督分类中的应用效果并不理想,解决好样本外点问题对其应用效果至关重要。基于此,采用粒子群算法优化广义回归神经网络计算测试样本的低维嵌入,获得的结果可直接用于分类。借助粒子群算法的全局搜索能力对处理样本外点问题具有较好的预测性能;在使用糖尿病、虹膜和声呐三个公开数据集的实验中,粒子群算法优化广义回归神经网络的分类总体精度分别为77.63%、100%和88.89%,优于其他8种分类方法,表明该算法可行、有效;同时,该算法能显著降低数据复杂度,提高了预测、模式分类和机器学习的准确性。

基于深度学习的无线电信号对抗样本检测研究

针对无线电信号的攻击愈来愈频繁的情况,本文在数据流形理论基础上,使用深度神经网络(DNN)检测无线电信号对抗样本及其攻击方法。首先使用5种不同攻击方法对无线电信号进行攻击产生对抗样本,其次使用3种不同的神经网络检测对抗样本,最后用残差神经网络(ResNet)检测对抗样本的攻击方法。在信噪比(SNR)为30 d B和20 dB的无线电信号数据上的实验结果表明,本文所使用的残差神经网络检测精度接近100%,在信噪比为10 dB的无线电信号数据上的检测精度仍然在90%以上。结果表明本文所用的残差神经网络能有效检测无线电信号的对抗样本及其攻击方法。

基于黎曼空间的脑电信号特征提取和分类算法的对比研究

目前运动想象脑电信号(motor imagery electroencephalogram, MI-EEG)的分类方法主要分为两种,一种是利用人工设计MI-EEG特征的相似度/非相似度度量进行分类的算法,另一种是利用深度学习自动学习特征完成分类的算法。为探究两种方法的优劣及适用场景,本研究首先基于黎曼空间提出利用Stein散度作为MI-EEG的相似度/非相似度度量,用K最邻近法进行分类的算法;其次,提出利用黎曼流形结构下的卷积神经网络自动提取脑电信号特征进行分类的算法,最后对两种分类算法进行对比研究。为验证两种算法的有效性,在BCI Competition IV-2a公开数据集上进行实验测试。结果证明,两种分类算法均具有较强的稳定性和分类准确率,利用黎曼流形结构的卷积神经网络算法可获得更高的分类准确率,传统机器学习中利用Stein散度作为MI-EEG相似度/非相似度度量的脑电分类算法运行时间更短,更适合MI-EEG的在线解码。

PPLS与稀疏鉴别流形正则化的双模型协同宽度神经网络

宽度神经网络(broad neural networks,BNN)被认为是继深度神经网络之后的一种主流机器学习算法,然而BNN没有考虑数据不确定性及局部几何结构信息。为此,提出概率偏最小二乘(probabilistic partial least square,PPLS)与稀疏鉴别流形正则化的双模型协同宽度神经网络建模方法。该方法首先使用PPLS对BNN输入特征以及增强特征构成的高维数据提取低维隐藏变量,消除数据不确定信息以及冗余特征;基于稀疏表示方法自适应构建样本局部与非局部近邻矩阵,并结合PPLS模型投影矩阵,提出一种新颖的融合模型信息迁移、鉴别流形正则化以及l_(2,p)-范数约束的BNN建模方法,有效增强BNN模型的鲁棒性、建模精度,同时消除数据的随机不确定性;最后给出迭代优化求解方法获取模型最优参数。在不同规模数据集、不同光照和角度图像数据集对所提算法进行仿真验证,结果表明该算法对不同规模数据集均能取得满意的效果;对图像数据集仿真结果表明其具有很强的鲁棒性和泛化性能。

基于标签相关性的预测调整算法

多标签学习已成功应用于文本分类、图像识别等各个领域。流行的技术包括提取标签特定特征、利用标签相关性等。提出带有标签相关性的预测调整算法PALC(Prediction adjusting with label correlation)将标签相关性融入串行并行神经网络。一方面,采用新颖的、更有效的串行并行神经网络架构来替代常见的显式特征提取或压缩感知方法;另一方面,考虑用固有的标签矩阵内的相关性来计算相关性矩阵,并以流形正则的方式优化分类器。对10个基准数据集与7种流行算法进行比较,结果表明PALC在3大排名指标下均有优势。

基于双曲率黎曼流体的网络攻击检测模型

基于深度学习的网络攻击检测方法以其强大的特征表示及提取能力得到了迅速发展。然而,传统欧氏空间中的深度学习网络攻击检测模型无法有效捕获具有复杂调用关系的网络拓扑结构。为高效建模网络攻击图中潜在的数据模式,提高网络攻击检测的准确性,提出一种基于双曲率黎曼流体的网络攻击检测模型。与现有方法不同的是,该模型将传统欧氏空间中的网络攻击检测模型迁移到异质化非欧式表示空间中,利用曲率黎曼几何空间所具备的大规模层次性和环形图结构模式建模能力,获取高质量的攻击图表示向量,进而提高网络攻击检测准确性。实验结果表明,基于双曲率黎曼流体的网络攻击检测模型Precision、Recall、F1-score分别为0.963、0.964、0.964,能够对网络攻击行为进行有效分析与检测。

基于小波包熵和流形学习的垮落煤岩识别

针对垮落煤岩识别的技术问题,基于垮落煤岩冲击液压支架后尾梁的振动信号,提出了一种基于小波包熵和流形学习的特征提取方法。该方法首先对振动信号进行小波包分解并单支重构,计算该信号的小波包能量熵,从而确定信号能量分布的复杂度,计算各频带的样本熵,从而确定各频带小波包系数的复杂度。以小波包能量熵和频带样本熵构造特征向量,输入BP神经网络识别垮落煤岩。然后利用局部线性嵌入(LLE)挖掘特征向量的低维流形结构,并输入神经网络对比其识别效果。并提出了未知样本低维估计方法以得到其低维嵌入。结果表明:基于小波包熵和LLE提取的特征向量准确又简单,输入神经网络识别率达到92.5%;基于低维估计方法得到的未知样本低维嵌入也较准确。

具时滞的二维神经网络模型的分支

研究了一类具时滞的二维神经网络模型· 通过对该模型的特征方程根的分布分析,在适当的参数平面上给出了分支图· 得到了pitchfork分支曲线是一条直线,进而研究了每个平衡点的稳定性和Hopf分支的存在性· 最后,利用规范性方法和中心流形理论。

多层神经网络同伦连续BP算法的递归实现

本文提出了一种递归实现的同伦连续ＢＰ算法，该算法可有效地解决ＢＰ网络的全局收敛性问题，同时使网络具有很快的收敛速度。

基于卷积神经网络和流形排序的图像检索算法

针对基于内容的图像检索(CBIR)中低层视觉特征与用户对图像理解的高层语义不一致以及传统的距离度量方式难以真实反映图像之间相似程度等问题,提出了一种基于卷积神经网络(CNN)和流形排序的图像检索算法。首先,将图像输入CNN,通过多层神经网络对图像的监督学习,提取网络中全连接层的图像特征;其次,对图像特征进行归一化处理,然后用高效流形排序(EMR)算法对查询图像所返回的结果进行排序;最后,根据排序的结果返回最相似的图像。在corel数据集上,深度图像特征比基于场景描述的图像特征的平均查准率(m AP)提高了53.74%,流形排序比余弦距离度量方式的m AP提高了18.34%。实验结果表明,所提算法能够有效地提高图像检索的准确率。

面向旋转机械故障诊断的深度流形迁移学习

深度学习因强大的特征提取能力已逐渐成为旋转机械故障诊断的主要方法。但深层模型缺乏领域适应能力,工况变化时性能衰退严重。迁移学习为解决变工况诊断问题提供新的途径。然而现有深度迁移学习方法大多仅对齐不同领域分布的均值中心,未考虑特征分布的流形结构,其适配性能仍难以应对不同工况复杂的机械故障信号。针对该问题,提出一种深度流形迁移学习方法,以堆叠自编码器为框架,在无监督预训练阶段同时利用源域和目标域样本训练,充分挖掘数据本质特征;针对模型微调,提出流行迁移框架,在适配分布差异同时还保持领域间特征分布结构的一致性。将新方法与现有迁移学习方法在旋转机械故障诊断案例进行充分的比较实验,结果表明,新方法优于现有方法,能显著提高变工况故障诊断精度。通过有效性分析在机理上进一步证明了融合目标域数据的无监督预训练策略和流形迁移微调策略对提高变工况故障诊断的有效性。

基于流形光谱降维和深度学习的高光谱影像分类

高光谱影像存在的"休斯(Hughes)现象"是制约高光谱影像分类精度的一个重要因素。为了提高高光谱影像分类精度,提出一种基于流形光谱特征的高光谱影像分类算法。首先使用t分布随机邻域嵌入算法对高光谱影像进行降维;其次将降维后的高光谱数据作为输入层,使用卷积神经网络提取空间深层特征;最后,将提取到的深层空间-光谱特征从隐层特征空间映射到样本标记空间并进行分类。结果表明,与其他算法相比,该研究究算法的总体精度和Kappa系数最高,3个数据集总体精度分别为99.05%、99.43%和98.90%,Kappa系数分别为98.78%、98.97%和98.34%,显著提高了高光谱影像的分类精度,减少了分类用时,有效解决了传统降维方法容易忽视局部特征的缺点。将流形学习降维和深度学习分类相结合为高光谱遥感影像分类和土地利用研究研究提供了一种思路。

基于混沌神经网络的液压集成块智能优化设计

液压集成块设计是一种复杂的立体空间布局问题,其核心是内部布孔和外部布局集成方案的组合优化问题.为此,在深入分析集成块立体布局优化数学模型基础上,构造一种基于退火控制的混沌神经网络模型,用以解决集成块自动优化布局问题.应用实例表明:利用混沌神经网络可以实现满足性能约束的液压集成块布局布孔集成方案的自动优化设计,从而有效提高集成块设计水平、质量及其自动化程度.

基于神经网络的非线性系统的输出调节

非线性系统输出调节问题可解的充要条件是存在一个中。心流形满足某个非线性偏微分方程。本文用多层前向神经网络求解该非线性偏微分方程，从而逼近非线性系统的中心流形。在此基础上，构造状态反馈控制律，实现非线性系统的输出调节。

聚丙烯腈质量指标软测量混合模型的应用

运用多种软测量技术,提出一种多类型混合软测量模型,并用于聚丙烯腈生产过程质量指标的推理估计,证明该模型性能优良。