基于混合遗传算法优化的MLP神经网络的调制方式识别

提出了一种基于遗传算法与多层感知神经网络的调制识别方法,运用改进遗传算法优化的多层感知神经网络分类器对各种调制信号的特征矢量进行分类识别.利用遗传算法的高效全局特性,克服了传统BP算法易于陷入局部最优解的缺点,同时在遗传算法基础上增加梯度下降算子,加快了收敛速度,使得分类器的识别率、收敛速度和鲁棒性得到明显改善,仿真实验的结果证明了此方法的有效性和可行性.

基于Transformer和CNN交错混合的肺结节分割网络

针对肺结节尺寸多样、形状异质化高等问题,提出基于Transformer和卷积神经网络(CNN)交错混合(IMTC)的肺结节分割网络,该网络是一个对称的层次连接网络,具有很强的多尺度特征提取能力。该网络通过集成2种方案分别解决肺结节多尺寸与形状异质化问题:(1)采用感知注意力模块(inception attention module,IAM),通过并联多个不同大小的卷积核来增加浅层网络的感受野组合,以此捕获更为丰富的浅层特征;(2)为获取更具表示能力的高级语义特征,利用由Transformer和CNN组成的基本骨干网络交错提取结节特征,使得全局特征与局部特征充分融合,从而提高结节特征表示的泛化能力和鲁棒性。实验结果表明:本文模型可以准确分割直径较小以及边缘复杂的肺结节,在LUNA16公开数据集上分割性能良好,Dice和IOU分别达到86.15%和76.10%。

基于Hadoop分布式计算的混合神经网络负荷分类模型

为了对电力物联网背景下的海量负荷数据进行精细化分析,从中提取用电模式,提出一种基于Hadoop分布式并行计算的混合神经网络分类模型。首先,基于时间维度的一维卷积神经网络(one-dimensional convolutional neural network,1DCNN)搭建“负荷特征提取器”;其次,使用长短期记忆网络(long-short-term memory network,LSTM)搭建“序列分类器”;最后,将该“混合神经网络分类方法”在Hadoop平台上搭建,实现算法的并行化运行,以适用于海量负荷曲线的高效辨识。使用标准时序数据与真实负荷数据测试该方法的分类性能,算例结果表明:所提分类方法具有较高的分类精度,经并行化处理后有效提高了负荷数据的处理效率。

混合神经网络在入侵检测系统中的应用研究

提出一种基于MLP和Elman混合神经网络模型的入侵检测系统,旨在利用混合神经网络解决入侵检测问题。本模型具有记忆功能,可以有效地检测离散而又相联系的攻击行为。MLP网络是一个实时的模式分类器,而Elman网络实现了对事件的记忆能力。基于此混合模型的入侵检测系统使用DARPA数据集进行测试评估。实验证明基于此混合模型的入侵检测系统能够有效地提高检测率,降低误报率。

基于SFLA改进卷积神经网络的滚动轴承故障诊断

针对卷积神经网络(CNN)用于滚动轴承故障诊断时,训练次数比较多,网络结构不容易确定等问题,设计了一种基于混合蛙跳(SFLA)优化CNN的算法(SFLA-CNN),以及基于该算法的滚动轴承故障诊断模型。该模型利用SFLA强大的全局寻优能力和局部深度搜索能力来优化CNN结构,随后运用具有最优结构的CNN模型直接从原始振动信号中提取低维故障特征,并将其输入到Softmax分类器中进行故障识别。与BP神经网络、CNN等方法对比分析,试验结果表明,SFLA-CNN算法具有更高的准确率以及更少的训练次数。

CEEMDAN-CNN-BiLSTM混合模型矿区地表沉降预测

为了进一步发挥全球卫星导航系统(GNSS)实时监测优势,对时序数据中的潜藏特征与隐藏信息进行深度挖掘,提高地表沉降预测精度,提出基于自适应噪声完备集合经验模态分解(CEEMDAN)、卷积神经网络(CNN)和双向长短期记忆网络(BiLSTM)的CEEMDAN-CNN-BiLSTM混合地表沉降预测方法:以皖北某大型煤矿开采工作面与工业广场区域为验证对象,对比分析稳定区域和重点监测区域数据形态;然后基于CEEMDAN重构监测站高程数据分量,输入CNN模型提取分量隐含信息;最后构建BiLSTM模型,实现对沉降监测点位数据的短期预测。实验结果表明,相较于传统的CNN和长短期记忆模型,CEEMDAN-CNN-BiLSTM混合模型可有效降低预测误差,其中平均绝对百分比误差(MAPE)的降低范围为40%~90%,而均方根(RMS)误差的降低范围为52%~87%;该模型在时空特征捕捉和泛化能力方面表现性能较好,可为GNSS时间序列短期预测提供更为精准和可靠的解决方案。

用于短文本分类的BLSTM_MLPCNN模型

文本表示和文本特征提取是自然语言处理的基础工作,直接影响文本分类的性能。文中提出了以字符级向量联合词向量作为输入的BLSTM_MLPCNN神经网络模型。该模型首先将卷积神经网络(CNN)作用于字符以获取字符级向量,并将字符级向量联合词向量作为预训练词嵌入向量,也即双向长短时记忆网(BLSTM)模型的输入;然后联合BLSTM模型的前向输出、词嵌入向量、后向输出构成文档特征图;最后利用多层感知器卷积神经网络(MLPCNN)进行特征提取。在相关数据集上的实验结果表明:相比于CNN,RNN以及CNN与RNN的组合模型,BLSTM_MLPCNN模型具有更优的分类性能。

CNN-Transformer混合模型在计算机视觉领域的研究综述

近年来,CNN-Transformer混合模型在计算机视觉领域的研究已经成为热点话题之一。这种模型可以结合卷积神经网络(Convolutional Neural Network, CNN)和Transformer各自的优势,提高模型在多种计算机视觉任务中的性能。首先对CNN与Transformer分别进行简述并分析其优缺点,然后通过介绍与分析近几年国内外表现出色的CNN-Transformer混合模型,对多种常见的混合方式进行分类阐述,这些方法旨在发挥卷积神经网络在局部特征提取方面的优势以及Transformer在全局信息建模方面的优势。最后,对CNN-Transformer混合模型在计算机视觉领域以及其他领域未来所面对的挑战和发展趋势进行展望。

基于混合倒谱系数与CNN的OLTC动作声信号快速分辨方法

有载分接开关(on-load tap changer,OLTC)的机械故障声纹在线监测技术逐步得到应用,为消除OLTC声纹在线监测过程中外界环境干扰导致的误动,提出一种基于混合倒谱系数与卷积神经网络(convolutional neural network,CNN)的OLTC声音辨识方法。首先通过现场采集与搭建试验平台的方式构建OLTC声信号数据集,并将变电站采集的环境声数据与ESC-50数据集共同构建成环境声数据集;其次,根据OLTC的声信号分布特性,采用梅尔倒谱系数、伽马通滤波倒谱系数、幂律归一化倒谱系数组成的混合倒谱对原始信号进行降维预处理,提升后续识别速度;最后,引入CNN通过超参数调整和网络结构优化设计构建声音辨识模型,实现OLTC与环境干扰的声信号辨识。结果表明,该方法在辨识OLTC与环境干扰声音方面具有较高的准确率与较快的计算速率。

基于K-Means聚类的粒子群优化CNN-BiGRU-HAM发动机剩余使用寿命预测方法

飞机在多种工况条件下运行时,发动机退化特征复杂性不断增加,导致发动机剩余寿命预测精度低。针对此问题,提出一种基于聚类分析的端到端剩余寿命(RUL)预测方法。采用K-Means聚类方法对发动机的多种工况和运行条件进行分组;再利用卷积神经网络(CNN)提取反映剩余寿命复杂动态变化的高维特征,将结果输入到双向门控循环单元(BiGRU)中学习特征之间的变化规律,设计并引入了新的混合注意力机制(HAM),充分考虑变量之间的关系,对重要特征信息赋予更大的权重,同时抑制冗余信息的影响;然后进行非线性变换,获得RUL预测结果;最后使用粒子群优化算法对神经网络的超参数进行调优。采用美国航天局NASA研究中心提供的涡轮发动机模拟数据集验证所提网络模型的有效性。结果表明:对于多工况运行条件,所提方法的均方根误差相比于CNN、LSTM、BiLSTM、CNN-LSTM分别降低了49.2%、37.1%、33.6%、24.8%,有效提升了模型的预测精度。

基于混沌神经元的延时滥用入侵检测模型

在研究混沌神经元延时特性的基础上 ,构建了MLP/CNN混合前馈型神经网络 .提出基于混沌神经元的滥用入侵检测模型 ,它既具备MLP的分类功能 ,又具有混沌神经元的延时、收集和思维判断功能 ,具有灵活的延时分类特性 ,因而能够有效地识别分布式入侵 .使用从网络数据流中获取的样本 ,以FTP口令穷举法入侵为例 ,对该模型进行仿真和整体测试 ,结果表明可以依据实际情况设置入侵判据 ,本文对FTP入侵检测的精确率在 98%以上 ,误报率和漏报率均小于 2 % .该模型可以推广到检测分布式DOS等具有延时特性的攻击行为和具有延时分类要求的其它系统中 .

基于CNN-LSTM的脑电情感四分类研究

为深入研究脑电信号(electroencephalogram,EEG)时空特征之间的关联,解决因手动提取特征导致的脑电情感识别准确率较低问题。将卷积神经网络(convolutional neural network,CNN)和长短时记忆网络(long short-term memory,LSTM)相结合,构造出了CNN-LSTM模型。首先,提取了5个频段的5个不同特征:功率谱密度(PSD)、差分熵(DE)、差分不对称(DASM)、理性不对称(RASM)和差分熵差分(DCAU)。其次,将特征输入CNN-LSTM模型,在DEAP数据集中的效价和唤醒两种情感维度上展开四分类实验。最后,将堆栈自编密码器(SAE),卷积稀疏自编码器(CSAE),深度置信网络(depth confidence network,DBN)分别与LSTM组合,构造SAE-LSTM,CSAE-LSTM,DBN-LSTM3种混合模型同CNN-LSTM进行分类准确率比较。实验结果表明:DE特征的分类识别效果在5种特征中占最优,β和γ频段上所有特征的识别准确率远高于其他频段,尤其是γ频段。CNN-LSTM模型获得了最高的平均分类准确率92.48%,充分证明了CNN-LSTM模型的有效性。

基于单种群蛙跳优化CNN的眼底图像多病变检测

为了有效解决眼底图像病变处存在交织重叠,大小血管密布并且受光照影响严重等问题,实现眼底图像多标签分类,提出了采用单种群蛙跳优化的卷积神经网络算法(SFCNN)对眼底多种病变进行检测。该算法保留混合蛙跳算法(SFLA)的高效寻优能力,简化成单种群蛙跳算法,并与传统卷积神经网络(CNN)有效结合。在初始化网络时,通过蛙跳算法优化网络初始权值选择;在网络迭代过程中监听卷积神经网络前向传播损失值并利用蛙跳算法的寻优能力修正异常权值;在网络符合结束条件后对最终权值进行一次蛙跳寻优,使网络权值得到进一步的优化,从而实现对复杂的眼底图像多病变检测分类。该算法对眼底图像病变检测的实验表明,相对于传统CNN算法,无论是在单病变检测还是同时整体检测,正确率均有所提高。

图像处理中CNN与视觉Transformer混合模型研究综述

卷积神经网络(CNN)与视觉Transformer是目前图像处理领域中两大重要的深度学习模型,两者经过多年来不断的研究与进步,已在该领域取得了非凡的成就。近些年来,CNN与视觉Transformer的混合模型正在逐步兴起,广泛的研究不断克服两种模型存在的弱项,高效地发挥出各自的亮点,在图像处理任务中表现出优异的效果。基于CNN与视觉Transformer混合模型进行深入阐述。总体概述了CNN与Vision Transformer模型的架构和优缺点,并总结混合模型的概念及优势。围绕串行结构融合方式、并行结构融合方式、层级交叉结构融合方式以及其他融合方式等四个方面全面回顾梳理了混合模型的研究现状和实际进展,并针对各种融合方式的主要代表模型进行总结与剖析,从多方面对典型混合模型进行评价对比。多角度叙述了混合模型在图像识别、图像分类、目标检测和图像分割等实际图像处理特定领域中应用研究,展现出混合模型在具体实践中的适用性和高效性。深入分析混合模型未来研究方向,并为后续该模型在图像处理中的研究与应用提出展望。

基于HOG-CNN的高相似度叶片图像识别方法

依赖特征工程的传统图像识别技术对高度相似叶片图像识别困难,对此提出一种融合方向梯度直方图(HOG)与卷积神经网络(CNN)的图像识别方法。首先由HOG算子提取叶片图像的局部纹理特征,然后将特征向量导入卷积神经网络进行训练、测试和输出分类结果。通过组合对比试验结果表明,该方法能够有效提高数据的鲁棒性,提高叶片图像的平均正确识别率,比多层感知器(MLP)和支持向量机(SVM)分类器的准确率提高了12%左右,平均准确率达到85%。

基于深度学习的HARQ辅助空天地融合网络时延受限容量预测

空天地融合网络(Satellite-Aerial-Terrestrial Integrated Network,SATIN)可以满足未来网络对全时全域全空通信和网络互联互通的需求。为了降低用户端传输时延并满足高频谱利用效率的要求,研究了基于深度学习的混合自动重复请求(Hybrid Automatic Repeat reQuest,HARQ)辅助的SATIN的时延受限容量(Delay-Limited Throughput,DLT)。为了提升性能预测效率和实时性,提出了基于卷积神经网络(Convolutional Neural Network,CNN)的性能预测方法,采用了一种去除池化层的改进CNN模型。预测结果表明,所提出的CNN预测结果较优,较Elman、BP等传统机器学习方法有更好的预测性能,其误差在10~(-3)浮动,且预测时间较其他方法大幅度减少。

基于改进LSTM算法的综合能源系统多元负荷预测

准确预测短期多种能源负荷,是确保综合能源系统可靠、高效运行的必要前提。为此,提出了一种基于遗传粒子群混合优化(genetic algorithm particle swarm optimization,GAPSO)算法的卷积长短期记忆神经网络(convolutional neural network-long short-term memory,CNN-LSTM)综合能源系统多元负荷预测模型。首先,利用皮尔逊系数来描述各影响因素与负荷之间的相关性强弱。其次,采用GAPSO算法对长短期记忆(long short-term memory,LSTM)网络模型进行改进,然后构建卷积神经网络(convolutional neural networks,CNN)以提取小时级高阶特征,并通过改进后的LSTM网络模型对提取的隐含高阶特征进行分位数回归建模,构建了基于GAPSO-CNN-LSTM综合能源系统多元负荷预测模型。最后,以美国亚利桑那州立大学坦佩校区综合能源系统负荷数据为算例进行验证,结果表明:改进后的算法具有更好的收敛能力,模型具有更高的预测精度。

基于机器视觉的人体动作目标检测

人体动作识别在人机交互、人群监控、运动分析等领域应用越来越广,已成为计算机领域前沿方向之一。构建了基于网络摄像机的实时人体动作识别系统,系统首先对网络端视频进行预处理并提取前景人体轮廓,然后使用卷积神经网络对原始图像和处理后的图像进行特征提取和分类识别。对前景人体轮廓提取使用了光流法和基于混合高斯模型(GMM)的背景减除法。得到前景人体轮廓后,使用卷积神经网络提取特征后测试,未处理、光流法、GMM方法的实时识别率分别为76.9%,81.61%,83.83%。

Transformer在计算机视觉领域的研究综述

Transformer是一种基于自注意力机制的深度神经网络。近几年,基于Transformer的模型已成为计算机视觉领域的热门研究方向,其结构也在不断改进和扩展,比如局部注意力机制、金字塔结构等。通过对基于Transformer结构改进的视觉模型,分别从性能优化和结构改进两个方面进行综述和总结;也对比分析了Transformer和CNN各自结构的优缺点,并介绍了一种新型的CNN+Transformer的混合结构;最后,对Transformer在计算机视觉上的发展进行总结和展望。

基于人工智能的脱机手写数字识别研究综述

脱机手写数字识别技术是在光学字符识别技术的基础上,采用计算机等处理器自动对手写阿拉伯数字进行识别的一种技术。文中对国内外研究工作进行全面分析,首先介绍了基于人工智能技术的脱机手写数字识别历经的3个重要阶段:第一阶段是利用以支持向量机(SVM)为代表的传统分类器进行识别;第二阶段建立了卷积神经网络(CNN)为代表的神经网络模型;第三阶段设立了卷积神经网络和支持向量机相结合(CNN+SVM)为代表的混合分类模型。然后总结了人工智能技术在这3个阶段的优缺点,最后阐述了人工智能技术应用于脱机手写数字识别的问题和未来的发展方向。