利用动态多池卷积神经网络的情感分析模型

基于词向量的卷积神经网络方法在情感分析研究中取得了很好的效果。然而,该方法从上下文学习的语义词向量忽略了词语本身的情感极性,传统的卷积神经网络模型未考虑句子的结构信息。针对这两方面的不足,提出了一种基于情感词向量的动态多池卷积神经网络情感分析模型,利用skip-gram模型和情感词典来训练情感词向量,并采用动态多池的策略来分割句子,保留了多个最大特征值。实验结果表明,动态多池卷积神经网络模型在情感分析任务上的准确率较机器学习模型和传统卷积神经网络模型都有显著提升。

基于改进一维卷积神经网络的轴承故障诊断

为了保障机械设备的安全稳定运行,提出了一种采用大卷积核和弱池化结构的一维卷积神经网络故障诊断模型。首先,设计大卷积核,提高模型对全局特征的敏感度,同时简化池化结构,进一步增强模型对局部特征的抽象能力;然后,嵌入批量归一化处理策略,实现故障位置及故障程度的准确识别;最后,应用凯斯西储大学的轴承公开数据集进行模型验证。实验结果显示该模型具有优秀的特征提取能力和分类精度。

基于改进卷积神经网络的化纤丝饼表面缺陷识别

针对传统人工检测化纤丝饼表面缺陷方法的不足,提出改进的卷积神经网络对正常以及3种常见缺陷丝饼进行分类识别。首先对采集的丝饼图像进行分块处理,然后利用改进的卷积神经网络进行特征提取,采用全局最大池化层代替全连接层,增强了图像对空间变换的鲁棒性,减少了模型参数,并利用softmax分类器进行分类。最后在网络学习过程中提出主动学习方法,用少量标注样本对网络进行训练,选出对提升网络性能最具价值的样本进行标注并加入到训练样本中进行训练检测。结果表明,该方法可有效实现丝饼的缺陷识别,识别准确率达到97.1%,并有效减少了网络所需的标注样本数量,节省大量的标注成本,具有一定的通用性。

基于语言模型及循环卷积神经网络的事件检测

目前,事件检测的难点在于一词多义和多事件句的检测.为了解决这些问题,提出了一个新的基于语言模型的带注意力机制的循环卷积神经网络模型(recurrent and convolutional neural network with attention based on language models,LM-ARCNN).该模型利用语言模型计算输入句子的词向量,将句子的词向量输入长短期记忆网络获取句子级别的特征,并使用注意力机制捕获句子级别特征中与触发词相关性高的特征,最后将这两部分的特征输入到包含多个最大值池化层的卷积神经网络,提取更多上下文有效组块.在ACE2005英文语料库上进行实验,结果表明,该模型的 F 1 值为74.4%,比现有最优的文本嵌入增强模型(DEEB)高0.4%.

基于卷积神经网络和关键词策略的实体关系抽取方法

针对传统的实体关系抽取方法在定义特征过程中费时且容易造成错误传播,及现有深度学习方法依靠单一词向量学习特征的不足,文中提出基于卷积神经网络和关键词策略的实体关系抽取方法.在原始词向量的基础上,通过基于句子级的关键词抽取算法(TP-ISP)获得类别关键词特征.类别关键词的加入提高类别区分度,同时弥补网络自动学习特征的不足.在网络训练阶段,采用分段最大池化策略,减少传统最大池化策略的信息丢失.实验表明,文中方法有利于提升实体关系抽取结果.

基于感兴趣区域卷积神经网络的车辆检索方法

为降低车辆检索的误检率并提高检索效率,对块卷积神经网络进行优化,提出一种车辆检索方法。增加感兴趣区域输入层、感兴趣区域池化层和目标包围盒输出层,提高传统块卷积神经网络模型的运算效率和分类性能;采用优化的模型进行车辆检索,依据边缘检测、轮廓提取获取感兴趣区域,通过优化的模型提取特征和进行特征分类,输出车辆目标及其位置。实验结果表明,该方法的车辆检索误检率和检索效率优于目前主流车辆检索方法。

关联语义结合卷积神经网络的文本分类方法

针对传统文本分类方法中没有考虑单词语义信息的问题,提出一种结合关联语义和卷积神经网络（CNN）的文本分类方法。首先,对文本进行预处理提取出词干。然后,将每个单词与其相关联的上下文单词相结合,以此构建包含语义信息的词向量。接着,将文本的词向量矩阵输入到CNN中,通过卷积层和最大池化层来获得最佳特征,通过输出层获得分类概率。最后,以最小化代价函数来训练CNN模型,以此构建最终的文本分类器。在2个中文数据集上的实验结果表明,该方法能够实现文本的准确分类,具有可行性和有效性。

基于轻量级神经网络的雷暴云团识别系统研究与实现

现阶段关于雷暴天气等气象信息都由气象工作人员进行确认识别,这种人工识别的方式无法满足对天气预警的实时性要求,给人们的人身财产安全保护带来了极大的挑战。为了解决上述问题,文中提出了一种将深度可分离卷积和残差块相结合,并利用多池化结构对全局信息进行特征提取的网络结构,通过降低网络的参数数量,提升雷暴云团识别的响应时间,且不会对识别的准确率造成影响。实验表明,利用这种网络结构对比常用的网络分割网络有优势,对雷暴云团的识别准确率提升了0.5%,并且对于卫星云图的响应时间缩短了10%;同时为了便于一些非相关的人员使用,对数据解析和网络结构进行了实用性和系统性的封装。

基于卷积神经网络的交通标志牌识别

交通标志牌识别作为自动驾驶和智能交通领域的研究热点,对车联网环境下的交通安全至关重要。为克服传统交通标志牌识别方法面临的标志牌种类多、形状复杂以及精度受光照变化影响等技术难点,基于卷积神经网络构建交通标志牌识别模型,进而实现快速准确的交通标志牌识别。研究表明构建的卷积神经网络模型对于10种交通标志牌均能做出准确识别,且模型的泛化能力和鲁棒性均较好,研究可为未来交通安全和智能交通的发展奠定基础。

基于稀疏局部嵌入深度卷积网络的冷水机组故障诊断方法

针对于冷水机组提出一种基于稀疏局部嵌入深度卷积网络(sparsely local embedding network,SLENet)的故障诊断方法。采用稀疏局部嵌入方法代替卷积核,对输入数据进行特征选择,避免了复杂的训练和调参过程。另外采用空间金字塔最大池化作为网络的输出层,减少了网络的输出维数和分类器的计算量。针对美国采暖、制冷与空调工程师学会提供的冷水机组的典型故障数据进行分类,结果表明,该方法相比深度卷积网络(CNN)和支持向量机(SVM)方法具有更高的故障诊断精度。

基于卷积神经网络去噪正则化的条纹图修复

条纹投影轮廓术测量表面存在高动态范围反射率物体时,采集的条纹图中出现的强度饱和区域将导致对应区域的相位计算误差或缺失,最终影响三维形貌的恢复。为此,提出一种基于卷积神经网络(CNN)去噪正则化的条纹图高光区域修复算法。该方法仅需要在正常曝光和短曝光条件下获取两帧条纹图,快速实现条纹修复,步骤如下:利用Otsu方法对短曝光条纹的调制度图做二值化处理以确定反光区域位置;把短曝光条纹对应区域进行灰度调节后融入正常曝光条纹中,形成迭代修复算法的初值;通过CNN去噪正则化的修复算法,实现条纹图局部高光区域的快速修复,再利用修复后的条纹实现对高动态范围反射物体的三维面形重建。与其他几种常用方法对比,所提方法在条纹修复效果和修复时间上都具有较大优势。

面向文本分类的多头注意力池化RCNN模型

针对经典循环卷积神经网络(RCNN)在池化层采用的最大池化策略较为单一,会忽略除最突出特征外的其他特征,影响分类精度的问题,提出基于多头注意力池化的循环卷积神经网络(MHAP-RCNN)模型。多头注意力池化可以充分考虑各特征对分类的贡献,且能在训练过程中动态优化,有效缓解最大池化的单一性问题。在三个公开的文本分类数据集上进行实验,结果表明与经典RCNN及其他各模型相比,提出的模型具有更好的文本分类性能。

多孔全卷积网络的语义分割算法研究

全卷积网络(Fully Convolutional Network,FCN)中由于连续的最大池化和下采样操作造成特征分辨率急剧降低,使最终上采样恢复的特征图失去对图像的细节敏感性。文中采用多孔卷积替代全卷积网络中的标准卷积,从而使得卷积网络在计算特征响应时能精确控制图像的分辨率,同时在不增加参数数量以及计算量的前提下,有效地扩大了滤波器的感受野。数值实验表明,文中算法利用更多的上下文信息获取了更稠密的特征,有效地提高了分割精度。

基于Sobel算子的池化算法设计

池化算法是卷积神经网络中用于特征降维、参数压缩、扩大感受野的重要一层。针对现有的池化方法没有充分考虑到池化前特征图的整体内容及风格特征分布问题,提出了一种通过Sobel算子对卷积后的特征图计算每个特征点的梯度值,并根据梯度值分布确定每个池化窗口取最大值、均值或者最小值的池化算法。该算法充分考虑了特征图池化前后的整体内容及风格特征分布,保持了特征图的整体不变性。实验表明,该池化算法在VGG、ResNet等经典网络架构上取得了优异性能,具有普适性,可用来替代常用的最大池化、平均池化。

基于联合分量灰度化算法和深度学习的玻璃绝缘子目标识别算法

针对相近色干扰、不同光照条件下玻璃绝缘子颜色特征不明显而无法准确识别的问题,提出一种基于联合分量灰度化算法和深度学习的玻璃绝缘子目标识别算法。首先,提出一种联合分量灰度化算法,通过补偿玻璃绝缘子目标区域的颜色特征实现目标增强;然后,在均匀分块的基础上,采用动态分块阈值进行玻璃绝缘子图像粗分割,并结合玻璃绝缘子的颜色和空间信息等多尺度高维特征,提出一种双尺度分类卷积神经网络算法实现玻璃绝缘子图像细分割;最后,将细分割得到的所有子图像进行合并,实现复杂背景下玻璃绝缘子目标的准确识别。实验结果表明,所提算法能对图像中存在相近色干扰、光照变化影响的玻璃绝缘子目标进行精准识别,且其在Dice参数、杰卡德系数2项识别指标上均达到90%以上,平均识别准确率高达92%。

基于深度卷积特征与LLC编码的现勘图像分类

为了改善低层特征对图像内容描述不够精确而导致现勘图像分类准确率低的问题,提出一种利用深度学习特征的改进局部约束线性编码(local-constrained linear coding,LLC)算法。采用滑动窗口法提取图像密集卷积神经网络(convolutional neural networks,CNN)特征;利用近似LLC算法对提取的密集CNN特征进行快速编码和最大池化,并采用多尺度空间金字塔匹配产生包含空间位置信息的稀疏编码特征。最后,利用支持向量机对现勘图像进行分类从而得到高效的图像特征。对比实验结果表明,该算法的分类准确率较高。

基于动态衰减EMA的图像分类算法研究

内容针对传统指数滑动平均(EMA)算法在AlexNet卷积神经网络的训练后期无法持续优化网络参数,而导致网络过拟合问题.提出一种基于Tanh动态衰减指数滑动平均算法(T-ADEMA),采用变系数Tanh函数作为衰减率函数,根据训练次数动态调整优化参数,减小数据集中噪声对网络学习影响,提高模型泛化性能.实验结果表明,基于T-ADEMA算法的AlexNet网络在MNIST,CIFAR10,CIFAR100三个数据集上与传统EMA算法相比具有更好的泛化性能和分类正确率.

基于改进的双向长短期记忆网络的视频摘要生成模型

针对传统视频摘要方法往往没有考虑时序信息以及提取的视频特征过于复杂、易出现过拟合现象的问题,提出一种基于改进的双向长短期记忆(BiLSTM)网络的视频摘要生成模型。首先,通过卷积神经网络(CNN)提取视频帧的深度特征,而且为了使生成的视频摘要更具多样性,采用BiLSTM网络将深度特征识别任务转换为视频帧的时序特征标注任务,让模型获得更多上下文信息;其次,考虑到生成的视频摘要应当具有代表性,因此通过融合最大池化在降低特征维度的同时突出关键信息以淡化冗余信息,使模型能够学习具有代表性的特征,而特征维度的降低也减少了全连接层需要的参数,避免了过拟合问题;最后,预测视频帧的重要性分数并转换为镜头分数,以此选取关键镜头生成视频摘要。实验结果表明,在标准数据集TvSum和SumMe上,改进后的视频摘要生成模型能提升生成视频摘要的准确性;而且它的F1-score值也比基于长短期记忆(LSTM)网络的视频摘要模型DPPLSTM在两个数据集上分别提高1.4和0.3个百分点。

融合Inception V1-CBAM-CNN的轴承剩余寿命预测模型

针对现有的滚动轴承剩余寿命(RUL)预测方法精度低、轴承健康指标(HI)构建困难等问题,提出了一种基于卷积神经网络(CNN)并融合Inception V1模块和卷积注意力机制模块(CBAM)的滚动轴承RUL预测模型。首先,在CNN中添加了CBAM机制,并进行了加权处理,在通道和空间维度对重要特征进行了强化,对次要特征进行了抑制,通过添加改进的InceptionV1模块,提高了CNN通道间信息交互水平,全面提取了退化特征;然后,进行了网络优化,采用全局最大池化(GMP)方法对模型进行了简化,采用Dropout和批量归一化(BN)方法,避免了过拟合,提高了精度,且克服了训练时出现的梯度消失问题;最后,对数据进行了处理,将降噪后的信号重组为三维张量,将其作为HI,构建了退化标签,引入了评价指标,采用PHM2012轴承数据集进行了实验验证,在3种工况下将其与深度神经网络(DNN)、CNN方法、结合注意力机制的残差网络方法(ResNet)进行了对比。研究结果表明:该方法在变负载条件下的平均RMSE为0.033,较其他方法的RMSE值分别降低了86%、78%和69%,在预测精度和泛化能力方面具有明显优势。

基于检测增强型YOLOv3-tiny的道路场景行人检测

为了给驾驶员提供实时准确的行人信息、减少交通事故的发生,提出一种检测增强型YOLOv3-tiny(detection of enhanced YOLOv3-tiny,DOEYT)行人检测算法.创建鲁棒的特征提取网络,首先使用非对称最大池化进行下采样,防止随着感受野增大行人横向特征的丢失;其次使用Hardswish作为卷积层的激活函数优化网络性能;最后使用GC(globe context)自注意力机制获得全文特征信息.在分类回归网络部分,采用三尺度检测策略,提升小尺度行人目标的检测精度;使用k-means++算法重新生成数据集锚框,提高网络收敛速度.构建行人检测数据集并分为训练集和测试集,对DOEYT算法的性能进行试验验证.结果表明,非对称最大池化、Hardswish函数、GC自注意力机制分别使平均准确率AP提高14.4%、7.9%、10.8%;DOEYT算法在测试集上检测的平均准确率高达91.2%,检测速度为103帧/s,可见该算法可快速准确地检测行人,降低交通事故发生的风险.