期刊文献+
共找到16篇文章
< 1 >
每页显示 20 50 100
多模态高精度非线性激活函数协处理器设计 被引量:1
1
作者 欧文辉 王峥 +2 位作者 吴卓宇 王伟伦 甘志银 《计算机辅助设计与图形学学报》 EI CSCD 北大核心 2024年第4期598-606,共9页
针对片上部署非线性激活函数产生的精度损失以及硬件资源开销大的问题,提出一种基于三分法指数方法的多模态高精度非线性激活函数协处理器设计.首先分析激活函数在不同拟合参数下的近似误差以及运算量,为设计提供指导;然后设计一种模块... 针对片上部署非线性激活函数产生的精度损失以及硬件资源开销大的问题,提出一种基于三分法指数方法的多模态高精度非线性激活函数协处理器设计.首先分析激活函数在不同拟合参数下的近似误差以及运算量,为设计提供指导;然后设计一种模块化的硬件框架,通过复用指数、对数、sigmoid模块并结合浮点计算单元,能够以较低的面积开销部署多种激活函数.在Xilinx的Vertix系列FPGA上完成原型测试,实验结果表明,在仅增加32个查找表的情况下,所提设计tanh和sigmoid的近似误差仅为2项拆分指数方法的65.02%和69.00%,同时拟合范围扩大60%;与高精度分段线性逼近方法相比,该设计在仅用4%的查找表数量的情况下,将近似误差缩小82%. 展开更多
关键词 线性激活函数 神经网络 数学拟合 FPGA
下载PDF
mnist数据集上非线性激活函数relu的两个性质
2
作者 张华民 吴方婧 +2 位作者 郑超 杨凯 齐雪 《湖北师范大学学报(自然科学版)》 2024年第3期1-7,共7页
非线性激活函数在卷积神经网络的结构中起重要的作用,卷积神经网络是将高维数的线性不可分数据经卷积神经网络处理后变成低维数的线性可分数据,非线性的激活函数就是将高维非线性数据转化成低维线性可分数据最强有力的工具。基于激活函... 非线性激活函数在卷积神经网络的结构中起重要的作用,卷积神经网络是将高维数的线性不可分数据经卷积神经网络处理后变成低维数的线性可分数据,非线性的激活函数就是将高维非线性数据转化成低维线性可分数据最强有力的工具。基于激活函数relu通过坐标对称变换和旋转变换得到两类新的激活函数,并验证了这两类新构建的非线性激活函数在mnist上和激活函数relu能起到同样的效果。 展开更多
关键词 卷积神经网络 线性激活函数 修正线性单元
下载PDF
优化非线性激活函数-全局卷积神经网络的物体识别算法 被引量:3
3
作者 安凤平 《小型微型计算机系统》 CSCD 北大核心 2021年第2期393-398,共6页
传统的物体识别算法识别精度、自适应能力弱等问题已然不能满足实际的仓储物流领域对物体识别精度的要求.近年来,相关学者提出了基于深度学习的物体识别算法,它得到一定的推广和应用.但是,深度学习在物体识别的应用过程中存在以下问题:... 传统的物体识别算法识别精度、自适应能力弱等问题已然不能满足实际的仓储物流领域对物体识别精度的要求.近年来,相关学者提出了基于深度学习的物体识别算法,它得到一定的推广和应用.但是,深度学习在物体识别的应用过程中存在以下问题:一是深度学习模型中激活函数的非线性建模能力弱;二是深度学习模型大量重复的池化操作丢失信息.鉴于此,本文提出了一种参数形式统一且可学习的指数非线性单元(Multiple Parameters Exponential Linear Units,MPELU).它通过在ELU(Exponential Linear Units)中引入两个学习的参数,提升模型的非线性建模能力.同时,本文提出了一种新的全局卷积神经网络结构,减少大量池化操作丢失特征信息的问题.基于上述思想,本文提出了优化非线性激活函数-全局卷积神经网络的物体识别算法.利用本文所提算法对CIFAR100数据集和ImageNet数据集分别进行实验.结果表明,本文所提物体识别方法不仅识别准确率较传统机器学习、其他深度学习模型有较大幅度提升,而且具有良好的稳定性和鲁棒性. 展开更多
关键词 深度学习 全局卷积神经网络 线性激活函数 物体检测 物体识别
下载PDF
光学非线性激活函数器件的原理与应用 被引量:2
4
作者 吕青鸿 马睿 +4 位作者 肖莘宇 俞维嘉 刘知非 胡小永 龚旗煌 《光学学报》 EI CAS CSCD 北大核心 2023年第16期1-19,共19页
神经网络中的非线性激活层可以改变多层网络数据间的线性变换关系,使神经网络得以进行更复杂的学习。为实现处理速度更快,能耗更低的运算,近年来光子领域的神经网络逐渐受到重视,一系列光学非线性激活函数器件应运而生。本文综述了近年... 神经网络中的非线性激活层可以改变多层网络数据间的线性变换关系,使神经网络得以进行更复杂的学习。为实现处理速度更快,能耗更低的运算,近年来光子领域的神经网络逐渐受到重视,一系列光学非线性激活函数器件应运而生。本文综述了近年来在光学神经网络中引入非线性激活函数的工作,从光学非线性函数的物理机制及其在光学神经网络中的应用出发,对该领域的工作进行了回顾;总结并讨论了光学神经网络中光学非线性激活函数器件发展所面临的挑战及变化趋势,并基于此展望了其发展前景。 展开更多
关键词 线性光学 光学神经网络 线性激活函数
原文传递
基于SwinT-YOLOX模型的自动扶梯行人安全检测算法
5
作者 侯颖 杨林 +3 位作者 胡鑫 贺顺 宋婉莹 赵谦 《计算机工程》 CAS CSCD 北大核心 2024年第3期277-289,共13页
自动扶梯被广泛应用在公共场合,乘客摔倒事故如果不能被及时发现并处理,会造成严重的人身伤害,因此实现自动扶梯智能化监控管理势在必行。受自动扶梯运行环境复杂、行人多以及局部遮挡情况的影响,传统的人体姿态特征摔倒检测模型效果不... 自动扶梯被广泛应用在公共场合,乘客摔倒事故如果不能被及时发现并处理,会造成严重的人身伤害,因此实现自动扶梯智能化监控管理势在必行。受自动扶梯运行环境复杂、行人多以及局部遮挡情况的影响,传统的人体姿态特征摔倒检测模型效果不佳且检测速度减慢。融合Swin Transformer和YOLOX目标检测算法的优秀策略,提出一种基于SwinT-YOLOX网络模型的自动扶梯行人摔倒检测算法。采用Swin Transformer模型作为骨干网络,颈部网络使用添加注意力机制的YOLOX模型,进一步提升特征图的多样性和表达能力。此外,利用漏斗修正线性单元视觉激活函数构建CBF模块,改进颈部网络和Head网络结构,从而获得更优的特征检测性能。实验结果表明,针对自建扶梯行人摔倒数据库和网络采集实际扶梯行人摔倒事故,与AlphaPose、OpenPose、YOLOv5等算法相比,该算法检测性能明显提高,行人摔倒平均检测精度可以达到95.92%,检测帧率为24.08帧/s,能够快速、精准地检测到乘客摔倒事故发生,监控管理平台立刻采取安全急停措施以保证乘客安全。 展开更多
关键词 自动扶梯 摔倒检测 深度学习 YOLOX模型 Swin Transformer模型 漏斗修正线性单元视觉激活函数
下载PDF
基于深度卷积神经网络的非线性模型修正方法
6
作者 邓忠民 张鑫杰 《北京信息科技大学学报(自然科学版)》 2021年第2期1-6,21,共7页
为了解决传统非线性有限元模型修正方法中,人工非线性特征提取和目标函数的构建中会引入的人为误差,提出一种基于深度学习理论的非线性有限元模型修正方法。利用非线性激活函数提高卷积神经网络对于非线性传递关系的表征能力,完成对复... 为了解决传统非线性有限元模型修正方法中,人工非线性特征提取和目标函数的构建中会引入的人为误差,提出一种基于深度学习理论的非线性有限元模型修正方法。利用非线性激活函数提高卷积神经网络对于非线性传递关系的表征能力,完成对复杂非线性响应的特征提取和逆向传递关系的构建。可以直接利用结构的时频数据作为网络输入,利用训练好的网络即可得到参数修正结果。通过算例证明,该方法能够提高非线性参数修正的精度,修正后模型对真实结构的表征能力更强,更加接近于真实结构。 展开更多
关键词 线性 有限元模型修正 深度卷积神经网络 STFT 线性激活函数
下载PDF
基于改进TransGAN的零样本图像识别方法 被引量:1
7
作者 翟永杰 张智柏 王亚茹 《智能系统学报》 CSCD 北大核心 2023年第2期352-359,共8页
零样本学习算法旨在解决样本极少甚至缺失情况下的图像识别问题。生成式模型通过生成缺失类别的图像,将此问题转化为传统的基于监督学习的图像识别,但生成图像的质量不稳定、容易出现模式崩塌,影响图像识别准确性。为此,通过对TransGAN... 零样本学习算法旨在解决样本极少甚至缺失情况下的图像识别问题。生成式模型通过生成缺失类别的图像,将此问题转化为传统的基于监督学习的图像识别,但生成图像的质量不稳定、容易出现模式崩塌,影响图像识别准确性。为此,通过对TransGAN模型进行改进,提出基于改进TransGAN的零样本图像识别方法。将TransGAN的生成器连接卷积层进行降维,并进一步提取图像特征,使生成图像特征和真实图像特征更加接近,提高特征的稳定性;同时,对判别器加入非线性激活函数,并进行结构简化,使判别器更好地指导生成器,并减小计算量。在公共数据集上的实验结果表明,所提方法的图像识别准确率较基线模型提高了29.02%,且具有较好的泛化性能。 展开更多
关键词 零样本学习 生成对抗网络 TransGAN 深度学习 图像识别 图像特征 卷积层 线性激活函数
下载PDF
前馈神经网络导数特性分析 被引量:6
8
作者 魏海 杨华舒 +2 位作者 苏志敏 桂跃 董梦思 《计算机工程》 CAS CSCD 2014年第7期197-201,共5页
为分析前馈神经网络输出量的一阶、二阶偏导数特性,从一层网络结构入手,推导网络输出量的一阶偏导数,应用链式求导法则,推导多层网络输出量的一阶、二阶偏导数的计算公式。在此基础上推导网络的三阶偏导数,并针对二层结构网络,在其输出... 为分析前馈神经网络输出量的一阶、二阶偏导数特性,从一层网络结构入手,推导网络输出量的一阶偏导数,应用链式求导法则,推导多层网络输出量的一阶、二阶偏导数的计算公式。在此基础上推导网络的三阶偏导数,并针对二层结构网络,在其输出层激活函数为线性函数时,推导出该网络对输入量的高阶偏导数计算公式。实例分析结果表明,前馈神经网络一阶、二阶偏导数值的精度比网络输出值的精度要低,尤其是在区间的边界上有时会出现较大的偏差。网络的一阶、二阶偏导数值的精度也会随着隐含层神经元数量的增加明显降低,在基本相同的网络训练精度下,隐含层神经元较多的网络比神经元少的网络导数特性差。 展开更多
关键词 前馈神经网络 偏导数 线性激活函数 精度 网络体系结构 网络输出
下载PDF
基于多图融合和改进Xception网络的跨设备手背静脉识别研究 被引量:2
9
作者 王一丁 曹晓彤 《计算机测量与控制》 2021年第6期153-158,共6页
手背静脉是一种新兴的生物特征识别技术,相比其他生物特征具有唯一性、防伪造性、稳定性和非接触性等明显优势;由于采集设备和采集环境的不同,手背静脉灰度图像存在亮度、角度旋转、尺度缩放等差异,识别率较低;由此提出一种基于多图融合... 手背静脉是一种新兴的生物特征识别技术,相比其他生物特征具有唯一性、防伪造性、稳定性和非接触性等明显优势;由于采集设备和采集环境的不同,手背静脉灰度图像存在亮度、角度旋转、尺度缩放等差异,识别率较低;由此提出一种基于多图融合和Xception网络的手背静脉识别算法;首先在图像预处理后分割得到二值纹理图,然后将二值图转换为距离图,再由二值图细化得到骨架图;最后融合二值图、距离图和骨架图,得到包含纹理特征和形状特征的三通道合并图;采用Xception结构作为分类网络,并将其激活函数ReLU改为非线性更强的h-swish激活函数;相关实验在由实验室自建的1库和2库两个数据库上进行,其中1库作为训练集,2库作为测试集,最高识别率达到93.54%. 展开更多
关键词 多图融合 Xception网络 线性激活函数 手背静脉图像 跨设备条件
下载PDF
基于轻量级网络的实时人脸识别算法研究 被引量:13
10
作者 张典 汪海涛 +1 位作者 姜瑛 陈星 《计算机科学与探索》 CSCD 北大核心 2020年第2期317-324,共8页
为了在嵌入式和移动设备上实现高精度的实时人脸识别,对常见的网络在人脸识别方面的优缺点进行了分析,提出了一种高效的深度卷积神经网络模型Lightfacenet。在网络中结合深度可分离卷积、逐点卷积、瓶颈结构和挤压与激励结构提出了轻量... 为了在嵌入式和移动设备上实现高精度的实时人脸识别,对常见的网络在人脸识别方面的优缺点进行了分析,提出了一种高效的深度卷积神经网络模型Lightfacenet。在网络中结合深度可分离卷积、逐点卷积、瓶颈结构和挤压与激励结构提出了轻量化神经网络单元,使网络在保证有一定准确率的情况下有效地解决深层的神经网络带来的参数冗余和计算量大的问题,再通过改进的非线性激活函数进一步提高网络的准确性。该神经网络在保留卷积神经网络部分优点的同时也很好地平衡了网络的缺点。在同样的实验环境下,Lightfacenet网络既实现了非常高的识别精度,也在模型推理速度上达到实时的效果。在使用MS-Celeb-1M数据集训练后,该模型在LFW数据集上达到了99.50%的准确率,其效果已经可以与现在的大型卷积神经网络媲美。对于面部识别,Lightfacenet比目前最先进的移动卷积神经网络在保证准确率的情况下提高了效率。 展开更多
关键词 人脸识别 轻量化神经网络单元 实时 线性激活函数
下载PDF
卷积神经网络在图像识别中的优化研究 被引量:10
11
作者 花如祥 吴国新 徐小力 《电子测量技术》 2018年第24期62-66,共5页
近年来,在图像识别领域中卷积神经网络得到了广泛的应用,其网络结构和激活函数的选择会在很大程度上影响着图像识别的效率和效果。为了优化卷积神经网络在图像识别中的识别准确率,针对网络结构的选取,引入一种由较小卷积核构成的新的卷... 近年来,在图像识别领域中卷积神经网络得到了广泛的应用,其网络结构和激活函数的选择会在很大程度上影响着图像识别的效率和效果。为了优化卷积神经网络在图像识别中的识别准确率,针对网络结构的选取,引入一种由较小卷积核构成的新的卷积神经网络结构。在激活函数的选择方面,结合Softplus函数对图像数据能够进行非线性修正的特点和ReLUs函数的稀疏表达能力,形成一种新非线性函数作为网络的激活函数。通过在MNIST标准数据库上进行实验,结果表明该算法不仅可以加快网络的收敛速度,而且可以有效的提高识别准确率。 展开更多
关键词 深度学习 卷积神经网络 图像识别 线性激活函数
下载PDF
Application of nonlinear partial least square in catalyst modeling 被引量:1
12
作者 黄凯 罗正鸿 +1 位作者 陈丰秋 吕德伟 《Journal of Southeast University(English Edition)》 EI CAS 2004年第1期65-69,共5页
The neural network partial least square (NNPLS) method was used to establish a robust reaction model for a multi-component catalyst of methane oxidative coupling. The details, including the learning algorithm, the num... The neural network partial least square (NNPLS) method was used to establish a robust reaction model for a multi-component catalyst of methane oxidative coupling. The details, including the learning algorithm, the number of hidden units of the inner network, activation function, initialization of the network weights and the principal components, are discussed. The results show that the structural organizations of inner neural network are 1-10-5-1, 1-8-4-1, 1-8-5-1, 1-7-4-1, 1-8-4-1, 1-8-6-1, respectively. The Levenberg-Marquardt method was used in the learning algorithm, and the central sigmoidal function is the activation function. Calculation results show that four principal components are convenient in the use of the multi-component catalyst modeling of methane oxidative coupling. Therefore a robust reaction model expressed by NNPLS succeeds in correlating the relations between elements in catalyst and catalytic reaction results. Compared with the direct network modeling, NNPLS model can be adjusted by experimental data and the calculation of the model is simpler and faster than that of the direct network model. 展开更多
关键词 Learning algorithms Least squares approximations METHANE Neural networks Principal component analysis
下载PDF
基于侧链连接卷积神经网络的手掌静脉图像识别 被引量:2
13
作者 娄梦莹 王天景 +2 位作者 刘娅琴 杨丰 黄靖 《计算机应用》 CSCD 北大核心 2020年第12期3673-3678,共6页
针对手掌静脉图像数量少且质量参差不齐,进而导致掌脉识别系统的性能降低的现象,提出一种基于侧链连接卷积神经网络的手掌静脉图像识别方法。首先,在ResNet模型的基础上,用卷积层和池化层提取掌脉特征。然后,采用指数线性单元(ELU)激活... 针对手掌静脉图像数量少且质量参差不齐,进而导致掌脉识别系统的性能降低的现象,提出一种基于侧链连接卷积神经网络的手掌静脉图像识别方法。首先,在ResNet模型的基础上,用卷积层和池化层提取掌脉特征。然后,采用指数线性单元(ELU)激活函数、批归一化(BN)和Dropout技术来改进和优化模型,以缓解梯度消失、防止过拟合、加快收敛及增强模型泛化能力。最后,引入稠密连接网络(DenseNet),使提取到的手掌静脉特征更具丰富性和有效性。在两个公开库和一个自建库上分别进行实验,结果表明所提方法在三个数据库上的识别率分别为99.98%、97.95%、97.96%。可见该方法能有效提高掌脉识别系统的性能,且更适用于掌脉识别的实际应用。 展开更多
关键词 手掌静脉识别 ResNet 指数线性单元激活函数 批归一化 DROPOUT 稠密连接网络
下载PDF
知识与数据联合驱动的中央空调系统建模与调控方法 被引量:3
14
作者 陈慷 宋梦 高赐威 《南方电网技术》 CSCD 北大核心 2022年第10期120-129,150,共11页
中央空调系统(heating, ventilation, air conditioning systems, HVACs)作为城市建筑中用能占比最大的负荷种类之一,具有较大的调节潜力,可参与需求响应,促进电力系统供需平衡。基于现有的HVACs建模基础,分析了各个子系统的物理模型结... 中央空调系统(heating, ventilation, air conditioning systems, HVACs)作为城市建筑中用能占比最大的负荷种类之一,具有较大的调节潜力,可参与需求响应,促进电力系统供需平衡。基于现有的HVACs建模基础,分析了各个子系统的物理模型结构,通过物理模型结构精准选取合适的特征值,并对数据驱动方法提供指导,结合多层感知器(multiple layer perception, MLP)网络结构,提出了知识与数据联合驱动的HVACs建模方法。然后,基于已建立的HVACs模型,建立HVACs能耗优化模型;将MLP网络结构显化,通过对激活函数的线性化,将HVACs能耗优化模型转化为混合整数线性规划问题。通过算例分析可知,所提出的建模方法的可快速精准选取特征值,有利于提高建模效率,此外,该方法大大降低了调控模型的求解难度,实际应用价值较高。 展开更多
关键词 中央空调系统 特征选取 知识与数据联合驱动 激活函数线性
下载PDF
基于Faster-RCNN算法的轻量化改进及其在沙滩废弃物检测中的应用 被引量:4
15
作者 龚圣斌 王少杰 +3 位作者 侯亮 张荣辉 林晓涵 吴彬云 《厦门大学学报(自然科学版)》 CAS CSCD 北大核心 2022年第2期253-261,共9页
由于背景环境复杂,检测物体易受部分遮挡、天气以及光线变化等因素的影响,传统目标检测方法存在提取特征难、检测准确率低、检测耗时长等缺陷.为了改善传统目标检测方法存在的缺陷,实现快速准确的目标检测,提出了一种基于快速区域卷积... 由于背景环境复杂,检测物体易受部分遮挡、天气以及光线变化等因素的影响,传统目标检测方法存在提取特征难、检测准确率低、检测耗时长等缺陷.为了改善传统目标检测方法存在的缺陷,实现快速准确的目标检测,提出了一种基于快速区域卷积神经网络(faster regions with convolutional neural network,Faster-RCNN)算法的轻量化改进方法,即针对算法Inception-V2特征提取网络进行轻量化改进,并以带泄露线性整流(leaky rectified linear unit,Leaky ReLU)作为激活函数,解决使用线性整流(rectified linear unit,ReLU)激活函数存在的神经元输入为负数时输出为0的问题.基于上述改进方法,选择沙滩废弃物的检测为案例以验证方法的有效性,并且结合不同特征提取网络在检测沙滩废弃物时的表现,对比了SSD(single shot multibox detector)与Faster-RCNN算法.实验结果表明:所提改进算法在实际检测中有较好的综合性能,且相比原算法Faster-RCNN_Inception-V2,轻量化改进后的Inception-V2特征提取网络卷积计算量减少51.8%,模型训练耗时缩短了9.1%,检测耗时减少了10.9%,各类别AP的平均值(mean average precision,mAP)增加了1.02%,可见所提的改进方法能够有效提高目标检测的准确率,减少检测耗时,并在沙滩废弃物检测上得到成功应用,为海滨城市的沙滩清理维护提供了技术支持与保障. 展开更多
关键词 快速区域 卷积神经网络 Inception-V2 轻量化特征提取网络 带泄露线性整流激活函数 沙滩废弃物
下载PDF
基于改进Yolov5s的光刻热点检测算法
16
作者 吴清岳 刘佳敏 +2 位作者 张松 江浩 刘世元 《激光与光电子学进展》 CSCD 北大核心 2023年第24期243-251,共9页
光刻热点检测是实现集成电路可制造性设计,保障集成电路芯片最终良率的关键。鉴于传统基于深度学习的光刻热点检测方法难以满足先进集成电路制造对检测精度的要求,提出了一种基于改进Yolov5s的检测算法,用于光刻版图热点缺陷的精确检测... 光刻热点检测是实现集成电路可制造性设计,保障集成电路芯片最终良率的关键。鉴于传统基于深度学习的光刻热点检测方法难以满足先进集成电路制造对检测精度的要求,提出了一种基于改进Yolov5s的检测算法,用于光刻版图热点缺陷的精确检测。通过将坐标注意力机制引入骨干网络,提高了Yolov5s模型对版图图形区域的关注度,进而极大地改善了基于Yolov5s的检测算法的光刻热点检测性能。与此同时,采用Sigmoid线性单元激活函数进一步完善整个神经网络的非线性表达,利用Scylla交并比损失函数更快速地定量评估边界框回归损失,提高了热点检测算法的收敛速度和精度。将ICCAD(The International Conference on Computer-Aided Design)2012竞赛基准、经光学邻近校正优化后的光刻图形作为数据集对所提算法开展性能测试实验,验证了热点检测算法的优异检测精度。实验结果表明,该算法的平均准确率、平均召回率、平均F1-score和均值平均精度分别达到97.7%、98.0%、97.8%和98.4%,显著优于其他光刻热点检测算法,展示了良好的应用前景。 展开更多
关键词 光刻热点检测 改进Yolov5s 检测精度 坐标注意力机制 Sigmoid线性单元激活函数 Scylla交并比损失函数
原文传递
上一页 1 下一页 到第
使用帮助 返回顶部