基于主成分分析和深度神经网络的声学层析成像温度分布重建

为快速准确地获取火电厂锅炉炉膛温度场在线监测信息,提出了一种基于深度神经网络(deep neural network,DNN)的声学层析成像(acoustic tomography,AT)温度场重建算法。对测量值进行归一化处理后,结合主成分分析(principal component analysis,PCA)降维,构建全连接网络区别峰型,分别搭建DNN与BP神经网络对归一化慢度值及其最值进行预测,最后重建温度场分布。采用该方法对4种典型的温度场模型进行了仿真,结果表明:DNN算法的重建质量优于Tikhonov正则化算法与共轭梯度算法,重建图像的平均相对误差和均方根误差分别小于0.36%和0.85%。

Deep-SBFL:基于频谱的深度神经网络缺陷定位方法

深度神经网络已经在自动驾驶和智能医疗等领域取得了广泛的应用.与传统软件一样,深度神经网络也不可避免地包含缺陷,如果做出错误决定,可能会造成严重后果.因此,深度神经网络的质量保障受到了广泛关注.然而,深度神经网络与传统软件存在较大差异,传统软件质量保障方法无法直接应用于深度神经网络,需要设计有针对性的质量保障方法.软件缺陷定位是保障软件质量的重要方法之一,基于频谱的缺陷定位方法在传统软件的缺陷定位中取得了很好的效果,但无法直接应用于深度神经网络.在传统软件缺陷定位方法的基础上提出了一种基于频谱的深度神经网络缺陷定位方法Deep-SBFL.该方法首先通过收集深度神经网络的神经元输出信息和预测结果作为频谱信息;然后将频谱信息进行处理作为贡献信息,以用于量化神经元对预测结果所做的贡献;最后提出了针对深度神经网络缺陷定位的怀疑度公式,基于贡献信息计算深度神经网络中神经元的怀疑度并进行排序,以找出最有可能存在缺陷的神经元.为验证该方法的有效性,以EInspect@n(结果排序列表前n个位置内成功定位的缺陷数)和EXAM(在找到缺陷元素之前必须检查元素的百分比)作为评测指标,在使用MNIST数据集训练的深度神经网络上进行了实验.结果表明,该方法可有效定位深度神经网络中不同类型的缺陷.

基于多段插值拟合的深度神经网络非线性层加速方法

针对传统量化算法无法应用于非线性运算层的问题,本文提出了一种基于多段插值拟合的非线性层加速方法,利用插值表存储插值函数的参数,通过查表来计算得到非线性层的输出结果。使用本方法,可以在对非线性层进行有效加速的同时实现拟合误差可控。此外在硬件部署时,仅需要基础硬件指令支持,在边缘端和服务器都可以部署。实验结果表明,使用本文提出的多段插值方法拟合多种非线性层,可以取得平均1.44倍的加速效果。这种非线性层可以方便快捷地部署在图像分类、自然语言处理和机器翻译等多种任务模型上,并且每个模型对拟合精度有不同需求的情况下,均可以保证推理和训练精度损失小于0.5%。

基于深度神经网络的雷达距离超分辨方法

现有的雷达超分辨算法难以有效地应用于现实场景,为此提出基于深度神经网络(DNN)的调频连续波(FMCW)雷达距离超分辨方法.所提方法通过DNN外推雷达信号的观测时间以提高频域分辨率,进而提高雷达的距离分辨率.为了降低后续DNN的处理复杂度,利用快速傅里叶变换结合离散时间傅里叶变换(FFT+DTFT)算法预处理雷达的中频信号.采用具有非线性拟合能力的DNN对输入信号进行特征提取,预测信号的发展趋势.将预测信号递归输入DNN以不断外推时域信号的长度,对时域外推后的信号进行快速傅里叶变换得到具有高分辨率的距离像.为了排除杂波干扰,对距离像进行恒虚警率(CFAR)检测以有效地提取目标的距离信息.仿真实验结果表明,所提方法可以超越雷达带宽的限制实现距离超分辨.与现有的超分辨方法相比,所提方法具有更小的误差且更适用于处理现实场景中的雷达信号.

基于深度神经网络的钢结构施工质量智能评估

施工现场数据收集错误率大、迟缓,难以为管理人员提供准确及时的现场数据作为质量管理依据,因此需要更新数据采集和记录设备,高效获取数据,同时依靠图像识别技术开发施工质量自动化检查工具,有助于施工现场的质量管理,保证施工安全。

深度神经网络的关键技术及其在自动驾驶领域的应用

智能化是汽车的三大变革技术之一,深度学习具有拟合能力优、表征能力强和适用范围广的特点,是进一步提升汽车智能性的重要途径。该文系统性总结了用于自动驾驶汽车的深度神经网络(DNN)技术,包括发展历史、主流算法以及感知、决策与控制技术应用。回顾了神经网络的历史及现状,总结DNN的"神经元-层-网络"3级结构,重点介绍卷积网络和循环网络的特点以及代表性模型;阐述了以反向传播(BP)为核心的深度网络训练算法,列举用于深度学习的常用数据集与开源框架,概括了网络计算平台和模型优化设计技术;讨论DNN在自动驾驶汽车的环境感知、自主决策和运动控制3大方向的应用现状及其优缺点,具体包括物体检测和语义分割、分层式和端到端决策、汽车纵横向运动控制等;针对用于自动驾驶汽车的DNN技术,指明了不同问题的适用方法以及关键问题的未来发展方向。

基于高斯混合模型和深度神经网络的大型船舶主机功率预测(英文)

船舶主机功率是预测航行油耗、评估船舶废气排放中的一项重要数据。然而,未知的船舶主机功率数据对基于大数据的船舶油耗及排放预测产生了障碍。为了解决这一问题,本文提出基于高斯混合模型(GMM)和深度神经网络(DNN)的大型船舶主机功率预测方法。首先对船舶特征进行相关性分析,选择与主机功率相关系数较大的船舶特征作为GMM-DNN混合模型的输入,然后使用GMM对船舶特征进行聚类,将聚类结果作为标签和船舶特征一起作为DNN的输入,最后使用Adam-Dropout优化DNN,并用DNN对船舶功率进行预测。为了探究方法的有效性,本文比较了多元线性回归分析、非线性回归、DNN、GMM-DNN在船舶主机功率上的预测效果。实验表明,GMM-DNN模型在船舶主机功率预测上表现最好,其平均绝对误差MAPE为14.57%,比多元线性回归、非线性回归和DNN分别低28.27%、23.36%和1.24%。

基于深度神经网络的数据驱动潮流计算异常误差改进策略

在考虑不确定性的N-1安全校核、可靠性计算等需大规模重复潮流计算的场景中,基于深度神经网络(DNN)的数据驱动方法存在部分潮流变量误差异常的问题,影响潮流越限判别的准确率。对此,首先通过理论推导,分析DNN参数更新过程及数据标准化原理,发现该问题的重要成因之一为:DNN仅根据标准化误差迭代训练模型,未计及潮流变量的真实学习误差及工程实际的精度要求,无法及时针对误差异常的潮流变量调整DNN参数。然后,面向潮流计算提出基于动态学习权重的DNN自适应训练方法。该方法通过每轮迭代中验证集的真实学习误差、越限误判率及误差统计指标,确定各潮流变量的学习权重,有效降低数据驱动潮流计算的异常误差。最后,在IEEE标准算例和Polish 2383节点系统上仿真验证了所提方法的有效性。

基于深度神经网络的航天器反交会逃逸方法

针对空间近距离非合作交会,提出一种基于深度神经网络(DNN)的航天器智能反交会逃逸方法.首先建立了描述逃逸脉冲优化的双层数学规划(MP)问题模型;然后,选定神经网络的输入与输出,根据前述建立的模型,通过粒子群优化(PSO)算法计算不同相对状态下的最优逃逸脉冲,构建样本集;最后,设计神经网络并进行训练,通过比较学习效果合理选择网络的超参数.仿真结果表明,充分训练后的深度神经网络可以高精度地快速生成逃逸脉冲,并具有较好的泛化性能,可满足轨道博弈中对逃逸机动计算快速性和实时性的要求,为反交会逃逸提供了一种智能化手段.

基于深度神经网络和多元损失的说话人识别

生物特征识别技术相对于传统密码等方式具有更高的可靠性,而作为生物特征识别技术的重要研究方向之一的声纹识别方法,研究更精确的声纹识别方法具有更高的研究意义。随着深度学习的发展,深度学习应用在声纹识别技术上成为在声纹识别领域研究的重点。提出一种基于深度神经网络和beyond triplet loss相结合的说话人识别方法,模型通过梅尔频率倒谱系数(MFCC)提取MFCC声学特征,对MFCC声学特征提取说话人声纹特征,然后进行多元损失的模型训练。实验结果表明,DNN-BTL算法在说话人识别领域比高斯混合-隐马尔可夫模型(GMM-HMM)具有更好的识别效果。

融合压缩采样与深度神经网络的直接序列扩频参数估计

直接序列扩频(Direct Sequence Spread Spectrum,DSSS)信号的宽频带特性所带来的高采样率增加了参数估计的实现难度。针对现有技术所面临的问题与挑战,融合压缩采样与深度神经网络(Deep Neural Network,DNN),提出了用于估计DSSS信号参数的方法。一方面,压缩采样能够利用信号的冗余性,以较低的采样率获取信号中的有效参数信息;另一方面,DNN在提取数据特征方面具有高效准确的特点。通过对压缩采样与参数估计网络的整体训练,实现两者的有效配合,进而实现以较低采样率对DSSS信号参数的准确估计。仿真实验证明了该参数估计方法在低信噪比下的估计能力相对于传统方法具有一定的提升。

一种细粒度可重构的深度神经网络加速芯片

提出了一种高能效的细粒度可重构的深度神经网络(DNN)加速芯片。该芯片是基于并行计算阵列设计的,它包含144个处理单元,多个处理单元可以实现卷积、矩阵乘、取最大值或取平均值等运算,可以用于加速DNN。每个处理单元之间是通过片上网络(NOC)连接的,每个处理单元的运算结果可以直接发送给相邻的处理单元,运算中间数据不需要缓存。相邻处理单元间的数据流可以自由配置成各种拓扑结构,从而适配运算的多样性。为了实现激活函数,提出了一种高效的映射非线性函数的硬件实现方法。该芯片采用了标准的130 nm CMOS工艺制造,芯片面积为5.77 mm^2。该设计在133 MHz的工作频率下实现了38.3 GOPS的峰值算力。该芯片在1.2 V的电源电压下功耗为109 mW,芯片能效为0.351 TOPS/W。

基于深度神经网络的糖尿病预测分析与研究

在大数据的时代背景下,人工智能技术不断发展和普及,机器学习技术越来越多地被运用到医疗领域中。该文基于TensorFlow框架构建深度神经网络算法诊断糖尿病,并与KNN模型、逻辑回归模型、高斯贝叶斯模型、SVM模型、随机森林模型、AdaBoost模型和XGBoost模型七种传统机器学习模型从模型准确率、精确率、召回率、AUC值和F1-Score五项指标进行对比分析,发现深度神经网络算法所构建的预测模型准确率最高,更适合于糖尿病预测问题的分析研究。

深度神经网络在无源定位中的应用研究

针对无源定位中噪声统计特性不准确和对多源信息的综合利用,提出一种利用深度神经网络(DNN)的无源定位方法,该方法将训练集数据输入到深度神经网络中进行学习训练,利用随机失活这一正则化方法提高了模型的泛化能力,对模型的超参数选择进行二维搜索,最终得到深度神经网络模型的最优参数设置。将其和传统的无源定位方程解算方法以及单层神经网络模型进行对比,仿真结果表明提出的方法能有效降低噪声对无源定位的精度影响,增强了系统鲁棒性,同时也证明了深度神经网络对多源信息的综合利用能力。

神经网络骨导式助听器技术特点及应用

助听器是听力障碍人群中对人听力功能进行补偿的主要措施,可将人们的生活质量进行有效提高,根据助听器的方式不同,其主要包括气传导助听器和骨导式助听器。骨导式助听器方式主要是通过对颅骨进行震动,从而保证将声音传到患者耳内,再从耳内进行解析,以神经电信号的方式对听觉神经进行刺激,形成感知过程。本研究则在此基础上,对福建太尔电子科技股份有限公司研发生产的I22L骨导式助听器(闽械注准20192190009)的应用技术特点进行深入分析,展开相关报道如下。

基于卷积神经网络的发动机气路故障诊断方法

深度学习是一种新的基于特征表示的机器学习方法;深度学习模型包含多个隐藏层,可以通过对输入数据进行自动学习来获取隐藏的功能层中的特征信息;与传统的诊断方法相比,深度学习具备从原始信息中提取更丰富的特征的能力,因此已经成为基于机器学习的故障诊断研究的新方向,为发动机气路等复杂系统故障诊断带来了新思路;结合发动机气路试验数据的特点与深度学习的优势,提出基于卷积神经网络的故障诊断方法,包括预处理、模型训练及优化等过程,并实现了复杂系统故障诊断预测算法平台;经某发动机气路试验仿真数据实例验证,提出的方法具有较好的可行性和效果,能够充分利用深度学习的优点,更准确地识别发动机气路的健康状况。

基于多层级并行神经网络的多模态脑肿瘤图像分割框架

目的在脑肿瘤临床诊疗过程中,由于医疗资源稀缺与诊断效率偏低,迫切需要高精度的医学图像分割工具进行辅助诊疗。目前,使用卷积神经网络进行脑肿瘤图像分割已经成为主流,但是其对于脑肿瘤信息的利用并不充分,导致精度与效率并不完善,而且重新设计一个全新且高效的深度神经网络模型是一项成本高昂的任务。为了更有效提取脑肿瘤图像中的特征信息,提出了基于多层级并行神经网络的多模态脑肿瘤图像分割框架。方法该框架基于现有的网络结构进行拓展,以ResNet(residual network)网络为基干,通过设计多层级并行特征提取模块与多层级并行上采样模块,对脑肿瘤的特征信息进行高效提取与自适应融合,增强特征信息的提取与表达能力。另外,受U-Net长连接结构的启发,在网络中加入多层级金字塔长连接模块,用于输入的不同尺寸特征之间的融合,提升特征信息的传播效率。结果实验在脑肿瘤数据集BRATS2015(brain tumor segmentation 2015)和BRATS2018(brain tumor segmentation 2018)上进行。在BRATS2015数据集中,脑肿瘤整体区、核心区和增强区的平均Dice值分别为84%、70%和60%,并且分割时间为5 s以内,在分割精度和时间方面都超过了当前主流的分割框架。在BRATS2018数据集中,脑肿瘤整体区、核心区和增强区的平均Dice值分别为87%、76%和71%,对比基干方法分别提高8%、7%和6%。结论本文提出多层级并行的多模态脑肿瘤分割框架,通过在脑肿瘤数据集上的实验验证了分割框架的性能,与当前主流的脑肿瘤分割方法相比,本文方法可以有效提高脑肿瘤分割的精度并缩短分割时间,对计算机辅助诊疗有重要意义。

基于深度学习的无线电信号对抗样本检测研究

针对无线电信号的攻击愈来愈频繁的情况,本文在数据流形理论基础上,使用深度神经网络(DNN)检测无线电信号对抗样本及其攻击方法。首先使用5种不同攻击方法对无线电信号进行攻击产生对抗样本,其次使用3种不同的神经网络检测对抗样本,最后用残差神经网络(ResNet)检测对抗样本的攻击方法。在信噪比(SNR)为30 d B和20 dB的无线电信号数据上的实验结果表明,本文所使用的残差神经网络检测精度接近100%,在信噪比为10 dB的无线电信号数据上的检测精度仍然在90%以上。结果表明本文所用的残差神经网络能有效检测无线电信号的对抗样本及其攻击方法。

基于改进深度卷积生成对抗网络的入侵检测方法

针对入侵检测系统因采用的网络攻击样本具有不平衡性而导致检测结果出现较大偏差的问题,提出一种将改进后的深度卷积生成对抗网络(deep convolution generation adversarial network,DCGAN)与深度神经网络(deep neural network,DNN)相结合的入侵检测模型(DCGAN-DNN),深度卷积生成对抗网络能够通过学习已知攻击样本数据的内在特征分布生成新的攻击样本,并对深度卷积生成对抗网络中生成网络所用的线性整流(rectified linear unit,ReLU)激活函数作出改进,改善了均值偏移和神经元坏死的问题,提升了训练稳定性。使用CIC-IDS-2017数据集作为实验样本对模型进行评估,与传统的过采样方法相比DCGAN-DNN入侵检测模型对于未知攻击和少数攻击类型具有较高检测率。

基于DNN整机建模的滚珠丝杠进给系统关键结合部动态特性参数辨识

针对滚珠丝杠进给系统关键结合部动态特性参数的辨识精度不高等问题。提出利用可表征结合部动态特性参数与整机固有频率之间映射关系的深度神经网络(deep neural network, DNN)建立进给系统整机的等效动力学模型;结合进给系统固有频率的DNN预测值与实验模态分析值,采用粒子群优化(particle swarm optimization, PSO)算法对进给系统关键结合部的不同方向的刚度、阻尼参数同时辨识。以自行设计制造的进给系统实验台为实例进行整机建模、实验、参数辨识等分析;最终的辨识结果达到很高精度,说明该方法是可行、有效的。