基于渐进神经网络(GNN)的分组调度

现代通信网络中的大规模并行传输,意味着在交换机中的一个时间片内可能会有不止一个分组申请抵达同样的目的端,即引起了无冲突传输的问题。运用渐进神经网络(GNN)成功地实现了分组调度,并在网络的训练过程中设计了两个新的策略,即队首分组等待时间大于阈值无条件传输;队列分组数量达到缓冲器容量时队首分组无条件传输。仿真结果表明,运用神经网络调度,分组的丢失率为0,吞吐量达到了100％,而平均延迟也可以通过阈值设定进行控制。

基于渐进式卷积神经网络的焊缝缺陷识别

焊缝缺陷的形状不规则等特点导致传统算法及技术难以达到高精度识别的要求,为此提出一种复杂度较低的渐进式卷积神经网络(progressive convolutional neural network,P-CNN)对焊缝缺陷进行识别。该网络各层采用相同大小的特征图,避免重要特征遗漏,为避免过拟合和欠拟合,学习过程中先以少量样本为基数进行训练,之后成倍增加训练样本的数量,直至准确率达到98%时,不再增加样本数量。实验结果表明,该方法能有效识别多种焊缝缺陷,较传统的卷积神经网络识别精度有6.7%的提高,在工程的应用与推广中具有一定意义。

任务相似度引导的渐进深度神经网络及其学习

持续学习旨在连续地学习多个任务,且在不发生灾难性遗忘的情况下,能够利用先前任务的知识帮助当前任务的学习。渐进神经网络是一种参数独立的持续学习方法,渐进地为每个任务分配额外的网络来提升持续学习的性能,但是这种方法未能直接利用任务间相似度的影响。而在持续学习过程中,通过对比任务间的相似度,并以此对先前任务的参数进行修剪再迁移可能会显著提高当前任务的性能。因此,提出了一种任务相似度引导的渐进深度神经网络(TSGPNN)及其学习方法,它包括了任务相似度评估和渐进学习两个阶段。其中,任务相似度评估阶段定义了一个参照值来衡量目标任务域之间的相似度,并以此作为任务间知识迁移量的参照;渐进过程通过吸收先前任务中的知识重新学习,以此提升学习新任务的能力。对CIFAR-100、MNIST-Permutation和MNIST-Rotation数据集做任务切分,实验表明,TSGPNN的性能与单任务学习、多任务学习和其他基准持续学习方法相比更好、更稳定。

基于渐进式神经网络的机器人控制策略迁移

在机器人领域,通过深度学习方法来解决复杂的控制任务非常具有吸引力,但是收集足够的机器人运行数据来训练深度学习模型是困难的.为此,提出一种基于渐进式神经网络(progressive neural network,PNN)的迁移算法,该算法基于深度确定性策略梯度(deep deterministic policy gradient,DDPG)框架,通过把模型池中的预训练模型与目标任务的控制模型有机地结合起来,从而完成从源任务到目标任务的控制策略的迁移.两个仿真实验的结果表明,该算法成功地把先前任务中学习到的控制策略迁移到了目标任务的控制模型中.相比于其他基准方法,该算法学习目标任务所需的时间大大减少.

渐进式神经网络多维说话人信息识别技术

提出了一种识别多维语音信息的方法,用来同时识别说话人身份、性别和情感信息,选择身份特征参数I-vector向量表示语句特征。首先基于深度置信网络(DBN)设计了一个性别相关的多维语音识别基线系统,然后在基线系统基础上又提出了一种基于渐进式神经网络技术(Progressive Neural Network,ProgNets)的多维说话人信息识别方法。在性别相关的基础上,将辅助语音识别模型知识迁移学习到主语音识别模型中,进而增强语音识别性能。实验结果表明,基线系统识别结果比非同时识别的单维语音识别DBN模型的平均识别率提升了4.73%,而基于ProgNets系统的多维系统识别精度比基线系统高1.8%。

基于渐进式神经网络的多任务强化学习算法

介绍了目前有关机器人强化学习和多任务学习的方法和成果。针对现有的强化学习算法在现实环境中采样效率低下和难以进行多任务学习的问题。提出一种基于渐进式神经网络的强化学习(PNNRL)算法。先根据现实原始图像,创建一个包含了现实中重要信息的高效模拟环境,在模拟环境中训练得到一个策略模型,然后基于渐进式神经网络,将模拟环境中训练得到的策略迁移到现实环境中,实现在加快模型收敛速度和数据采样效率的同时,还实现仿真域到现实域的策略迁移和避免了因为迁移学习造成的灾难性遗忘。结合机器人作业任务实验结果显示,PNNRL算法可以有效解决强化学习采样效率低的问题,并且利用渐进式神经网络的特性还可以做到多任务学习。最后对机器人多任务学习的研究前景做了展望。

基于渐进式神经网络的六足机器人避障策略迁移

六足机器人直接在现实环境中进行避障训练,会出现数据采样效率低、样机与障碍物产生碰撞造成零件出现不可逆损伤等情况。采用迁移学习中的渐进式神经网络(PNN)来实现模型的多环境迁移。实验基于双重深度(Double-DQN)强化学习预训练模型,将预训练后的模型有机结合为PNN结构,进而完成从源任务到目标任务的避障策略迁移。根据仿真实验的结果显示,相较于其他设计方法,PNN学习目标任务花费的时间大大降低。然后将仿真器中训练好的PNN结构移植到六足机器人样机中测试,最终测试结果表明:六足机器人能够成功完成避障任务。

基于相关性差异化迁移的渐进式神经网络

虽然经典的渐进式神经网络(PNN)通过获取先前任务的经验知识来提高神经网络在当前任务中的性能,但忽略了在渐进任务较多时渐进任务间的相关性差异对网络性能的影响。针对该场景,提出一种基于相关性差异化迁移的渐进式神经网络(CDT-PNN)。首先使用基于余弦相似度的算法评估两个渐进任务的相关性;然后利用当前任务和先前任务之间的相关性来决定神经网络的知识参数传递,并删除与当前渐进任务呈负相关的先前渐进任务的知识参数;最后依据任务间相关性按一定比例随机抽取与当前渐进任务呈正相关的先前渐进任务的知识参数进行参数迁移。在添加了不同程度噪声的cifar-100数据集和mnist数据集上进行实验。结果显示,与PNN相比,CDT-PNN在cifar-100和mnist数据集上的实验任务平均分类精度(AA)提高了6.6个百分点和1.58个百分点。这说明,在复杂多任务场景下CDT-PNN能获得比PNN更好的性能。

基于神经网络建立矿井煤与瓦斯突出区域预测模型的研究

煤与瓦斯突出是严重威胁煤矿安全生产的矿井瓦斯动力现象,它是由地应力、瓦斯压力、煤体结构三者综合作用形成的。制定突出危险性预测和防突措施效果检验指标体系的重要理论和技术依据,是对煤与瓦斯突出机理及预测指标的研究。因此,本文基于渐进神经网络的研究建立的煤与瓦斯突出危险性区域预测模型的研究,具有较好的针对性,从而能为矿井制定安全生产措施提供重要依据。

矿山信息物理融合系统多节点智联策略

针对当前矿山信息物理融合系统(CPS)的通信节点无法与基于不同无线通信协议的感知节点实现智能连接的问题,在通信节点上集成多种通信模块构成多模态通信节点,提出了一种基于渐进式神经网络的矿山CPS多节点智联策略。采用渐进式神经网络控制多模态通信节点准确切换工作模态,实现异构无线通信网络自主建立;利用异步优势动作评价算法对渐进式神经网络进行深度训练,提高渐进式神经网络的收敛速度和训练精度。实验结果表明,该策略实现了多模态通信节点与多类感知节点之间的准确、可靠通信。

基于噪声分布的驾驶室几何参数反求技术

驾驶室几何参数的变化,对整个室内声场分布的变化影响十分大犤1犦。考虑声传播和结构之间的耦合作用,首先模拟在不同几何形状下驾驶室内的声压分布,找出相应的几何参数和声场分布之间的关系,然后结合反求思想,利用渐进式神经网络,提出一种如何优化驾驶室几何参数的反求技术。

用于人脸识别的多年龄人脸图像合成

为了解决人脸识别中识别率随年龄变化急剧下降,提出了一种多年龄人脸图像合成方法。首先将测试图像表示为形状向量和纹理向量,之后用渐进智能神经网络(IINN)估计测试图像的年龄,然后利用事先训练的查找表计算目标年龄的形状向量和纹理向量,最后利用基于三角形的仿射变换把目标年龄的形状和纹理结合起来,生成目标年龄的人脸图像。实验结果表明,该方法有效地由1幅图像重构不同年龄时期的人脸图像,有效“改变”人脸图像的年龄。