针对胶囊网络(CapsNet)在处理含有背景噪声信息的复杂图像时分类效果不佳且计算开销大的问题,提出一种基于注意力机制和权值共享的改进胶囊网络模型——共享转换矩阵胶囊网络(STM-CapsNet)。该模型主要包括以下改进:1)在特征提取层中引...针对胶囊网络(CapsNet)在处理含有背景噪声信息的复杂图像时分类效果不佳且计算开销大的问题,提出一种基于注意力机制和权值共享的改进胶囊网络模型——共享转换矩阵胶囊网络(STM-CapsNet)。该模型主要包括以下改进:1)在特征提取层中引入注意力模块,使低层胶囊能够聚焦于与分类任务相关的实体特征;2)将空间位置接近的低层胶囊分为若干组,每组内的低层胶囊通过共享转换矩阵映射到高层胶囊,降低计算开销,提高模型鲁棒性;3)在间隔损失与重构损失的基础上加入L2正则化项,防止模型过拟合。在CIFAR10、SVHN(Street View House Number)、FashionMNIST复杂图像数据集上的实验结果表明,各改进均能有效提升模型性能;当迭代次数为3,共享转换矩阵数为5时,STM-CapsNet模型的平均准确率分别为85.26%、93.17%、94.96%,平均参数量为8.29 MB,比基线模型的综合性能更优。展开更多
提出并实现了一种新的蚁群优化(ACO)并行化策略SHOP(Sharing one pheromone matrix).主要思想是基于多蚁群在解的构造过程和信息素更新过程中共享同一个信息素矩阵.以ACS和MMAS的SHOP并行实现为例,简要描述了SHOP设计思想和实现过程,...提出并实现了一种新的蚁群优化(ACO)并行化策略SHOP(Sharing one pheromone matrix).主要思想是基于多蚁群在解的构造过程和信息素更新过程中共享同一个信息素矩阵.以ACS和MMAS的SHOP并行实现为例,简要描述了SHOP设计思想和实现过程,尝试了ACS和MMAS并行混合.以对称TSP测试集为对象,将SHOP的实现与相应串行算法在相同计算环境下的实验结果比较,以及与现有的并行实现进行比较,结果表明SHOP并行策略相对于串行ACO及现有的并行策略具有一定的优势.展开更多
文摘针对胶囊网络(CapsNet)在处理含有背景噪声信息的复杂图像时分类效果不佳且计算开销大的问题,提出一种基于注意力机制和权值共享的改进胶囊网络模型——共享转换矩阵胶囊网络(STM-CapsNet)。该模型主要包括以下改进:1)在特征提取层中引入注意力模块,使低层胶囊能够聚焦于与分类任务相关的实体特征;2)将空间位置接近的低层胶囊分为若干组,每组内的低层胶囊通过共享转换矩阵映射到高层胶囊,降低计算开销,提高模型鲁棒性;3)在间隔损失与重构损失的基础上加入L2正则化项,防止模型过拟合。在CIFAR10、SVHN(Street View House Number)、FashionMNIST复杂图像数据集上的实验结果表明,各改进均能有效提升模型性能;当迭代次数为3,共享转换矩阵数为5时,STM-CapsNet模型的平均准确率分别为85.26%、93.17%、94.96%,平均参数量为8.29 MB,比基线模型的综合性能更优。
文摘提出并实现了一种新的蚁群优化(ACO)并行化策略SHOP(Sharing one pheromone matrix).主要思想是基于多蚁群在解的构造过程和信息素更新过程中共享同一个信息素矩阵.以ACS和MMAS的SHOP并行实现为例,简要描述了SHOP设计思想和实现过程,尝试了ACS和MMAS并行混合.以对称TSP测试集为对象,将SHOP的实现与相应串行算法在相同计算环境下的实验结果比较,以及与现有的并行实现进行比较,结果表明SHOP并行策略相对于串行ACO及现有的并行策略具有一定的优势.