基于注意力时间卷积的运动想象脑电分类方法

以运动想象为基础的脑机接口技术有助于运动障碍患者的康复,因而被广泛应用于康复医疗领域。针对目前脑电信号的信噪比导致深度学习方法在运动想象数据集上解码精度不高的问题,提出一种基于注意力时间卷积的运动想象脑电分类方法。首先利用深度卷积模块初步提取脑电信号中的时间与空间信息,采用多尺度卷积模块中三个不同大小的卷积块进一步提取MI-EEG(运动想象脑电)数据中整体和细节特征;再经过多头注意力模块突出数据中最有价值的特征,利用时间卷积网络提取高级时间特征;最后,经过全连接网络和softmax层输出分类结果。实验结果表明,在BCI竞赛IV-2b数据集上,所提模型对运动想象二分类任务的平均分类准确率达到了84.26%,与已有的基准模型相比,该方法的准确率有显著提高。

多尺度注意力融合与视觉Transformer方法优化的电阻抗层析成像深度学习方法

电阻抗层析成像(EIT)具有显著的可视化和非侵入性等特点,在工业和生物医学工程领域展现了其广阔的应用潜力。由于其逆问题存在高度非线性和病态性特点,导致了数值成像方法在空间分辨率上的局限性,尤其是在多相介质分布情况下,现有EIT技术在成像过程中出现边界失真和电导率误差,从而影响最终的成像精度。本文提出了一种基于卷积注意力机制的U型深度成像方法——MAT-UNet,将卷积块注意力模块(CBAM)与U-Net结构相结合,在特征提取与融合过程中嵌入卷积块注意力模块,以增强模型的注意力定向和特征表征能力,同时跳跃连接引入了压缩-激励(SE)注意力机制与视觉Transformer(ViT)来优化全局特征的学习,使用多头交叉注意力模块(MHCA)实现编码器与解码器的多尺度信息融合。MAT-UNet通过大量的仿真数据训练获得最优模型参数,并在多样化复杂形状和肺部仿真模型进行了实验验证。定量评估指标表明,该方法在重建图像中的均方根误差(RMSE)结果为2.3156,结构相似性指数(SSIM)结果为0.9437,可视化结果与真实分布和边界具有很好的一致性。实验结果表明,本文提出的MAT-UNet模型展现出良好的鲁棒性和泛化能力,相较于传统的单一卷积结构,集成Transformer结构提供了更精准的EIT图像重建效果,在无损测量与检测应用中存在很大的潜力和价值。

基于自注意力卷积网络的遥感图像分类

【目的】遥感图像分类技术在森林资源调查、生态工程规划以及森林病虫害防控等林业监测业务中,扮演着至关重要的角色。通过引入自注意力模块增强卷积网络对遥感图像的特征刻画能力,以期提高遥感图像的分类效果。【方法】该文提出了一种融合自注意力机制和残差卷积网络的遥感图像分类方法,首先利用卷积神经网络提取丰富的深度纹理语义特征,然后在卷积网络的最后3个瓶颈层嵌入多头自注意力模块,挖掘遥感图像复杂的全局结构信息。嵌入自注意力模块的卷积分类网络,能够有效提升遥感图像的分类精确度。该研究使用RSSCN7、EuroSAT与PatternNet 3个公开的遥感图像数据集,基于Pytorch深度学习库训练与测试该方法,并增加与已有分类框架算法精度和性能的对比试验。同时,使用不同批次、不同数量大小的数据训练改进研究提出的方法,并测试分类效果。【结果】试验得出,该研究提出的方法在3个遥感分类数据集上的平均识别率分别达到了91.30%、97.88%和97.37%,其中在前两个数据集上较现有的基于深度卷积网络的算法分别提升了2.26%和3.73%。同时,该算法的总参数量为2.08×10^(7),较现有参数量最低的方法减少了5.2×10^(6)。【结论】相比已有的遥感图像分类框架,该研究提出的方法能够在图形处理器(GPU)加速的环境中,取得更为准确的分类效果。同时有效减少了模型的参数量,提高了算法执行的效率,便于后续的实际应用部署。