模型不可知的联合相互学习

主流的联邦学习(federated learning,FL)方法需要梯度的交互和数据同分布的理想假定,这就带来了额外的通信开销、隐私泄露和数据低效性的问题。因此,提出了一种新的FL框架,称为模型不可知的联合相互学习(model agnostic federated mutual learning,MAFML)。MAFML仅利用少量低维的信息(例如,图像分类任务中神经网络输出的软标签)共享实现跨机构间的“互学互教”,且MAFML不需要共享一个全局模型,机构用户可以自定制私有模型。同时,MAFML使用简洁的梯度冲突避免方法使每个参与者在不降低自身域数据性能的前提下,能够很好地泛化到其他域的数据。在多个跨域数据集上的实验表明,MAFML可以为面临“竞争与合作”困境的联盟企业提供一种有前景的解决方法。

基于模型不可知元学习与对抗训练的中文情感分析研究

中文情感分析旨在挖掘出中文文本中的主观情感。目前大多数基于深度学习的中文情感分析模型需要依赖大规模的标注数据去训练,同时深度学习模型在实际应用当中很容易受到对抗性扰动的影响,导致模型的性能下降。针对上述问题,本文提出了基于模型不可知元学习与对抗训练的中文情感分析模型,能够在小规模的数据集下利用元学习加速模型收敛,同时生成对抗样本对模型进行对抗训练,提升模型的抗干扰能力,实验证明模型取得了出色的表现。

少样本下基于元学习的柱塞泵故障诊断方法

针对柱塞泵故障样本少、在噪声干扰下故障信号微弱及传统深度学习依赖大量训练样本的问题,提出了一种基于模型不可知元学习(MAML)的少样本柱塞泵故障诊断方法。首先,利用改进的带自适应噪声的完全集成经验模态分解(ICEEMDAN)方法来分解采集到的一维振动信号,得到本征模态函数的IMF分量,并筛选故障信息丰富的敏感分量以增强振动信号中的特征信息。其次,建立了多通道一维卷积模型,该模型构建了一个具有高效通道注意力机制的通道交互特征编码器,旨在关注不同通道间的交互故障信息,进而有效地提取多个诊断元任务的通用诊断知识。最后,将一维卷积模型作为基模型,并通过MAML方法训练获得了最优的模型初始化参数;最优的初始化模型能够快速适应新工况下的少量柱塞泵故障样本,从而实现了少样本下的柱塞泵故障诊断。利用柱塞泵实验数据验证了模型的性能,结果表明,所提方法在少样本条件下对于各种诊断任务的诊断准确率都达到90%以上。

基于深度元学习的固体发动机性能预测方法研究

针对飞行器动力系统中固体发动机性能实验的诸多限制,如高成本、专业设备需求、特定实验环境、高风险性等问题,本文提出了一种基于深度元学习的人工智能方法,用于发动机性能预测。该方法采用模型不可知元学习(Model-Agnostic Meta-Learning,MAML)和深度卷积神经网络(Deep Convolutional Neural Networks,DCNN)模型,首先根据不同实验条件划分推力-时间数据为不同训练任务,通过内循环训练得到各任务最佳模型参数,在外循环中更新模型初始化参数,内外循环迭代优化后,获得了能够高精度预测固体发动机总冲的模型,最后用新任务进行测试。测试结果显示,相较于无元学习的DCNN,该方法在测试集上的误差显著下降,百分比误差最大为2.27%。证明了元学习模型在小样本条件下对固体发动机性能的高精度预测能力。

基于CNN-AE-MAML的低压配电网自适应分类方法

低压配电网分类有利于提高低压配电网经济运行管理措施及新能源规划运行方案制定的效率。随着各类新能源、充电桩等新型源荷的不断接入,低压配电网原有负荷特征发生变化,一方面导致配电网负荷特征复杂,另一方面导致变化后可用的新负荷特征数据较少,给配电网分类带来挑战。针对以上挑战,提出一种基于卷积自编码器和模型不可知元学习(convolutional neural network-auto encoder-model agnostic meta learning,CNN-AE-MAML)的低压配电网自适应分类方法。首先,利用卷积自编码器(convolutional neural network auto encoder,CNN-AE)提取可表征低压配电网的配变负荷、光伏发电特征,采用谱聚类(spectral clustering,SC)对低压配电网进行分类;然后,构建基于softmax配电网类型识别方法,利用低压配电网实际数据的降维特征识别配电网类型;此外,利用模型不可知元学习(model-agnostic meta-learning,MAML)方法训练CNN-AE特征提取模型,使CNN-AE模型在少量数据下能自适应提取配电网新负荷特征,最终实现低压配电网准确、快速自适应分类。最后,利用低压配电网实际数据验证了所提方法的有效性。