公平联邦学习及其设计研究综述

联邦学习是由多个客户端协作开展模型训练的一种分布式机器学习解决方案.在联邦学习架构下,公平性被赋予了更加丰富的内涵:一方面,联邦学习中不同参与者对模型训练的贡献可能会有很大不同,能够公平反映每个参与者贡献的奖惩激励机制是联邦学习生态可持续发展的关键;另一方面,无论发送给各个参与方的全局模型是被直接用于结果预测还是用于优化参与方的个性化模型,各个参与方所使用的模型在最终的预测性能或精准度上应该具有公平性.具有某一个或多个方面公平性的联邦学习称为公平联邦学习.通过系统梳理和全面剖析近年来的研究工作,对联邦学习的公平性概念、定义及度量进行了阐释;从公平联邦学习生命周期的不同阶段出发,分别对与公平联邦学习设计相关的公平客户端选择、公平模型优化、公平贡献评估、公平激励机制等进行了综述;从可信人工智能及可信联邦学习的角度,对联邦学习公平性与隐私性、鲁棒性的综合设计进行了讨论;立足于区块链与联邦学习的不同耦合方式,即完全耦合、柔性耦合和松散耦合,对基于区块链的联邦学习框架结构进行了分类阐述,进一步从框架结构、公平性、鲁棒性及隐私保护功能等方面对相关研究工作进行了述评;最后,从公平性定义及度量、公平联邦学习方法、鲁棒公平联邦学习及符合伦理联邦学习等四个方面,给出了公平联邦学习及其设计所面临的主要问题、挑战及研究热点.

基于时-频注意力机制网络的水声目标线谱增强

为提高被动声纳对水下低噪声安静型目标的检测,研究者开始关注基于深度学习的线谱增强方法,其中,基于LSTM的线谱增强网络由于同时具有时域和频域的非线性处理能力,具有很强的灵活性,然而其性能还需要进一步提升。为此,该文提出了基于时-频注意力机制的网络模型(TFA-Net),通过在LSTM模型的基础上同时增加时域注意力机制和频域注意力机制,充分利用了目标信号在时域和频域的双重重要特征,提升了对LOFAR谱的线谱增强效果。TFA-Net中的时域注意力机制利用LSTM隐藏状态之间的关联性,增加了模型在时域的注意力,频率注意力机制通过将深度残差收缩网络中收缩子网络的全链接层设计为1维卷积层,增加了模型在频域的注意力。相比于LSTM,TFA-Net具有更高的系统信噪比增益:在输入信噪比为–3 dB的情况下,将系统信噪比增益由2.17 dB提升到12.56 dB;在输入信噪比为–11 dB的情况下,将系统信噪比增益由0.71 dB提升到10.6 dB。仿真和实测数据的实验结果表明,TFA-Net可以有效提升LOFAR谱的线谱增强效果,解决低信噪比下水下目标的检测问题。

适应度步长的全局局部协同优化算法

针对现有优化算法求解精度低的问题,提出一种适应度步长的全局局部协同优化算法.该算法通过均衡化个体适应度,动态分配每次迭代中个体的全局搜索步长和局部搜索步长,实现了算法在解空间内全局搜索和局部搜索的有效协同,进而提升了求解精度.实验结果表明,该算法在基准函数测试中展现了较高的精度和良好的稳定性,并通过仿真实验验证了其在解决复杂工程优化问题中的有效性.