无人机辅助的高能效边缘联邦学习综述

随着移动通信技术的快速发展和物联网终端设备数量激增,丰富多样的智能应用及海量数据在网络边缘产生,边缘智能应运而生。当前,联邦学习作为一种新兴的分布式机器学习方法,可以在不共享终端设备原始数据的情况下协作完成模型训练任务,是实现边缘智能的重要方式。传统的边缘智能网络以地面通信基站为参数服务器,其服务范围相对固定,无法适应复杂多变的异构网络环境。无人机由于其灵活性和机动性被引入联邦学习中,可以有效地在边缘智能网络中提供通信/计算/缓存服务,增强地面网络的通信容量,弥补传统地面网络通信范围受限、通信开销大、数据传输延迟高等缺点。无人机辅助的联邦学习具有通信覆盖范围广、通信开销低、即时响应等明显优势,同时也面临通信带宽受限、不可靠的通信环境、飞行环境的不确定性等挑战,上述挑战可能导致低能效问题。无人机辅助的高能效边缘联邦学习是将无人机作为边缘服务器的计算能耗、计算频率、时间分配等纳入考虑,研究无人机辅助联邦学习系统的能效优化方案。针对无人机作为边缘服务器这一场景,依据最小化能耗、最小化延迟和最小化能耗延迟加权和等不同的优化目标,对当前无人机辅助的高能效边缘联邦学习研究进行了分类和总结,并对未来研究方向进行了思考和展望。

二值化身份感知图卷积神经网络

针对有限的内存资源导致图神经网络(graph neural network, GNN)无法完全加载属性图的问题,文中提出了二值化身份感知图卷积神经网络(binary identify-aware graph convolutional network, BID-GCN)。该网络通过在消息传递过程中递归地考虑节点的信息,为了获得一个给定的节点的嵌入,BID-GCN将提取以该节点为中心的自我网络,并进行多轮的异构消息传递,在自我网络的中心节点上应用与其他节点不同的参数。在消息传递过程中,对网络参数和输入节点特征进行二值化,并将原始的矩阵乘法修改为二值化以加速运算。通过理论分析和实验评估,BID-GCN可以减少网络参数和输入数据的平均约36倍的内存消耗,并加快引文网络上平均约49倍的推理速度,可以提供与全精度基线相当的性能,较好地解决内存资源有限的问题。