基于稀疏共享的多门混合专家下一个兴趣点推荐算法

下一个兴趣点(next POI)推荐指的是预测用户在特定时间段内将访问的下一个兴趣点。用户出行模式受到异构的上下文因素影响,包括连续值(例如地理距离、时间间隔)和离散值(例如社交状况、星期状况)。本文采用稀疏共享的结构来产生专家网络,并采用多门混合专家模型来实现多个目标任务之间的参数共享。本文基于多任务学习对用户的多种类型行为进行建模,提出了一种基于稀疏共享的多门混合专家模型。首先,使用稀疏共享结构针对每个目标任务从基础网络中生成对应的专家网络,并采用迭代幅度剪枝法选择专家网络。其次,多门混合专家模型采用专家网络作为输入层,每个专家网络对于输入信息的处理具有不同的侧重,并采用多个门网络对任务目标进行专家网络的共享选择。最后,基于真实数据集对所提出的算法进行评估,验证了本文方法的有效性和实用性,以及将多任务学习和稀疏结构共享应用于下一个兴趣点推荐的前景。文章最后也提出了管理启示。

非共享多测量向量的稀疏表示分类模型

多测量向量的联合稀疏重构要求多个源信号共享相同的稀疏结构,但实际应用中较难得到具有完全相同的稀疏结构的测量信号。为了降低非共享稀疏结构对MMV模型联合稀疏重构的影响,文中提出了一种改进贪婪类联合稀疏重构算法的方法。该方法在每次迭代时并不要求各测量向量选择相同的表示原子,而是要求选择同一类的表示原子。改进后的算法可用于非共享多测量向量的稀疏表示分类。基于模拟数据和标准人脸库数据的实验结果表明,改进后的模型可有效提高稀疏表示的分类性能。

基于稀疏权重共享的多模态轨迹预测

复杂动态环境与驾驶人意图的不确定性会导致车辆未来运动轨迹产生多种概率分布。基于Transformer的轨迹预测模型能够很好地建模车辆间的交互关系,但多模态轨迹预测的参数量和计算量都很大,且存在3~5 s内长时预测精度低等问题。提出一种基于稀疏权重共享的多模态轨迹预测网络,构建包括数据处理模块、权重迭代剪枝模块、编码器模块和解码器模块的预测框架,以轻量化的方式实现多模轨迹的长时精准预测。首先,由基于无监督聚类的数据处理模块计算车辆行驶时间内的横向位移差,聚类得到左偏移、右偏移和保持直行3种具有不同驾驶意图的样本数据子集。其次,构建权重迭代剪枝模块,对Transformer解码器的自注意力机制进行参数稀疏化,为不同驾驶意图的数据生成对应的子网掩码,形成稀疏共享子网络。然后,将具有不同驾驶意图的数据子集依次输入到编码器模块,再传输至解码器的稀疏共享子网络中进行并行训练。最后,得到多种驾驶意图的预测轨迹模型,实现输出车辆多模态预测轨迹及分布概率,并基于真实高速公路车辆轨迹HighD和NGSIM数据集进行了算法对比试验。结果表明:与现有的多模态预测方法相比,所提出方法的均方根误差在3~5 s内长时轨迹预测具有显著优势,且与单模态轨迹预测相比,大大提高了预测轨迹的多样性与精度。