随着互联网技术的发展以及社交网络的扩大,网络平台已经成为人们获取信息的一个重要途径。标签的引入提升了信息分类及检索效率。同时,标签推荐系统的出现不仅方便了用户输入标签,还提高了标签的质量。传统的标签推荐算法通常只考虑标...随着互联网技术的发展以及社交网络的扩大,网络平台已经成为人们获取信息的一个重要途径。标签的引入提升了信息分类及检索效率。同时,标签推荐系统的出现不仅方便了用户输入标签,还提高了标签的质量。传统的标签推荐算法通常只考虑标签和项目两个主体,而忽略了用户在选择标签时个人意图所起到的重要作用。由于在标签推荐系统中标签最终由用户确定,因此用户的偏好在标签推荐中起着关键作用。为此,引入用户作为主体,并结合用户发布的历史帖子的先后顺序,将标签推荐任务建模为更加符合真实场景的序列标签推荐任务。提出了一种基于MLP的序列标签推荐方法(MLP for Sequential Tag Recommendation, MLP4STR),该方法显式地建模用户偏好用于引导整体标签推荐。MLP4STR采用一种跨特征对齐的MLP序列特征提取框架,将文本和标签的特征对齐,获取用户的历史帖子信息和历史标签信息中隐含的用户动态兴趣。最后,结合帖子内容和用户偏好进行标签推荐。在4个真实世界的数据集上得到的实验结果表明,MLP4STR能够有效地学习序列标签推荐中的用户历史行为序列的信息,其中,评价指标F1@5较最优的对比算法有显著提升。展开更多
深度学习是解决时间序列分类(Time series classification,TSC)问题的主要途径之一.然而,基于深度学习的TSC模型易受到对抗样本攻击,从而导致模型分类准确率大幅度降低.为此,研究了TSC模型的对抗攻击防御问题,设计了集成对抗训练(Advers...深度学习是解决时间序列分类(Time series classification,TSC)问题的主要途径之一.然而,基于深度学习的TSC模型易受到对抗样本攻击,从而导致模型分类准确率大幅度降低.为此,研究了TSC模型的对抗攻击防御问题,设计了集成对抗训练(Adversarial training,AT)防御方法.首先,设计了一种针对TSC模型的集成对抗训练防御框架,通过多种TSC模型和攻击方式生成对抗样本,并用于训练目标模型.其次,在生成对抗样本的过程中,设计了基于Shapelets的局部扰动算法,并结合动量迭代的快速梯度符号法(Momentum iterative fast gradient sign method,MI-FGSM),实现了有效的白盒攻击.同时,使用知识蒸馏(Knowledge distillation,KD)和基于沃瑟斯坦距离的生成对抗网络(Wasserstein generative adversarial network,WGAN)设计了针对替代模型的黑盒对抗攻击方法,实现了攻击者对目标模型未知时的有效攻击.在此基础上,在对抗训练损失函数中添加Kullback-Leibler(KL)散度约束,进一步提升了模型鲁棒性.最后,在多变量时间序列分类数据集UEA上验证了所提方法的有效性.展开更多
为提升对未来事件的预判能力并有效应对不确定性,提出了一种基于图增强和注意力机制的网络架构,用于多元时间序列的不确定性预测.通过引入隐含式图结构并结合图神经网络技术,捕捉各序列间相互依赖关系,从而建模时间序列之间的相互影响;...为提升对未来事件的预判能力并有效应对不确定性,提出了一种基于图增强和注意力机制的网络架构,用于多元时间序列的不确定性预测.通过引入隐含式图结构并结合图神经网络技术,捕捉各序列间相互依赖关系,从而建模时间序列之间的相互影响;运用注意力机制捕捉同一序列内的时序变化模式,以建模时间序列的动态演变规律;采用蒙特卡洛随机失活(Monte Carlo dropout)方法近似模型参数,并将预测序列建模为随机分布,以实现精确的时间序列不确定性预测.实验证明,该方法在保持较高预测精度的同时,还能进行可靠的不确定性估计,可以为决策任务提供置信度信息.展开更多
现有的时间序列对比学习方法存在增强样本构造方式过于依赖人工经验、泛化能力不足、正样本的定义方式不够通用、对比度量方式存在粗粒度表征等问题,使得整体的时序表示效果较差。为此,提出了一种融合时频特征的多粒度时间序列对比学习...现有的时间序列对比学习方法存在增强样本构造方式过于依赖人工经验、泛化能力不足、正样本的定义方式不够通用、对比度量方式存在粗粒度表征等问题,使得整体的时序表示效果较差。为此,提出了一种融合时频特征的多粒度时间序列对比学习方法(Temporal-Spectral Deep Contrastive Network, TSDC)。该方法通过季节-趋势生成网络在时域内产生具有稳定变化的时序增强样本,通过多频带融合扰动操作在频域内产生非稳定变化的时序增强样本,两种增强样本通过实例级别的粗粒度对比以及维度级别的细粒度对比方式进行对比学习,使得模型在获得较好表征的同时能够较好地适应于下游不同类型的时序任务。在多个时间序列公开数据集上进行的分类、预测以及异常检测实验表明,由TSDC方法所得的表征用于下游任务的结果优于典型基线模型。展开更多
文摘随着互联网技术的发展以及社交网络的扩大,网络平台已经成为人们获取信息的一个重要途径。标签的引入提升了信息分类及检索效率。同时,标签推荐系统的出现不仅方便了用户输入标签,还提高了标签的质量。传统的标签推荐算法通常只考虑标签和项目两个主体,而忽略了用户在选择标签时个人意图所起到的重要作用。由于在标签推荐系统中标签最终由用户确定,因此用户的偏好在标签推荐中起着关键作用。为此,引入用户作为主体,并结合用户发布的历史帖子的先后顺序,将标签推荐任务建模为更加符合真实场景的序列标签推荐任务。提出了一种基于MLP的序列标签推荐方法(MLP for Sequential Tag Recommendation, MLP4STR),该方法显式地建模用户偏好用于引导整体标签推荐。MLP4STR采用一种跨特征对齐的MLP序列特征提取框架,将文本和标签的特征对齐,获取用户的历史帖子信息和历史标签信息中隐含的用户动态兴趣。最后,结合帖子内容和用户偏好进行标签推荐。在4个真实世界的数据集上得到的实验结果表明,MLP4STR能够有效地学习序列标签推荐中的用户历史行为序列的信息,其中,评价指标F1@5较最优的对比算法有显著提升。
文摘为提升对未来事件的预判能力并有效应对不确定性,提出了一种基于图增强和注意力机制的网络架构,用于多元时间序列的不确定性预测.通过引入隐含式图结构并结合图神经网络技术,捕捉各序列间相互依赖关系,从而建模时间序列之间的相互影响;运用注意力机制捕捉同一序列内的时序变化模式,以建模时间序列的动态演变规律;采用蒙特卡洛随机失活(Monte Carlo dropout)方法近似模型参数,并将预测序列建模为随机分布,以实现精确的时间序列不确定性预测.实验证明,该方法在保持较高预测精度的同时,还能进行可靠的不确定性估计,可以为决策任务提供置信度信息.
文摘现有的时间序列对比学习方法存在增强样本构造方式过于依赖人工经验、泛化能力不足、正样本的定义方式不够通用、对比度量方式存在粗粒度表征等问题,使得整体的时序表示效果较差。为此,提出了一种融合时频特征的多粒度时间序列对比学习方法(Temporal-Spectral Deep Contrastive Network, TSDC)。该方法通过季节-趋势生成网络在时域内产生具有稳定变化的时序增强样本,通过多频带融合扰动操作在频域内产生非稳定变化的时序增强样本,两种增强样本通过实例级别的粗粒度对比以及维度级别的细粒度对比方式进行对比学习,使得模型在获得较好表征的同时能够较好地适应于下游不同类型的时序任务。在多个时间序列公开数据集上进行的分类、预测以及异常检测实验表明,由TSDC方法所得的表征用于下游任务的结果优于典型基线模型。
