张量回归模型及其应用研究综述

21世纪以来,张量引起了数据科学和统计学领域的极大兴趣,张量技术被广泛应用于数据挖掘、机器学习和统计学等领域,其中,张量回归模型是一类很重要的工具。本文研究了近十年张量回归模型理论及应用的发展和现状,对张量回归模型进行了简单梳理,主要介绍了张量线性回归模型的理论和应用。为了方便读者理解,本文还介绍了张量、张量分解等基本概念。

基于Huber损失的稳健张量回归及其应用

随着科学技术的进步,张量数据及相关方法在众多领域中得到了快速的发展和广泛的运用。一系列基于CP(CANDECOMP/PARAFAC)分解的张量回归也逐渐被提出,但是在实际问题中,传统的张量回归方法易受厚尾数据、异常值等因素影响,从而造成系数估计的偏差。鉴于此,本文提出基于Huber损失的稳健张量回归以及其稀疏形式,并构造了稳健块松弛算法及其稀疏算法,对其进行优化求解。同时,本文证明了稳健张量回归中估计系数的相合性和渐近正态性,也给出了稀疏形式下回归系数的误差界。最后,模拟实验和京津冀地区PM_(2.5)数据均证实本文所提的方法比传统的张量回归具有更好的稳健性和更加精确的预测能力。

面向信息系统推荐与决策的高阶张量分析方法

张量数据(或多维数组)在各个行业的信息系统中广泛存在,例如医疗系统中的功能性磁共振成像(fMRI)数据和商品数据信息系统中的用户-产品数据.将这些数据用以预测张量特征与单变量响应之间的关系,可以实现数据赋能,提供更精准的服务或解决方案,例如疾病决策诊断或商品推荐.然而,现有的张量回归方法存在2个主要问题:一是可能丢失了张量的空间信息,导致预测结果不准确;二是计算成本过高,导致服务或解决方案不及时.对于具有高阶结构的大规模数据而言,这2点则显得更为突出.因此为了实现数据赋能,即利用张量数据来提高信息服务或解决方案的质量和效率,提出了稀疏低秩张量回归模型(sparse and low-rank tensor regression model,SLTR).该模型通过对张量系数应用l1范数和张量核范数使得张量系数具有稀疏性和低秩性两大特点,这样既保留了张量的结构信息又可以方便地解释数据.利用近端梯度方法优化了混合正则化器,使得求解过程可扩展且高效.除此之外证明了SLTR的严格误差界.在多个模拟数据集和一个视频数据集上的实验结果表明,SLTR相比于之前的方法,在更短的时间内获得了更好的预测性能.

张量线性回归模型中的参数估计与假设检验问题

研究张量线性回归模型中的参数估计与假设检验问题,先基于最小二乘法获得参数的点估计量,证明其相合性,并结合系数张量的CP(CANDECOMP/PARAFAC)分解结构给出该估计的近似算法--交替最小二乘法;其次建立了参数线性假设检验的拟似然比检验统计量,并证明其大样本性质。Monte Carlo模拟结果表明:交替最小二乘估计表现良好,且拟似然比检验统计量的经验分布与理论分布无显著差异,将该方法运用于文本数据分析中的英文字母计数问题,获得比较准确的预测结果。

张量核范数回归的目标跟踪

目的视觉目标跟踪中,不同时刻的目标状态是利用在线学习的模板数据线性组合近似表示。由于跟踪中目标受到自身或场景中各种复杂干扰因素的影响,跟踪器的建模能力很大程度地依赖模板数据的概括性及其误差的估计精度。很多现有算法以向量形式表示样本信号,而改变其原始数据结构,使得样本数据各元素之间原有的自然关系受到严重破坏;此外,这种数据表述机制会提高数据的维度,而带来一定的计算复杂度和资源浪费。本文以多线性分析的角度更进一步深入研究视频跟踪中的数据表示及其建模机制,为其提供更加紧凑有效的解决方法。方法本文跟踪框架中,候选样本及其重构信号以张量形式表示,从而保证其数据的原始结构。跟踪器输出候选样本外观状态时,以张量良好的多线性特性来组织跟踪系统的建模任务,利用张量核范数及L_1范数正则化其目标函数的相关成分,在多任务状态学习假设下充分挖掘各候选样本外观表示任务的独立性及相互依赖关系。结果用结构化张量表示的数据原型及其多任务观测模型能够较为有效地解决跟踪系统的数据表示及计算复杂度难题。同时,为候选样本外观模型的多任务联合学习提供更加简便有效的解决途径。这样,当跟踪器遇到破坏性较强的噪声干扰时,其张量核范数约束的误差估计机制在多任务联合学习框架下更加充分挖掘目标全面信息,使其更好地适应内在或外在因素所引起的视觉信息变化。在一些公认测试视频上的实验结果表明,本文算法在候选样本外观模型表示方面表现出更为鲁棒的性能。因而和一些优秀的同类算法相比,本文算法在各测试序列中跟踪到的目标图像块平均中心位置误差和平均重叠率分别达到4.2和0.82,体现出更好的跟踪精度。结论大量实验验证本文算法的张量核范数回归模型及其误差估计机制能够构造出目标每一时刻状态更接近的最佳样本信号,在多任务学习框架下严格探测每一个候选样本的真实状态信息,从而较好地解决模型退化和跟踪漂移问题。

基于张量分解的张量响应回归模型及其参数估计

文章研究张量响应回归模型及其系数张量的最小二乘估计.为了提高该模型系数张量的估计精度,首先对模型的系数张量进行张量的CP分解和Tucker分解,构建两个新的张量响应回归模型.这两个模型不仅可以捕捉张量数据内部的空间结构信息,还可以大大减少待估参数的个数.然后,给出模型对应的参数估计算法.最后,通过Monte Carlo数值实验说明改进后的两个回归模型的系数张量的估计精度都有显著的提高,且基于Tucker分解的张量响应回归模型的系数张量的估计精度最佳.

低碳转型风险的“涟漪效应”

“双碳”目标背景下,有效识别并量化金融市场内的低碳转型风险,对于维护国家经济低碳转型过程中的经济金融安全以及防范系统性金融风险具有重要的现实意义。本文提出属性分类建模法,将上市公司的碳排放、贝塔系数、市值、市净率等属性特征与前沿张量自回归模型相结合,构建基于多维度属性风险关联指数和关联网络的风险传导效应分析框架,用以刻画低碳转型风险在属性结构中的“连漪效应”。结果显示:多维属性视角下,中国股票市场中的“涟漪效应”体现为具有相似属性特征的上市公司之间的风险关联效应;低碳转型风险的“连漪效应”传导中心位于“高碳排、低市净率、高市值、低贝塔”类别。随着风险逐步沿属性特征向外扩散,风险关联强度逐渐减小;中国提出“双碳”目标后,各层涟漪的风险关联强度均呈现显著上升趋势;高碳排属性是低碳转型风险“涟漪效应”的主要驱动属性,但在“双碳”目标约束下,其驱动作用向低市净率、高市值属性转移,转型风险呈现出跨属性传导的特征。本文为碳中和背景下完善适应于低碳转型风险的宏观审慎政策框架、构建低碳转型风险防治体系提供了理论依据。