AI机器学习:体育消费实验Uplift因果模型研究

2019年Metalearners for Estimating Heterogeneous Treatment Effects using Machine Learning的发表引发了世界因果推断理论的研究热情。目前,机器学习与因果推断论中的许多统计模型已被广泛应用。本文采用文献资料法、数理统计分析方法、案例研究法等研究方法,研究推演现代因果推断理论中较为知名的Uplift因果模型在体育中的应用场景,其中Uplift因果模型包括S-learner(单模型)、T-learner(双模型)、X-learner(交叉训练模型)。结果显示,在体育消费随机对照实验中应用Uplift因果模型,可以基于基本模型进一步推导出各变量因素之间的因果关系,验证并分析自变量对因变量变化的影响;率先在体育消费市场研究与实验中应用Uplift因果模型可以填补我国体育消费实验数据分析方法的空缺。

基于非稳态加性噪声模型的因果发现算法

因果发现旨在通过观测数据挖掘变量间的因果关系。现有的因果发现方法大多假定数据的产生过程是平稳的,然而在实际环境下往往不满足稳态假设,导致结果不可靠。研究发现,在一些场景中的非稳态扰动与时序信息高度相关。因此,在加性噪声模型基础上将非稳态扰动刻画为一项关于时序信息的函数,设计非稳态加性噪声模型,并给出非稳态加性噪声模型的识别条件,提出一种两阶段的因果关系学习算法。第1阶段利用回归计算得到变量残差,再检验残差与回归特征集的独立性从而选出叶子节点,迭代得到观测变量集的因果次序;第2阶段再次进行回归计算和独立性检验,消除第1阶段中冗余的因果关系,从而得到观测变量集的因果结构。实验结果表明,与基于约束的异构/非平稳因果发现、LPCMCI和Ti MINo算法相比,该算法在仿真数据集上取得了最优的效果,平均F1值达到0.85;而在真实因果结构数据集中,该算法的F1值平均提升41.12%,能够从非稳态数据集中恢复出更多因果结构的信息。

基于因果自回归流模型的因果结构学习算法

因果自回归流模型已经在非独立噪声等场景的因果方向推断问题上取得了一定的进展,但在多个结点的场景下仍存在全局结构搜索带来的准确度低和计算时间复杂度高的问题。面向非时序观察数据设计一种两阶段因果结构学习算法。在第一阶段,基于观测数据的条件独立性,对完全无向图通过条件独立性检验得到基本的因果骨架;在第二阶段,基于因果自回归流模型,通过标准化流的方法计算骨架中每条无向边在不同方向上的边缘似然概率,进而通过比较边缘似然概率进行因果方向推断。实验结果表明:该算法在多组不同参数生成的仿真因果结构数据集上均有较好的表现,与现有的主流因果结构学习算法相比,F1值平均提升15%~28%;在真实因果结构数据集实验中,该算法能够较为完整准确地学习到变量间的因果关系,与主流的因果结构学习算法相比,F1值平均提升28%~48%,具有更强的鲁棒性。

基于因果模型的破碎机故障树自动构建方法

圆锥破碎机的安全运行是矿山正常生产的前提,利用故障树对其进行可靠性分析是十分必要的。传统的完全基于专家经验构建故障树的方法自动化程度低,系统迭代升级后需要重新进行安全检查,故障树维护成本高。为了解决上述问题,提出了一种基于因果模型的圆锥破碎机故障树自动构建方法。首先,通过部件故障之间的因果关系检查,将圆锥破碎机无向图转换为对应故障下的有向图;然后,基于此有向图,利用图遍历方法和模块图设计模式自动构建故障树结构。将所提方法应用到实际的圆锥破碎机生产率故障树构建中,应用结果证明了所提方法的实用性和有效性。基于此故障树构建的圆锥破碎机故障自动诊断系统在东鞍山露天矿的实际应用中起到了有效的辅助诊断作用。

基于线性结构因果模型的服务故障传播路径识别

在云计算环境中,当一个服务发生故障时,故障会随着服务之间的交互行为不断传播,导致产生大规模服务失效的风险。复杂且动态变化的服务调用关系加大了识别服务故障传播路径的难度。针对该问题,提出一种基于因果图的服务故障传播路径识别方法。监测并收集服务的运行数据,通过服务运行数据对服务故障事件完成度量;根据因果图模型推断服务故障事件之间的因果关系并构建服务故障传播图;利用服务故障传播图确定故障传播路径。实验结果表明,该方法能够有效识别服务故障传播路径。

基于因果图模型的非小细胞肺癌治疗质量影响因素分析

目的利用快速因果推断(Fast causal inference,FCI)算法构建因果图模型,分析影响非小细胞肺癌治疗质量的直接和间接因素,为改善患者治疗质量提供依据。方法收集10家三甲医院的非小细胞肺癌患者病例信息;确定影响因素为研究变量,不良事件发生率为患者治疗质量评价指标,即结局变量;利用FCI算法挖掘病例数据,构建研究变量与结局的因果图模型,分析研究变量与结局变量及不同研究变量之间的因果关系。结果本研究共纳入2846例患者,平均年龄56.00±7.70岁,不良事件发生率为9.63%。因果图模型共包含24个节点,71条边,其中有向边54条,双向边7条。影响不良事件发生的直接因素包括医院类型、组织学分级、是否淋巴结清扫及住院天数;间接因素包括职业、医保类型、现病史、病理分期、综合治疗、手术性质及肺切除类型;因素间相互作用分析结果显示,现病史、组织学分型、综合治疗、手术性质、肺切除类型决定患者是否接受淋巴结清扫;手术性质、肺切除方式、综合治疗影响住院天数;既往史影响肺癌组织学分型;职业、医保类型影响患者就诊医院类型。结论在非小细胞肺癌治疗质量影响因素分析中,因果图模型能够获得影响不良事件发生的直接和间接因素,发现可干预的目标变量,为改善非小细胞治疗质量提供依据;医院可通过提高淋巴结清扫、综合治疗接受率,降低不良事件发生率。

让数字技术进场:政策议程设置的多重因果漏斗模型审思

公共政策议程设置理论研究对于政策问题建构起到了回溯性阐释与前瞻性行动预测的作用。政策议程设置的多重因果漏斗模型充分考虑了诸多变量在时间轴上的叠加作用以及聚合情况,对当下复杂社会情境的解释力较强。但是,面对全面到来的数字社会,日常生活数字化改变了社会问题形态,数字“棘手问题”造成了高度不确定性,技术价值冲突影响了政策共识。多重因果漏斗中原有的变量在推动政策问题转化时显然乏力,需要让数字技术进场,形成多重因果漏斗的修正模型。进入漏斗的数字技术包括物理介质、人们的使用行为以及该行为产生的社会效用与外部性,在动态发展过程中影响相关政治事件,或直接影响其他因素叠加作用的结果,来触发政策议程设置。修正模型对政策议程分析与未来行动方案的形成都具有较强的工具意义和行动指向。

面向知识图谱和大语言模型的因果关系推断综述

近几十年来,因果关系推断是统计学、计算机科学、教育、公共政策和经济学等许多领域的一个重要研究课题。其中大部分因果推断方法是从样本观测数据和文本语料分析的角度进行研究。如今,随着各种知识图谱和大语言模型的涌现,面向知识图谱和大模型的因果关系推断逐渐成为了研究热点。因此,将不同的因果关系推断方法按照面向样本观测数据、文本数据、知识图谱和大语言模型进行分类,在每个分类中,对经典的研究工作从其问题定义、解决方法、贡献和不足进行了细致的分析。同时,对因果关系推断方法与知识图谱和大语言模型相结合的研究进展进行了重点讨论。从效率和成本角度分析和比较了不同因果推断方法,总结归纳了知识图谱和大语言模型在因果关系推断任务中的具体应用。最后,对知识图谱和大模型相结合的因果关系推断的未来发展方向进行了展望。

基于子模型加权的因果效应估计方法

在因果推断中,为更好地从观测性研究数据中获得无偏的处理效应,经常使用基于倾向得分的方法来平衡处理组和对照组。文章基于倾向得分逆概率加权方法,提出了一种子模型加权方法。该方法首先通过不同的变量组合来构建若干子模型;然后对子模型的倾向得分进行加权,进而得到加权倾向得分;最后使用加权倾向得分估计平均处理效应(ATE)值。实验结果表明:提出的子模型加权法不仅能调整观测性研究数据中存在的混杂偏倚,而且能有效提升ATE的估计效果,在ATE估计中优于传统的基于倾向得分的逆概率加权法。

基于因果贝叶斯网络的接触网风险评估模型研究

针对接触网建设阶段风险管控研究相对薄弱的问题,在充分研析接触网施工过程风险因素的基础上,判断风险因素间因果关系,建立接触网建设阶段风险评估模型,从因果逻辑视角分析接触网建设阶段风险。首先,从建设阶段、参建部门及建设要素3个维度分析接触网建设过程风险因素的外生变量与内生变量;然后,利用结构方程式描述变量之间的因果关系,建立多层次接触网风险结构因果模型网络关系分析图,并引入专家评议确定外生变量的先验概率与内生变量的条件概率,构建基于贝叶斯网络的接触网建设阶段风险评估模型;最后,通过贝叶斯网络敏感性分析和逆向推理分析找到接触网建设风险的事故最大因果链以及重要风险节点,在施工过程薄弱环节制定相应的风险预防与控制措施,降低风险发生的概率及影响,保证接触网工程按期交付以及运维阶段的检修效率。研究结果表明:在接触网建设阶段,风险发生的概率为0.6,所构建的接触网建设过程风险评估模型中有敏感性较高的节点4个,事故致因链5条。在假设接触网风险发生的条件下,逆向推理的结果显示预装配阶段和安装阶段的后验概率较高,分别为0.74和0.67。通过严格执行提出的风险控制措施,有助于提升接触网建设效率,降低运维阶段的维护成本。

因果关系表示增强的跨领域命名实体识别

跨领域命名实体识别在现实应用中,尤其在目标领域数据稀缺的小样本场景中具有重要价值。然而,现有方法主要是通过特征表示或模型参数共享实现的跨领域实体能力迁移,未充分考虑由于样本选择偏差而引起的虚假相关性问题。为了解决跨领域中的虚假相关性问题,提出一种因果关系表示增强的跨领域命名实体识别模型,将源域的语义特征表示与目标域的语义特征表示进行融合,生成一种增强的上下文语义特征表示。通过结构因果模型捕捉增强后的特征变量与标签之间的因果关系。在目标域中应用因果干预和反事实推断策略,提取存在的直接因果效应,从而进一步缓解特征与标签之间的虚假相关性问题。该方法在公共数据集上进行了实验,实验结果得到了显著提高。

融合异质层次因果图的尾矿堆积坝安全状态分析

为探究尾矿堆积坝内外部因素对堆积坝体安全状态的影响,提出基于异质层次图的尾矿堆积坝安全状态分析方法。该方法通过构建异质层次因果图,将环境、渗流场和应力场等关键因素与堆积坝安全状态建立联系,并结合异质节点属性特征,形成环-渗-应安全状态分析指标体系;通过提出定量指标动态等级区间计算方法和安全状态等级计算模型,将坝体安全状态定性问题的模糊性转化为定量化表达,实现对尾矿堆积坝安全等级评价;以洛阳某尾矿坝为例验证模型的科学性。结果表明:该模型能合理定量分析因素与状态之间联系,并找出堆积坝负向演化的敏感性因素,给后续筑坝过程的安全管理提供决策依据。

基于因果正则化极限学习机的风电功率短期预测方法

随着风电并网比例的逐年提高,电力系统对风电功率预测的准确性和稳定性提出了更高要求。对于同一风电场而言,为了避免不同特征选择方法所选择的风电场特征子集不同,从因果关系的角度出发,提出了一种基于因果正则化极限学习机(causal regularized extreme learning machine, CRELM)的风电功率短期预测方法。首先将极限学习机(extreme learning machine, ELM)建模为结构因果模型(structural causal model, SCM),在此基础上计算隐藏层神经元与输出层神经元之间的平均因果效应向量。然后将该平均因果效应向量与输出层权重相结合构成因果正则化项,在最小化训练误差的同时最大化网络的因果关系,以进一步提升模型的预测准确性和预测稳定性。最后,以国内蒙西某风电场数据为例,与采用特征选择或不采用特征选择的预测模型相对比,验证了所提方法的有效性和适用性。

基于分位数因子模型的高维时间序列因果关系分析

从观察数据中发现变量之间的因果关系是许多科学研究领域的关键问题,传统Granger因果模型受到维度灾难的影响,难以准确地在高维时间序列中发现因果关系.提出一种基于分位数因子模型的Granger因果分析新方法QFMCGC用于高维时间序列因果关系的判定.首先,QFM-CGC采用赤池信息量准则进行模型选择,避免人为干预设置滞后阶数的操作;然后,对向量自回归(Vector Autoregressive,VAR)模型中的条件变量建立分位数因子模型进行降维,减少VAR模型中的待估计系数,对降维后的VAR模型重新进行条件Granger因果分析;最后,使用蒙特卡洛模拟评估不同方法识别底层系统与观测时间序列的连通性结构的能力.在不同维度变量的线性仿真系统和两组现实数据集上与基准方法和经典方法进行了比较,实验结果验证了该方法的有效性.

我国牛肉价格波动影响因素研究——基于VAR模型的实证分析

为保证牛肉价格合理稳定、推动牛肉市场持续健康发展,文章基于2011年12月—2022年12月中国畜牧业月度数据,以内部传导和外部冲击为视角,选取玉米价格、生产者预期、犊牛价格、国家政策构建VAR模型,实证检验我国牛肉价格波动影响因素及程度。结果显示,玉米价格、生产者预期、犊牛价格、国家政策均可对牛肉价格造成影响。其中,玉米价格可通过内部传导机制对我国牛肉价格波动产生显著影响,且稳定贡献率在8%左右;国家政策可通过外部冲击机制对我国牛肉价格波动形成显著影响,贡献率为15%;前期牛肉价格可显著影响后期牛肉市场价格。因此,文章提出降低肉牛产业饲料成本、加大肉牛产业政府财政支持力度、完善牛肉价格波动市场监管体系的建议,以期为稳定牛肉价格、促进畜牧产业可持续发展提供参考。

基于大模型实现因果推断的探讨

大模型是利用海量数据形成庞大参数量的机器学习模型,而因果推断是推断和理解事件、变量或行为之间的因果关系。从大模型与因果推断相互结合的可能性和难点、大模型预训练、因果模型的人类反馈学习过程和微调技术等方面进行探讨,论述了大模型具有发现潜在因果关系的机制和因果关系预测及解释的潜力。此外,归纳了部分大模型开源工具,可用于快速实现大模型训练、验证和部署。

基于系统动力学的6A学习模型优化

从6A学习模型的影响因素出发,分析结构和6A学习模型内部因素间的相互作用,绘制6A学习模型系统因果图,并进行6A学习模型系统因果分析。基于系统动力学6A学习模型,从“激发学生学习自我效能感的内在需求”“夯实6A学习模型的教学支架”“重构6A学习模型的学习空间”“完善6A学习模型指向育人实践方案”等方面进行6A学习模型的优化。其中,6A学习模型的教学支架是教学应用体系的关键点,对学生学习效果具有重大的影响。可利用人工智能技术实现教学资源属性的升级跨越,将6A学习模型“育人方案”贯穿于大学生学习生活的各个方面,完成指向育人的目标。

基于因果模型和多模态多目标优化的两阶段特征选择方法

特征选择中特征数量和分类精度之间的关系通常可以看作是一个多模态多目标优化问题,但现有大多数多模态多目标进化算法对于高维优化问题的求解存在搜索能力不足的问题。为解决该问题,提出一种基于因果模型和多模态多目标进化算法的两阶段特征选择方法。在该方法中,首先使用因果模型对数据进行特征选择以便降低问题维度;然后使用多模态多目标优化算法搜索具有多模态特性的特征子集。为验证所提算法性能,它被用于术中低体温风险预测模型的特征选择问题。实验结果表明,提出的两阶段特征选择方法不仅融合了2种不同方法的优点,而且能为术中低体温预测提供更多决策支持。

基于统计因果性及最优传输的文本分类模型

近年来随着数据规模和算力水平的提高,深度学习及相关预训练模型如CNN、BERT等在文本分类领域取得了较快的进展。但这些模型仍然有提取分布特征能力不强、泛化性能较差等问题。目前针对这一问题,常见的做法是改进模型的结构或者扩充训练的数据集来改善性能,然而这些方法依赖于大量数据集和大量算力的网络结构修剪。因此提出一种基于格兰杰因果关系检验和最优传输理论的深度学习预训练模型优化方法。从数据分布角度出发,生成深度学习预训练模型中能够稳定提取分布信息的特征通路结构。在此基础上,基于最优传输距离给出特征通路结构的最优组合,生成在统计分布上具有稳定性的多视角结构化表征。理论分析和实验结果表明,该方法大幅降低了模型优化过程中数据和算力的要求。对比基于卷积结构的预训练模型如CNN,在20ng news、Ohsumed、R8数据集上分别有5、7和2个百分点的提升,对比基于Transformer结构的预训练模型如BERT分别有2、3和2个百分点的提升。

基于扩张因果卷积模型的冷库商品销售量预测

疫情环境下,供应链受到不良影响,库存及市场投入量关乎着社会以及民生的稳定。但是供给与需求无法达到完全一致的现象普遍存在,这使存储管理上面临两方面难题:要么库存过剩增加成本,要么库存不足造成供给短缺。在这种情况下,对商品销售量预测进行深入的研究是一件非常重要的事情。传统的一维卷积神经网络(CNN)在销售量预测上存在信息泄露的问题,且其结构难以获取较长的记忆。文中提出扩张因果卷积神经网络(Dilated Causal Convolution)来优化模型解决问题,其中扩张卷积可以增加卷积模型的感受野大小,获取序列的长时记忆;同时引入因果卷积来解决信息泄露问题。实验结果表明文中提出的扩张因果卷积在销售量预测方面有着较好的预测效果。