机器学习公平性指标:现状、挑战和展望

随着机器学习应用的日益普及,机器学习公平性问题引起了学术界和工业界的广泛关注,成为了可信人工智能的重要组成部分。为了评估和改善机器学习应用的公平性,研究人员提出了一系列公平性指标,这些指标有助于保障机器学习模型在不同个体、群体间的公平决策,并为改善和优化模型提供指导。但各界对于指标之间的区别与联系仍没有形成共识,对不同场景、不同任务的公平性定义没有明确的划分,公平性指标缺乏完善的分类体系。文中对公平性指标进行了全面的整理和归类,从指标的数学定义出发,根据是否基于概率统计将公平性指标分为两类,然后分别对这两类指标进行进一步的细粒度划分和阐述。为了便于读者理解和运用,结合一个实际案例,从适用场景和实现条件等方面指出各类指标的优势和面临的挑战,还结合数学定义讨论了指标之间的关系,并对未来趋势进行了展望。

公平性指标:从基尼系数到收入满足度差距

本文通过对财富分配、生活方式和价格水平、货币边际效用递减、评价生活质量标准以及指标构造缺陷等方面的分析,揭示了基尼系数作为公平性指标的局限性。本文认为,公平是公众认为合理的、愿意接受的规范和准则,其结果是公众的满意和社会的和谐。根据这一观点,我们可以用收入满足度来反映公众的满意程度,从而建立能反映社会公平与和谐程度的指标——收入满足度差距指标,并用德国的经验数据加以验证。

基于修正加权变异系数的电力调度公平性指标

根据电量预测的偏差、机组少发电量及被核减的合同电量对电量完成率的影响,分别定义了修正后的合同电量完成率;借鉴经济学领域中的修正加权变异系数,用修正后的电量完成率,从单纯的只考虑电量完成率与考虑各机组之间年度合同电量差异的电量完成率2个角度,构造了基于修正加权变异系数的合同电量执行公平性指标,并以某省2006年直调电厂发电量数据进行了计算。结果表明:这2个公平性指标能够较好地反映合同电量完成率、完成电量的分散程度及调度机构对合同电量调度的公平程度,并能够得到从年度开始到某时刻的合同电量完成情况及调度执行的公平度,可以指导调度机构在后续月份中更好地实现公平调度。

基于最大受电公平性指标的跨区直流消纳模型

大电网平台的建立为实现能源资源跨区域跨省(市)的优化配置提供了条件。在受端实际分电方案制定过程中,往往将各条跨区输电线路分别考虑。在此背景下,首先,建立了跨区直流消纳模型。然后,提出了最大受电公平性指标用以评判消纳方案的优劣,该指标由消纳区外直流电力最大的跨区直流电力分配函数和受端区域各省之间火电替代容量偏差比变化量标准差最小的火电利益公平性函数共同组成。最后,提出基于图论最短路问题的改进分电路径确定方法,并结合半正定规划进行求解。通过实际算例说明所提出模型方法的有效性和可行性。

基于信息熵的电力调度公平性指标探讨

借鉴经济社会学领域的公平性知识,在对合同电量完成率进行修正的基础上,提出了基于信息熵的调度公平性指标。对年度合同电量完成率和月度合同电量执行情况进行考察,以各发电集团内发电厂电量完成率差异和发电集团间差异作为评价目标,探讨了区域调度内的调度公平性情况。以某省统调范围内单机100MW及以上常规燃煤机组的火电厂作为算例,验证了所得到的公平性指标能够反映各地调、省调、区调公平调度情况,同时也能够按时间轴对年度、月度电量完成指标进行考察。

航班放行公平性测量指标分析与建立

航班放行公平性是衡量民航可持续运作的重要性能指标。但与航班运行效率相比,对航班放行的公平性研究较少。为了更加直观地衡量航班放行延误的差异程度,以航空公司航班放行的公平值为研究对象,先界定航班放行公平性概念;在此基础上,结合归一化算法,首次建立了衡量航班放行公平水平的归一化指标。以首都国际机场为例,按航班放行的离港口划分4个放行方向,计算并分析4个放行方向上分别对各航空公司航班放行的公平性值。结果显示,4个方向上航班放行公平值均满足正态分布;航班放行平均公平值越高的方向,分布越不稳定。经调研验证,由该指标计算的公平值与实际运行值相符。

中医药卫生资源空间配置公平性评价指标体系框架研究

目的：通过构建中医药卫生资源空间配置评价指标体系,研究中医药卫生资源空间配置公平性。方法：应用一般描述性研究、卫生资源配置公平性评价和空间可达性构建中医药卫生资源空间配置公平性评价指标体系。结果：应用洛伦兹曲线（Lorenz曲线）和基尼系数（Gini系数）评价中医药卫生资源配置公平性,地理信息系统（GIS）评价中医药卫生资源的空间可达性。结论：通过构建中医药卫生资源空间配置公平性评价指标体系能够全面体现中医药卫生资源配置是否公平,为相关管理部门提供有利的政策依据。

面向深度学习的公平性研究综述

深度学习是机器学习研究中的一个重要领域,它具有强大的特征提取能力,且在许多应用中表现出先进的性能,因此在工业界中被广泛应用.然而,由于训练数据标注和模型设计存在偏见,现有的研究表明深度学习在某些应用中可能会强化人类的偏见和歧视,导致决策过程中的不公平现象产生,从而对个人和社会产生潜在的负面影响.为提高深度学习的应用可靠性、推动其在公平领域的发展,针对已有的研究工作,从数据和模型2方面出发,综述了深度学习应用中的偏见来源、针对不同类型偏见的去偏方法、评估去偏效果的公平性评价指标、以及目前主流的去偏平台,最后总结现有公平性研究领域存在的开放问题以及未来的发展趋势.

公平性机器学习研究综述

随着机器学习在社会中的广泛使用,带来的歧视问题引发广泛的社会争议,这逐步引起了产业界和学术界对机器学习算法公平性问题的浓厚兴趣。目前对公平性度量和机器学习公平性机制的研究仍然处于初级阶段。本文对公平性机器学习的研究进行了调研,首先从公平性的定义出发,比较了衡量公平性指标的方法,然后调研了公平性数据集,对公平性问题的产生进行了分析,接下来对现有的公平性机器学习算法进行归类和比较,最后总结了当前公平性机器学习研究中存在的问题,并对关键问题和重大挑战进行了讨论。

基于投入产出角度的高考公平性探究

本文基于中小学12年人均教育经费和32所教育部直属985高校人均获得经费构建了高考投入产出比指标,通过计算此指标的变异系数衡量了我国各省在高考投入产出效率之间的不公平程度.文章进一步通过3个与高考投入产出相关的具体指标(中小学人均教育经费、优质高校录取率和人均院士产出数)将各省分为8大类,并分析了形成这8类的原因.最后,通过构建和优化公平性指标得到各省的建议性优质高校录取率.

雾辅助物联网中公平节能的计算迁移

为了构建绿色且长生命周期的物联网,本文提出了一种雾辅助的公平节能物联网计算迁移方案.首先,基于雾节点计算能力、带宽资源以及融合雾节点能耗公平性的迁移决策的联合考量,构建了一个最小化所有任务完成总能耗的优化问题.其次,提出了基于动量梯度和坐标协同下降的公平性能耗最小化算法用于解决上述混合整数非线性规划问题.该算法基于雾节点的历史平均能耗、距离、计算能力以及剩余能量值设计了公平性指标以获得对于雾节点能耗公平性最优的迁移决策;通过提出的动量梯度与坐标协同下降法,联合优化雾节点分配给各个任务的计算及带宽资源占比,达到最小化任务处理总能耗.最后,仿真结果表明本文方案能够取得较快的收敛速度,且与随机选择和贪婪任务迁移方案两种基准方案相比,本文方案的总能耗最低,雾节点的能耗公平性最高,且网络寿命分别平均提高了23.6%和31.2%.进一步地,该方案在不同雾节点数量以及不同任务大小的环境下仍然能够保持性能优势,体现了方案鲁棒性高的特点.

NBA赛程的一种分析与评价指标体系

以NBA赛程为例,建立了一种分析与评价指标的模型评价体系,对已有的赛程进行定量的分析和评价.以球队的疲劳程度作为对某支球队不公平度及整个赛程的度量指标,并以一种具体的权数设定对2007-2008赛季的赛程进行了分析评价.

电网调度公平性评价指标研究

我国目前考核调度公平性的指标主要采用年底合同电量完成率和标准方差两个指标,缺乏有效的对年度中合同完成进度的公平性评价指标。基于对公共资源分配领域公平性评价指标的分析,提出戴尔指数、阿特金森指数用于电网公平性调度指数,可以反映子群体———各省(市)公平调度"贡献率",并采用某区域电网直调电厂2009年实际数据对年度中合同完成进度的公平性进行了测算,对了常用公平测度指标在电网调度公平性分析中的适用性进行了比较。

基于分层需水的水资源均衡配置研究

水资源配置是缓解区域水资源供需矛盾、均衡水与发展的关键措施。根据新时期水资源精细化管理的有关要求,以农业、工业、生活、生态用水户为对象,基于分层需水相关理论和已有成果,提出了刚性需水、弹性需水的计算方法;综合考虑社会、经济、环境效益,构建了面向分层需水的水资源优化配置模型,采用NSGA-Ⅲ算法与EMW-TOPSIS法求解得到4种效益配置方案;以用水基尼系数表征配置单元间、用水户间的用水公平性,对非劣解集内配置方案的用水公平性进行评价,筛选出兼顾用水公平和效益的均衡配置方案;最后以宁夏回族自治区为典型研究区,进行案例应用。结果表明:均衡配置方案下,2025年宁夏全区总缺水量为10.74×10^(8)m^(3),经济效益为2182.6×10^(8)元,污染物排放量为162.78 t,该方案对应的全区用水基尼系数为0.98,配置单元间、不同用水户间用水公平性较高;与现状年相比,均衡配置方案对应的全区地下水开采量减少了0.91×10^(8)m^(3),降幅超过16.1%,地下水供水量占总供水量比例下降1.3%,进一步优化了自治区供水结构。本研究提出的水资源均衡配置思路与方法可为水资源短缺地区均衡配置提供借鉴,也可为新时期落实水资源刚性约束制度提供技术支撑。

集成指数梯度与网格搜索的算法公平性优化方法

论文创新地提出了集成指数梯度和网格搜索算法公平性的优化框架,实现了最优的动态参数调整,即在初步的指数梯度缩减后,根据模型的初步表现来调整网格搜索的范围和粒度。这种方法能够在不牺牲模型性能的前提下提高优化效率,减少了需要探索的参数空间大小。提出的集成框架实现了精确控制优化路径和调节不同公平性约束的权重,与传统算法相比,论文方法在广义熵指数、均等机会差异和平均奇偶校验差异等公平性测度指标上显示出了更优的性能。实验中采用了成年人经济收入公开数据集进行了验证,表明该框架在加速收敛和提高决策公平性方面有显著效果,展示了其在复杂多变环境下机器学习模型公平性的适应性和高效性。

AI治理中的公平性及其评价方法研究

[目的/意义]针对人工智能应用中表现出的偏见和歧视,本文从数据、算法和系统运维出发,分析了AI治理中公平性的影响因素和评价方法,为AI的公平性治理提供解决思路。[方法/过程]基于人工智能治理流程和AI的公平性治理机制两个维度,本文首先遵循“顶层设计—技术攻关—产业实践”思路,提出AI的公平性治理框架;其次,在AI治理公平性技术攻关层面提出了GovAI-FDevOps框架并从偏见角度出发探讨了公平性影响因素和量化评价指标;最后以信贷数据集German为例,对信用评分卡模型在性别、国籍、年龄等敏感属性上的表现进行了公平性检测和评价。[结果/结论]从本文研究来看,AI治理中的公平性是一个具有相对性的复杂概念,不存在满足各群体、各统计意义上的绝对公平。AI治理公平性的实现需要政策、法律和技术的多方协同努力。