算法公平问题及其价值敏感设计的解法

算法歧视现象给个体生活带来极大困扰,算法的技术设计和法律防治是当前避免算法歧视的有效方法。但此类方法总在追求算法和公平之间的形式关系,试图用形式公平掩盖实质不公平,其根本原因是目前的算法设计对隐性价值不敏感,采用社会中既定的价值观作为设计前提,忽略公平、现实与个体的动态因果关系。这对实现算法公平提出了一种超越性要求,即要求算法研究者在算法设计过程中持续性追问公平的伦理价值。价值敏感设计通过不同方式识别和嵌入价值,是实现算法公平的可行路径。该方法通过概念调查、经验调查和技术调查研究算法设计过程中的价值基础,揭示出影响公平的隐性价值,进而引导公平算法的设计路径,避免出现算法歧视现象。

算法公平:教育人工智能算法偏见的逻辑与治理

算法公平被视作人工智能领域的核心伦理问题。教育人工智能同样面临算法偏见、算法歧视等伦理风险。通过系统性回顾2013一2023年教育人工智能算法偏见的57篇文献,本研究发现,从总体架构看,教育人工智能算法偏见研究主要分概念性理论研究、教育场景应用研究与算法检测设计研究三类;从以算法偏见为核心厘清算法伦理风险、算法歧视、教育公平三层概念的逻辑层次看,研究样本在算法偏见的种类、成因和治理原则与方法方面存在共性和明确的指向。本研究最后以种类和成因为基础,提出未来教育算法偏见研究的五个方向,以期促进教育的算法公平,优化人工智能教育应用环境,推动教育人工智能生态系统的健康发展。

算法公平与“公平”算法——智能媒体算法公平有效落地方式探讨

当下关于算法公平的主要实践路径是将“公平”看作技术问题,着眼于理想化的公平模型设计与应用。然而,仅仅通过优化算法,并不能从根本上解决智能媒体中算法公平的有效落地问题。基于公平概念本质上的可争议性以及政治性基本属性,可以从产品设计、平台运营、制度监管三个层面对其进行立体建构和维护。

宪法平等框架内的算法公平标准与价值权衡问题——兼论COMPAS算法公平争议的启示

数据驱动的人工智能算法在加速人类社会进步的同时,也因算法公平等伦理问题引发不少学者的担忧。讨论算法公平应区分价值层面、技术层面和规范层面等不同面向,价值层面关乎算法公平标准的问题,技术层面关乎如何实现算法公平的问题,二者共同制约算法公平的规范含义。围绕算法输入与输出环节,算法公平标准至少可以区分为反归类平等、校准度/预测平等、统计平等、分类平等这四类。然而,在诸算法公平标准间存在“不可能三角”,它使得价值权衡成为理解算法公平的应有之义。同时,群体间基础率的差异会影响权衡的性质与程度,这与算法设计时采取何种技术和公平标准无关,本质上事关作为真实世界镜像的数据质量。而对于基础率的改变,这有赖于我们选择生活在什么样的世界。

从公示到透明:算法公平的风险挑战与治理路径

算法模型的持续优化、数据分析技术的迭代升级改善了现有的信息服务质量,同时也引发了价格歧视、评分排序歧视、平台自我优待等不公平问题。算法公平治理体系的建构需要首先明确法律意义上算法不公的认定标准。对此,可以结合具体场景从形式要件、实质要件、例外规则三方面进行综合判断。在明确算法不公认定标准的基础上,为化解人类对自动化决策失控的忧虑,应当强化算法透明要求,通过矫正信息不对称最大限度降低数据、算法、人力中的偏见因素,以实现起点数据的完整准确、决策过程的公开透明、输出结果的合乎预期为依托,保障消费者知情权与公平交易权,促进数字经济健康发展。

算法公平与公平计算

算法公平问题由来已久,且随着社会变革历程不断花样翻新.随着数字化转型的加速推进,算法公平问题的根源逐渐由社会偏见转向数据偏见与模型偏见,算法给人带来的剥削变得更为隐蔽,而影响更为深远.尽管社会科学各领域对公平问题研究已久,但大部分仅停留在定性的表述上.作为计算机科学与社会科学的交叉问题,数字化转型下的算法公平不仅要继承社会科学各领域的基本理论,更要具备公平计算的方法与能力.由此,从算法公平的内涵出发,从社会偏见、数据偏见与模型偏见3个维度总结现有的算法公平计算方法,最后对算法公平指标和公平方法进行实验对比,进而分析算法公平计算面临的挑战.实验表明,原始模型的公平性与准确性之间存在权衡关系,公平方法的公平性与准确性之间存在一致关系.在公平指标上,不同公平指标之间的相关性差异较大,这说明了多样的公平指标的重要性.在公平方法上,单一的公平方法效果有限,这说明了探索公平方法组合的重要性.

超越“公平的不可能性”:从形式到实质性算法公平的转向

伴随着算法日益介入人类社会生活,被算法不透明所遮蔽的算法不公平问题日趋严重,特别是在算法被应用于公权力行使的场合,它加剧了社会不平等、侵害个人权利等问题。沿着算法促进社会正义的逻辑,本文着重对算法公平的方法论变革进行了刻画。首先,通过探究“公平的不可能性”的基本内涵与核心范畴,以算法公平的概念图式及其类型为阐释思路,归纳导致算法运行陷入“公平的不可能性”的现实困境。其次,从法律与哲学的视角出发,指出形式算法公平方法论无法在具有关系性与结构性不平等的政策环境中促进公平与正义,进一步突出了形式算法公平在应对“公平的不可能性”困境时的局限性。最后,实质性算法公平方法论作为一种替代方案,能够从更广泛的范围或框架中分析不公正问题,超越“公平的不可能性”困境,为治理和规约算法偏见提供了必要的方法论指引和行动指南。进而,实质性算法公平为算法公平的实现提出新的路径选择:摒弃旧的“公平”决策的形式数学模型,积极转向对算法是否以及如何在实践中促进正义的实质性评估。

论算法公平——兼评《数字法学的理论表达》

作为数字法学的核心议题,算法公平是对传统法理视域下公平学说的迭代升级,是法学理论因应算法社会的必然关注,更是跨域融合、跨界互动探索制度创新的全新法理命题。算法公平可从主体、参与者、主观感知角度进行类型界分,具有场景性、动态性、沟通性和多维性。数据结构和数据质量、算法建模过程的人为因素以及社会系统固有偏见均可能引发算法不公。算法公平是跨界法律、伦理与技术的重要议题,对其进行治理应立基于行业最新实践,强化技术与法律的深度融合,推动跨界规则的形成并着力打造协同合作的可信治理生态。

算法公平的类型构建与制度实现

伴随智能社会的兴起,算法公平已跃升为人工智能治理最为核心和紧迫的议题。基于主体和技术生命周期,算法公平可被归类为个体算法公平和群体算法公平;起点算法公平、过程算法公平和结果算法公平。以此类型框架为据审视我国算法公平规范现状,可见其呈现出体系化不足、可操作性欠佳、规范维度失衡、治理工具缺失以及对具备通用目的的人工智能与特定人工智能存在治理盲区等问题。为破解算法公平治理之困,应依循算法公平的技术机理和伦理关切,凝练法律、伦理和科技之间的内在共识,将算法非歧视原则作为算法公平治理底线,实现跨领域共识的有机融合。在此基础上,我国应立足反歧视法理,通过动态构建差异化的受保护特征清单、打造具有一致性和可预测性的算法歧视审查框架,建立合法性与必要性并重的算法影响评估机制,探寻算法公平的融贯理路与法治化实现路径。

社会化研究框架下算法公平性的实现策略研究

算法公平性是当下人工智能领域和信息伦理学界共同关注的一个话题,它来自于算法决策系统中的算法歧视现象。尽管技术人员在避免算法歧视方面取得了许多进展,但对于如何在技术层面实现算法公平性,至今仍没有达成共识。基于此,本研究首先分析了从技术路径实现算法公平性的方法及其缺陷,接着,沿着当前对于单从技术路径实现算法公平性的批评及修正,提出一种基于布雷的“披露性的计算机伦理学”的社会化研究框架,为算法公平性问题提供了一个更为合理的解决方案。

数字平台算法决策歧视的认定与规制

基于算法决策的数字歧视是算法社会化应用中一项亟待解决的问题。算法对于个体的重塑效应是歧视产生的直接原因,而算法之社会化应用过程中的价值冲突则是产生算法歧视的根本原因。由此也导致了算法分析过程呈现出忽略意义的关系分析,以概率性陈述为基础的算法评价所导致的受保护特征的不确定。算法社会化应用中的歧视认定,应当冲破传统反歧视理论,从受保护场景、是否存在算法支配关系、基于受保护特征的差别待遇、对个体或者群体的不利影响以及是否符合比例原则几个角度综合评估。有鉴于此,《个人信息保护法》第24条的相关表述需要进行重新解释和厘定,其中包括决策“公平、公正”、算法解释的内容等;另外,基于算法的数字歧视行为,需同现行侵权制度接榫,并适时进行制度赓续,完善算法歧视的规范治理体系。

多核处理器公平共享并行总线的方法

针对综合化电子系统中多个功能运行于同一多核处理器的不同核同时访问同一并行总线的冲突避免以及实时性问题,提出一种基于最小访问颗粒度的多核处理器公平共享并行总线的方法,并详细介绍了该方法的设计实现及验证。该方法不仅通过为每核分配一个总线操作缓冲队列保障了同一核的总线操作先到先服务,而且通过单个读写操作周期的公平队列算法保障了每核总线操作的实时性。工程实践表明,该方法是一种多核处理器公平共享并行总线的有效方法。

基于最大最小公平算法的应急医疗人力资源分配优化模型

针对突发事件背景下医疗人力资源供需不平衡的问题,展开了对应急分配模型的研究。在岗位安排及员工职业技能评估的基础上,考虑了不同工作对职业技能的需求问题,进而建立了人员分配的数学模型。同时通过引入最大最小公平算法,提出了人力资源分配算法,并结合算例进行了仿真。所提方法为应急环境中医院多重维度下人力与工作任务的双向匹配建立了数学模型,提出了求解方案,为指导实际应急场景下的资源分配问题提供了理论支撑。

一种用于优化VLC/WiFi异构网络资源的动态比例公平算法

为了提高可见光通信(VLC)/WiFi异构网络中的资源利用率,提出了一种动态比例公平(PF)算法。该算法通过引入补偿因子α来优化用户的优先级。首先,理论推导了VLC/WiFi异构网络的吞吐量、资源利用率和公平性指数等关键性能指标;然后,使用Matlab软件进行仿真,构建了一个VLC/WiFi异构网络系统;最后,将动态PF算法、PF算法以及最大载干比(Max C/I)算法在吞吐量、资源利用率、公平性以及访问延迟概率等方面的性能进行了对比。仿真结果表明:动态PF算法的吞吐量高于PF算法,并且远高于Max C/I算法;这3种算法的资源利用率均较高,均不低于0.96;动态PF算法的公平性指数约为0.97,优于其它2种算法,并且访问延迟概率较低。

基于启发式算法降低比例公平调度开销策略

在多处理器系统中已经证明了比例公平(proportion fair,Pfair)算法是调度周期任务最优的全局调度算法。然而在该算法的最坏执行情况下,任务在每个调度时刻均产生切换或迁移,导致系统开销过大。针对这一问题,对Pfair算法进行深入研究后发现,任务的分配过程是一个重要原因。基于此,提出基于启发式算法的模拟退火比例公平(simulated annealing-proportion fair,SA-Pfair)调度算法,即在Pfair算法做出调度决策后,用启发式算法将任务分配给处理器,以弥补原算法的不足。最后,采用LITMUS-RT平台对SA-Pfair算法和以此为基础设计的调度器进行仿真。结果表明,新算法在一定程度上减少了任务的切换次数以及50%以上的任务迁移总量,且能够有效地降低调度过程中的系统开销。

蜂窝网络下同时同频全双工设备到设备组网的干扰协调算法

蜂窝网络下的同时同频全双工(CCFD)设备到设备(D2D)组网可以进一步提升网络频谱效率,然而由此引入的残余自干扰(RSI)及蜂窝用户(CU)与D2D用户(DU)之间共享频谱的干扰会严重影响到蜂窝用户的体验。因此,该文为蜂窝网络下同时同频全双工组网设计了两种干扰协调算法,即CU和速率最大化算法(MaxSumCU)与CU最小速率最大化算法(MaxMinCU),在小区频谱效率得到提升的同时尽可能地保证CU的体验。对于MaxSumCU算法,该文以CU和速率为优化目标建立混合整数非线性规划问题(MINLP),其在数学上为非确定性多项式(NP-hard)问题。算法将其分解为功率控制与频谱资源分配两个子问题,并用图形规划找到最优功率解后,使用二向图最大权值匹配算法决定频谱共享的CU与DU。为了保证每一个蜂窝用户体验的公平性,该文设计了Max Min CU算法用以最大化所有CU速率中的最小值,该算法基于二分查找与二向图最小权值匹配算法来完成用户的资源分配。数值结果表明,与小区和速率最大化(MaxSumCell)设计相比,该文所提的两种算法在提升小区和速率的同时均有效地提升了蜂窝用户的体验。

民机后舱一体化网络架构QoS算法设计

民用飞机后舱包括信息系统(Information System,IS)、客舱核心系统(Cabin Core System,CCS)、机载娱乐(In-Flight Entertainment,IFE)系统、外部通信系统(External Communication System,ECS)等,各系统飞行安全域等级不同且网络交联关系复杂,这对传输服务质量(Quality of Service,QoS)提出极高要求,传统的QoS算法难以达到最佳效果。针对上述问题,将公平队列调度(Fair Weight Queue,FWQ)算法和随机早期检测(Random Early Detection,RED)算法相结合,整合到QoS处理系统上,并利用优先级双因素(Two-Factor,TF)机制对数据流进行精细化描述,提出一种民用飞机后舱一体化网络改进型QoS算法,命名为双因素加权公平队列随机早期检测(Two Factor-Fair Weighted Queue-Random Early Detection,TF-FWQ-RED)算法,使用OPNET网络仿真工具对该算法进行仿真验证。仿真运行结果显示,通过该算法可有效降低后舱高优先级业务流在网络拥塞场景下受延迟或丢包率的影响,同时保证了网络的高效运行,表明了TF-FWQ-RED算法的正确性以及对民机后舱混合复杂网络环境下现实需求的适应性。

带权快速Max-Min公平分配算法

提出了带权快速Max_Min公平分配算法,对该算法进行了摄动分析,从理论上证明了该算法的稳定性.给出了算法在ns-2下的仿真分析,验证了该算法的稳定性.

项目工期调整的公平负担算法

首先分析了国内外项目管理在处理工期调整时遇到的一系列问题 ;然后引入终路值和权比的概念 ,详细研究了一个正在执行的项目如何在目标的驱动下调整项目工期 ,并且给出了公平语义、算法的理论依据及实现算法 ,同时证明了算法的正确性 ;接着 ,讨论了项目段工期公平调整算法 ;最后 ,结合工程实际给出了算法的应用事例 。

802.11WLAN中一种基于循环队列的分布式公平队列调度算法

该文在无线局域网现有的802.11 MAC层访问机制的基础上,运用循环队列的思想提出了一种完全分布式的队列调度算法,该算法通过修改802.11的MAC层中的DCF(Distributed Coordination Function)子协议,实现了在分布式环境下控制802.11节点的公平访问无线链路资源的目的.文中通过仿真对算法进行了分析和研究,仿真结果表明该方法可以在一定范围内实现公平队列调度。