反算法歧视与平等观念的重构——群体主义平等观下反屈从原则的启示

算法歧视的规制范式及时回应了紧迫的现实需求,需进一步在反歧视的理论层面对其深入展开研究。算法加剧身份歧视并纳入社会偏见,打破分类样态固化群体劣势,并隔离数据贫困群体,同时面临技术治理与反歧视法的双重困境。反算法歧视亟须突破工具性应对视角,深入挖掘平等理论的内核指引,特别关注个人主义平等观与群体主义平等观在算法时代的适用。在反歧视法下,“个人主义”的反归类和“群体主义”的反屈从原则提供了认知框架并在算法时代展现出新的内容。目前主流的呼声和应对策略,无论是算法透明化或是用户信息自决权,都建立在个体主义平等观之上,却不足以应对新的挑战。面对算法歧视中的群体劣势、算法权力的支配结构,以及社会结构性偏见,需要引入群体主义的视角。反屈从所确立的群体主义的、实质性的价值纠偏的立场,着眼于评估算法对不同群体的广泛影响,在改善受算法权力支配的消费者、劳动者和弱势群体劣势地位上,为反算法歧视提供了更好的指引。

宪法平等框架内的算法公平标准与价值权衡问题——兼论COMPAS算法公平争议的启示

数据驱动的人工智能算法在加速人类社会进步的同时,也因算法公平等伦理问题引发不少学者的担忧。讨论算法公平应区分价值层面、技术层面和规范层面等不同面向,价值层面关乎算法公平标准的问题,技术层面关乎如何实现算法公平的问题,二者共同制约算法公平的规范含义。围绕算法输入与输出环节,算法公平标准至少可以区分为反归类平等、校准度/预测平等、统计平等、分类平等这四类。然而,在诸算法公平标准间存在“不可能三角”,它使得价值权衡成为理解算法公平的应有之义。同时,群体间基础率的差异会影响权衡的性质与程度,这与算法设计时采取何种技术和公平标准无关,本质上事关作为真实世界镜像的数据质量。而对于基础率的改变,这有赖于我们选择生活在什么样的世界。