算法偏见背后的数据选择、信息过滤与协同治理

算法驱动的人类智能系统与人工智能系统交互中,数据选择与信息过滤是不容忽视的关键环节,一方面与算法运行的不透明性有关,另一方面也受到人机协同的信息过滤影响。算法偏见已经造成了现实生活中信息圈层之间的分化,并可能延续甚至加剧社会发展多个方面的失衡。因此,有必要审慎地看待算法偏见的影响要素,透视技术本身及其应用过程中的潜在风险和问题,从而为应对人工智能嵌入社会系统过程中所带来的阶段性偏见提供思路。

大数据时代算法偏见法律治理研究

在大数据时代,算法偏见呈现出日益严重的趋势。算法偏见易产生不正当竞争、抑制创新能力、固化社会既存偏见的消极后果。结合域外经验和本国实际情况,可以从明确算法偏见责任主体、提升算法透明度、完善市场准入与内部治理机制三个方面来解决这一问题,为纠正算法偏见现象提供合理对策。

算法公平:教育人工智能算法偏见的逻辑与治理

算法公平被视作人工智能领域的核心伦理问题。教育人工智能同样面临算法偏见、算法歧视等伦理风险。通过系统性回顾2013一2023年教育人工智能算法偏见的57篇文献,本研究发现,从总体架构看,教育人工智能算法偏见研究主要分概念性理论研究、教育场景应用研究与算法检测设计研究三类;从以算法偏见为核心厘清算法伦理风险、算法歧视、教育公平三层概念的逻辑层次看,研究样本在算法偏见的种类、成因和治理原则与方法方面存在共性和明确的指向。本研究最后以种类和成因为基础,提出未来教育算法偏见研究的五个方向,以期促进教育的算法公平,优化人工智能教育应用环境,推动教育人工智能生态系统的健康发展。

论数字阅读中的算法偏见及其治理

人工智能嵌入数字阅读流程以来,在提升知识信息传播效率的同时,也因数据输入的片面性、算法模型不完善、用户画像的局限性等原因而带来算法偏见。算法偏见产生的伪个性化推送,难以满足读者真实阅读需求;抑制个体权利,限制其信息选择自由;衍生回音壁效应,加剧群体间观念冲突;同时助长知识传播的娱乐化倾向,甚至危及网络出版的内容生态。数字阅读企业、监管部门、社会层面应多元协作,重视算法伦理,强化读者主体性并提升其深度学习能力,以治理算法偏见,助推我国数字出版产业繁荣发展。

人工智能算法偏见与健康不公平的成因与对策分析

随着信息技术的发展,人工智能为疾病诊疗带来重要价值。然而,人工智能中存在算法偏见现象,可导致医疗卫生资源分配不均等问题,严重损害患者的健康公平。算法偏见是人为偏见的技术化体现,其形成与人工智能开发过程密切相关,主要源于数据收集、训练优化和输出应用3个方面。医护工作者作为患者健康的直接参与者,应采取相应措施以预防算法偏见,避免其引发健康公平问题。医护工作者需保障健康数据真实无偏见、优化人工智能的公平性和加强其输出应用的透明度,同时需思考如何处理临床实践中算法偏见引发的不公平现象,全面保障患者健康公平。本研究就健康领域中算法偏见的形成原因和应对策略展开综述,以期提高医护工作者识别和处理算法偏见的意识与能力,为保障信息化时代中的患者健康公平提供参考。

基于文献计量的算法偏见研究综述

随着算法技术更新迭代与大数据技术的广泛应用,算法偏见问题逐渐引起学术界与社会关注。为探究该问题的研究进展与发展现状,运用文献计量方法,以Web of Science核心数据库中相关英文文献为研究对象,通过聚类分析,梳理该领域的基础知识与研究前沿,整合出当前研究的热点问题。同时,根据现有文献分析结果构建当前国外对算法偏见这一主题研究的整体思路与框架,并在此基础上对算法中现存的偏见进行分类,以分析各类别偏见的来源与可行的纠偏方法,以期为算法偏见研究提供参考与借鉴。

社交媒体用户算法偏见感知的批判性话语分析

[目的/意义]本文关注用户对算法偏见的感知现状,为扩展信息领域不平等话语提供本土例证。[方法/过程]采用费尔克拉夫的三维分析模型,从文本、话语实践、社会实践3个维度对社交媒体中的算法偏见话语文本进行分析。[结果/结论]研究发现,用户对算法偏见的感知和理解包括:①算法偏见源自于数据和算法平台,偏见对象包括数据、内容和用户,用户对算法偏见情感多元;②话语文本的生产互动暗含用户意识形态;③用户对算法偏见的感知反映出信息分布不均衡、信息呈现不平等和数字不平等背后利益者相关者的权力博弈关系。

智能广告中的算法偏见与风险规制

基于算法技术的智能广告往往被用来洞察并深入用户群体的生活场景,推送更具个性化和精准性的促销信息,进而为用户提供满足其现实需求的产品和服务。超强的洞察力和探索能力是算法提高智能广告传播效率的优势,但也不可避免地带来隐私侵犯、“广告茧房”、不正当竞争、“大数据杀熟”等算法偏见问题。文章认为应从健全算法治理体系、加强广告行业自律、倡导人机协作发展、提升用户算法素养四个方面进行风险规制。

智能传播时代新闻后真相现象中的算法偏见与风险规制

智能传播时代的算法已经渗透新闻的采集、生产和分发的全流程,由此带来的算法原始数据、算法设计者、算法技术、算法使用者四个维度的算法偏见助推了新闻后真相现象,引发了群体极化、舆情风险、新闻影响力下降、社会共识解体等社会风险,需要从提升公众媒介素养、坚守媒体社会责任、促进算法技术革新、完善政府监管体系四个方面进行风险规制。

解构智能传播的数据神话:算法偏见的成因与风险治理路径

算法依托大数据与计算机程序运行,被视为"客观中立"的信息中介。然而,智能传播算法实践证明,所谓的"算法中立"不过是人们对数据和技术的乌托邦想象。政治内嵌与资本介入,社会结构性偏见的循环,量化计算对有机世界的遮蔽,必将导致算法的内生性偏见。算法正义原则旨在建构公平、透明、负责的算法系统。在算法主导的信息传播机制中兼顾数据主体的可见性与自主性,提升算法的透明度,在立法实践上规范算法技术、建立算法问责机制是对抗算法偏见、规避数字风险的有效治理路径。

论算法排他权:破除算法偏见的路径选择

算法属于计算技术和人工智能的核心技术。伴随着算法日益介入人类社会生活,被算法不透明(即算法黑箱)所遮蔽的算法偏见问题日趋严重,特别是在算法被应用于公权力行使的场合,它加剧了社会不平等、侵害个人权利等问题。现有的解决方案是构建算法透明度与算法可解释规则,但它难以完美地解决算法偏见的问题,还侵害了算法开发者的商业秘密。为了增加算法的透明度,可借鉴保护药品数据的管制性排他权制度,以算法公开(保存源代码)为对价赋予算法开发者一定期限内的市场排他权。将管制性排他权模式移植至算法保护,其基本规制目的是克服对算法监督的困难。算法排他权不会排斥算法受其他知识产权的保护。

刑法领域的新挑战：人工智能的算法偏见

人工智能助力司法领域的进步,但是其具有的算法偏见的问题则对刑法领域构成全新的挑战。算法偏见主要包括工程学算法偏见、遗传算法偏见、人工神经网络算法偏见,并主要来源于程序设计、测试数据的偏差以及自我学习的产生。算法偏见对于刑法领域的挑战主要分为两个方面,分别是算法偏见构成的新的犯罪行为的刑法规制挑战和算法偏见对刑事审判带来的挑战。对于前者,侵害了公民的隐私权、公民的人格平等权以及数据安全法益,应该以破坏计算机信息系统罪和侵犯公民个人信息罪加以规制,但是对于后者,包括算法黑箱、算法鸿沟、算法独裁,需要在人工智能刑事审判系统构建之初保证算法公正、注重自我纠错能力、增强透明度,从而化解算法偏见对刑法领域的挑战。

自动化系统中算法偏见的法律规制

在日常生活中,算法的影响力越来越大,尤其是自动化算法系统更是举足轻重。由于输入数据及算法自身可能存在偏见,因此,自动化算法系统可能产生偏见影响。算法偏见不仅能够放大固有的人类偏见,而且还会妨碍个人的自我决定权,甚至威胁人身财产安全。欧盟对算法偏见采取了严厉的规制态度,通过赋予个人对“自动化决策”及“数据画像”的“解释权”“反对权”,并要求数据控制者履行“数据保护影响评估”义务,来消减自动化系统中的算法偏见。以此为借鉴,我国应该超越算法中的“技术乌托邦”,坚持“通过设计实现公平”,利用“合同治理”增强算法的透明性,实施算法影响评估。

算法偏见的法律矫正研究

算法技术广泛应用到社会的各个方面,算法的评分、排序决定和影响着相对人贷款、就业、信誉等诸多权益。但当算法做出不利甚至错误决策时,相对人无从知晓原因更遑论改正其错误决策,严重缺乏应有的救济。算法的偏见问题不断地冲击着人们对算法的公共信任程度,于是对于其治理与监管便成为一项重要的法律议题。应创设必要的规制,以遏制算法结果偏见对潜在正当法律利益的威胁和侵害。

人工智能营销传播算法偏见与元规制路径研究

随着算法在智能营销传播领域的普及应用,被算法黑箱所遮蔽的算法偏见等负面效果也渐次浮现,算法正在左右人们的认知习惯和消费偏好,并遮蔽了"算法权力"背后的决策偏见与市场力量,算法服务对社会的"隐性规训"正在显现。同时算法决策机制的动态性、隐蔽性与结构性等特征,增加了偏见识别和判断的难度,给传统规制理论和实践体系带来适用困境。元规制理论强调政府监管部门通过正反面激励与合规指引,促使算法控制者针对偏见问题做出自我规制回应,为算法偏见的规制与管理提供了一种新的研究视角与思路。

算法偏见概念、哲理基础与后果的系统回顾

算法偏见是社会偏见在算法信息社会的延伸,映射信息不平等。本文采用系统综述方法,对国内外算法偏见类型的实证研究进行梳理综合,在界定算法偏见的内涵和外延基础上,整合算法偏见的二元主体概念框架,并归纳算法偏见的三条形成链,包括人类智能系统内的偏见链、人工智能系统内的偏见循环圈、人类智能系统到人工智能系统的偏见作用路径。然后从功能主义、冲突论、还原论和马克思主义角度反思算法偏见研究的哲理基础。最后从信息科学视角构建技术、信息、用户之间的三元交互影响模型,讨论算法偏见在技术、信息、用户三要素互动过程中的存在形式,并发现算法偏见导致的三类不平等现象——信息呈现不平等、信息分布不均衡和新型数字不平等。研究结果深刻揭示了算法时代的信息社会问题,并赋予信息领域的传统不平等话语新的内涵与外延,为信息职业人员应对算法时代新挑战提供思路和参考。图3。表2。参考文献92。

从算法偏见到算法歧视:算法歧视的责任问题探究

算法的公正问题被视作如今人工智能领域一个核心的伦理问题,通常被表述为“算法偏见”或“算法歧视”,但偏见与歧视实际上是两个问题。区分这两个问题可以显示出算法偏见并不具有伦理维度,而算法歧视才是人工智能领域中真正的核心伦理问题。算法偏见是不可避免的,主要来自开发者的偏见、数据的偏见和算法自身的偏见。其中,显性偏见是容易被发现并剔除的,但隐性偏见则不可避免地存在于算法之中。算法歧视的责任主体则主要是人,人们对于算法偏见的盲从导致了算法歧视。自主决策算法所引发的歧视也可以追责到人。因此,算法的开发者和使用者要为算法歧视负责。

社会治理:人工智能时代算法偏见的问题与规制

随着人工智能、大数据的快速发展,社会已经进入了算法社会。算法已经全面渗透于社会经济、生活及管理的运行。然而算法并非是完全客观、价值中立的技术。算法运行过程中产生的偏见及问题,其本质是社会偏见在人工智能时代的映射,逐渐显现侵害社会公众的人格平等权、隐私权,并对数据安全形成威胁甚至破坏,从而导致对社会危害现象的发生。因此,不应禁锢于算法中的技术乌托邦理念,通过把握算法偏见产生的环节及其存在的法律及事实风险,减少其因不确定性危害风险带来的对社会秩序的冲击,有必要及时建构法律和综合治理的风险防控体系,并将对算法偏见的防控治理纳入常态化社会治理体系中。

演化博弈视角下的算法偏见与伦理规制

推荐算法已成为社交媒体时代信息分发的驱动要素,受政治、资本、流量等因素影响,算法在信息分发过程中往往会出现结构性偏见、选择性偏见和趋利性偏见。本文基于人机演化博弈视角,对冷启动、协同过滤、收敛稳定和交互博弈四大阶段算法偏见的生成与纠偏机制进行分析,并基于反向工程实验,面向今日头条新闻客户端进行动态数据追踪和多阶段对比分析。发现算法推荐主题内容存在从发散到收敛的动态演变,使用早期旨在拓展用户兴趣边界,后期推荐主题趋于集中;在各个阶段正面内容均占据推荐主导地位;随着用户使用频次增加,中央媒体内容和广告内容被推荐占比趋于上升;面向不同群体推荐主题内容和情感倾向存在一定结构性差异。适度约束算法权力,有效保障用户权利,才能在合乎伦理的前提下最大化发挥人工智能的信息红利。

算法偏见问题的技术—权力互构论解析

近年来的数据集下架潮、算法偏见大辩论使得算法偏见成为一个不可忽视的社会问题,这归根结底是由算法的政治性决定的。本研究从技术与权力的互构共生关系视角,批判了算法的价值中立论,在算法赋权的社会—技术系统中,算法作为非人类行动者参与到人类行动者的决策过程中。算法偏见可以区分出若干类型,其实质是当代数字化社会的一种形式偏见,可能加剧新兴的数字排斥。算法社会的道德底线应该是不造成算法伤害,避免算法作恶,同时还要从激励性伦理的角度推动算法的负责任创新,实现算法向善。算法风险的基本治理机制是算法透明,而同样重要的是算法问责。