人工智能教育数据偏见成因机制及家校共治探讨

数据是人工智能教育应用的起点,也是引发偏见问题的源头,教育数据偏见使教育领域面临多重风险,而从数据周期角度看,偏见的成因复杂多样。因此作者提出,学校、教育工作者、学生、家长应携手共进,搭建学校数字基座,以“家校共治”路径创新和拓宽基础教育数据治理的思路和方法,推进教育数据环境公平性和包容性的建设。

人工智能教育应用的偏见风险分析与治理

在倡导教育包容与公平的时代背景下,教育面临着以个性化、自适应为特征的智能技术所带来的偏见风险。在智能教育产品的研发过程中,潜在的设计偏见、数据偏见和算法偏见会使教育领域面临多重风险,如教育活动的公平性受阻、教育系统内部的歧视加剧、教育中的多元化特质消解和学生思想窄化。学校、科技公司、监管机构等组织应当携手共进,提前侦测偏见风险并加强治理,包括:提升研发团队的教育理解和多元眼光,让师生成为产品的合作创造者,加强偏见检测和道德评估过程,建立可解释、可审查、可纠正的系统优化机制,开展面向师生的人工智能素养教育,确立人工智能在教育中的应用范围和伦理规范,从而争取实现人机良性互动,打造多元包容的智能教育环境。

论大数据党建的科学发展问题

大数据党建是政党信息化的新发展阶段。大数据在助力党的思想建设、组织建设、作风建设和制度建设的同时,因自身的"双刃性"也会引发公平正义等问题,给党建工作带来挑战风险。"数据鸿沟"影响党建工作的全覆盖和决策的合理性。数据偏见导致的刻板印象,影响干部选任的公正性和反腐工作的有效开展。部分党建工作人员对大数据技术的过分依赖,助长官僚主义形式主义。数据资本的逐利本性和无序扩张如果不受控制和监管,影响党建工作的导向和党建数据的安全。辩证认识大数据功能,理性审视大数据对党建的影响,不是反对大数据党建的探索尝试,而是要规范大数据党建的科学发展,使大数据党建不仅符合数据正义的伦理要求,更符合党建的政治要求,注重传统党建和大数据党建相结合,在党的领导下有序推进、健康发展。

算法公平与公平计算

算法公平问题由来已久,且随着社会变革历程不断花样翻新.随着数字化转型的加速推进,算法公平问题的根源逐渐由社会偏见转向数据偏见与模型偏见,算法给人带来的剥削变得更为隐蔽,而影响更为深远.尽管社会科学各领域对公平问题研究已久,但大部分仅停留在定性的表述上.作为计算机科学与社会科学的交叉问题,数字化转型下的算法公平不仅要继承社会科学各领域的基本理论,更要具备公平计算的方法与能力.由此,从算法公平的内涵出发,从社会偏见、数据偏见与模型偏见3个维度总结现有的算法公平计算方法,最后对算法公平指标和公平方法进行实验对比,进而分析算法公平计算面临的挑战.实验表明,原始模型的公平性与准确性之间存在权衡关系,公平方法的公平性与准确性之间存在一致关系.在公平指标上,不同公平指标之间的相关性差异较大,这说明了多样的公平指标的重要性.在公平方法上,单一的公平方法效果有限,这说明了探索公平方法组合的重要性.

数字媒体的三个迷思

用户掌控权力、大数据客观中立、受众分化是三个典型的数字媒体迷思。事实上,用户面临着选择困境,受到包括推荐机制在内的媒体结构的影响;大数据中存在着行为偏见、流行度偏见和个性化偏见,而且大数据分析还具有塑造现实的作用;媒体结构和用户消费中都存在着集中化趋势。由此可见,数字媒体给我们带来的变革也许并不完全如同想象的那样,相反的力量仍然在发挥着作用。

负责任的人工智能与设计创新

目的快速发展的人工智能技术的应用将改变人们在未来的思考和生活方式,重塑社会礼仪和道德伦理,产生巨大而不可估量的影响。数据噪音所带来的潜在社会道德和设计伦理问题可能会对设计创新中的公平性和包容性造成干扰和威胁,潜移默化地加剧社会矛盾,加深社会的不稳定性。因此,在全球化、普适计算和物联网时代,设计需要理性地重新思考其在人文艺术和科学技术之间的桥梁作用,并从新的角度来观察与探究人工智能应用下的“不确定性”问题。方法面向应用的人工智能的本质是工具性的,然而设计师群体对这种新工具的理解和思辨还有很大的改善空间。设计具备将价值观融入造物的能力和义务,应充分地发挥其特质和作用,借鉴负责任创新中的预期、反思、协商和响应四个责任维度,将责任风险评估、管理和干预全方位地嵌入到人工智能应用设计创新的决策和流程中,以一个包容开放的动态适应机制来应对未来的挑战。结论设计师是社会创新的重要驱动力之一,需要积极地投身于倡导创新价值、技术及设计伦理的前沿。负责任的人工智能和设计创新应协同制定更具有前瞻性的目标和任务,引领聚光灯照亮人类前进的方向。

智慧城市建设中的算法歧视及其消除

大数据、算力与算法是智慧城市快速发展的技术支撑,但数据源偏见、算法能力掌控、算法透明与追溯等问题,阻碍了宜居美好智慧城市的建设。消除智慧城市建设中的算法歧视问题,要正确处理数据偏见,注重算法伦理,坚持以人为本的发展理念,实现有效的智慧城市建设。

智能时代教育数据伦理风险:典型表征与治理路径

在以人工智能、5G、云计算等技术为支撑的智能时代背景下,教育数据伦理风险及其治理问题备受社会关注。智能时代教育数据伦理风险主要表现为教育数据隐私侵害风险、教育数据利益失衡风险、教育数据责任失守风险、教育数据服务偏见风险。智能时代教育数据伦理风险的治理困境主要涉及师生教育数据隐私权与开放共享存在冲突、教育数据利益博弈失范制约教育数据价值的充分释放、治理主体数据素养不足制约教育数据责任落实、师生教育需求的片面捕捉催生教育数据服务偏见。基于此,提出智能时代教育数据伦理风险的治理路径:尊重教育用户数据隐私控制权,优化数据隐私泄露风险防范体系;注重利益博弈规约,搭建教育数据权益监管体系;立足数据素养培育,培育专业化教育数据伦理风险治理组织;根植动态需求监测,构建“去偏见化”教育数据服务机制。