技术伦理视域下美国教育人工智能伦理问题审视:现实表征与规避策略

教育人工智能是一种新兴技术,在凸显其优越性的同时逐渐显现出诸多技术伦理问题。美国作为教育人工智能技术的先驱国家,其教育人工智能技术伦理问题表征和规避策略更具典型性。美国教育人工智能在使用过程中出现各种偏见、歧视:智能系统出现错误和技术漏洞时追责困难;海量数据搜集会侵犯学生多种权利;学生长时间使用智能系统可能面临发展障碍,出现“成事”与“成人”的价值冲突。为规避教育人工智能伦理风险,美国制定了教育人工智能相关标准,加强教育人工智能算法监管,出台数据保护指南和法案,并规范智能技术在教育中的应用。我国应借鉴美国教育人工智能伦理问题的治理策略,制定和完善教育人工智能相应政策,建立贯穿全生命周期的全员联动监管机制,研制教育人工智能伦理框架,培养和提升师生的人工智能素养。

基于4R危机管理模型的教育人工智能伦理风险防范体系构建

人工智能技术的快速发展正深刻影响和改变教育教学领域。因其智能化、自主性和交互性特点,教育人工智能应用带来诸多便利和优势的同时,也引发了诸多伦理风险和挑战,需要谨慎应对和积极解决。基于SHEL风控模型,教育人工智能应用的伦理风险可归纳为软件相关、硬件相关、环境相关和人件相关四类风险,伦理风险防范现存三个短板急需化解;借鉴4R危机管理模型,该文构建了一个多方参与、全程管理、高效协同的伦理风险防范体系,设计四层实践路径,并结合实践阐述了风险防范的实现方式,以创新地应对教育人工智能应用的伦理风险防范问题,助推教育人工智能的可持续健康发展。

风险社会视角下教育人工智能伦理风险分类框架研究

人工智能技术发展的不确定性和应用的广泛性,给教育教学带来智能化、便利性和高效率的同时,也可能带来技术滥用、数据泄密、侵犯个人隐私等伦理风险问题。如何对教育人工智能应用过程中非规律性、高频发性、系统性的伦理风险进行分类,已经成为当前学术界关注的焦点。基于贝克的风险社会视角,从教育人工智能伦理风险因素的内在联系出发,分析教育人工智能应用场景与伦理风险来源,提出建立教育人工智能伦理风险分类框架,归纳四种类型伦理风险,包括教育数据风险、机器算法风险、技术本体风险和教育应用风险等,并提出伦理风险防范策略,助力人工智能技术在教育领域的可持续健康应用。

教育人工智能:价值·逻辑·趋向

人工智能在教育领域的广泛应用已然成为一种常态,教育人工智能也日渐成为业界的热点。目前,教育人工智能已经在教育领域做出了相当大的贡献,但也引发了一定的问题。为了体现其存在的价值,务必从“人”与技术两个方面来阐述教育人工智能的内在价值。同时,为了促进教育人工智能的良性发展,还应从“教育本质”的发展逻辑、“以人为本”的心理逻辑以及教育技术学的逻辑等方面分析其内在的发展逻辑。此外,为了教育人工智能朝着科学化、规范化的方向发展,还须从应然、实然、理想、现实等方面来推断其未来的发展趋向。

教育人工智能伦理治理:现实挑战与实现路径

教育人工智能伦理治理旨在使教育人工智能系统的设计、开发与应用符合道德、法律和社会价值观,以保障人工智能技术对教育数字化转型的切实赋能。为应对“知而不行”“知为不行”“制为不行”的治理难题,由“单一软法”向“软硬兼备”转变已成为教育人工智能伦理治理的发展共识与诉求。但由于人工智能伦理存在诸多不确定性,且相关政策制定与学术研究尚处于起步阶段,实现“软硬兼备”的教育人工智能伦理治理面临治理对象界定不清、伦理原则指代不明、治理主体尚未形成多元共治合力、治理方式存在孤立性的现实挑战。实现“软硬兼备”的教育人工智能伦理治理,前提与关键在于弹性界定教育人工智能概念,提供具有可操作性的原则指南,落实“一核多元”的权责划分,探索实验治理与混合治理的行动框架。

个性化的神话:教育人工智能的虚假叙事批判

人工智能赋能“人的个性化发展”正在成为当前教育叙事的主流话语,但这种技术裹挟的个性化神话具有巨大的虚假性。其违背了生活“世界”作为个性化的基础构造这一存在论前提,数字世界的非物质性、反实践性、弱社会性以及去复杂性抽空了儿童个性化发展的根基。“非物质性”导致儿童生命的“无根化”,无法构建差异性“意义之网”,使真正的教育难以发生;不断消解的感性对象掏空此在的实践空间,加速的片面性成为个性化的最大敌人,持续弱化的实践能力消解了个性化发展的可能;每个人都是一座学习的“孤岛”,数字化环形结构中没有“他者”,缺乏“我们”的共同体没有未来;教育的不确定性被确定性取代,多样性被单极化替换,开放性被封闭性占位。指向一种真实的儿童个性化发展的教育必须以一种现象学回撤的思路强调教育的根本价值,它要求深刻认识人、技术与教育三者的关系,包括“(人—技术)—教育”的具身关系、“人—(技术—教育)”的诠释学关系,以及“人—技术(—教育)”的它异关系;重视现实生活世界对于教育的原初性意义,即保证教育的物质底座,捍卫真实的社会关系,重视直接经验的价值;以复杂性思维介入多样性的教育现实,也即接受教育的不确定性,保护教育的多样性,扩展教育的开放性。

教育人工智能伦理原则的有限性及其补正——兼论“原则-美德-法律”框架

教育人工智能伦理研究的“原则方法”旨在通过伦理原则的构建与教授消解教育领域应用人工智能技术出现的伦理风险。然而,当前教育人工智能伦理原则存在有限性,制约了其对教育实践的影响力。就自身而言,教育人工智能伦理原则在构建过程中忽略了其在不同行业领域、不同教育应用甚至同一框架内的个性特征或关系。就实践而言,教育人工智能伦理原则既无法提升目标对象将伦理原则付诸实践的意愿,也缺乏强制其遵守这些价值观和规范的机制。教育人工智能伦理原则有限性的消解需要在完善原则自身的同时引入美德与法律,进而构建“原则-美德-法律”框架。这一框架的构建要义是使原则、美德、法律三大层次针对且有效地应对伦理原则有限性的各个方面,做到确定可靠切实的伦理原则、开展明确可行的美德培育、构筑稳健有效的法律保障。

我国教育人工智能研究热点及趋势——基于CiteSpace和VOSviewer的可视化分析

为了促进人工智能在教育领域的深度应用,加快实现人工智能为教育赋能,以“教育+人工智能”为主题对中国知网(CNKI)的CSSCI数据库进行检索,最终筛选出1395篇文献作为研究样本,利用CiteSpace和VOSviewer工具进行全面分析,发现目前我国教育人工智能的研究主要包括人工智能与教育理论的探讨、人工智能与教育的技术研究、人工智能在教育领域的应用以及人工智能对教育的影响。未来,研究还需强化理论基础,加强技术突破,注重实证研究和关注伦理问题。

教育人工智能十大悖论

经历了半个世纪发展历程的教育人工智能在21世纪更加备受瞩目,而以Chat GPT为代表的生成式人工智能则把这种炒作推向新高潮。“教育离不开人工智能”“教育要拥抱人工智能”“人工智能必将颠覆教育”……诸如此类的预言似乎已经成为学界主流话语。本文在回顾教育人工智能历史、区分人工智能与人类智能和辨识教育的“小世界”和“大世界”观等基础上,对教育人工智能十大预言/悖论进行批判分析,并反思我们需要什么样的教育人工智能观。

初高中教育人工智能伦理:困境与对策

人工智能在投入教育行业后,潜在的伦理困境逐渐显现。通过问卷调查统计在校师范生对于初高中教育人工智能伦理问题的认知现状,得知目前初高中教育人工智能的伦理困境主要表现在数据易失真导致教育应用程度低、算法歧视渗透加剧教育领域现存歧视、人机互动频繁影响教育主体的情感联结、教育人工智能资源分配不均等化阻碍教育公平四方面。依此得出了四个层面的对策:加强人工把控,提升信息质量;推动校企合作,进行AI“教育定制”;强化人文关怀,加强师生情感联结;建立教育人工智能资源共享平台。

教育人工智能(EAI)视域下高校思想政治教育模式融合创新研究

高校思想政治教育面临着教育人工智能(EAI)融入后的挑战和机遇,如何利用人工智能的技术优势,促成思想政治教育在观念、内容与方法上的革新,增强思政理论课程的吸引力和实用性,是当下教育界人士和有关学者需要认真考量的问题。

探讨AI时代教育人工智能辅助教学的现状及挑战

AI 时代的教育人工智能在辅助教学方面取得了显著进展,但同时也正面临着一系列挑战。个性化学习和实时反馈为学生提供了更有效的学习路径,然而,AI 在情感互动方面仍有待提升,缺乏人性化的交流体验。同时,教师普遍存在数字素养不足以及缺乏统一的审核体系使得教育 AI 产品质量和隐私保护存在风险等问题仍需得到进一步关注。因此,发展人工智能需要强调情感智能的整合,提升教师数字素养,并建立可信赖的审核标准,这将有助于构建安全、高效、全面的教育 AI 时代。

教育数字化转型的核心技术引擎:可信教育人工智能

教育数字化转型旨在通过数字技术实现教育教学流程再造和提质增效。一方面,以人工智能为代表的数字技术作为教育数字化转型的技术引擎,驱动教育数字化转型持续深入。另一方面,人工智能技术的“黑箱”本质引起了人机信任危机,存在违背教育中的公平、责任、透明、伦理等基本约束的风险,阻碍了教育数字化转型。本研究梳理了人工智能助力教育数字化转型过程中所引发和加剧的四大治理难题,剖析了可信教育人工智能的理论研究和发展现状,提出了可信教育人工智能的基本框架,总结了可信教育人工智能为教育数字化转型带来的机遇,提出了可信教育人工智能促进教育数字化转型的发展建议。研究建议出台可信教育人工智能的相关标准和法规,将技术可信度纳入教育数字化建设评价体系中,深入推进教育数据治理,提升教育从业者的数字素养。

算法公平:教育人工智能算法偏见的逻辑与治理

算法公平被视作人工智能领域的核心伦理问题。教育人工智能同样面临算法偏见、算法歧视等伦理风险。通过系统性回顾2013一2023年教育人工智能算法偏见的57篇文献,本研究发现,从总体架构看,教育人工智能算法偏见研究主要分概念性理论研究、教育场景应用研究与算法检测设计研究三类;从以算法偏见为核心厘清算法伦理风险、算法歧视、教育公平三层概念的逻辑层次看,研究样本在算法偏见的种类、成因和治理原则与方法方面存在共性和明确的指向。本研究最后以种类和成因为基础,提出未来教育算法偏见研究的五个方向,以期促进教育的算法公平,优化人工智能教育应用环境,推动教育人工智能生态系统的健康发展。

敏捷治理:教育人工智能伦理治理新模式

进入21世纪以来,人类迈入数据规模呈指数级上升的人工智能时代,人工智能教育成了热切的必然趋势,也出现了不可避免的风险挑战,引发一系列伦理问题,而教育人工智能伦理治理研究始终停留在单一化、被动化的层面,治理效能不显。文章将教育人工智能的伦理风险归纳为“PBAS”四类问题,剖析伦理风险治理现存的五个短板,提出借鉴使用一种全新的治理模式——敏捷治理,来创新应对教育人工智能伦理治理问题。研究以敏捷治理的演绎趋势与内涵特征为切入口,结合敏捷治理的原则与能力,构建教育人工智能伦理敏捷治理五步循环模型,设计五层实践路径,并以“PBAS”四类问题为例,详细阐述敏捷治理解决方案。以期为教育人工智能伦理问题提供一种新的治理范式,为伦理风险的可持续治理与健康发展提供参考与借鉴。

我国教育人工智能的应用现状及推进策略

通过对现有教育人工智能应用系统的梳理,分析教育人工智能的应用现状,指出制约我国教育人工智能应用发展的主要因素,在此基础上从技术、资源、教学、管理等维度提出对策与建议,旨在推动教育人工智能的发展,为教育工作者和人工智能开发企业提供思路和参考。

教育人工智能的伦理审思:现象剖析与愿景构建——基于“人机协同”的分析视角

教育人工智能作为未来创新教育的助推力,以精细的学习情况分析与描述、个性的学习路径规划与推荐及精准的学习结果诊断与评价等典型应用展示了其在教育中的优势。然而,从伦理的维度来审思,教育人工智能所表现出的这些优势在很大程度上影响着人机协同发展。就技术伦理而言,技术的“偏好”“歧视”“预设”属性,影响到了人之发展的完整性、公平性与生成性;就教育伦理而言,若主体与客体、目的与手段、为人与人为等关系的处理失当,易导致人被“规约”“驯化”“物化”。基于此,当前亟须构建教育人工智能的应然样态,以厘清教育人工智能中的人机关系,进而提出合乎伦理的教育人工智能发展路径,即由强势主导转为协助教学,实现教育人工智能的可持续性发展;由被动适应转向自主自决,坚守人之生命成长的价值取向;由人机失衡转向人机协同,建立人机双向反馈的对等关系等路径,为教育人工智能的合理与向善发展提供方向。

超越“共识”:教育人工智能伦理原则构建的发展方向

受各国人工智能发展规划影响,教育人工智能伦理原则研究起步晚于其他领域,塑造了其参照已有原则“共识”的构建取向。目前,对“共识”的反思及对教育领域个性要素的探寻逐渐受到研究者关注,超越“共识”成为教育人工智能伦理原则构建的发展趋势。“共识”暗含的“非共识”要素是制约教育人工智能伦理原则实践效果的根本原因,包括国别间的历史与文化差异,领域间的结构与指向差异,应用间的内容与对象差异,自身间的概念与关系差异。超越“共识”实际上便是在已有研究的基础上弥合“非共识”要素。更直接的说,就是承认教育人工智能伦理原则的有限性,即价值匹配的有限性、领域作用的有限性、指导时效的有限性,从而在构建教育人工智能伦理原则时坚持本土立场,明确目的导向,保持持续开放。

教育人工智能变革的基本逻辑与发展进路

教育人工智能的发展经历了萌芽、起步与发展三个阶段,其中蕴含着四个基本的变革逻辑:在技术上,它体现为底层技术与应用技术的叠加效应;在理论上,它表现为学习理论与人工智能理论彼此支撑;在应用上,它从辅助教学不断向人智协同拓展;在制度上,它呈现出积极发展与风险防范的两难平衡。这就意味着,未来的教育人工智能发展面临诸多困境:依托底层技术的突破方向模糊不清;教育人工智能的基础理论供给不足;指向人的发展的实践应用缺乏边界;存在利益博弈的教育政策易于摇摆。因此,实现提升教育质量的关键技术突破,注重聚焦智慧教育的基础理论创新,恪守确保人机协同的技术善用边界,不断加强防范风险的政策制度保障,是教育人工智能发展的未来进路。

基于教育人工智能的教育生态及其构建

教育人工智能作为新的变量融入既有的教育生态,推动传统教育模式变革与生态解构,力图建构出基于教育人工智能的智慧化、个性化教育生态。但在新的教育生态形成发展的过程中存在一些问题:教师对教育人工智能的滥用导致主体悬置、教育人工智能过度干预学生的思维方式、教育人工智能技术代码偏见与育人为本的价值取向相背离。建构基于教育人工智能的教育生态,需要构建教师与教育人工智能以人为本的人机协同关系,构建以学生自主性为核心的教育人工智能机制,构建多方协商的民主化教育人工智能管理模式。