技术伦理视域下美国教育人工智能伦理问题审视:现实表征与规避策略

教育人工智能是一种新兴技术,在凸显其优越性的同时逐渐显现出诸多技术伦理问题。美国作为教育人工智能技术的先驱国家,其教育人工智能技术伦理问题表征和规避策略更具典型性。美国教育人工智能在使用过程中出现各种偏见、歧视:智能系统出现错误和技术漏洞时追责困难;海量数据搜集会侵犯学生多种权利;学生长时间使用智能系统可能面临发展障碍,出现“成事”与“成人”的价值冲突。为规避教育人工智能伦理风险,美国制定了教育人工智能相关标准,加强教育人工智能算法监管,出台数据保护指南和法案,并规范智能技术在教育中的应用。我国应借鉴美国教育人工智能伦理问题的治理策略,制定和完善教育人工智能相应政策,建立贯穿全生命周期的全员联动监管机制,研制教育人工智能伦理框架,培养和提升师生的人工智能素养。

教育通用人工智能大模型标准体系框架研制

当前,人工智能大模型在各领域迅猛发展,其中教育领域的人工智能大模型虽然能够在知识生产、知识计算和知识服务方面完成多种智能任务以提供教学辅助,但其在功能构建、数据收集与管理、教学测评和应用等方面仍存在局限,同时缺乏适用于多个教育场景的通用人工智能大模型。基于此,文章从人工智能的发展和标准化的现状出发,对教育通用人工智能大模型的概念、原则和属性做出界定,并提出教育通用人工智能大模型标准体系,包括总体框架、信息模型、数据规范、测评规范和教学应用要求等,以从指导角度对教育通用人工智能大模型的研发、应用、管理和评估进行规范。文章通过研究,旨在规范通用人工智能大模型在教育领域的应用与发展,赋能、赋智于教育,推动教育的高质量发展。

风险社会视角下教育人工智能伦理风险分类框架研究

人工智能技术发展的不确定性和应用的广泛性,给教育教学带来智能化、便利性和高效率的同时,也可能带来技术滥用、数据泄密、侵犯个人隐私等伦理风险问题。如何对教育人工智能应用过程中非规律性、高频发性、系统性的伦理风险进行分类,已经成为当前学术界关注的焦点。基于贝克的风险社会视角,从教育人工智能伦理风险因素的内在联系出发,分析教育人工智能应用场景与伦理风险来源,提出建立教育人工智能伦理风险分类框架,归纳四种类型伦理风险,包括教育数据风险、机器算法风险、技术本体风险和教育应用风险等,并提出伦理风险防范策略,助力人工智能技术在教育领域的可持续健康应用。

人工智能素养教育:全球进展与展望

[目的/意义]探讨和总结AI素养教育的全球发展现状与趋势,明晰高校开展AI素养教育的现状和不足并以此提供优化策略。[研究设计/方法]以国际组织、发达国家等发布的政策文件、会议记录、研究论文等各种研究资料为基础探索AI素养教育的发展趋势,以采莓模式分析国内外29所高校在AI素养教育实践中的创新举措。[结论/发现] AI素养教育与AI教育存在明显的界限与联系。国际政策导向在推动AI素养教育方面发挥着至关重要的作用,但目前AI素养教育框架缺失。高校开展AI素养教育实践的施教者主要是学院、学习发展中心和图书馆,开展形式多样,教育内容涉及知识、技能、态度伦理价值观等方面。高校开展AI素养教育需要制定与优化教育框架、发挥高校图书馆的关键作用、实施多元化教育策略并基于KSAVE充实教育内容。[创新/价值]洞察AI素养教育的国际发展趋势,剖析高校AI素养教育的创新实践并以此提出优化策略,为高校AI素养教育领域的推广与实施提供有益的借鉴和指导。

“生成式人工智能+教育”的伪主体间性及其风险

以ChatGPT为代表的生成式人工智能正在助推教育的数字化转型。具有语言交流功用、能够进行交互的生成式人工智能因具有拟主体、类人化等特点,而被乐观地认为可以作为主体参与到教育活动中,乃至颠覆“人—机”的主客关系。但是,实际上,所谓的拟主体氤氲着一种主体幻视,其本质上只是一种披着主体性外衣的高阶客体。由于生成式人工智能的拟人性构建了互动层面的伪主体性,易形成“主体—主体”的关系错觉,故而我们将“生成式人工智能+教育”的主体性关系视为伪主体间的。正是这种具有迷惑性的主体性关系,生成式人工智能在介入教育活动时,可能会面临不确定的风险。对生成式人工智能拟主体性正向作用的发挥,需要坚持辩证法思维,进一步廓清“生成式人工智能+教育”的本体、认识、价值三维视域,不断强化以学生为核心的主体性培育路向。

青少年人工智能伦理教育的探索及启示——以MIT为例

随着人工智能行业应用的不断深入,其伦理问题日益凸显。《义务教育信息科技课程标准(2022年版)》明确指出要面向中小学生开展有关人工智能伦理的教育。鉴于国内外面向青少年的人工智能伦理教育尚处于起步阶段,介绍美国麻省理工学院(MIT)自2018年起在该领域的探索能为国内中小学校人工智能伦理教育教学实践提供一些启示。MIT青少年人工智能伦理教育涵盖小学、初中和高中三个学段,以初中和高中为主,涉及家庭、学校和社会三个场域,有专题式和内嵌式两种类型,形式上包括与中小学合作的线下STEAM选修课程、线上/线下的夏令营活动以及面向社会招募学生的混合式工作坊。梳理和反思MIT青少年人工智能伦理教育实践可以得到以下三方面启示:(1)高校可以与中小学合作开展青少年人工智能伦理教育的内容设计与教师培训;(2)中小学多学科教师可以尝试开展内嵌式青少年人工智能伦理教育设计与实践;(3)“家校社”应携手共建多样态多场域本土化青少年人工智能伦理教育生态。

人工智能赋能教育4.0:挑战、潜能与案例——《塑造未来学习:人工智能在教育4.0中的作用》的要点与思考

世界经济论坛将适应未来能力、技能、态度和价值观的教育称为教育4.0。教育4.0框架是面向未来需求转变学习内容和学习体验的全球框架。世界经济论坛2024年4月发布的《塑造未来学习:人工智能在教育4.0中的作用》报告,基于教育4.0框架,以未来教育模式和人才培养需求为导向,阐述了全球教育面临的师资短缺、教师行政负担重且教育评价效率低、数字技能和人工智能人才短缺等挑战,论述了人工智能技术可有效简化教育管理流程、提高教育评价效能、培养学生数字素养和人工智能素养、实现学生个性化学习等潜能,并结合具体案例分析了人工智能对传统教育模式的颠覆和重塑及其应用于教育的风险与应对措施。我国应优化多元主体与智能技术的协同实践,重塑未来学习生态和新质人才培养模式;构建并完善人工智能教育数字治理体系,推动数智化时代新质教育可持续发展;完善人工智能算法智能评测教育体系,夯实人工智能赋能教育4.0的数字底座;提升师生数字素养和人工智能素养,加快建构教育4.0时代的新质教育新体系;秉持以融创教育为核心的教育设计理念,推动人工智能教育与新质教育融通。

全球视野下我国人工智能素养教育内容框架的构建

[目的/意义]构建更具普适性、新颖性的人工智能素养教育内容框架。[研究设计/方法]参考全球具有影响力的人工智能素养框架、国际组织报告、国际标准、多个先行国家(地区)的政策、我国的国家战略需求、雇主对人工智能人才的需求、学术论文、全球知名企业动态和已开设的人工智能素养教育课程的内容,分析人工智能素养教育内容框架的构成及其依据。[结论/发现]我国人工智能素养教育内容框架由人工智能认知、人工智能技能、人工智能应用、人工智能伦理四大部分组成。[创新/价值]有别于国内同类成果主要依据学术论文析出的人工智能素养能力框架,整合多种来源的学术数据,构建出兼具可操作性与实践指导价值的人工智能素养教育内容框架。

国内人工智能教育应用:研究现状、热点主题和机遇挑战

人工智能与教育的深度融合对推进教育数字化转型、促进教育公平具有重要意义。国内人工智能教育应用在政策引领与新技术加持的双重驱动下曲折发展。通过文献计量法,总结出我国人工智能教育应用研究的五个主题:人工智能教育发展体系研究,人工智能辅助教学模式创新研究,人工智能教育应用政策演变研究,人工智能个性化学习实证研究,智能核心素养培养研究。当前,人工智能教育应用面临着赋能人才培养、教育发展与教学改革的机遇,同时面临伦理道德风险、教育人文缺失、数据安全隐患、理论供给不足等挑战。在此基础上,本文归纳了未来人工智能教育应用研究的四个方向与主题:一是重申人文主义教育方法,坚持立德树人的教育目标;二是大力推进智能技术和相关学习理论的研究,攻克未来教育可能面临的难题;三是积极促进智能技术与教育深度融合,全方位重塑教育过程;四是确立人工智能教育应用集体公约,为人工智能教育的可持续发展保驾护航。

国际人工智能教育治理政策规划和创新路径研究——首届人工智能安全峰会《布莱奇利宣言》要点与思考

人工智能教育治理是世界各国教育面临的共同议题。厘清人工智能给教育带来的潜在风险,制定国际人工智能教育治理的政策规划,探明推动人工智能教育治理国际合作的创新路径,有助于促进人工智能技术全方位赋能教育,推动人工智能教育治理学术共同体构建。2023年11月,在首届人工智能安全峰会上,来自中国、美国、欧盟等28个国家和国际组织的代表,共同签署了《布莱奇利宣言》,这也是全球第一份针对人工智能技术的国际性声明。采用文本分析和内容分析法对该宣言出台的政策背景和研究目的进行分析,从人本主义批判视角着重探究国际人工智能教育治理的政策规划,并反思其对我国人工智能教育治理创新路径的启示:构建开放且透明的人工智能教育治理体系、建立动态化的人工智能教育治理监管机制、推动人工智能教育治理国际合作多边机制、提升人工智能赋能教育安全风险预判能力,以及秉持共同、综合、合作、可持续的安全观,以期加速我国人工智能教育治理现代化,为国际人工智能教育治理总体规划的制定贡献中国方案。

多主体视域下人工智能教育应用探索

人工智能教育应用会推进教育教学整体性变革。从学习者角度来看,可以促进个性化学习、自适应学习和分布式学习的实现。从教师角度来看,既可以减轻工作负担,提高工作效率,又可以促进角色转变,适应全新教学环境。从管理者角度来看,可以在实现精准化教育治理的同时促进优质资源共享。但在推进过程中,学习者面临自主学习能力不足,学习负担增加;教师面临数字胜任力薄弱,教改动力不足;管理者面临资源相对缺乏,统筹推进受限等问题。为此,文章提出强化学习者自主学习,增强教师数字胜任力以及搭建智能学习平台,协同共建优质资源等举措推进教育改革。

教育领域生成式人工智能应用的伦理风险管理框架研究

生成式人工智能对内容生产与传播产生了革命性影响,教育领域进入了智能化与风险性并存的人机协同时代,教育人工智能应用伦理风险频繁发生,急需通过标准化的风险评估工具进行科学管控。文章从技术与教育两个向度出发,将教育领域生成式人工智能应用的伦理风险归纳为技术本体风险、教育数据风险、机器算法风险和教育应用风险四大类。借鉴ISO31000风险管理标准与应用指南,搭建“风险识别—风险分析—风险评估—风险应对”四级流程的伦理风险管理框架。构建风险源检查表,以风险矩阵为主要评估工具,在实践中统计得出各类伦理风险综合等级。教育领域生成式人工智能应用的伦理风险管理框架,将为教育教学有效实施伦理风险管理工作提供借鉴价值。

基于4R危机管理模型的教育人工智能伦理风险防范体系构建

人工智能技术的快速发展正深刻影响和改变教育教学领域。因其智能化、自主性和交互性特点,教育人工智能应用带来诸多便利和优势的同时,也引发了诸多伦理风险和挑战,需要谨慎应对和积极解决。基于SHEL风控模型,教育人工智能应用的伦理风险可归纳为软件相关、硬件相关、环境相关和人件相关四类风险,伦理风险防范现存三个短板急需化解;借鉴4R危机管理模型,该文构建了一个多方参与、全程管理、高效协同的伦理风险防范体系,设计四层实践路径,并结合实践阐述了风险防范的实现方式,以创新地应对教育人工智能应用的伦理风险防范问题,助推教育人工智能的可持续健康发展。

人工智能教育应用伦理规范指标构建研究

伦理风险防范是开展人工智能教育应用的重要保障,需要以完善的伦理规范指标体系作为强有力的抓手。文章立足人工智能教育应用需由“浅”入“深”、学校教育人工智能伦理规划需从“无”到“有”和教师人工智能素养需由“弱”变“强”的迫切需求,遵循“国际参照+本土转化+数据验证”的方法路线,搭建了包含8个一级指标、21个二级指标和63个具体指标的人工智能教育应用伦理规范指标。基于规范指标,文章提出了其应用建议,包括遵循以人为本的价值导向、遵守安全可控和隐私保护的准入条件、贯彻可持续发展的应用准则、秉承公平全纳和相称无害的教育宗旨、落实透明可释和问责监督的保障机制。

Ethical-GPT:一种面向人工智能伦理教育的垂类GPT工具设计与实现

人工智能技术在推动教育变革的同时,也引发了诸如隐私泄露、技术滥用等伦理风险挑战,使得加强人工智能伦理教育势在必行。同时,当前教育人工智能伦理建设过程中存在的学习资源稀缺、教学方式单一、缺乏实质性的伦理实践等问题也亟待解决。对此,文章首先采用“大语言模型微调+本地知识库”的技术路线,设计了面向人工智能伦理教育的垂类GPT工具——Ethical-GPT,并介绍了Ethical-GPT的基础问答、案例学习、情境模拟、智能测验四大功能模块;之后,文章从大模型选取、本地知识库建设、高效模型微调等方面重点阐述了Ethical-GPT的技术实现,并通过对比不同模型的回答结果进行了模型效果分析,发现Ethical-GPT具有良好的专业问答能力,并且能够随机生成并呈现多样化的伦理案例;最后,文章深入探讨了Ethical-GPT的教育应用场景。文章设计的Ethical-GPT不仅为人工智能伦理的教育实践提供了工具支持,也为推动教育领域专用大语言模型的构建提供了参考思路。

生成式人工智能教育应用悖论

以生成式人工智能为代表的新一代人工智能教育应用不断涌现,为教育数字化转型带来无限可能。借鉴风险社会理论思考生成式人工智能教育应用,生成式人工智能教育应用悖论将是教育领域长期存在的现象,诱发伦理风险、教育失范风险、“社会-物理-信息”空间交互异化风险、个体人格情感异化风险等。相关风险可划分为直接风险、早期风险、中期风险、长期风险四个阶段,反映创新与传统、效率与质量、技术与道德、公平与不平等、教师与人工智能等矛盾。生成式人工智能教育应用悖论的风险侧治理是一个复杂的系统性问题,应结合柔性治理理念构建风险治理综合防控体系,构建生成式人工智能教育应用风险预防体系标准,强化教育全场景数据监管体系建设与数据池监管,构建生成式人工智能教育应用悖论风险侧预警系统,形成多元主体参与治理的协同联动机制,引导利益主体正确看待教育公益与市场行为。

发展人工智能教育,推动拔尖创新人才早期培养——上海市浦东新区中小学人工智能教育的创新探索

本文剖析了中小学开展人工智能教育的双重价值取向及其培养发力点,阐述了上海市浦东新区通过构筑区域中小学人工智能教育生态系统,围绕区域、学校、课堂精准发力,培养早期拔尖创新人才与学生创新能力的经验。

“双减”视域下人工智能教育的态势、困境与突破

“双减”为青少年人工智能教育落地实施带来了新的挑战与契机。“双减”视域下青少年人工智能教育呈现学校教育、社会教育、家庭教育三者融合推进的发展态势,但实然样态中尚存理念偏差、生态缺失、师资缺位等现实困境。其突破路径为回归“双减”初衷与人工智能教育初心,有机融合学校教育、社会教育与家庭教育为一体,将新认知形成、新体系建构、新空间构筑、新师资培育、新评价构建融为整体,重构青少年人工智能教育新体系、重塑新生态。

教育人工智能:价值·逻辑·趋向

人工智能在教育领域的广泛应用已然成为一种常态,教育人工智能也日渐成为业界的热点。目前,教育人工智能已经在教育领域做出了相当大的贡献,但也引发了一定的问题。为了体现其存在的价值,务必从“人”与技术两个方面来阐述教育人工智能的内在价值。同时,为了促进教育人工智能的良性发展,还应从“教育本质”的发展逻辑、“以人为本”的心理逻辑以及教育技术学的逻辑等方面分析其内在的发展逻辑。此外,为了教育人工智能朝着科学化、规范化的方向发展,还须从应然、实然、理想、现实等方面来推断其未来的发展趋向。

人工智能教育应用的伦理风险和规范原则

随着人工智能在教育领域的应用日益深入,其对教育发展的影响也日渐深刻。然而,随之而来的伦理风险防控也日趋迫切,出现了隐私泄漏、算法偏见以及师生关系异化等问题。文章从人工智能应用的全生命周期出发,对数据、算法和应用三层面的伦理风险及其成因进行全面分析,提出了人工智能教育应用的伦理规范原则:隐私保护与安全稳健,透明可释与算法公正,公平全纳与相称无害,问责监督、可持续发展和以人为本。最后以教育人工智能伦理原则为遵循,从教育人工智能数据风险的规避、算法风险的预防、应用风险的消解,提出符合伦理的人工智能教育应用策略。