基于教师权益的自主人工智能应用——对联合国教科文组织《教师人工智能能力框架》的解读

本文是对联合国教科文组织发布的《教师人工智能能力框架》的解读。人工智能在逐步以拟人智能体的技术形态助推“教师、学生和人工智能”三角教学互动关系的构建,并在人机互动中挑战教师的能动性,这凸显了教师理解和秉承以人为本的人工智能观念的必要性。目前通用的猎取性挖掘人类数据训练人工智能模型的智能技术生产关系范式加速了人工智能伦理问题的裂变及对智能时代社会关系的冲击和重构,人工智能伦理以及人工智能时代的社会责任已成为教师的必学领域。作为当今社会无所不在的一类基础性通用技术,人工智能在颠覆生产流程、社会实践和生活方式等方面的技术变革潜力已经彰显,教师理解人工智能基本工作原理、批判性评判其教学育人的适用性并探索人工智能支持教学和专业发展有效方式等方面的能力发展需求日益迫切。鉴于此,各国政府和教育机构应以基于教师教育教学权益的自主应用为宗旨,从以人为本的人工智能观念、人工智能伦理、人工智能基础知识和应用技能、人工智能与教学法整合、人工智能支持教师专业发展等层面界定教师的人工智能能力框架,以获取、深化、创造等能力水平为基准规划培训课程的目标、内容与方法,协助教师提升负责任地、有效和创新地应用人工智能所需的能力。

论人工智能体的模块化治理

人工智能体由控制端、感知端和行动端组成。在控制端,尽管大模型充当了智能体的“智能引擎”,但仍存在“机器幻觉”,其生成的内容面临时效性和可靠性风险。大模型的算法偏见也可能加剧智能体在决策中的偏见。在感知端,智能体的多模态感知能力加大了个人隐私侵权的风险,对个人信息保护制度构成挑战。多智能体系统间的交互可能导致不可预测的、复杂的和动态的系统性安全风险。在行动端,具身智能体的交互式学习模式可能导致全面的、侵入性的隐私风险。智能体的嵌入式和中介化部署方式将深度影响人类的主体性。其高度定制化的部署特性还会面临人工智能对齐的挑战。面向“代理即服务”的产业链特点,应建立从基础模型到基础代理的模块化治理框架。针对具体的高风险场景,应探索精准化治理机制。鉴于人工智能体的生态特性,应着力推进交互式治理。

教育通用人工智能大模型标准体系框架研制

当前,人工智能大模型在各领域迅猛发展,其中教育领域的人工智能大模型虽然能够在知识生产、知识计算和知识服务方面完成多种智能任务以提供教学辅助,但其在功能构建、数据收集与管理、教学测评和应用等方面仍存在局限,同时缺乏适用于多个教育场景的通用人工智能大模型。基于此,文章从人工智能的发展和标准化的现状出发,对教育通用人工智能大模型的概念、原则和属性做出界定,并提出教育通用人工智能大模型标准体系,包括总体框架、信息模型、数据规范、测评规范和教学应用要求等,以从指导角度对教育通用人工智能大模型的研发、应用、管理和评估进行规范。文章通过研究,旨在规范通用人工智能大模型在教育领域的应用与发展,赋能、赋智于教育,推动教育的高质量发展。

国际人工智能教育治理政策规划和创新路径研究——首届人工智能安全峰会《布莱奇利宣言》要点与思考

人工智能教育治理是世界各国教育面临的共同议题。厘清人工智能给教育带来的潜在风险,制定国际人工智能教育治理的政策规划,探明推动人工智能教育治理国际合作的创新路径,有助于促进人工智能技术全方位赋能教育,推动人工智能教育治理学术共同体构建。2023年11月,在首届人工智能安全峰会上,来自中国、美国、欧盟等28个国家和国际组织的代表,共同签署了《布莱奇利宣言》,这也是全球第一份针对人工智能技术的国际性声明。采用文本分析和内容分析法对该宣言出台的政策背景和研究目的进行分析,从人本主义批判视角着重探究国际人工智能教育治理的政策规划,并反思其对我国人工智能教育治理创新路径的启示:构建开放且透明的人工智能教育治理体系、建立动态化的人工智能教育治理监管机制、推动人工智能教育治理国际合作多边机制、提升人工智能赋能教育安全风险预判能力,以及秉持共同、综合、合作、可持续的安全观,以期加速我国人工智能教育治理现代化,为国际人工智能教育治理总体规划的制定贡献中国方案。

培养人工智能时代负责任和有创造力的公民——联合国教科文组织《学生人工智能能力框架》报告要点与思考

随着人工智能技术在教育教学中的广泛应用,将人工智能学习目标纳入学校正式课程,培养学生人工智能能力,对于学生安全、符合伦理地使用人工智能至关重要。联合国教科文组织制定的《学生人工智能能力框架》,定义了学生在人工智能时代必须掌握的知识、技能和价值观。该框架以增强人类能动性、遵循以人为本、促进可持续发展、确保包容性和促进终身学习为原则,采用二维矩阵的方法,构建了涵盖以人为本的思维方式、人工智能伦理、人工智能技术与应用以及人工智能系统设计4个能力维度,横跨理解、应用和创造3个能力等级的12个人工智能能力模块。文章提出,我国应该研制以人为本的国家人工智能教育战略,创建支持人工智能教育的数字化环境;构建新型的人工智能教育教师培养体系,筑牢高水平的人工智能人才队伍基座;重视人工智能工具与学科深度互融,形成人机协同的教师智能素养新生态;研发符合伦理原则的能力评估工具,动态评估师生人工智能能力。

建构文化人工智能的可能路径

生成式人工智能大模型的发展表明,新一代人工智能通达通用人工智能的目标正在接近。而通用人工智能要实现通用性、人性化和广泛应用,具有人类文化特征的属性是其必备的要件。将意识、情感、伦理等高级认知因素嵌入人工智能系统,也就是建构具有人性的文化人工智能,无疑是一种可能出路。如何让人工智能成为文化人工智能这种具身人工智能是一个重大挑战。从哲学方法论审视,建构文化人工智能的可能路径包括,智能体的范畴论与语境论的整合,感性与理性的整合,通过机制进行功能建模,通过结构功能实现适应性表征,以及通过语境觉知应对意外情况,最终通过严格的“图灵测试”。如果这些都做到了,就有望在人工智能系统中嵌入人类特有的文化特征,使其成为具有人性的文化人工智能。

从故事生成程序到大语言模型:人工智能编剧创作的历史与实践

人工智能生成内容(AI Generated Content,简称AIGC)电影包括内涵丰富的多种维度,从编剧角度可以分为AI生成故事(AI Generated Storyline,简称AIGSL)与AI生成剧本(AI Generated Screenplay,简称AIGSP)。AIGSL研究始于20世纪60年代初,按照创作模式可以分为基于结构模型的故事生成、基于规则的故事生成和基于机器学习的故事生成三类程序。2022年底以来,以Chat GPT为代表的大语言模型将AIGC的内容从简单的AIGSL拓展到了AIGSP领域,同时催生了基于大语言模型的专用故事与剧本生成工具。大语言模型的故事和剧本生产存在事实错误、陈词滥调以及主观偏见等天然缺陷,但AIGSL与AIGSP已经开始实现产业化。目前的人工智能编剧创作绝大多数并不完全由AI创作,属于弱人工智能领域。中国电影工作者与软件工程师有必要利用机器学习等AI技术,学习中国传统叙事文本并总结其叙事风格,为具有中国叙事特色的编剧创作提供智能助力。

中国精神、中国特性:大模型与中国自主人工智能设计治理理论体系——兼论中国当代设计学理论体系建构

在人工智能设计治理理论体系中凸显“中国自主”是中国当代设计学理论体系构建过程中的主要内容,其实质和关键在于深入挖掘大模型与中国自主人工智能设计治理理论体系之间的内在联系。本文探讨了大模型助推中国自主人工智能设计治理迭代升级的内涵和方式体系,并结合设计个案对大模型与手艺人工智能设计治理的内在关系进行深入考察,并对大模型在乡村设计中的人工智能设计治理理论体系建构过程进行思考与探索。

生成式人工智能教育应用悖论

以生成式人工智能为代表的新一代人工智能教育应用不断涌现,为教育数字化转型带来无限可能。借鉴风险社会理论思考生成式人工智能教育应用,生成式人工智能教育应用悖论将是教育领域长期存在的现象,诱发伦理风险、教育失范风险、“社会-物理-信息”空间交互异化风险、个体人格情感异化风险等。相关风险可划分为直接风险、早期风险、中期风险、长期风险四个阶段,反映创新与传统、效率与质量、技术与道德、公平与不平等、教师与人工智能等矛盾。生成式人工智能教育应用悖论的风险侧治理是一个复杂的系统性问题,应结合柔性治理理念构建风险治理综合防控体系,构建生成式人工智能教育应用风险预防体系标准,强化教育全场景数据监管体系建设与数据池监管,构建生成式人工智能教育应用悖论风险侧预警系统,形成多元主体参与治理的协同联动机制,引导利益主体正确看待教育公益与市场行为。

人工智能基础模型安全风险的平台治理

人工智能基础模型的安全治理是人工智能法治化发展面临的重要命题。人工智能基础模型平台作为安全治理的主体,其发现、评估和缓解人工智能系统潜在风险的能力至关重要,具有调整和优化自身模型的作用。国内外人工智能基础模型平台积极布局安全风险治理,但仍然面临治理架构缺乏权威性和代表性、伦理规范过于抽象、测试算力不足、风险评估困难、平台存在利己偏好等挑战。有必要立足于中国人工智能基础模型平台安全治理的实际,完善压力驱动、动力保障、能力强化等机制,更好发挥人工智能基础模型平台对安全治理的特有优势和能动作用,支撑人工智能技术及其应用健康有序发展。

人工智能国际规则博弈态势、共识分歧与中国“话语势能”建构

当前,大国激烈争夺人工智能国际话语权和规则制定权。人工智能国际规则博弈经历了萌芽期、快速发展期和爆发期三个阶段,总体呈现碎片化、阵营化、“软法不软”和规范性权力失衡等特征。各国对国际法适用性、透明度等治理核心、隐私安全等治理底线以及敏捷治理等基本模式存在高度共识,但也对致命自主武器的禁止与管制、人类控制标准等议题存在较大分歧。为提升中国在人工智能治理中的国际话语权,文章引入并完善“话语势能”理论,提出从创造话语联系、构造主体关系和塑造平台机制三个维度建构中国的“话语势能”,充分发挥国家“用势”和“造势”的能动作用,打破美西方的话语霸权。

人工智能算力基础设施安全体系架构研究

人工智能算力基础设施是人工智能发展的重要基石,但由于其属性多样、节点复杂、用户数量多以及人工智能自身脆弱性等特性,使得人工智能算力基础设施在建设和运营过程中面临着严峻的安全挑战.分析了人工智能算力基础设施的内涵和安全发展的背景形势,从强化自身安全、保障运行安全、助力安全合规3方面提出了人工智能算力基础设施安全体系架构及发展建议,旨在为人工智能算力基础设施安全建设提供方法和思路,为选择使用安全的人工智能算力基础设施提供判别依据,为人工智能产业健康、持续发展提供决策参考.

信创背景下“人工智能+X”人才培养体系探索

针对当前国内高校人工智能人才培养方案缺少统一标准、对国产化重视不足等问题,提出面向信创人才的“人工智能+X”培养体系:设立人工智能信创课程,搭建实习实践平台,建立教学实验生态。介绍近3年在本专业的建设实践,说明所提培养方案的可行性。

人工智能生成内容的著作权法之辩

根据输入指令与输出内容的比例关系,可将人工智能生成内容依次分为孪生内容、伴生内容和原生内容。人工智能生成内容主要涉及三个著作权法问题。一是机器阅读的法律性质问题,法定许可说能更好地兼顾著作权专有属性与公有属性,实现权利行使与限制的动态平衡。二是生成内容的可著作权性问题,需要结合内容类型并考虑输入指令的潜在影响。同比例复制的孪生内容不属于作品,差异化表达的伴生内容属于演绎作品,创造性表现的原生内容属于原创作品。三是生成内容的著作权归属问题,除另有协议外,需要结合内容类型并考虑所有者、使用者的贡献程度。孪生内容因不属于作品,无人享有著作权;所有者、使用者对伴生内容的形成均有重大贡献,基于概括合作行为与意识,所有者、使用者共同享有著作权;只有所有者对原生内容的形成具有重大贡献,所有者单独享有著作权。

如何理解,如何行动,如何成为?——人工智能时代教师专业发展的反思

人工智能时代的教师专业发展,其核心内涵是在“如何理解”“如何行动”“如何成为”三方面为教师提供有效支持。本文从智能时代教师职能职责和能力素养重构的角度构建了理解框架,从智能时代教师角色定位和教学方式重构的角度构建了行动框架,从智能时代教师发展路径重构的角度构建了设计框架。文章最后提出,“如何理解”的关键是深刻理解智能技术赋能教师的“留白”与“创新”;“如何行动”的关键是教师要在立德树人、技术治理与结构性创新上发挥“人在回路”的作用;“如何成为”的关键是要以大系统观发展教师的大视野、大思维和统整性大能力。

通用人工智能时代信息资源管理学科的发展方向

本文梳理了人工智能与通用人工智能的70年发展历史,回顾了信息资源管理的50年历程,剖析通用人工智能对信息资源管理知识体系、教育体系、事业体系的深刻、多面的影响,并为信息资源管理在通用人工智能时代的发展方向提出三点建议。

人工智能生成内容的著作权客体性思考——兼论作品判定的独创性标准选择

以基于转换器的生成式预训练模型(GPT)为代表的高阶人工智能凭借其强大的智能型内容生成机制,使得内容产品生产中的技术占比不断上升,人的直接投入占比相对下降,传统著作权法作品的独创性要求、权利人本原则等基本理论受到冲击。面对人工智能生成内容(AIGC)可作品性问题,基于自然人智力投入的创造性本质理论和闭合性作品概念显得力不从心。在过程视角下(主观标准),人工智能内容生成过程符合人类创作的思维特征;在结果视角下(客观标准),人工智能生成内容具有著作权作品的外观形式和信息消费功能,符合著作权作品的本质属性。如果人为割裂人工智能生成内容与著作权作品在产生过程和实质作用上的同质关系,强行区分人工智能生成内容和自然人创作作品的法律性质,则有悖著作权法因应技术发展调整信息消费品利益的制度旨趣,最终将导致著作权法律秩序的混乱。

人工智能素养教育:全球进展与展望

[目的/意义]探讨和总结AI素养教育的全球发展现状与趋势,明晰高校开展AI素养教育的现状和不足并以此提供优化策略。[研究设计/方法]以国际组织、发达国家等发布的政策文件、会议记录、研究论文等各种研究资料为基础探索AI素养教育的发展趋势,以采莓模式分析国内外29所高校在AI素养教育实践中的创新举措。[结论/发现] AI素养教育与AI教育存在明显的界限与联系。国际政策导向在推动AI素养教育方面发挥着至关重要的作用,但目前AI素养教育框架缺失。高校开展AI素养教育实践的施教者主要是学院、学习发展中心和图书馆,开展形式多样,教育内容涉及知识、技能、态度伦理价值观等方面。高校开展AI素养教育需要制定与优化教育框架、发挥高校图书馆的关键作用、实施多元化教育策略并基于KSAVE充实教育内容。[创新/价值]洞察AI素养教育的国际发展趋势,剖析高校AI素养教育的创新实践并以此提出优化策略,为高校AI素养教育领域的推广与实施提供有益的借鉴和指导。

关于通用人工智能的几个重要伦理问题

作为未来人工智能或强人工智能的一种架构,通用人工智能必然会产生一系列伦理问题。这些问题包括通用人工智能作为人工自主道德系统的主体性、安全性、伦理责任和伦理增强问题、可控性和社会化问题。这些问题都很重要,直接关系到人类未来的生存和发展。在通用人工智能还未真正来临之际,人类有责任对其可能导致的问题进行哲学和伦理反思。

人工智能:一项战略性技术的应用及治理

人工智能技术是引领全球科技革命和产业变革的战略性技术,正在重塑人们对国家安全、经济与社会发展的理解。快速发展中的人工智能也隐藏着一定的不确定性,可能会引发社会安全风险,甚至带来国家之间的竞争冲突升级。当前,人工智能的发展已经成为推动国际体系转变、影响国际关系走向的关键技术力量,我们需要从战略高度来看待人工智能的作用,充分认识其可能带来的机遇和风险,并从技术、应用、治理和规则等层面全方位加大对人工智能的投入。