青少年人工智能伦理教育的探索及启示——以MIT为例

随着人工智能行业应用的不断深入,其伦理问题日益凸显。《义务教育信息科技课程标准(2022年版)》明确指出要面向中小学生开展有关人工智能伦理的教育。鉴于国内外面向青少年的人工智能伦理教育尚处于起步阶段,介绍美国麻省理工学院(MIT)自2018年起在该领域的探索能为国内中小学校人工智能伦理教育教学实践提供一些启示。MIT青少年人工智能伦理教育涵盖小学、初中和高中三个学段,以初中和高中为主,涉及家庭、学校和社会三个场域,有专题式和内嵌式两种类型,形式上包括与中小学合作的线下STEAM选修课程、线上/线下的夏令营活动以及面向社会招募学生的混合式工作坊。梳理和反思MIT青少年人工智能伦理教育实践可以得到以下三方面启示:(1)高校可以与中小学合作开展青少年人工智能伦理教育的内容设计与教师培训;(2)中小学多学科教师可以尝试开展内嵌式青少年人工智能伦理教育设计与实践;(3)“家校社”应携手共建多样态多场域本土化青少年人工智能伦理教育生态。

人工智能伦理:规制、理论与实践难题——学术史梳理及其问题域考察

人工智能技术(AI)智能体面临包括决策权、所有权、隐私权等方面的伦理风险问题,也面临作为智能体在独立学习内容和独立行为目的等“类主体行为”中伦理能力方面的风险问题。为了规范发展,避免伦理风险发生,各机构、组织和企业建立了各自的准则和标准。国外学者关于AI伦理是否可行的探究,涉及AI主体形态(作为agent的)伦理复杂性问题、AI行为形态、AI位格形态关于道德权利(地位)、道德责任的争论。国内相关研究路径主要有三条:对AI的主体地位进行形而上学的分析、对AI伦理问题提出相应的实践解决框架、对AI的具体应用领域中的伦理问题进行探讨。从风险规制、理论拓展、实践难题三个方面对人工智能伦理进行学术史梳理及问题域考察,需要聚焦三大前沿:(1)推进系统化的AI伦理理论和原则框架;(2)建立“理论-实践”“全球性-地方性”相沟通的开放性解题思路;(3)形成探索AI道德形态研究的新方法。

人工智能伦理治理研究

以人工智能为代表的新质生产力逐渐成为智能时代下经济发展的强劲动力,同时也引致了智能技术对人类个体和整体合法权益的担忧。中国在多个国际场合下都提出了“以人为本、智能向善”的主张,引导全球在人工智能伦理的轨道上发展智能技术。人工智能伦理有遵循一般科技伦理原则的方面,同时更多涉及社会伦理问题及人类整体安全问题。文章通过探讨人工智能伦理的基本内涵,分析人工智能伦理审查的道德正当性与政策规范的必要性,厘清人工智能伦理审查的理论逻辑,提出人工智能伦理审查机制的构建在坚持“以人为本”的基础上确保人工智能“向善”发展,还需确保制度规范的公平公正,厘清透明度与问责制的因果联系,确保科技发展与法律关系的稳定性,在人工智能伦理审查原则中落实监管责任,适时建立审查评估制度。

WHO《卫生健康领域人工智能伦理与治理》指南简述与启示

目的系统介绍世界卫生组织(WHO)《卫生健康领域人工智能伦理与治理》指南(简称“《指南》”),以及国际其他主要国家地区和我国医药卫生人工智能(artificial intelligence,AI)伦理与治理现状,以期为我国药品监管领域未来制定AI相关伦理指导原则提供参考。方法介绍《指南》涉及的制定情况、主要内容、伦理原则等内容;通过查阅文献及监管机构网站,介绍美国、欧盟及我国政府部门及相关组织在医药卫生领域AI伦理与治理的概况。结果《指南》阐述了AI在医药卫生领域健康发展和使用的6项核心伦理原则;美国、欧盟及我国政府部门及相关组织围绕公平公正、尊重隐私、安全可控、共担责任、开放透明等原则已制定了一系列关于AI伦理与治理的政策法规。结论借鉴WHO及国外经验,建议我国药品监管机构积极制定并执行AI新技术在产品全生命周期的监管标准或相关指南,加强AI药品和医疗器械类产品技术的透明度等方面的AI伦理治理。

人工智能伦理视角下机器非殖民化的批判性设计研究

文章从机器视觉的诡谲追溯了算法决策是如何在技术系统中编码偏见的,价值失范等伦理问题深植于机器学习驱动的算法社会中,也与人工智能作为采掘业的地球基础设施深度纠缠。笔者思考在计算思维驱动的技术修复解决方案之外,具有非殖民化边界思维的批判性设计是否可以作为替代方案,以当代技术蕴含的隐喻为基础重新想象技术中的默认设置。

“硬法—软法”范式下医疗人工智能伦理治理路径探析

以硬法规范为主干的传统法律科技伦理规则治理具有人机交互“不信任”、决策“不可控”、安全性“不可靠”、医疗资源分配“不公平”等客观局限,无法提供善治之良法所需。为此,强调“开放—控制”一体化理论结构的“硬法—软法”二元法模式能够为医疗人工智能伦理治理提供新的治理框架。理论上,“硬法—软法”范式能够完成医疗人工智能伦理风险规制的合法性论证,确保医疗人工智能伦理风险决策的回应性;实践中,“硬法—软法”范式已然成为国外医疗人工智能伦理治理的通行治理框架。未来,“硬法—软法”范式下医疗人工智能伦理治理路径应当通过不断规范软法的生成机制,健全硬法软法的良性互动机制,充分发挥硬法和软法各自的治理优势并实现制度互补,以构建安全、可信、负责的医疗人工智能伦理治理框架。

宪法精神保障下的人工智能伦理规范

法律具有一定的滞后性,目前对人工智能进行规制的法律体系尚未建立起来,为防止失序现象的发生,可发挥人工智能伦理独特的预先调控作用。人工智能伦理作为专门性的指引范式,仍存在违背既有秩序规则、损害人类根本利益及自身约束力不足等风险,所以要将其纳入社会的根本规范中,即宪法的规范秩序之内,充分将宪法中的至上精神与人文价值贯彻到人工智能伦理之中,使得人工智能伦理自身亦成为规范人工智能发展的“大宪章”。并通过专门立法、具体的宪法解释等,将大数据时代诸如新兴的“数字人权”等纳入到宪法未列举基本权利的保障范围之内,最终建立起以宪法为中心的人工智能伦理的规范体系。

大学生人工智能伦理观培育探赜

新时代,以人工智能为代表的新一轮信息技术飞速发展,加快了高等教育现代化的步伐。与此同时,人工智能伦理危机也日益显现。大学生是人工智能技术应用的主要群体,其人工智能伦理观亟待培育。大学生人工智能伦理观的培育以激发伦理主动、提升前瞻性与批判性思维、增强守正创新能力为旨归,以马克思主义为指导,从中华优秀传统文化中汲取养分,坚持国家、社会与公民相统一的价值追求,借助国家顶层设计,建立健全人工智能伦理教育体系,加强人工智能伦理规范建设,落实三全育人,最终实现大学生人工智能伦理观的培育。

教育领域人工智能伦理研究进展:基于活动理论的分析框架

随着人工智能在教育领域应用的不断深化,教育伦理风险问题随之产生,引起了学术界的高度关注。采用活动理论分析框架,对2012—2022年间有关教育领域人工智能应用伦理风险的150篇文献进行系统性回顾,发现教育领域人工智能伦理研究经历了萌芽探索、成长发生、快速发展三个阶段;研究议题以安全隐私为主,但研究主体尚不明晰,对引起教育领域伦理问题的人工智能技术缺乏明确指向性;研究方法以定性为主,引发伦理问题的应用场景相对局限,且较少针对特定教育群体;研究对伦理困境关注较多,但风险管理视角欠缺;研究成果多为单一视角的理论与现状分析,缺少多理论视域的综合研究;伦理风险的跨领域交叉研究和多视域理论分析,对当下教育伦理及风险治理具有重要意义。基于主要结果及局限性,提出未来研究建议:需要重新审视人工智能与教育之间的交互作用,重塑人工智能教育应用中的伦理规约与评价指标;研究方法不局限于理论研究,应在人工智能技术实践教学中客观收集教学案例、资料等数据,科学性和创新性地提出教育领域人工智能伦理治理策略;深入探讨不同教育层级和教育领域的具体问题,进而针对性地制定相关政策和法规,加强监管与管理,并且提高相关人员的伦理意识和责任意识;不仅要关注教育人工智能应用表层所涉及的伦理问题,对于更深层次的风险发生机制问题也要多加关注;加大对教育人工智能应用伦理原则与政策的研究力度,系统性地思考人工智能的治理维度,通过制定伦理准则,加强政府及相关管理部门对教育人工智能的监管。

基于知识图谱的人工智能伦理发展趋势与展望研究述评

随着新一代人工智能在全球范围蓬勃发展,深刻改变着人类的生产和生活方式,为经济社会发展注入了新的动能。人工智能创造物已不仅仅是技术化的工具,而是越来越具有类似于人类思维的能力,为社会伦理规范带来深刻挑战。本文运用知识图谱对人工智能伦理进行系统研究述评,从关键词共现、关键词凸显、关键词聚类等三个维度对人工智能伦理发展趋势进行分析,提出人机关系重构挑战、人工智能道德主体规范挑战、人工智能伦理风险防范、构建人工智能伦理新秩序四个方面对人工智能伦理研究进行展望。

智能时代中小学教师人工智能伦理培养策略研究——基于科尔伯格道德发展理论

人工智能为中小学教育带来无限可能的同时,也引发了一系列的伦理道德风险和挑战。中小学生正处于伦理认知发展的重要阶段,因此,提升中小学教师人工智能伦理对于中小学生、教师自身、学校乃至中小学教育的发展都具有关键作用。但是,现阶段关于中小学教师群体人工智能伦理的研究相对较少且缺乏明确的理论指导。在综述中小学教师面临的人工智能伦理挑战的基础上,基于科尔伯格三水平六阶段伦理发展框架,有针对性地提出不同阶段中小学教师人工智能伦理的培养策略。这些伦理培养策略由低水平到高水平、初级阶段到高级阶段演进,包括培养中小学教师人工智能伦理意识、推动中小学教师自身建构人工智能伦理知识、发展中小学教师社会化协同构建、构建中小学教师人工智能伦理外部约束机制、构建民主化的人工智能伦理决策机制、培养中小学教师共同体的人工智能伦理责任。

基于LDA模型的人工智能伦理准则体系研究

利用隐含狄利克雷分布(Latent Dirichlet Allocation,LDA)模型对全球人工智能伦理准则体系进行内容分析,通过对准则关键词的阶段差异对比、核心主题的聚合体系分析,总结出世界范围内人工智能治理共识的6大演变趋势,均表明实践导向已成为核心共识。但人工智能伦理准则存在“可操作性受限、考量要素不同质、伦理洗白、法律转化难”等实践适用性困境,亟须在技术、组织及制度层面弥补实践缺口。

服务机器人领域人工智能伦理风险评估方法的设计与实践

人工智能技术在服务机器人领域的应用将成为缓解人类劳动压力、降低生活成本、弥补服务业人力不足的重要手段,但随之而来的伦理风险不容忽视。本文聚焦服务机器人领域的人工智能伦理风险,首先进行风险识别与风险源分析,进而设计一套通用的人工智能伦理风险评价方法,并在服务机器人这一人工智能技术的重要应用领域进行实践,对服务机器人领域的人工智能决策自主受控风险、隐私侵犯风险、偏见或歧视风险、破坏公平风险、责任归属不清或失当风险这五大伦理风险的大小进行评价,分析各风险的风险源优先级,解决不同伦理风险“轻重缓急”的判断问题,从而验证了该方法的适用性。

论人工智能伦理建构何以可能

主体性是进行独立价值判断以及伦理探讨的前提,也决定着人工智能及其伦理探讨的阀域。没有主体意识的人工智能仍属于技术工具范畴,其伦理的探讨仍囿于种际伦理视域;拥有主体意识的人工智能可以进行独立的价值判断,才能生成自身的道德规范。人工智能伦理的哲学思考以人工智能的主体性设定为基础,集中探讨人工智能伦理的理论前提、人工智能伦理的边界,以及建构人工智能伦理的可能性等问题。

人工智能伦理课程建设与探索

人工智能促使各行各业发生了变革,大大提高了社会生产力。但目前的人工智能专业课程设置过于强调运用技术,忽视了立德树人这一根本任务。因此,作者提出对人工智能专业课程设置进行调整,加入人工智能伦理课程,且课程内容要跟踪中国的人工智能发展态势及面临的伦理问题,授课方式则可采用案例教学法,鼓励学生教学互动,并采取多元化考核方式进行考核。

证据的善治:英国公共部门人工智能伦理治理的原则建构与循证逻辑

人工智能伦理治理是各国电子化政府改革深化面临的重要议题,也是学界探讨的关键话题。其中,伦理治理原则如何建构以及如何与伦理管理实践进行适应性互构成为首要问题。英国政府基于循证治理理念,探索出典型的人工智能伦理治理模式。本研究采用文本分析方法,根据英国人工智能伦理治理的相关文件,归纳英国公共部门人工智能伦理治理原则的建构证据与内容层次,同时以英国公共生活准则委员会的人工智能和公共标准审查为例,呈现并提炼出“原则引导-原则应用-原则嵌入”的循证式行动逻辑。

人工智能伦理中关于生活意义的研究趋势与展望

在国内外已有文献中,关于生活意义的哲学探讨与人工智能伦理学之间的关系问题近年来一直被激烈讨论。通过对生活意义与人工智能伦理之间关系的全面回顾与思考,提出进一步考量意义的价值论范畴能够不断丰富人工智能伦理学理论。从哲学和技术维度梳理人工智能伦理提出的过程、澄清生活话语中意义的基本假设及其基本概念,指出需要深化明晰的五个一般性论点,从根本上揭示出意义的真正本质必须要将生活意义的哲学问题与人工智能在人类生活中发挥作用的问题联系统一起来。由此,未来的研究要重视考察潜在的意义理论及其规范的主张,关注人工智能伦理研究对意义研究的前瞻性,从其他与意义相关的伦理规范体系或价值体系来理解人工智能伦理问题,推动相关研究进一步发展。

人工智能伦理制度化:影响因素与生成逻辑——基于扎根理论的政策文本分析

人工智能伦理制度化是将人工智能伦理价值和要求转化为国家规范化、常态化的正式性行动原则、集体规约与管理制度的过程,探索人工智能伦理制度化的影响因素及其生成逻辑是完善我国人工智能伦理治理体系的关键之义。运用扎根理论对我国人工智能伦理相关政策文本进行分析,构建出“条件—工具—行为”的影响因素模型。研究发现,风险情境、价值感知和政治势能是人工智能伦理制度化的重要发生条件,经验准备、保障基础和配套支持是人工智能伦理制度化的必要辅助工具,国际竞合和多元协作是人工智能伦理制度化的主要联结行为。三者发挥驱动力、托动力和助动力的合力作用,共同推进我国人工智能伦理制度化建设进程。

慈悲的机器人:瑜伽行视野下的人工智能伦理

本文以瑜伽行哲学为视角,探讨了人工智能伦理的两个问题:慈悲的机器人是否可能,以及瑜伽行哲学如何为人工智能伦理提供新的资源。本文认为,机器人无法拥有真正的情感,但可以根据慈悲等原则做出决策。本文强调了瑜伽行哲学的慈悲观具有系统性、和谐性、全面性等特点,可以为人工智能技术的发展提供新的伦理框架。本文提出将瑜伽行哲学的慈悲应用于机器人伦理的两个方面:作为内置的伦理守则和帮助机器人识别人类情感。

教育人工智能伦理的解析与治理--《人工智能伦理问题建议书》的教育解读

该研究力图揭示人工智能伦理治理需应对的私有数字治理体把控的人工智能伦理霸权、全球人工智能治理失序和主权国家人工智能治理滞后的现状。从机器决策与人文实践互动的维度界定人工智能伦理问题分析框架,剖析基于数据和算法的预测和决策引发的典型伦理问题。在此框架下,辨析教育人工智能伦理问题的主要表现形式和教育作为培养人工智能伦理价值观和伦理行事能力的主渠道作用,探索教育人工智能伦理治理与教育智能升级统一与同步的制度再建空间和实践方向。