Toward Human-centered XAIin Practice:A survey

Human adoption of artificial intelligence(AI)technique is largely hampered because of the increasing complexity and opacity of AI development.Explainable AI(XAI)techniques with various methods and tools have been developed to bridge this gap between high-performance black-box AI models and human understanding.However,the current adoption of XAI technique stil lacks"human-centered"guidance for designing proper solutions to meet different stakeholders'needs in XAI practice.We first summarize a human-centered demand framework to categorize different stakeholders into five key roles with specific demands by reviewing existing research and then extract six commonly used human-centered XAI evaluation measures which are helpful for validating the effect of XAI.In addition,a taxonomy of XAI methods is developed for visual computing with analysis of method properties.Holding clearer human demands and XAI methods in mind,we take a medical image diagnosis scenario as an example to present an overview of how extant XAI approaches for visual computing fulfil stakeholders'human-centered demands in practice.And we check the availability of open-source XAI tools for stakeholders'use.This survey provides further guidance for matching diverse human demands with appropriate XAI methods or tools in specific applications with a summary of main challenges and future work toward human-centered XAI in practice.

为智能社会公民素养奠基的《学生人工智能能力框架》

联合国教科文组织于2024年9月颁布了全球首份《学生人工智能能力框架》,该文是对该能力框架的解读。世界各国将先后步入智能社会的新时代,以理念引领和公民素养培养为核心职责的教育系统须预前构想包容和可持续发展的智能社会所需的智能社会公民素养,主动定义和培养学生人工智能能力。在中小学阶段,《学生人工智能能力框架》主张应致力于将学生培养为人工智能的负责应用者、合作设计者和有创造力的人工智能社会公民。为此,相关能力框架应以以人为本的人工智能价值观取向为出发点,综合界定人工智能伦理知识和智能社会公民责任、服务于终生学习的可迁移人工智能知识和技能、面向社会包容和环境可持续发展的人工智能系统设计能力。中小学人工智能课程是智能社会公民素养奠基的主渠道,课程规划机构应论证超学科人工智能能力结构和核心课程体系,探索跨学科课程群和螺旋上升的课程序列,推进人工智能教师的专业化培养和发展,并建构人工智能领域的效标参照评价体系。

基于教师权益的自主人工智能应用——对联合国教科文组织《教师人工智能能力框架》的解读

本文是对联合国教科文组织发布的《教师人工智能能力框架》的解读。人工智能在逐步以拟人智能体的技术形态助推“教师、学生和人工智能”三角教学互动关系的构建,并在人机互动中挑战教师的能动性,这凸显了教师理解和秉承以人为本的人工智能观念的必要性。目前通用的猎取性挖掘人类数据训练人工智能模型的智能技术生产关系范式加速了人工智能伦理问题的裂变及对智能时代社会关系的冲击和重构,人工智能伦理以及人工智能时代的社会责任已成为教师的必学领域。作为当今社会无所不在的一类基础性通用技术,人工智能在颠覆生产流程、社会实践和生活方式等方面的技术变革潜力已经彰显,教师理解人工智能基本工作原理、批判性评判其教学育人的适用性并探索人工智能支持教学和专业发展有效方式等方面的能力发展需求日益迫切。鉴于此,各国政府和教育机构应以基于教师教育教学权益的自主应用为宗旨,从以人为本的人工智能观念、人工智能伦理、人工智能基础知识和应用技能、人工智能与教学法整合、人工智能支持教师专业发展等层面界定教师的人工智能能力框架,以获取、深化、创造等能力水平为基准规划培训课程的目标、内容与方法,协助教师提升负责任地、有效和创新地应用人工智能所需的能力。

AI时代成长型思维发展途径探究

AI时代对人才质量提出更高的要求,需要个体不断提升,以更好地适应时代发展的需求。通过开展个体、人工智能领域、社会以及国家对成长型思维模式的需求分析,从脑科学、教师培训、课程设置、自我效能感提升和校园文化建设等方面提出促进成长型思维发展的几种途径,以期最大限度发挥成长型思维的内在驱动力,促进学生发展。