教育通用人工智能大模型标准体系框架研制

当前,人工智能大模型在各领域迅猛发展,其中教育领域的人工智能大模型虽然能够在知识生产、知识计算和知识服务方面完成多种智能任务以提供教学辅助,但其在功能构建、数据收集与管理、教学测评和应用等方面仍存在局限,同时缺乏适用于多个教育场景的通用人工智能大模型。基于此,文章从人工智能的发展和标准化的现状出发,对教育通用人工智能大模型的概念、原则和属性做出界定,并提出教育通用人工智能大模型标准体系,包括总体框架、信息模型、数据规范、测评规范和教学应用要求等,以从指导角度对教育通用人工智能大模型的研发、应用、管理和评估进行规范。文章通过研究,旨在规范通用人工智能大模型在教育领域的应用与发展,赋能、赋智于教育,推动教育的高质量发展。

国际人工智能教育治理政策规划和创新路径研究——首届人工智能安全峰会《布莱奇利宣言》要点与思考

人工智能教育治理是世界各国教育面临的共同议题。厘清人工智能给教育带来的潜在风险,制定国际人工智能教育治理的政策规划,探明推动人工智能教育治理国际合作的创新路径,有助于促进人工智能技术全方位赋能教育,推动人工智能教育治理学术共同体构建。2023年11月,在首届人工智能安全峰会上,来自中国、美国、欧盟等28个国家和国际组织的代表,共同签署了《布莱奇利宣言》,这也是全球第一份针对人工智能技术的国际性声明。采用文本分析和内容分析法对该宣言出台的政策背景和研究目的进行分析,从人本主义批判视角着重探究国际人工智能教育治理的政策规划,并反思其对我国人工智能教育治理创新路径的启示:构建开放且透明的人工智能教育治理体系、建立动态化的人工智能教育治理监管机制、推动人工智能教育治理国际合作多边机制、提升人工智能赋能教育安全风险预判能力,以及秉持共同、综合、合作、可持续的安全观,以期加速我国人工智能教育治理现代化,为国际人工智能教育治理总体规划的制定贡献中国方案。

人工智能算力基础设施安全体系架构研究

人工智能算力基础设施是人工智能发展的重要基石,但由于其属性多样、节点复杂、用户数量多以及人工智能自身脆弱性等特性,使得人工智能算力基础设施在建设和运营过程中面临着严峻的安全挑战.分析了人工智能算力基础设施的内涵和安全发展的背景形势,从强化自身安全、保障运行安全、助力安全合规3方面提出了人工智能算力基础设施安全体系架构及发展建议,旨在为人工智能算力基础设施安全建设提供方法和思路,为选择使用安全的人工智能算力基础设施提供判别依据,为人工智能产业健康、持续发展提供决策参考.

信创背景下“人工智能+X”人才培养体系探索

针对当前国内高校人工智能人才培养方案缺少统一标准、对国产化重视不足等问题,提出面向信创人才的“人工智能+X”培养体系:设立人工智能信创课程,搭建实习实践平台,建立教学实验生态。介绍近3年在本专业的建设实践,说明所提培养方案的可行性。

人工智能中的三支结构

为了从基于认知计算的三支决策(three-way decisions,3WD)理论来解释人工智能(artificial intelligence,AI),从3WD几何结构的角度阐述了人工智能的发展历程、技术分类、关键研究问题以及未来发展方向。这包括人工智能研究中的三大主义、人工智能发展中的3种分类、机器学习的3种方式、智能本质中的三层金字塔结构、智能生成机理中的三支结构、大数据的三V结构、人工智能伦理的三定律以及人工智能中人类与机器关系的三元结构等。通过3WD三元组的几何结构和模式,尝试对人工智能中三元处理进行解释。本文工作可对3WD在大数据分析、知识发现、计算智能、智能信息处理等方面的研究提供参考。

论欧盟《人工智能法案》中的标准化模式及对我国启示

2024年3月13日,经欧盟议会全会投票,正式通过了全球首个人工智能领域的综合性立法《人工智能法案》。本文对该法案的制定背景、规范体系与其中涉及标准化的内容进行了分析。该法案通过设置1025/2012号条例准用性条款,为法律适用提供了大范围、开放的标准“接口”,一方面可一定程度弥合人工智能技术与法律条款之间的鸿沟,另一方面标准化法规也为欧盟未来人工智能的标准化治理提供了法律保障。此外,本文结合该法案中标准与法律的互通机制提出了我国未来人工智能的治理建议,以供参考。

生成式人工智能的专利法律问题思考

生成式人工智能在发明人主体资格、其生成物的可专利性及审查条件、权利归属、责任承担等方面对传统专利法律制度提出了挑战。生成式人工智能算法与其生成物的区分是讨论生成式人工智能专利法律问题的前提,发明人主体资格并不影响生成物中的技术方案作为专利法的保护客体。在审查条件方面,可以适当地采用综合对比原则以确保新颖性审查的准确性,调整“本领域技术人员”的拟制以提高创造性的审查标准,同时要坚持实用性的审查标准。在权利归属方面,经人工干预的发明,其专利权应当归属于发明人;未经人工干预的发明,应当参照适用职务发明和委托发明制度来确定其权利归属。在侵权责任方面,由于人工智能本身无法承担责任,应当将侵权责任分配至其背后的相关主体。

在线社区中人工智能生成内容的识别方法研究

[目的/意义]生成式人工智能会对在线社区造成一定程度的AI信息污染,研究多种AIGC识别方法对防范快速进化的生成式人工智能带来的负面影响有重要意义。[研究设计/方法]首先在以新浪微博54个大类主题为主的多个在线社区平台中构建了HAC数据集,其中包含100,873条分别由人类和生成式人工智能撰写的信息;然后探究当前6个主流深度学习和7个机器学习方法是否能识别在线社区中的信息是由人类还是由生成式人工智能所撰写;最后提出了一种BEM-RCNN方法进一步提高AIGC的识别精度。[结论/发现]从构建的数据集中可以看出,生成式人工智具有强大的“类人表达”,能够模拟人类在社交媒体平台上发布和回复内容。实验结果表明,提出的方法准确度达到96.4%,能够很好地识别在线社区上的内容是由人类还是AI撰写。在精度、召回率、F1-值和准确度上均优于BERT、ERNIE、TextRNN等其他13种主流的方法,验证了其性能优势。同时,大量探究实验也证明了当前主流的机器学习方法虽然精度低于此方法,但是也能够识别部分AIGC。[创新/价值]使用多种方法去识别社交媒体上的AIGC,防范生成式人工智能对社交媒体平台造成的信息污染。

关于通用人工智能的几个重要伦理问题

作为未来人工智能或强人工智能的一种架构,通用人工智能必然会产生一系列伦理问题。这些问题包括通用人工智能作为人工自主道德系统的主体性、安全性、伦理责任和伦理增强问题、可控性和社会化问题。这些问题都很重要,直接关系到人类未来的生存和发展。在通用人工智能还未真正来临之际,人类有责任对其可能导致的问题进行哲学和伦理反思。

如何理解,如何行动,如何成为?——人工智能时代教师专业发展的反思

人工智能时代的教师专业发展,其核心内涵是在“如何理解”“如何行动”“如何成为”三方面为教师提供有效支持。本文从智能时代教师职能职责和能力素养重构的角度构建了理解框架,从智能时代教师角色定位和教学方式重构的角度构建了行动框架,从智能时代教师发展路径重构的角度构建了设计框架。文章最后提出,“如何理解”的关键是深刻理解智能技术赋能教师的“留白”与“创新”;“如何行动”的关键是教师要在立德树人、技术治理与结构性创新上发挥“人在回路”的作用;“如何成为”的关键是要以大系统观发展教师的大视野、大思维和统整性大能力。

生成式人工智能沉迷的法律规制:动因及对策

生成式人工智能的蓬勃兴起为经济社会发展注入了新动能,正在深刻改变人们的生产生活方式,同时也容易导致人工智能沉迷问题。这不仅是个体层面的问题,更涉及人的思维自由、行为自由、人的主体地位等更深层次的问题。当前在防范方面还存在着对象范围过窄、监管方法不当、防沉迷领域局限以及防范义务不明确且手段单一等问题。应当从法律层面对生成式人工智能的沉迷问题进行规制,明确生成式人工智能提供者的防沉迷义务,转变监管方法,加大监管力度,建立生成式人工智能沉迷防范体系,发挥多元主体协同共治,确保生成式人工智能的使用符合人类整体利益。

人工智能时代社会科学研究的“变”与“不变”

人工智能的发展推动社会科学研究在广度与深度上产生了质的飞跃,基础研究、知识创造将更加呈现跨学科交叉的趋势,形成了人工智能驱动的社会科学研究范式变革,对社会科学的知识生产和传播产生了革命性影响。一方面,人工智能以其强大的数据和算法全面赋能社会科学的发展;另一方面,人工智能也显著改变着人类的行为和决策方式,引发了道德、伦理、隐私、规范等新的社会问题,使人工智能治理成为社会科学的重要研究对象。当前,有必要在阐释人工智能赋能社会科学的深层次机理的基础上,剖析人工智能时代社会科学的“变”与“不变”,并就进一步促进人工智能与社会科学的融合发展提出对策建议。

人工智能生成内容的著作权法之辩

根据输入指令与输出内容的比例关系,可将人工智能生成内容依次分为孪生内容、伴生内容和原生内容。人工智能生成内容主要涉及三个著作权法问题。一是机器阅读的法律性质问题,法定许可说能更好地兼顾著作权专有属性与公有属性,实现权利行使与限制的动态平衡。二是生成内容的可著作权性问题,需要结合内容类型并考虑输入指令的潜在影响。同比例复制的孪生内容不属于作品,差异化表达的伴生内容属于演绎作品,创造性表现的原生内容属于原创作品。三是生成内容的著作权归属问题,除另有协议外,需要结合内容类型并考虑所有者、使用者的贡献程度。孪生内容因不属于作品,无人享有著作权;所有者、使用者对伴生内容的形成均有重大贡献,基于概括合作行为与意识,所有者、使用者共同享有著作权;只有所有者对原生内容的形成具有重大贡献,所有者单独享有著作权。

人工智能:一项战略性技术的应用及治理

人工智能技术是引领全球科技革命和产业变革的战略性技术,正在重塑人们对国家安全、经济与社会发展的理解。快速发展中的人工智能也隐藏着一定的不确定性,可能会引发社会安全风险,甚至带来国家之间的竞争冲突升级。当前,人工智能的发展已经成为推动国际体系转变、影响国际关系走向的关键技术力量,我们需要从战略高度来看待人工智能的作用,充分认识其可能带来的机遇和风险,并从技术、应用、治理和规则等层面全方位加大对人工智能的投入。

敏捷治理:人工智能治理新模式

人工智能敏捷治理作为一种新的治理范式,是对以往探索式、回应式、集中式人工智能治理模式的反思、批判与超越。敏捷治理嵌入人工智能治理当中,其在治理价值、治理主体、治理对象、治理方式这四大核心要素上有新的内涵特征。人工智能敏捷治理概念的生成既是第四次工业革命浪潮的推动,又是促进人工智能“向善”、增进人民福祉和走出人工智能治理困境的需要。与此同时,国家方针政策的指引、政府多重资源的投入、多方实践经验的奠基使得人工智能敏捷治理成为可能。为应对时代挑战、迈向人工智能的敏捷治理,我们需应对传统官僚主义思想,树立敏捷治理理念;合理把握治理节奏,确保治理工具使用张弛有度;健全敏捷治理的制度体系,为人工智能敏捷治理保驾护航。

通用人工智能时代信息资源管理学科的发展方向

本文梳理了人工智能与通用人工智能的70年发展历史,回顾了信息资源管理的50年历程,剖析通用人工智能对信息资源管理知识体系、教育体系、事业体系的深刻、多面的影响,并为信息资源管理在通用人工智能时代的发展方向提出三点建议。

人工智能对艺术创作的变革性影响分析

生成式人工智能的飞跃性发展对当代艺术创作产生了变革性影响。它通过模仿人类的认知过程,完成类似于人类的艺术创作表达,进而促使艺术家对艺术创作进行重新定义,并从道德伦理、观念、意识、哲学等方面再次思考艺术的价值内涵,重新构建艺术创作的话语体系。在这一过程中,艺术与技术的关系将被重塑,艺术家与人工智能建立起新型关系。

大模型时代我国人工智能法学理论体系的构建

在大模型时代,人工智能法学及其理论体系迅速发展,逐渐形成独特的学科分支。新兴的人工智能法学不仅重构了传统的法学研究对象,也带来了创新的研究方法,同时提出了与众不同的正义观念。这些理论的形成和发展,与大型人工智能模型(如ChatGPT)的出现密不可分,后者在推动理论更新、促进法治实践全面提升方面发挥了巨大作用。中国在建设自身的人工智能法学理论体系过程中,得益于已有的法学理论基础和人工智能产业的蓬勃发展,然而,研究水平的不均和学科间壁垒的存在,成为建设中的难题。未来的工作需要将基本概念、框架建设以及多维、动态、可进化的理论体系的构建作为重点。技术的进步将不断推动法学理论的演变。从弱人工智能到强人工智能的转变为法学理论的发展带来了挑战和机遇。在这个过程中,确保人类价值观、权利和安全是至关重要的。构建人工智能法学理论体系,需要避免技术的潜在恶意应用,同时引导它向善。这不仅是一个学术上的努力,更是社会对于法律新概念和实践的重塑。这一工作涉及多学科合作,需要全球共识的形成和实践的更新,对法治的未来和法律体系的完善将产生长远的影响。

人工智能生成内容的著作权客体性思考——兼论作品判定的独创性标准选择

以基于转换器的生成式预训练模型(GPT)为代表的高阶人工智能凭借其强大的智能型内容生成机制,使得内容产品生产中的技术占比不断上升,人的直接投入占比相对下降,传统著作权法作品的独创性要求、权利人本原则等基本理论受到冲击。面对人工智能生成内容(AIGC)可作品性问题,基于自然人智力投入的创造性本质理论和闭合性作品概念显得力不从心。在过程视角下(主观标准),人工智能内容生成过程符合人类创作的思维特征;在结果视角下(客观标准),人工智能生成内容具有著作权作品的外观形式和信息消费功能,符合著作权作品的本质属性。如果人为割裂人工智能生成内容与著作权作品在产生过程和实质作用上的同质关系,强行区分人工智能生成内容和自然人创作作品的法律性质,则有悖著作权法因应技术发展调整信息消费品利益的制度旨趣,最终将导致著作权法律秩序的混乱。

青少年人工智能伦理教育的探索及启示——以MIT为例

随着人工智能行业应用的不断深入,其伦理问题日益凸显。《义务教育信息科技课程标准(2022年版)》明确指出要面向中小学生开展有关人工智能伦理的教育。鉴于国内外面向青少年的人工智能伦理教育尚处于起步阶段,介绍美国麻省理工学院(MIT)自2018年起在该领域的探索能为国内中小学校人工智能伦理教育教学实践提供一些启示。MIT青少年人工智能伦理教育涵盖小学、初中和高中三个学段,以初中和高中为主,涉及家庭、学校和社会三个场域,有专题式和内嵌式两种类型,形式上包括与中小学合作的线下STEAM选修课程、线上/线下的夏令营活动以及面向社会招募学生的混合式工作坊。梳理和反思MIT青少年人工智能伦理教育实践可以得到以下三方面启示:(1)高校可以与中小学合作开展青少年人工智能伦理教育的内容设计与教师培训;(2)中小学多学科教师可以尝试开展内嵌式青少年人工智能伦理教育设计与实践;(3)“家校社”应携手共建多样态多场域本土化青少年人工智能伦理教育生态。