通用大模型教育应用的潜在风险及其规避--基于技术伦理的视角

以ChatGPT为代表的通用大模型在教育行业快速普及,可能引发教育的系统性变革乃至生态重构。虽然技术应用于教育可能导致的伦理问题多年来一直受到关注,但从未像通用大模型的教育应用这样引发人们对技术伦理问题的担心。一方面,技术作用于教育活动的基本原理具有同质性,因此通用大模型教育应用的伦理风险类型较之以往具有趋同性,然而,因其智能化水平不同,在风险程度上将可能加剧传统伦理问题:在教育安全方面,对教育主体与组织的隐私窃取可能加剧教育过程安全危机、意识形态渗透可能加剧教育结果安全危机;在教育关系方面:可能加剧“师—机”关系中教师的技术恐惧与技术崇拜,以及“机—生”关系中学生的技术沉溺;在教育公平方面,可能加剧教育起点不公平与扩大教育结果不公平。另一方面,通用大模型有着特殊的技术基础与特征,为教育带来更为颠覆性的变革并导致新异化现象,可能产生新的伦理风险:在教育安全方面,大模型系统的对抗性攻击风险可能使学生面临算法规制而产生新的认知安全问题、模型能力的涌现性可能会让通用大模型在教育应用中失控;在教育关系方面,“人—机”协同育人模式可能阻碍师生间情感与思想交流;在教育公平方面,使用者可能在毫无察觉之下受到通用大模型的不公平对待,教育过程公平很可能难以保障。为规避通用大模型教育应用可能产生的伦理风险,应注重在制作层面确保通用大模型的道德化,在实践层面细化对通用大模型教育应用的指导,在管理层面建立通用大模型教育应用的监管体系,在研究层面加强对智能时代教育行业技术伦理问题的理论研究。

人工智能参与数字政府建设的范式革新——基于行政领域人工智能通用大模型(GovGPT)的交互性敏捷治理

数字政府建设的范式革新与技术变迁紧密相关。传统人工智能参与政府治理存在诸多短板,主要体现在数据质量和开放共享有待优化、算法透明度和解释性有待增强、行政决策和执行效率有待提升几个方面。行政领域人工智能通用大模型(GovGPT)为交互性敏捷治理的实现提供了技术支持,通过建构行政领域的人工智能通用大模型,得以克服传统人工智能参与行政治理的诸多难题,从而促进数字政府建设走向交互式与敏捷性的发展方向。在此基础上,首先要树立“数智服务”的行政生态观,其次完善基于GovGPT的交互性敏捷治理的基础机制,最后防范GovGPT大模型可能带来的一系列风险,将人工智能参与数字建设纳入法治化轨道。

人工智能多模态通用大模型数据合规技术应用风险动态规制

隐私计算技术、SaaS平台、数据合规监测系统等数据合规技术将数据处理需求按照监管规则约束转化为程序和代码可以处理的计算问题。数据合规技术联结了多方节点数据和算力资源,拓宽了数据来源渠道,提高了模型的泛化能力,成为人工智能通用大模型研发应用的泛在普适性底层技术。数据合规技术具备颠覆性重构算法应用流程的能力,在数据处理上存在多重关系,涉及多方数据处理者,技术应用中存在不同程度的系统性风险。数据合规技术应用的风险规制要将分散零碎的规则和工具嵌入多维共治的动态方案中,针对各项技术风险产生的不同机理,进行个性化和差异化的动态规制。

人工智能通用大模型教育应用影响探析

人工智能对教育的影响经历了从利用机器学习优化教育,实现“能存会算”的自动化,到利用深度学习赋能教育,实现“能看会听”的感知化,再到利用通用大模型创新教育,实现“能理解会创作”的认知化。人工智能通用大模型加持下的教育生态,其应用模式将从专用走向通用,应用流程从分发走向生成,应用场景从单一走向多元。通用大模型的兴起及其在教育行业的快速渗透,将引发人才培养目标的转变及教育教学形态更替,并可能加剧伦理安全风险。人工智能与教育的融合发展要坚持以人为本,注重学生高阶思维培育,健全相应的伦理规范体系。

教育通用人工智能大模型标准体系框架研制

当前,人工智能大模型在各领域迅猛发展,其中教育领域的人工智能大模型虽然能够在知识生产、知识计算和知识服务方面完成多种智能任务以提供教学辅助,但其在功能构建、数据收集与管理、教学测评和应用等方面仍存在局限,同时缺乏适用于多个教育场景的通用人工智能大模型。基于此,文章从人工智能的发展和标准化的现状出发,对教育通用人工智能大模型的概念、原则和属性做出界定,并提出教育通用人工智能大模型标准体系,包括总体框架、信息模型、数据规范、测评规范和教学应用要求等,以从指导角度对教育通用人工智能大模型的研发、应用、管理和评估进行规范。文章通过研究,旨在规范通用人工智能大模型在教育领域的应用与发展,赋能、赋智于教育,推动教育的高质量发展。

通用大模型演进路线

随着人工智能技术的飞速发展,通用大模型(GLMs)已经成为人工智能领域的重要研究方向。通用大模型拥有超大规模参数,通过大规模数据进行训练,具备强大的学习和推理能力。这些模型在自然语言处理、图像识别、代码生成等多种任务中展现出卓越的能力。回顾了通用大模型的发展历程,梳理关键技术节点,从早期基于规则的系统和传统机器学习模型,到深度学习的崛起,再到Transformer架构,以及GPT系列及国内外通用大模型的进展。尽管GLMs在多个领域取得了显著进展,但其发展也面临诸多挑战,包括计算资源需求、数据偏见与伦理问题及模型的解释性与透明性。分析了这些挑战,并探讨了GLMs未来发展的5个关键方向:模型优化、多模态学习、具情感大模型、数据与知识双驱动以及伦理与社会影响。通过这些策略,通用大模型有望在未来实现更广泛和深入的应用,推动人工智能技术的持续进步。

教育领域通用大模型应用伦理风险的表征、成因与治理

通用大模型具备“能理解会创作”的能力,将可能给教育实践带来更为颠覆性的变革,但也可能加剧传统伦理问题并产生新的伦理风险。这些伦理风险的类型主要包括:技术风险、内容风险、数据风险与算法风险。依据通用大模型的技术基础与教育应用伦理风险的表现,教育领域通用大模型应用伦理风险具有客观性与主观性并存、价值性与风险性并存、可控性与不确定性并存等特征。这些伦理风险的形成既有技术因素,也有人的因素。技术因素主要包括:模型能力的涌现性可能导致应用失控、功能的泛化性可能导致人的异化、输入数据的海量性与无序性可能导致对人的侵犯、内容的生成性可能导致教育失序等。人的因素主要包括:因技术水平有限导致我国缺少自主知识产权的教育大模型、对通用大模型技术认知不足、商业竞争导致技术缺陷、通用大模型技术伦理规范与监管落后等。依据教育领域通用大模型应用伦理风险表征与成因分析,可从加快开发我国自主知识产权的教育专用大模型、筑牢通用大模型开发与应用的监管体系、构建通用大模型相适配的教育新形态、扶持弱势群体以缩小“数字鸿沟”、加强对通用大模型的理论研究与知识普及等方面进行伦理风险治理。

结合SAM大模型和数学形态学的历史地图水系信息提取方法

历史地图记载着丰富的历史地理信息,能够帮助了解历史规律,为当代发展提供借鉴。不同于现代地图、遥感影像等数据,历史地图保存时间久,存在留存数量少、图像精度低等问题,地图符号也与现代有所差异,因此信息难以被高效提取。针对该问题,本文以历史地图《宁夏省境黄河沿岸沟渠水道地形图》为试验数据,提出一种智能化历史地图水系信息提取方法。首先,结合符号句法,运用聚类与数学形态学方法构建数据集;然后,改进通用大模型(SAM)结构并进行迁移学习优化权重;最后,借助改进SAM自动提取历史地图水系信息。将试验结果与其他模型作对比,显示本文方法提取结果边界清晰,轮廓完整,准确率、精度等指标均为最高。同时,将提取结果与该区域水系现状作对比,发现历史上的河流沟渠如今大多改道、偏移或消失,湖泊面积大大减小。本文方法基于SAM通用大模型进行改进,验证了大模型在地图领域的可用性,为地图信息提取提供了思路。

从大空间“实体”到大模型“数字”——人工智能背景下未来城市规划及管理的构想

在信息技术快速发展的背景下,基于人工智能及其相关设备的智慧城市与数字化城市建设正成为当下城乡规划行业的重点工作,而最新出现的多模态通用大模型(GPT4)则标志着城乡规划工作结构、工作方法及工具即将迎来全面改变;我们所处的城市也将分为可视空间上的“实体”与人工智能为基础所构建的“数字”两个部分,通过对“实体城市”与“数字城市”及其工作内容变化过程的推演,梳理了未来城市的结构以及未来城乡规划工作人员所面临的机遇与挑战;提出规划师应当在实体和数字城市两个层面上进行跃升,分别向实体城市“下沉”,从微观视角感受人对环境的认知,并向数字城市“飞升”,从宏观视角来分析数据背后的逻辑与问题。

知识革命还是教育异化?ChatGPT与教育的未来

ChatGPT具有“大力出奇迹”的暴力美学特征,以其为代表的通用大模型正在对教育领域产生深远影响。通用大模型作为一种代具性技术,能对学习者进行“武装”并缩小知识弱势者与他人的差距。同时,作为一种超级工具,通用大模型有望掀起新一轮知识革命。但通用大模型蕴含巨大的破坏性效应,将给教育带来紧迫的异化危机。通用大模型的灌输性输出与教育庸俗化紧密勾连,在这一情境下,学习者可能面临认知结构的浅薄化与认知思维的同质化等风险。通用大模型使用过程中的身体离场现象可能吞噬学习共同体,使学习者难以与身边的人和事物建立真实有效的交往关系。通用大模型的对话式学习模式可能带来教育价值的坍塌、新型数字权威体的崛起、平台资本的意识殖民化等风险。未来,需要根据不同情境采取辩证性行动,积极发挥通用大模型对教育生态的正向支持功能。

主体弥散化与主体责任的终结:ChatGPT对全球安全实践的影响

在人工智能时代,以ChatGPT为代表的人工智能通用大模型将可能冲击全球安全互动中的“主体责任制”,造成安全主体的模糊化与责任缺失、安全客体责任的离散化与安全责任追责难等一系列问题。由于人工智能技术由弱向强、迭代演进的技术发展逻辑,不同技术阶段的“主体性危机”与“责任危机”的形态和程度各异。在弱人工智能时代,低智性通用大模型的赋能作用可能会强化安全互动场域中的边缘安全主体责任。安全互动呈现出多重安全主体并存与安全客体责任离散的互动模式。在强人工智能时代,通用大模型被拟造为“类人”主体,成为多重安全主体中的一分子,安全互动呈现出无秩序形态。既有安全主体可能会表现出过度依赖算法和主体权力被侵蚀的特征,而安全客体则表现为普遍卸责和主体责任终结的特点。为解决上述问题,需要从安全主体互动的“主体间性”层面入手,在弱人工智能时代,可利用区块链与人工智能技术形成合力,并细化事前责任;而在强人工智能时代,则可凭借大国协调,在确立智能体“半主体”身份后,建立一种“监护人”制度,在主体间性的逻辑上开展全球安全实践。

美国开源情报战略调整趋势分析及对我国的影响与应对

[研究目的]在大国博弈日趋激烈的背景下,对美国情报战略中开源情报的转向及其争议进行剖析,研判通用大模型等新技术对其未来的走向具有重要意义。[研究方法]通过考察美国开源情报战略调整路径,揭示开源情报发展“理论+技术+实践”三元互动的底层逻辑与未来趋势,有助于以相对全面、立体的视角理解美国国家情报工作对开源情报的顶层规划和具体实施机制。[研究结论]美国将不断提升开源情报的战略地位,并加强跨机构的、公私合作式的开源情报资源整合,大力推进支撑开源情报活动的底层能力建设。为应对美国这一调整带来的泄密风险和虚假信息风险,缓和信息公开与反开源活动之间的冲突,我国须完善顶层设计和具体实施机制以强化信息保密工作力度,并持续关注技术发展动态,积极推动公私部门合作以提升开源情报水平。

论通用人工智能的新突破对世界政治经济的多重影响

在第三波人工智能浪潮的过程中,到目前为止有三次代表性事件。第一次是“AlphaGo战胜李世石”事件,第二次是以ChatGPT为代表的大语言模型的突破,第三次则是以Sora为代表的多模态大模型的突破。通用大模型让人类看到了通用人工智能的希望,可以被看作是未完成意义上的奇点创新。通用大模型的奇点创新将对搜索、电商和娱乐这三个互联网的传统业务形成颠覆性的影响。在通用大模型的基础之上,将会出现以奇点创新为特征的新质生产力。这是一种以人工智能为中心的生产力,主要表现为去劳动力化。美国会继续采用“小院高墙”战略将其新质生产力控制起来,防止对外进行扩散,同时美国还会利用其价值观科技联盟体系巩固其新质生产力优势。处于通用大模型技术顶端的美国将会运用这一技术优势实现其政治目标,并可能通过操控政治舆论以图颠覆他国政权,这势必会增加世界政治经济中的竞争和冲突。在人工智能技术的发展过程中,中美在一段时间内形成了某种不对称平衡,通用大模型技术的出现将会打破这种不对称平衡。

通用语言大模型技术在审计领域应用场景探索

2022年底,OpenAI推出的人工智能聊天机器人ChatGPT一经问世就引爆全球,成为史上最短时间突破1亿用户的应用。本文就审计领域应用通用语言大模型技术的场景开展研究,先对该技术背后的自然语言处理(NLP)和深度学习(DL)两大支撑技术进行介绍,再从发展历史、应用特征、应用场景等三方面对通用语言大模型技术进行分析,继而分析国内审计信息化理论研究和实践应用的现状,提出在自然语言分析上的短板和存在的广阔应用前景,最后结合通用语言大模型技术特征,对审计领域应用该技术的可能场景进行了畅想,并分析了在审计领域应用通用语言大模型技术过程中可能遇到的风险挑战和应对策略。

总体国家安全观视角下的人工智能生产方式风险应对

以ChatGPT[1]为代表的通用人工智能大模型(以下简称通用大模型)引发了新一轮人工智能革命,各国企业与研究机构纷纷跟进,人工智能发展进入了通用大模型时代。本轮人工智能革命深刻改变了物质资料生产活动的全流程,也带来了人工智能生产方式的风险。如何在鼓励技术发展的同时防范风险,已经引发各国关注,如欧盟制定的《人工智能法》专门增加了针对通用大模型的内容[2],美国政府联合主要科技公司发布了人工智能风险管理框架[3]。我国现有的几部相关法规规制范围较窄,不能满足整体性应对人工智能生产方式风险的要求。

通用人工智能风险治理与监管初探——ChatGPT引发的问题与挑战

ChatGPT加速了人工智能通用性趋势和AI大模型产业化进程,AI产业正式步入“通用大模型+具体应用场景”的新时代,法律秩序再次面临稳定必要性与变化必要性协调的难题。欧盟和中国在“前通用人工智能时代”的治理方面,分别代表了“基于风险”的横向路径和“基于场景”的纵向路径,但是在新兴产业生态中,人工智能技术应用的风险预判和场景确定都面临着新挑战,引发人工智能技术治理路径的反思。法律发展的历史启发我们要以动态的眼光看待法律,积极寻求对稳定与变化这两极协调与平衡的方法。我国应探索基于既有治理制度的改进方案,推进人工智能基础性立法,注重动态的风险监测机制,构建通用大模型分层治理的体系,实现技术发展与社会进步的双赢。

生成式人工智能教育应用:发展历史、国际态势与未来展望

生成式人工智能特殊的技术原理、特征与功能,使它为教育的系统性与颠覆性变革创造可能性。不同国家与组织因为文化背景、技术水平、教育需求、话语体系、社会条件等方面的差异,导致对待生成式人工智能教育应用的问题在某种程度上表现出不同的态度和举措。但总体上,仍有一些共性之处:应用谨慎、决策自主、态度乐观与指导细致。展望未来,生成式人工智能的教育应用,应在国家层面加强顶层设计,构建生成式人工智能教育应用的规范化体系;优先制定法规和指导方针,确保生成式人工智能技术开发的透明度和安全性;各利益相关者协作努力,最大限度地发挥生成式人工智能教育应用的潜力;加强人工智能素养与伦理教育,以应对快速发展的人工智能环境。

生成式人工智能的工业应用技术与前景

随着在工业应用中的不断深化,人工智能(AI)逐渐面临场景定制化、数据要求高、动态环境适应性差等问题。以生成式人工智能(AIGC)为代表的通用AI为突破传统AI的瓶颈提供了新思路。为推动AIGC与工业领域的融合创新、抢占下一轮科技革命的技术高地,对AIGC技术及其工业应用展开综述。首先,梳理了国内外AIGC技术的发展现状,总结了当前AIGC工业应用面临的问题和挑战。然后,提出了AIGC在工业领域应用的技术架构,以及通用大模型集成、通用大模型微调与知识库外挂、预训练工业大模型这三种应用模式。最后,从研发设计、生产制造、经营管理以及运维服务等四个方面的十二个场景作应用展望,以激发AIGC工业应用的新技术、新方向的进一步发展,赋能工业领域形成新质生产力。

人工智能技术在海关应用的探讨

快速发展的人工智能技术,在各行各业数字化转型的道路上发挥了重要作用。人工智能技术对海关工作也产生了巨大影响。本文通过对人工智能发展现状及人工智能在海关的应用实践进行梳理,探讨了人工智能技术在海关应用中的潜力和挑战,提出了提升人工智能技术应用成效的建议,为人工智能技术在海关工作应用中的进一步发展提供参考。