人工智能参与数字政府建设的范式革新——基于行政领域人工智能通用大模型(GovGPT)的交互性敏捷治理

数字政府建设的范式革新与技术变迁紧密相关。传统人工智能参与政府治理存在诸多短板,主要体现在数据质量和开放共享有待优化、算法透明度和解释性有待增强、行政决策和执行效率有待提升几个方面。行政领域人工智能通用大模型(GovGPT)为交互性敏捷治理的实现提供了技术支持,通过建构行政领域的人工智能通用大模型,得以克服传统人工智能参与行政治理的诸多难题,从而促进数字政府建设走向交互式与敏捷性的发展方向。在此基础上,首先要树立“数智服务”的行政生态观,其次完善基于GovGPT的交互性敏捷治理的基础机制,最后防范GovGPT大模型可能带来的一系列风险,将人工智能参与数字建设纳入法治化轨道。

通用大模型教育应用的潜在风险及其规避--基于技术伦理的视角

以ChatGPT为代表的通用大模型在教育行业快速普及,可能引发教育的系统性变革乃至生态重构。虽然技术应用于教育可能导致的伦理问题多年来一直受到关注,但从未像通用大模型的教育应用这样引发人们对技术伦理问题的担心。一方面,技术作用于教育活动的基本原理具有同质性,因此通用大模型教育应用的伦理风险类型较之以往具有趋同性,然而,因其智能化水平不同,在风险程度上将可能加剧传统伦理问题:在教育安全方面,对教育主体与组织的隐私窃取可能加剧教育过程安全危机、意识形态渗透可能加剧教育结果安全危机;在教育关系方面:可能加剧“师—机”关系中教师的技术恐惧与技术崇拜,以及“机—生”关系中学生的技术沉溺;在教育公平方面,可能加剧教育起点不公平与扩大教育结果不公平。另一方面,通用大模型有着特殊的技术基础与特征,为教育带来更为颠覆性的变革并导致新异化现象,可能产生新的伦理风险:在教育安全方面,大模型系统的对抗性攻击风险可能使学生面临算法规制而产生新的认知安全问题、模型能力的涌现性可能会让通用大模型在教育应用中失控;在教育关系方面,“人—机”协同育人模式可能阻碍师生间情感与思想交流;在教育公平方面,使用者可能在毫无察觉之下受到通用大模型的不公平对待,教育过程公平很可能难以保障。为规避通用大模型教育应用可能产生的伦理风险,应注重在制作层面确保通用大模型的道德化,在实践层面细化对通用大模型教育应用的指导,在管理层面建立通用大模型教育应用的监管体系,在研究层面加强对智能时代教育行业技术伦理问题的理论研究。

通用大模型应用职业教育:价值构想、风险识别和优化治理

当前,职业教育面临着数字化转型的巨大压力,通用大模型作为人工智能的前沿技术,展示了强大的赋能潜力。通用大模型的应用,使职业教育可以实现个性化学习路径的设计和动态教学、自动化生成高质量教学资源与内容共享、职业技能的模拟与评估。然而,通用大模型的应用也伴随着一系列潜在风险。数据隐私和安全问题威胁着学生数据的合法收集、存储和传输;算法偏见导致教育不公平;技术深度应用引发学生技术依赖;技术模式异化传统师生关系。为推动大模型有效应用职业教育,必须加强数据隐私保护,确保数据的合法收集和透明处理;设计算法公平性与透明性,通过多样化的数据集和定期的算法审计来减少偏见;设计以学生为中心的学习活动,维护学生的自主性和独立思考能力;强调技术与情感联结的平衡,以保持师生之间的联系互动。

人工智能多模态通用大模型数据合规技术应用风险动态规制

隐私计算技术、SaaS平台、数据合规监测系统等数据合规技术将数据处理需求按照监管规则约束转化为程序和代码可以处理的计算问题。数据合规技术联结了多方节点数据和算力资源,拓宽了数据来源渠道,提高了模型的泛化能力,成为人工智能通用大模型研发应用的泛在普适性底层技术。数据合规技术具备颠覆性重构算法应用流程的能力,在数据处理上存在多重关系,涉及多方数据处理者,技术应用中存在不同程度的系统性风险。数据合规技术应用的风险规制要将分散零碎的规则和工具嵌入多维共治的动态方案中,针对各项技术风险产生的不同机理,进行个性化和差异化的动态规制。

人工智能通用大模型赋能智慧党建的逻辑与策略

随着人工智能通用大模型的快速发展,其在党建工作中的应用日益受到关注。通过对人工智能通用大模型意识形态性的生成机理与学理基础的分析,揭示人工智能在模拟人类意识过程中的功能性特征及与人类意识的本质区别,系统性探讨人工智能通用大模型在党建工作中的意义、机遇与挑战,以及如何有效融合这一前沿技术以促进党建工作的智能化、系统化和科学化转型。在深入识别人工智能通用大模型赋能党建工作面临的主要挑战,包括教育风险、组织风险、政治风险和意识形态风险等基础上,提出包括理念转换、规范制度建设和实施体系构建的综合性策略,以实现党建工作与人工智能技术的有效融合。

人工智能通用大模型教育应用影响探析

人工智能对教育的影响经历了从利用机器学习优化教育,实现“能存会算”的自动化,到利用深度学习赋能教育,实现“能看会听”的感知化,再到利用通用大模型创新教育,实现“能理解会创作”的认知化。人工智能通用大模型加持下的教育生态,其应用模式将从专用走向通用,应用流程从分发走向生成,应用场景从单一走向多元。通用大模型的兴起及其在教育行业的快速渗透,将引发人才培养目标的转变及教育教学形态更替,并可能加剧伦理安全风险。人工智能与教育的融合发展要坚持以人为本,注重学生高阶思维培育,健全相应的伦理规范体系。

教育领域通用大模型应用伦理风险的表征、成因与治理

通用大模型具备“能理解会创作”的能力,将可能给教育实践带来更为颠覆性的变革,但也可能加剧传统伦理问题并产生新的伦理风险。这些伦理风险的类型主要包括:技术风险、内容风险、数据风险与算法风险。依据通用大模型的技术基础与教育应用伦理风险的表现,教育领域通用大模型应用伦理风险具有客观性与主观性并存、价值性与风险性并存、可控性与不确定性并存等特征。这些伦理风险的形成既有技术因素,也有人的因素。技术因素主要包括:模型能力的涌现性可能导致应用失控、功能的泛化性可能导致人的异化、输入数据的海量性与无序性可能导致对人的侵犯、内容的生成性可能导致教育失序等。人的因素主要包括:因技术水平有限导致我国缺少自主知识产权的教育大模型、对通用大模型技术认知不足、商业竞争导致技术缺陷、通用大模型技术伦理规范与监管落后等。依据教育领域通用大模型应用伦理风险表征与成因分析,可从加快开发我国自主知识产权的教育专用大模型、筑牢通用大模型开发与应用的监管体系、构建通用大模型相适配的教育新形态、扶持弱势群体以缩小“数字鸿沟”、加强对通用大模型的理论研究与知识普及等方面进行伦理风险治理。

教育通用人工智能大模型标准体系框架研制

当前,人工智能大模型在各领域迅猛发展,其中教育领域的人工智能大模型虽然能够在知识生产、知识计算和知识服务方面完成多种智能任务以提供教学辅助,但其在功能构建、数据收集与管理、教学测评和应用等方面仍存在局限,同时缺乏适用于多个教育场景的通用人工智能大模型。基于此,文章从人工智能的发展和标准化的现状出发,对教育通用人工智能大模型的概念、原则和属性做出界定,并提出教育通用人工智能大模型标准体系,包括总体框架、信息模型、数据规范、测评规范和教学应用要求等,以从指导角度对教育通用人工智能大模型的研发、应用、管理和评估进行规范。文章通过研究,旨在规范通用人工智能大模型在教育领域的应用与发展,赋能、赋智于教育,推动教育的高质量发展。

通用大模型演进路线

随着人工智能技术的飞速发展,通用大模型(GLMs)已经成为人工智能领域的重要研究方向。通用大模型拥有超大规模参数,通过大规模数据进行训练,具备强大的学习和推理能力。这些模型在自然语言处理、图像识别、代码生成等多种任务中展现出卓越的能力。回顾了通用大模型的发展历程,梳理关键技术节点,从早期基于规则的系统和传统机器学习模型,到深度学习的崛起,再到Transformer架构,以及GPT系列及国内外通用大模型的进展。尽管GLMs在多个领域取得了显著进展,但其发展也面临诸多挑战,包括计算资源需求、数据偏见与伦理问题及模型的解释性与透明性。分析了这些挑战,并探讨了GLMs未来发展的5个关键方向:模型优化、多模态学习、具情感大模型、数据与知识双驱动以及伦理与社会影响。通过这些策略,通用大模型有望在未来实现更广泛和深入的应用,推动人工智能技术的持续进步。

结合SAM大模型和数学形态学的历史地图水系信息提取方法

历史地图记载着丰富的历史地理信息,能够帮助了解历史规律,为当代发展提供借鉴。不同于现代地图、遥感影像等数据,历史地图保存时间久,存在留存数量少、图像精度低等问题,地图符号也与现代有所差异,因此信息难以被高效提取。针对该问题,本文以历史地图《宁夏省境黄河沿岸沟渠水道地形图》为试验数据,提出一种智能化历史地图水系信息提取方法。首先,结合符号句法,运用聚类与数学形态学方法构建数据集;然后,改进通用大模型(SAM)结构并进行迁移学习优化权重;最后,借助改进SAM自动提取历史地图水系信息。将试验结果与其他模型作对比,显示本文方法提取结果边界清晰,轮廓完整,准确率、精度等指标均为最高。同时,将提取结果与该区域水系现状作对比,发现历史上的河流沟渠如今大多改道、偏移或消失,湖泊面积大大减小。本文方法基于SAM通用大模型进行改进,验证了大模型在地图领域的可用性,为地图信息提取提供了思路。

AI预训练大模型发展综述

本文首先介绍了AI预训练大模型相关的部分核心技术,其中包括Transformer架构和人类反馈强化学习技术以及近端策略优化技术;研究了通用大模型的发展,重点关注了基于Transformer-Decoder架构的GPT系列、LLaMA系列模型与基于Transformer-Encoder架构的BERT、ALBERT、DeBERTa与RoBERTa模型,深入研究了它们的架构和训练方法,总结了它们的特点,探讨了其在不同领域中的应用;关注了垂直领域的大模型发展,如金融、医学、法学、自然科学和代码编程等领域.在金融领域,研究了BloombergGPT、GPT-InvestAR和TradingGPT模型;在医学领域,探讨了Med-PaLM和PMC-LLaMA等模型;在法学领域,分析了Lawformer和Chatlaw模型;在自然科学领域,介绍了华为云盘古气象大模型和FLUID-GPT模型;在代码编程领域,研究了CodeGeex和PanGu-Coder2模型.最后,对当前AI预训练大模型在知识产权、歧视、成本等方面的局限性与未来发展进行了讨论.

探析基于公共支撑能力的政务大模型AI+Agent

本文详细探讨了具有公共支撑能力的政务大模型AI+Agent如何为政务应用赋能,点明了创新行政管理和服务方式的重要性,并根据目前省级平台建设情况,描述了系统的特点以及能力输出,最后提出了多模态大模型AI+Agent的应用场景和系统架构。

从大空间“实体”到大模型“数字”——人工智能背景下未来城市规划及管理的构想

在信息技术快速发展的背景下,基于人工智能及其相关设备的智慧城市与数字化城市建设正成为当下城乡规划行业的重点工作,而最新出现的多模态通用大模型(GPT4)则标志着城乡规划工作结构、工作方法及工具即将迎来全面改变;我们所处的城市也将分为可视空间上的“实体”与人工智能为基础所构建的“数字”两个部分,通过对“实体城市”与“数字城市”及其工作内容变化过程的推演,梳理了未来城市的结构以及未来城乡规划工作人员所面临的机遇与挑战;提出规划师应当在实体和数字城市两个层面上进行跃升,分别向实体城市“下沉”,从微观视角感受人对环境的认知,并向数字城市“飞升”,从宏观视角来分析数据背后的逻辑与问题。

生成式人工智能的工业应用技术与前景

随着在工业应用中的不断深化,人工智能(AI)逐渐面临场景定制化、数据要求高、动态环境适应性差等问题。以生成式人工智能(AIGC)为代表的通用AI为突破传统AI的瓶颈提供了新思路。为推动AIGC与工业领域的融合创新、抢占下一轮科技革命的技术高地,对AIGC技术及其工业应用展开综述。首先,梳理了国内外AIGC技术的发展现状,总结了当前AIGC工业应用面临的问题和挑战。然后,提出了AIGC在工业领域应用的技术架构,以及通用大模型集成、通用大模型微调与知识库外挂、预训练工业大模型这三种应用模式。最后,从研发设计、生产制造、经营管理以及运维服务等四个方面的十二个场景作应用展望,以激发AIGC工业应用的新技术、新方向的进一步发展,赋能工业领域形成新质生产力。

知识革命还是教育异化?ChatGPT与教育的未来

ChatGPT具有“大力出奇迹”的暴力美学特征,以其为代表的通用大模型正在对教育领域产生深远影响。通用大模型作为一种代具性技术,能对学习者进行“武装”并缩小知识弱势者与他人的差距。同时,作为一种超级工具,通用大模型有望掀起新一轮知识革命。但通用大模型蕴含巨大的破坏性效应,将给教育带来紧迫的异化危机。通用大模型的灌输性输出与教育庸俗化紧密勾连,在这一情境下,学习者可能面临认知结构的浅薄化与认知思维的同质化等风险。通用大模型使用过程中的身体离场现象可能吞噬学习共同体,使学习者难以与身边的人和事物建立真实有效的交往关系。通用大模型的对话式学习模式可能带来教育价值的坍塌、新型数字权威体的崛起、平台资本的意识殖民化等风险。未来,需要根据不同情境采取辩证性行动,积极发挥通用大模型对教育生态的正向支持功能。

主体弥散化与主体责任的终结:ChatGPT对全球安全实践的影响

在人工智能时代,以ChatGPT为代表的人工智能通用大模型将可能冲击全球安全互动中的“主体责任制”,造成安全主体的模糊化与责任缺失、安全客体责任的离散化与安全责任追责难等一系列问题。由于人工智能技术由弱向强、迭代演进的技术发展逻辑,不同技术阶段的“主体性危机”与“责任危机”的形态和程度各异。在弱人工智能时代,低智性通用大模型的赋能作用可能会强化安全互动场域中的边缘安全主体责任。安全互动呈现出多重安全主体并存与安全客体责任离散的互动模式。在强人工智能时代,通用大模型被拟造为“类人”主体,成为多重安全主体中的一分子,安全互动呈现出无秩序形态。既有安全主体可能会表现出过度依赖算法和主体权力被侵蚀的特征,而安全客体则表现为普遍卸责和主体责任终结的特点。为解决上述问题,需要从安全主体互动的“主体间性”层面入手,在弱人工智能时代,可利用区块链与人工智能技术形成合力,并细化事前责任;而在强人工智能时代,则可凭借大国协调,在确立智能体“半主体”身份后,建立一种“监护人”制度,在主体间性的逻辑上开展全球安全实践。

美国开源情报战略调整趋势分析及对我国的影响与应对

[研究目的]在大国博弈日趋激烈的背景下,对美国情报战略中开源情报的转向及其争议进行剖析,研判通用大模型等新技术对其未来的走向具有重要意义。[研究方法]通过考察美国开源情报战略调整路径,揭示开源情报发展“理论+技术+实践”三元互动的底层逻辑与未来趋势,有助于以相对全面、立体的视角理解美国国家情报工作对开源情报的顶层规划和具体实施机制。[研究结论]美国将不断提升开源情报的战略地位,并加强跨机构的、公私合作式的开源情报资源整合,大力推进支撑开源情报活动的底层能力建设。为应对美国这一调整带来的泄密风险和虚假信息风险,缓和信息公开与反开源活动之间的冲突,我国须完善顶层设计和具体实施机制以强化信息保密工作力度,并持续关注技术发展动态,积极推动公私部门合作以提升开源情报水平。

论通用人工智能的新突破对世界政治经济的多重影响

在第三波人工智能浪潮的过程中,到目前为止有三次代表性事件。第一次是“AlphaGo战胜李世石”事件,第二次是以ChatGPT为代表的大语言模型的突破,第三次则是以Sora为代表的多模态大模型的突破。通用大模型让人类看到了通用人工智能的希望,可以被看作是未完成意义上的奇点创新。通用大模型的奇点创新将对搜索、电商和娱乐这三个互联网的传统业务形成颠覆性的影响。在通用大模型的基础之上,将会出现以奇点创新为特征的新质生产力。这是一种以人工智能为中心的生产力,主要表现为去劳动力化。美国会继续采用“小院高墙”战略将其新质生产力控制起来,防止对外进行扩散,同时美国还会利用其价值观科技联盟体系巩固其新质生产力优势。处于通用大模型技术顶端的美国将会运用这一技术优势实现其政治目标,并可能通过操控政治舆论以图颠覆他国政权,这势必会增加世界政治经济中的竞争和冲突。在人工智能技术的发展过程中,中美在一段时间内形成了某种不对称平衡,通用大模型技术的出现将会打破这种不对称平衡。

通用语言大模型技术在审计领域应用场景探索

2022年底,OpenAI推出的人工智能聊天机器人ChatGPT一经问世就引爆全球,成为史上最短时间突破1亿用户的应用。本文就审计领域应用通用语言大模型技术的场景开展研究,先对该技术背后的自然语言处理(NLP)和深度学习(DL)两大支撑技术进行介绍,再从发展历史、应用特征、应用场景等三方面对通用语言大模型技术进行分析,继而分析国内审计信息化理论研究和实践应用的现状,提出在自然语言分析上的短板和存在的广阔应用前景,最后结合通用语言大模型技术特征,对审计领域应用该技术的可能场景进行了畅想,并分析了在审计领域应用通用语言大模型技术过程中可能遇到的风险挑战和应对策略。

总体国家安全观视角下的人工智能生产方式风险应对

以ChatGPT[1]为代表的通用人工智能大模型(以下简称通用大模型)引发了新一轮人工智能革命,各国企业与研究机构纷纷跟进,人工智能发展进入了通用大模型时代。本轮人工智能革命深刻改变了物质资料生产活动的全流程,也带来了人工智能生产方式的风险。如何在鼓励技术发展的同时防范风险,已经引发各国关注,如欧盟制定的《人工智能法》专门增加了针对通用大模型的内容[2],美国政府联合主要科技公司发布了人工智能风险管理框架[3]。我国现有的几部相关法规规制范围较窄,不能满足整体性应对人工智能生产方式风险的要求。