“分级分类”与“契约”风险治理并行的人工智能监管制度构建——以欧盟《人工智能法案》为分析对象

推动战略性新兴产业融合集群发展,构建人工智能增长引擎,快速发展的人工智能向法律提出挑战的同时,创新人工智能产业也不容忽视。2023年8月《生成式人工智能服务管理暂行办法》落地,我国已基本形成人工智能监管框架。统筹人工智能“发展与安全”,平衡人工智能“监管与创新”便成为要解决的核心问题。以欧盟《人工智能法案》为分析对象,“分级分类”与“契约”风险治理并行的人工智能监管思路是其主要特征。一方面,分级分类的人工智能风险治理作为数字经济中一种监管理念能够更好地实现科学监管、高效规制、精准治理;另一方面,强调监管机构、科创企业、消费者三者在平等协商的基础上形成共治局面的人工智能监管沙盒实现了“契约”治理。因此,立足我国人工智能立法和发展现状,应构建“分级分类”与“契约”风险治理并行的人工智能监管制度。一是明确分级分类标准,对接相应的数据、算法、平台的治理规则体系,与现有的人工智能事前、事中、事后监管制度实现衔接。二是以国家数据局作为主要牵头机关,程序执行以“场景化”为特征,明确人工智能监管沙盒的五步程序和测试合格标准,坚持个人数据的处理是监管沙盒制度的关键,最终形成政府、社会、企业三方互相合作协同治理的局面。

人工智能去风险原则下的分级治理

人工智能已经成为推动新质生产力发展的重要引擎,日益改变着人类的生产和生活方式。但是,技术黑箱和算法歧视等人工智能的技术风险对公民基本权利和社会安全造成的损害同样不容小觑。如何统筹人工智能的发展与安全,平衡人工智能的监管与创新,是构建人工智能治理体系的核心问题。欧盟《人工智能法案》创造性地依据人工智能风险差异,配置了递进式的合规义务和责任体系,实现了风险预防目标下人工智能分级治理的精细制度安排。当前,我国人工智能分级治理的理念初具雏形,但具体的规范设计尚处于空白阶段。我国可以借鉴欧盟《人工智能法案》的治理经验,以人工智能的专门法律实现统筹与协同治理。可在比例原则的指导下,对人工智能进行合理分级,设定相应的合规义务和法律责任,实现事前、事中、事后的全生命周期治理。同时,应建立“监管沙盒”制度,为人工智能企业提供技术创新的合规豁免,为人工智能的发展创造充足的空间。

基于机器视觉的人工智能分拣系统设计研究

随着机器视觉技术的快速发展,人工智能分拣系统在各行业得到更为广泛使用,也能为智能制造等技术发展创造良好的条件。本文根据机器视觉技术,详细介绍人工智能分拣系统软件、硬件设计情况,并分析其应用情况,以期为机器视觉技术在人工智能领域广泛应用提供重要的参考。

基于Hill分级建立胃食管阀瓣功能自动评估的人工智能辅助系统

目的利用深度学习技术开发基于Hill分级的人工智能模型,提升内镜医师对食管胃连接部形态的分类效率和准确性。方法本研究采集了4个数据集,包括总计1143张胃食管瓣膜(Gastroesophageal Flap Valve,GEFV)图像和17个胃镜视频,涵盖HillⅠ、Ⅱ、Ⅲ、Ⅳ级的GEFV图像。图像经过预处理和增强,利用基于卷积神经网络(Convolutional Neural Network,CNN)和Transformer架构的预训练模型进行迁移学习。评估模型性能时,考量准确度、精准度、召回率、F1得分等指标,并将其与内镜医师在不同阈值下的预测准确性进行对比。为增强模型透明度,采用多种可解释性分析技术,包括t-SNE、梯度加权分类激活映射(Grad-CAM)和SHAP技术。最终,模型被转化为开放神经网络交换(ONNX)格式,并部署到多种设备终端上,以实现GEFV形态的实时Hill分级。结果EfficientNet-Hill模型的性能表现超越了其他6种CNN和Transformer模型,在外部测试集上的准确度达83.32%,略低于高级内镜医师(86.51%),但高于初级内镜医师(75.82%)。另外,该模型在精准度、召回率和F1得分方面分别可达84.81%、83.32%和83.95%。模型在多终端设备部署后实现了超过50fps的实时自动Hill分级。结论利用深度学习构建EfficientNet-Hill人工智能模型,实现了针对GEFV形态的自动Hill分级,能够辅助内镜医师提升内镜下分级的诊断效率和准确性,促进Hill分级纳入常规内镜报告和全球胃食管反流病评估中。

人工智能分级阅读软件在小学语文教学中的应用

随着时代的不断进步发展,人工智能已经被广泛应用在各个领域中,教育领域也不例外。在小学语文教学中应用人工智能能够有效地提高教学的效率,且能够培养学生的逻辑思维能力及创新能力,满足新课程标准对小学语文教学的要求。文章针对人工智能分级阅读软件在小学语文教学中的应用进行了详细的研究,希望能够为小学语文教学提供帮助。

以人工智能分级阅读评价平台推进阅读教学深度发展

上海市实验小学利用文本难易度的量化指标建立文本自动分级模型,结合权威阅读能力评价指标,建设校本人工智能分级阅读平台,探索信息技术为教育教学提供从经验到数据的支持路径,探索技术辅助下的个性化、差异化的阅读教学方法和策略。

人工智能发芽土豆分拣机——基于深度学习的人工智能大单元教学设计

选题背景《新一代人工智能发展规划》将人工智能发展提升至国家战略层面,明确指出要完善人工智能教育体系,在中小学阶段设置人工智能相关课程。《义务教育信息科技课程标准(2022年版)》中提出了对人工智能教育的具体要求。然而,纵观世界各国对于基础教育阶段的人工智能教育尚未形成完整的体系,缺少系统、科学的课程内容,更没有配套的软件平台和硬件形成合力,导致目前相关教学难以有效组织和实施。

基于人工智能的服刑人员分级处遇矫治模式探究

引言分级处遇作为监狱管理的重要模式,旨在通过服刑人员日常的改造表现,依据处遇分级、规范有序、管理分类以及宽严相济的思路,将其划分为不同类别并施以不同待遇,以激励服刑人员自我改造,顺利回归社会[1]。然而,当前我国分级处遇制度在评定过程中,面临着过度依赖民警的主观判断,缺乏统一、准确的执行标准,导致分类化管理不够精细。

基于人工智能的广西都安山羊皮革瑕疵自动检测分级研究

通过文献研究和案例分析,文章探究了基于人工智能的皮革瑕疵自动检测分级技术。文章重点探究如何解决广西都安山羊板皮经脱毛鞣制后,由于其本身的皮质特性使得针对其进行人工检测的人员因受到天气条件、光线变化、视力健康等因素干扰而导致其在标记瑕疵时经常出现错检或漏检等出错率较高的问题。研究认为,基于深度学习(DL)中的全卷积网络(FCN)和机器学习(ML)中的深度神经网络(DNN)等人工智能技术能够对广西都安山羊皮革各类瑕疵进行有效地自动检测分级,最大程度上使广西都安山羊皮革能够更好地对标符合当前中国-东盟RCEP(区域全面经济伙伴关系协定)中对于成员国皮革进出口贸易规范(质量标准)的要求。

人工智能立法中的规制结构设计

人工智能统一立法应引入包容审慎监管理念,为人工智能相关法律、政策、规范的出台设置“缓和期”,可通过引入监管沙盒制度,在沙盒试点中提供规制环境。应引入风险分级分类规制理念,对人工智能应用实施分级、分类、差异化监管。立法应建构人工智能合作治理体系,让地方人民政府编制人工智能规划,以智能服务券等措施提供激励;立法可设计统分式齐抓共管的部门职责分工模式,规定人工智能监督管理协调机制;在“受规制的自我规制”制度下,人工智能开发者、提供者应采取风险管理措施,披露特定信息,制定自我规制规则,夯实组织化保障义务;还应探索第三方治理、专家咨询的制度空间。立法应建构人工智能规制的多元规范体系,明确国家标准、行业标准的功能,拓展团体标准的空间,并注重发挥伦理规范的作用。

生成式人工智能时代人工智能法的立法思考

随着生成式人工智能(GAI)的技术升级和日益普及,人类社会结构形态已经发生了根本性的变化.人工智能技术在发展的同时带来了新的风险和挑战,《生成式人工智能服务管理暂行办法》是中国在GAI领域的最新探索成果,强调发展和安全并重、促进创新和依法治理,为正处于立法进程中的人工智能法提供了借鉴和启示.具言之,人工智能法应考虑采用促进型立法模式,在立法内容上减少使用准用性规范,明确分类分级监管的立法思路,加强人工智能国际交流和合作,通过构建更科学、合理的顶层设计方案,推动科技向善.

人工智能在原发性肝癌影像学的机遇和挑战

原发性肝癌是严重危害个体生命安全的恶性肿瘤之一,影像学在原发性肝癌的诊治过程中发挥着关键作用。精准医疗体系的建立和数字智能时代的到来,不仅加深了人们对肝癌的认识,也完善了肝癌的诊疗手段,人工智能技术在肝癌影像学领域的应用已被广为探索。本文着重对基于医学影像的人工智能在肝脏及肿瘤的分割、肝癌的诊断、组织学分级、微血管浸润(MVI)评估、预测术后复发和治疗后疗效方面的应用进行综述,并且对现有的挑战提出了看法,对未来的发展方向进行了展望。

生成式人工智能场景下虚假信息风险特殊性透视及应对

生成式人工智能改变了传统的信息生产机制而有广阔的应用场景,但其生成虚假信息速度快、逼真度高、无中生有的特征不仅放大了传统的虚假信息风险隐患,还使得信息信任风险成为虚假信息的重要风险类型,也使得社交媒体平台虚假信息治理防线有被全面突破的风险。对此,应基于生成式人工智能对虚假信息治理体系的挑战,从规范依据、虚假信息分类分级和实施部署方面着手推进虚假信息分级治理;应从应用准入、算法治理和训练数据质量管理方面强化虚假信息的源头治理;应从监管协同、义务细化和公私协同方面增强虚假信息的协同治理。

生成式人工智能的刑事法律风险及其合规治理

大数据时代,生成式人工智能迅猛发展,呈现出强大的创造性与适应性。但由于其运作机理及内生缺陷等原因,生成式人工智能在输入、运算及输出各个阶段,可能引发诸如危害国家安全,侵犯公民个人信息、知识产权、商业秘密等刑事风险。应当秉承前瞻性治理理念,坚持刑法的谦抑性,避免刑法过度介入,构建事前合规、事中监管、事后整改的三重分级合规治理体系,以期有效应对刑事责任风险,同时为人工智能技术的广泛应用提供法治保障。

生成式人工智能嵌入数字政府的风险结构及其回应——以风险社会理论为视角

数字政府建设事关国家治理体系和治理能力现代化,与之相关的科学技术风险已然成为生成式人工智能技术嵌入数字政府的重要议题。在风险社会理论框架下,唯有将技术赋能、技术风险以及技术规制进行综合统筹,我们才能完整掌握生成式人工智能应用于数字政府建设的逻辑链条。事实证明,作为一个深度交互的人工智能系统,将生成式人工智能引入数字政府,能够在很大程度上增强数字政府建设的时代性、智慧性和精准性。但与此同时,在将生成式人工智能嵌入数字政府的过程中,也蕴含着一系列的风险和挑战,这集中表现为数据主权风险、文化秩序风险以及数据安全风险这三个层面。在风险社会理论的框架下,科技风险之防范是一个系统工程,既需要宏观层面的制度建构,也需要微观层面的机制填充,唯有立足于数据分类分级、数据责任配置以及科技伦理加以系统重塑,才能最终在利用与规制生成式人工智能之间找寻一个最佳的平衡点。

《学位法》因应生成式人工智能代写论文的细化路径

生成式人工智能代写论文引发了学术不端加剧、学位论文价值立场偏差和信息真伪并存、侵蚀学位申请人隐私权或泄露其未公布学术观点、侵犯他人著作权、对人才评价产生不利影响等浅层风险,以及带来了学位申请人创新精神衰退与道德情感淡漠的深层隐忧。人工智能时代,《学位法》第37条“代写论文条款”细化工作应遵循提升透明度、协同治理、提高数据质量、分类分级监管四项特殊原则,以及维护立法稳定性和确保义务责任相对应两项一般原则。为此,《学位法》第37条“代写论文条款”应坚持双重细化路径:内容层面,依循上述四项特殊原则,为引导生成式人工智能的合理使用和禁止代写论文设定科学标准;形式层面,在上述两项一般原则的理念指导下,依托多元规范性法律文件的协同规制,将细化条款统一于教育法典。

基于生成式人工智能的工业互联网安全技术与应用研究

近年来,人工智能技术飞跃式发展,工业互联网安全与大模型、生成式人工智能等新技术融合成为研究的重点方向和难题。针对工业互联网安全领域面临的突出性问题,对该领域人工智能应用现状进行了分析与研究,提出了一种适用于工业互联网安全的生成式人工智能应用的智能化分级标准;同时,对新技术、新概念、新领域的融合情况进行了总结与展望,旨在为后续工业互联网安全的研究起到指导和引领作用。

人工智能在重大公共卫生事件分级诊疗管理中的作用

在突发重大公共卫生事件中,如何实现快速有效的分级诊疗极其重要。本文通过阐述“智能辅助诊断系统”以及“医学知识小助手图谱”的运用,分析人工智能在重大公共卫生事件中进行分级诊疗管理的赋能作用,人工智能技术有助于促进分级、分层、分流救治,可发挥出分级诊疗的辅助功能,完善国家分级诊疗制度的建设,有力推动应急管理体系与能力现代化的建立。

隧道围岩分级方法研究进展及“人工智能+”应用动态

目前,隧道围岩分级方法有评价围岩稳定性分级方法和评价围岩可挖性分级方法2类,分别对应钻爆法施工围岩分级方法和TBM法施工围岩分级方法。据此,围绕现阶段2类方法研究进展予以分别阐述。首先,针对钻爆法施工围岩分级方法,介绍其发展现状和常用分级方法适用条件,并提出3条后续发展建议:1)重视工程因素对围岩分级劣化的定量表征;2)积极探索围岩亚级精细化分级方法;3)推进围岩分级方法集成化体系构建。然后,针对服务于围岩可挖性的TBM法施工围岩分级,梳理基于围岩可挖性及TBM施工适应性的常见围岩分级方法,并着重关注考虑关键地质因素、TBM掘进参数和渣料特征的TBM综合分级方法。其中,可挖性分级建议以TBM净掘进速度、岩体可挖性和现场贯入度指数等参数作为评价指标,而适应性分级则建议依据卡机风险、TBM利用率或施工速度进行评价。最后,介绍“人工智能+”在隧道工程围岩分级方法的应用动态,探索隧道围岩分级集成算法模型、智能化图像处理技术、云计算、智能决策等新方法及新技术在隧道工程围岩分级方法领域的最新应用动态,并提出“人工智能+”在隧道工程围岩分级领域的未来发展方向。

如何理解和应对欧盟《人工智能法》

3月13日,欧洲议会全体会议初步通过几乎逐字定稿的《人工智能法》。这是当前世界范围内第一个全面规制人工智能的立法。其主要内容可以概括为四个方面。一是定义人工智能、通用目的人工智能以及相关责任主体。二是基于发生风险的概率和严重程度,对人工智能进行全面的分类分级。三是基于分类分级的结果,禁止实时生物识别等少数人工智能,对高风险的人工智能施加一整套的义务。四是通过设立监管沙盒,促进人工智能监管健康发展。