AI换脸技术的失控风险与法律规制

AI换脸技术在社交媒体上愈益广泛使用,很多网络用户将其作为娱乐新方式,从而有可能引发一系列失控风险。相比于欧盟、美国等侧重从隐私权保护的角度予以规制,我国法律认为,根据违法行为所侵犯的客体不同,AI换脸视频可能侵犯他人的肖像权、个人信息以及知识产权等民事权利,滥用AI换脸实施诈骗、盗窃、制造淫秽物品等,则可能违反刑法。根据中国互联网实际,区分AI换脸视频的不同应用场景,分析其可能涉及的法律风险,为AI换脸技术的合理发展提供合规建议。

从结构与管理观点看法教义学的未来——通过实用教义学的AI化开拓理论教义学的新境界

不同于英美法系法教义学的事后—个案研究本质,大陆法系的事前—体系研究固有高度可预测性的维稳功能,但不仅在满足个案特殊情况期待的公平上较为不足,更因法律人投入资源之巨,使得原可保留做理论研究的人力受到挤压,以致形成长期失衡难以逆转的结构。对于没有法学传统,其法治的建构只能高度依赖系统性法制继受的国家,包括中国,其整体教义学研究的投入和产出可说同样偏弱,根本还谈不到实用与理论间的失衡。因此生成式人工智能的新发展,尤其源于其与法教义学近似的学习、生成方式,而有快速消化海量数据的能力,果能做好阶段性规划,包括法律教育与司法体制的重新部署,应可根本翻转大陆法系国家法教义学的失衡结构,或彻底改善其先天不足的处境,大陆法系背后的法治国理念,既都高度倚赖法教义学的支撑,国家应可适度扮演规划监督者的角色。

生成式AI应用于智慧图书馆的数据风险及应对

文章对生成式AI应用于智慧图书馆产生的数据风险进行了深入研究和分析,以明确风险来源和可能的影响,并从实体应对的角度出发,探讨了如何平衡智慧图书馆的数据处理权与读者的个人信息控制权,确保在推进智慧图书馆建设的同时,不侵犯读者的隐私权益。文章认为,应明确图书馆的数据使用范围,并采用技术手段对数据内容进行审查和过滤,以确保数据的合法性和合规性;从程序应对和救济方面,建议构建外部监督与内部监管相协调的多维监管方式,以确保生成式AI技术在赋能智慧图书馆建设的同时得到有效规制,从而平衡技术创新与读者权益保护的关系,推动智慧图书馆的健康发展。

生成式AI的法律风险及应对

随着生成式AI应用在多个领域的兴起,在为经济发展、科技进步注入活力的同时,也存在侵害用户权益、损害公共利益的可能。为消弭技术可能带来的多维度风险,监管需求与日俱增。生成式AI模型与AI系统既存在区别又彼此联系,共同在特定场景下发挥作用,构成对生成式AI规制的逻辑起点。以《AI法案》为代表的欧盟立法具有一定的前瞻性,却也在如风险分级、生成内容审核等多方面存在问题,需要持续完善。生成式AI非普通产品,考虑其动态性与场景化的特征,应当采取具有针对性的规制措施。我国立法可适当吸取有益经验,在价值链主体合作机制构建与平台生成内容审核方面予以创新,提高生成式AI规制的有效性。

新文科背景下AI与法学教育耦合赋能模式研究

AI技术的日趋成熟为法学教育带来了前所未有的影响。AI与法学教育耦合赋能模式的发展动因主要源自国家层面的政策支持、法学人才培养的内在推动、法学教育与时俱进的现实需求。然而,这一转型却面临着诸多困境,如AI与法学教育耦合赋能的理念落后、模式封闭、方法单一、内容固化等。为了摆脱此困境,需要以新文科为驱动力,树立面对数字法治的法学教育理念、构建深度互联互通的教育模式、完善多元协同的教学方法、丰富开放兼容的教学内容,整体上推动AI与法学教育耦合赋能模式的改革和完善。

ChatGPT生成式AI的算法安全风险及治理路径研究

针对生成式AI发展要求,基于算法固有的“黑箱”问题,分析了当前生成式AI算法安全所面临的风险,并从健全算法透明体系、加强算法伦理建设、完善算法问责机制等三个方面提出了加强算法安全管理的对策建议。

生成式AI阶段金融科技数据合规的法律化因应

随着生成式AI时代的到来,金融科技实现智能技术层面的飞跃即将成为现实,而风险治理制度层面的跟进尚未实现。生成式AI阶段金融科技数据风险的防范与规制应成为全新且热潮的法律课题,亟待以更先进、更全面的法律路径对其进行治理。立足生成式AI阶段金融科技的数据质量合规风险、隐私合规风险以及垄断合规风险,合规治理的法律化体系构建被赋予必要性与正当性。但由于其是一种新的法律提法,故而我国的生成式AI阶段金融数据合规体系的构建存在法律制度供给留白、行政引导与监管困境以及司法保护不敷三个层面的法律化障碍。应具有针对性地从立法指引、行政执法、司法运行三个层面实现其法律化体系构建的尝试与突破,但金融数据合规法律化不是生成式AI阶段金融科技数据风险治理的终点,而只是金融科技发展进程中风险治理的阶段性成果,其仍需更多法律化手段的出现。

大模型时代我国人工智能法学理论体系的构建

在大模型时代,人工智能法学及其理论体系迅速发展,逐渐形成独特的学科分支。新兴的人工智能法学不仅重构了传统的法学研究对象,也带来了创新的研究方法,同时提出了与众不同的正义观念。这些理论的形成和发展,与大型人工智能模型(如ChatGPT)的出现密不可分,后者在推动理论更新、促进法治实践全面提升方面发挥了巨大作用。中国在建设自身的人工智能法学理论体系过程中,得益于已有的法学理论基础和人工智能产业的蓬勃发展,然而,研究水平的不均和学科间壁垒的存在,成为建设中的难题。未来的工作需要将基本概念、框架建设以及多维、动态、可进化的理论体系的构建作为重点。技术的进步将不断推动法学理论的演变。从弱人工智能到强人工智能的转变为法学理论的发展带来了挑战和机遇。在这个过程中,确保人类价值观、权利和安全是至关重要的。构建人工智能法学理论体系,需要避免技术的潜在恶意应用,同时引导它向善。这不仅是一个学术上的努力,更是社会对于法律新概念和实践的重塑。这一工作涉及多学科合作,需要全球共识的形成和实践的更新,对法治的未来和法律体系的完善将产生长远的影响。

生成式人工智能的法律风险及其规制

生成式人工智能技术作为一种“破坏性创新”,在推动技术变革的同时,也因其独特的技术逻辑带来了诸多治理风险。如生成式人工智能巨量化数据的训练模式存在数据侵权风险,基于人类反馈的强化学习模式则可能加剧虚假信息的生成和传播,其技术壁垒又会强化互联网巨头的垄断地位,进而带来一系列风险。而我国现行法律对生成式人工智能的规制虽然形成了初步框架,但仍在宏观和微观方面存在困境,以欧盟和美国的监管措施为镜鉴,我国应当秉持包容审慎的理念,协同多元主体对生成式人工智能进行共商共管,通过“共建”“共治”实现成果“共享”。

实体法与程序法衔接视角下生成式人工智能法律地位研究

当前,生成式人工智能在我国民法体系中的法律地位存在学术纷争,引发出其在民事诉讼中地位认定模糊的问题。对此,《生成式人工智能服务管理暂行办法》给出了答案,即仍应将其认定为法律关系的客体,而没有必要规定其作为法律关系的主体。同时,民法主体和民事诉讼法主体分离趋势由来已久,民事诉讼法主体资格的扩张往往是由于实践问题,并在此基础之上才能推动民事主体变更。目前,生成式人工智能本体尚不存在独立起诉应诉的可能性,无法取得独立的民事诉讼主体资格。民事诉讼法应以物作为生成式人工智能最准确的定位,并且根据利用主体不同,从法院和当事人角度分别看待生成式人工智能的运用,妥善利用新兴人工智能技术,以维护司法秩序,实现程序正义与实体正义。

人工智能董事法律地位及其信义义务构想——基于强人工智能视角

人工智能技术的革新速度与应用场景改变了我们的传统认知,人工智能董事已从理论迈入现实。我国的相关发展规划已提出“明确人工智能法律主体以及相关权利、义务和责任”的人工智能发展保障措施。在强人工智能语境下,应摒弃客体说观点,通过法律拟制赋予人工智能董事法律主体地位。基于人工智能董事的特殊性,传统董事忠实义务趋于消解,注意义务“理性人”标准适用性也将存疑。以前瞻性视角审视和革新人工智能董事的信义义务,忠实义务需因应特殊情形,注意义务的范围则呈窄域化倾向,合规监督义务的内涵和边界将实质扩展。

生成式人工智能数据风险的法律规制

随着生成式人工智能技术的颠覆性发展,基于大数据模型应用的ChatGPT类生成式软件提升现实生活及工作品质的同时,在应用的各阶段也带来了诸多数据安全风险。然而我国现行关于生成式人工智能数据风险的法律规制仍存在责任体系不统一、风险防范义务不明确、监督机制不健全等诸多不足。从分类分级的角度切入,应合理协调各类主体的责任及义务,规定行政、民事、刑事责任,通过明晰权利义务的手段构建数据风险防范体系。根据生成式人工智能技术的发展及时通过设立监管缓冲区等手段丰富监管方式,并合理连接私力投诉举报机制和公力投诉举报机制,以期实现生成式人工智能数据风险的全面规制。

论AI与法学教育耦合赋能的动因、范式及进路

AI正在强势崛起赋能法学教育发展,新技术正在催生法学教育新业态。同时,法学教育也在逆向为A I的全面发展提供法律保障的人才供给。AI与法学教育耦合赋能的动因、范式及进路等跨域问题的研究将有益于二者耦合赋能的双赢局面铺开。首先,AI与法学教育耦合赋能具备宏观上的统合发展动因、微观上的双赢发展动因,所以AI与法学教育的融合互动成为必然。其次,AI与法学教育耦合赋能的范式与传统法学教育范式产生诸多差异,具有“跨学科与专业式”“多维嵌入式”“个性式”特点,为AI与法学教育耦合赋能的进路指明了基本方向。最后,二者耦合赋能的进路上可细致以人工智能法学的多环节为路线进行可操作化建议。当然,AI为教育教学的变革创造了无限可能的同时也可能带来负面现代性危机,加速人的工具理性回流,所以也要时刻警惕陷入唯技术论的陷阱。

类ChatGPT生成式人工智能的运行机制、法律风险与规制路径

生成式人工智能通过“准备-运算-生成”的运行模式为人们提供了创造性和高效的内容生成工具,深刻改变了创作、沟通和信息传播方式。但其在给人们带来便利的同时也带来了一系列的法律风险,如在准备阶段出现了数据安全和算法偏见风险等问题,在运算阶段存在隐私泄露和网络侵权、欺诈风险等问题,在生成阶段引发了版权及版权归属不明和商业秘密泄露及其导致的不正当竞争等问题。对于以上法律风险问题,需要以安全负责和科技向善为着眼点,选择相对应的法律规制路径,这有助于平衡技术创新与社会稳定之间的关系,保障公众权益。

法律人工智能定位论及其思考

对法律人工智能的基本定位,目前法学界主要存在两种观点:一为AI乐观主义替代论,认为法律人工智能能够在未来获得更广泛深入的应用,进而取代人类处理案件;一为AI工具主义辅助论,认为法律人工智能尚无取代人类的能力,只能将其视为司法的辅助工具。这两种观点的分歧不仅可能导致肯定者对AI技术的过度迷信和依赖,亦可能导致质疑者过于强调AI的局限进而阻碍其进步,更可能导致未来“AI+法律”应用在发展方向上的混乱。因此,有必要厘清AI在法律应用中的定位:在目前“弱人工智能”局面下,应依照不同的司法场景,根据法律人工智能具体能够实现的功效来定位其应用范围。在简单标准案件中,应将其定位为替代工具,将大量机械、流程化的事务性工作交由AI自动处理,减少人力的重复使用,提高司法实践的准确性与效能;而在复杂疑难案件中,则应将其定位为辅助工具,辅助律师和法官完成案件管理、事实调查、案情梳理、庭审提醒等工作。取其所长、避其所短,让AI做其能做又能做好的工作。

论人工智能语境下科技法律伦理的现代流变

人工智能的发展改变了法律伦理的制度基础和历史背景。在现代场景下,对法律科技伦理进行反思和抽象成为必要。这需要借助科技法律发展的伦理史观的考察,重新审视法律伦理观的历史变迁,并对其进行现代性思考,以凝练符合现代时代特征的科技法律伦理观念。机器的使用和人工智能的发展让科技法律伦理可以分为先机器时代、工业革命阶段以及强人工智能时代三个阶段。在人工智能时代,传统科技法律伦理所坚守的价值和社会现实发生了质性的改变,需要基于现代性认知重新构建科技法律伦理的制度基础和价值共识。因此,在守正的基础上,需要对现代科技法律伦理观的表征和属性进行新的思考,以实现在人工智能背景下物理与人的界限、公民、社会、法律的关系以及法律伦理制度体系的革新和再造。

中美欧生成式人工智能政策法规比较研究及启示

生成式人工智能是利用复杂的算法、模型和规则,从大规模数据集中学习,以创造新的原创内容的人工智能技术。该技术全面超越了传统软件的数据处理和分析能力。以Chat GPT为代表的生成式人工智能技术在各行业、各领域都具有广泛的应用前景。然而,在推动人工智能技术发展的同时,我们必须确保其应用符合法律法规和伦理原则,避免潜在的法律和伦理风险,包括数据使用风险、生成内容滥用风险、算法滥用风险以及其他风险。文章通过对中美欧生成式人工智能相关政策法规的发展历程进行比较分析,进而为相关企业防范生成式人工智能带来的法律和伦理风险、保障企业健康发展提供商业启示。

生成式人工智能的刑事风险与规制

目前,生成式人工智能的数据交互行为有相关政策进行引导,并将类人化行为中部分数据交互和生成行为进一步拟制为刑法所规制的危害行为。但是,以ChatGPT为代表的生成式人工智能创设的刑事风险种类多样,包括法益侵害、数据泄露、数据滥用和算法技术滥用等风险。面对这些新型风险,刑事规制手段应当立足于生成式人工智能的技术机制,以刑事合规和相关法规范为主要措施进行规制。文章认为,应主要从数据风险预防和数据安全风险处理两个方面进行刑事合规,并加强相关法规的效力。

AI换脸技术产生的危害与应对措施

如今,人工智能技术日新月异,不仅方便了人们的日常生活,也丰富了人们的娱乐方式,AI换脸技术便是其中的代表。但是科技是一把双刃剑,由于AI换脸技术过于新颖,目前尚无法律明确约束,极易导致侵权和造假的法律风险出现,给被换脸的当事人带来了很大困扰,也容易给本就已经纷繁复杂的社会带来更多不稳定因素。如何正确认识AI换脸技术,并利用法律规范正确引导AI换脸技术发挥正向、积极的作用,是我们必须探讨的问题。

AI算法专利保护研究

AI算法作为智能技术的核心,能够运用在技术领域,解决技术难题,故可以将其纳入知识产权客体范畴。从AI算法的技术特征与法律属性来看,现有著作权法保护模式容易局限于保护其具有差异性的代码内容,采取商业秘密保护模式不仅会引发“算法歧视”等风险,还会抑制其技术的创新,而以“公开换保护”的专利法保护模式既能给予其最大的保护空间,又能在一定程度上规制其引发的社会风险。我国现行《专利审查指南》虽已将具有“算法特征”的技术纳入保护范畴,但并未明确其具体的专利审查规则。基于此,应当结合AI算法的客体属性,调整其“专利三性”的审查标准,以回应其技术保护的现实需求。