如何走出AIGC的“科林格里奇困境”:全流程动态数据合规治理

[目的/意义]AIGC的快速发展带来了安全风险与规制问题,遵循AIGC的发展趋势构建全流程动态数据合规治理机制,能够帮助AIGC走出“科林格里奇困境”。[研究设计/方法]通过梳理AIGC与数据治理之间的赋能与保障关系,结合AIGC规制的国际实践经验进行“科林格里奇困境”规制博弈分析,探析AIGC创新发展与规制的路径。[结论/发现]无论是欧盟的强硬规制、中国的谨慎监管还是美国的行业自律,都在不同维度显现出规制的局限性,可以通过全流程动态化规制手段适配AIGC的动态化发展趋势,构建基于数据合规治理的AIGC全流程动态规制机制,帮助AIGC走出困境。[创新/价值]基于数据合规治理的AIGC动态规制机制能够不断改进规制体制和工具,为AIGC相关技术落地具体应用领域提供思路。

数字经济创新中的“科林格里奇困境”及其规制

创新是一把“双刃剑”,数字经济领域的创新亦然。在我国实施创新驱动发展战略的背景下,我们既期待创新,又警惕创新带来的意外风险。创新是面向未来的冒险,规制者在事前很难预测创新的方向,事后又难以承受不可逆的意外后果,这样的两难困境使规制决策困难重重,这是“科林格里奇困境”的再现。作为应对之策,先鼓励—后治理的静态规制思维难以匹配数字经济的动态发展规律,中国应摒弃这种两阶段的市场规制模式,代之以创新与规制同步进行的动态规制思维。从这个意义上说,策划创新模型有可取之处。该理论模型面临的信息不对称和激励偏差问题,可借助动态的规制体制及其信息反馈系统加以缓解。未来我国应在法治轨道上构建动态化的规制体制,以动态的规制标准引导高质量的创新,并运用创新成果反哺规制体制,确保市场规制法适应数字经济的动态发展。

数字治理的“科林格里奇困境”:风险、发生逻辑与防范之策

数字治理不仅是“基于数字技术的治理”,而且也是“对数字技术的治理”。前者是数字技术对治理的赋能,后者则指向数字技术的潜在风险。在数字治理实践中,数字技术的积极效果总是立竿见影,消极后果却不易显现,以至于对数字技术的潜在风险进行治理很容易被忽视,从而使数字治理可能陷入“科林格里奇困境”。“科林格里奇困境”就是技术控制悖论:在数字技术应用早期,人们的控制能力相对较高,但因缺乏对技术负面影响的认知而不知如何进行控制;随着数字技术成为治理体系中的结构性要素,即使其不良后果已经显现,但因其与政治、经济和整体社会的高度融合而难以彻底调控。数字治理时代,提升数字治理能力和治理水平,不仅要求加强数字技术运用能力,也要增强数字技术调控能力,以应对与数字技术发展相伴相生的风险与挑战,这也是数字治理走向“善治”过程中亟须应对的重大问题。

技术控制困境的伦理分析——解决科林格里奇困境的伦理进路

技术控制的科林格里奇困境呈现出了权力、知识、时间三个维度,通过分析发现,科林格里奇困境暗含的前提是技术与社会的二元对立。对此,技术的社会建构论视角为打破科林格里奇的二元对立提供了理论依据。通过分析技术控制呈现出的价值意蕴与建构特征发现,科林格里奇困境需要在技术发展过程中引入伦理因素予以解决。根据侧重点及介入程度不同,伦理介入的路径主要有两条:建构性技术评估与技术道德化设计。在具体的介入情境当中,技术伦理学家从审慎的反思者转变为积极的行动者参与其中,为协调利益冲突、实现道德物化提供行动框架和理论支撑。

从技术控制的工具论到存在论视域的转变--析科林格里奇困境及其解答路径问题

科林格里奇困境是对当代技术创新与社会发展之间张力关系的一个典型描述:技术的逻辑可塑性决定了其与社会相融合的过程充满了不确定性,而这种不确定性又导致技术的社会评估、预测和控制总是有限的、被动的。这种被动关系是和技术的工具主义观点密切相关,也是长期以来科林格里奇困境流于“技术调节”式解决方案的重要原因。由于在社会与文化的相对稳定性以及新技术发展的革命性和“超前性”之间存在着不可回避的冲突,使得纯粹技术解决路径难以行得通。这一困境本身不只是一个简单的技术和认识论问题,技术作为一种社会存在,其本体论维度是不能忽视的。按照这一思路,在应对技术创新与社会冲突问题时,我们还特别需要在“科学-技术-社会”的存在论情境中去分析和解决问题。

中国生成式人工智能顶层设计的伦理视界

人工智能是我们这个时代最强大的技术之一,作为颠覆性技术集成,生成式人工智能表征着当前技术发展的新阶段。生成式人工智能是一个“可怕的好东西”,它嵌入社会的广度、深度、速度在叠加推进,其高度不确定性将全面超出传统的治理能力。生成式人工智能在发展中凸显了“科林格里奇困境”,如何破局是世界级难题。中国生成式人工智能顶层设计为破解困境提供了中国智慧和中国方案。

ChatGPT的治理挑战与对策研究——智能传播的“科林格里奇困境”与突破路径

以ChatGPT为代表的智能传播将带来人类信息传播范式的根本转变,也意味着旧有治理范式的失效和缺失,网络治理进入全新的深水区。ChatGPT作为通用人工智能(AGI)和通用目的技术(GPTs)发展的里程碑,颠覆了以内容为中心的传统大众传播模式和以用户为中心的社交媒体传播模式,迎来了以数据和算法驱动的“暗网式”大集市传播模式,将极大改变现有的传播规则、传播秩序以及传播伦理,是一次社会权力的再转移和再分配,将给科技、经济、社会、政治和国际秩序等各个层面带来重大变革与巨大冲击。本文从传播变革的基础逻辑入手,系统研究ChatGPT背后的传播机制和内在规律,深入分析各层面可能面临的治理挑战,并由此建构未来治理逻辑和制度框架的基础。文章认为,治理的关键在于时机的把握,应根据ChatGPT类应用的主流化进程,探索“先发展,再治理”和“边发展,边管理”两种节奏的灵活组合。而且,技术创新是ChatGPT治理的最终决定因素,中国ChatGPT的发展与治理应建立在不亚于甚至超越美国企业的技术水平和竞争能力之上。

技术评估中的科林格里奇困境问题

科林格里奇困境是技术评估中一个十分著名的难题。首先分析了它本身包含的三个维度,即时间维度、知识维度和权力维度,并指出它的理论基础其实就是传统实证主义科技观。接着借助于20世纪80年代从STS中发展出来并从根本上颠覆传统实证主义科技观的技科学视角,对它的三个维度进行重新解释与修正,最后消解了这个困境,这能为我国技术评估工作带来一些有益的新启示。

扩展的行动者网络——解决科林格里奇困境的新路径

科林格里奇困境是技术的社会控制困境。科林格里奇本人试图通过使技术具可改正性、可控制性和可选择性,通过改变技术决策来解决该困境。然而,该外在于技术的建构网络的解决方案面临着控制者和知识等方面的问题,难以有效地预测和调整技术。扩展的行动者网络试图将对技术的控制内化于技术建构的行动者网络中,将对技术进行控制的时间覆盖技术建构及其迭代建构的全部过程,通过不断扩展异质的行动者,扩展嵌入、非嵌入的编码以及意会知识,在扩展的技术建构中实现对技术的有效控制。

预知性技术伦理消解AI科林格里奇困境的路径分析

人工智能的关键特征是采取最优行动,而该特征会直接导致人工智能难预知性和风险性的属性,进而使其社会负面影响呈现出早期难预测和后期难控制的特点,此称为人工智能的科林格里奇困境。而单一的技术向度解决科林格里奇困境对人工智能技术的特性提出了严苛要求,导致其适用范围的局限性。鉴于此,我们引入了现代伦理方法:预知性技术伦理(ATE),并用行动者网络理论对其责任分配问题进行了补充。在技术设计阶段渗透价值并映照社会行动者网络以解决人工智能社会后果在前期难预测、后果难纠正的问题,进而达到消解人工智能科林格里奇困境的目标。

破途寻优

科林格里奇困境,“一项技术如果因为担心不良后果而过早实施控制,那么技术很可能难以爆发。反之,如果控制过晚,已经成为整个经济和社会结构的一部分,就可能走向失控,再来解决不良问题会变得昂贵、困难和耗时,甚至不可改变。”面对当下各种大模型浪潮的风评,此起彼伏。好像科林格里奇困境一般,有积极拥抱者,亦有观望持疑者。局面已开,企业如何对新技术自控,又如何利用现有基础,良好与之连接,是绕不开的路标,必须清醒认知,方可赶路。

算法认知战背后的战争规则之变与AI军备竞赛的警示

俄乌冲突已然成为全球AI前沿技术的“超级实验室”,极大地突破了法律和伦理的制约与边界。美国及其联合成立的北约组织借助算力、算法、数据和平台的强大智能优势,发动了强大的算法认知战,极大地改变了俄乌冲突双方的态势,新型的战争形态浮出水面。算法认知战基于全球一体化的网络空间,突破地域边界,形成全球性作战和动员能力,凸显了数字时代战争形态和规则的颠覆性变革。算法认知战具备能够超越国界,只需装备、技术、数据和情报等投入,深度策动并参与战争,威力大、效果好、成本低和几乎免除了战争的各种直接风险等特征,必将成为未来人工智能军备竞赛的重中之重。俄乌冲突昭示着AI技术的“科林格里奇困境”已经全面到来,算法认知战则成为首先挑战AI规范和伦理的行为,是对人工智能最危险的滥用之一。

数字新型基础设施建设下的安全风险及其治理

基建迭代,安全风险有变,治理方略有别。本文在公共管理和风险治理主题下,遵循"风险呈现—风险属性—治理挑战—治理回应"的逻辑主线,探讨国家布局数字新基建后安全风险的新变化及其治理问题。研究发现,数字新基建下,数字化安全风险激增,社会安全风险复发,政治安全风险上升,风险边界扩大、影响外溢;传统风险向新兴风险转移,目标风险与次生风险博弈,客观风险与感知风险交织,风险治理将面临"科林格里奇困境""按下葫芦浮起瓢""多安全才安全"等多重挑战。因此,数字新基建下,要积极适应新兴风险,随着风险的持续呈现和认识深化适时调整治理方略;要正视风险多元化,将原来只关注目标风险的治理框架改进为综合权衡目标风险和次生风险的治理框架;要重视感知风险,通过多层次风险沟通策略,凝聚风险共识,推动风险共担。

元宇宙规则构建的割裂、盲区和统合:以负责任创新作为出发点

在Mark Zuckerberg将脸书公司易名为Meta之后,“元宇宙”的概念不胫而走,不仅成为“下一代互联网”商业炒作的热潮,也是各学术领域(包括法学在内)争相热议的主题。然而,快速走红的繁杂叙事中,我们很少看到理性审慎的反思和系统缜密的思考。关于元宇宙规则构建出现了相互孤立、彼此割裂的讨论,在局部或者在一端呈现着对元宇宙的规制想象。本文尝试梳理国内元宇宙法律讨论的两种叙事(分别为科技规制和法域延展),探索其中的割裂和盲区,以及可能统合的方式。笔者主张,在整个知识生产链条上,法学工作者实际上处于末端,理应秉持着审慎、反思、慢思考的本性,不宜冲在最前。交叉学科大行其道的当下,法学家当然可以走出藩篱,前提要能够接受并理解法域之外的概念和框架,而不是仍在传统法学逻辑下“新瓶装旧酒”。本文简单论述“负责任创新”(Responsible Innovation,RI)框架在元宇宙研究上的相关性和重要性,为相关法学讨论的跨学科转向提供一些域外观察。

机器人情感叙事中的性别与伦理反转——基于《我是你的人》等作品的分析

德国科幻在世界机器人叙事史中拥有举足轻重的地位,《我是你的人》是近年来的代表作。在传统女性机器人叙事中,既有对女性的物化、矮化与妖魔化,也有男性欲望、恐惧与危机的显影。《我是你的人》实现了机器人情感叙事的性别和伦理反转:女主人公坚持人性的复数性和对幸福的自主追求,以人性和人类未来之名拒绝了对男性机器人的情感依赖,以规避科林格里奇困境。这部电影展现了当代人对科技依赖的拒绝,以科幻思想实验的方式参与了科技思考。

斯威斯卓预判性技术伦理研究

斯威斯卓预判性技术伦理是预判性技术伦理的一种典型进路。深刻揭示了斯威斯卓预判性技术伦理的形而上学基础和伦理旨趣,深入阐述了斯威斯卓预判性技术伦理建构的公众伦理辩论结构和详细分析了它开发的四种公众伦理辩论模式,即后果论的辩论、义务论的辩论、正义的辩论和"好的生活"伦理的辩论。斯威斯卓预判性技术伦理有效克服了科林格里奇困境,为分析和识别新技术和尚在研发中的技术蕴含的伦理问题提供了新的路径。