生成式人工智能治理行动框架:基于AIGC事故报道文本的内容分析

[目的/意义]生成式人工智能(Generative AI)的突破性进展带来了人工智能生成内容(AIGC)的爆炸式增长,不可避免地将人们置于信息过载、信息噪声、信息安全等的负面影响之下,使得社会信息治理面临新的挑战。分析和探讨现有AIGC事故的特征属性,对我国生成式人工智能治理有参考借鉴作用。[研究设计/方法]基于AI事故数据库(AIID),以AIGC相关事故报道为样本进行内容分析,探析现有AIGC事故的类型、原因、损害对象和应对措施。[结论/发现]AIGC事故影响客体的多元性、波及范围的广泛性、潜在危害的复杂未知性,导致任何单一行动主体的资源和能力都无法有效应对危机,需要政府、企业、社会三方行动主体形成“多元+协调+制衡”的治理参与模式,并在“情境-意识-行动”的行动框架下开展信息治理。[创新/价值]引入了AIID作为案例来源数据库,提供了关于现有AIGC事故相关细节的直观论证,并通过内容分析形成了AIGC事故分析三级类目框架。构建的生成式人工智能治理行动框架有助于从宏观视角促进我国生成式人工智能治理的探索和实践。