生成式人工智能应用于司法审判的风险及防范

Risks and Prevention of Judicial Trials on the Application of Generative Artificial Intelligence Applications

生成式人工智能在司法审判领域能够助推类案类判、智能生成文书、精确定罪量刑、辅助证据认定等。生成式人工智能在司法审判的应用得到国家政策的支持,应用技术成熟、经验丰富,具有应用正当性。其能够确保审判公正,提升审判效率,加强审判监督,具有应用必要性,但也存在“算法黑箱”损害程序正义、数据不良导致结果误差,信息输出侵犯数据隐私的算法公正性、准确性、安全性的风险。应通过完善司法程序规制算法公正性风险,优化训练数据规制算法准确性风险,统一司法应用规制算法安全性风险。