生成式AI算法训练风险的合规管理研究

Research on Compliance Management of Risk in Generative AI Algorithm Training

生成式AI算法训练活动容易引发数据违法或质量低劣、算法偏差(错误)、偏见与歧视以及触碰反垄断红线等诸多风险,对社会与经济产生显著负外部性。而当前的风险治理机制面临防范不足、规制滞后、治理失范等困境,故而应考虑将生成式AI算法训练风险引入合规管理。生成式AI算法训练风险的依法治理和包容治理证成了对其进行合规管理的正当性和可行性。具体到生成式AI算法训练风险合规管理的实践路径:首先对其法律制度体系进行梳理,据此提炼和总结出生成式AI企业具有算法训练合规管理的法定义务,并且明晰对其全方面的法律监管要求。然后生成式AI企业应据此实施算法训练合规管理,主要包括实施原则的确定和实施方案的具体构建。前者包含生成式AI算法训练计划、过程以及结果的全流程合规,后者包括构建算法训练合规管理基础性平台和对算法训练全流程合规风险的处理。同时,为保障生成式AI企业依法实施算法训练合规管理,需优化企业对外面向的行政监管与激励机制。