技术扩散基础上的整体性对齐:大模型的开源与闭源之争

大模型的开闭源是目前一个重要的争论点,这种争论主要集中在效率问题、安全问题以及平等化与民主化问题上。促使大模型开源的动力主要来源于两个方面:一是开源大模型在市场上的独特优势所带来的经济利益;二是带有一定理想主义色彩的开发者对技术平等和技术民主的追求。大模型开源亦面临一些挑战,包括经济效益挑战、社会加速挑战和社会安全挑战。后两种挑战需要人类社会进行应对,包括两种方式,一是通过适当的闭源来缓冲技术扩散的速度,二是通过对齐技术来对大模型进行人类社会规则约束。大模型对齐应当是整体性的,包括阶梯性的对齐、人与大模型的双重对齐和大模型生产全过程对齐三个基本方面,而其实现机制包括透明性机制和协商机制。