大模型安全风险评估与防御技术综述

近年来,数据量、算力规模和模型参数持续增长,推动了大模型相关技术的迅猛发展。当前,大模型技术已经在现实场景中的多个领域展现出了巨大的应用价值,极大地推动了社会生产力的发展进步。然而,随着其应用的不断深入,相关的安全问题也日益凸显,新型安全威胁层出不穷,给社会带来了严峻的挑战。