欧盟人工智能立法:社会评分被禁止了吗?

EU Artificial Intelligence Act:Has the Social Scoring been Prohibited?

对个人进行社会评分是自动化决策和数字行政的典型应用场景。欧盟人工智能立法采用了风险分级监管模式,符合特定条件的社会评分可能产生不可接受的风险而应当受到禁止。在立法演进过程中,最初试图禁止的是公共机构对个人可信度或道德人格的一般性评估,后来删除了主体要件和目的要件,扩大了受禁止的社会评分的范围。根据欧盟议会在2024年3月通过的《人工智能法案》的规定,通过分析个人的社会行为、个人的或人格的特征数据作出社会评分,并由此对个人或其群体做出不利对待时,若使用了超出原初场景的数据,或者此不利对待是不公正的、不成比例的,则该类社会评分应受禁止。禁止社会评分的立法目的在于防止其侵犯基本权利所保障的个人自主性和公正对待。通过在人工智能立法中禁止特定情形下的社会评分,可以弥补既有法律框架下以程序性赋权为主的数据法规范模式的不足,为个人提供实质性保护。