算法自动决策下人类主体性危机的立法应对

Legislative Responses to the Crisis of Human Subjectivity under Algorithmic Automated Decision-Making

算法自动决策的本质不是主体法律行为,是大数据收集分析和程序运算的结果,但算法自动决策结果被用于替代人为决策,就需要符合人类社会行为准则和人类价值观。算法自动决策带来了忽视人的主体地位、损害人类社会伦理和公平、侵蚀人的自治机会和意识等负面效应,归根结底是数据处理与算法设计出现问题。人工智能在本质上属于物的范畴,最终应用算法自动决策的是人工智能产品,因此,为保障自动决策技术不违反服务人类社会的最高目标,可以借鉴产品质量制度在算法程序设计中嵌入强制性算法伦理标准,确保自动决策的结果符合法律法规、符合人类社会共同价值观和伦理准则。在算法自动决策过程中要保障信息主体的自决权利、落实数据处理者的义务以防范数据滥用;在算法自动决策致损他人时,应由产品生产者承担无过错产品质量责任、用户承担一般侵权责任,以此督促有能力采取措施的主体控制自动决策风险。