商业自动化决策规制的私法困境及其完善路径

商业自动化决策中被决策主体不享有算法解释权。商业自动化决策的私法规制框架是以告知同意规则-事前告知义务、个人信息处理知情权-事后说明义务和自动化决策结果拒绝权为核心进行的规范体系构建。但这种规范以保障被决策主体知情为逻辑起点,不能有效解决自动化决策中普遍存在的算法黑箱问题。商业自动化决策需公私法协同规制。首先,私法层面应着眼于自动化决策的一般逻辑(框架层面),细化数据主体事前告知义务和事后说明义务的范围,明确自动化决策结果拒绝权的适用情形。在自动化决策前,商业决策主体不仅应向被决策主体主动告知自动化决策的一般逻辑,还应主动告知该自动化决策可能引发的风险。在自动化决策后,商业决策主体应对影响被决策主体权益的相关信息进行具体说明。此外,自动化决策结果拒绝权的行使需受“对个人权益有重大影响”与“仅通过自动化决策的方式作出”的双重限制。其中,是否“对个人权益有重大影响”的判断标准为是否严重改变了被决策主体的利益状态;而是否“仅通过自动化决策的方式作出”则需纳入商业决策主体的事前告知义务范围。其次,公法层面应着眼于自动化决策的具体逻辑(算法层面)并进行穿透式监管,即通过算法备案-实质审查和算法备案-动态监管的方式解决算法黑箱可能带来的侵害问题。

我国商业自动化决策的算法解释权研究

《中华人民共和国个人信息保护法》的颁布为我国提供了商业自动化决策算法解释权的法律依据,但在适用范围、解释标准和适用时间阶段等方面仍存在不明确之处。商业自动化决策算法解释权作为一项由被决策者行使的权利有其存在的必要性。根据个人信息自决权理论以及算法规制理论,商业自动化算法解释权的制度设计既要能够保护被决策者的个人利益,又不能过度限制决策者对数据的开发和利用。就优化的具体方案而言,被决策者的算法解释权应当存在于商业自动化决策做出的全过程,并且以重大影响为标准,区分情形地设定商业自动化决策算法解释权的适用范围、解释标准以及权利实现的方式。