人工智能使能系统的可信决策:进展与挑战

人工智能的应用已经渗透到许多领域,对社会经济和人民生活产生了重大影响。但其在自动驾驶和智能医疗等高风险应用中产生了许多不可预知的风险和事故,使得人们对人工智能使能系统决策产生了信任危机,人工智能可信决策的研究也随之兴起。本文首先分析了人工智能使能系统的风险和不确定性,根据其风险来源,从模型、数据和信任等三方面重点阐述了人工智能可信问题的研究进展,从管理视角提出了多重不确定情境下人工智能使能系统可信决策的挑战,以及贯通人工智能系统生命周期的人机协同可信决策框架,最后对人工智能使能系统可信决策研究进行了展望,期望对解决多重不确定情境下的可信决策问题具有理论上和实践上的指导意义。