绕过算法黑箱:通过算法代言人建立算法信任的进路初探

人工智能的工程化离不开支撑其运作的复杂算法。但是复杂算法的内部结构就像不透明的黑箱,难以取信于人。为了应对这个问题,人们主要有两个提升算法透明度的方向:一个是寻求技术上的突破,从而彻底解决算法黑箱问题;另一个是通过人为解释,让不透明的算法变得可以被信任。由于人们目前的技术水平暂时无法解决算法黑箱问题,比较有希望的方案是在算法的可解释性方面进行研究。鉴于此,人们可以依据延展心灵理论确定算法的代言人,让代言人利用自己对人类和算法的双重了解,灵活多样地解释算法的输出。这一方案能够在承认黑箱存在的同时,展示算法的可解释性,进而让人们有选择地建立对算法的信任。