AI透明度和可靠性对人-AI协同决策绩效与信任的影响

目的探索AI透明度和可靠性对人-AI协同中人的决策行为及信任的影响。方法开展一项人-AI协同收入预测实验,实验采用双因素混合设计,其中AI透明度(低、中、高)为组间变量,AI可靠性(60%、75%、90%)为组内变量,共有54名受试者(男、女各27人)参与实验。实验收集了人的决策类型(四种情况:正确接受、错误接受、正确拒绝、错误拒绝)、决策时间、信任、决策正确率和AI依从率数据。结果当AI可靠性较高(75%和90%)时,透明度对人的决策影响不显著;当AI可靠性较低(60%)时,更高的透明度提高了人对AI的依从率。只有在AI给出正确建议时依从率才会增加,AI出错时的依从率(即过度依赖)不受透明度影响。此外,透明度对正确拒绝决策类型没有显著影响。结论透明度有助于提高人对AI的正确依赖,且透明度的增加对人识别AI错误的能力并没有显著的提高作用。