人工道德顾问和苏格拉底式虚拟助手--国外对道德人工智能研究的两种进路

道德人工智能的出场,初衷是为避开生物保守主义对生物医学道德增强(BME)的反对。随着研究深入,学者们发现人工道德顾问(AMA)虽能有效避免生物保守主义对生物医学道德增强干涉人的自由的反对意见,却也陷入影响人的自主性的窠臼。人工道德顾问的道德增强方案致力于实现,以高度发达的道德人工智能帮助人们合乎道德地决策。完美道德机器容易使人们产生道德行动的依赖性,人的道德生活有被道德机器宰制的风险。针对于此,苏格拉底式虚拟助手(SocrAI)继而被提出,将人工智能的定位由道德顾问转换为道德教育工具,以道德对话形式帮助人们合乎道德地推理,实现道德增强。

人工智能技术辅助人类道德决策的可行性研究

20世纪中叶罗德里克·弗思提出的"理想观察者"的理论模型,为道德增强提供了基本的思路,可以启发我们设想出一种辅助人类做道德判断的人工智能形式——"人工智能道德顾问"。它和"理想观察者"之间有着诸多相似性:二者在道德判断中都是无私的、冷静的和坚定的,它们之间的差异在于:"理想观察者"是绝对完美的理论模型,但人工智能道德顾问是相对的、致力于实用的具体工具,它将考虑使用者自身具体的道德原则和价值观,并尊重个体的道德自由、直觉与情感,同时又可以帮助个体实现反思平衡。因此,人工智能道德顾问能够严肃地回应保守主义对人类道德增强的反对意见,并弥补高技术环境下人类道德能力的不足,帮助人们做出更为理性的行为选择,从而有效地消除技术偏见,更好地发挥人工智能技术在道德领域的积极作用。