人工智能技术辅助人类道德决策的可行性研究

On the Feasibility Analysis of “Artificial Moral Advisor”

20世纪中叶罗德里克·弗思提出的"理想观察者"的理论模型,为道德增强提供了基本的思路,可以启发我们设想出一种辅助人类做道德判断的人工智能形式——"人工智能道德顾问"。它和"理想观察者"之间有着诸多相似性:二者在道德判断中都是无私的、冷静的和坚定的,它们之间的差异在于:"理想观察者"是绝对完美的理论模型,但人工智能道德顾问是相对的、致力于实用的具体工具,它将考虑使用者自身具体的道德原则和价值观,并尊重个体的道德自由、直觉与情感,同时又可以帮助个体实现反思平衡。因此,人工智能道德顾问能够严肃地回应保守主义对人类道德增强的反对意见,并弥补高技术环境下人类道德能力的不足,帮助人们做出更为理性的行为选择,从而有效地消除技术偏见,更好地发挥人工智能技术在道德领域的积极作用。