人工道德顾问和苏格拉底式虚拟助手--国外对道德人工智能研究的两种进路

道德人工智能的出场,初衷是为避开生物保守主义对生物医学道德增强(BME)的反对。随着研究深入,学者们发现人工道德顾问(AMA)虽能有效避免生物保守主义对生物医学道德增强干涉人的自由的反对意见,却也陷入影响人的自主性的窠臼。人工道德顾问的道德增强方案致力于实现,以高度发达的道德人工智能帮助人们合乎道德地决策。完美道德机器容易使人们产生道德行动的依赖性,人的道德生活有被道德机器宰制的风险。针对于此,苏格拉底式虚拟助手(SocrAI)继而被提出,将人工智能的定位由道德顾问转换为道德教育工具,以道德对话形式帮助人们合乎道德地推理,实现道德增强。