人工智能道德顾问的伦理问题

对道德提升的普遍反对意见是其对行为主体的挑战,而提倡人工智能道德顾问的学者认为,人工智能道德顾问不仅可以保持人类道德价值观的多元化,还可以帮助用户克服心理局限增强自主性,所以比其他形式的道德增强更具优势。对人工智能道德顾问进行综合分析,指出研发与应用人工智能道德顾问技术将面临的伦理问题,包括道德相对主义、道德主体判定、行为隐私保护、行为责任认定等问题。目前人工智能道德顾问不会超越人类的道德权威,在承认自身的道德局限性的同时,应合理利用人工智能实现道德主体潜力的最大化。

人工智能道德顾问的合理性反思

作为理想观察者的准相对论版本,人工智能道德顾问(AMA)技术能够根据个体道德标准和道德价值观提供最好的道德建议,以道德顾问和劝导者的形式改善人类的道德决策,增强个体道德自主性和道德自由,保存个体的道德理性和道德权威。AMA能够独立于情感的扭曲影响并保持情感的积极作用,从而执行不需要情感作用的认知功能以实现其启发式影响。作为一种外部的道德增强技术,AMA既不存在内部干预措施预期结果的伦理争议,也没有干预手段自身的内在错误,在道德自由、道德增强和道德责任等方面都具有合理性。

人工道德顾问和苏格拉底式虚拟助手--国外对道德人工智能研究的两种进路

道德人工智能的出场,初衷是为避开生物保守主义对生物医学道德增强(BME)的反对。随着研究深入,学者们发现人工道德顾问(AMA)虽能有效避免生物保守主义对生物医学道德增强干涉人的自由的反对意见,却也陷入影响人的自主性的窠臼。人工道德顾问的道德增强方案致力于实现,以高度发达的道德人工智能帮助人们合乎道德地决策。完美道德机器容易使人们产生道德行动的依赖性,人的道德生活有被道德机器宰制的风险。针对于此,苏格拉底式虚拟助手(SocrAI)继而被提出,将人工智能的定位由道德顾问转换为道德教育工具,以道德对话形式帮助人们合乎道德地推理,实现道德增强。

人工智能技术辅助人类道德决策的可行性研究

20世纪中叶罗德里克·弗思提出的"理想观察者"的理论模型,为道德增强提供了基本的思路,可以启发我们设想出一种辅助人类做道德判断的人工智能形式——"人工智能道德顾问"。它和"理想观察者"之间有着诸多相似性:二者在道德判断中都是无私的、冷静的和坚定的,它们之间的差异在于:"理想观察者"是绝对完美的理论模型,但人工智能道德顾问是相对的、致力于实用的具体工具,它将考虑使用者自身具体的道德原则和价值观,并尊重个体的道德自由、直觉与情感,同时又可以帮助个体实现反思平衡。因此,人工智能道德顾问能够严肃地回应保守主义对人类道德增强的反对意见,并弥补高技术环境下人类道德能力的不足,帮助人们做出更为理性的行为选择,从而有效地消除技术偏见,更好地发挥人工智能技术在道德领域的积极作用。