算法决策优化的伦理进路:道德阈限、责任界分与技术嵌入

算法作为一种决策或预测的技术存在,既重塑人类生产方式,也冲蚀法定权利、削弱道德原则、损伤相关者利益。从算法作为决策价值承担者和决策责任分配者等两个方面,厘清算法决策承载价值并非中立。因此,以推动“算法向善”为目标,从道德阈限、责任界分、技术嵌入等维度提出对算法进行价值敏感设计,进而实现算法决策的公平、准确与客观。

算法推荐赋能道德教育的价值、风险及治理

算法推荐是人工智能背景下内容传播的重要技术手段,可有效提升内容的渗透性、受教育者的主体性以及教育的亲和力,彰显出较强的道德教育价值意蕴。同时需注意的是,算法推荐在运用于道德教育的过程中可能引发道德认知窄化、道德情感疏离、道德意志弱化、道德行为掩饰等风险问题,从而导致负面效应。鉴于此,从立德树人的根本任务出发,在道德教育领域算法推荐技术的应用应始终保持在合理的限度,应以算法优化促进多元内容传播,以人机协同增强虚拟网络关照,以系统思维引领正确价值导向,以道德约束达到自律他律平衡,使智能技术更好赋能道德教育的行为引导与人格塑造。

算法推荐引发道德认知偏差的症候、成因与规制

认知主体的技术具身与分化、认知对象的数字解蔽与遮蔽、认知环境的精准架构与固化、认知载体的价值中立与偏向是算法推荐技术赋予道德认知的双重语境,不仅为精准把握人的道德认知需求、驱动人的道德提升提供了现实可能,还引发了道德认知的偏差问题。算法推荐技术引发的道德认知偏差,以话语陷阱、情感极化、信息茧房为表征,以认知图式异化、认知理性缺位、认知空间窄化为生成逻辑,其生成与算法剥夺造成智能依赖、技术僭越带来主体式微、资本外溢引发价值遮蔽密切相关。规制算法推荐引发的道德认知偏差,需要以算法素养提升破解算法宰制、以人的逻辑超越算法遮蔽、以核心价值观引领算法方向,重塑人的主体性及其与算法技术、算法平台的互动关系。

新一代人工智能的安全风险与治理研究

以ChatGPT为代表的新一代人工智能技术正掀起人工智能领域的新一轮革命热潮,其在为科技发展和产业变革提供强大驱动力的同时,也将给人类社会的法律法规、道德伦理、隐私保护、社会治理等方面带来一系列的风险挑战。首先介绍了新一代人工智能面临的法律风险、数据安全风险、算法模型攻击风险、意识形态风险4个方面的安全风险,其次调研并比较了我国、美国及欧盟关于新一代人工智能的治理现状,最后从建立健全政策法规体系、加强道德伦理规范建设、构建风险评估与应急处置机制、加强国际合作4个方面为我国新一代人工智能的治理提出对策建议。

道德责任鸿沟的消解——智能媒体算法责任研究

当下学界关于算法责任的研究存在两种相对立观点——悲观主义与乐观主义。前者认为,在人与智能媒体共同构成的传媒生态中,责任主体不明,追责困难,存在难以弥合的“责任鸿沟”;后者则提出,建构合适的问责方式可以消解鸿沟。这两种观点均预设了责任鸿沟的存在。然而,通过分析道德责任的四种基本构成与责任鸿沟的主要类型发现,责任鸿沟本质上是一种应该归责的“应然”与实际归责的“实然”之间的“错位”。消除该种错位,可以从三个方面入手:设计层面,建构有意义的人类控制体系,“经纬交错”绘制责任地图;应用层面,采用分布式责任与结构式责任,“总分结合”事后追责;伦理教育层面,实施宏观伦理与微观伦理混合课程,“高低兼容”事前预防。三者共同作用,或能够实现智能媒体的负责任使用。

贝叶斯网最优消元顺序的近似构造算法

变量消元(VE)法是贝叶斯网推理的一个基本方法,然而不同的消元顺序会导致相差悬殊的计算复杂度,寻找最优消元顺序问题是一个NP难问题,因此在实际应用中多采用近似算法求解。通过对贝叶斯网对应的端正图的分析,综合考虑了消元过程中消去的边和增加的边对剩余图的影响,进而提出了一些降低图的复杂度从而控制消元成本的方法,在此基础上提出了一个最优消元顺序的近似构造算法,最后通过随机仿真实验分析比较了算法的性能。实验结果表明,新算法较最小缺边搜索算法有明显的优势。

人工智能时代的道德风险与机器伦理

当前,伴随着机器自主决策性能的日渐提高,算法决策已然介入并开始主导越来越多的人类事务。与此同时,算法逻辑中所固有的歧视和偏见也日渐显现,机器自主决策的"去人类化"或"去人类中心化"正在革命性地改变和重塑人与机器之间的关系。在没有或无法植入社会正义理念的情景下,人工智能只不过是用技术外衣重新包装了社会的固有偏见,且有可能会塑造社会新的阴暗面,如果不加以约束和监督,势必会给人类社会带来持久伤害。在此意义上,人工智能并非"道德决策者",即便有朝一日人工智能具有了类人的道德抉择能力,人工智能的存在价值仍然不能与人的生命存在价值相提并论。未来,人工智能将拥有越来越多的自主决策性能却无法承担相应的道义责任。人类社会需要一部机器人大宪章,通过共同的、国际公认的道德和法律框架来指导和约束人工智能"自主"系统的设计、生产和使用。

课程思政元素挖掘与教学实践研究--以“Python数据结构与算法”为例

结合课程思政建设,从立德树人视角挖掘“Python数据结构与算法”课程的思想政治元素,以强化法规教育和践行工匠精神为主线,聚集新时代工匠精神的内涵,建立课程专业知识点和思想政治教育的契合点。通过精心设计教学案例,在恰当的教学过程和教学环节中融入思想政治内容,使得课程思政教育做到自然有效,如盐化水。教学实践表明,课程思政与专业知识教学有机融合、相辅相成,有利于提升教学效果和育人成效。

道德物化与算法新闻的治理

算法新闻通过对人的感知与行为的中介调节而促进用户的道德行为与决策,从而承担道德责任.因而,通过对算法的调解作用进行道德化设计,有可能将新闻伦理的基本原则与价值取向植入算法之中,用操作的功能性来保障新闻伦理的有效实施.这就需要在算法的设计中引入价值敏感设计,强化拓展型的技术评估,推动技术与社会两侧的对话,完善算法的设计,同时在社会一侧建立起监督机制与助推机制,营造更好的环境.

“算法作者”的创作思维与美学原则——算法时代电影工业美学之伦理转向

随着人工智能技术在电影工业全方位的应用,人工智能编剧、人工智能演员、人工智能剧本医生、人工智能摄影、人工智能剪辑、人工智能营销系统的出现使电影工业链各个环节的制作流程发生了极大的变革,这些变革推动了电影的发展。算法的介入使得当下电影生产的创作思维发生了新变,主要表现为:首先,人的逻辑在“算法作者”创作的电影中不再居于中心位置,人的逻辑被弱化,算法的逻辑加强。在美学原则层面,“算法驱动”下电影生产的技术性与艺术性矛盾凸显,妥善处理好技术性带来利好的同时又葆有艺术性是当下电影工业美学需要进行前瞻性思考的问题。其次,“算法作者”具有人与机的双重伦理属性,但又不仅限于人与机的二元对立,存在人与机的交叉混合地带。从自主性、互动性与适应性三个层面确立“算法作者”的道德主体性,进一步明确其在电影生产中的道德责任。“算法逻辑”驱动下的电影生产存在价值导向偏差、情感匮乏以及算法歧视加剧现实歧视与隐私自治权丧失的伦理问题,而这正是电影工业美学或电影伦理学转向需要思考的必然课题。

基于模糊和缺损信息的高等学校高分辨能力德育排序方法探讨

借助模糊数学的理论工具和管理学思想将德育综合评价问题与管理学中的多属性决策问题相结合,提出了一种高分辨力的德育排序方法。引进模糊数学中的概率犹豫模糊集对原始指标数据进行采集,以克服传统算法中存在细节信息容易丢失和评估值单一的问题,提出优化模型对于缺损数据进行自动修补。通过理论分析强调了算法的优越性,实例展示了算法的可执行性,与传统算法比较突出了算法的有效性和高甄别性。

算法歧视比人类歧视引起更少道德惩罚欲

算法歧视屡见不鲜,人们对其有何反应值得关注。6个递进实验比较了不同类型歧视情境下人们对算法歧视和人类歧视的道德惩罚欲,并探讨其潜在机制和边界条件。结果发现:相对于人类歧视,人们对算法歧视的道德惩罚欲更少(实验1~6),潜在机制是人们认为算法(与人类相比)更缺乏自由意志(实验2~4),且个体拟人化倾向越强或者算法越拟人化,人们对算法的道德惩罚欲越强(实验5~6)。研究结果有助于更好地理解人们对算法歧视的反应,并为算法犯错后的道德惩罚提供启示。

算法中的道德物化及问题反思

随着算法辅助或代替人类做决策的领域越来越广,算法的伦理问题日益成为人们关注的重要话题。算法并非价值中立的工具,其本身负载着伦理价值。在处理算法与伦理的关系问题上,有3种运思路径可供选择:一是对算法进行外在的伦理规约;二是在算法中内在地嵌入伦理规范;三是让算法拥有完全自主的道德能动性。在算法中进行“道德物化”对应于上述第2种路径,其含义是把伦理规范嵌入算法之中,让算法在助推人们做出恰当的伦理决策中发挥积极的能动作用。该路径的初衷虽好,但会引发新的伦理争议和问题,还需慎重对待。

人工智能道德算法的问题及出路——从柏拉图悖论谈起

随着人工智能对人类社会影响的普遍化,其伦理问题已成为政界、业界、学界和公众共同关注的话题。决策算法是人工智能相关技术的核心,如何保证智能程序所作出的决策符合人类社会的道德标准,是值得深入思考的问题。探讨这一哲学论题,应在对柏拉图悖论内涵进行梳理的基础上,从法哲学的角度探寻对人类社会道德评判标准所具有的意义,进而通过类比机器思维与人类思维的映射关系,找出柏拉图悖论这一哲学问题与人工智能道德算法在利益衡量问题上出现的困境,对其成因进行深入分析,找出解决困境的方法。

算法优化语境下自动驾驶汽车交通肇事的困境纾解

自动驾驶汽车的算法不断优化,但同时也出现了责任分配不明、道德争议困局、算法偏见风险等问题。自动驾驶汽车依赖于系统学习功能下的人机互动,并非适格的追责主体,而算法的介入程度则影响责任分配,生产者主要负有生产风险控制责任,但不负道德责任,使用者负有日常检查与风险制止责任。对于诸如隧道难题之类的道德争议难题,预先植入功利主义的道德算法会有“泛道德化”风险,而由功利主义演化出的罗尔斯算法在实际适用中也存在缺陷。相反,基于自我保护原则编译算法,能够实现全局最优的选择结果。人工智能系统中的算法偏见无法被根本消除,只能对先天算法偏见进行形式审查和实质审查,对后天算法偏见补充相关规范文件并且加入预警程序,避免负面影响。

道德困境研究的范式沿革及其理论价值

通过评述道德困境研究范式的发展过程,系统阐释了经典两难法、加工分离法、CNI模型法和CAN算法的优缺点和理论价值。后来的研究范式均在一定程度上克服了之前研究范式的局限。加工分离法克服了经典两难法的加工纯粹性假设等局限,CNI模型法在加工分离法基础上进一步分离了道德困境决策的多种心理过程, CAN算法则修正了CNI模型法的序列加工的不恰当预设。研究范式的沿革启示研究者综合应用新方法来解决研究争议和重新审视以往道德理论,合理应用新方法来探索其他具有潜在冲突性的研究议题。总之,本文为道德困境及相关研究提供了方法学参考。

算法伦理审查的逻辑认知及实践路径

算法作为人工智能技术的重要组成部分,已经成为决定“人机共生”关系走向的关键要素,同时也带来了人类认知上的“黑匣子”,限制了人类理解和使用技术的能力,引发了技术使用过程中的各种问题,导致了人类对算法的不充分信任。算法伦理审查的价值规范体系,包括算法伦理审查的标准化、制度化和结构化。发展负责任的算法,强化算法伦理审查的理性认知并建构实用框架,推进算法透明度、可解释性以及公众满意度等伦理维度指标落地,可以有效消解算法歧视和隐私暴露等问题,更好地推动算法伦理审查机制的健全完善。

人工智能时代的品德评价:技术机遇、伦理风险及其规避

品德自身所具有的情境性、稳定性、内隐性等特点,以及品德评价中的诸多伦理困境,使得品德评价比其他评价更为困难。当今时代,人工智能技术的发展为品德评价科学性、操作性的提高带来了技术上的种种可能。人工智能的“第三持存”“数字记忆”“全息摄入”“日常性存在”等特征,可以很大幅度地提升品德评价中数据获取的真实性。同时,人工智能评价的实时性、循证性、精准性对于提升品德评价在教育改进、政策制定、个体发展等方面的效用也具有积极意义。不可忽视的是,人工智能本身在品德评价中的应用,同样存在着诸多需要我们警惕的伦理风险。其中,最大的风险就来源人工智能基于算法所获得的“真”与品德评价所内含的“善”之间所存在的一定张力。规避其中的伦理风险,需要我们做到算法逻辑和价值逻辑的统一、确定性与不确定性之间的结合以及有所为与有所不为的调适。

大数据算法时代的自由和必然——从海德格尔的动物学研究入手

自由与必然的关系问题,在大数据算法时代呈现出新的表达方式,焦点集中在意识或自我意识的统一与超越上。科学家否认意识的统一性甚至其存在,并由此质疑自由意志的存在。康德通过区分现象和本体,在论证“算法”的合理性并限制它的同时,为自由和道德保留了地盘。海德格尔通过人与动物行为的比较,表明人作为在时间中存在的有限存在者,必须承受生存论层面上的自由和必然。两位哲学家分别在不同的语境中,揭示出了“算法”的局限性及其“泛人本主义”本质,人因为能够建立客观意义世界并超越它,而拥有不同于动物、人工智能和神的自由和尊严。

人工智能是道德代理人吗——人工智能伦理身份的形而上学分析

人工智能的伦理身份是人工智能伦理面临的基本哲学问题。人工智能伦理身份研究的道德行动者路径通常以人格化的道德行动能力作为人工智能配享伦理身份的标准。这种自上而下的研究路径把人工智能获得伦理身份视为技术问题,有预设身份之嫌。只有以现象学方法直面人工智能的伦理身份本身,才能澄明其伦理身份为何。通过现象学还原的方法自下而上的分析人工智能的行动结构,可以发现人工智能实际上代理了人类道德意向,人工智能的行动以“守护”人类价值为宗旨。人工智能的真实伦理身份是人类的道德代理人。只有以道德代理人为基本单位,人类价值为形而上学基础,一种以人为本的人工智能伦理体系才得以建立。