前沿科技的深层次伦理风险及其应对

当前,生命科技和人工智能等前沿科技的伦理风险日益引起国际社会的高度关切,我国的科技伦理治理正在走上制度化发展之路。为了更好地推进我国科技伦理治理工作,我们必须切实把握作为科技伦理治理重点的前沿科技的特征,揭示其所呈现出的一系列深层次伦理风险,从而进一步加强对科技社会系统的结构性特征的理解,探索和重构风险认知的底层逻辑。其一,充分认识新兴科技驱动的科技社会系统的革命性变化,以此理解前沿科技深层次伦理风险的结构性实质。其二,立足前沿科技伦理治理的开放性实践,将科技伦理的风险认知和规范视为相关群体不断更新的集体认知和工作假设。其三,强调前沿科技风险认知的系统性与可塑性,赋予科技和创新更大的可能性空间。由此,我们可以得出树立科学认知的伦理边界、设置合理的伦理法律门槛、形成具有开放性和整体性的治理机制、增进公众科技伦理素养以及遵循相称性原则等面向深层次科技伦理风险的预控和应对之道。

人工智能教育的伦理风险探赜

人工智能技术以智能化服务、个性化发展、多样性交互的特征介入教育场域,并以颠覆性和变革性的方式为教学方式、学习方式、教学评价、教学环境、学校管理等方面绘制了新的全景式教育蓝图。在教育场域中,人工智能技术可能会在个体维度、关系维度、社会维度引发诸多教育伦理风险。立足于“人的发展”对人工智能的教育应用与教育未来的发展进行批判性思考,坚持以人为本、可解释性、公平正义、包容审慎的伦理原则,将为实现“教育逻辑”与“技术逻辑”的协同耦合提供纾解之道。

生成式人工智能在教育领域的伦理风险与治理路径 --基于罗素大学集团的实践考察

以ChatGPT为代表的生成式人工智能对传统教育模式造成了冲击,引发诸多教育伦理风险,而代表着英国顶尖教学和科研水平的罗素大学集团面对风险的举措极具借鉴意义。为此,文章以罗素大学集团为主要研究对象,首先介绍生成式人工智能在教育领域面向学生、教师和教育部门的应用现状,然后将罗素大学集团成员高校对生成式人工智能教育伦理风险的讨论归纳为三个方面,再次分析介绍罗素大学集团面对上述风险的治理路径转变方式与转变原因,最后借鉴罗素大学集团的典型措施,从教导学生正确使用、确保教师主体地位、完善系统管理制度三个层面为我国生成式人工智能教育治理提出完善建议,旨在充分发挥生成式人工智能在教育领域的积极作用,推动数字化教育朝向符合教育伦理的创新和发展。

教学数字化转型的伦理风险与规避进路

教学数字化转型是教育数字化转型的核心和关键,是深化数字技术与教学融合发展的必然选择。然而,大数据、人工智能等数字技术在推动教学要素发生创变的同时,也滋生诸多伦理风险,主要表现为伦理关系失序、伦理价值失衡、伦理行为失范、伦理制度失灵等风险样态。教学数字化转型伦理风险的形成是主体数字伦理风险素养缺失、技术不确定性及其固有缺陷、外部规约和保障不足、教学风险治理机制不健全等内外多重因素耦合作用的结果。培育主体数字伦理风险素养、加强数字技术伦理规约、优化教学伦理制度体系、创新教学伦理风险治理范式,是规避教学数字化转型伦理风险的有效路径。

基于深度合成技术的文化科技伦理风险识别与善治机制

生成式人工智能技术的应用使人工智能直接参与数字文化的生产环节,既成为新质生产力,也增加了文化科技伦理风险。生成式人工智能在内容生成上导致的“幻觉”叠加深度合成在内容传播过程中的虚假效应,进一步扩展了人工智能在数字文化领域的潜在风险;即在核心内容生产层面涉及新型文化意识形态安全风险、文化内容安全风险、文化版权安全风险,在外围传播层面涉及文化数据安全风险和新型文化信息安全风险。生成式人工智能带来的文化科技伦理风险根源于智能时代文化资本的数字化、人机关系倒置化和认知方式的变化。文化科技伦理风险的善治机制亟须在全球治理体系框架下,整合核心技术研发、预见性制度规范与多元主体协同联动,形成政府、企业、公共三方的“组合拳”效应,以人机协同、善治向上的治理机制回应生成式人工智能时代数字文化新质生产力变革。

基于4R危机管理模型的教育人工智能伦理风险防范体系构建

人工智能技术的快速发展正深刻影响和改变教育教学领域。因其智能化、自主性和交互性特点,教育人工智能应用带来诸多便利和优势的同时,也引发了诸多伦理风险和挑战,需要谨慎应对和积极解决。基于SHEL风控模型,教育人工智能应用的伦理风险可归纳为软件相关、硬件相关、环境相关和人件相关四类风险,伦理风险防范现存三个短板急需化解;借鉴4R危机管理模型,该文构建了一个多方参与、全程管理、高效协同的伦理风险防范体系,设计四层实践路径,并结合实践阐述了风险防范的实现方式,以创新地应对教育人工智能应用的伦理风险防范问题,助推教育人工智能的可持续健康发展。

教育领域生成式人工智能应用的伦理风险管理框架研究

生成式人工智能对内容生产与传播产生了革命性影响,教育领域进入了智能化与风险性并存的人机协同时代,教育人工智能应用伦理风险频繁发生,急需通过标准化的风险评估工具进行科学管控。文章从技术与教育两个向度出发,将教育领域生成式人工智能应用的伦理风险归纳为技术本体风险、教育数据风险、机器算法风险和教育应用风险四大类。借鉴ISO31000风险管理标准与应用指南,搭建“风险识别—风险分析—风险评估—风险应对”四级流程的伦理风险管理框架。构建风险源检查表,以风险矩阵为主要评估工具,在实践中统计得出各类伦理风险综合等级。教育领域生成式人工智能应用的伦理风险管理框架,将为教育教学有效实施伦理风险管理工作提供借鉴价值。

风险社会视角下教育人工智能伦理风险分类框架研究

人工智能技术发展的不确定性和应用的广泛性,给教育教学带来智能化、便利性和高效率的同时,也可能带来技术滥用、数据泄密、侵犯个人隐私等伦理风险问题。如何对教育人工智能应用过程中非规律性、高频发性、系统性的伦理风险进行分类,已经成为当前学术界关注的焦点。基于贝克的风险社会视角,从教育人工智能伦理风险因素的内在联系出发,分析教育人工智能应用场景与伦理风险来源,提出建立教育人工智能伦理风险分类框架,归纳四种类型伦理风险,包括教育数据风险、机器算法风险、技术本体风险和教育应用风险等,并提出伦理风险防范策略,助力人工智能技术在教育领域的可持续健康应用。

生成式人工智能嵌入思想政治教育的伦理风险及其治理路径

近年来,以互联网、大数据、人工智能为核心的数字技术迅速发展,特别是2022年以来,以ChatGPT为代表的生成式人工智能技术取得重大突破。生成式人工智能是指基于机器深度学习自主生成具有一定逻辑性的文本、图像、视频等内容的模型及其相关智能技术。生成式人工智能一经推出,就对包括教育在内的众多行业产生重塑性影响。

新兴技术伦理风险协同治理研究

新兴技术在造福人类社会的同时也引发了诸多伦理风险问题,防范和化解新兴技术伦理风险成为科技创新领域的重点内容,须高度重视和切实加强新兴技术伦理风险治理研究,以高效治理范式促进新兴技术良性发展和科技创新事业向善而行。通过阐释新兴技术伦理风险概念内涵和基本特征,剖析新兴技术伦理风险具体样态、生成缘由和管理问题,运用协同治理范式,从治理理念、治理主体、治理手段、治理过程和治理范围出发,提出新兴技术伦理风险协同治理实施路径,为有效应对科技创新领域伦理风险问题,着力提高新兴技术伦理风险治理效能,大力促进国家治理能力现代化提供理论指导和政策支持。

ChatGPT介入医学教育的伦理风险及应对策略

作为人工智能时代的新兴产物,ChatGPT在医学教育领域产生了极为重要的影响。ChatGPT的介入能以强大的算力、海量的数据和智能的模式,为医学教育工作提供多样化的帮助与服务,赋能医学教育的革新。ChatGPT在助力医学教育的同时亦产生了一系列伦理问题:致使师生信息面临着多重风险、导致师生交往的可能性异化、致使师生遭到算法的严重裹胁以及造成医学学术公平失信与不端。面对ChatGPT介入医学教育的伦理风险,应从科学技术、政府部门、教学单位和师生个体等层面进行协同治理、积极应对,推动ChatGPT在医学教育领域发挥正值效能。

人工智能驱动教育变革的伦理风险及其解蔽之路

人工智能驱动教育变革给教育带来双重影响,使教育中的机会与风险共存。尽管人工智能技术给教育带来强大优势,能够增强教育主体的能力、记录完整的教育信息、推动人的个性发展、以及提高教育效率。但随着技术向度的增强与工具理性思维的介入,这一过程也面临不同维度的伦理风险。人工智能驱动教育变革的伦理风险主要表现为主体风险、安全风险、算法风险和技术滥用四方面。解蔽人工智能裹挟下的四重风险,推动人工智能技术在教育变革中的价值实现,需回归以人为本的价值理念,强化教育主体地位;建立依法规约的伦理体系,加强信息安全管理;遵循算法使用的伦理准则,促进个体生命发展;内化德性为先的伦理意识,健全技术变革边界。

基于全产业链视角分析ChatGPT引发的学术出版伦理风险及应对策略

随着人工智能技术的快速迭代,ChatGPT广泛影响各个领域。文章在阐述ChatGPT与学术出版全产业链交互关系的基础上,从出版内容的供应,出版内容的编辑、出版和传播,出版内容的应用方面分析ChatGPT引发的学术出版伦理风险,并提出“加快人工智能研发步伐,制订安全生产与传播审核标准”“促进AI与编辑合理分工,严格把好内容质量关”“加强技术合作,重视人才培养”的应对策略,以期趋利避害,为ChatGPT应用于学术出版提供参考。

脑机接口技术的伦理风险及应对措施

在伦理学领域,关于脑机接口技术的问题主要聚焦于身心伦理和社会伦理,包括个人隐私权、人是不是完整意义上的人、社会责任归属等,涉及的人群包括患者、医生以及患者生活的整个社会群体。除剖析了身心伦理风险、社会伦理风险外,还根据目前脑机接口的研究现状分析了未来其大规模应用后可能存在的伦理问题,主要包括身心伦理风险的知情同意权、隐私权、决定权,社会伦理风险的责任归属以及公平性问题,未来伦理风险中脑是机器的载体还是机器是脑的延续问题,并从个体、制度和机构三个层面提出了解决措施,以期对脑机接口今后发展提出治理建议。此外,通过社会调研采集并汇总相关意见,获得本土化数据。在此基础上首次引入脑机接口的未来风险,并从伦理学视角出发,以期探索未来问题的解决方案。

人工智能情感的伦理风险及其应对

人工智能情感技术迅猛发展,不断提升着机器模拟人类情感识别、表达与应答功能的能力。在便利生产生活的同时,人工智能情感加剧了情感生活的数据化、工具化、机械化,冲击着情感的私密性、真实性、体验感、意义感,衍生出情感隐私泄露、情感欺骗盛行、情感控制加剧和情感能力退化等伦理风险。这些伦理风险的背后是资本逻辑的驱动、情感算法自身的局限性、伦理观念的相对滞后与工具理性的泛滥。应对人工智能情感的伦理风险,从根本上说就是要合理规制资本、推动科技向善。具体而言,应实行敏捷治理、健全伦理法规、深化人文反思。

难治性精神疾病立体定向神经调控治疗的伦理风险及其防治

难治性精神疾病立体定向神经调控治疗技术的伦理风险主要包括精神疾病的病因理论不确定性风险、多元的行动主体责任归属风险、主体权利认定风险适应证、禁忌证范围认定及知情同意权的认定风险以及分配公平公正风险。临床实践中病因理论的确定性不断被证实、临床实践诊疗程序逐步规范、知情同意权日益明确,难治性精神疾病立体定向神经调控治疗技术伦理风险逐步得到改善。提出通过政府加大宣传力度,增强公众的认知水平;明确各级组织的管理职责,分工协作调配资源,完善服务模式;加强相关领域制度建设与落实等防治路径来规避难治性精神疾病立体定向神经调控治疗技术的伦理风险。

人工智能赋能思想政治教育的伦理风险及其应对

人工智能赋能思想政治教育是思想政治教育创新发展的必然走向。思想政治教育与人工智能的深度耦合,促进了思想政治教育的精准化与“出场”多元化,提升了思想政治教育的实效性,但随着技术向度的增强与工具理性思维的介入,思想政治教育也面临着不同维度的伦理风险。通过分析人工智能赋能思想政治教育伦理风险的成因发现,人工智能的类人属性不断强化、算法自主性导致的不可预测性不断增加、风险认知与外在保障具有有限性,导致了伦理风险“在场”的必然性。为了规避伦理风险,要以道御术,守正思想政治教育的价值立场;要以情化人,构建柔性的共情共鸣机制;要以法为界,明确人工智能赋能的何以可为。

档案领域应用人工智能的伦理风险及其治理——基于行动者网络理论的探讨

人工智能作为新质生产力,赋能档案领域数智转型已成趋势,其伴生的伦理风险亦需要引起重视。基于行动者网络理论视角,档案领域应用人工智能的伦理风险可以理解为行动者网络建构过程中由人类行动者和非人类行动者在行动者转译时造成的伦理风险,包括人类行动者之间的利益差异导致泛在化的权力博弈、非人类行动者转译过程中存在边缘与空白地带以及行动者网络下伦理风险的恶性循环。为了主动应变、科学求变,应从探求人类行动者信任共识、塑造崇法尚理的伦理风险治理格局、构建开放透明的行动者关系网络等方面不断进行价值反省和伦理调适,为人工智能在档案领域的应用创造良好的伦理环境。

人工智能背景下科技期刊论文出版中的伦理风险与应对策略——以医学论文为例

人工智能(Artificial Intelligence,AI)技术在科技期刊论文,特别是医学论文编辑出版领域的应用优势突出,但同时也带来了多重伦理挑战。在当前AI技术快速迭代的发展趋势下,医学论文编辑出版面临伦理问题风险,包括数据质量和透明度不足、公平性和偏见问题、利益冲突及论文撰写问题等,可加强法律责任、风险管理、监管审查,以及提高科研人员和编辑出版人员在AI使用中的边界意识,强化职业操守,确保AI服务于学术交流的同时,满足学术出版伦理道德的要求。

医疗人工智能算法决策的伦理风险及规制策略

算法是医疗人工智能优化患者就医的运行关键。随着医疗人工智能算法的逐步推行应用,其决策在生成样态上呈现出数据驱动、算法黑箱以及概率范式的主要特征,这些特征推动了人工诊疗向智能诊疗的转变,也同步滋生了相应的“算法”代替医生决策、“算法利维坦”消解患者基本权利以及医患信任危机等现实问题。为有效防范医疗人工智能算法决策所产生的伦理风险,应当呼唤回归主体本位,以医生为主体,以算法技术为羽翼,强化医生决策能力,尊重患者基本权利;推进算法优化,规训技术向善;锚定风险关键,加强医患信任建构。