数智时代下伦理风险的治理路径——基于伦理嵌入的霍尔三维体系结构模型分析

数智技术是引领未来的战略性科技,在对经济发展、社会进步和人类生活产生深远影响的同时,引发了诸多伦理道德风险,且相关伦理问题表现出系统性与复杂性,传统伦理方法已无法有效应对。针对如何将哲学范畴、道德算法、伦理设计及社会伦理与现实行业背景融合,抽象并凝练出数智技术面临的伦理困境及解决此类复杂系统性困境的理论方法,将系统科学思维范式引入数智技术伦理问题研究中,对霍尔三维体系结构模型进行改进,并从时间维、逻辑维和知识维剖析复杂系统性伦理问题的应对策略,探索伦理风险治理路径,破解复杂系统性伦理问题的规律密码,为伦理学研究提供新的思路参考。结果发现:智能算法的数据局限性引发诸如部分个人权力被遗忘、某些行业恶性竞争等社会伦理困境,以及个人隐私与安全、算法设计偏见和不道德操作、工程师伦理困境等技术风险,而无论是伦理问题自身整体性还是诱因的复杂性,都是导致数智伦理困境的关键因素;基于系统工程思维、交互融合工程伦理与霍尔三维结构模型提出的伦理嵌入的新型霍尔三维结构模型可充分发挥伦理道德的能动作用,其中时间维主要应对有关社会伦理问题,逻辑维主要应对有关伦理风险,知识维则主要应对工程师伦理困境。基于改进的模型,提出具体的伦理风险治理路径:构建跨学科、跨领域的工程师伦理培养体系;构建以善为指引的算法设计监管机制;构建技术产业化阶段伦理评估框架。

基于伦理嵌入的人工智能新型风险治理体系建构及治理路径解析

人工智能在释放巨大潜能、产生经济价值和带动广泛的产业变革同时,也产生了诸多风险。而现有治理体系难以适应人工智能的高度开放性和不确定性,无法满足风险治理需求,同时人工智能技术应用引发的新兴风险治理议题超越了既有治理体系范围,传统风险治理体系急需向以伦理嵌入为关键支撑的新兴风险治理体系迁移。从伦理嵌入视角出发,构建了新型风险治理体系,摒弃了传统以政府为绝对主导的弊端,采取多主体参与的协同治理模式,强调风险治理主体之间的"垂直连通"和"水平协商",并充分发挥伦理道德能动作用,将治理触角渗透进人工智能技术创新到规模化应用的诸多阶段,治理范围更加宽泛,治理方式更加灵活多样。同时,伦理道德通过内嵌于人工智能技术研发、技术测试、技术转移和技术产业化四个阶段,形成兼具分段治理和整体协同的风险治理路径。研究旨在降低人工智能风险等级,为发展负责任的人工智能提供理论指导和有益启示。

内部控制的商业伦理嵌入与法律效力提升

由于内部控制对商业伦理的忽视和内部控制规范的法律效力备受质疑,导致内部控制的现状与其本质要求很不相称。因此,嵌入商业伦理已成为内部控制不可或缺的背景支持,同时,还应提升内部控制相关法律法规的法律效力,以确保内部控制的有效性。

数字孪生技术的教育应用及其伦理风险研究

数字孪生技术在与教育融合的过程中释放了巨大的潜能,带动了教育的数字化转型,但与此同时,也产生了技术依赖环境下教育活动参与者主体性削减、虚拟环境中教育活动参与者情感交流减少、技术“分身”为教育活动参与者提供虚假“在场证明”等伦理风险。数字孪生技术与教育的融合发展亟待构建以伦理嵌入为支撑的新型风险治理体系,廓清教育数字孪生技术风险阈,突破教育技术风险的治理困局,创造数字孪生技术与教育活动深度融合的有利环境。

技术仿真 思维跨域 伦理嵌入--新闻业裂变背景下传媒人才培养的三维方向

在新媒介技术推动下的媒体融合背后暗含着一个不可忽视的现实:新闻业裂变悄然而至。它体现为:"融媒型"传播平台建设中的行业裂变;媒介微化与角色分化中的职业裂变;传媒产业图景下新闻专业主义被"边缘化"问题中的专业裂变。行业裂变与职业裂变体现了技术与思维变革的两种朝向,即表现在物(或渠道)的技术更新与人(或传播者)的思维跨越相结合的外在与内在因素,加之专业裂变所暴露的新闻伦理淡漠问题,为新闻院校提出了传媒人才培养的三维方向与路径:技术维度下的全媒体人才"仿真实验室"、"思维跨域"下新型传媒人才的打造、专业维度下的"全课程伦理嵌入"教学模式。

我国人工智能伦理教育的缺失及对策

人工智能的伦理教育是人工智能普及和实践的一项重要工作,我国高校人工智能伦理教育发展较缓,与国家人工智能快速发展的战略和形势难以相衬。随着人工智能在“新基建”推行计划中的重视,人工智能伦理教育的重要性日益凸显。本文认为,目前我国高校的人工智能伦理教育难以覆盖智能研发和产业发展需求,存在缺少专业化、缺乏规范化等问题,国外采用的嵌入式伦理教学以及模拟伦理实验方法具有很强的借鉴意义。本文从人工智能伦理教育与实践相结合、教材规范化以及关注国内的人工智能伦理问题等方面提出建议。

人工智能伦理计算

人工智能技术作为试图研究、模仿、扩展人类智能的科学研究领域,自诞生以来就伴随着深刻的技术伦理争辩.随着近年来机器学习等相关工作的突破性进展和快速落地应用,伦理问题日趋显著并迫使学界和社会开始直面该技术的伦理治理挑战.尽管在伦理治理的规范研究上已取得初步进展,其治理实践落地方面依然困难重重,伦理实践表现出逐渐落后于技术发展需求的趋势.因此,建立与不断发展的人工智能技术相互匹配的伦理治理实践方案,实现治理理论和治理实践的良性互动将是人工智能领域未来发展的关键问题.伦理治理理论的抽象性导致了当下人工智能伦理原则难以落地实现,人工智能伦理计算(AI ethical computation)将是应对这一挑战的重要方案.本研究通过探讨现实必要性和发展可能性明确了伦理计算的重要意义,在相关研究基础上给出伦理计算的研究范畴,依据计算过程对伦理机理的认知程度和系统伦理决策的自主化程度进行划分,建立了伦理计算的高阶认知与低阶认知两类研究范式,并按其计算阶段抽象出伦理度量、伦理决策和伦理推理3个计算层次.该伦理计算框架能够对当前的伦理计算应用进行梳理,本文以伦理嵌入和公平机器学习为例说明了两类研究范式的研究特点和技术方法.在此基础上,进一步讨论构建了以伦理计算为核心的伦理治理体系,分析通过伦理计算化解伦理治理困境的可能方案,并对人工智能伦理计算的发展做出展望.

主要国家人工智能技术发展路线图规划模式及启示

2017年以来,美国、欧盟、英国、日本、韩国、俄罗斯、加拿大等主要国家和经济体相继发布人工智能研发战略,结合本国国情谋划人工智能未来发展路线,对人工智能的未来发展方向及优先领域进行系统布局。本研究基于人工智能技术和社会双重属性,提出用于分析人工智能路线图规划模式的“菱形”分类图,通过分析主要国家的人工智能发展战略,探索凝练出典型的规划模式,即美国的“全面技术引领型”模式、欧盟的“伦理深度介入型”模式、英国的“伦理约束下的双驱动力”模式、日本的“智能社会导向型”模式、韩国的“产业结合与领域选择型”模式、俄罗斯的“基础研发夯实型”模式和加拿大的“前沿理论创新型”模式。在此基础上,尝试提出符合中国国情的未来人工智能发展路径。

Techno-ethics Embedment： A New Trend in Technology Assessment

Facing the ethical potentials of technology, there appears a new trend in technology assessment （TA） recently, which is techno-ethics embedment that aims embed ethical perspectives within the process of assessing and developing new technologies. There are two basic dimensions of this trend： the role of ethics and the status of technology. By referring these dimensions, I articulate two different TA modes of the techno-ethics embedment： One is the ethical technology assessment （eTA） that appears as a combination of an ethical judge with the objective technological force, while the other is the combination of an engaged ethical participant with an active technological mediator. Moreover, there is an ideal status of this trend that is an engaged ethical participant with an active technological mediator. As the thought of technology accompaniment shows, both the ＂agency＂ of human and technology will be embodied to the most in this ideal status of techno-ethics embedment.

人工智能技术伦理治理内在路径解析

人工智能的不确定性为人类对其进行治理提供了可能。伦理对人工智能的嵌入体现为作为伦理型道德能动体的人类对其发展的管理与责任承担。根据具体技术的发展过程,伦理对人工智能的嵌入先后按照四个阶段进行:在设计阶段进行伦理嵌入,以人工智能专家为主导,通过"预测-评估-设计"模型实现人工智能的道德化设计;在试验阶段进行伦理评估,以评估委员会为主导,通过伦理效应的预测与识别、伦理问题的分析与澄清、以及解决方案的开发与确定来修正和完善人工智能开发方案;在推广阶段进行伦理调适,以政府部门为主导,通过制度调适、舆论调适和教育调适三种路径,实现人工智能与社会价值系统的顺利融合;在使用阶段,以使用者为主导,通过对他者、对世界、对技术以及对自身的责任的主动承担,来确认自身作为伦理型道德能动体的地位,并为人工智能伦理潜能的实现提供支撑。