Mental Health Apps: Innovations, Risks and Ethical Considerations

The purpose of this article is to briefly review some of the innovations that mobile mental health apps present to consumers and mental health practitioners. Particular attention was given to understanding some of the important risks and the potential ethical dilemmas which may arise for counselors and psychologists who embrace them in their practice. Key considerations of issues pertinent to regulations, privacy concerns, and research are being discussed.

面向智慧教育的技术伦理取向与风险规约

当前,智能技术与教育的全过程融合正推动教育方式发生深刻转变,同时衍生出算法歧视、技术滥用、隐私泄露和教育主体错位等技术伦理风险,如何规避风险以最大化享受智能技术红利成为智慧教育发展的重要议题。为此,文章首先分析技术伦理相关报告文件,刻画智慧教育在智能技术、教育主体、教育数据和教育监管四个向度的技术伦理取向;然后,文章剖析“教-学-管-评-练-研”六大智慧教育典型场景下的差异化技术伦理风险表征,将其产生根源归为技术工具失信、教育实践失范和师生素养不足三个层面;最后,文章从技术升级、风险管理、问责监管、数据流动和素养提升角度给出风险防范与治理建议,助力智慧教育健康可持续发展。

前沿科技的深层次伦理风险及其应对

当前,生命科技和人工智能等前沿科技的伦理风险日益引起国际社会的高度关切,我国的科技伦理治理正在走上制度化发展之路。为了更好地推进我国科技伦理治理工作,我们必须切实把握作为科技伦理治理重点的前沿科技的特征,揭示其所呈现出的一系列深层次伦理风险,从而进一步加强对科技社会系统的结构性特征的理解,探索和重构风险认知的底层逻辑。其一,充分认识新兴科技驱动的科技社会系统的革命性变化,以此理解前沿科技深层次伦理风险的结构性实质。其二,立足前沿科技伦理治理的开放性实践,将科技伦理的风险认知和规范视为相关群体不断更新的集体认知和工作假设。其三,强调前沿科技风险认知的系统性与可塑性,赋予科技和创新更大的可能性空间。由此,我们可以得出树立科学认知的伦理边界、设置合理的伦理法律门槛、形成具有开放性和整体性的治理机制、增进公众科技伦理素养以及遵循相称性原则等面向深层次科技伦理风险的预控和应对之道。

金融科技伦理治理:实践困境、功能定位及优化进路

科技发展与金融创新的耦合连接在造就金融市场“新格局”的同时,也会生成新型市场风险、冲击传统金融监管体制,进而引发“新秩序”的思考。当前立法的时滞性与监管的“运动式”表现致使金融科技规制步入粗放型窠臼,立足完善金融高科技治理体系的时代要求,金融科技伦理治理的话语地位逐步提升。金融科技伦理以其发展性、适应性、回应性等制度功效因应金融科技风险治理的现实需求,然而趋向普适性、软约束、碎片化的规范供给样态已然成为制约金融科技伦理效能发挥的关键因素。金融科技伦理治理困境之破解应在功能界分指引下,厘清伦理治理运行的制度载体与价值逻辑。金融科技伦理治理现代化规制框架的建立既要在风险预防性目标下完善伦理治理体系化建设,也要在治理相称理念下推动程序运行机制的法治化转换,更要着眼多元共治格局强化伦理治理的协同合作,促进与企业合规自律的相向而行。

论生成式人工智能的技术创新伦理周期——以ChatGPT为例

生成式人工智能在推动技术创新突破性应用的同时,也带来了许多社会伦理风险:隐私暴露与信息安全控制风险;虚假信息派生所带来的信息传播风险;算法偏见所带来的决策和政策风险以及责任界定模糊风险。运用“索洛悖论”理论,将伦理进步看作是科技创新投入的增函数,可以发现生成式人工智能对伦理推动的“技术创新索洛周期”。基于此,要跨越生成式人工智能“伦理风险鸿沟”可以采取以下对策:健全生成式人工智能法律规制,推动构建生成式人工智能治理体系;加强平台监管,完善流程标准化管理,规范保障生成式人工智能安全发展;落实优化生成式人工智能可持续发展环境,探索更多行业重塑的可能。

教学数字化转型的伦理风险与规避进路

教学数字化转型是教育数字化转型的核心和关键,是深化数字技术与教学融合发展的必然选择。然而,大数据、人工智能等数字技术在推动教学要素发生创变的同时,也滋生诸多伦理风险,主要表现为伦理关系失序、伦理价值失衡、伦理行为失范、伦理制度失灵等风险样态。教学数字化转型伦理风险的形成是主体数字伦理风险素养缺失、技术不确定性及其固有缺陷、外部规约和保障不足、教学风险治理机制不健全等内外多重因素耦合作用的结果。培育主体数字伦理风险素养、加强数字技术伦理规约、优化教学伦理制度体系、创新教学伦理风险治理范式,是规避教学数字化转型伦理风险的有效路径。

人工智能教育的伦理风险探赜

人工智能技术以智能化服务、个性化发展、多样性交互的特征介入教育场域,并以颠覆性和变革性的方式为教学方式、学习方式、教学评价、教学环境、学校管理等方面绘制了新的全景式教育蓝图。在教育场域中,人工智能技术可能会在个体维度、关系维度、社会维度引发诸多教育伦理风险。立足于“人的发展”对人工智能的教育应用与教育未来的发展进行批判性思考,坚持以人为本、可解释性、公平正义、包容审慎的伦理原则,将为实现“教育逻辑”与“技术逻辑”的协同耦合提供纾解之道。

生成式人工智能赋能普惠金融:现实基础、关键风险挑战与应对策略

普惠金融是写好金融“五篇大文章”的重要组成部分。当前,我国普惠金融发展面临可持续性、普及性不足以及信用体系不完善等挑战。近年来,生成式人工智能迅猛发展,正在成为信息化、数字化、智能化的新型技术基座,其拥有强大的知识编码和储存能力、文本和代码理解及生成能力以及复杂任务的推理能力,能够对普惠金融产生数据资源化、数据资产化、数字信任、风险控制、降本增效五大效应,从而有效赋能普惠金融高质量发展。

生成式人工智能在教育领域的伦理风险与治理路径 --基于罗素大学集团的实践考察

以ChatGPT为代表的生成式人工智能对传统教育模式造成了冲击,引发诸多教育伦理风险,而代表着英国顶尖教学和科研水平的罗素大学集团面对风险的举措极具借鉴意义。为此,文章以罗素大学集团为主要研究对象,首先介绍生成式人工智能在教育领域面向学生、教师和教育部门的应用现状,然后将罗素大学集团成员高校对生成式人工智能教育伦理风险的讨论归纳为三个方面,再次分析介绍罗素大学集团面对上述风险的治理路径转变方式与转变原因,最后借鉴罗素大学集团的典型措施,从教导学生正确使用、确保教师主体地位、完善系统管理制度三个层面为我国生成式人工智能教育治理提出完善建议,旨在充分发挥生成式人工智能在教育领域的积极作用,推动数字化教育朝向符合教育伦理的创新和发展。

智能出版伦理本质、风险与治理研究

智能出版是人工智能技术应用于出版业融合发展而形成的新型出版模式,是数字出版发展的高级阶段。智能出版具有先天的技术发展优势,但也存在技术引发的不确定性。正是这种不确定性导致了智能出版的伦理问题,因而需要回答智能出版如何规范化发展,即智能出版“应该做什么”与“不应该做什么”。根据智能出版活动中人的主体行为不当与智能出版技术应用引发的不确定性,智能出版伦理风险包括技术发展失控,技术误用、滥用与应用后的负面影响,以及管理不当和管理欠缺造成的问题。针对智能出版现存或潜在的伦理风险,需要构建智能出版伦理体系,通过其伦理使命、准则与细则形成有机体,发挥系统性作用机制,最大程度实现人工智能技术在出版业的向善发展,促进智能出版生态创新。

临床研究风险与受益的评估框架构建研究

目的当前医疗机构伦理委员会主要依靠经验来分析临床研究风险与受益,缺乏风险与受益评估框架。方法采用扎根理论法对国内29名伦理审查工作者进行访谈分析,通过开放式编码、主轴式编码、选择式编码,构建中国临床研究风险与受益框架;采用NVivo11软件对资料进行存储、整理、编码和分析。结果基于中国国情提出了临床研究风险与受益框架,临床研究风险由生理风险、心理风险、经济风险和社会风险构成,研究受益由研究参与者受益和社会受益构成。结论系统阐述临床研究风险与受益内涵,构建适用于中国的临床研究风险与受益框架,在理论研究方面具有一定创新性,也为研究人员、伦理委员会评估临床研究的风险和潜在受益提供借鉴。

高等教育中如何应用ChatGPT类生成式人工智能——联合国教科文组织《高等教育中的ChatGPT和人工智能:快速入门指南》解析

ChatGPT引发的浪潮在为高等教育带来变革与创新的同时,也使高等教育面临着新问题与新挑战。为此,联合国教科文组织于2023年4月发布《高等教育中的ChatGPT和人工智能:快速入门指南》,用以阐释ChatGPT如何应用于高等教育。通过对该指南的深入解读,详细分析了ChatGPT在高等教育中的教学、科研、管理、社区参与等方面的应用变革,并从学术诚信、监管问题、隐私问题、认知偏差、性别与多样化、可访问性、商业化等七个方面探讨了ChatGPT给高等教育带来的挑战和伦理问题。最后,提出高等教育机构如何使用ChatGPT的可行性建议:谨慎而有创造性地使用ChatGPT、构建理解和管理ChatGPT的能力、进行人工智能审核等,旨在为我国高等教育机构应用ChatGPT可能面临的机遇和挑战提供经验和启示,并为推动ChatGPT向可持续、公正和合乎伦理的方向发展提供借鉴与参考。

非人灵长类动物研究能否得到伦理学辩护?

伦理学研究者的基本工作之一是伦理学辩护。伦理学辩护是通过运用逻辑推理用证据或理由证明已经采取的或建议采取的行动或决策是正确的或合乎伦理的,并可在此基础上,提出政策或法规法律方面的建议。因非人灵长类动物与人类相似,再加上“高保真”观念的影响,所以估计每年有超过10万的非人灵长类动物被用于生物医学研究。但是,越来越多的人认为这种研究不符合伦理,因为非人灵长类动物跟人一样能够敏感地感受到痛苦,而不能从研究中受益。此外,一些研究表明,人与非人灵长类动物在各种组织和基因类别方面的差异性明显超过相似性,这让一些科学家坚持的“高保真”观念遭到质疑。从伦理学角度,之所以反对非人灵长类动物实验,一是风险-受益比、成本-效益比并不理想,非人灵长类动物受到了非常明显、严重且不可逆的伤害;二是非人灵长类动物的感受能力接近于人,拥有接近于人所具有的完全的道德地位和边缘性人格地位,将其囚禁于实验室,并用于自身不能受益的研究,不符合伦理规范。综合来看,人类应该逐渐用符合伦理、对科学实际有益、更实用、可重复以及风险-受益比和成本-效益比理想的模型取代非人灵长类动物研究。在逐渐取代过程中,若必须使用非人灵长类动物,则需进行伦理审查和风险-受益比的评估,并坚持3R原则。

ChatGPT介入医学教育的伦理风险及应对策略

作为人工智能时代的新兴产物,ChatGPT在医学教育领域产生了极为重要的影响。ChatGPT的介入能以强大的算力、海量的数据和智能的模式,为医学教育工作提供多样化的帮助与服务,赋能医学教育的革新。ChatGPT在助力医学教育的同时亦产生了一系列伦理问题:致使师生信息面临着多重风险、导致师生交往的可能性异化、致使师生遭到算法的严重裹胁以及造成医学学术公平失信与不端。面对ChatGPT介入医学教育的伦理风险,应从科学技术、政府部门、教学单位和师生个体等层面进行协同治理、积极应对,推动ChatGPT在医学教育领域发挥正值效能。

平台数据应用的伦理与治理

数字时代中,数据作为一种新型生产要素突显示出巨大价值,但是与此同时也暴露出诸多问题。作为数据治理的重要单元,平台在数据应用的过程中就面临着诸多潜在的伦理风险,以数据获取、分析、使用、分配等不同生命周期作为节点,这些风险分别体现为隐私泄露、数据独裁、数据异化和数字鸿沟。对此,基于平台视角的数据治理思路应当从多方面入手,在事前树立尊重用户隐私的主观态度以及完善知情同意的客观程序,在事中建立公平规范的权利保护机制,在事后协助推动数字人权与数字共享的落实。

社会信用治理模型选择:由风险预测制迈向行为积分制

模型是对实践的抽象化表达,内含实践的认知理念和价值判断。不同信用模型内含不同的信用治理理念并会产生不同的社会效果。风险预测制模型用于风险预测和秩序控制,在实际社会信用治理中产生过度收集数据、模型黑箱化、难以有效预测等问题。究其原因,在于技术设计过程未能有效反映治理需求,反而消解了人的主体性地位。社会信用治理需要从行为改变出发,迈向行为导向,转换治理范式。行为积分制模型以行为理论为支撑,通过将社区治理过程中的日常事项转化为积分激励事项,推动社区居民积极参与到社区经济、政治、社会、文化、生态等建设中,以共建推动共同治理,将共治行为转化为积分,进而实现治理成果的共享,提供了民主治理的新范式。在推动信用体系建设过程中,应更多考虑行为积分制模型的应用和推广。

脑机接口技术的伦理风险及应对措施

在伦理学领域,关于脑机接口技术的问题主要聚焦于身心伦理和社会伦理,包括个人隐私权、人是不是完整意义上的人、社会责任归属等,涉及的人群包括患者、医生以及患者生活的整个社会群体。除剖析了身心伦理风险、社会伦理风险外,还根据目前脑机接口的研究现状分析了未来其大规模应用后可能存在的伦理问题,主要包括身心伦理风险的知情同意权、隐私权、决定权,社会伦理风险的责任归属以及公平性问题,未来伦理风险中脑是机器的载体还是机器是脑的延续问题,并从个体、制度和机构三个层面提出了解决措施,以期对脑机接口今后发展提出治理建议。此外,通过社会调研采集并汇总相关意见,获得本土化数据。在此基础上首次引入脑机接口的未来风险,并从伦理学视角出发,以期探索未来问题的解决方案。

人工智能赋能思想政治教育的伦理风险及其应对

人工智能赋能思想政治教育是思想政治教育创新发展的必然走向。思想政治教育与人工智能的深度耦合,促进了思想政治教育的精准化与“出场”多元化,提升了思想政治教育的实效性,但随着技术向度的增强与工具理性思维的介入,思想政治教育也面临着不同维度的伦理风险。通过分析人工智能赋能思想政治教育伦理风险的成因发现,人工智能的类人属性不断强化、算法自主性导致的不可预测性不断增加、风险认知与外在保障具有有限性,导致了伦理风险“在场”的必然性。为了规避伦理风险,要以道御术,守正思想政治教育的价值立场;要以情化人,构建柔性的共情共鸣机制;要以法为界,明确人工智能赋能的何以可为。

医疗公平视角下互联网医疗伦理治理路径初探

经济发展推动内生需求增加,互联网医疗整合区域医疗资源,扩大了群众享受医疗卫生服务机会的公平性,但伴随着技术发展,伦理危机也产生了,需要不断规范和实践。以医疗公平原则为起点,分别从数据公平、成本公平、机会公平、教育公平维度梳理了互联网医疗发展中的主要优势特征,分析出互联网医疗存在的伦理问题包括:伦理审查机制保障不公平、科技主体数据采集不公平、利益与风险分配不公平、互联网医疗资源利用不公平。并提出压实主体责任,健全审查监管;完善共享机制,弥合数字鸿沟;强化风险预防,保障公民权益;加强教育引导,增加基层投入的治理路径。

论人形机器人治理中的刑法归责

随着机器人和人工智能技术的快速发展,作为具身智能的人形机器人在应用场景上逐渐拓宽,同时也形成了多元而复杂的安全风险和刑法归责难题。理论上主要存在代理责任、过失责任、严格责任、独立责任四种各有利弊的刑法归责模式。除了严格责任之外,其余模式都可以统合在场景化的刑法归责体系之中。在当前人工智能的发展阶段,传统的刑法教义学原理可以处理绝大部分的机器人刑法归责问题,不过也应在新的技术条件下对可容许风险、信赖原则予以新的推演和发展。取决于未来的技术进展,在功能主义的视角下,将来可以考虑有条件地肯定智能人形机器人独立责任主体地位的可能性。人形机器人的刑法归责体系,应当对其他法秩序的规范评价和机器人伦理标准的探讨保持协同和开放。