医疗人工智能技术研发与应用的伦理挑战和对策——以我国大型公立医院为例的思考

近年来,随着技术的不断进步,诊断专家系统、医疗机器人等人工智能产品正不断应用于医疗领域,大幅提升了效率和效益,减轻了医护人员的劳动量,但同时也不可避免地带来了关于医疗人工智能技术的伦理问题。这些问题,既有人工智能的共性问题,也有与医疗相关的特殊性伦理问题。本文以我国大型公立医院为例,阐述医疗人工智能技术在研发与应用过程中所面临的伦理挑战,以及相应的应对措施。

一体健康框架下的新发疫病防控之道

自环保运动以来,出现了生态健康与一体健康等概念,将生态系统思想运用于对健康的整合性研究与干预。面对新发传染病等引起的重大疫情的空前挑战,一体健康提供了一种理想化的启发性框架。这一框架可以发展为面向地球生命和生态系统的整体性认知与干预策略,也有助于形成总体性的健康认知和疾病防控路径。鉴于一体健康的框架在医疗与公共卫生实践中的落实尚具有一定的困难,可提出一系列基于实践拼合的疫病防控策略,包括直面全球生存危机的生物安全策略、多通路并发反馈的信息监测策略、面向知识共享整合的研究策略、价值审议与伦理共识策略等。

面向人工智能时代的伦理策略

人工智能的发展将给未来的人机关系带来巨大的挑战。在预见与幻想的层面,不论其未来图景是基于融合科技的后人类演进,机器掌控世界还是少数精英掌控,人工智能的发展不仅可能导致社会不平等的激化,更令人忧思的是人类还剩下多少不会被机器取代的优势。在现实层面,人工智能当下的热点应用是数据智能,其实质就是通过智能算法对人的行为数据进行认知和分析,进而对其加以评价、预测乃至调控,人类社会由此进入评价社会与解析社会。数据智能及其算法使得反映人的特征与行为的数据画像成为其数据孪生,这不仅可能剥夺或削弱主体个体化的权力,还会令个体被消解为"分格",甚至沦为数据僵尸,而反制这种算法治理术的基本伦理策略是对智能算法及其权力进行伦理审计,并施以价值纠偏、伦理引导和伦理增强等争胜性策略。当前人工智能的伦理审度与调适应聚焦的两个具体问题是数据权利与算法权力的再平衡和人机关系的再平衡。

人工智能与泛智能体社会的来临

智能联网汽车的时代,其实也就是人工智能的时代。在这样一个时代,每一个智能的机器和人,都变成了一种智能体。人工智能的智能人工智能有所谓的几大部落,第一个是像人一样学习,第二个是像人一样思考,第三个是像人一样和世界互动,即所谓的智能机器,它们还能够像人一样理解和使用语言,如科大讯飞等很多的自动翻译机器。对于能够像人一样行动的系统,我们可以通过图灵测试进行分辨。当我们分不清楚到底是人还是机器时,我们还可以通过认知建模的方法,让有些系统能够像人一样思考。

构建稳健敏捷的人工智能伦理与治理框架

在各国和地区纷纷提出人工智能发展规划和战略的同时,人工智能的伦理风险与治理也成为全球共同关注的焦点。鉴于不同区域社会环境和文化背景的不同,很难构建单一的全球性人工智能伦理与治理框架。中国在总体上对于人工智能为经济、社会、企业和个人福祉带来的积极影响更加乐观,但人工智能的伦理风险并非虚构,普通用户在享受各种创新便利的同时,难免对个人数据滥用、算法决策的不透明心存疑虑,开发者也担心伦理缺位会使其为由此带来的风险付出高昂代价。为了消除这种双重焦虑,应该通过技术伦理评估、“技术-伦理”矫正和信任机制的构建,展开必要的价值伦理校准。更重要的是,要在充分考量人工智能的社会影响、对区域与全球的兼容和维护和平底线的基础上,构建一种稳健可行的人工智能伦理与治理框架,实现敏捷治理。