前言

Preface

在当前的科技发展背景下,人工智能(artificial intelligence, AI)已广泛渗透到我们的日常生活和工作中.然而,当AI遭遇开放环境,其复杂和不确定的特性使得决策的偏见、算法的透明度、系统的安全性等问题变得更加凸显,深度挑战了AI的可信度.因此,研究和开发面向开放环境的可信AI已成为一个紧迫且至关重要的任务.面向开放环境的可信AI的研究动力,主要来源于几个方面:首先,公平性的考量.为了避免决策偏见,需要研究如何在复杂的开放环境中保证算法的公平性;其次,透明度的追求.以便用户可以理解和预测AI系统的行为,需要提升算法的透明度;最后,安全性的强化. AI系统需要在开放环境中,能够对各种可能的威胁进行有效应对,以保证系统的安全性.构建可信AI不仅需要在技术层面提供解决方案,同时也需要在社会层面建立信任.通过研发面向开放环境的可信AI,我们不仅可以构建更为公平、透明、安全的AI系统,而且可以提高公众对于AI在开放环境中应用的信任感,对于推动AI的广泛接受和应用,以及推动信息社会的全面发展具有深远的意义.