人工智能安全技术发展趋势及应用——评《人工智能算法安全与安全应用》

在信息科技时代,人们会为人工智能技术高速发展而欢呼,因为人工智能技术发展意味着人类科技进步,可能会给生产生活带来巨大变革;同时人类也为人工智能安全问题担忧,因为人工智能具有强大的智能思维与行为能力,一旦出现安全问题,则意味着存在巨大的风险。可见人工智能技术是一把双刃剑,而安全是基本保障与要求。人工智能英文全称为“Artificial Intelligence”,通常简写为AI,是指基于信息科技,研究模拟和拓展人的智能的理论、方法、技术及应用的学科。人工智能目前属于计算机信息科学的分支,但与传统计算机信息技术不同,它融入了社会学、逻辑学、哲学、心理学等学科知识,在认知方面具有综合特点。人工智能最显著的特点是能够自我学习和思维进化,能基于自身逻辑分析问题。随着人工智能产业的高速发展,人工智能模型表现出了强大的快速学习能力,并展现了超出设计者预期的思维能力,因此人工智能安全问题日益受到重视。目前比较知名的人工智能语言数据大模型ChatGPT,已经表现出了不可思议的数据整理、思维分析与表达能力,出于安全方面考虑,ChatGPT开发者暂时停止了升级版本,希望在构建更可靠的人工智能安全体系之后再进一步升级。人工智能是人类科技发展的必然趋势,然而人工智能安全是基本前提,否则人工智能可能会带来不可预知的安全危机。