怎样面对来自人工智能的危胁?

谷歌公司研制的人工智能程序(Alpha Go,阿尔法狗)2016年3月打败了围棋世界冠军李世石,一石激起千层浪,人们纷纷议论人工智能正在赶超人类。我们应当怎样面对人工智能飞速的发展?本文综述了一些看法和应对办法。简要说来就是:机器意识(machine consciousness)并不像人们认为的那么重要,阻止人工智能发展意识同阻止人工智能发展伤害人类的能力不是一回事;我们需要把人类的价值观和伦理规则植入人工智能,为此人工智能的设计者和研究者要采取社会系统分析途径(social-systems analyses)来工作。