算法可帮助人工智能系统避开“对抗性”目标输入

在一个完美的世界中,人们所看到的就是所感知到的,如果这个完美世界真实存在,那么人工智能(AI)系统的工作将非常简单明了。以自动驾驶汽车上采用的防撞系统为例,如果可以完全相信车载摄像头的视觉输入,那么AI系统可以直接将输入映射为适当的动作:向右转向、向左转向或继续执行,以避免撞到车载摄像头看到的行人或障碍物。但是,如果相机出现故障使得图像稍微偏移几个像素怎么办?如果汽车盲目地信任所谓的"对抗性目标输入",则可能会采取不必要的潜在危险动作。