针对黑盒智能语音软件的对抗样本生成方法

随着深度学习技术的成熟,智能语音识别软件获得了广泛的应用,存在于智能软件内部的各种深度神经网络发挥了关键性的作用.然而,最近的研究表明:含有微小扰动的对抗样本会对深度神经网络的安全性和鲁棒性构成极大威胁.研究人员通常将生成的对抗样本作为测试用例输入到智能语音识别软件中,观察对抗样本是否会让软件产生错误判断,从而采取防御方法来提高智能软件安全性和鲁棒性.在对抗样本的生成中,黑盒智能语音软件在生活中较为常见,具有实际的研究价值,而现有的生成方法却存在一定的局限性.为此,针对黑盒智能语音软件,提出了一种基于萤火虫算法和梯度评估方法的目标对抗样本生成方法,即萤火虫-梯度对抗样本生成方法.针对设定的目标文本,在原始的音频样本中不断加入干扰,根据当前对抗样本的文本内容与目标文本之间的编辑距离,选择使用萤火虫算法或梯度评估方法来优化对抗样本,最终生成目标对抗样本.为了验证方法的效果,在常用的语音识别软件上,使用公共语音数据集、谷歌命令数据集和LibriSpeech数据集这3种不同类型的语音数据集进行了实验评估,并寻找志愿者进行对抗样本的质量评估.实验表明,提出的方法能有效提高目标对抗样本生成的成功率,例如针对DeepSpeech语音识别软件,在公共语音数据集上生成对抗样本的成功率相比对比方法提升了13%.

人工智能软件系统的非功能属性及其质量保障方法综述

随着神经网络等技术的快速发展,人工智能被越来越多地应用到安全关键或任务关键系统中,例如汽车自动驾驶系统、疾病诊断系统和恶意软件检测系统等.由于缺乏对人工智能软件系统全面和深入的了解,导致系统时常发生严重错误.人工智能软件系统的功能属性和非功能属性被提出以加强对人工智能软件系统的充分认识和质量保障.经调研,有大量研究者致力于功能属性的研究,但人们越来越关注于人工智能软件系统的非功能属性.为此,专注于人工智能软件系统的非功能属性,调研了138篇相关领域的论文,从属性定义、属性必要性、属性示例和常见质量保障方法几个方面对目前已有的研究工作进行系统的梳理和详细的总结,同时重新定义和分析了非功能属性之间的关系并介绍了人工智能软件系统研究中可以用到的开源工具.最后,展望了人工智能软件系统非功能属性的未来研究方向和挑战,以期为该领域的研究人员提供参考.