基于文本关键词的对抗样本生成技术研究

深度学习模型已被广泛应用于处理自然语言任务,但最新研究表明对抗攻击会严重降低分类模型的准确率,使模型分类功能失效.针对深度学习模型处理自然语言任务时出现的脆弱性问题,提出一种新的对抗样本生成方法KeywordsAttack.该方法利用统计算法选择部分字词组成文本关键词集合,再根据关键词对模型分类结果贡献度大小进行迭代替换,直到成功误导分类模型或替换次数达到设定阈值.该方法针对中文的特点采用汉字拆分、拼音替换的方式生成对抗样本.最后,采用公开酒店购物评论数据集进行实验.实验结果表明,利用KeywordsAttack方法生成的对抗样本平均修改幅度占原始文本的18.2%,攻击BERT模型分类准确率约降低43%,攻击LSTM模型分类准确率约降低30%.该数据表明KeywordsAttack方法可以通过对文本进行较小的扰动成功误导分类模型,同时生成对抗样本过程中访问模型次数较少.

基于Transformer的SM4算法工作模式识别

密码算法识别是开展密码设备监管、密码分析等工作的前提,在对现有密码算法识别方案进行总结和分析的基础上,利用K近邻(KNN)算法和随机性检测工具分析SM4分组密码算法不同工作模式下密文识别准确率低的原因。针对现有方案在SM4算法多种工作模式密文混合场景下识别准确率低的现状,证明深度学习应用于SM4分组密码算法工作模式识别问题的可行性,提出一种基于Transformer的SM4算法工作模式密文识别方案。在ECB、CBC、CFB、OFB、CTR工作模式下对文件进行批量加密,密文文件经过数据预处理形成密文数据集,然后输入Transformer模型进行五分类识别。实验结果表明,SM4算法5种工作模式在密文混合场景下识别准确率达到94.94%,证明所提方案可有效提升SM4分组密码算法5种工作模式在密文混合场景下的识别准确率。将密文数据集输入卷积神经网络、循环神经网络、ResNet进行对比实验,结果表明,相较于这3种传统神经网络,基于自注意力机制的Transformer模型识别准确率分别提升18.38、26.96、10.44个百分点。

基于Transformer的安卓恶意软件多分类模型

由于开源性和开放性,安卓系统成为恶意软件攻击的热门目标,当前有大量针对安卓恶意软件检测的研究,其中机器学习算法得到广泛应用.通过对比在不同模型下将恶意软件转化为灰度图像和RGB图像的准确率,发现转化为RGB图像时恶意软件检测准确率更高,并使用自然语言处理中表现突出的Transformer算法对安卓软件classes.dex文件转换的RGB图像进行恶意软件多分类检测,结果发现与CNN,VGG等传统检测模型相比,使用基于Transformer的检测模型准确率更高.

封闭环境下人体姿态识别及打架行为监测

因传统监控领域存在监控成本高、需要大量人力投入等问题,普通监控模式已经难以满足社会发展需要,发展智慧监控迫不容缓。针对上述问题,提出一种基于深度学习的打架行为监测预警原型系统。该系统通过对开源人体姿态识别项目OpenPose进行简化改进,在确保一定准确率的情况下,精简网络结构,减少计算参数,进而压缩模型大小。同时配合人体打架行为识别人工规则,对二维视频中可能存在的打架行为进行预警,从而降低监控人员负担,提升监控效率,及时制止打架行为,避免暴力事件出现。实验结果表明,经简化过的系统输出模型准确度可达到原系统输出模型准确度70%以上,模型大小同比缩小50%以上,可以成功预警打架行为,并标明打架行为动作实施者,符合设计需求,达到实用标准。

多维特征对高校学生学业预警预测的影响

将计算机与信息工程学院2016级全部专业大一新生的修课成绩作为直接影响特征,与修课成绩相关的7个其他特征作为间接影响特征,分单一专业和学院全部专业两个研究对象,基于随机森林算法,构建学生学业预警预测模型,并就多维特征对学业预警预测的影响及其重要性进行量化和对比研究。研究发现,直接影响特征中的6门课程——C语言程序设计I和Ⅱ、面向对象程序设计、高等数学Ⅰ(上)、大学物理Ⅰ(上)和大学英语2的成绩对预测准确度影响最大;加入间接影响特征,特别是“课程总绩点”和“不及格科目数”对提升预测准确度有积极的影响。学生应高度重视对大学一年级的公共基础课和专业基础课的课程学习,老师应注重实践类课程的过程评价,教学管理部门应完善学生学习过程的管控。