人工智能大模型应用中的安全问题与解决策略

近年来,随着计算机硬件和算法技术的飞速发展,以大模型为代表的人工智能技术在许多领域都表现出比人类更大的优势。然而,从最初的数据收集和准备到训练、推理和最后的部署过程中,基于人工智能的系统通常容易受到各种安全威胁。在基于人工智能的系统中,数据采集和预处理阶段容易受到传感器欺骗攻击,在模型的训练和推理阶段容易受到投毒攻击和对抗性攻击。为了解决这些针对人工智能系统的安全威胁,总结了人工智能大模型安全问题面临的挑战和解决策略,以便基于大模型的人工智能技术可以在工业应用中落地。具体地说,首先介绍了人工智能大模型及其特点,然后总结分析了人工智能大模型存在的技术风险和安全漏洞。进一步给出了人工智能大模型安全检测及保护关键技术的研究方向,提出了未来人工智能大模型安全面临的一些挑战和机遇。

“软件安全”与工程问题相结合的教学改革与实践

“软件安全”作为网络空间安全专业的核心主干课,承担着培养创新型、研究型网络安全人才的重任。在北京航空航天大学鲜明的航空航天工程应用背景下,课题组为提升学生对所学课程的理解和工程应用能力,进行了教学改革与实践。总结了现有高校“软件安全”课程存在的问题;根据课题组经验,针对软件开发、数据安全性分析、无人机软件安全等工程问题,探索新型课程教学模式;对未来的课改工作进行了展望。

“软件逆向工程”课程教赛融合模式与实践

为提高“软件逆向工程”课程的教学质量,将知识传授、引导学生自主学习的能力、创新思维培养三者进行紧耦合。采用线上线下有效结合的教学方式,调动学生自主学习动力,解决课程内容繁多的问题;设计案例场景引出相关抽象难懂概念,增强学生的学习信心;注重教学、竞赛与实践创新紧密融合,激发学生的学习内动力,加强学生实践能力和创新思维的培养。

基于GPS的GBAS机载接收机完好性分析

在卫星空间导航性能的研究中,针对陆基增强系统(Ground-Based Augmentation System,GBAS)的应用需求,结合GBAS卫星完好性的计算方法和局域增强系统(Local Area Augmentation System,LAAS)相关标准,对基于GPS的GBAS的CAT II/CAT III类精密进近的完好性算法和影响完好性的地面和机载的伪距偏差模型进行了研究分析,最后对基于GPS的GBAS CAT II/CAT III精密进近的完好性进行了仿真和分析,仿真证明基于GPS的GBAS完好性不能完全满足CAT II/CAT III精密进近着陆完好性要求。仿真为GPS中的GBAS工程应用提供参考。

GPS多星故障识别改进算法的仿真研究

为了能够识别多颗卫星故障,提高卫星导航定位系统的可靠性,提出了一种专门针对多故障情况的MHSS(多假设分组)算法。首先介绍了MHSS算法的基本原理,并对其仿真,表明其较传统算法更能满足更高导航完好性的需求;然后提出了MHSS-FDE改进算法,该算法与传统算法比较类似,需要计算检测门限进行有/无故障判决,将MHss方法中不受伪距测量影响的项排除,构造假设验证法的识别判别函数进行故障卫星识别;最后以多颗故障卫星条件为例对改进的MHSS-FDE算法故障识别率进行计算机仿真,并与现有的可用于多星故障识别的FDE算法进行仿真比较,结果显示:改进的MHSS-FDE算法具有较高的故障识别率。