随着人工智能领域大模型(large model)的广泛应用,大模型,尤其是大语言模型(large language model,LLM)的安全问题受到了广泛关注.大模型作为一种新兴技术,与之相关的安全态势分析以及安全体系建设均亟待挖掘与探索.从社会关系以及技术...随着人工智能领域大模型(large model)的广泛应用,大模型,尤其是大语言模型(large language model,LLM)的安全问题受到了广泛关注.大模型作为一种新兴技术,与之相关的安全态势分析以及安全体系建设均亟待挖掘与探索.从社会关系以及技术应用2个视角,分析了大模型安全的整体趋势.同时,基于大模型自身的特点,梳理了大模型安全能力建设的实践思路,为大模型研发、大模型应用构建提供了安全体系构建的参考方案.介绍的大模型安全能力实践方案包括安全评估基准建设、模型价值观对齐方法、模型线上服务安全系统建设3个部分.展开更多
针对飞控系统安全性分析问题,提出一种基于系统拓展模型(extended system model,ESM)的安全性分析方法。首先,运用Simulink建立系统名义模型。然后,对名义模型进行故障注入,得到系统扩展模型,观察故障情况下的系统响应并对系统进行安全...针对飞控系统安全性分析问题,提出一种基于系统拓展模型(extended system model,ESM)的安全性分析方法。首先,运用Simulink建立系统名义模型。然后,对名义模型进行故障注入,得到系统扩展模型,观察故障情况下的系统响应并对系统进行安全性分析。最后,选取操纵舵面系统(副翼/方向舵)为例。结果表明,系统故障拓展模型使得模型保持完整性和一致性,能够模拟系统故障多状态模式,保证了安全性分析结果的准确性和完整性。展开更多
以形式化建模和利用模型检查进行自动化分析验证为核心的基于模型的安全性分析(model based safety analysis,MBSA)技术能够提高工作效率和分析结果的客观性,已在复杂大型装备系统的安全性工作中得到广泛重视与应用。现有的MBSA框架下...以形式化建模和利用模型检查进行自动化分析验证为核心的基于模型的安全性分析(model based safety analysis,MBSA)技术能够提高工作效率和分析结果的客观性,已在复杂大型装备系统的安全性工作中得到广泛重视与应用。现有的MBSA框架下的建模过程较为复杂,且通常需要模型转换,易造成模型信息的损失,影响安全性分析结果的准确性和全面性。面向模型检查,提出了基于符号语言构建统一系统模型的方法 ,研究了形式化语言元素与系统功能、结构和故障模式之间的分配与映射关系,利用时态逻辑公式规范了系统安全性要求的定义。最后,以飞控系统的前主桨舵机为例进行了案例应用,验证建模方法的有效性和适用性。展开更多
文摘随着人工智能领域大模型(large model)的广泛应用,大模型,尤其是大语言模型(large language model,LLM)的安全问题受到了广泛关注.大模型作为一种新兴技术,与之相关的安全态势分析以及安全体系建设均亟待挖掘与探索.从社会关系以及技术应用2个视角,分析了大模型安全的整体趋势.同时,基于大模型自身的特点,梳理了大模型安全能力建设的实践思路,为大模型研发、大模型应用构建提供了安全体系构建的参考方案.介绍的大模型安全能力实践方案包括安全评估基准建设、模型价值观对齐方法、模型线上服务安全系统建设3个部分.
文摘针对飞控系统安全性分析问题,提出一种基于系统拓展模型(extended system model,ESM)的安全性分析方法。首先,运用Simulink建立系统名义模型。然后,对名义模型进行故障注入,得到系统扩展模型,观察故障情况下的系统响应并对系统进行安全性分析。最后,选取操纵舵面系统(副翼/方向舵)为例。结果表明,系统故障拓展模型使得模型保持完整性和一致性,能够模拟系统故障多状态模式,保证了安全性分析结果的准确性和完整性。
文摘以形式化建模和利用模型检查进行自动化分析验证为核心的基于模型的安全性分析(model based safety analysis,MBSA)技术能够提高工作效率和分析结果的客观性,已在复杂大型装备系统的安全性工作中得到广泛重视与应用。现有的MBSA框架下的建模过程较为复杂,且通常需要模型转换,易造成模型信息的损失,影响安全性分析结果的准确性和全面性。面向模型检查,提出了基于符号语言构建统一系统模型的方法 ,研究了形式化语言元素与系统功能、结构和故障模式之间的分配与映射关系,利用时态逻辑公式规范了系统安全性要求的定义。最后,以飞控系统的前主桨舵机为例进行了案例应用,验证建模方法的有效性和适用性。
