大模型助力网络攻击的手段与应对建议

大模型与网络安全领域的融合应用正在蓬勃发展,大模型不仅可以赋能网络防御,还能助力网络攻击,学术界已开展多项利用大模型助力网络攻击的研究工作,大模型即将改变网络攻防格局。经过调研发现,大模型助力网络攻击主要有利用越狱手段诱导大模型输出情报信息、钓鱼邮件、恶意代码等恶意信息和使用恶意数据对大模型进行微调生成网络攻击恶意大模型两种手段,应用场景主要有情报收集、定制化钓鱼、漏洞利用、恶意代码生成,且呈武器化、自动化攻击趋势。对此,应加强对大模型被滥用的实时安全审查,针对恶意大模型开展专项追踪与研究,采用完全自研的国产信创类大模型,在网络安全实战演练中加人AI攻防演练。