大语言模型安全现状与挑战

大语言模型因其出色的文本理解和生成能力,被广泛应用于自然语言处理领域并取得了显著成果,为社会各界带来了巨大的便利。然而,大语言模型自身仍存在明显的安全问题,严重影响其应用的可信性与可靠性,是安全学者需广泛关注的问题。文中针对大语言模型自身的安全问题,首先从基于大语言模型的恶意应用问题切入,阐述提示注入攻击及其相应的防御方法;其次,介绍大语言模型幻觉带来的可信问题,对幻觉问题的量化评估、幻觉来源和缓解技术是当前研究的重点;然后,大语言模型隐私安全问题强调了个人及企业数据的保护问题,一旦在进行人机交互时泄露商业秘密和个人敏感信息,将可能引发严重的安全风险,当前研究主要通过可信执行环境和隐私计算技术来进行风险规避;最后,提示泄露问题关注攻击者如何窃取有价值的提示词进行获利或通过个性化提示词泄露个人隐私。提升大语言模型的安全性需要综合考虑模型隐私保护、可解释性研究以及模型分布的稳定性与鲁棒性等问题。

机器学习系统的隐私和安全问题综述

人工智能已经渗透到生活的各个角落,给人类带来了极大的便利.尤其是近年来,随着机器学习中深度学习这一分支的蓬勃发展,生活中的相关应用越来越多.不幸的是,机器学习系统也面临着许多安全隐患,而机器学习系统的普及更进一步放大了这些风险.为了揭示这些安全隐患并实现一个强大的机器学习系统,对主流的深度学习系统进行了调查.首先设计了一个剖析深度学习系统的分析模型,并界定了调查范围.调查的深度学习系统跨越了4个领域——图像分类、音频语音识别、恶意软件检测和自然语言处理,提取了对应4种类型的安全隐患,并从复杂性、攻击成功率和破坏等多个维度对其进行了表征和度量.随后,调研了针对深度学习系统的防御技术及其特点.最后通过对这些系统的观察,提出了构建健壮的深度学习系统的建议.

基于冗余度的KNN训练样本裁剪新算法

作为数据挖掘领域十大算法之一,K-近邻算法(K-Nearest-Neighbor,KNN)因具有非参数、无需训练时间、简单有效等特点而得到广泛应用。然而,KNN算法在面对高维的大训练样本集时,分类时间复杂度高的问题成为其应用的瓶颈。另外,因训练样本的类分布不均匀而导致的类不平衡问题也会影响其分类性能。针对这两个问题,提出了一种基于冗余度的KNN分类器训练样本裁剪新算法(简记为RBKNN)。RBKNN通过引入训练样本集预处理过程,对每个训练样本进行冗余度计算,并随机裁剪掉部分高冗余度的训练样本,从而达到减小训练样本规模、均衡样本分布的目的。实验结果表明,RBKNN可在保持或改善分类精度的前提下显著提升KNN的分类效率。

有效辩护制度问题之调查研究

随着以审判为中心的司法制度改革的逐步推进,我国的法治建设也越来越完善。虽然阻碍有效辩护制度的障碍逐步被清除,但是仍然还有一些问题没有得到解决。有效辩护制度对于保障被害人合法权益、尊重保障人权,实现司法公正有重要的意义,然而我国对有效辩护制度却没有明确的定义。因此,我们需要进一步完善法律,调整诉讼结构,完善有效辩护制度,建立法律职业共同体,为我们建设法治国家、法治社会、法治政府打好基础。

乐沙定与艾恒在结直肠癌术后化疗中的安全性与有效性的对比研究

目的探讨乐沙定与艾恒在结直肠癌术后化疗中的安全及其有效性,指导临床科室合理使用药物。方法我院2007年1月-2010年6月收治的≥TNMⅡb期的结直肠癌患者共46例,按照随机分组为乐沙定组及艾恒组各23例,常规进行根治术后辅助化疗,同时观察、记录患者化疗后不良反应及术后局部复发或远处转移及生存情况,通过SPSS软件进行统计学分析。结果化疗不良反应中,除了骨髓抑制（P=0.038）,其余毒副反应两组差异无统计学意义;两组总有效率分别为60.86%及69.56%,差异无统计学意义;乐沙定治疗组的1、3、5年总的生存率分别为82%、52%、13%,艾恒组1、3、5年总的生存率为90%、35%、11%,差异无统计学意义。结论国产奥沙利铂使用是安全、有效的,应针对不同患者情况采用不同药物。