差分隐私GAN梯度裁剪阈值的自适应选取方法

提出自适应选取差分隐私GAN梯度裁剪阈值的方法。该方法假设可以接触到与隐私数据同分布的小部分公开数据,通过从公开数据中随机选取一批数据,设置裁剪阈值为这批数据的平均梯度范数,迭代上述操作直到网络聚合。在Mnist和Cifar10数据集上对所提方法进行了实验验证,结果表明,在合理隐私预算下与差分隐私辅助分类GAN相比,卷积神经网络(CNN)分类器准确率提高1%~4%,而评估分数(inception scores)提升0.6~1.2。

小波高频子带变换裁剪阈值SAMP算法研究

文中首先针对离散小波变换(DWT)破坏了低频逼近系数之间的相关性,导致重构质量变差的问题,提出小波高频子带变换(HFSBWT)的稀疏表示方法。其次针对稀疏度自适应匹配追踪(SAMP)算法的原子候选集在每次迭代时成倍增加造成存储空间浪费和重构时间变长等问题,提出裁剪阈值稀疏度自适应匹配追踪(CTSAMP)算法。最后仿真结果表明:对于同一重构算法,小波高频子带变换的图像重构峰值信噪比提高3 dB左右。在小波高频子带变换稀疏表示后采用裁剪阈值稀疏度自适应匹配追踪算法,重构图像的性能有了明显的提高,重构时间缩短一半。

基于模糊裁剪阈值的SAMP压缩感知算法（英文）

稀疏度自适应匹配追踪(SAMP)算法是压缩感知(CS)中一种主流的图像重构算法。随着迭代次数的增加,SAMP算法的原子候选集将成倍增加,会导致系统空间的浪费和重构时间的增长。为此,提出了一种模糊裁剪阈值稀疏度自适应匹配追踪(FPTSAMP)算法。由于离散小波变换(DWT)在CS稀疏处理过程中破坏了低频逼近系数间的相关性,对信号的重构质量产生了一定的负面影响,因而采用小波高频子带变换(HFSBWT)来替代DWT,实现对信号的稀疏表示。仿真实验结果表明,相比于同一重构算法,采用HFSBWT方法得到的峰值信噪比更好;与SAMP算法相比,与HFSBWT相结合的FPTSAMP算法的重构效果有了明显提高,重构时间也减少了一半。

动态梯度阈值裁剪的差分隐私生成对抗网络算法

现有的生成对抗网络(GAN)和差分隐私相结合的方法大多采用梯度扰动的方法实现隐私保护,即在优化过程中利用梯度裁剪技术来约束优化器对单个数据的敏感性,并对裁剪后的梯度添加随机噪声以达到保护模型的目的。然而大多数方法在训练时裁剪阈值固定,而阈值过大或过小均会影响模型的性能。针对该问题,提出动态梯度阈值裁剪的DGC_DPGAN(Dynamic Gradient Clipping Differential Privacy Generative Adversarial Network)算法以兼顾隐私保护和模型的性能。该算法结合预训练技术,在优化过程中先求取每批次隐私数据的梯度F-范数均值作为动态梯度裁剪阈值,再对梯度进行扰动。考虑不同的裁剪顺序,提出先裁剪再加噪的CLIP_DGC_DPGAN(Clip Dynamic Gradient Clipping Differential Privacy Generative Adversarial Network)算法和先加噪再裁剪的DGC_DPGAN算法,并采用Rényi Accountant求取隐私损失。实验结果表明,在相同的隐私预算下,所提出的两种动态梯度裁剪算法与固定梯度阈值裁剪方法相比更优:在Mnist数据集上,所提两种算法在IS(Inception Score)、结构相似性(SSIM)、卷积神经网络(CNN)分类准确率上分别提升了0.32~3.92,0.03~0.27,7%~44%;在Fashion-Mnist数据集上,所提两种算法在IS、SSIM、CNN分类准确率上分别提升了0.40~4.32,0.01~0.44,20%~51%。同时,GAN模型生成图像的可用性更好。

改进型CLAHE图像增强算法及其FPGA实现

为解决CLAHE算法硬件资源消耗量大的问题,从硬件实现的角度对算法进行两方面改进。针对裁剪阈值,提出了一种普适性裁剪阈值确定方法,基于信息熵和结构相似性构造了品质因数,以品质因数最佳作为评判标准确定硬件实现中的裁剪阈值,在平衡图像增强对比度和失真度的同时,避免消耗硬件资源对图像数据本身进行大量计算。针对超阈值像素再分配,提出了一种改进型分配方法,将超阈值像素仅均分给未超阈值的灰度级,且若其再次超阈值则停止分配,在降低图像失真度的同时,避免反复像素分配带来的硬件开销。在改进型CLAHE算法的基础上,完成基于FPGA的低照度图像增强系统实现,实验结果表明,在普适性裁剪阈值下,增强后的图像能够普遍获得更高的品质因数,具有更佳的综合效果;改进型像素再分配方法对比常规方法,图像在信息熵平均损失3.28%的代价下结构相似性可平均提升8.88%;低照度图像增强系统可实现640×480@60 fps的图像采集与处理。本设计可为图像增强算法的硬件实现提供一种新的参考。