结合坐标注意力与生成式对抗网络的图像超分辨率重建

针对现有生成式对抗网络GAN的图像超分辨率重建模型中存在着特征信息利用不充分、VGG式判别器对局部细节的判断能力较弱以及训练不稳定的问题,提出了一种结合坐标注意力与生成式对抗网络的图像超分辨率重建模型。首先,以嵌有坐标注意力的残差块构建生成器,沿通道和空间2个维度聚合特征,更充分地提取特征。然后,调整Dropout加入网络的方式使其作用于生成器中,提高模型的泛化能力。接着,以U-Net结构构造判别器,输出详细的逐像素反馈,以获取真假图像间的局部差异。最后,在判别器中引入谱归一化正则化,稳定GAN的训练。实验结果表明,当放大因子为4时,在基准测试集Set5和Set14上取得的峰值信噪比平均提高了1.75 dB,结构相似性平均提高了0.038,能够重建出更加清晰且真实的图像,重建图像具有良好的视觉效果。

基于时序生成对抗网络的居民用户非侵入式负荷分解

现有的非侵入式负荷分解算法往往需要大量电器设备级的负荷数据才能保证分解精度,但由于用户对隐私性的考虑以及安装成本过高等问题,很难获取这些数据。因此,构建一种能深度挖掘电力负荷数据时序特性和电器相关性的时序生成对抗网络。利用降维网络对所有电器有功功率序列组成的高维向量进行降维以降低计算的复杂度,通过复原网络将结果还原为高维向量。基于电器运行状态和深度学习的非侵入式分解方法,运用卷积神经网络-双向门控循环单元构建状态复杂电器的负荷分解回归模型,对状态简单电器利用深度神经网络构建负荷识别分类模型。通过对比其他数据生成方法,以及改变典型公开数据集中生成数据比例所得的负荷分解结果验证了所提方法的有效性。

一种结合卷积自编码和补丁惩罚的生成对抗网络单图像去雨方法

针对传统的图像去雨方法存在去雨图像失真、生成伪影等问题,提出一种结合卷积自编码和补丁惩罚的生成对抗网络单图像去雨方法。首先,该方法采用卷积自编码组成生成器网络,使用对称跳跃连接提高生成器网络的训练效率和收敛性能,实现对图像细节信息和二维信号空间信息的重构;其次,引入马尔可夫鉴别器在图像补丁层次上进行惩罚,去除生成图像中的伪影;最后,提出一种新的精细化损失函数参与训练网络模型,进一步增强模型的去雨深度。采用峰值信噪比和结构相似性作为模型的评价标准,实验结果表明,该方法在现实雨图和合成雨图的去雨处理上都有良好的表现,基本还原了图像细节内容,并保证了较高的视觉质量。

引入位置编码机制对抗网络的文本生成模型

针对目前对抗网络文本生成模型在生成文本时,出现词与词之间位置关系紊乱导致文本逻辑不通的问题,该文提出了一种引入位置编码机制对抗网络的文本生成模型(Position-Encoding GAN,PE_GAN)并进行探讨和验证。在对抗神经网络模型的基础上引入位置编码机制,可以通过带有位置编码的词向量来标记文本中词与词之间的位置关系,生成器和判别器使用GRU神经网络的门控机制来减少梯度消失,同时利用蒙特卡洛策略思想来降低数据过拟合风险并提高生成文本的准确性。为了验证PE_GAN模型的有效性,使用开源数据和网络爬取的小说和新闻文本共同作为实验的数据集,结果表明:该模型中生成器和判别器loss值的差距比对比模型小,表明生成的文本更加接近真实文本;与Gumbel-softmax GAN模型、seq-GAN模型和LFMGAN模型相比,PE_GAN模型的BLEU-2、BLEU-3和BLEU-4的值分别都有明显的提高,表明引入位置编码机制后可以改善生成文本的逻辑性,由此可知该模型有较好的应用性。

基于去噪自编码器生成对抗网络的网络流量异常检测

随着通信技术的迅速发展,网络流量识别技术逐渐成为关注焦点,其中异常流量检测尤为重要。然而,异常流量检测面临诸多挑战,例如,异常流量由于模式复杂导致低召回率。研究提出了一种基于去噪自编码器生成对抗网络的异常流量检测模型,通过有效数据增强技术训练鉴别器来提高其准确性。实验结果表明,该模型在NSL-KDD数据集上表现优异,能够以较高准确率检测异常流量,优于目前主流模型。

基于改进生成式对抗网络的编码DNA分子识别

纳米孔道单分子检测技术通过在纳米孔道中捕获分子穿过时产生的离子流变化信号来研究单个分子的信息。然而,由于纳米孔道对不同分子的捕获率不同,因此采集到的单分子数据集不平衡,进而影响分子识别的准确率。本文基于编码DNA分子的阻断事件,构建以深度卷积生成式对抗网络(DCGAN)为基本框架的模型,实现少数类样本的扩充,从而达到纳米孔道数据集的平衡处理,并采用QuipuNet对平衡前后的数据集进行训练和识别。结果表明,采用DCGAN平衡数据集后,训练后的QuipuNet对部分"100"编码分子的识别准确率提升了14%,且平均识别准确率均高于其他扩充数据集的方法,验证了采用DCGAN扩充编码DNA分子数据以平衡数据集可有效提高模型训练后对实际信号的识别准确率。

基于Transformer生成对抗网络的跨模态哈希检索算法

考虑生成对抗网络在保持跨模态数据之间的流形结构的优势,并结合Transformer利用自注意力和无须使用卷积的优点,提出一种基于Transformer生成对抗网络的跨模态哈希检索算法。首先在ImageNet数据集上预训练Vision Transformer框架,并将其作为图像特征提取的主干网络,然后将不同模态的数据分割为共享特征和私有特征。接着,构建对抗学习模块减少不同模态的共享特征的分布距离与保持语义一致性,同时增大不同模态的私有特征分布距离与保持语义非一致性。最后将通用的特征表示映射为紧凑的哈希码,实现跨模态哈希检索。实验结果表明,在公共数据集上,所提算法优于对比算法。

基于空间特征和生成对抗网络的网络入侵检测

针对现有的入侵检测方法未能有效考虑到数据特征之间的关联性以及在高维离散的数据集上检测精度不高等问题,提出了一种基于空间特征与生成对抗网络的网络入侵检测方法MBGAN。首先,设计了一种将数据转换成灰度图的转换方法,使得卷积核能够捕获到图像中更多的上下文空间信息流。其次,采用双向生成对抗网络模型进行异常检测,使用转换后的流量图像对模型进行训练,同时引入最小Wasserstein距离和梯度惩罚技术,解决模型训练中模式崩塌和不稳定问题。实验结果表明:所提方法在NSL-KDD、UNSW-NB15、CICIDIS2017数据集上的检测精度分别为97.4%,92.3%,94.8%,召回率分别为97.2%,93.1%,95.6%,F 1值分别为97.3%,93.0%,95.2%,效果均优于其他方法。

生成式对抗网络研究进展

生成式对抗网络(GAN,generative adversarial network)对生成式模型的发展具有深远意义,自提出后立刻受到人工智能学术界和工业界的广泛研究与高度关注,随着深度学习的技术发展,生成式对抗模型在理论和应用上得到不断推进。首先,阐述生成对抗模型的研究背景与意义,然后,详细论述生成式对抗网络在建模、架构、训练和性能评估方面的研究进展及其具体应用现状,最后,进行分析与总结,指出生成式对抗网络研究中亟待解决的问题以及未来的研究方向。

基于条件式Wasserstein生成对抗网络的电力变压器故障样本增强技术

数据非均衡问题是制约机器学习技术在电力变压器故障诊断领域中应用效果的关键因素。为克服传统过采样方法未考虑数据整体分布信息的缺陷,提出了一种基于深度学习的故障数据增强方法,以实现样本库的类别均衡化目标。首先,建立梯度惩罚优化的条件式Wasserstein生成对抗网络模型以指导多类别故障样本的生成过程,并克服了原始生成对抗网络模型的训练不稳定问题;然后,构建以油中溶解气体无编码比值为特征参量的栈式自编码器诊断模型,并进一步提出了基于数据增强方法的设备故障诊断技术框架;最后,选用由准确率、F1度量以及G-mean组成的评价指标体系对类别均衡化前后的模型诊断效果进行评估对比。算例研究结果表明,相较于传统过采样方法,提出的故障样本增强方法能够更为有效地改善诊断模型对于多数类的分类偏好问题,提升其整体分类性能,可作为电力变压器故障诊断的重要数据预处理环节。

非平行文本下基于变分自编码器和辅助分类器生成对抗网络的语音转换

提出了1种基于变分自编码器和辅助分类器生成对抗网络的语音转换方法,实现了非平行文本条件下多对多的高质量语音转换.在该方法中,利用辅助分类器生成对抗网络替代基于变分自编码器和生成对抗网络模型中的Wasserstein生成对抗网络.由于辅助分类器生成对抗网络将特征样本的类别标签作为辅助信息,其鉴别器不仅能预测样本真假,还能预测生成样本所属的类别,从而提高了生成对抗网络的生成效果.充分的客观和主观评价表明:本文提出的方法明显优于基准模型,在显著改善语音质量的同时也有效提升了说话人个性的相似度.

基于生成对抗网络的注入电流式热声成像逆问题研究

注入电流式热声成像结合了电阻抗成像高对比度和超声成像高分辨率的优势,在生物医学成像领域具有广阔的应用前景。该成像方法激励效率高、检测信噪比强,但在较低频率的电磁激励下,重建目标体电导率的高分辨率图像仍然具有很大的挑战。该文提出一种基于生成对抗网络的电导率重建新方法,包含三个步骤:首先用维纳滤波反卷积,将超声探头输出的电信号还原为真实声信号;然后利用滤波反投影获得初始声源图像;最后将初始声源图像和电导率图像进行匹配,作为生成对抗网络的训练样本,构建用于电导率重建的深度学习模型。经理论分析与仿真研究发现,新方法通过引入深度神经网络,能够挖掘出蕴含在数据中的逆问题求解模型,进而重建高分辨率的电导率图像,且具有很强的抗干扰特性。新方法的提出为解决注入电流式热声成像的电导率重建问题提供了新思路。

基于i向量和变分自编码相对生成对抗网络的语音转换

提出一种基于i向量和变分自编码相对生成对抗网络的语音转换方法,实现了非平行文本条件下高质量的多对多语音转换.性能良好的语音转换系统,既要保持重构语音的自然度,又要兼顾转换语音的说话人个性特征是否准确.首先为了改善合成语音自然度,利用生成性能更好的相对生成对抗网络代替基于变分自编码生成对抗网络模型中的Wasserstein生成对抗网络,通过构造相对鉴别器的方式,使得鉴别器的输出依赖于真实样本和生成样本间的相对值,克服了Wasserstein生成对抗网络性能不稳定和收敛速度较慢等问题.进一步为了提升转换语音的说话人个性相似度,在解码阶段,引入含有丰富个性信息的i向量,以充分学习说话人的个性化特征.客观和主观实验表明,转换后的语音平均梅尔倒谱失真距离值较基准模型降低4.80%,平均意见得分值提升5.12%,ABX值提升8.60%,验证了该方法在语音自然度和个性相似度两个方面均有显著的提高,实现了高质量的语音转换.

基于自动编码生成对抗网络的语音增强算法

针对当前基于深度学习的语音增强算法中忽略语音相位作用的问题,提出一种基于自动编码生成对抗网络的语音增强算法。采用一种由自动编码器(AE)与生成对抗网络(GAN)相结合的综合学习框架,在语音波形层面进行操作即端到端处理,充分利用时域上的信息。AE自动提取语音特征,有监督的学习带噪语音与纯净语音之间的非线性关系,将语音建模为概率模型中标签和潜在属性的组合;在反向传播时,判别网络和分类器采用交叉熵损失函数,生成网络采用平均差异损失函数,这种不对称损失函数使GAN训练更加稳定。增强后的样本验证了所提算法的可行性,客观评估验证了其有效性,整体性能优于DNN的算法。

基于图自编码-生成对抗网络的路网数据修复

完整的交通路网数据是实现智能交通系统的前提,故本文提出一种基于图自编码-生成对抗网络的方法对路网中缺失数据进行修复。首先,通过降噪图变分自编码器提取路网缺失数据的时空特征,使其能最大程度捕获原始路网信息;其次,基于该时空特征利用生成对抗网络生成路网数据,加入重建损失并优化生成对抗网络的目标函数,实现对缺失数据的有效插补;最后,采用西雅图(Seattle)和加州(PEMS04)路网速度数据集,针对不同缺失类型和缺失率下的数据修复进行对比实验。当随机缺失率在10%~70%时,Seattle数据集的MAE指标在2.38~3.25之间,PEMS04数据集的MAE指标在1.46~2.38之间;当聚集缺失率在10%~70%时,Seattle数据集的MAE指标在2.51~2.82之间,PEMS04数据集的MAE指标在1.52~1.54之间。对比结果表明,本文提出的路网数据修复方法均优于BP、DSAE、BGCP等模型。

基于生成对抗网络的变分自编码器解耦合

深度生成模型从观测数据中学习到潜在因素,然后通过潜在因素生成目标,在人工智能领域受到广泛关注。现有深度生成模型学习的潜在因素往往是耦合的,无法让潜在因素每一维控制所得数据的不同特征,即无法单独改变某一特征而不影响其他特征。为此,在β-变分自编码器(beta-variational autoencoder,β-VAE)的基础上,结合生成对抗网络(generative adversarial networks,GAN),提出基于生成对抗网络的变分自编码器(beta-variational autoencoder based on generative adversarial network,β-GVAE)模型。该模型是一种改进的β-VAE,通过引入生成对抗网络约束β-VAE中损失函数的KL项(Kullback-Leibler divergence),促进模型的解耦合。在数据集CelebA、3D Chairs和dSprites上进行对比实验,结果表明β-GVAE不仅具有更好的解耦合表示,同时生成的图像具有更好的视觉效果。

引入自编码机制对抗网络的文本生成模型

自编码模型是一种无监督的学习算法,主要用于数据的降维和特征提取。在对抗神经网络模型基础上引入自编码模型,旨在提高输入数据的特征表示。主要使用前馈神经网络和Seq2seq模型学习原文本特征,将随机数据变为具有特征的数据作为输入,加快训练的速度,提高模型的准确率。同时使用强化学习模型解决反向传播中离散化数据梯度难以下降的问题。模型的鉴别器使用CNN网络和交叉熵模型,使生成的文本具有新颖性。使用BELU评价指标和主观评价的实验结果均表明了该模型的有效性。

基于对抗性双通道编码器的网络入侵检测算法

针对网络流量数据不平衡引起少数类攻击检测率低的问题,提出一种基于对抗性双通道编码器的入侵检测算法。分别采用正常流量和攻击流量来训练变分自编码器模型,构建基于自编码器派生流量数据的多通道表示形式的新特征向量,驱动生成对抗网络的生成过程朝向目标类,生成的少数类图像,有效地扩充数据集;通过引入CBAM模块来改进生成器的网络结构,融合通道和空间两个方向的特征,增强模型的特征提取能力;将判别器输出调整为单目标分类并加入softmax层,输出Fake、Normal和Attack结果,避免生成器生成无法与所需类型匹配的图像而获得奖励,提高生成图片的质量。实验结果表明,该方法能够有效降低误报率以及提高未知攻击的检测精度,尤其在不平衡数据集中具有更多的优势。

基于生成对抗网络和变分自编码器的离群点检测算法

针对传统离群点检测算法在类极度不平衡的高维数据集中难以学习离群点的分布模式,导致检测率低的问题,提出了一种生成对抗网络(generative adversarial network,GAN)与变分自编码器(variational auto-encoder,VAE)结合的GAN-VAE算法。算法首先将离群点输入VAE训练,学习离群点的分布模式;然后将VAE与GAN结合训练,生成更多潜在离群点,同时学习正常点与离群点的分类边界;最后将测试数据输入训练后的GAN-VAE,根据正常点与离群点相对密度的差异性计算每个对象的离群值,将离群值高的对象判定为离群点。在四个真实数据集上与六个离群点检测算法进行对比实验,结果表明GAN-VAE在AUC、准确率和F;值上平均提高了5.64%、5.99%和13.30%,证明GAN-VAE算法是有效可行的。

基于面部动作编码系统的表情生成对抗网络

用含有面部表情信息的向量作为输入条件指导生成高真实性人脸图像是一个重要的研究课题,但常用的八类表情标签较为单一,为更好地反映人脸各处丰富的微表情信息,以面部各个肌肉群作为动作单元(AUs),提出一种基于面部动作编码系统(FACS)的人脸表情生成对抗网络。将注意力机制融合到编码解码生成模块中,网络更加集中关注局部区域并针对性做出生成改变,使用了一种基于判别模块重构误差、分类误差和注意力平滑损失的目标函数。在常用BP4D人脸数据集上的实验结果表明,该方法可以更有效地关注各个动作单元对应区域位置并用单个AU标签控制表情生成,且连续AU标签值大小能控制表情幅度强弱,与其他方法相比,该方法所生成的表情图像细节保留更清晰且真实性更高。