基于元学习及域自适应的生成式文本隐写分析方法

生成式文本隐写方法能够生成流畅、自然的隐写文本,给文本隐写分析带来了巨大挑战。当源域(训练文本)与目标域(测试文本)使用相同隐写算法,且在相同语料库下训练时,基于神经网络的文本隐写分析方法具有较好的检测性能。然而在实际应用中,我们无法预测待检测文本是采用何种隐写算法及在何种语料库下训练所生成,导致大多数基于神经网络的文本隐写分析方法难以实用。为解决这个问题,引入了元学习及域自适应的基本思想来提高隐写分析模型的泛化检测能力。我们采用预训练语言表示模型RoBERTa构建了一个词重要性语义编码模块,以充分提取文本语义特征。针对所得特征,提出了一个词间关联多尺度感知模块来关注由隐写导致的存在于相邻词与非相邻词之间的词间关系变化。实验结果表明,在多跨域场景下,该方法相较于现有文本隐写分析方法Fs-Stega检测准确率平均提高了9%。

基于生成对抗网络与多头注意力的文本隐写术

随着深度学习的发展,基于文本生成的隐写术取得了重大突破。现有基于文本生成的方法存在暴露偏差的问题,即训练阶段每个输入都来自真实样本标签,预测阶段的输入来自上一时刻预测的输出。训练和预测之间的输入样本差异会产生误差积累,使得生成样本与真实样本分布相差过大。针对这个问题,提出了一种基于生成对抗网络和多头注意力的文本隐写术—TS-GANMA。首先,利用生成对抗网络训练文本生成器,通过多头注意力机制提取多头注意力得分参与奖惩模块的奖励计算,得到更适合生成器的反馈信息。随后,生成器与鉴别器进行对抗训练,能够解决暴露偏差的问题,优化文本生成模型。最后,对文本生成模型输出的条件概率分布进行编码,实现秘密信息嵌入。实验结果表明,在相同的嵌入率时,TS-GANMA隐写术与LSTM-vlc和ADG相比,隐写文本的困惑度有显著的降低,这是因为采用TS-GANMA进行文本隐写,生成的隐写文本与真实文本的统计分布更加拟合,生成的隐写文本质量更高。

语义空间下基于情感表达的生成式文本隐写方法

针对现有生成式文本隐写方法存在的“过度优化”文本质量以及生成的隐写文本在语义表达上缺乏约束等问题,提出了一种在语义空间下基于情感表达的生成式文本隐写方法。该方法利用新媒体平台提供的情景融合的伪装场景,研究如何利用无监督抽取模型从原始数据集中抽取情感表达组合候选集合,并基于改进的二部图排序算法对情感表达组合候选集合进行排序,得到情感表达组合集合;然后将其映射到语义空间,实现基于情感表达组合生成用户观点的同时嵌入秘密信息。实验结果表明,与同类语义空间下生成式文本隐写方法相比,所提方法生成的含密商品评论的困惑度最低可达10.536,且含密商品评论与主题具有较强相关性,进一步保证了隐写文本的认知隐蔽性,同时所提方法还可有效地用于安全保密通信领域,能够避免发送方被追踪溯源和关联分析。

一种基于低失真替换优先的文本隐写算法

针对同义词替换操作造成原始文本整体统计特性的破坏,提出了一种基于低失真替换优先的文本隐写算法。该算法以同义词在文本中的合适度为基础,构造失真函数衡量同义词替换后文本统计特性的改变程度;不仅为每个同义的词集合选取合适度最高的两个词组成替换组合,而且从全局的角度出发,对原始文本中的所有同义词替换组合所引起的失真度进行排序,优先选取失真度小的同义词替换组合来嵌入信息,从而降低了同义词序列统计特性的改变程度。实验结果表明,该算法可以很好地抵抗基于同义词结对和基于同义词相对词频统计特征的隐藏信息检测算法的攻击,具有较高的抗检测能力,提高了秘密信息的安全性。

基于自动选择编码及动态选词策略的文本隐写方法

针对文本编码方式不灵活以及候选词增加导致生成的隐写文本质量较低的问题,提出了一种基于自动选择编码及动态选词策略的文本隐写方法。所提方法基于Transformer的神经机器翻译模型生成隐写译文。在生成隐写译文的过程中,采用定长编码和哈夫曼编码建立候选词与码字之间的映射关系,通过计算隐写词元与正常词元的概率差异百分比,实现基于概率差异阈值的动态选词。最后,比较生成的2种隐写译文Sacrebleu的大小,实现编码方式的自动选择。实验结果表明,所提方法能够生成流畅度高、可读性强的隐写译文。当隐藏容量为11.19%时,隐写译文的Sacrebleu达到10.53。

文本隐写及隐写分析综述

梳理了文本隐写与隐写分析的发展脉络,将文本隐写算法分为两类:修改式文本隐写和生成式文本隐写。归纳了两类算法的实现过程,并从率失真性能和安全性等方面分析主流算法的优势与不足。针对两类文本隐写算法,总结了对应的隐写分析算法实现过程,并对文本隐写与隐写分析的发展趋势进行了展望。

安全性可控的生成式文本隐写算法

生成式文本隐写算法通过对候选池中的单词进行控制性选择映射来隐藏秘密信息,通常包含3个模块:文本生成模型、候选池概率分布截断和隐写嵌入算法。由于不同时刻文本生成模型输出的概率分布差异巨大,现有算法通常采用top-k或top-p对候选池单词的概率分布进行截断,以减少低概率的生成词,提高生成文本的安全性。当文本生成模型输出的候选池概率分布过于集中(over-concentrated)或过于平坦(over-flat)时,原有的top-k或top-p截断方式不足以应对概率分布的变化,容易产生概率较低的词或忽略概率较高的词,导致生成文本的安全性指标出现异常。针对此类问题,提出了安全性可控的生成式文本隐写算法,在候选池中根据秘密信息控制性选择生成词时,所提算法基于困惑度和KL散度的参数约束,动态进行候选池概率分布的截断,使候选池中所有单词都满足参数约束,提高了生成文本的安全性。实验结果表明,所提算法生成的隐写文本困惑度和KL散度可控;在相同KL散度情况下,生成文本的困惑度较现有算法下降最高达20%~30%;可以同时控制困惑度和KL散度,在指标合理的情况下,使生成的文本同时满足困惑度和KL散度两个指标。在使用3种文本隐写分析算法检测生成的隐写文本时,检测准确率均在50%左右,表现出很好的统计安全性。

基于神经机器翻译的文本隐写方法

深度学习促进了自然语言处理技术的发展,基于文本生成的信息隐藏方法表现出了巨大的潜力.为此,提出了一种基于神经机器翻译的文本信息隐藏方法,在翻译文本生成过程中进行信息嵌入.神经机器翻译模型使用集束搜索(Beam Search)解码器,在翻译过程中通过Beam Search得到目标语言序列各位置上的候选单词集合,并将候选单词依据概率排序进行编码;然后在解码输出目标语言文本的过程中,根据秘密信息的二进制比特流选择对应编码的候选单词,实现以单词为单位的信息嵌入.实验结果表明,与已有的基于机器翻译的文本信息隐藏方法相比,该方法在隐藏容量方面明显提升,并且具有良好的抗隐写检测性和安全性.

基于汉字笔画编码矩阵的文本隐写方法

现有的文本隐写方法在隐藏容量和隐写成功率方面存在不足,针对此问题提出了一种基于汉字笔画的文本隐写方法,利用汉字笔画矩阵和编码矩阵将汉字笔画与“0”、“1”编码段进行映射,按照秘密消息的二进制编码段的顺序,找到对应的汉字笔画并按顺序组合成汉字,找到包含这些汉字的文本作为载体,对携带秘密信息的汉字在文本载体中的位置进行编码,编码后的位置信息放置在URL中,发送给接收方供其提取秘密消息。本方法不仅有较好的隐写成功率,而且在隐藏容量方面也有较大优势。

基于胶囊网络的多任务少样本文本隐写分析

文本隐写分析是一种通过统计特征来区分载密文本和正常文本的技术.目前,最先进的文本隐写分析模型大多使用深度神经网络在单一任务上进行训练和测试.因此,现有模型在检测某种特定的隐写文本时有较好的性能.当待检测文本的领域、所使用的隐藏算法和嵌入容量发生变化时,模型的隐写分析性能会有一定程度的下降.为了增强文本隐写分析模型在不同检测任务上的快速自适应能力,并使模型能够处理少样本场景下的隐写分析任务,本文提出了一种基于胶囊网络的文本隐写分析方法.具体来说,使用带有自注意力的Bi-LSTM(Bidirectional Long Short-Term Memory)作为通用任务提取器,从支持集和查询集中获取文本的句子表示;任务映射器作为元学习者主导元训练过程,在获取支持集的句子表示后,学习单个文本与任务间的非线性映射关系;然后,将映射结果和查询集的句子表示输入分类器,度量文本与任务之间的匹配程度;最后,基于均方误差MSE(Mean Square Error)损失和KL散度(Kullback-Leibler Divergence)计算总预测损失.大量实验证明,我们的模型可以快速适应各种不同的任务,并在1-shot、5-shot和10-shot的检测任务中对三个域的平均检测精度分别达到了85.11%、88.63%和91.91%.

利用范本构建语法模板生成仿自然语言隐写文本

基于模仿函数的Mimicry文本隐写法利用上下文无关文法(CFG)构造树形结构,生成的含密仿自然文本在语义连贯性方面存在缺陷。该文提出一种改进的Mimicry文本隐写方法,从选择范本和设计语法模板两方面提高语义的连贯性和一致性。经过范本训练,在模板设计中运用置换文本库,考虑文本中各词汇、短语和句子的可置换性。模板还运用Huffman编码,充分考虑语句和词组的出现频度,以改善含密文本的自然度。这样生成的含密文本语义连贯性好,符合自然语言在字符、词汇、句法等方面的统计特性,有利于对抗人工和机器检测。

基于随机算法的中文文本无载体隐写方法

针对文本的隐写方法以修改文本载体为主,易被检测,可修改特征较少其隐写容量受限等,提出基于空间转换的思想,结合秘密消息文本序列和文本载体词频表,将文本序列映射成数字序列,借助随机算法将数字序列生成密钥实现文本无载体隐写。基于搜狗新闻文本数据集的研究结果表明,该方法不易被检测,安全性能高,通过起始标识符和终止标识符的设定隐写容量可无限扩充,通过构建文本数据库和载体选择的方式验证了该方法的可行性。

用宋词实现高嵌入率文本信息隐藏

文本信息隐藏是将秘密信息隐藏到文本中的一种技术。与加密后的密文通常是无意义的一串编码不同,文本隐藏生成的隐写文本看起来与普通文本无异,不容易引人怀疑。但是因为文本本身的冗余度低,与图像、视频等载体相比,文本隐藏算法较少且容量偏低。该文提出了一个新的利用宋词的文本隐藏算法,并设计实现了由编码器、解码器、词典和词牌模板组成的系统。秘密信息被隐藏到在字数、行数、句子形式、格律和韵脚等方面符合某个词牌的隐写宋词中。系统在保证良好安全性的同时,嵌入率达到了16%。据我们所知,这是第一个利用特殊体裁的文本信息隐藏算法。

混合加密的宋词载体文本信息隐藏技术

为进一步提高信息隐藏系统的安全性,提出基于混合加密的宋词载体文本信息隐藏方案。通过混合加密工具将原始信息经高级加密标准(advanced encryption standard,AES)进行加密,并使用椭圆曲线密码算法(elliptic curve cryptographic,ECC)对AES密钥进行加密,将加密后的密文和密钥经宋词文本信息隐藏技术进行隐藏,通过随机选择词牌模板(RTSA)或者指定单一词牌模板(STSA)的方式生成多篇宋词。该方案对100个汉字样本进行加解密平均时长为79.6 ms和33.3 ms,嵌入率最高达28.13%,与已有方案相比在嵌入率和隐蔽性上具有更大优势。同时,加密操作相当于对原始信息本身加入了随机噪声,即便信息隐藏系统被破解,攻击者也很难进行解密还原。由于生成的隐写宋词与原始宋词相差无异,攻击者难于进行隐显分析,更难于获得隐藏的信息,安全性得到了大幅提高。

中文文本信息隐藏研究进展

文本信息隐藏是保护文本内容安全性与完整性的重要技术。综述了中文文本信息隐藏的研究进展,根据中文文本信息隐藏的线索,将已有的算法分为3类:基于文本图像的算法、基于文本格式的算法和基于文本内容的算法,分别阐述了每类算法的实现过程,分析其优势与不足,并且对比分析了它们的原理、嵌入容量和抵抗攻击能力等。此外,总结了中文文本信息隐藏技术存在的问题,并且对其研究趋势进行展望,期望为该领域的研究提供参考。

隐写检测技术在公安情报分析中的应用

信息隐藏技术一直以来被恐怖分子、邪教组织所青睐,他们利用信息隐藏技术在网络中秘密传播非法信息,危及国家安全,因此有必要发展信息隐藏检测技术,阻止通过这种方式进行非法活动。

基于特定词集的无载体文本信息隐藏技术

当前,由于深度学习技术的发展,信息隐藏方向有了巨大进步,由原始的隐写方法逐步实现语言隐写,尤其近几年来语言隐写技术取得了很大的突破。但是之前所提出的基于循环神经网络等的隐写方法存在偏差,而且在生成步骤所获得的候选池也是基于固定的控制,这样会使隐写的安全性大大降低。基于此,提出了一种基于动态选词策略的语言隐写模型,在保证秘密信息正常隐藏在生成文本中的同时,通过计算词典中单词的方差与阈值进行比较来确定最佳候选池的大小,从而以降低困惑度的形式来实现生成句子的安全性。实验表明,基于动态选词的方法可以实现生成更加流畅且自然的隐写文本,但会小小的牺牲嵌入率。

基于马尔可夫链的生成式区块链隐蔽通信模型

为了解决目前区块链隐蔽通信中信道构建风险高、信息交叉、隐蔽性不足等问题,提出了一种基于马尔可夫链的生成式区块链隐蔽通信模型。首先,发送方使用文本数据集获取候选单词集并进行马尔可夫模型训练,获得转移概率矩阵,并生成哈夫曼树集合;随后,对需要传输的秘密信息二进制流进行迭代式哈夫曼解码,以获得一组符合正常语言与语义特征、可读性强的载密信息语句,利用生成式隐写方法完成秘密信息嵌入;然后,将该载密信息进行环签名后,作为正常交易发布到区块链网络中并完成打包和出块;最后,接收方利用相同的文本数据集获取转移概率权值哈夫曼树,逆向操作获得秘密信息二进制流。实验结果表明,相较于目前的同类模型,所提模型可进一步提高嵌入强度和时间效率,降低隐蔽信道构建风险,避免信息交叉,提升隐蔽性。

多媒体隐写研究进展

大数据分析可以跳过数据内容而仅从数据背景挖掘情报,传统的加密通信已经难以满足安全通信的需求。隐写技术是将秘密消息嵌入各种载体(如数字图像、音频、视频或文本)中实现隐蔽通信的技术,是应对大数据情报获取的有效手段,是密码技术的必要补充。人工智能,尤其是深度学习,在计算机视觉、语音和自然语言处理等领域的巨大成功,给隐写术带来了新机遇,提出了新挑战,促使基于图像、音/视频和文本的隐写术出现了一系列新思想、新方法。本文介绍隐写术的概念、分类、主要作用和研究意义,概述隐写术的发展历史、研究近况和应用场景。注意到各类载体上的隐写术虽然有差别,但是其核心追求有共通之处,可以提炼成通用的隐写编码问题。所以本文首先介绍隐写编码的基本思想与关键技术,然后针对最重要和流行的载体、图像、视频、音频和文本,分别介绍隐写术的进展。总体而言,本文从隐写编码、图像隐写、视频隐写、音频隐写和文本隐写5个方面概述隐写术的国际/国内发展现状,总结差异,对比优势和劣势,并分析发展趋势。

移动僵尸网络的命令与控制信息隐匿技术

随着移动互联网的发展和普及,越来越多的攻击者通过移动僵尸网络进行犯罪活动.针对推送型移动僵尸网络,提出了一种拟英文自然语言的移动僵尸网络命令和传输机制,通过基于推送内容的隐写方法,将需要传输的控制指令隐藏于推送文本中,使推送文本拟自然语言化,躲避推送服务提供商的异常检测.实验结果表明,这种拟自然语言隐写方法能够根据语料库动态地提升隐写文本的单词嵌入率,隐写文本自然可读,具有良好的传输效率和隐蔽性.