基于分阶段自编码器与注意力机制的舰载机着舰航迹实时预测模型

航空母舰舰载机着舰过程中应沿相对固定的航迹下滑,以保证触舰点位于舰艉拦阻系统所在的区域,因此舰载机航迹是着舰信号官进行指挥决策的重要依据之一。舰载机航迹实时预测有助于着舰信号官判断着舰作业发展态势,及时形成正确的航迹纠偏引导指令。为此,提出一种基于分阶段自编码器与注意力机制的着舰航迹实时预测模型。第一阶段采用降噪自编码器对历史航迹数据进行特征提取;第二阶段基于长短期记忆网络构建时序自编码器,同时引入注意力机制对不同时刻的编码器输出分配不同的权重,自适应学习其对最终预测结果的影响强度。通过仿真实验将所提模型与6种基线模型进行对比,结果表明,所提模型的综合性能优于基线模型,能够满足着舰航迹实时准确预测的应用需求。

基于上下文词预测和窗口压缩编码的数字水印方法

针对已有自然语言数字水印方法可替换词数量有限以及水印提取效率低的问题,提出了一种基于上下文词预测和窗口压缩编码的数字水印方法。该方法通过神经网络语言模型自动学习原始文本中每个词的上下文语义特征,预测每个词的候选词列表,从而扩充可用于嵌入水印信息的可替换词数量。同时,考虑到不同位置的候选词的替换对句子语义的影响存在差异,该方法以由多个词组成的窗口为单位来嵌入水印信息,并通过词替换前后句子间的相似度来优化水印嵌入时候选词的选择。在此基础上,提出了一种语义无关的窗口压缩编码方法,其根据窗口中词的字符信息对窗口进行水印编码,解决了提取水印信息时对词替换位置的原始上下文的依赖。实验结果表明,所提方法在具有较高嵌入容量和文本质量的前提下,大大提高了水印的提取效率。

孤独症者的预测编码缺陷:前馈联结异常还是反馈联结异常?

依据预测编码理论,研究者提出预测缺陷是孤独症谱系障碍(Autism Spectrum Disorder,ASD)个体感知运动、认知学习和社交言语等多领域缺陷的基础,即孤独症的预测缺陷假说(Predictive Impairment inAutism,PIA)。在PIA中,研究者基于贝叶斯和层级性推理分别提出“低先验”和“高且不灵活的预测误差精度”两个假说,然而上述假说并未得到一致证据支持。ASD个体在不同领域中不同先验的相对权重并非普遍降低,而是具有广泛的任务或情境敏感性。关于ASD个体是否具备基于环境波动调节预测误差精度的能力,也尚存分歧。此外,关于其潜在机制,是神经调节系统异常导致的自下而上前馈联结异常,还是预测脑区功能异常导致的自上而下反馈联结异常,尚无定论。由此可见,虽然该理论为ASD提供了统一的解释框架,但仍需更多研究证据进行修正和完善,以期为早期筛查和诊断、治疗和教育实践提供指导。

偏置剪枝叠式自编码回声状态网络的时序预测

针对大多数模型对时间序列预测数据的预测准确率较低,为提升时间序列的预测精度,提出一种基于Biased Drop-weight的偏置剪枝叠式自编码回声状态网络(BD-AE-SGESN)的深度模型。以叠式ESN为多层深度网络框架,提出一种生成式AE算法生成每一层的输入权值,利用BD算法根据输入权重激活值进行剪枝。对比实验结果表明,该模型能够有效提升预测准确率,在3个不同的数据上,相比其它模型有着较小的预测误差和较高的稳定度。

基于条件变分自编码器和贝叶斯神经网络的短期电力负荷概率预测

考虑到输入信息和预测模型的不确定性对负荷预测结果的影响,本文提出一种基于条件变分自编码器和贝叶斯神经网络的短期电力负荷概率预测方法.通过条件变分自编码器生成指定天气因素预测值和日历特征条件下实际天气因素可能的多个随机样本,以模拟天气预测信息的不确定性;构建GRU-S2S贝叶斯神经网络学习模型参数的分布特征,以反映预测模型的不确定性,并结合MC dropout技术获得多个可能的负荷预测值;遍历天气因素全部模拟样本,将预测模型输出的负荷预测值构成集合,并通过核密度估计获得预测时段内各时刻预测负荷服从的概率分布.实际算例结果表明,该方法在短期负荷概率预测中具有更高的分位数预测精度和更可靠稳定的区间预测结果.

基于迁移学习和降噪自编码器-长短时间记忆的锂离子电池剩余寿命预测

针对锂离子电池退化数据噪声大、数据量少以及不同生命时期的退化趋势不同而导致的模型预测精度低、泛化能力差等问题,从数据预处理、预测模型的构建与训练三方面展开研究:首先结合变分自编码器(VAE)和生成对抗网络模型(GAN)构建VAE-GAN模型生成多组数据,实现电池的退化数据增强;然后结合降噪自编码器(DAE)和长短时记忆(LSTM)神经网络构建DAE-LSTM模型进行数据降噪和容量预测,为了降低模型参数,此过程中的数据降噪和预测共享同一个损失函数;最后先利用生成数据对DAE-LSTM模型进行预训练,再利用真实数据对其进行迁移训练。在CACLE和NASA公开数据集进行性能测试,实验结果表明该文所提方法精度高、鲁棒性强,能够有效提高锂离子电池剩余寿命的预测效果。

孤独症谱系障碍者的视觉感知:基于贝叶斯和预测编码视角

贝叶斯和预测编码理论为孤独症谱系障碍(autism spectrum disorder,ASD)者的感觉加工异常提供了争议性的解释。通过聚焦非社会视觉信息,可从贝叶斯推理、预测编码过程和预测编码精确度三个层面概述理论细节差异并归纳实证证据。基于贝叶斯推理的弱先验和精确似然假说对ASD者视觉加工异常的解释仅停留在描述性层面;关注预测编码过程的假说或观点进一步推动了对ASD者视觉加工特异性的细化,但仍不具备解释功能;聚焦预测编码精确度的假说提供了理论解释,但需进一步完善理论细节和更多精细化的实证研究加以检验。未来研究应通过先细化再整合的路径归纳ASD者预测加工特异性、从ASD者主观体验视角检验理论内容及从发展性视角考察预测功能在ASD者成长中的变化。

一种基于Transformer编码器与LSTM的飞机轨迹预测方法

为了解决飞机目标机动数据集缺失的问题,文章利用运动学建模生成了丰富的轨迹数据集,为网络训练提供了必要的数据支持。针对现阶段轨迹预测运动学模型建立困难及时序预测方法难以提取时空特征的问题,提出了一种结合Transformer编码器和长短期记忆网络(Long Short Term Memory,LSTM)的飞机目标轨迹预测方法,即Transformer-Encoder-LSTM模型。新模型可同时提供LSTM和Transformer编码器模块的补充历史信息和基于注意力的信息表示,提高了模型能力。通过与一些经典神经网络模型进行对比分析,发现在数据集上,新方法的平均位移误差减小到0.22,显著优于CNN-LSTMAttention模型的0.35。相比其他网络,该算法能够提取复杂轨迹中的隐藏特征,在面对飞机连续转弯、大机动转弯的复杂轨迹时,能够保证模型的鲁棒性,提升了对于复杂轨迹预测的准确性。

基于自适应中值预测和霍夫曼编码的密文域可逆信息隐藏算法

为提高密文域可逆信息隐藏的嵌入容量,提出了一种基于自适应中值预测(adaptive median edge detection,AMED)和霍夫曼编码的密文域可逆信息隐藏算法。所提算法首先对载体图像进行块级扩展。然后,预测阶段引入自适应参数提出中值预测(median edge detection,MED)优化方案,参数会随着图像纹理特征而变化,进而提高像素预测准确度。最后,对像素高有效位信息(most significant bit,MSB)进行标记,采用霍夫曼编码对标记结果进行压缩,从而腾出空间进行秘密信息的嵌入。实验结果表明,本文算法可以在保证可逆恢复的基础上实现秘密信息的正确提取。同时,与现有算法相比,嵌入容量有所提高,平均嵌入率高达2.6320 bpp。

基于多通道时空编码器的交通流量预测模型

传统的交通流量预测模型对历史数据进行时空建模,忽略了交通数据的时间周期性内部潜在关系和交通路网间节点的距离特征和相似性空间特征。据此,提出面向交通流量预测的多通道时空编码器模型MC-STGNN,用于提高交通流量预测的准确率。首先将交通数据处理成三通道的周期性时间序列,并对整体的序列数据进行时间位置编码和自适应的空间位置编码,提取路网节点间的动态相关性;其次引入具有卷积结构的多头自我注意力机制,更大程度地捕获周期数据不同程度的时间相关性;最后提出一种图生成器生成新的时空图,提取路网节点间的相似性和距离特征,并利用门控图卷积网络整合原始图和新时空图的空间信息。在高速公路数据集PEMS03和PEMS08上进行一小时的交通流量综合预测实验,结果表明,MC-STGNN模型与其他的基线模型相比,具有更佳的性能指标,说明MC-STGNN模型具有更优的建模能力。

基于图自编码器和GRU网络的分层交通流预测模型

准确的交通流预测信息不仅可以为交通管理人员提供交通决策的坚实基础,还可以减少交通拥堵情况。在交通流预测任务中,获得有效的交通流的时空特性是保证预测效果的前提。现有的方法大多是用未来时刻的数据进行监督学习,提取的特征具有局限性。针对现有预测模型无法充分挖掘交通流的时空特性的问题,提出了基于改进的图自编码器和门控循环单元的分层交通预测模型。首先使用图注意力自编码器以无监督的方式深度挖掘交通流的空间特性,然后使用门控循环单元进行时间特征提取。分层结构采用分开训练的方式进行时空依赖关系的学习,旨在获取路网天然存在的空间拓扑特征,使其可以兼容不同时间步下的交通流预测任务。大量实验证明,所提出的GAE-GRU模型在不同数据集下的交通预测任务中取得了优异的表现,MAE,RMSE和MAPE指标均优于基线模型。

编码方式对业务流程剩余时间预测影响评估

合理的事件编码方式有助于提升业务流程剩余时间预测效果,为此,有针对性地设计出5种事件编码方式。首先,抽取业务流程包含的全部事件,并利用事件编码方式对获取的事件进行编码。其次,根据业务流程序列性的特点,构建不同类型的剩余时间预测模型,同时将事件编码向量作为预测模型的输入,从而评估事件编码方式对业务流程剩余时间预测的影响。在8个公开事件日志数据集上进行实验,结果表明GloVe事件编码方式在提高业务流程剩余时间预测效果上是最有效的。该实验结果可帮助研究者和从业者选择最合适的事件编码方式以实现最佳剩余时间预测效果。

基于信道状态智能预测的星地自适应调制编码技术研究

在手机直连低轨卫星场景中,针对自适应调制编码技术依赖的信道质量指示信息非实时反馈的问题,提出一种基于深层回声状态网络的信道状态预测模型,并根据该预测模型提出一种调制编码方式智能选择机制,即发送端基于信道预测结果选择适应当前信道的调制编码方式。仿真验证表明,基于信道预测的自适应调制编码可以在一定程度上提升链路的误码性能。

基于变分模态分解和自动编码器的PIN二极管温度特性预测

提出融合变分模态分解(VMD)和自编码器的预测方法,将温升特性曲线分解成若干个子信号分量,其中包含高频的波动量、中间量和低频的趋势量,然后利用自编码器对每个分量进行预测,最后将分量的预测值相加,从而实现对PIN二极管温升特性曲线的精准预测。通过与多种机器学习方法的对比验证了结合VMD分解可有效提升预测精度,同时也验证了自编码器在特性曲线拟合上的优势。

基于卷积变分自编码和多头自注意力机制的断路器剩余机械寿命预测

针对万能式断路器退化过程的不确定性,考虑到振动信号对机械性能退化的完善表征,提出了一种基于卷积变分自编码(CVAE)和多头自注意力机制(MSA)的断路器分闸机械机构寿命预测方法。首先依据断路器不同的事件区间提取参数特征,再通过CVAE挖掘信号成分中的深度特征,将参数特征与深度特征融合得到完备退化特征,最后建立GRU-MSA的定量寿命预测模型,引入了多头自注意力机制,在多个不同表征子空间中捕捉信号的不同依赖关系,对重要的时间步赋予更大的权重。最后利用3台试品的振动信号测量数据对所提断路器分闸机械机构寿命预测方法进行测试,结果表明,所提出的方法在3个数据集中寿命预测均方根误差(RMSE)分别为141.46、128.75和134.16,平均绝对误差(MAE)分别为112.17、101.52和106.22,预测精度高且稳定性好,相对于其他混合预测模型更具优势。

基于堆叠去噪自编码器的滚动轴承寿命预测

传统的滚动轴承剩余寿命预测建模方法需要具有丰富经验的专家挑选合适的单一或混合指标亦或模型来提取有效的特化特征曲线,随后采用合适的预测模型进行寿命预测。为解决滚动轴承寿命预测建模专家经验依赖性复杂问题,该文提出了一种基于堆叠去噪自编码器(SDAE)深度学习的滚动轴承寿命预测方法。该方法首先将原始数据经过傅立叶变换,然后计算多个时频与指标,其次直接作为堆叠去噪自编码器的输入,最后进行寿命预测。实验结果表明,该文提出的模型预测精准度整体上优于SAE、ELM与LSTM模型。

基于变分自动编码器的车辆轨迹预测研究

针对轨迹预测中车辆与周边车辆、道路几何之间交互关系建模不充分,以及车辆轨迹多模态建模不完整等一系列问题,提出了一种基于变分自动编码器的车辆轨迹预测方法。首先,通过长短时记忆网络从原始数据中提取轨迹数据与车道信息的语义特征;其次,引入多头注意力机制,采用两个单独的注意力模块分别建立车辆与车辆交互模型及车辆与道路交互模型,能够更好地反映周边车辆与道路几何对车辆轨迹的交互影响,得到丰富的场景上下文信息;接着利用变分自动编码器对车辆轨迹多模态建模,捕捉轨迹预测的随机性质以生成合理的未来轨迹分布;最后从分布中多次重复采样以生成多条可能的未来轨迹。通过搭建实验平台和使用Argoverse自然驾驶数据集进行测试,改进后的预测方法在平均位移误差和最终位移误差指标下的数值分别为1.03和1.51,预测精度上相较于其他3种预测方法,分别提升了45%、46%、32%;实验结果表明:预测方法可以有效地改善车辆与周边车辆、道路几何之间交互关系建模不充分,以及车辆轨迹多模态建模不完整等问题,预测精度提高,总体预测性能良好。

混合模糊信息粒化和时间序列密集编码器的锂离子电池剩余寿命区间预测方法

锂离子电池的剩余使用寿命(remaining useful life,RUL)是电池健康状态的关键指标,对其进行预测具有重要的现实意义。该工作将模糊信息粒化(fuzzy information granulation,FIG)技术与时间序列密集编码器模型(timeseries dense encoder,TiDE)相结合,提出了一种对锂离子电池的RUL进行区间预测的模型。首先将锂离子电池容量退化时间序列通过FIG技术转化为粒子序列信息,以此得到模糊信息粒子的上下界序列。其次,分别对上下界序列使用TiDE模型进行训练预测,从而得到区间预测的结果。实验结果表明,与基于支持向量回归(support vector regression,SVR)和长短期记忆网络(long short term memory network,LSTM)的区间预测模型以及不使用狐狸优化算法(fox-inspired optimization algorithm,FOA)优化的TiDE模型相比,该工作提出的基于FIG技术结合TiDE模型与FOA的区间预测方法在锂离子电池RUL预测性能上具有更高的可靠性。

应用于VVC无损帧内编码的残差二次预测算法

在VVC无损帧内编码中,为了无失真地压缩视频,会跳过变换、量化等操作。未经过变换的帧内预测残差之间,存在较强的空间相关性。基于此,提出了一种残差二次预测(Residual Secondary Prediction,RSP)算法,来进一步降低残差能量。算法对经过帧内预测生成的残差样本进行二次预测,得到二次残差,选择绝对值之和较低的残差组作为最终的预测残差。在VVC测试模型(VTM)12.3上应用RSP算法,相较于基础的无损帧内编码,平均可以节省5.65%的比特率,编码时间增加14.6%,解码时间下降17.5%。RSP以增加较低编码复杂度为代价,高效地提升了VVC无损帧内编码的性能。

基于图自编码聚类的过程活动预测方法

针对复杂事件日志进行过程预测时存在冗余过程实例的问题,提出一种基于图自编码聚类的过程活动预测方法。首先,该方法使用由图注意自编码器和DNN自编码器组成的图自编码聚类算法,充分利用轨迹间特征的结构化信息,对事件日志中的轨迹进行聚类;其次,通过双向LSTM神经网络建立预测模型,学习过程活动中的时间特征和空间特征,充分增强预测准确性,同时使用两层感知机网络识别活动的权重;最后,在6个BPI挑战赛的事件日志数据集上预测结果证明了该方法能够有效提升过程活动预测的质量。