融合Transformer和卷积LSTM的轨迹分类网络

为了减少原始轨迹数据的噪声,充分提取轨迹的时空特征,提高基于轨迹数据的交通模式分类精度,提出一种融合堆叠降噪自编码器、Transformer和卷积长短期记忆网络的轨迹分类网络(networks fusing stacked denoising auto-encoder, Transformer and ConvLSTM,SDAETC)。通过堆叠降噪自编码器减少原始轨迹数据中的噪声;利用结合了Transformer的递归图自编码器,提取到更为丰富的时间特征,同时利用特征图自编码器提取空间特征;改进卷积长短期记忆网络,充分提取轨迹中的时空特征,并与提取到的时间特征和空间特征相融合,从而实现交通模式分类。实验结果表明,提出的SDAETC与基线模型相比,在GeoLife和SHL数据集上的准确率分别提升了1.8%和2%。此外,消融实验结果和模型训练时间分析表明,引入堆叠降噪自编码器、Transfomer和ConvLSTM虽然增加了时间消耗,但是对分类精度有积极贡献。

基于自编码器结构与改进Bytetrack的低光照行人检测及跟踪算法

针对夜间低光照场景下目标特征提取困难和跟踪不稳定的问题,提出了基于自编码器结构及改进Bytetrack的多目标行人检测及跟踪算法。在检测阶段,基于YOLOX(you only look once X)搭建多任务自编码变换模型框架,以一种自监督的方式考虑物理噪声模型和图像信号处理(image signal processing,ISP)的过程,通过对真实光照退化变换过程进行编码与解码学习内在视觉结构,并基于这种表示通过解码边界框坐标与类实现目标检测任务。为了抑制背景噪声的干扰,在目标解码器颈部网络引入自适应特征融合模块ASFF。跟踪阶段,基于Bytetrack算法进行改进,将基于Tranformer重识别网络提取到的外观嵌入信息与NSA卡尔曼滤波获得的运动信息通过自适应加权的方法完成数据关联,并通过Byte两次匹配的算法完成夜间行人的跟踪。在自建夜间行人检测数据集上测试检测模型的泛化能力,mAP@0.5达到了94.9%,结果表明本文的退化变换过程符合现实条件,具有良好的泛化能力。最后通过自建夜间行人跟踪数据集验证多目标跟踪性能,实验结果表明,本文提出的夜间低光照行人多目标跟踪算法MOTA(multiple object tracking accuracy)为89.55%,IDF1(identity F1 score)为88.34%,IDs(ID switches)为15。与基准方法Bytetrack相比,MOTA提高了10.72%,IDF1提高了6.19%,IDs减少了50%。结果表明,本文提出的基于自编码结构及改进Bytetrack的多目标跟踪算法可以有效解决在夜间低光照场景下行人跟踪困难的问题。

结合自相关注意力动态卷积的交通预测网络

交通流量预测作为智能交通系统(ITS)的重要任务之一,受到极大关注,其常被建模为时空序列预测问题,准确把握交通数据的时间-空间相关性成为了解决此问题的关键,现有的工作往往采用循环神经网络以捕获时间依赖性,采用图卷积网络以捕获空间依赖性,两者尚未有机的结合且捕获时空依赖的能力有限,导致预测精度不佳.本文提出了用于交通预测的基于自相关注意力和动态卷积的时空网络(AADCSN),设计采用类Transformer架构,结合自相关注意力与动态学习图卷积有效捕获交通数据的时间特征与空间特征,并引入数据蒸馏技术和多种嵌入表示有效提升预测性能.论文选用4个真实数据集和9个先进的基线方法进行比较,实验结果表明,本文提出的模型在几乎所有对比指标上都优于基线模型.

基于频域解离特征的OCT指纹表征攻击检测

在自动指纹识别系统中,指纹防伪能力的发展至关重要.传统指纹一般由表面成像得到,而这种表面的纹理特征极容易被盗取.基于这种传统指纹的识别系统,检测指纹表征攻击的能力十分有限.因此,现有研究普遍针对具有防伪特征的指纹模态,如具有汗腺特征的高精度指纹和具有指静脉特征的指纹开发表征攻击检测算法.在本篇工作中,为了进一步提高指纹系统的表征攻击检测能力,我们提出一种基于光学相干断层扫描技术(Optical Coherence Tomography,OCT)的频域指纹表征攻击检测方法.与以往方法不同,我们首先利用卷积神经网络和残差结构设计了一个频域特征解离模型,通过该模型可以分别解离出时域中叠加在原始OCT指纹图像上的信息(如区分性特征、无效特征和冗余特征).然后,我们让它学习不同的频域编码,并结合OCT指纹在时域中的重构编码形成相应的潜层编码.利用潜层编码,我们设计了一种用于区分表征攻击指纹和真实指纹的预测模型,用于表征攻击检测.在目前常用的OCT指纹数据集上的实验结果表明,我们的方法可以通过在频域中分离出一些叠加在时域中的无用干扰信息,从而有效地消除干扰.在实例方面,该方法的最小误差(Err.)为0.67%,与已有的基于时域的最优方法相比,最小误差降低了3.03%,性能提高了81.89%.

基于电流行波高频能量比值的全并联AT牵引网单端故障定位方法

针对现有全并联AT牵引网单端故障定位方法存在故障区段识别灵敏度低、行波第二波头易受故障点折反射影响的问题,提出了一种基于电流行波高频能量比值的全并联AT牵引网单端故障定位方法。首先,分析了自耦变压器绕组对地电容对高频分量的衰减特性,论证了相邻线路故障电流行波高频能量幅值的差异性,构建了能量比值差异度判据,利用差异度实现了故障区段定位。然后,分析了行波在全并联AT牵引网故障区段内的传播特性,揭示了反向量电流对端母线行波具有明显的故障突变奇异性。最后,提出了基于反向量电流行波的故障定位方法,通过准确标定行波初始波头、第二波头的到达时间,实现了故障的精确定位。仿真结果表明,所提方法在噪声环境下能准确辨识弱故障特征,提高了全并联AT牵引网故障定位的精确性。

不对称式12脉冲自耦变压整流器设计

为满足多脉冲自耦变压整流器(ATRU, auto-transformer rectifier unit)小型化和轻量化的行业应用要求,本文提出一种不对称式12脉冲自耦变压整流器的设计方案。首先,详细阐述了其拓扑结构和绕组结构;其次,分析了输入电流谐波、等效容量等主要性能参数,并进行了Saber仿真验证;最后,在此基础上设计了10 kW自耦变压整流器样机,并对该样机进行了实测数据分析。分析结果表明,该设计方案满足DO-160标准,等效容量相比对称式12脉冲自耦变压整流器更小,更符合航空产品小型化、轻量化的设计需求。

中性点小电抗接地对故障电流的影响

提高变压器短路阻抗的方法有很多种,在自耦变压器中,中性点经小电抗接地是一种比较有效的方法。文中对故障电流抑制作用进行了分析。在自耦变压器的零序电路基础上,理论分析了中性点小电抗接地对高中压等值电抗的影响。文中举例计算了短路电流,数据验证分析了接地电抗对短路电流的影响。

基于格拉姆角场和深度残差网络的变压器绕组松动故障诊断模型

针对变压器绕组松动故障诊断中特征量难以选取,依赖人工经验的问题,提出了一种基于自动编码器降噪,格拉姆角场(GAF)和深度残差网络(ResNet)进行识别的变压器绕组松动诊断方法。该方法直接从GAF图像中自动学习有效的故障特征,不需要手动提取特征量。首先,将振动信号经过自动编码器进行降噪,获得信噪比更高的振动信号。然后,采用GAF方法将振动信号转化为二维图像,生成图像数据集,在此基础上训练ResNet,构建适用于变压器绕组松动故障分类识别的网络模型。最后,搭建变压器绕组松动故障试验平台,采集绕组在不同松动和试验电流下的振动信号并进行分析。试验结果表明,所提诊断方法对变压器绕组松动识别准确率达95%以上,能够有效识别松动相和松动程度,适用于变压器绕组松动故障的识别和诊断。

基于Transformer和VAE的汽车新闻文本生成研究

针对汽车新闻领域的文本生成任务,对语料库存在的问题提出系统性的解决方法,并提出一个Transformer融合变分自编码器(variational auto-encoder, VAE)的文本生成模型。该模型采用基于Transformer的预训练-微调的方法,在解码阶段加入VAE辅助文本生成。与加入注意力(attention)机制的长短时记忆(long short-term memory, LSTM)网络模型以及Transformer模型的对比实验结果验证了方法的有效性,文本生成实例表明,通过该方法生成的句子表达更加丰富,更贴近人类的自然语言。

基于多尺度时间序列块自编码Transformer神经网络模型的风电超短期功率预测

风电超短期功率预测过程中对时间依赖性的有效捕捉与建模,将直接影响风电功率时间序列预测模型的稳定性和泛化性。为此,提出一种新型时序Transformer风电功率预测模型。模型架构在逻辑上分为时间块自编码、隐空间Transformer自注意力时序自回归、随机方差缩减梯度(stochastic variance reduce gradient,SVRG)优化3个部分。首先,依稀疏约束及低秩近似规则,风电功率时空数据被半监督映射至隐空间;其次,隐空间编码经由多头自注意力网络完成时序自回归预测;最后,模型采用方差缩减SVRG优化算法降低噪声,达到更高预测效能。实验结果表明,所提新型Transformer架构能稳定有效进行超短期风电功率预测,预测结果在准确性、泛化性方面相较于传统机器学习模型都有明显提升。

基于AE和Transformer的运动想象脑电信号分类研究

基于运动想象的脑机接口系统一直是海内外研究学者的关注对象。针对传统运动想象脑电识别系统不能精准提取显著特征、分类识别准确率低等问题,提出一种新的基于自编码器(AE,auto-encoder)降维的Transformer分类识别模型。该方法使用滤波器组共空间模式(FBCSP, filter bank common spatial pattern)对数据进行多个频段的特征提取,并利用AE获得降维后的特征矩阵。同时借助Transformer模型的位置编码考虑全局信号特征影响并利用多头自注意力机制考虑特征矩阵的内部关联性,提升系统分类识别效果。与传统的基于线性判别分析(LDA,linear discriminantanalysis)的K-近邻(KNN,K-nearestneighbors)法分类识别系统进行对比,实验表明AE+Transformer模型的分类识别效果优于LDA+KNN系统,说明这种改进后的算法适用于运动想象的二分类。

新文科背景下保险实务专业升级路径——以汽车定损与评估为例

新文科背景下对保险实务专业人才培养的模式提出新的要求,由传统的理论教学转变为跨学科合作培养的复合型人才。文章根据目前传统保险实务专业存在人才培养目标定位不准确、师资队伍结构不合理、课程体系与企业实际相偏离、教学模式单一、考核评价不具体等问题。提出优化人才培养方案,并根据成果导向教育(OBE)理论设计课程体系、应用现代教学手段,进行改造与升级形成“教、学、研、评、馈、改”的六位一体的“闭环培养模式”及持续改进机制。保证保险实务专业(汽车定损与评估方向)升级改造完成的同时,为行业发展提供更高质量的复合型人才。

高速铁路全并联AT供电牵引网短路故障仿真研究

牵引供电系统作为牵引动力的唯一来源,其长期供电能力与大功率随机性冲击负荷之间的平衡适应问题,以及高供电可靠性与复杂系统运行环境之间的协调匹配问题,将是开展400 km/h及以上运行速度条件下高速铁路工程建设项目所需解决的关键技术问题。针对全并联AT供电系统在实际运营场景下可能出现的3种牵引网典型短路故障,分别从单边及双边供电角度,探究了牵引网系统发生不同类型故障时的电气分布特征,并基于实际牵引网悬挂类型及参数选型构建系统仿真模型,以实施短路故障仿真,从而获取牵引变电所系统及馈线侧、AT所和分区所处遭遇不同类型故障时的故障电流仿真结果。研究成果可为供电系统方案设计及优化配置提供相应的理论和技术支撑。

基于场景与对话结构的摘要生成研究

对话摘要是从复杂的对话中提取关键信息以转化成简短的文本,供用户快速浏览对话内容。相比传统文本摘要,对话摘要数据具有篇幅较长、结构复杂等特点。传统的摘要模型难以充分地利用数据的长文本信息,并且无法考虑对话的结构信息。为此,结合抽取和生成模型,提出一种基于场景与对话结构的摘要生成方法,以对话中的场景、角色和对话内容为主要信息生成对话摘要。通过对话解析构建以角色、动作说明和会话为要素的对话结构图,并使用序列标注任务微调BERT预训练模型,生成以对话句子为单位的向量表示,利用图神经网络建模对话结构,筛选出包含关键信息的句子。在此基础上,将得到的抽取结果作为生成模型的输入,利用双向自回归变压器(BART)预训练模型作为基础框架,在编码端额外引入角色和场景信息,丰富生成模型的语义特征,使用加入多头注意力机制的解码器生成摘要。实验结果表明,相比BART、MV_BART、HMNet等方法,该方法在ROUGE-1指标上最高可提升5.3个百分点。

基于掩码自编码技术的变压器故障声纹诊断方法研究

电力变压器作为电力系统中电能转换与能量传输的核心设备,其可靠运行对电力系统的安全运行有着极为重要的意义。近年来随着边缘计算在电力设备诊断方面的应用不断盛行,受限的硬件算力对算法的计算量提出了新的要求。对此提出一种基于声纹识别与掩码自编码技术的变压器故障诊断方法。首先,将采集的变压器辐射声音信号进行梅尔频谱计算和归一化处理得到声纹特征;其次,将声纹特征运用掩码自编码器进行训练,得到可用于对特征降维的编码器;最后,利用卷积神经网络对编码后的变压器声纹特征进行识别和分类。实验结果表明,该方法在掩码比例为40%的时候能达到93.75%故障识别精度,识别准确率高于对比算法。此外,相对于没有采用掩码自编码的分类算法,该方法在提升17.26%准确率的同时,将计算量缩减为不到原来的1%,可有效降低变压器检测的计算量。

具有升压能力的新型18脉冲自耦变压整流器

此处提出了采用DP型不对称式新型18脉冲升压自耦变压整流器的方案来代替航空/车载等交流电源前端传统二极管不控整流,有效减少了交流输入系统的谐波含量,显著提高了系统的功率因数。详细给出了新型18脉冲升压自耦变压整流器系统工作原理,以及硬件设计与参数计算方法。最后在理论分析的基础上,研制出一台额定功率为3.5 kW的实验样机并对实验结果进行了分析,表明了所提新型18脉冲升压自耦变压整流器及其参数设计的正确性。

DWT和AKD自动编码器的DDoS攻击检测方法研究

针对DDoS网络流量攻击检测效率低及误报率高的问题,本文提出一种基于离散小波变换(Discrete Wavelet Transform, DWT)和自适应知识蒸馏(Adaptive Knowledge Distillation, AKD)自动编码器神经网络的DDoS攻击检测方法.该方法利用离散小波变换提取频率特征,由自动编码器神经网络进行特征编码并实现分类,通过自适应知识蒸馏压缩模型,以实现高效检测DDoS攻击流量.研究结果表明,该方法对代理服务器攻击、数据库漏洞和TCP洪水攻击、UDP洪水攻击具有较高的检测效率,并且具有较低的误报率.

基于PLC的教室照明控制系统节能改造研究与实现

针对传统教室照明控制方式存在严重浪费电能的问题,提出基于PLC的教室照明控制系统,采用分组、分时的控制方案,对教室的照明控制系统进行了升级改造。系统以西门子S7-200/CPU224为主控核心,通过Step7完成程序开发和仿真,通过红外传感器和光照传感器动态检测教室内的光照情况和人数,根据不同时段制定相应的控制策略。改造后的教室照明系统,小教室节能约20%,大教室节能约30%,验证了设计方案的可行性和有效性。

基于Transformer-CVAE的三维人体动画生成方法

三维人体动画生成技术是三维动画领域的核心技术。基于动作捕捉的人体动画生成方法通常制作流程较为繁琐、制作周期较长,无法快速生成人体动画,而现有数据驱动的方法生成的人体动画缺乏真实性,且生成人体运动的种类相对有限。基于此,提出了一种基于Transformer-CVAE的三维人体动画生成方法。首先,基于真实的人体运动构建人体运动数据集,并按照运动种类进行类别划分;其次,基于Transformer网络架构学习运动序列的时序依赖关系,进一步引入变分自编码器结构学习运动序列在隐空间上的概率分布;然后,在隐空间施加约束条件进而控制生成人体运动的效果;最后,在AMASS、HumanACT12、UESTC等数据集上进行实验,并从视觉效果与网络性能两方面对方法进行分析。实验结果表明,与现有方法相比,所提方法可生成种类丰富、真实细腻的人体动画,且在STED、RMSE等指标上具有明显的提升。

AT供电方式下直接供电分支接触网的故障测距方案

在我国电气化铁路的AT供电方式中,直接供电分支线路在供电区段内进行“T”接。然而,当这些分支直供线路发生故障时,既有AT测距系统无法识别故障区段并精确定位。通过分析AT供电方式带直接供电分支线路的电路模型,发生T-R短路故障时的电流分布、吸上电流比特征以及在牵引变电所测量的短路阻抗,提出一种吸上电流比法和电抗法的综合方案,实现了AT供电方式下直接供电分支接触网的故障测距。该方案通过数值仿真验证了其可行性和准确性,并以某高速铁路线路的历史故障报告验证了基于分支点电流比识别故障支线方法的合理性。