基于深度学习的电力工程数据异常检测模型设计

针对当前电力工程数据质量较差的问题,文中开展了基于深度学习的电力工程数据异常检测模型设计研究。提出了局部密度因子的改进方案,设计了一种基于深度自编码器(DAE)与高斯过程回归(GPR)的电力异常数据检测算法。该算法利用DAE模型实现了电力工程数据的重构,且将改进的局部密度因子、编码器输出数据及重构误差等作为GPR模型的输入,进而完成对异常数据的精准检测。仿真算例结果表明,与DAE、AE算法相比,所提算法的准确率可达89.2%,且稳定性更强。同时在实际应用中还可发现,通过加强对工程量及费用类型数据的校核管控,能够有效提升电力工程数据的质量,从而为电网的精细化运营提供数据基础。

南水北调东线江苏段典型泵站运行效率模拟模型

泵站机组运行受多种因素影响,导致泵站运行理论效率与实际效率误差较大。针对泵站机组运行效率精准模拟难题,运用基于高价多项式回归、回归树、多元线性回归、向量机回归、高斯过程回归、神经网络的10个回归算法,建立泵站机组效率模拟模型并开展对比分析,优选出有效的泵站运行效率模拟建模方法。讨论分析采用“上下游水位+流量”代替传统“扬程+流量”开展泵站运行模拟的效果。以南水北调东线邳州站和遂宁二站共8台机组的历史数据开展实例分析,相关实验结果表明:在所有方法中,高斯过程回归(Gaussian process regression,GPR)模型在均方根误差(ERMS)、平均绝对误差(EMA)、均方误差(EMS)、决定系数(R2)和最大个体误差(EMI)指标上综合表现最佳,R2逼近0.95;使用站上、站下水位代替传统的扬程对模型进行训练,所有模型的综合评价指标整体有所改善。综合来看,使用GPR模型并使用上游、下游水位代替扬程进行模拟效率表现最好,以邳州站4号机为例,可将模拟效率的EMA和EMI分别从16.49%和20.40%减少至0.41%和2.30%,研究成果具有一定实际意义,可为我国调水工程泵站经济运行提供有力支撑。

基于深度高斯过程的永磁牵引电机匝间短路分级评估方法

定子绕组匝间短路是影响永磁牵引电机安全稳定运行的主要故障之一,受运行工况、供电与电机本体不平衡的影响,现有方法难以实现永磁牵引电机匝间短路在线精准评估,这成为永磁电机推广应用迫切需要解决的关键技术难题。因此,文章提出一种基于多特征融合的深度高斯过程永磁牵引电机匝间短路分级评估方法:首先通过建立永磁牵引电机匝间短路故障模型,提取电流不平衡、电流三次谐波与dq电流的二次谐波特征;然后采用一种双随机变分推断深度高斯过程(Doubly Stochastic Deep Gaussian Processes,DSDGP)方法对提取特征进行融合训练建模,实现永磁牵引电机匝间短路劣化状态在线分级评估;最后通过永磁电机匝间短路试验与现场案例进行算法验证。结果表明,文章所提方法在多特征融合条件下的评估准确率达到95%以上,相较于支持向量机(support vector machine,SVM)和反向传播神经网络(back-propagation neural,BPN)等分类方法,具有准确率高,适用于变工况、小样本的工程实际应用环境等优点,解决了永磁牵引电机匝间短路早期故障检测及故障严重程度评估的行业难题。

基于改进深度置信网络的UWB无线定位方法

针对传统指纹定位算法中接收信号强度值在室内复杂环境中波动较大,指纹信息不可靠,造成定位精度不足的问题,提出了一种以测距值作为指纹信息的基于深度置信网络和极限学习机的超宽带定位方法。首先在深度置信网络底层采用多个堆叠受限玻尔兹曼机对输入数据做无监督学习,来提取深层次特征,然后在顶层选用极限学习机对输入数据及位置标签进行有监督学习。建立指纹库阶段,为优化指纹采集过程并减少人工勘测成本,提出一种基于高斯过程回归的超宽带指纹库扩充方法。真实场景下实验结果显示,视距环境和非视距环境中,该定位方法均能够达到厘米级定位精度。

面向多元未知环境的基于深度高斯过程组合导航轨迹预测方法

传统惯导/卫导组合导航在多元复杂环境下易受干扰,从而导致观测量异常影响导航性能。以无人驾驶车辆为研究对象,展开提升组合导航系统导航精度的研究。采用深度高斯过程(deep Gaussian process,DGP)辅助估计位置的方法减小组合导航误差,提高定位性能。基于DGP的辅助导航方法不仅可以预测无人驾驶车辆的标称轨迹,同时可以预测各时刻位置可信区间的概率分布,为基于深度学习模型的数据融合预测方法提供了严格的理论解释性。真实历史数据下的多重对比实验表明,该算法较传统深度神经网络算法具有更高的精度和可靠性。基于DGP的辅助导航方式能有效提高全球卫星定位系统信号失锁时的导航模型性能,实验表明相对于纯惯性导航系统(integral navigation system,INS)解算和长短期记忆(long and short term memory,LSTM)进行导航信号补偿定位精度分别提高了97.32%和52.13%。

基于深度高斯过程回归的术中失血量和血红蛋白损失量估计

动态、准确地估计失血量对围手术期管理非常重要,但测量术中失血量是一项困难的任务,特别是当血液被医用纱布吸收时。针对上述情况,以浸血医用纱布图像为研究对象,提出一种基于密集连接卷积网络(DenseNet)的深度多任务高斯过程回归(DMGPR)方法,以估计术中失血量和血红蛋白(Hb)损失量。DMGPR方法包括两部分:用于自动特征提取的密集连接卷积网络(DenseNet)和用于失血量及Hb损失量估计的多任务高斯回归过程(MGPR)。在手术室正常光照条件下,采集了569张浸血纱布图像,并对这些图像进行在线扩充,构建实验数据集。以决定系数(R2)、均方误差(MSE)和平均绝对误差(MAE)为性能指标,对DMGPR方法进行评估和对比。在失血量估计方面,DMGPR方法的R2、MSE和MAE分别为0.971、0.080和0.151;而在Hb损失量估计方面,DMGPR方法的相应结果分别为0.950、0.217和0.292。实验结果表明,DMGPR可以动态、准确地估计术中失血量和Hb损失量,并且比其他对比方法具有更好的性能,更适合于主要使用医用纱布和小到中度失血的手术。

融合梯度和高斯过程回归的多视图重建方法

针对使用深度神经网络进行多视角图像三维重建时存在特征图对光照变化敏感以及重建不完整的问题,提出了一种融合梯度和高斯过程回归的多视图重建方法.首先,针对光照变化影响提取特征的问题,设计一个融合梯度的特征提取网络.通过对图像进行独立的梯度计算并在梯度与原图像的基础上使用卷积神经网络提取特征,提高了梯度信息在特征图中的彩响力,增强了特征图对光照变化因素影响的抑制力.其次,针对多视图重建中特征提取步骤只关注当前视图而没有考虑视图间的潜在空间关系的问题,提出一个融合高斯过程回归算法的视图特征增强模块,有效地增益了视图间相关信息对多视立体视觉重建任务的影响,提高了多视立体视觉重建结果的完整度.最后,通过衡量参考图像与相邻图像特征体之间的匹配程度计算不同视图对Costvolume的贡献度,重新构建符合视觉感知的CostVolume.在DTU和Tanks and Temples数据集上进行实验,结果表明,与主流的多视立体视觉重建方法相比,该方法在三维重建的完整度方面有较大提升,并且拥有良好的泛化性.

深度高斯过程辅助的光阴极注入器优化设计

环形正负电子对撞机(CEPC)对注入器出口处的束团的电荷量、横向发射度、纵向长度等指标提出了严格的要求,设计开发高性能的电子枪及注入器成为了重要挑战。为了得到满足指标的束流,必须同时考虑众多非线性且相互耦合的变量。基于光阴极微波电子枪,提出了一种用多目标遗传算法在高维参数空间进行搜索的方法,对束团的横向归一化发射度和纵向长度进行优化,以期将电子枪的性能发挥至极限。由于考虑空间电荷效应后的束团传输过程模拟计算非常耗时,我们构建了一个3层的深度高斯过程作为替代模型,以解决目标值计算开销大的问题。通过对影响束流横、纵向相空间演化的关键因素分析,共确定了16个几何参数和10个束流元件参数。最后,展示了对由一个L-band的常温微波电子枪、一对螺线管和一个行波加速管组成的注入器,在初始电荷量为10 nC的优化结果。在计算了8000个有效解后,观察到在两个优化目标上均表现良好的解,其对应的横向归一化发射度为19.8π·mm·mrad,束团长度(RMS)为1.0 mm,与当前的设计结果比较,横向归一化发射度压低了约70%。

基于深度高斯过程的飞行冲突探测方法研究

为了更加准确地建立航班飞行轨迹的时序特征,该文引入了高斯过程预测航班飞行轨迹。考虑机动环境运动目标的非线性特征,将高斯过程与深度置信网络相结合形成深度高斯过程,将其用于预测航班飞行轨迹。同时基于预测的航班飞行轨迹,实现了概率型基于深度高斯过程的飞行冲突探测算法。在引入蒙特卡罗思想和马尔科夫链蒙特卡罗采样算法基础上,提出了求解冲突探测算法的方法。基于深度高斯过程的航班飞行轨迹预测方法不仅可以预测航班飞行的标称轨迹,还可以预测各时刻位置可信区间的概率分布,这些特征为概率型飞行冲突探测打下了良好的数据基础。通过真实历史数据的仿真实验说明,该算法较基线算法具有更高的精度和稳定性,将其应用到飞行冲突探测中可获得更低的虚警率和更多的预警时间提前量。

基于深度高斯过程回归的视频异常事件检测方法

针对现有异常检测方法忽视异常事件发生概率小而造成虚警这个问题,基于高斯过程回归(GPR)的框架,将GPR核函数非参数化所具有的灵活性与深度神经网络的结构特性相结合,并将卷积神经网络封装在GPR的核函数中,以同时实现异常检测任务中特征提取和检测两个步骤。在测试阶段,相对于训练样本集的后验概率的对数似然较小的被判定为异常。方法在一个模拟数据集和一个完全真实的数据集上进行了实验验证,实验结果证明所提出的方法在两个数据集上分别达到了83.9%的帧级AUC和34.4%的帧级AUC,在性能上达到了现有技术发展水平。

基于VMD-DESN-MSGP模型的超短期光伏功率预测

光伏功率时间序列受到多种因素影响,呈现出高度的随机性和波动性。针对光伏功率时间序列可预测性低的问题,提出了一种结合变分模态分解(variationalmodal decomposition,VMD)、深度回声状态网络(deepechostate network,DESN)和稀疏高斯混合过程专家模型(mixtureof sparse gaussian process experts model,MSGP)的超短期光伏功率预测方法。首先采用VMD将光伏功率时间序列分解为不同的模态,降低数据的非平稳性;为提高模型在超短尺度时序的预测能力,对各模态分别建立DESN预测模型,将各模态预测结果进行求和重构;为进一步提高模型预测精度,对误差的特性进行分析,采用MSGP对预测误差进行补偿;最后将误差的预测值与原功率的预测值相叠加作为最终预测结果。仿真结果表明,该方法在光伏功率时序预测中的效果比传统预测模型更好,有效提高了超短期光伏功率时间序列预测的准确性。

新能源电力系统中的分布式光伏净负荷预测

为响应碳达峰、碳中和的需求,构建一套完整的"源-网-荷-储"的新能源电力系统,提出了一种基于Hamiltonian Monte Carlo推断深度高斯过程(HMCDGP)算法的分布式光伏净负荷预测模型.首先,分别使用直接预测和间接预测两种形式对预测模型的精度进行实验并得到点预测结果;其次,使用所提出的模型进行概率预测实验并得到区间预测结果;最后,通过以澳洲电网记录的300户净负荷数据为基础的对比实验验证所提模型的优越性.在得到准确的净负荷概率预测后,可以通过电力调度充分利用光伏产出,减少化石能源使用,从而减少碳排放.

基于深度表示学习和高斯过程迁移学习的情感分析方法

情感分析是自然语言处理领域的重要研究问题。现有方法往往难以克服样本偏置与领域依赖问题,严重制约了情感分析的发展和应用。为此,该文提出了一种基于深度表示学习和高斯过程知识迁移学习的情感分析方法。该方法首先利用深度神经网络获得文本样本的分布式表示,而后基于深度高斯过程,从辅助数据中迁移与测试集数据分布相符的高质量样例扩充训练数据集用于分类器训练,以此提高文本情感分类系统性能。在COAE2014文本情感分类数据集上进行的实验结果显示,该文提出的方法可以有效提高文本情感分类性能,同时可以有效缓解训练数据的样本偏置以及领域依赖问题的影响。

基于GPR和深度强化学习的分层人机协作控制

提出了一种基于高斯过程回归与深度强化学习的分层人机协作控制方法,并以人机协作控制球杆系统为例检验该方法的高效性.主要贡献是:1)在模型未知的情况下,采用深度强化学习算法设计了一种有效的非线性次优控制策略,并将其作为顶层期望控制策略以引导分层人机协作控制过程,解决了传统控制方法无法直接应用于模型未知人机协作场景的问题;2)针对分层人机协作过程中人未知和随机控制策略带来的不利影响,采用高斯过程回归拟合人体控制策略以建立机器人对人控制行为的认知模型,在减弱该不利影响的同时提升机器人在协作过程中的主动性,从而进一步提升协作效率;3)利用所得认知模型和期望控制策略设计机器人末端速度的控制律,并通过实验对比验证了所提方法的有效性.

基于深度分解的非平稳非高斯过程多步预测

首先,综合运用小波包分解(wavelet packet decomposition,简称WPD)、样本熵、单位根检验法和变分模态分解(variational mode decomposition,简称VMD),提出利用混合深度分解(hybrid deep decomposition,简称HDD)对非平稳非高斯过程进行处理,降低实测风速风压复杂性,提升其可预测性;其次,根据Mercer定理构造了Morlet+Hermite(MH)线性组合核函数,使其具有局部多分辨性和全局泛化性的优点,采用粒子群算法(particle swarm optimization,简称PSO)对MH核进行参数优化,结合最小二乘支持向量机(least square support vector machine,简称LSSVM)建立HDD-MH-LSSVM多步预测模型;然后,将该模型与常用核函数构成的HDD-Poly-LSSVM,HDD-径向基函数(radial basis function,简称RBF)-LSSVM多步预测模型以及极限学习机(extreme learning machine,简称ELM)多步预测模型形成对比;最后,采用下击暴流风速和台风天大跨膜结构表面实测风压进行大步数多步预测验证。结果表明,HDD-MH-LSSVM预测算法预测精度高、稳定性好、通用性强。

一种改进的小批量手写体字符识别算法

在机器学习领域,从少量样本中高效的学习仍然是一个巨大的挑战.本文借鉴度量学习的思想,基于深度高斯过程模型这一非参数模型,提出了用于小批量手写字符识别的深度高斯匹配网络.该框架可以自适应的学习到一种将以标注支撑集和未标注的样本映射能够有效到其标签的深度结构,同时避免因训练数据不足而出现的过拟合现象.在深度高斯过程模型的训练阶段,运用标准化流方法构造灵活的变分分布,改善了推断的质量.并且在稀疏化高斯模型以降低计算量时,使用最优k均值方法寻找伪点.在Omniglot和Mini Image数据集上的实验结果表明,相比于传统的CNN,本文算法在单学习样本中的准确率均有所提高,并且本文模型不依赖于微调,同时计算量也得到了控制.

基于深度强化学习的水空跨域机器人水面起飞运动控制

水空跨域机器人由水到空的跨域过程(水面起飞)由于受到近水面环境下螺旋桨动力衰减、机器人浮力变化和水面介质引起流体力变化的影响,对其水面运动控制提出新的挑战。针对倾转螺旋桨推进的跨域机器人的水面起飞问题,提出了机器人近水面环境下的浮力估算模型,螺旋桨推力模型,基于深度强化学习方法的机器人水面起飞控制,在此基础上,为解决机器人螺旋桨在近水面动力衰减而影响水面起飞难题,提出一种基于深度强化学习方法的跨域机器人分阶段水面起飞方法。通过仿真验证了基于深度强化学习的分阶段水面起飞的有效性,并在实际实验中证明了深度强化学习控制的无螺旋桨衰减下直接水面起飞和有螺旋桨衰减下分步水面起飞的有效性,分别实现水面起飞至2 m,横滚角和俯仰角小于5°(无螺旋桨衰减)和横滚角小于5°、以65°俯仰角的水面起飞(螺旋桨衰减)。

基于深度学习的航空器异常飞行状态识别

飞行设备快速存取记录仪(Quick Access Recorder,以下简称QAR)保留了原始航班各类重要飞行参数在内的航行信息,使研究分析航空器实时状况和保障飞行质量成为可能。针对QAR数据高维大样本的特点,在如今大数据背景下,除了传统机理建模分析航空器飞行状态外,采用深度学习的方式建立基于数据驱动的航空器飞行状态识别模型,理论与实用意义兼具。通过对真实QAR飞行数据的研究,开发了基于深度稀疏受限玻尔兹曼机的异常飞行状态识别程序。首先利用小波降噪技术对原始飞行数据进行预处理清洗,在一系列典型飞行参数上提取经典时域特征以及小波奇异熵等信息熵特征构成特征集。在此基础上,分别利用经典的线性主元分析技术和深度稀疏玻尔兹曼机对特征集进行有效降维,最后采用四折交叉验证方式,通过高斯过程分类器实现对飞行状态的辨识。实验结果显示,基于深度受限玻尔兹曼机-高斯过程分类的飞行状态识别具有较高分类准确性。

基于改进DDPG算法的车辆低速跟驰行为决策研究

车辆跟驰行为决策研究对于车辆跟驰驾驶技术的发展至关重要,以深度强化学习方法研究车辆低速跟驰场景,提出了一种改进型DDPG决策算法,该算法在DDPG算法的基础上,结合了CBF控制器以进行安全补偿控制与策略探索指导;同时,设计了符合低速跟驰期望目标的奖励函数。在对比实验中,通过高斯过程模型模拟跟驰车队系统,分别用DDPG算法和DDPG-CBF改进算法控制其中一辆车的跟驰行为,实验结果表明,相比于DDPG算法,DDPG-CBF改进算法可以更有效地保证跟驰决策的安全性,同时具有更高的学习效率,能够应用于车辆低速跟驰场景。

基于深度高斯过程的多元类别数据分布估计

多元类别数据的可能取值会随向量长度的增长呈指数级增长,从而造成数据稀疏性问题。通过将观察数据嵌入到连续空间中训练识别数据之间的相似性,构建多元类别数据的线性高斯隐变量模型和类别隐高斯过程(CLGP)。在CLGP模型基础上,建立小样本多元类别数据分布估计的多元类别深度隐高斯过程模型,并结合蒙特卡洛采样的变分推断方法对模型进行参数优化。实验结果表明,与CLGP模型相比,该模型分布估计精确度有所提升。