基于贝叶斯优化ARIMA-CNN-GRU深度算法的楼宇负荷预测研究

楼宇能耗预测问题对降低能量消耗与实现合理功能至关重要。为解决楼宇能耗复杂多变的问题,采用ARIMA模型求解能耗曲线非线性部分,再通过CNN-GRU深度学习模型拟合非线性残差,并且采用贝叶斯优化算法对深度模型进行超参优化。基于不同楼宇负荷曲线的预测结果证明,贝叶斯优化算法能够提升模型精度3倍以上,所提出的ARIMA-CNN-GRU算法针对不同类型的楼宇负荷曲线预测的最大误差控制在7%以内,比通过CNN-GRU网络直接预测楼宇负载曲线精度提升2倍,能够满足不同楼宇负荷的预测。

基于不确定度感知的帧关联短视频事件检测方法

针对如何联合短视频的帧不确定度和时序关联性,以增强事件检测能力的问题,提出一种基于不确定度感知的帧关联短视频事件检测方法。首先,利用2D卷积神经网络(CNN)提取短视频每一帧的特征,再将该特征多次前向传播并通过贝叶斯变分层获得特征均值和与特征对应的不确定度信息;其次,利用模型构建的不确定度感知模块将特征均值和不确定度信息进行融合,再将融合后所得的各帧特征通过时序关联模块加强时域上的联系;最后,用时域关联后的特征通过分类网络实现短视频事件检测。在从Flickr平台上爬取到的短视频事件检测数据集上开展实验对比,实验结果表明,支持向量机(SVM)等子空间学习方法的分类性能较差,对高级语义表示的探索不充分;而深度学习方法对于事件检测的准确率明显更优。相较于SViTT(Sparse Video-Text Transformer)方法,所提方法的准确率、平均召回率和平均精度分别提高了3.37%、2.55%和2.09%,验证了所提方法在短视频事件检测任务上的有效性。

基于深度学习的海工平台运动预测

为提高海上作业装备的安全性能,实现海上结构物运动的实时预报,本研究利用了一种卷积神经网络(convolutional neural network, CNN)方法与长短期记忆(long short-term memory, LSTM)方法混合的深度学习模型用于运动预测,该混合模型运用CNN提取运动数据的特征,采用LSTM学习提取出的特征间的时间关系,并结合贝叶斯(Bayesian)优化算法优化混合模型的超参数。首先,对海工平台进行数值仿真,将得到的纵荡运动数据作为实验数据。其次,将数据集划分为训练集、验证集与测试集,利用训练集与验证集进行训练与验证,获得6、12、18 s运动最优预测模型,并利用测试集与LSTM模型进行比较。结果表明:混合模型在6、12、18 s预测上相比于LSTM等模型,预测精度可以提高15%~30%。除此之外,本研究还分别探究了预测精度与输入时长、预测时长之间的关系,结果显示预测精度受输入时长的影响较小,但随着预测时长的增加近似呈线性下降趋势。最后结合训练耗时证明了混合模型相比于LSTM等模型更具有优势。

基于贝叶斯CNN和注意力网络的钢轨表面缺陷检测系统

面向复杂多样的钢轨场景,本文扩展了最先进的深度学习语义分割框架DeepLab v3+到一个新的轻量级、可伸缩性的贝叶斯版本DeeperLab,实现表面缺陷的概率分割.具体地,Dropout被融入改进的Xception网络,使得从后验分布中生成蒙特卡罗样本;其次,提出多尺度多速率的空洞空间金字塔池化(Atrous spatial pyramid pooling,ASPP)模块,提取任意分辨率下的密集特征图谱;更简单有效的解码器细化目标的边界,计算Softmax概率的均值和方差作为分割预测和不确定性.为解决类别不平衡问题,基于在线前景-背景挖掘思想,提出损失注意力网络(Loss attention network,LAN)定位缺陷以计算惩罚系数,从而补偿和抑制DeeperLab的前景与背景损失,实现辅助监督训练.实验结果表明本文算法具有91.46%分割精度和0.18 s/帧的运行速度,相比其他方法更加快速鲁棒.

基于贝叶斯优化卷积神经网络的路面光伏阵列最大功率点电压预测方法

路面光伏阵列上快速行驶的车辆,所形成的车辆阴影具有复杂的动态随机分布特性,将导致路面光伏阵列的输出功率-电压(P-V)特性曲线呈现动态多峰特性,给路面光伏阵列最大功率点跟踪(maximumpowerpointtracking,MPPT)控制带来挑战。基于此,文中提出一种基于贝叶斯优化(Bayesianoptimization,BO)卷积神经网络(convolutional neural network,CNN)的路面光伏阵列最大功率点电压预测方法。首先,将路面光伏阵列的光照和温度的环境信息以图像形式输入基于贝叶斯优化CNN的最大功率点电压预测模型进行学习;然后,利用训练出的预测模型,对当前时刻下路面光伏阵列最大功率点工作电压进行预测;最后,仿真和试验结果表明,提出的预测模型具有良好的适应性,能够精准预测不同车辆阴影工况下的路面光伏阵列最大功率点工作电压,尤其是大幅度提高最大功率点工作电压的预测速度,为动态随机车辆阴影下路面光伏阵列的最大功率点跟踪控制奠定基础。

基于贝叶斯优化-卷积神经网络-双向长短期记忆神经网络的锂电池健康状态评估

准确估计电池健康状态是设备稳定运行的关键。针对当前健康状态研究中容量难以直接测量、估计模型调参费时等问题,提出基于多健康特征的贝叶斯优化(BO)算法优化卷积神经网络(CNN)与双向长短期记忆(BiLSTM)神经网络预测模型。基于NASA公开锂电池数据,提取3种健康特征。将CNN与BiLSTM结合,提高时间序列数据处理能力,加入BO算法自动搜寻最优参数集,避免组合网络模型陷入局部最优,从而减少评估时间。对比分析相关神经网络模型,结果表明所提方法预测准确度最高,可有效估计锂电池的健康状态,平均绝对误差和方均根误差均在1%以内。

结合Bi-2DPCA与CNN的美式手语识别

针对现有美式手语(ASL)识别算法准确率低和模型训练时间长的问题,提出一种结合双向二维主成分分析(Bi-2DPCA)与卷积神经网络(CNN)并基于贝叶斯优化的识别算法。利用Bi-2DPCA算法对原始图像做数据降维处理,提取行、列方向的特征图,使用卷积神经网络对特征图进行训练分类,同时采用贝叶斯优化算法对模型超参数进行自动调参。在24分类ASL数据集上的实验结果表明,该算法的识别准确率达到99.15%,训练时间相比传统CNN算法减少90.3%。

基于深度学习神经网络的油气管道漏磁检测缺陷诊断

管道缺陷尺寸预测时,由于管道漏磁数据量庞大以及常规预测方法精度不高,提出一种基于迁移学习的改进型卷积神经网络与贝叶斯优化算法,以预测管道缺陷尺寸。将已训练好的Lenet网络进行迁移,对迁移后的网络结构进行重构,建立了TB-CNN改进型网络。提出了改进型神经网络的贝叶斯优化算法,对迁移学习改进后的模型的训练过程进行超参数优化,得到最优的TB-CNN模型。在制作训练集时,提出了格拉姆角场(GAF)算法将一维的漏磁曲线数据转换为二维图像方法。通过仿真及实验,证明了该网络对长度和宽度为10~40mm范围、深度在2~10mm范围的缺陷预测均方误差根(RMSE)为0.0691,和其他网络相比,该方法对管道缺陷尺寸的预测精度更高。

联合变分模态分解和卷积神经网络的SAR图像目标分类方法

针对合成孔径雷达(SAR)目标分类问题,联合二维变分模态分解(BVMD)和卷积神经网络(CNN),通过二维变分模态分解获得原始SAR图像的多模态表示,反映目标的全局和细节信息;设计适当的卷积神经网络分别对各个模态进行分类并输出后验概率矢量;基于Bayesian理论融合各个模态的后验概率矢量;并根据融合后的结果判定目标结果。所提方法通过结合二维变分模态分解和卷积神经网络的优势综合提升SAR图像目标分类性能。实验中,基于MSTAR数据集对所提方法在4种典型场景下进行了测试并与现有方法进行对比,结果表明所提方法性能更具优势。

基于改进SAX算法与贝叶斯超参数优化的配电网负荷-馈线智能匹配方法

新型电力系统下配电网运行方式调整愈来愈频繁,配电网负荷-馈线匹配面临采样数据高维异构且价值密度低、现有匹配算法对负荷物理特征依赖度高、参数设置灵活性弱等难点,为此提出一种基于改进SAX(符号聚合近似)算法与贝叶斯超参数优化的配电网负荷-馈线智能匹配方法。首先,建立面向离散符号化时间数据序列的数据价值提升模型,将高维异构的数据近似表示为低维统一的符号,修正和填充异常数据、空白数据。其次,构建改进CNN-LSTM(卷积神经网络-长短期记忆)混合神经网络,对负荷数据进行所属馈线匹配分类训练,利用多头注意力机制深入挖掘负荷数据的潜在数学关系,降低对负荷物理特征的依赖度。然后,引入贝叶斯超参数优化算法对神经网络训练参数进行逐次更新,提高馈线拓扑变化时神经网络模型的灵活性与适应性。最后,对某地区100条馈线进行负荷匹配实验验证,结果证明所提方法较传统方法具有更高的匹配精度。

基于双结构深度学习的滚动轴承故障智能诊断

大型转动机械在工业生产过程中,轴承故障频发,呈现出一种“大数据”的特性,并且现场获取的故障数据往往是不完备和无标签的,亟需开发具有自学习能力的诊断算法。针对该研究提出一种基于双结构深度学习的轴承故障类型与损伤程度的智能诊断算法。该方法使用不完备的数据建模,分为故障类型自学习网络和故障损伤等级识别网络两个结构。对轴承故障信号进行形态学滤波,抑制部分噪声,增强信号的脉冲特征;对消噪后信号进行S变换得到时频图,获取故障类型的共性特征;并将时频图作为卷积神经网络(CNN)的输入,利用网络的相似性度量在目标空间对同类型样本汇聚、不同类型样本分离,实现对轴承故障类型的分类与新故障类型的自学习。将实现故障类型分类的信号经归一化处理后作为深度置信网络(DBN)的输入,利用DBN对微小故障的敏感性对不同损伤程度的差异特征进行提取,之后将提取的特征作为贝叶斯分类器的输入,依据后验概率判别规则实现故障损伤等级自主识别。将该方法应用于西储大学实验平台的滚动轴承故障数据,结果表明,该方法在不完备数据建模的情况下,不仅能完成故障类型与损伤等级的准确分类,而且还能实现故障自学习和损伤等级自增长,增强了诊断过程的智能性。

白矮主序双星光谱的卷积特征提取

通过卷积运算提取白矮主序双星的光谱特征是提高识别精度的有效手段。通过设计一维卷积神经网络,以判别学习的方式从大量混合光谱中拟合出具有稳定分布的12个卷积核,有效提取白矮主序双星的卷积特征。通过引入相对松弛的光谱类别先验分布,提出反贝叶斯学习策略以解决由于光谱抽样有偏带来的问题,显著提高识别精度。通过比较光谱在不同信噪比下的交叉熵测试误差,分析卷积特征的提取过程对光谱信噪比的鲁棒性。实验发现,基于反贝叶斯学习策略的一维卷积神经网络对白矮主序双星的识别准确率达到99.0(±0.3),超过了经典的PCA+SVM模型。卷积特征谱的池化过程以降低光谱分辨率的形式缓解了光谱噪声对识别精度的影响。当信噪比小于3时,必须通过增加模型在光谱上的迭代次数以形成稳定的卷积核;当信噪比介于3与6之间时,光谱卷积特征较为稳定;当信噪比大于6时,光谱卷积特征的稳定性显著上升,信噪比对于模型识别精度带来的影响可以忽略。

基于卷积神经网络和贝叶斯分类器的句子分类模型

针对传统句子分类模型存在特征提取过程复杂且分类准确率较低等不足,利用当下流行的基于深度学习模型的卷积神经网络在特征提取上的优势,结合传统句子分类方法提出一种基于卷积神经网络和贝叶斯分类器的句子分类模型。该模型首先利用卷积神经网络提取文本特征,其次利用主成分分析法对文本特征进行降维,最后利用贝叶斯分类器进行句子分类。实验结果表明在康奈尔大学公开的影评数据集和斯坦福大学情感分类数据集上,所提模型优于只使用深度学习的模型或传统句子分类模型。

基于卷积神经网络的5G无线信道参数学习方法

深度学习是解决5G无线信道建模中参数学习问题的有效手段,但学习网络的超参数选择对网络性能的影响较大,而常规的手动调参方法往往难以达到令人满意的学习效果,为此提出一种基于卷积神经网络(CNN)的5G无线信道参数学习方法,其中CNN网络超参数采用贝叶斯优化进行自动设置。利用仿真软件Wireless InSite建立了5G无线通信室外场景数据集,针对不同信道参数设计了相应的卷积神经网络,通过实验对比分析了贝叶斯自动寻优和手动调整超参数的学习效果,结果表明本文方法优势明显。

一种嵌入射频指纹的半监督辐射源识别方法

对于非协作通信场景下辐射源识别(SEI)问题,基于人工射频指纹特征(Radio Frequency Fingerprints,RFF)的识别方式准确率不高,基于深度学习的方法又对训练数据量有过高的要求。为了克服该问题,提出一种结合了人工射频指纹特征的基于贝叶斯卷积神经网络(CNN)的半监督SEI算法,将一个回归拟合信号双谱的直方图特征的CNN嵌入一个SEI的贝叶斯CNN中,并通过基于模糊度的半监督学习方法进一步降低算法对标签训练集的依赖性。在模拟数据集和真实数据集中的实验结果表明,在标签训练集规模为500~4 500条数据时,提出的方法比端到端的卷积神经网络识别方法的识别率提高了5%~20%。

基于反贝叶斯学习的WDMS光谱自动识别研究

天体光谱是天体物理学重要的研究对象,通过光谱可以获取天体的许多物理、化学参数如有效温度、金属丰度、表面重力加速度和视向速度等。白矮主序双星是一类致密的双星系统,对研究致密双星的演化特别是公共包层的演化有着重要的意义。国内外的大型巡天望远镜如美国斯隆望远镜以及中国的郭守敬望远镜,每天都产生大量光谱数据。如此海量的光谱数据无法完全用人工进行分析。因此,使用机器学习方法从海量的天体光谱中自动搜索白矮主序双星光谱,有着非常现实的意义。目前的光谱自动识别方法主要通过对已有的标签样本进行分析,通过训练得到分类器,再对未知目标进行识别。这类方法对样本的数量有明确的要求。白矮主序双星的实测光谱数量有限。若要通过有限的样本集准确学习白矮主序双星的光谱特征,不仅需要扩大样本数量,还需要提高特征提取和分类算法的精度。在前期工作中,通过机器学习等方法在海量巡天数据中识别了一批白矮主序双星的光谱,为该实验提供了数据源。使用对抗神经网络生成新的白矮主序双星光谱,扩大训练数据量至原数据集约两倍的数量,增强了分类模型的泛化能力。通过反贝叶斯学习修正损失函数,将损失函数的大小与样本的方差相关联,抑制了异常数据对模型造成的影响,提升了模型的鲁棒性,解决了由于训练样本集偏差带来的梯度消失以及训练陷入局部最优解等问题。该实验基于Tensorflow深度学习库。使用Tensorflow搭建的生成对抗网络具有较好的鲁棒性,并且封装了内部实现细节,使得算法得以更好地实现。除此之外,由Tensorflow搭建的卷积神经网络在该实验中用于分类准确度测试。实验结果表明,二维卷积神经网络能够利用卷积核有效地提取白矮主序双星的卷积特征并进行分类。基于反贝叶斯学习策略的卷积神经网络分类器在白矮主序双星原始数据及对抗神经网络生成光谱的识别任务中达到了约98.3%的准确率。该方法也可用于在巡天望远镜的海量光谱中搜索其他特殊和稀少天体如激变变星、超新星等。

基于贝叶斯线性回归的鸟害故障分析

近年来,害鸟引起广东电网输电线路故障所占比例逐渐增高,成为电网安全的主要隐患之一.如何降低鸟害故障,已经成为输电线路运行维护所面临的一个新的课题.输电线路分布区域广,盲目的人工驱赶鸟类难以有效防止鸟害,因此通过对鸟害故障进行分析是防止鸟害的有力支持.通过收集广东电网2015—2019年5年来的鸟害运维数据,根据鸟害故障的地理环境特征、杆塔结构特征与季节特征,建立鸟害故障分析模型.首先,分别分析地理特征、杆塔结构特征以及不同季节对鸟害故障的影响,然后训练Mask R-CNN神经网络提取杆塔周围的地理环境特征,最后建立基于贝叶斯线性回归的鸟害故障分析模型,并使用相关系数R;评估模型的精度.实验结果表明,本文所构建的鸟害故障分析模型具有较高的准确性和可靠性.

改进1D-CNN和LSTM的涡扇发动机剩余寿命预测

针对单一深度学习网络对涡扇发动机退化特征提取不足、超参数选择困难的问题,提出一种改进一维卷积神经网络(1-Dimensional Convolutional Neural Network,1D-CNN)和长短时记忆网络(Long Short-Term Memory,LSTM)的涡扇发动机剩余寿命预测方法。首先,利用相关性、单调性和离散性一系列评价指标对涡扇发动机的多维传感器特征参数进行评价和选择,将综合评价指标高的优选特征参数作为1D-CNN的原始输入特征;然后,通过改进激活函数和Dropout函数来提升1D-CNN的特征提取能力,构建表征发动机退化趋势的一维复合健康指标;最后,利用贝叶斯优化(Bayesian Optimization,BO)的LSTM挖掘一维复合健康指标的时间特征,并实现剩余寿命预测。为验证此方法的预测效果,采用美国国家航空航天局提供的涡扇发动机退化数据集进行剩余寿命预测,实验的均方根误差为14.0402,评分函数值为314.6078。结果表明:相比于单一深度学习方法和传统机器学习方法,该方法不仅能获得较高的剩余寿命预测精度,还能有效解决深度学习模型超参数选择困难的问题。