基于深信度网络的电力市场风险识别方法

根据国内电力市场的改革发展趋势,分别从政府监管、电力交易中心、发电主体、售电主体和大用户等角度出发,针对H省中长期市场中存在的风险环节进行分析,拟定电力市场风险预警指标并构建电力市场风险预警指标框架体系,结合深信度网络和非负矩阵分解提出相关预警指标的风险识别方法,通过数据分析验证指标框架体系和风险识别方法的可行性。

基于混合型深信度网络的风速日前预测研究

目前,准确的风速预测是解决大规模风电安全高效并网的关键基础问题之一。本文将深度学习理论引入风速预报的回归问题研究,基于堆栈降噪自动编码器建立了多个具有不同隐含层数的混合型深信度网络回归模型,并利用风电场的实测风速数据进行四组不同季节风速日前预测实验,包括相同隐含层模型在不同训练测试上的对比实验和不同隐含层模型在同一测试集上的对比实验。实验结果表明:相同隐含层模型在4个测试集上的回归误差(MSE和MAE)随着预报步长的变化都相对比较平稳、波动性不大,即深信度网络模型的鲁棒性较好对数据集的敏感性不强;预报误差随着隐含层数变化具有一定规律,即深信度网络模型对于同一测试集上存在一个最优的隐含层数能够使预报误差最小。最后,针对相同的训练测试集,采用典型常用的支持向量回归机进行风速日前日前对比实验,预报误差统计效果均比混合型深信度网络的差。因此,深信度网络可以通过其强大的非线性映射能力自动提取风速的复杂变化模式,从而有效提高回归模型的预测精度和鲁棒性。这为深度特征学习方法在风速预测中的实际应用奠定了一定的基础。

基于深信度网络分类算法的行人检测方法

针对目前浅层分类方法存在训练样本数量过大和拟合复杂函数能力较弱等问题,提出一种改进的基于深信度网络分类算法的行人检测方法。通过搭建带T分布函数显层节点的受限波兹曼机输入端改进深信度网络的输入方式,将行人特征提取信息通过输入端的显层结构转换为分类器可以识别的伯努利分布方式;搭建多隐层受限波兹曼机中间层结构,实现隐层结构间的数据传递,保留关键信息。最后,利用BP神经网络搭建分类结构的输出端,实现分类误差信息反向传播并对分类结构的参数进行微调,不断优化分类器结构。实验证明,改进的深信度网络行人检测算法性能优于经典浅层分类算法,算法的检测速度也能满足使用要求。

基于生成型深信度网络的回归算法鲁棒性分析

目前,深度学习在分类问题中取得了很多很好的效果,并开始在部分回归任务得到应用。然而,绝大部分研究重点都集中在相对其他回归算法的预报精度上,而忽视了有实际应用需求的回归算法预报鲁棒性问题。首先基于受限的玻尔兹曼机建立了一个具有3个隐含层的生成型深信度网络多步预测模型;然后,建立了基于单隐含层神经网络、三个隐含层的神经网络以及单核支持向量的典型多步预测模型,并利用4组宁夏地区不同季节的风速数据进行回归算法的稳定性对比实验。实验结果显示,基于受限玻尔兹曼机建立的具有三个隐含层的深信度网络模型的多步预报误差的均值和方差都是最小的。因此,基于生成型深信度网络的回归模型不仅预报精度高,而且此预报算法的鲁棒性也比较好;相对其他三种典型回归算法来说,可以更好地满足风电场风速预报问题的实际工程应用需求。

连续音素的改进深信度网络的识别算法

为提高连续语音识别中的音素识别率,提出一种基于改进并行回火训练的受限波尔兹曼机的音素识别算法。首先,利用经过等能量划分后的改进并行回火算法来训练受限玻尔兹曼机,接着将受限玻尔兹曼机堆叠组成一个深信度网络,从而作为深度神经网络预训练的基础模型,然后通过softmax层输出,得到用于音素状态后验概率检测的深度神经网络。接着,利用少量的标签数据,根据反向传播算法对网络权重进行微调。最后,将所得后验概率作为隐马尔科夫的发射概率,然后利用Viterbi解码器实现音素识别。在TIMIT语料库上的实验表明,识别率相比于传统的对比散度类算法提高了约4.5%,在不增加计算量的情况下比原始并行回火算法提高约1%。

基于滑动窗特征融合的深信度网络驾驶行为识别

针对动态突变行为原始信息量较少造成的行为不易区分以及浅层结构分类算法分类正确率较低的问题,提出一种基于滑动窗特征融合的深信度网络驾驶行为识别算法。采用从手机传感器中获取的三轴加速度数据进行预处理后,利用端点检测算法确定行为切换点,通过滑动窗实时提取时间序列信息并计算序列片段的时频域特征,选取有效特征后,融合原始行为信息与特征建立完整时间序列段作为受限玻尔兹曼机的输入,优化预设参数的多隐层受限玻尔兹曼机对输入端信息的特征进行提取,最终通过深信度网络(deep belief network,DBN)实现驾驶行为的识别。实验结果表明,改进的滑动窗特征融合的深信度网络驾驶行为识别算法整体识别率为98.4%,能有效进行驾驶行为的识别。

深度学习研究综述

深度学习是一类新兴的多层神经网络学习算法,因其缓解了传统训练算法的局部最小性,引起机器学习领域的广泛关注。首先论述了深度学习兴起渊源,分析了算法的优越性,并介绍了主流学习算法及应用现状,最后总结了当前存在的问题及发展方向。

基于深度学习的疲劳状态识别算法

目前国内外的疲劳状态识别算法大多数是基于单一的、人为制定的疲劳状态特征实现的,且大部分算法结构复杂,效率比较低下,对驾驶员的个人行为习惯的适应性不强。为此,提出一种基于深度学习的疲劳状态识别算法,它引入深信度网络(DBN)来模拟输入图像数据分布,完成对疲劳特征的分层自动抽取,进而基于时间窗实现视频流图像的疲劳状态识别;同时,算法自适应调整网络学习率以减少网络预训练时间,采用反馈机制实现网络自进化,从而提高对用户个性化疲劳特征的适应性。实验结果表明,算法可以使网络获取到良好的疲劳特征,且误判率会随使用时间的增加而逐渐降低。

基于分布式内存计算的深度学习方法

为了提升深度学习技术并行化学习效率,设计了一种面向计算机集群的分布式内存计算方法。构建分布式内存环境,建立数据分片处理和多任务调度机制,使模型参数和神经元节点的计算和存储并行运行于该环境中,避免了磁盘I/O对训练速率的影响;采用深度信念网络模型,以多个副本异步并行计算的方式进行模型训练,并使用dropout方法防止模型训练过拟合。对CIFAR-10图像数据集进行分类训练,试验结果表明,该方法可以明显提高深度神经网络的训练效率,并具备良好的可扩展性。

一种改进的5层深度学习结构与优化方法

已有研究针对5层神经网络结构中各隐层节点数的选取并不明确。为此,提出一种改进的5层深信度网络(DBN)结构设计方案与节点数量优化选择方法。将第一隐层、第二隐层节点数预估为前一层节点数的1/3至2/3间的某值,第三隐层、第四隐层节点数分别等于第一隐层和输入层的节点数,然后采用样条插值方法优化选择第一隐层、第二隐层节点数。该结构特征只需预训练前2层权重,简化了DBN的受限玻尔兹曼机预训练方法。MNINST数据集上的实验结果验证了该网络结构的高效性与高准确率。

基于深度学习的图片敏感文字检测

为快速检测图片文字中的敏感词汇,引入深度学习的方法进行文字检测和识别。对图片预处理,对连通区域进行标记;利用两层限制玻尔兹曼机(RBM)对连通区域进行文字区域的判别和选取;利用水平投影和区域生长的方法对得到的文字区域进行字符的分割;用BP神经网络算法和深信度网络(DBN)算法结合对敏感信息进行检测。敏感文字检测理论分析和实验数据表明该方法的算法复杂度低,检测速度快。

高光谱遥感图像空谱联合分类方法研究

在遥感影像研究领域里,高光谱数据分类是一个热点问题。近年来,在这个问题上涌现出很多研究方法,然而,大多数方法都是用浅层的方法提取原始数据的特征。将深度学习的方法引入高光谱图像分类中,提出一种新的基于深信度网络(DBN)的特征提取方法和图像分类架构用于高光谱数据分析。将谱域-空域特征提取和分类器相结合提高分类精度。使用高光谱数据进行实验,结果表明该分类器优于当前的一些先进的分类方法。此外,本文还揭示了深度学习系统在高光谱图像分类研究中具有的巨大潜力。

用于跨库语音情感识别的DBN特征融合方法

跨数据库语音情感识别中,将不同尺度上提取的情感特征进行融合是目前的技术难点。本文利用深度学习领域的深度信念模型,提出了基于深度信念网络的特征层融合方法。将语音频谱图中隐含的情感信息作为图像特征,与传统情感特征融合。研究解决了跨数据库语音情感识别中,将不同尺度上提取的情感特征进行融合的技术难点。利用STB/Itti模型对语谱图进行分析,从颜色、亮度、方向三个角度出发,提取了新的语谱图特征;然后研究改进的DBN网络模型并对传统声学特征与新提取的语谱图特征进行了特征层融合,增强了特征子集的尺度,提升了情感表征能力。通过在ABC数据库和多个中文数据库上的实验验证,特征融合后的新特征子集相比传统的语音情感特征,其跨数据库识别结果获得了明显提升。

大数据时代的车牌汉字识别

在大数据时代,交通信息成为网络数据量最大的数据来源之一,智能交通成为必然需求.车牌识别是智能交通的基础,可广泛应用于车库管理、交通监控等工程中,然而识别的准确率还有待加强,已有算法对于字母、数字的识别准确率都非常高,而对于中国特有的汉字识别却效果不佳.提出用受限玻尔兹曼机组成的深信度网络算法来识别车牌字符,大大提升了汉字识别的准确率,使准确率达到99.44%.

基于深度学习方法的慢性阻塞性肺疾病危重度分类研究

本文提出了一种基于深度学习方法的慢性阻塞性肺疾病危重程度自动分类算法,并以大样本临床数据为输入特征,分析各特征在分类中所占的权重。研究通过特征选择、模型训练、参数优化、模型测试,建立了基于深信度网络架构的分类预测模型,通过对2007年、2011年两个版本的慢性阻塞性肺疾病全球倡议组织(GOLD)危重程度标准进行自动分类与测试,分类准确率均达到90%以上。同时,通过分析模型系数矩阵得出输入特征的贡献度排序,并通过该排序发现,贡献度较大的输入特征与临床诊断先验知识之间存在较好的吻合性,证明了深信度网络分类模型的有效性。通过本文研究,期望能为深度学习方法在疾病诊断辅助决策中的应用提供有效解决方案。