-
题名一种简单的共享式多层梯度补给方法
- 1
-
-
作者
杜飞
杨云
胡媛媛
曹丽娟
-
机构
云南大学国家示范性软件学院
昆明市数据科学与智能计算重点实验室
云南省高校数据科学与智能计算重点实验室
-
出处
《软件学报》
EI
CSCD
北大核心
2020年第7期2157-2168,共12页
-
基金
国家自然科学基金(61663046,61876166)
云南省应用基础研究计划(2016FB104)
+2 种基金
云南省中青年学术技术带头人后备人才项目(2017HB005)
云南省创新团队项目(2017HC012)
云南省高校重点实验室建设计划。
-
文摘
深度学习通过多层特征提取方式,可以将原始复杂数据自动表征为高级抽象特征,该模型具有很强的建模能力,普遍应用于图像识别语音识别、自然语言处理等高复杂问题中.但深度学习由于网络层数深、参数规模庞大,训练时常常会产生梯度消失、陷入局部最优解、过度拟合等现象.借鉴集成学习的思想,提出一个新颖的深度共享集成网络,该网络通过在深度学习各隐藏层引出多个独立输出层的联合训练的方式,在网络的各层注入梯度,从而对低层隐藏层进行梯度补给,从而降低深度学习中的梯度消失现象,并通过集成多输出层的方式使得整个网络拥有更强的泛化性能.
-
关键词
深度学习
集成学习
堆叠泛化
梯度消失
梯度注入
-
Keywords
deep learning
ensemble learning
stacked generalization
vanishing gradients
gradients injection
-
分类号
TP182
[自动化与计算机技术—控制理论与控制工程]
-
-
题名基于原始单通道脑电图的高效睡眠自动分期方法
- 2
-
-
作者
陶雨洁
杨云
-
机构
云南大学软件学院
昆明市数据科学与智能计算重点实验室
云南省高校数据科学与智能计算重点实验室
-
出处
《郑州大学学报(理学版)》
北大核心
2022年第3期40-44,共5页
-
基金
国家自然科学基金项目(61663046,61876166)。
-
文摘
提出一种基于单通道脑电数据的睡眠自动分期方法。利用多个并行的卷积操作学习脑电的多尺度空间特征,使用长短期记忆网络挖掘局部时不变特征中的时间信息。针对类别不平衡问题,采用时移滚动方法和加权交叉熵损失函数。在公开数据集Sleep-EDF上的实验结果表明,所提方法仅使用单通道数据实现了端到端的高效睡眠自动分期,缓解了不平衡数据集的分类问题。
-
关键词
睡眠分期
单通道
脑电图
类别不平衡
端到端
-
Keywords
sleep staging
single-channel
electroencephalogram
class imbalance
end-to-end
-
分类号
TP391
[自动化与计算机技术—计算机应用技术]
-