富集地区的小水电出力建模是保证电网安稳与经济运行、实现大小水电协调的重要措施。位于偏远山区的小水电信息采集困难,建模相关有效数据匮乏,难以借鉴现有的大中型水电出力研究方法。针对贫资料地区小水电,将迁移学习引入其出力建模,...富集地区的小水电出力建模是保证电网安稳与经济运行、实现大小水电协调的重要措施。位于偏远山区的小水电信息采集困难,建模相关有效数据匮乏,难以借鉴现有的大中型水电出力研究方法。针对贫资料地区小水电,将迁移学习引入其出力建模,基于卷积神经网络(convolutional neural network,CNN)与长短期记忆网络(long short-term memory,LSTM)混合的迁移卷积时空网络(transfer convolutional neural network-long short term memory,TCNN-LSTM),提出了一种样本数据迁移学习方法。以一组具有代表性的丰富水电长期运行数据库为源域;首先,为使迁移前后的任务数据域更相近,提出了跨水电相似数据匹配算法,对源域多维度的长期数据进行时序分割,并计算各子序列与目标水电短期数据的匹配度,筛选高相似片段提纯源域,以提高迁移学习模型的正向迁移率与准确度;然后,利用卷积时空网络(convolutional neural network-long short term memory,CNN-LSTM)对源域进行预训练并提取公共知识,通过网络参数微调(fine-tuning,FT)的方式将预训练模型外推到数据稀缺的目标小水电中,以实现少样本条件下的数据特征迁移学习。最后,以四川某地区为实例验证该算法在贫资料小水电样本数据欠缺情况下的有效性与鲁棒性,相比传统深度学习,本方法将预测均方根误差平均降低16.54%,具有一定工程实用价值。展开更多
基于数据驱动的深度学习模型,需要大量的标注数据进行训练,数据的标注需要花费大量资源。迁移学习可将先验知识转移到相邻领域,可降低标注数据稀少情况下模型训练的难度。为提高迁移学习模型分类准确率,在基于参数迁移学习策略的双向LST...基于数据驱动的深度学习模型,需要大量的标注数据进行训练,数据的标注需要花费大量资源。迁移学习可将先验知识转移到相邻领域,可降低标注数据稀少情况下模型训练的难度。为提高迁移学习模型分类准确率,在基于参数迁移学习策略的双向LSTM和Attention机制联合模型基础上,提出了一种预训练模型和微调模型相结合的双模块改进策略,通过将预训练模型参数固定,仅调整微调模型的中间层,实现参数的迁移,然后将训练模型和微调模型输出层之间的最大平均差异(maximize mean discrepancy,MMD)值加入损失函数,提高了迁移学习的能力,降低了对标注数据的依赖。展开更多
文摘富集地区的小水电出力建模是保证电网安稳与经济运行、实现大小水电协调的重要措施。位于偏远山区的小水电信息采集困难,建模相关有效数据匮乏,难以借鉴现有的大中型水电出力研究方法。针对贫资料地区小水电,将迁移学习引入其出力建模,基于卷积神经网络(convolutional neural network,CNN)与长短期记忆网络(long short-term memory,LSTM)混合的迁移卷积时空网络(transfer convolutional neural network-long short term memory,TCNN-LSTM),提出了一种样本数据迁移学习方法。以一组具有代表性的丰富水电长期运行数据库为源域;首先,为使迁移前后的任务数据域更相近,提出了跨水电相似数据匹配算法,对源域多维度的长期数据进行时序分割,并计算各子序列与目标水电短期数据的匹配度,筛选高相似片段提纯源域,以提高迁移学习模型的正向迁移率与准确度;然后,利用卷积时空网络(convolutional neural network-long short term memory,CNN-LSTM)对源域进行预训练并提取公共知识,通过网络参数微调(fine-tuning,FT)的方式将预训练模型外推到数据稀缺的目标小水电中,以实现少样本条件下的数据特征迁移学习。最后,以四川某地区为实例验证该算法在贫资料小水电样本数据欠缺情况下的有效性与鲁棒性,相比传统深度学习,本方法将预测均方根误差平均降低16.54%,具有一定工程实用价值。
文摘基于数据驱动的深度学习模型,需要大量的标注数据进行训练,数据的标注需要花费大量资源。迁移学习可将先验知识转移到相邻领域,可降低标注数据稀少情况下模型训练的难度。为提高迁移学习模型分类准确率,在基于参数迁移学习策略的双向LSTM和Attention机制联合模型基础上,提出了一种预训练模型和微调模型相结合的双模块改进策略,通过将预训练模型参数固定,仅调整微调模型的中间层,实现参数的迁移,然后将训练模型和微调模型输出层之间的最大平均差异(maximize mean discrepancy,MMD)值加入损失函数,提高了迁移学习的能力,降低了对标注数据的依赖。