基于漏磁内检测的自监督缺陷检测方法

漏磁内检测是长输管道主要检测方式。目前漏磁内检测数据分析中的缺陷检测方法环境适应性差,需要大量样本为不同环境分别建立检测模型,难以满足实用需求。本文提出一种自监督的缺陷检测方法,可以在少量样本下建立精确缺陷检测模型,克服目前缺陷检测方法需要大量样本才能训练精确模型的问题,并且在不同环境下检测效果都有所提升,因此具有良好的适用性和迁移性。首先对漏磁内检测缺陷数据进行预处理,接着将缺陷数据自适应的可视化,然后利用视觉表示对比学习的简单框架(SIMCLR)对可视化后的缺陷进行训练获得预训练权重,最后采用深度学习完成对缺陷的识别与定位。试验研究表明,本文设计的自监督检测方法能够有效解决可标记数据少的问题,具有检测精度高,迁移性好,泛化能力强的特点。

基于分层联邦框架的音频模型生成技术研究

针对音频模型,围绕下一代音频生成技术研究,构建联邦音频模型训练框架,面向超大规模音频数据进行音频表征学习,为音频下游任务提供高效鲁棒的解决方案。提出一种适用于音频模型的联邦学习框架,解决数据异构性、通信效率、隐私保护等问题;提出一种基于对比学习的音频模型的预训练方法,利用<音频,文本描述>数据学习语义特征,提高模型的泛化能力和多样化能力;提出一种基于提示学习的音频生成微调方法,利用少量标注数据提高模型的适应能力和定制化能力;提出一种音频模型分布式优化算法进行模型压缩,降低模型的复杂度和资源消耗,提高模型的部署效率和运行效率。通过在下游任务音效转换上的实验,提出的方法在语音质量平均意见得分可以达到3.81。实验结果表明,该方法在音效转换任务上取得了良好的效果。

基于对比学习和预训练模型的临床诊断标准化

针对临床诊断标准化任务中存在的标准诊断词库规模大、文本相关性不显著且标准词个数不确定的问题,提出一种基于对比学习和预训练模型的临床诊断标准化方法.先用无监督和有监督相结合的方法对基于简单对比学习的句子嵌入(SimCSE)模型进行训练,并利用得到的模型从标准库中召回候选标准词,再利用基于转换器的双向编码表征(BERT)进行候选词重排序和标准词个数分类,最终得到标准化结果.实验结果表明:基于无监督和有监督相结合的SimCSE方法的召回率为86.76%,显著优于其他方法;在重排序和标准词个数分类任务中,相比于其他模型,BERT在多个指标上有明显提升;该方法在测试集上进行标准词预测的F1值达到72.54%,在临床诊断标准化中具有较好的表现.