基于极化SAR梯度和复Wishart分类器的舰船检测

舰船检测是极化SAR系统的重要应用之一。现有的舰船检测方法容易受到旁瓣泄露的干扰,使得舰船目标的形态难以提取,导致检测结果不符合真实情况。此外,在舰船过于密集、尺度不一致的情况下,相邻舰船由于旁瓣的影响有时会被认为是单个目标,从而造成漏检。针对这些问题,该文提出一种基于极化SAR梯度和复Wishart分类器的舰船检测方法。首先,将似然比检验(LRT)梯度引入对数比值梯度框架,使其适用于极化SAR数据;基于LRT梯度图进行恒虚警(CFAR)检测,提取舰船的边缘信息,消除伪影的同时抑制强旁瓣对舰船精细轮廓提取的影响。其次,利用复Wishart迭代分类器对舰船强散射部分进行检测,可排除大部分的杂波干扰且保持舰船形态细节。最后,将二者信息融合,从而可以保持舰船形态细节的同时克服旁瓣和伪信号的虚警。该文在3幅来自ALOS-2卫星的极化SAR图像上进行了对比实验,实验表明与其他方法相比,该文所提算法具有更少的虚警和漏检,且能够有效克服旁瓣泄露,保持舰船形态细节。

面向多源异质遥感影像地物分类的自监督预训练方法

近年来,深度学习改变了遥感图像处理的方法。由于标注高质量样本费时费力,标签样本数量不足的现实问题会严重影响深层神经网络模型的性能。为解决这一突出矛盾,本文提出了用于多源异质遥感影像地物分类的自监督预训练和微调分类方案,旨在缓解模型对于标签样本的严重依赖。具体来讲,生成式自监督学习模型由非对称的编码器-解码器结构组成,其中深度编码器从多源遥感数据中学习高阶关键特征,任务特定的解码器用于重建原始遥感影像。为提升特性表示能力,交叉注意力机制模型用于融合异源特征中的信息,进而从多源异质遥感影像中学习更多的互补信息。在微调分类阶段,预训练好的编码器作为无监督特征提取器,基于Transformer结构的轻量级分类器将学习到的特征与光谱信息结合并用于地物分类。这种自监督预训练方案能够从多源异质遥感影像中学习到刻画原始数据的高级关键特征,并且此过程不需要任何人工标注信息,从而缓解了对标签样本的依赖。与现有的分类范式相比,本文提出的自监督预训练和微调方案在多源遥感影像地物分类中能够取得更优的分类结果。

TS-Aug架构的半监督自训练情感分类算法

网络教学资源的普及使得资源评价的文本数据规模逐步增大.传统的有监督学习文本分类对标注数据的依赖度较高,需要足够的数据量和高质量数据才能得到良好的结果.在网络教学资源的评价文本工作中,由于标注数据难以获取且质量参差不齐,使得这一任务的难度越来越高.针对这一困难,提出一种TS-Aug半监督自训练方案,通过添加无标签数据并进行伪标签训练,能在强力数据增广的作用下大幅扩充样本集,解决数据增广中的过拟合风险.首先利用标注数据和弱增广策略进行初始化监督训练,然后利用无标注数据和强增广策略进行半监督训练,最后使用标注数据进行微调监督训练.在自建的在线课程评论数据中,能将分类F 1-Score从0.88提升至0.95,表明TS-Aug半监督自训练方案在文本分类任务中具有较好的应用前景.

基于3D注意力卷积与自监督学习的脑疾病分类方法

为了提升现有脑疾病分类方法提取三维空间特征的能力,提出一种融合3D注意力卷积与自监督学习的分类模型。首先,提出一种基于残差结构的3D注意力卷积神经网络来提取空间特征,利用3D注意力机制区分体素数据中不同空间位置的重要性;其次,利用空间特征构建一个基于自监督学习的多任务学习框架,通过基于空间连续性的自监督辅助任务来进一步挖掘体素的空间依赖关系;最后,通过辅助任务与目标分类任务的联合训练优化神经网络参数,进而提升分类模型的性能。在ABIDE-Ⅰ和ABIDE-Ⅱ数据集上的实验结果表明,所提方法具有优异的分类性能,分类结果也具备良好的可解释性。

融合片内语义和片间结构特征的自监督CT图像分类方法

针对CT(Computed Tomography)图像分析存在人工标签稀缺、分类性能不佳等问题,文中提出一种融合片内语义和片间结构特征的自监督CT图像分类方法。该方法利用CT图像的层次结构特性和局部组成要素的语义特点,通过混淆切片生成算法对无标签的病灶部位图像进行处理,生成空间指数和混淆切片作为监督信息。在自监督辅助任务中利用ResNet50网络从混淆切片中同时提取与病灶部位相关的CT片内语义和片间结构特征,将学习到的特征迁移到后续医学分类任务中,使得最终模型从无标签数据中获得增益。实验结果表明,当被使用的有标签数据有限时,相比其他针对CT图像的二维模型和三维模型,所提方法的分类性能和标签利用效率更优。

融合维基知识的变分半监督百度百科分类

跨语言知识图谱构架多利用维基百科,但其中文实体较少,构建大规模以中文为核心的跨语言知识图谱比较困难。如何利用百度百科等现有的大规模中文百科知识库来辅助构建跨语言知识图谱是亟待解决的问题,然而维基百科和百度百科属于不同的分类体系,增加了跨百科检索的范围和难度。基于此,提出一种融合少量带分类标签的维基知识指导下的半监督百度百科分类方法。基于词嵌入和词袋模型分别获得百科摘要文本的语义特征和统计特征;融合两者作为变分自编码模型的输入,获得其语义表征;利用少量维基百科分类损失和海量无标签百度百科重构损失,构造半监督分类损失,实现分类体系统一。实验结果表明,所提方法能够准确实现百度百科到维基百科分类体系的迁移。

一种半监督金融事件多标签分类方法

随着数字金融服务业的不断发展,互联网和金融服务系统积累了海量文本数据,对金融文本中描述的金融事件自动分类是金融科技的现实需求,也是自然语言处理和机器学习领域广泛关注的方向。目前,深度学习方法已在文本分类中广泛应用,针对文本数据中的金融事件多标签分类中存在的已标注数据缺少、已有深度学习方法消耗资源大以及现有方法未利用金融事件文本的具体特点等问题,通过采用ALBERT和TextCNN等表示工具,引入主体词注意力机制,提出了一种半监督金融事件多标签分类方法。首先,通过无监督数据增强(Unsupervised data augmentation,UDA)方法缓解标注数据量不足的问题;其次,引入了主体词注意力机制,使用ALBERT动态词向量表征方法对文本中的词进行表示;然后,利用TextCNN对文本进行综合语义表示;最后,分别采用交叉熵和KL散度度量标记数据和无标记数据的损失来训练模型。在金融文本数据集上验证了本文所提方法的有效性。

基于分类风险的半监督集成学习算法

针对当前半监督集成学习算法对无标记样本预测时容易出现的标注混沌问题,文中提出基于分类风险的半监督集成学习算法(Classification Risk-Based Semi-supervised Ensemble Learning Algorithm,CR-SSEL).采用分类风险作为无标记样本置信度的评判标准,可有效衡量样本标注的不确定性程度.迭代地训练分类器,对高置信度样本进行再强化,使样本标注的不确定性逐渐降低,增强半监督集成学习算法的分类性能.在多个标准数据集上验证CR-SSEL的学习参数影响、训练过程收敛和泛化性能提升,实验表明随着基分类器个数的增加,CR-SSEL的训练过程呈收敛趋势,获得较优的分类精度.

基于UNet-ResNet14^(*)半监督学习的无人机影像森林树种分类

无人机遥感在森林树种精细和高效分类制图中具有巨大的潜力。为了快速准确获取森林的优势树种分布信息,该研究探讨了半监督学习方法在树种分类方面的有效性。以福建省福州市、龙岩市和三明市的4个试验区为例,构建精简的ResNet18为主干的UNet树种分类模型(UNet-ResNet14^(*)),使用交叉熵和Dice系数的联合损失函数来优化模型参数,对比分析Self-training和Mean Teacher两种不同的半监督学习方法在无人机影像森林树种分类模型的泛化能力。结果表明,以ResNet14^(*)作为主干的分类模型与其他模型相比精度更高且预测速度更快,当联合损失函数权重值为0.5的情况下模型预测效果最好,总体精度达到了91.15%。经过Self-training的模型在木荷、马尾松、杉木3个样本充足的类别中精度均有所提升,总精度为91.08%,比原始模型略低,但在独立验证区的精度为88.50%,比原始模型高;Mean Teacher方法的总精度为88.56%,在独立验证区的精度为73.56%。因此,研究认为可以采用Self-trainin半监督方法结合UNet-ResNet14^(*)的方案快速得到试验区的树种组成信息。

基于层一致性平均教师模型的半监督岩石薄片图像分类

传统的岩石薄片图像分类依赖于大量人工标记的图像样本,这种方式受制于标记人员的经验和能力,且无法通过不断增加的未标记岩石薄片图像样本实现分类能力的可扩展式增强。该文提出的在平均教师(mean teacher, MT)模型的基础上,通过在无监督损失中添加层一致性正则化项的方式约束师生模型的层次结构,实现对未标记数据信息的有效利用。消融实验和层一致性平均教师(hierarchy consistency mean teacher, HCMT)模型对比实验结果表明,层一致性正则化方法利用了未标记数据的有效信息,提升了MT模型的分类效果,使得HCMT模型可以在半标记数据集中获得如全标记数据集相似的分类能力。该实验表明,半监督学习模型利用大量未标记岩石薄片图像数据可以提升模型分类的能力。

基于生成式自监督学习的对抗样本分类算法

对抗样本常常被视为对深度学习模型鲁棒性的威胁,而现有对抗训练往往会降低分类网络的泛化精度,导致其对原始样本的分类效果降低。因此,提出了一个基于生成式自监督学习的对抗样本分类算法,通过自监督学习训练生成式模型获取图像数据潜在特征的能力,并基于该模型实现对抗样本的特征筛选,而后将其中有益分类的信息反馈给分类模型。最后进行联合学习,完成端到端的全局训练,进一步实现分类模型泛化精度的提升。在MNIST、CIFAR10和CIFAR100数据集上的实验结果显示,与标准训练相比,该算法将分类精度分别提高了0.06%、1.34%、0.89%,达到99.70%、84.34%、63.65%。结果证明,该算法克服了传统对抗训练降低模型泛化性能的固有缺点,并进一步提高了分类网络的精度。

基于扩散模型自监督表征学习的脑瘤医学图像分类研究

本文提出了一种基于扩散模型自监督表征学习的医学图像分类方法MicDiffRep (Medical Image Classification with Diffusion-based Representation)。通过扩散模型预训练,学习医学图像完整的细节纹理信息和图像整体结构,从而在进行医学图像分类时充分捕捉图像的细节特征。为了同时利用图像的全局信息,本文提出一个多尺度的特征聚合MSFA (Multi-Scale Feature Aggregation)模块,将MicDiffRep模型不同尺度的各层特征聚合起来。在脑瘤图像分类数据集上的实验显示,本文方法相比于现有最优的自监督方法的线性分类准确率提升多达6个百分点。

弱监督学习算法下土地光学遥感图像分类

由于土地细节特征较多,类型复杂多样,图像采集难度较大,在不同的时间和区域,土地特征也会发生变化,因此土地分类过程较为复杂。针对以上问题,提出基于弱监督学习的土地光学遥感图像分类方法。利用伪中值滤波法去除光学遥感图像噪声,并通过模糊对比度增强法增强图像对比度;基于此,利用弱监督定位网络获取图像的感兴趣示例,并将子概念层引入多示例聚合网络计算感兴趣示例和标签之间的匹配分数,实现土地图像分类。实验结果表明,上述方法的土地分类准确,且Kappa系数更接近于1,说明所提方法应用性能较优。

基于关联规则及无监督分类方法探寻孟河医派治疗中风病的用药规律

目的:基于关联规则及无监督分类方法探寻孟河医派治疗中风病的用药规律,为临床中风病的中医药诊疗提供参考。方法:检索收集清初以来孟河医派丁甘仁、费伯雄、马培之、邓星伯、杨博良等9位代表性医家,归纳整理其诊治中风病的医话医案,采用关联规则及无监督分类方法对数据进行数据挖掘分析。发现诊疗过程中的四诊信息及与之对应的核心药物。结果:共纳入105首处方,涉及中药173味;首先通过简单关联分析,调整支持度及关联度获得前10位的药物,用药频次最高的为半夏,舌苔脉象出现频次最高的为苔腻。支持度最高的药对、舌脉分别为陈皮和半夏、滑脉和苔腻;使用无监督分类方法将中药及四诊信息自动分为4大类。结论:通过频数分析,简单关联规则及复杂关联规则以及无监督的分类方法逐层探寻出孟河医派对中风病的独特治疗特色,发现通过机器学习找出的四诊信息与药物之间有相互对应关系。结合舌脉分析与药物分析,孟河医家治疗中风以清热化痰、补益气血、平肝熄风、祛瘀化痰为主。

基于联邦半监督学习的流量分类方法

为保护流量数据隐私,并针对服务器分布少量标注流量,客户端非独立同分布大量未标注流量且互不共享带来的模型难以聚合得到流量分类模型的问题,提出基于联邦半监督学习的流量分类方法来解决。采用参数分解策略,最小化有无监督学习任务间的互相干扰。利用客户端间一致性正则化最大化相似网段间客户端共识,解决多变小样本数据的学习问题。此外,在联邦学习参数传递过程中只传递稀疏化参数差异矩阵。实验结果表明,该方法能够在保证参与客户端流量数据隐私安全的前提下实现多方未标注流量的共享与学习,分类准确率达到91.86%,通信成本也得到明显改善。

基于多粒度图与注意力机制的半监督短文本分类

短文本语义稀疏模糊、蕴含信息不足、表达不规则等缺陷给短文本分类任务带来了极大的挑战,且现有短文本分类方法通常忽略词项间的交互信息,不能充分挖掘隐含的语义信息,导致分类效率低下。针对上述问题,提出一种基于多粒度图与注意力机制的半监督短文本分类模型MgGAt。该模型在词粒度和文本粒度基础上构建2种类型的图,通过充分挖掘语义信息完成分类任务。首先构建词级图,捕获词嵌入,进而学习得到文本特征表示。在词级图上引入跳内注意力和跳间注意力,从多种语义角度有效提取词项间隐含的高阶信息,捕获语义丰富的词嵌入。同时依据词级子图的特点设计池化策略,聚合词嵌入,学习文本表征。其次构建文本级图,借助部分已知的标签信息,利用图神经网络的优势,在图上执行标签传播和推理,完成半监督短文本分类任务。在4个公开数据集上的实验结果表明,与基线模型相比,MgGAt模型的短文本分类精确率平均提升了1.18个百分点,F1值平均提升了1.37个百分点,具有更好的分类性能。

基于混合神经网络模型的民生监督文本分类方法

随着民生监督对信息化要求的逐渐提高,高效准确地识别民生监督文本可以帮助纪检监察部门及时搜集和跟踪事件并进行处理。针对民生监督文本分类困难的问题,提出了基于Mengzi模型融合BiLSTM、注意力机制和TextCNN的混合神经网络模型MBC,以提高民生监督文本分类的准确率。该模型首先使用预训练模型Mengzi得到富含丰富语义信息的词向量,后接并行的BiLSTM结合注意力机制网络和TextCNN网络,分别提取文本全局和局部特征,最后将全局与局部特征进行融合,实现对民生监督文本的准确分类。实验结果表明,MBC模型在准确率、召回率和F1值均达到了89%以上,优于传统的文本分类模型,为民生监督文本分类问题提供了新的研究思路。

基于监督分类提取土地覆盖数据方法研究——以兰西县为例

本文利用Landsat8Collection2Level2遥感影像,使用监督分类的方法对研究区土地利用覆盖进行自动分类提取。首先在研究区范围内开始创建训练样本,选取有代表性的区域,包括耕地、林地、草地、水体和建设用地。再计算分离度并反复修改训练样本直至精度达到1.9以上,利用监督分类中3种不同的分类方法来自动提取研究区的土地利用覆盖情况。通过简单的后期处理,最后结合目视选取的ROI训练样本进行计算混淆矩阵得到后期的分类精度情况。结论如下:最大似然分类法是分类模型中效果最突出的分类方法,总精度已经达到了99.1881%,Kappa系数为0.9878。马氏距离分类法则表现的不太出色,分类精度相对较差,仅仅达到了94.2688%,Kappa系数为0.9138。最后得出最大似然法是本次研究区的最佳选择。

联合监督损失在深度图像分类中的应用

在深度图像分类任务中,大多数都是采用卷积神经网络模型与SoftMax损失监督训练完成的。但在实际的实验过程中会发现,单独使用SoftMax损失并不能很好地解决分类问题。为了进一步增强网络的分类性能,在使用SoftMax损失对网络训练的同时添加额外的联合监督损失函数,对比中心损失(contrastive center loss),其加强了网络的学习能力。该损失在训练过程中会给每个类学习一个深度特征中心,中心参数与模型参数一起进行优化,并通过对比学习的思想加强网络对类别特征信息的学习,在LFW数据集与CUB数据集中的实验结果表明,通过联合监督损失的训练方法可以提高网络的分类性能。

应用无监督最大互信息算法分类鸟类叫声

在建立鸟类叫声的分类模型时,由于自然界中具有准确标签的鸟类叫声数据较少,因此需要解决小样本下的模型训练问题。本文研究应用最大互信息的无监督网络来对鸟类叫声进行分类。通过同时提取梅尔图谱的高层语义特征和浅层特征并计算互信息,减少噪声特征的提取。训练时使用对抗样本,利用先验约束网络拉大不同类别之间的距离,降低模型对数据的依赖。实验证明,与现有无监督方法相比,利用最大互信息方法的无监督学习能够在鸟类叫声分类任务上取得最好的效果。