深度指导的无监督领域自适应语义分割

为了提高语义分割精度,解决模型在不同数据域上泛化性差的问题,提出基于深度信息的无监督领域自适应语义分割方法.首先,深度感知自适应框架通过捕捉深度信息和语义信息的内在联系,减小不同域之间的差异;然后,设计了一个轻量级深度估计网络来提供深度信息,通过跨任务交互策略融合深度和语义信息,并在深度感知空间对齐源域和目标域的分布差距;最后,提出基于深度信息的域内自适应策略弥合目标域内部的分布差异,将目标域分为子源域和子目标域,并缩小子源域和子目标域分布差距.实验结果表明,所提方法在SYNTHIA-2-Cityscapes和SYNTHIA-2-Mapillary跨域任务上的平均交并比分别为46.7%和73.3%,与同类方法相比,该方法在语义分割和深度估计精度上均有显著提升.

基于多度量融合的无监督领域自适应行人重识别算法

行人重识别任务旨在跨相机下检索出特定的行人图像.虽然行人重识别任务得到了快速发展,在检索精度上得到很大的提升,但是依然面临着行人重识别模型在新的数据集上泛化能力有限,以及在无监督领域自适应任务中无法避免的伪标签噪声的问题.针对目前无监督领域自适应任务中由于聚类算法的局限性而导致伪标签出现噪声的问题,提出一种基于多度量融合的无监督领域自适应行人重识别算法.具体而言,多度量融合算法是在目标域上使用DBSCAN(density-based spatial clustering of applications with noise)聚类算法对特征空间的行人特征进行聚类时,通过多个特征相似度度量函数线性加权的方式,计算行人之间的特征相似度,从而在目标域上生成更为准确的伪标签,之后利用该伪标签微调模型.通过在Market1501→DukeMTMC-reID和DukeMTMC-reID→Market1501上大量的实验,证明多度量融合算法有效提升了行人重识别模型在无监督领域自适应任务上的检索精度.

基于串行自编码器的无监督领域自适应特征学习方法

传统的基于自编码器的无监督领域自适应方法大多依靠单一的自编码器模型,故无法学习得到领域间的全局特征表示.针对该问题,提出一种基于串行自编码器(serial autoencoder unsupervised domain adaptation,SAUDA)的无监督领域自适应方法,以串行方式连接两种不同类型的自编码器学习更丰富的全局特征表示.利用堆叠自编码器(stacked autoencoder,SAE)对源域和目标域的特征进行初步学习;进一步地,采用稀疏自编码器(stacked sparse autoencoder,SSAE)对堆叠自编码器所得特征学习结果进行二次特征学习,以得到领域间更好的全局特征表示.结果表明,与传统的神经网络方法相比,基于SAUDA的无监督领域自适应方法在实验数据集上具有更好的跨领域分类性能.

基于任务关联特征解耦网络的无监督领域自适应图像分类

无监督领域自适应(Unsupervised Domain Adaptation,UDA)旨在帮助模型在跨域分布差异条件下从带标注的源域中学习到知识,以迁移至无标注的目标域。当前先进的域自适应方法主要通过直接对目标域与源域分布对齐来实现,其中特征往往被当作一个整体对象用于开展域间自适应任务,忽略了特征中的任务关联信息(域间不变、域内独特信息)与无关信息(颜色对比度、图像风格)耦合的情况,使得模型难以把握关键的特征信息,从而导致次优化。针对上述问题,提出了一种基于任务关联特征解耦网络的无监督领域自适应分类方法(Task Relevant Feature Separation Network,TRFS),通过对域间风格混合干扰下的特征与原始特征的注意力进行一致性的学习,来帮助网络提炼出与下游任务相关的特征权重,并进一步采用权重差获取任务无关特征权重,而后通过正交函数约束推远任务关联与无关特征,实现特征解耦;设计了任务特征细化解耦层,减轻配对特征与域独特特征混淆的情形,优化模型对分类判别的精度。此外,为了提升伪标签质量,引入基于记忆力银行的领域聚合伪标签生成方法,用于降低伪标签噪声。综合实验结果表明,所设计解耦模块具有良好的即插即用性,能够提升自适应方法的性能;且所提方法相比其他先进的域适应方法具有明显的优势,其中在Office-Home数据集上达到了73.6%的分类精度。

我国卫生监督领域焦点问题的确认

建立我国卫生监督领域32类问题优先顺序的操作过程是:首先对重要性和严重性两类指标分别进行排序,然后根据两类指标的排序结果,组合得出"重要且严重的问题、重要而不严重的问题、严重而不重要的问题、既不严重也不重要的问题",据此判断和推荐关键问题和焦点问题。

基于伪标签的无监督领域自适应分类方法

现有的领域自适应方法在匹配分布时并未完全考虑伪标签置信度或伪标签损失计算问题,针对此类问题,提出循环选择伪标签分类模型(CSPL)。利用深度网络提取图像特征,为目标域打上高置信度伪标签使得训练数据增强,采用MMD距离度量方法对齐源域和目标域的概率进行分布,同时设计伪标签损失同步迭代学习,更新模型作为下一次循环的训练模型直至模型收敛。在常用的领域自适应数据集Office31、Office-Home、ImageCLEF-DA以及Amazon-Review上实验表明,该模型相比之前域适应模型在准确度方面平均提升4%~8%,且模型的鲁棒性也明显增加。

基于多模态特征的无监督领域自适应多级对抗语义分割网络

为了解决领域自适应中存在领域间视觉、空间以及语义特征分布差异的问题,提出了基于多模态特征的无监督领域自适应多级对抗语义分割网络。首先,设计3层结构的注意力融合语义分割网络来分别从源域和目标域学习上述三类特征。然后,在单级对抗学习中引入联合分布置信度和语义置信度的自监督学习方法,从而在领域间所学特征的分布距离最小化过程中实现更多目标域像素的分布对齐。最后,通过基于多模态特征的多级对抗学习方法对3路对抗分支与3个自适应子网进行联合优化,从而能够有效学习各子网所提取特征的域间不变表示。实验结果表明,与当前先进方法相比,所提网络在GTA5到Cityscapes、SYNTHIA到Cityscapes和SUN-RGBD到NYUD-v2的数据集上分别取得最优的平均交并比62.2%、66.9%和59.7%。

基于无监督域适应的室外点云语义分割

为处理室外大规模场景中语义分割网络训练需求数据量过大的问题,提出一种基于无监督域自适应的点云语义分割方法。该方法使用改进的RandLA-Net以SPTLS3D真实世界数据集的少量点云作为目标对象进行语义分割。模型在SensatUrban数据集上完成分割网络的预训练,通过缩小源域和目标域之间的域差距来完成模型的迁移。RandLA-Net编码过程会缺失原始点云全局特征,因此本文提出一种额外获取全局信息加入网络解码的方法。此外,为增强差异化信息的获取,RandLA-Net的局部注意力模块权值改为根据各点的特征和其邻域的平均特征的差值。实验显示,该网络在Se manticKITTI数据集上的平均交并比精度达到54.3%,在Semantic3D上的平均交并比精度达到了71.91%。预训练好的模型经过微调后平均交并比精度达到了80.05%,比直接训练的效果好8.83个百分点。

领域对齐对抗的无监督跨领域文本情感分析算法

在实际应用场景中,情感分析技术为自动判别文本情感极性提供了有效的决策及解决方案,但是文本情感分析技术依赖于大量的标定样本.为了减小对人工标注的依赖,有研究者提出了基于领域自适应的跨领域情感分析技术.该技术面向跨领域文本情感分析任务,将经由标定样本训练的源领域模型,迁移至无标定的目标领域.然而目前的领域自适应技术仅从单个角度进行迁移,即减小领域专有特征差异或提取领域不变特征.因此考虑到跨领域文本数据同时包含领域专有特征和领域不变特征的特点,提出了一种领域对齐对抗的无监督跨领域文本情感分析算法.该算法通过渐进式的迁移策略,逐层减小不同语义层的领域差异,并在高层语义子空间通过协同优化的领域自适应算法,实现跨领域文本数据的领域知识迁移.在2个公开跨领域文本情感数据集上的24组跨领域文本情感分类实验结果表明,与4类领域自适应算法中代表性的和当前表现最优的方法相比,领域对齐对抗的无监督跨领域文本情感分析算法在24组实验中取得了最高的平均分类准确率,同时结合迁移性能分析结果和特征分布可视化结果,证明该算法一定程度上提升了现有无监督跨领域文本情感分析算法的分类性能和迁移性能.

无监督的领域自适应机器阅读理解方法

受益于面向大规模语言学资源的深度学习,预训练语言模型有着较强的语义表示学习能力.其能够借助特定任务场景下的迁移学习,在优化模型性能方面提供重要的支持.目前,预训练语言模型已被引入机器阅读理解研究领域,并展现了较好的优化能力.然而,针对特定领域的数据,微调后的预训练模型仍存在领域适应性问题,即无法解决未知领域中新颖的语言现象.为此,本文提出了一种融合迁移自训练和多任务学习机制的无监督领域自适应模型.具体而言,本文结合生成式阅读理解网络和掩码预测机制形成了多任务学习框架,并利用该框架实现跨领域(源领域至目标领域)的无监督模型迁移技术.此外,本文设计了文本规范化和迁移自训练模式,以此促进目标领域的数据分布适应源领域的数据分布,从而提高模型迁移学习的质量.本文将TweetQA作为目标领域数据集,将SQuAD、CoQA和NarrativeQA作为源领域数据集进行实验.实验证明,本文所提方法相较于基线模型有显著提升,在BLEU-1、METEOR和ROUGE-L指标上分别提升了至少2.5、2.7和2.0个百分点,验证了其优化领域适应性的能力.

基于自步学习的开放集领域自适应

领域自适应的目的是将从源领域获得的知识泛化到具有不同数据分布的目标领域.传统的领域自适应方法假设源域和目标域的类别是相同的,但在现实世界的场景中并非总是如此.为了解决这个缺点,开放集领域自适应在目标域中引入了未知类以代表源域中不存在的类别.开放集领域自适应旨在不仅识别属于源域和目标域共享的已知类别样本,还要识别未知类别样本.传统的领域自适应方法旨在将整个目标域与源域对齐以最小化域偏移,这在开放集领域自适应场景中不可避免地导致负迁移.为了解决开放集领域自适应带来的挑战,提出了一种基于自步学习的新颖框架SPL-OSDA (self-paced learning for openset domain adaptation),用于精确区分已知类和未知类样本,并进行领域自适应.为了利用未标记的目标域样本实现自步学习,为目标域样本生成伪标签,并为开放集领域自适应场景设计一个跨领域混合方法.这种方法最大程度地减小了伪标签的噪声,并确保模型逐步从简单到复杂的例子中学习目标域的已知类特征.为了提高模型在开放场景的可靠性以满足开放场景可信人工智能的要求,引入了多个准则以区分已知类和未知类样本.此外,与现有的需要手动调整超参数阈值以区分已知类和未知类的开集领域自适应方法不同,所提方法可以自动调整合适的阈值,无需在测试过程中进行经验性调参.与经验性调整阈值相比,所提的模型在不同超参数及实验设定下都表现出了良好的鲁棒性.实验结果表明,与各种最先进的方法相比,所提方法在不同的基准测试中始终取得卓越的性能.

浅议云计算技术在卫生监督信息化领域软硬件平台托管服务的应用

云计算技术作为一种新型快速发展的技术领域,尤其是在互联网普及的今天,云计算更是一项全新的互联网应用商业模式,除此之外在很多方面发挥着重要作用。与此同时,卫生监督更是与我们的生活息息相关。如今云计算运用于卫生监督领域时更是达到了令人惊叹的效果。本研究将首先简要介绍此两项领域,然后提出云计算技术在卫生监督上的应用,最后进行总结以及提出建议。

基于无监督特征对齐的变负载下滚动轴承故障诊断方法

针对滚动轴承实际工作中缺少某种负载数据,使得源领域数据与目标领域数据属于不同分布,以及目标领域样本不含标签的问题,提出一种多域特征构建和无监督特征对齐的滚动轴承故障诊断方法。该方法利用变分模态分解结合奇异值分解获取振动信号的时频特征,再结合振动信号时域、频域特征构建多域特征集;引入迁移学习中能够实现无监督领域适应的子空间对齐(subspace alignment,SA)算法并进行改进,提出将核映射方法与SA算法相结合。将训练数据和测试数据映射到相同高维空间,在高维空间的子空间进行特征对齐,以增加数据类间区分性,实现不同负载下源领域特征向目标领域特征对齐。实验研究表明,与部分降维方法及无监督迁移学习方法相比,所提方法在目标领域无标签的情况下,能够利用滚动轴承已知负载数据识别出其他负载数据对应的状态,并具有较高的故障诊断准确率。

深化反腐倡廉制度建设加强对国企重要经营领域监督的研究

对于国企的重要经营领域来说,极易滋生腐败现象,严重影响了企业的正常、健康发展,反腐倡廉制度的建设有利于对企业重要经营领域进行监督。本文主要分析了深化反腐倡廉制度建设的重要性与必要性,从深化反腐倡廉制度建设加强对国企重要经营领域的监督进行研究。

面向失配的图像隐写分析研究进展

尽管隐写分析在实验室环境下取得了显著的进步,但是在实际应用中,由于训练集和测试集的载体来源、隐写算法和嵌入率经常不同,导致隐写分析器性能下降,这种现象称为失配,严重阻碍了隐写分析的实际应用.因此,对目前面向失配问题的主要隐写分析方法进行了分析与总结.根据解决失配问题的思路,将现有失配隐写分析方法分为3类,即设计训练集、取证辅助和无监督领域适应,并对各类方法进行梳理和对比.基于对比结果,探讨了当前基于无监督领域适应的深度隐写分析模型面临的挑战以及未来的发展方向.研究结果表明:基于无监督领域适应的深度隐写分析模型是目前解决失配问题的最有效方案,领域对齐、中间域桥接、对抗学习等是设计该类深度隐写分析模型的主流思想;引入类别等细粒度信息以提高基于无监督领域适应的深度隐写分析模型的性能是未来研究的方向;针对不平衡样本及单/小样本等更恶劣的失配问题的解决方案仍待进一步探索.

子域适应无监督轴承故障诊断

针对深度无监督轴承故障诊断网络仅对齐全局分布,未考虑源域和目标域每个类别细粒度信息的问题,提出了一种子域适应无监督端到端轴承故障诊断网络。该网络采用一维卷积神经网络进行特征提取,利用多分类函数构建分类器,通过最小化局部最大平均差异和分类器损失函数,进行相关子域的分布对齐。在江南大学轴承故障数据集对该方法进行有效性验证。结果表明,该方法在目标域数据无标签的情况下,识别正确率明显高于其他5种目前流行的领域自适应故障诊断方法,t分布随机邻居嵌入结果显示该方法有效对齐源域和目标域类别信息,验证了该方法的可行性和有效性。

完善惩治和预防腐败体系中网络监督机制探讨

在高速发展的互联网时代,惩治和预防腐败体系中网络监督越来越显示出其优势地位,并发挥着越来越重要的功能。应进一步加强监督和管理,利用网络新形式扩展网络监督领域,畅通与公众进行网络沟通的渠道,加大和扩充网络监督力度,从而完善网络监督机制,有效地惩治和预防腐败,保持党和国家机关的廉洁。

基于对抗学习的医学图像分割领域自适应研究

为了解决跨领域医学图像分析中不匹配的问题,提出了一种基于对抗学习的无监督领域自适应框架(UAL-DAF)。具体而言,该框架通过外观转移模块(ATM)和结合条件生成对抗网络的语义转移模块(STM)分别缩小了跨领域医学图像外观和语义层次的差异。最后,在具有挑战性的医学图像分割实验中,结果显著优于已有方法。因此,该框架能够提取领域自适应知识的外观和语义层次信息,实现领域知识的协同融合。

企业内部监督与管理融合的策略

随着社会主义市场经济的发展,企业的经济结构、经营方式和利益分配等方面发生了重大变化。如何使企业加强自我约束,规范经营行为,经受住市场经济的考验,是当前和今后一个时期需要认真研究和解决的重要课题。本文认为,要强化企业自我约束机制,保证企业科学健康可持续发展,必须拓宽监督视野,在企业监督制度、监督领域和监督格局上实现"三个转变",并与企业管理融合,才能促进企业廉洁经营与优质高效发展的统一。

加强预算会计监督的几点意见

随着经济体制改革的深化,特别是财政税收和事业单位财务体制的改革,事业行政部门和单位已逐渐突破单纯管理预算资金的局面,正向着多渠道筹集资金的方向发展,已从只核算收、支、余、超向核算经济效益“转轨变型”。预算会计在预算管理中的职能作用越来越被人们所重视,预算会计的核算和监督领域正在不断拓宽。本文结合湖南省农业部门实际,就如何加强预算会计监督职能谈几点意见。