融合文本内容和标签引导文本编码的分类方法

针对当前文本分类算法未能充分利用标签的语义表示导致文本表示学习与分类预测割裂的问题,提出一种融合文本内容编码和标签引导文本编码的文本分类方法.在文本内容编码部分,通过长短时记忆网络获得文本序列累计语义表示,通过自注意力机制捕获和强化文本长距离语义依赖.在标签引导文本编码部分,设计交互注意力机制,通过标签引导得到经由标签的语义表示过滤下文本的新表示.最后将两部分输出融合,得到同时具有本地内容语义信息和全局任务指导信息的文本表示,使得模型在文本表示阶段即对分类任务具有早期感知力.实验结果表明本研究方法在真实数据集上可有效提升文本分类任务性能.

联邦异质性数据下半监督颈椎MRI分割模型

利用分割的医学图像进行诊断在临床和医学研究上是一种有效的辅助方法,但由于医学图像的隐私性、分散性和标注困难等问题严重影响了其实际应用效果。对颈椎磁共振成像(MRI)图像分割来说,其图像数据获取更困难,且标注成本高昂,颈椎分割模型在面对不同来源的异质性数据时难以有效提取颈椎细节信息。因此,在联邦学习场景下,针对标注信息缺少以及数据异质性导致分割精度下降的问题,提出一种基于标签分离与引导的多尺度半监督分割网络M-FedLO。M-FedLO通过标签分离的方式分别对椎块与椎间盘进行分割,同时实现多尺度输出,使得椎块与椎间盘的边缘信息得到进一步提取,更好地分离出椎块与椎间盘。在联邦“全局+本地”的模式下,利用全局模型的标签引导,使本地模型在无标签数据上提取的特征与全局模型逼近一致,从而增强本地模型对无标签数据的利用。同时使用随机权重平均(SWA)算法对参数进行优化,缓解模型权重震荡问题,提升模型泛化能力。实验结果表明,与半监督基准分割模型相比,提出的模型不仅在非异质性上的颈椎MRI医学图像分割效果上取得一定的提升,而且在异质性的颈椎图像上也具有较好的成果。在颈椎数据集上与实验结果最好的ICT模型相比较,Disc相似性系数(DSC)指标达到86.86%,提升了1.72个百分点。