级联稀疏卷积与决策树集成的病理图像细胞核分割方法

数字病理图像分析对于乳腺癌、肾癌等良恶性分级诊断具有重要意义,其中细胞核的形态测量是病理量化分析的关键.然而,由于病理图像背景复杂,细胞核高密度分布、细胞粘连等,个体细胞核精准分割是一个挑战性问题.本文提出一个级联稀疏卷积与决策树集成学习的细胞核分割模型.该模型由稀疏可分离卷积模块和集成决策树学习的正则化回归模块堆叠级联组成,其中:前者采取秩-1张量分解学习机制,可分层抽取细胞核的多尺度方向分布式抽象特征;而后者采取随机采样、树剪枝以及正则化回归机制提升逐像素回归分类能力.相比于现有深度学习模型,该模型无需非线性激活和后向传播计算,参数规模较小,可实现端到端的学习.通过乳腺、前列腺、肾脏、胃和膀胱等多组病理图像的分割实验表明:该模型能够实现复杂数字病理图像中的高密度细胞核的快速个体目标检测和分割,在Jaccard相似性系数、F1分数和平均边缘距离三个指标上均优于目前CNN2、CNN3和U-Net等深度学习方法,具有较好应用前景.