基于改进MobileNet网络的AR辅助手语字母识别方法

针对手语手势姿态待规范、识别率低的问题,提出一种AR辅助手语字母识别算法MSMobileNet。设计多尺度卷积模块提取底层特征,增强网络的特征提取能力;利用ELU激活函数来保留更全面的负值特征信息;结合适用于Web的轻量级MobileNet模型,提高面向移动AR应用的手语字母识别准确率和实时性。实验结果表明:MS-MobileNet在数据集ASL-M、NUS-II和Creative Senz3D上识别准确率较原模型分别提高了2.58%、5.32%和3.04%。基于MS-MobileNet网络设计一套WebAR辅助的手语字母协同交互系统,经评估测试,用户平均参与度达到8.2分,单次识别耗时低于0.115 s,能较好地满足用户沉浸式的实时手语字母交互需求。

基于手语视觉单词特征的手语字母识别研究

为有效识别手语字母,提出一种手语视觉单词(SLVW)的识别方法。采用Kinect获取手语字母视频及其深度信息,在深度图像中,通过计算获得手语手势的主轴方向角和质心位置以调整搜索窗口,利用基于深度图像信息的DI_CamShift方法对手势进行跟踪,进而使用基于深度积分图像的Ostu方法分割手势,并提取其尺度不变特征变换数据。将局部特征描述子表示的图像小区域量化生成SLVW,统计一幅手语图像中的视觉单词频率,用词包模型表示手语字母,并用支持向量机进行识别。实验结果表明,该方法不受颜色、光照和阴影的干扰,具有较高的识别准确性和鲁棒性,对复杂背景手语视频中的30个手语字母的平均识别率达到96.21%。

一种基于改进的SURF算法的静态手语字母识别方法

结合Kinect传感器提出一种改进的SURF(speeded up robust features)算法进行静态手语字母识别的方法。Kinect传感器采集深度图像进行手势分割可以克服光照变化、复杂背景带来的干扰;改进的SURF算法对实时图像与模板图像的积分图进行计算分析,提取两者的SURF关键点描述符,采用最近邻匹配算法对SURF算法自有的快速索引匹配的结果进行优化,克服了角度旋转变化对手语字母识别率的影响。实验证明,该方法在应对光照变化、复杂背景、角度旋转方面有很好的鲁棒性,平均识别率为97.7%。

采用深度图像信息和SLVW的手语识别

为了实现手语视频中手语字母的准确识别,提出了一种基于DI_CamShift和SLVW的算法。该方法将Kinect作为手语视频采集设备,在获取彩色视频的同时得到其深度信息;计算深度图像中手语手势的主轴方向角和质心位置,通过调整搜索窗口对手势进行准确跟踪;使用基于深度积分图像的Ostu算法分割手势,并提取其SIFT特征;构建了SLVW词包作为手语特征,并用SVM进行识别。通过实验验证该算法,其单个手语字母最好识别率为99.87%,平均识别率96.21%。