指针生成网络和覆盖损失优化的Transformer在生成式文本摘要领域的应用

针对生成式文本摘要应用场景,提出了以Transformer为基础的摘要模型,并在Transformer模型中加入了指针生成(Pointer Generator)网络和覆盖损失(Coverage Loss)进行优化。首先,提出了基于Transformer模型作为基础结构的方法,利用其注意力机制更好地捕捉上下文的语意信息。然后,在模型的损失函数中引入Coverage Loss来惩罚不断出现的重复的词的分布和覆盖范围,从而解决Transformer模型中的注意力机制在生成式任务中出现不断生成同一个词的问题。最后,在模型中加入了Pointer Generator网络,从而允许模型从源文本中复制词用作生成词来解决词表无法覆盖(OOV)的问题。探索了改进后的模型是否减少了不准确的表达以及重复出现相同词的现象是否得以解决。该模型相较于原始的Transformer模型在ROUGE-1评测函数上得分提升了1.98个百分点、ROUGE-2评测函数上得分提升0.95个百分点,在ROUGE-L评测函数上得分提升了2.27个百分点,并提升了摘要结果的可读性及准确性。实验结果表明,Transformer在加入Coverage Loss和Pointer Generator网络后可应用于生成式文本摘要领域。

基于密集连接网络的驾驶疲劳状态检测方法

为了解决疲劳驾驶易造成交通事故的问题,提出了基于密集连接网络的驾驶疲劳状态检测方法.首先,借助摄像机采集驾驶状态视频,获取视频帧图像后利用图像处理技术进行图像预处理;利用自适应提升算法检测人脸,再用灰度积分投影和径向对称变换算法定位驾驶员的眼部区域;然后,通过密集连接网络精确判别眼睛状态,在网络中设置了3个密集连接块以减少特征参数和加快训练速度,且采用稀疏化结构以减少存储量和增强特征传播;最后,借助2个疲劳参数综合判断驾驶员的疲劳状态,使检测结果更为准确.定性和定量实验结果证明,该方法在准确率等方面优于现有技术.