融合反讽机制的攻击性言论检测

互联网上的攻击性言论严重扰乱了正常网络秩序,破坏了健康交流的网络环境。现有的检测技术更关注文本中的鲜明特征,难以发现更隐晦的攻击方式。针对上述问题,提出融合反讽机制的攻击性言论检测模型BSWD(Bidirectional Encoder Representation from Transformers-based Sarcasm and Word Detection)。首先,提出基于反讽机制的模型Sarcasm-BERT,以检测言论中的语义冲突;其次,提出细粒度词汇攻击性特征提取模型WordsDetect,检测言论中的攻击性词汇;最后,融合两种模型得到BSWD。实验结果表明,与BERT(Bidirectional Encoder Representation from Transformers)、HateBERT模型相比,所提模型的准确率、精确率、召回率和F1分数指标大部分能提升2%,显著提高了检测性能,更能发现隐含的攻击性言论;同时,与SKS(Sentiment Knowledge Sharing)、BiCHAT(Bidirectional long shortterm memory with deep Convolution neural network and Hierarchical ATtention)模型相比,具有更强的泛化能力和鲁棒性。以上结果验证了BSWD检测隐晦攻击性言论的有效性。

基于DPCNN和多学习模式损失的富上下文反讽识别

反讽作为一种层次丰富且复杂的语言表达方式,广泛存在于人们的日常表达和社交平台中。在电子商务、事件话题分析等方面,准确检测评论文本是否具有反讽意图对判断评论者情感倾向、对评论主体的好恶至关重要。研究针对会话上下文、用户上下文、主题上下文这3类反讽上下文语境,构建上下文语境丰富的反讽检测模型。针对传统浅层CNN难以捕获句子远距离依赖的问题,所提模型引入DPCNN架构捕获语句远程关联信息,并融合双向注意力机制学习会话上下文中的不协调信息。考虑到现实的数据样本中反讽类型数量少、反讽表达层次不均衡,还提出一种多学习模式的非对称损失函数,来解决样本类别不平衡、难易样本优先学习的问题。通过在3个公开反讽数据集上进行验证实验,结果表明所提模型在ACC、F1和AUC指标上均优于基准模型,最高超出2.5%。消融实验证明所提模型各个模块以及多学习模式损失函数均能提升反讽检测的性能。