摘要
提出一种结合ALBERT预训练语言模型与具有多极正交注意力机制的BiSRU弹幕文本情感模型ALBERT-DPCRNN。使用ALBERT预训练语言模型获取文本的动态特征表示,使得句子中同一个词在不同上下文语境中具有不同的词向量表达。结合带有多级正交注意力机制的BiSRU模块来提高模型捕捉弹幕中隐式情感信息的能力。实验结果表明,该模型准确率达到94.5%。
出处
《电脑编程技巧与维护》
2022年第9期138-140,176,共4页
Computer Programming Skills & Maintenance
