融合位置注意力机制和改进BLSTM的食品评论情感分析

为了对食品评价的情感倾向进行更加精确的分类,在进行情感语义分析时,卷积神经网络(convolutional neural networks,CNN)方法情感分析是近年来自然语言处理领域的研究热点。然而,目前现有的深度学习模型在对文本句子进行情感分析时缺少研究情感词位置对整个情感分析的重要性。在对电商商品评论数据进行情感语义分析时,CNN方法在提取目标的结构特征方面具有一定的优势,可以提取到多种局部特征,循环神经网络(recurrent neural networks,RNN)具有记忆功能,在序列特征提取方面具有一定的优势,双向长短时记忆网络(bidirectional long short-term memory,BLSTM)在提取远距离依赖序列语义特征方面可以得到很好的效果。在BLSTM的基础上,又引入基于食品领域的语义角色标注与位置相结合的位置注意力机制,来实现距离相关的序列语义特征提取,利用CNN实现序列语义特征的情感语义分类,从而构造出了一种基于BLSTM和位置注意力机制的食品评论情感分析模型。实验结果表明,设计的模型在情感分类方面取得了很好的分类效果,与之前的情感分类模型进行比较,在准确率结果上有所提高。

注意力机制在自然场景文字检测中的应用

针对目前主流的基于分割的文字检测方法中由于需要复杂的后处理过程保证检测精度,通常难以实现高检测速度的问题,提出一种应用位置注意力模块和金字塔注意力网络2种注意力机制的方法.首先用金字塔注意力网络对图像进行特征提取及语义分割;同时将位置注意力模块应用于高层特征,通过加强图像中相似物体的权重加强对文字的检测效果;最后进行简单有效的后处理,在实现较高检测准确度的前提下提高检测速度.实验结果表明,在Total-text数据集中,采用更轻量化的骨干网络时,所提方法在检测速度上优势明显;采用更深层的骨干网络时,所提方法的检测准确度领先2.0%.

基于改进STGCN深度学习框架的交通速度预测

实时准确的交通速度预测对于加快智慧交通建设和推动智能交通系统发展至关重要。然而交通网络具有复杂的空间结构和动态随机的时变特征,致使现有预测方法无法准确捕捉其隐藏的时空相关性。为了充分挖掘数据中隐藏的动态时空特性,并提高预测准确性,该文提出了一种基于STGCN框架的交通速度预测改进算法,即时空注意力图神经网络(STA-GNN)。该算法采用可学习的位置注意力机制,有效聚合邻近节点信息,从而获取道路网络中的空间相关性。同时,引入带有门控机制的以一维因果卷积网络为内核的时序卷积网络,来捕获时间序列中的时间相关性,并通过残差块连接来提高模型的泛化能力。所提方法在PeMSD7数据集上进行了15分钟、30分钟和45分钟的交通速度预测实验。实验结果显示,该模型在45分钟预测任务中,均方根误差相较于STGCN模型降低了约10.2%。表明STA-GNN模型在中长期交通速度预测任务中表现更为出色。

基于改进DeepCrack网络的山区地裂缝检测算法

针对山区地表裂缝检测存在背景复杂、裂缝和背景像素比例不均衡现象,以及传统裂缝检测算法的效果差,精度低、泛化性能不足等问题,提出采用DeepCrack网络作为基本构架,同时对基础网络进行改进,在网络中加入位置注意力机制,调整损失函数,并将优化器换为Adan优化器。为证明所提出算法的有效性和准确性,将DeepCrack数据集与人工标注的数据集结合,采用F-feature指标来评估检测性能。实验结果表明,改进算法在数据集相对原算法整体精度提升1.61%,因此改进算法提升了裂缝检测的准确性,具有较好的检测效果。

融合多层级特征的遥感图像地面弱小目标检测

为解决遥感图像地面弱小目标检测中弱小目标信息量少、信息真假混杂的难题,本文提出一种融合多层级特征的遥感图像地面弱小目标检测算法CC-YOLO。该算法首先利用深度卷积神经网络逐级对目标图像进行特征提取,得到高低层特征空间金字塔图;然后,对空间金字塔图进行跨层级通道特征融合,结合新增的位置注意力机制CA,分别沿两个空间方向聚合特征,保留弱小目标精确的位置信息;最后,在聚合后生成的双支路特征图上进行端到端的目标检测,联合多通道检测信息输出检测结果。为解决算法实验中图像数据匮乏的问题,构建了遥感图像地面弱小目标数据集GDSTD。实验结果表明,算法AP;达到42.3%,AP;达到94.6%,检测速率FPS达到58.8帧/s,具有一定的鲁棒性和实时性。

基于双注意力机制的医学超声图像降噪模型

医学超声图像中会不可避免地产生斑点噪声。为有效去除医学超声图像中的噪声,本研究团队提出了一种基于双注意力机制的医学超声图像降噪模型。首先,针对医学超声图像数量有限的问题,对伯克利分割数据集中的400张图像进行旋转和缩放,获得23700张自然图像,再通过斑点噪声模型对其添加斑点噪声来模拟超声图像;接着,在构建降噪模型过程中,针对传统卷积神经网络在特征提取时存在的一些不足,分别引入位置注意力机制、通道注意力机制和全卷积网络对现有模型进行改进,构建更优的超声图像降噪模型;最后,在模型训练过程中,为防止梯度消失引入了批量归一化操作。实验结果表明:从视觉观察效果和客观评价指标来看,所提模型对11张模拟超声图像和2张真实超声图像(物理体膜超声图像和肝脏超声图像)的去噪效果均优于对比模型。所提模型是一种有效的医学超声图像降噪模型,不仅有效降低了斑点噪声,还较好地保留了图像的细节信息。

基于序列模型的作战文书知识抽取技术研究

作战文书具有实体名称复杂多样但结构规范的特点,并且在句子中有大量的重叠实体关系。对于作战文书的知识抽取,现有的方法中采用的流水线模型有误差传播以及关系冗余的问题造成关系抽取能力较差,并且现有的流水线模型无法抽取作战文书中复杂的重叠实体关系。针对这些问题,文中提出了一种基于序列生成模型并结合位置注意力机制的实体与关系联合抽取模型。通过使用作战文书作为数据集并与其他知识抽取模型做对比实验,论文模型既提高了识别非重叠实体关系的准确率,又实现了对重叠实体关系的抽取,从而提高了作战文书知识抽取的整体效果。

BLSTM-PA在食品安全领域语义分析仿真研究

食品安全领域的智能问答系统旨在对用户通过自然语言进行的食品安全方面的提问做出快速、简洁的反馈,其技术挑战主要在于语义分析和答案句子表示,尤其是在于如何消除问答之间的词汇差距以加强问答匹配能力,以及如何抓取准确的核心单词以增强句子表示能力。尽管基于"短语级别"和众多的注意力模型已经取得了一定的性能提升,但基于注意力的框架都没有很好的重视位置信息。针对上述问题,运用词林和word2vec相结合的方法,提出近义词-主词替换机制(将普通词映射为核心词),实现了语义表示的归一化。同时,受位置上下文提升信息检索性能的启发,假设如果问句中的一个词(称之为问题词)出现在答案句中,问题词的临近词对比偏离词应该被给与更高的权重。基于上述假设,提出了基于双向lstm模型的位置注意力机制(BLSTM-PA)。上述机制给与答案句中问题词的临近文本更高的注意力。以食品安全问答系统为语义分析验证和仿真的平台,通过在食品安全领域数据集(即FS-QA)上进行的对比实验,从MAP和MRR评价指标来看,与基于传统的注意力机制的RNN模型相比,BLSTM-PA实现了5.96%的提升,证明了BLSTM-PA模型的良好性能,同时,集成了提出的问答模型的食品安全问答系统性能也得到了显著的提升。

基于改进交错组卷积的眼底硬性渗出物自动分割

在临床诊断中,眼底硬性渗出物的检测结果是判断糖尿病视网膜病变程度的重要参考。现有眼底硬性渗出物检测模型通过加深网络层数以有效分割硬性渗出物的病灶特征,但是容易产生冗余卷积单元且难以准确提取全部有效特征,影响整体分割性能。提出一种融合交错组卷积与双重注意力机制的眼底硬性渗出物自动分割模型。利用改进的交错组卷积模块代替原始U型网络编码部分,在减少分割模型参数的同时提取更丰富的病灶特征。同时通过位置注意力模块联系局部上下文信息,捕获更广泛的感受野以及更深层次的病灶特征,利用通道注意力模块增加提取关键特征的通道权重,提升重要特征的可辨别性。实验结果表明,该模型在e-Ophtha EX数据集上灵敏度、精确度和F-Score分别为91.43%、86.49%和87.32%,在DIARETDB1数据集上灵敏度、特异性和准确性分别达到97.83%、96.16%和97.51%,能够有效改善原始U型网络对眼底硬性渗出物的分割效果。

基于改进的Transformer_decoder的增强图像描述

Transformer的解码器(Transformer_decoder)模型已被广泛应用于图像描述任务中,其中自注意力机制(Self Attention)通过捕获细粒度的特征来实现更深层次的图像理解。本文对Self Attention机制进行2方面改进,包括视觉增强注意力机制(Vision-Boosted Attention,VBA)和相对位置注意力机制(Relative-Position Attention,RPA)。视觉增强注意力机制为Transformer_decoder添加VBA层,将视觉特征作为辅助信息引入Self Attention模型中,指导解码器模型生成与图像内容更匹配的描述语义。相对位置注意力机制在Self Attention的基础上,引入可训练的相对位置参数,为输入序列添加词与词之间的相对位置关系。基于COCO2014进行实验,结果表明VBA和RPA这2种注意力机制对图像描述任务都有一定改进,且2种注意力机制相结合的解码器模型有更好的语义表述效果。

基于改进YOLOX的遥感影像目标检测方法

针对遥感影像背景复杂,影像内不同类别目标间尺寸差异较大,现有模型对于其内小尺寸目标检测精度较低的问题,对YOLOX进行改进,实现了一种遥感影像目标检测方法。在骨干网络内引入位置注意力模块,让模型专注学习正样本特征;使用双层加权特征金字塔代替现有特征融合网络,并在检测端使用上下文解耦检测头对目标框回归与目标分类任务充分分解。实验结果表明,本文模型在测试集上的平均精度均值达到90.14%,较YOLOX模型提高了9.97%,较YOLOv8模型提高了4.34%,单张图像的检测速度仅为0.019 s,具有实时检测能力。

基于LSTM-SPA的医学领域问答技术研究

在线医学智能问答系统作为传统医学服务系统的一个补充旨在对用户通过自然语言进行的医学方面的提问做出快速、简介的反馈。本文提出了基于LSTM的症状位置的注意力模型。在医疗领域数据集MT-QA上的对比实验显示LSTM-SPA模型有优良的性能。