正性信息注意偏向在急性白血病患者 不同健康心理控制源类型与创伤后成长间的中介效应

目的 了解急性白血病(acute leukemia, AL)患者创伤后成长(post-traumatic growth, PTG)现状,探讨正性信息注意偏向在不同健康心理控制源(health locus of control, HLC)与PTG间的中介效应,为提高患者PTG水平提供依据。方法 2022年6月至2023年3月,采用便利抽样法选取河北省某三级甲等医院血液内科的AL患者201例为研究对象,采用多维度健康心理控制源量表、正性信息注意偏向量表、创伤后成长量表等对其进行调查。结果 AL患者PTG总分为[62(49.5,70.00)]分,与健康权威人士控制(powerful others HLC,P-HLC)、正性信息注意偏向均呈正相关(均P<0.01),与健康机遇控制(chance HLC,C-HLC)呈负相关(P<0.05);正性信息注意偏向在P-HLC与PTG间起部分中介作用,在I-HLC与PTG间起完全中介作用。结论 正性信息注意偏向在不同HLC与PTG间发挥的作用机制不同,护理人员可根据患者HLC类型,进行针对性的施护,从而提升PTG。

基于位置信息和注意力机制的路面裂缝检测

路面裂缝是造成公路安全问题的主要因素。传统的裂缝检测通常以人工检测为主,存在效率低、不安全等问题,此外现有深度学习检测模型在面临阴影遮挡、背景复杂等干扰因素时会造成裂缝检测不完整。针对上述问题,提出一种基于位置信息和注意力机制的路面裂缝检测模型(PA-TransUNet)。首先,通过混合编码器接收输入图像,提取裂缝特征信息,引入查询项、键、值的位置信息,提升编码器Transformer中自注意力机制捕获裂缝形状和补偿特征信息丢失的能力。然后,输入裂缝特征到解码器进行上采样,设计一种基于注意力门控的解码模块(AGDM),AGDM通过抑制非裂缝区域来加强对裂缝区域的学习,提高裂缝检测的准确性和完整性。实验结果表明,PA-TransUNet模型在路面裂缝检测数据集(CFD)和Cracktree200这2个公开数据集上的F1值分别达到87.44%和82.58%。此外,为了进一步检验PA-TransUNet模型在实际工程中的裂缝检测能力,又在自制无人机裂缝(UAV Cracks)数据集上取得了88.68%的F1值,由此可见其能较好地满足实际工程中的裂缝检测需求。

一种融合5G CSI和地磁的集成学习定位方法

针对深度学习算法在多传感器融合定位中容易出现的局部收敛、异质融合性能不佳等问题,本文提出了一种集成双向长短期记忆网络(BiLSTM)和注意力机制的多输入卷积神经网络(CNN)的室内定位算法。该算法首先对5G信道状态信息(CSI)和地磁数据分别进行预处理;然后各自基于独立的分支网络进行离线训练,同时提取指纹数据的空间特征和时序特征,追加注意力机制层;最后在全连接层实现了异质传感器数据的融合定位。在会议室和教学楼大厅的试验结果表明,平均定位误差分别为0.95和1.84 m,相比误差反向传播网络(BPNN)分别提高了48.9%和42.7%,定位精度和系统稳定性均大幅提升。

融合全局信息的多图神经网络会话推荐

基于会话的推荐旨在根据当前会话预测下一个最可能交互的物品.由于单个会话点击序列较短,仅使用会话本身的信息很难提供准确的推荐.因此,综合考虑其它会话之间的交互信息已成为一种趋势,为了提高推荐性能,本文提出一种融合全局信息的多图神经网络会话推荐模型(GIMGNN)来增强会话推荐的效果.该模型首先通过超图卷积神经网络和门控图神经网络从全局会话超图和局部会话图中学习两个级别的物品表示,然后通过注意力机制将反向位置信息融合到两种表示中,最后利用融合后的表示完成预测.在两个真实数据集Yoochoose和Diginetica上进行了一系列实验,实验结果表明,对比性能最优的基准模型,GIMGNN模型在Yoochoose上P@20和MRR@20至少提升了2.42%和4.01%,在Diginetica上P@20和MRR@20至少提升了6.56%和9.11%,验证了模型的有效性.

基于图像相对位置和负向感知的图文匹配

图文匹配任务在计算机视觉以及多模态信息处理领域引起了广泛关注。这一跨模态任务主要难点在于如何高效地提取视觉和文本的信息以及如何解决不一致图文冲突问题。文中提出了一种新颖的图像文本匹配方法,利用图像对象相对位置的注意力机制解决忽视图像中物体相对位置信息的问题,从而更好地关注视觉信息的提取,同时为了解决忽视图像-文本间不对齐内容相似度贡献的问题,运用了负向感知模块关注物体相对位置和文本中的单词非对齐的信息对相似度的负贡献,从而提高图像-文本匹配相似度的准确性。最后,在公开图文匹配数据集Flickr30K上达到了最好的r_(Sum),比当前最好的负向感知模型提高了7.3,取得了最先进的性能。

基于轴-Transformer的医学图像分割模型Axial-TransUNet

针对TransUNet中Transformer自注意力机制计算复杂度高、捕获位置信息能力不足的问题,提出一种基于轴向注意力机制的医学图像分割网络Axial-TransUNet。该网络在保留TransUNet网络编码器、解码器以及跳跃连接的基础上,使用基于轴向注意力机制的残差轴向注意力块代替TransUNet的Transformer层。实验结果表明,在多个医学数据集上,相较于TransUNet等其他医学图像分割网络,Axial-TransUNet的Dice系数、交并比IoU有更好的表现。与TransUNet相比,Axial-TransUNet网络的参数量与浮点运算数(FLOPs)分别降低14.9%和30.5%。可见,Axial-TransUNet有效降低了模型复杂度,并增强了模型捕获位置信息的能力。

基于光流信息融合的无监督视频目标分割网络

随着机器学习特别是深度学习理论和算法的不断发展和视频数据的大量积累,采用无标签视频信息的无监督学习算法取得了长足进步。提出了一种融合光流信息的双流无监督学习视频目标分割网络。首先,将视频序列中的随机帧和与之对应的由光流网络生成的光流图分别输入到残差神经(residual networks,ResNet)主干网络,形成帧特征图和对应的帧间光流特征图。其次,为克服共同移动的背景信息对分割精度的影响,设计了目标位置信息融合模块(position information fusion,PIF),将输入视频帧和光流进行位置信息融合,在得到主要目标位置的同时,降低了背景噪声信号对分割的影响。最后,设计空间通道上下文信息融合注意力机制模块(spatial channel context information fusion,SCCF),将帧特征和光流特征的上下文信息与经典的空间通道注意力机制进行了融合。在DAVIS-16数据集上的实验表明,文中网络的平均区域相似性指标可达89.6,平均边界精度指标可达87.0,两项指标均达到该领域的最高水平。

习得性乐观生成的心理机制与作用机理探索

人们越来越富有,为什么却未能越来越快乐?企业员工普遍乐观水平较低,严重影响工作绩效和组织效能。习得性乐观作为人的一种心理资本,是组织行为学研究的核心课题之一。习得性乐观形成的关键在于个体能否做到凡事正面思维。正面思维主要表现在"语言模式、注意的内容、理性性质和思维风格"四个方面,并由此构成了习得性乐观生成的四种心理机制,即"成长式框架积极语言模式、选择性注意正面信息、理性信念、乐观解释风格"。未来的研究应将习得性乐观正面思维作为重要的调节变量开展系列实证研究,以丰富和完善现有的组织行为学理论。

基于自注意力和位置感知图模型的会话推荐

为解决现有的会话模型方案都只基于局部会话信息而没有充分考虑全局会话信息的问题,提出一种基于自注意力和位置感知图模型的会话推荐。利用图神经网络构建会话图,利用位置感知注意力建模会话图的一阶邻居信息,引入反向位置嵌入赋予不同项目不同的权重,通过软注意机制获得局部会话表示;利用自注意力机制自适应地捕捉会话的全局依赖;将全局会话与局部会话相结合生成最终会话表示。对3个真实数据集进行实验,模型在3个数据集上P@20分别提升了1.2%、4.3%和12.9%,MRR@20分别提升了2.3%、5.4%和14.3%,验证了所提模型的有效性。

基于位置信息多注意交互模型的方面级情感分析

方面级情感分析是用于识别文本中特定方面情感倾向的细粒度级情感分析。针对传统神经网络模型在上下文和方面词之间交互性较少,不同距离上下文对方面词情感极性判断有不同影响等问题,提出了基于位置信息多注意交互模型(MAIP)。该模型引入依存句法树表示词语之间的依存关系,将位置信息嵌入到词向量中,使用双向GRU获取方面词和上下文的隐藏向量表示,并利用多注意力机制学习词语之间的交互信息。实验结果表明,该模型能有效提升情感分析的准确度。

注意力机制综述

现在注意力机制已广泛地应用在深度学习的诸多领域。基于注意力机制的结构模型不仅能够记录信息间的位置关系,还能依据信息的权重去度量不同信息特征的重要性。通过对信息特征进行相关与不相关的抉择建立动态权重参数,以加强关键信息弱化无用信息,从而提高深度学习算法效率同时也改进了传统深度学习的一些缺陷。从图像处理、自然语言处理、数据预测等不同应用方面介绍了一些与注意力机制结合的算法结构,并对近几年大火的基于注意力机制的transformer和reformer算法进行了综述。鉴于注意力机制的重要性,综述了注意力机制的研究发展,分析了注意力机制目前的发展现状并探讨了该机制未来可行的研究方向。

基于交叉注意力的方面级情感分析

方面级情感分析旨在识别句子中方面词的积极、消极和中性情绪。其关键在于方面词和句子中单词之间关系的学习。在学习单词之间关系时,现有卷积门控网络使用时间卷积方法,其局部时间窗口无法描述任意单词之间的关系。同时,现有时间注意力模型在分析单词之间的关系时,其注意力是相互独立的。为了分析句子中方面词与其他单词的复杂关联,提出一种基于交叉注意力和卷积门控网络的情感分析模型。对于给定的词向量特征,设计了一种交叉注意力模块。该模块对多头注意力中查询向量与关键字向量的匹配得分,添加交叉的线性映射,以融合多个注意力中的匹配得分,用于描述更复杂的方面词的上下文单词关系。使用卷积门控网络对局部单词关系进行编码,并设计了单词的位置编码模块,用于提供单词的位置编码特征,以分析位置编码对单词关系分析的作用。对上述编码的单词特征,使用时间池化获得句子描述,并使用全连接分类器进行情感分类标记预测。在Rest14和Laptop14数据集上的实验分析表明,提出的方法能有效估计方面级单词与其他单词之间得分关系。

基于分层式CNN的长文本情感分类模型

为解决文本分类中因文本数据篇幅长且语义情感分布不均导致分类准确度偏低的问题,提出一种基于分层式卷积神经网络(convolutional neural network,CNN)的长文本情感分类模型pos-ACNN-CNN。通过在嵌入层加入位置编码来捕获文本中的词序信息,结合基于注意力机制的CNN识别不同词语的情感语义贡献度,得到连续两个句子组成的句子对的特征信息;利用CNN提取文本中所有句子对的全局特征,获得最终的分类结果。在IMDB影评数据集中进行的多组对比实验结果表明,该情感分类模型具有更好的分类效果。

基于全局增强图神经网络的序列推荐

已有基于会话的推荐系统大多根据最后一个点击的项目与当前会话的用户偏好的相关性进行推荐,忽略了在其他会话中可能包含了与当前会话相关的项目转换,这些项目转换可能对用户的当前偏好也有一定的影响,因此需要从局部会话和整体会话的角度来综合分析用户偏好;并且这些推荐系统大多忽略了位置信息的重要性,而与预测位置越近的项目可能与当前用户兴趣的相关性越高。针对这些问题,提出一种基于全局增强的图神经网络的推荐模型(GEL-GNN)。GEL-GNN旨在根据所有会话预测用户的行为,它使用GNN来捕获当前会话的全局和局部之间的关系,使用LSTM来捕获全局层面会话间的关系。首先,通过注意力机制层将用户的偏好表示为基于全局层面和局部层面会话兴趣的组合;然后,使用反向位置信息衡量当前位置和预测位置之间的距离,以便更加准确地预测用户行为。在3个真实的数据集上进行了大量的实验,实验结果表明GEL-GNN优于现有的基于会话的图神经网络推荐模型。

利用位置增强注意力机制的属性级情感分类

属性级情感分类旨在准确识别评论中属性的情感极性。现有的基于长短时记忆网络(LSTM)的方法大多只利用了属性和上下文的语义信息,而忽视了属性与上下文相对位置信息。针对此问题,提出一种利用相对位置信息来增强注意力的LSTM网络模型,解决属性级情感分类问题。首先,对上下文的输入层加入位置向量,利用两个LSTM网络对上下文和属性分别进行独立语义编码;然后,对上下文的隐藏层再次拼接位置向量,并利用属性隐藏层向量参与上下文不同词注意力权重的计算;最后,利用上下文生成的有效表示进行情感分类。该模型在SemEval 2014 Task4 Restaurant和Laptop两个不同领域数据集上进行了实验,在三分类实验中,准确率分别达到79.7%和72.1%。在二分类实验中,准确率分别达到92.1%和88.3%。相比多个基线模型,在准确率上都有一定的提升。

基于自注意力网络的时间感知序列化推荐

随着信息技术的发展,推荐系统作为信息过载时代的重要工具,正扮演着越来越重要的角色.基于内容和协同过滤的传统推荐系统,倾向于以静态方式对用户与商品交互进行建模,以获取用户过去的长期偏好.考虑到用户的偏好往往是动态的,且具有非持续性和行为依赖性,序列化推荐方法将用户与商品的交互历史建模为有序序列,能有效捕获商品的依赖关系和用户的短期偏好.然而多数序列化推荐模型过于强调用户-商品交互的行为顺序,忽视了交互序列中的时间信息,即隐式假设了序列中相邻商品具有相同的时间间隔,在捕捉包含时间动态的用户偏好上具有局限性.针对以上问题,文中提出基于自注意力网络的时间感知序列化推荐(self-attention-based network for time-aware sequential recommendation,SNTSR)模型,该模型将时间信息融入改进的自注意力网络中,以探索动态时间对下一商品预测的影响.同时,SNTSR独立计算位置相关性,以消除可能引入的噪声相关性,增强捕获用户序列模式的能力.在两个真实世界数据集上的大量实验表明,SNTSR始终优于一组先进的序列化推荐模型.

一种基于对数位置表示和自注意力的机器翻译新模型

在机器翻译任务中,自注意力机制由于高度可并行化的计算能力而减少了模型的训练时间,并且可以有效地捕捉到上下文中所有单词之间的语义相关度而受到了广泛的关注。然而,不同于循环神经网络,自注意力机制的高效源于忽略上下文单词之间的位置结构信息。为了使模型能够利用单词之间的位置信息,基于自注意力机制的机器翻译模型Transformer使用正余弦位置编码方式表示单词的绝对位置信息,然而,这种方法虽然能够反应出相对距离,但却缺乏方向性。文中将对数位置表示方法与自注意力机制相结合,提出一种机器翻译新模型。该模型不仅继承了自注意力机制的高效性,还可以保留单词之间的距离信息与方向性信息。研究表明,与传统的自注意力机制模型以及其它模型相比,文中所提新模型能够显著地提高机器翻译的准确性。

光学定位技术辅助的手术场景全景拼接算法

目的提出一种光学定位技术辅助的手术场景全景拼接算法(panoramic stitching assisted by optical positioning technique,PSAOP),以提高全景拼接质量。方法通过光学定位系统获得手术场景高关注度区域中严格匹配的光学定位点对。结合SIFT特征匹配点对,建立更准确的局部单应性模型。为了进一步减少透视失真,提出基于深度信息优化的全局相似变换(depth optimized global similarity transformation algorithm,DOGST)算法来补偿摄像机的运动。结果对模拟手术场景进行拼接,该算法可以极大提高场景拼接的自然性,获得了高主观质量。对齐后,视图之间重叠区域的结构相似性(structural similarity,SSIM)得分平均高于其他算法。DOGST获得的全局相似矩阵最小旋转角度小于RANSAC获得的角度,提高了拼接结果的自然度。结论PSAOP能够提供更自然的拼接效果,在重叠区域中没有明显的重影,且进一步减少了非重叠区域中的透视失真。未来可与VR(virtual reality)结合使用,为远程医疗提供更身临其境、更立体直观的医疗场景。

基于双层注意力循环神经网络的方面级情感分析

在方面级情感分析中,常用的方法是将循环神经网络和注意力机制结合,利用注意力获取序列中不同单词的重要程度,但这并不能获取不同句子的重要程度,仅仅依赖单层注意力难于获取深层次情感特征信息。为了解决上述问题,该文提出一种基于双层注意力循环神经网络模型。通过双层注意力分别对单词层和句子层进行建模,捕获不同单词和不同句子的重要性,利用双向的循环神经网络获取更多的序列上下文依赖信息。情感特征信息具有重要性,但在深层神经网络中却未被充分利用。因此,该文将方面、词性信息和位置信息作为模型的辅助信息,进行更深层次情感特征信息学习,有效识别不同方面的情感极性。该方法与IAN模型相比,在SemEval 2014中的Restaurant数据集和Laptop数据集上进行实验,分类准确率分别提升了2.0%和5.2%。在与TD-LSTM模型对比中,Twitter数据集的分类准确率提升了1.7%。

焦虑和抑郁对正负性注意偏向的影响:注意控制的中介作用

采用状态–特质焦虑量表、流调抑郁量表、注意控制量表和正负性信息注意量表,对481名在校大学生进行调查研究,考察了焦虑、抑郁对注意偏向的影响,并探讨了注意控制在其中的中介作用。研究发现:(1)正性注意偏向与注意控制呈正相关,与状态焦虑、特质焦虑和流调抑郁呈负相关;负性注意偏向与注意控制呈负相关,与状态焦虑、特质焦虑和流调抑郁呈正相关。(2)特质焦虑、注意集中、注意转移可显著预测正性注意偏向,状态焦虑、流调抑郁和注意集中则显著预测负性注意偏向。(3)注意转移和注意集中中介了状态焦虑、特质焦虑、流调抑郁和正、负性注意偏向间的关系。研究提示注意控制是一个重要的保护性因素,可缓解或消除焦虑和抑郁对注意偏向的负面影响。