期刊文献+
共找到993篇文章
< 1 2 50 >
每页显示 20 50 100
Multi-Head Attention Spatial-Temporal Graph Neural Networks for Traffic Forecasting
1
作者 Xiuwei Hu Enlong Yu Xiaoyu Zhao 《Journal of Computer and Communications》 2024年第3期52-67,共16页
Accurate traffic prediction is crucial for an intelligent traffic system (ITS). However, the excessive non-linearity and complexity of the spatial-temporal correlation in traffic flow severely limit the prediction acc... Accurate traffic prediction is crucial for an intelligent traffic system (ITS). However, the excessive non-linearity and complexity of the spatial-temporal correlation in traffic flow severely limit the prediction accuracy of most existing models, which simply stack temporal and spatial modules and fail to capture spatial-temporal features effectively. To improve the prediction accuracy, a multi-head attention spatial-temporal graph neural network (MSTNet) is proposed in this paper. First, the traffic data is decomposed into unique time spans that conform to positive rules, and valuable traffic node attributes are mined through an adaptive graph structure. Second, time and spatial features are captured using a multi-head attention spatial-temporal module. Finally, a multi-step prediction module is used to achieve future traffic condition prediction. Numerical experiments were conducted on an open-source dataset, and the results demonstrate that MSTNet performs well in spatial-temporal feature extraction and achieves more positive forecasting results than the baseline methods. 展开更多
关键词 Traffic Prediction Intelligent Traffic System multi-head Attention Graph Neural Networks
下载PDF
基于Multi-head Attention和Bi-LSTM的实体关系分类 被引量:11
2
作者 刘峰 高赛 +1 位作者 于碧辉 郭放达 《计算机系统应用》 2019年第6期118-124,共7页
关系分类是自然语言处理领域的一项重要任务,能够为知识图谱的构建、问答系统和信息检索等提供技术支持.与传统关系分类方法相比较,基于神经网络和注意力机制的关系分类模型在各种关系分类任务中都获得了更出色的表现.以往的模型大多采... 关系分类是自然语言处理领域的一项重要任务,能够为知识图谱的构建、问答系统和信息检索等提供技术支持.与传统关系分类方法相比较,基于神经网络和注意力机制的关系分类模型在各种关系分类任务中都获得了更出色的表现.以往的模型大多采用单层注意力机制,特征表达相对单一.因此本文在已有研究基础上,引入多头注意力机制(Multi-head attention),旨在让模型从不同表示空间上获取关于句子更多层面的信息,提高模型的特征表达能力.同时在现有的词向量和位置向量作为网络输入的基础上,进一步引入依存句法特征和相对核心谓词依赖特征,其中依存句法特征包括当前词的依存关系值和所依赖的父节点位置,从而使模型进一步获取更多的文本句法信息.在SemEval-2010 任务8 数据集上的实验结果证明,该方法相较之前的深度学习模型,性能有进一步提高. 展开更多
关键词 关系分类 Bi-LSTM 句法特征 self-attention multi-head ATTENTION
下载PDF
Fatal complications in a patient with severe multi-space infections in the oral and maxillofacial head and neck regions: A case report 被引量:17
3
作者 Tian-Guo Dai Hong-Bing Ran +3 位作者 Yin-Xiu Qiu Bo Xu Jin-Qiang Cheng Ying-Kai Liu 《World Journal of Clinical Cases》 SCIE 2019年第23期4150-4156,共7页
BACKGROUND Odontogenic infection is one of the common infectious diseases in oral and maxillofacial head and neck regions.Clinically,if early odontogenic infections such as acute periapical periodontitis,alveolar absc... BACKGROUND Odontogenic infection is one of the common infectious diseases in oral and maxillofacial head and neck regions.Clinically,if early odontogenic infections such as acute periapical periodontitis,alveolar abscess,and pericoronitis of wisdom teeth are not treated timely,effectively and correctly,the infected tissue may spread up to the skull and brain,down to the thoracic cavity,abdominal cavity and other areas through the natural potential fascial space in the oral and maxillofacial head and neck.Severe multi-space infections are formed and can eventually lead to life-threatening complications(LTCs),such as intracranial infection,pleural effusion,empyema,sepsis and even death.CASE SUMMARY We report a rare case of death in a 41-year-old man with severe odontogenic multi-space infections in the oral and maxillofacial head and neck regions.One week before admission,due to pain in the right lower posterior teeth,the patient placed a cigarette butt dipped in the pesticide"Miehailin"into the"dental cavity"to relieve the pain.Within a week,the infection gradually spread bilaterally to the floor of the mouth,submandibular space,neck,chest,waist,back,temporal and other areas.The patient had difficulty breathing,swallowing and eating,and was transferred to our hospital as an emergency admission.Following admission,oral and maxillofacial surgeons immediately organized consultations with doctors in otolaryngology,thoracic surgery,general surgery,hematology,anesthesia and the intensive care unit to assist with treatment.The patient was treated with the highest level of antibiotics(vancomycin)and extensive abscess incision and drainage in the oral,maxillofacial,head and neck,chest and back regions.Unfortunately,the patient died of septic shock and multiple organ failure on the third day after admission.CONCLUSION Odontogenic infection can cause serious multi-space infections in the oral and maxillofacial head and neck regions,which can result in multiple LTCs.The management and treatment of LTCs such as multi-space infections should be multidisciplinary led by oral and maxillofacial surgeons. 展开更多
关键词 ODONTOGENIC infection multi-space INFECTIONS COMPLICATION Oral MAXILLOFACIAL head and NECK Case report
下载PDF
Multi-objective optimization of stamping forming process of head using Pareto-based genetic algorithm 被引量:10
4
作者 周杰 卓芳 +1 位作者 黄磊 罗艳 《Journal of Central South University》 SCIE EI CAS CSCD 2015年第9期3287-3295,共9页
To obtain the optimal process parameters of stamping forming, finite element analysis and optimization technique were integrated via transforming multi-objective issue into a single-objective issue. A Pareto-based gen... To obtain the optimal process parameters of stamping forming, finite element analysis and optimization technique were integrated via transforming multi-objective issue into a single-objective issue. A Pareto-based genetic algorithm was applied to optimizing the head stamping forming process. In the proposed optimal model, fracture, wrinkle and thickness varying are a function of several factors, such as fillet radius, draw-bead position, blank size and blank-holding force. Hence, it is necessary to investigate the relationship between the objective functions and the variables in order to make objective functions varying minimized simultaneously. Firstly, the central composite experimental(CCD) with four factors and five levels was applied, and the experimental data based on the central composite experimental were acquired. Then, the response surface model(RSM) was set up and the results of the analysis of variance(ANOVA) show that it is reliable to predict the fracture, wrinkle and thickness varying functions by the response surface model. Finally, a Pareto-based genetic algorithm was used to find out a set of Pareto front, which makes fracture, wrinkle and thickness varying minimized integrally. A head stamping case indicates that the present method has higher precision and practicability compared with the "trial and error" procedure. 展开更多
关键词 冲压成形工艺 多目标优化 遗传算法 响应面模型 目标函数 最佳工艺参数 问题转化 厚度变化
下载PDF
An Energy-Efficient Multi-swarm Optimization in Wireless Sensor Networks
5
作者 Reem Alkanhel Kalaiselvi Chinnathambi +4 位作者 C.Thilagavathi Mohamed Abouhawwash Mona A.Al duailij Manal Abdullah Alohali Doaa Sami Khafaga 《Intelligent Automation & Soft Computing》 SCIE 2023年第5期1571-1583,共13页
Wireless Sensor Networks are a group of sensors with inadequate power sources that are installed in a particular region to gather information from the surroundings.Designing energy-efficient data gathering methods in l... Wireless Sensor Networks are a group of sensors with inadequate power sources that are installed in a particular region to gather information from the surroundings.Designing energy-efficient data gathering methods in large-scale Wireless Sensor Networks(WSN)is one of the most difficult areas of study.As every sensor node has afinite amount of energy.Battery power is the most significant source in the WSN.Clustering is a well-known technique for enhan-cing the power feature in WSN.In the proposed method multi-Swarm optimiza-tion based on a Genetic Algorithm and Adaptive Hierarchical clustering-based routing protocol are used for enhancing the network’s lifespan and routing opti-mization.By using distributed data transmission modification,an adaptive hier-archical clustering-based routing algorithm for power consumption is presented to ensure continuous coverage of the entire area.To begin,a hierarchical cluster-ing-based routing protocol is presented in terms of balancing node energy con-sumption.The Multi-Swarm optimization(MSO)based Genetic Algorithms are proposed to select an efficient Cluster Head(CH).It also improves the network’s longevity and optimizes the routing.As a result of the study’sfindings,the pro-posed MSO-Genetic Algorithm with Hill climbing(GAHC)is effective,as it increases the number of clusters created,average energy expended,lifespan com-putation reduces average packet loss,and end-to-end delay. 展开更多
关键词 CLUSTERING energy consumption genetic algorithm multi swarm optimization adaptive hierarchical clustering ROUTING cluster head
下载PDF
引入轻量级Transformer的无人机视觉跟踪 被引量:1
6
作者 谌海云 王海川 +1 位作者 黄忠义 余鸿皓 《计算机工程与应用》 CSCD 北大核心 2024年第2期244-253,共10页
随着无人机在军事和民用领域的广泛运用,对于高精度、低功耗智能无人机跟踪系统的需求日益增加。针对目标跟踪算法在无人机跟踪场景下很难平衡跟踪精度和跟踪速度的问题,提出一种引入轻量级Transformer的孪生网络无人机目标跟踪算法Sia... 随着无人机在军事和民用领域的广泛运用,对于高精度、低功耗智能无人机跟踪系统的需求日益增加。针对目标跟踪算法在无人机跟踪场景下很难平衡跟踪精度和跟踪速度的问题,提出一种引入轻量级Transformer的孪生网络无人机目标跟踪算法SiamLT。使用Transformer对AlexNet网络进行改进,在增加最小计算量的情况下捕获全局特征信息。在目标模板与搜索区域匹配方面,联合Transformer和深度互相关运算提出一种二元相关模块,同时捕获目标模板与搜索区域之间的局部相关性和全局依赖关系。在分类回归网络中引入距离交并比,并采用多监督策略训练网络,以获取更准确的目标位置。在UAV123和UAV20L跟踪基准上的实验结果表明,SiamLT算法优于主流的目标跟踪算法,更有效地平衡了跟踪精度和跟踪速度。 展开更多
关键词 无人机 目标跟踪 TRANSFORMER 孪生网络 多头注意力
下载PDF
多阶段堆叠融合下的敦煌壁画修复
7
作者 邬开俊 单宏全 +2 位作者 田彬 俞天秀 周颜林 《电子科技大学学报》 EI CAS CSCD 北大核心 2024年第4期551-559,共9页
为解决敦煌破损壁画修复难的问题,提出一种多阶段堆叠融合下的壁画修复模型,在第一阶段进行粗修复以及最大化地进行所需特征信息的提取时采用Unet结构,为增强该阶段的修复效果,又加入对抗网络(LsGan);在第二阶段进行精细化修复,主要修... 为解决敦煌破损壁画修复难的问题,提出一种多阶段堆叠融合下的壁画修复模型,在第一阶段进行粗修复以及最大化地进行所需特征信息的提取时采用Unet结构,为增强该阶段的修复效果,又加入对抗网络(LsGan);在第二阶段进行精细化修复,主要修复纹理以及细化遮挡区域,引入多头连接和多尺度分支堆叠模块并对其进行改进,对壁画进行多阶段信息提取并对其进行融合;最后为了修复全局细节,采用大感受野的编解码器结构并且引入轻量级通用可视化(Mobile ViT)模块,同时分离了壁画图像的通道并进行分析,引入对通道不敏感的极化注意力。实验结果表明,该模型很好地解决了壁画纹理以及细节修复的难题,相较于所选修复算法最优数据,在掩码面积为5%~20%时,峰值信噪比提高了3.312,在掩码面积为5%~80%时,平均峰值信噪比提高了1.02。 展开更多
关键词 敦煌壁画修复 多阶段堆叠 大感受野 多头嵌套 多分支融合
下载PDF
基于SHAP重要性排序和时空双流的多风场超短期功率预测
8
作者 付波 李昊 +3 位作者 权轶 李超顺 赵熙临 杨远程 《重庆理工大学学报(自然科学)》 CAS 北大核心 2024年第5期249-258,共10页
针对多风场风功率预测中时空特征提取不充分的问题,提出一种基于空间、时间双流特征提取的功率预测方法。采用沙普利加性解释(SHAP)方法分析原始高维数值天气预报(NWP)中各变量的重要性,选择贡献度高的变量子集作为预测模型输入,降低模... 针对多风场风功率预测中时空特征提取不充分的问题,提出一种基于空间、时间双流特征提取的功率预测方法。采用沙普利加性解释(SHAP)方法分析原始高维数值天气预报(NWP)中各变量的重要性,选择贡献度高的变量子集作为预测模型输入,降低模型复杂度。构建基于自适应动态邻接矩阵的改进图注意力网络(IGAT)提取多风场的动态空间特征;同时将多头注意力机制(MHA)与时间卷积网络(TCN)结合,加强关键时序特征的学习。使用前馈神经网络输出多风场功率预测结果。以西北某十风场的数据进行案例研究,结果表明所提模型的预测效果优于其他模型。 展开更多
关键词 多风场功率预测 变量选择 图注意力网络 多头注意力机制 时间卷积网络
下载PDF
脑电情感识别中多上下文向量优化的卷积递归神经网络
9
作者 晁浩 封舒琪 刘永利 《计算机应用》 CSCD 北大核心 2024年第7期2041-2046,共6页
目前的脑电(EEG)情感识别模型忽略了不同时段情感状态的差异性,未能强化关键的情感信息。针对上述问题,提出一种多上下文向量优化的卷积递归神经网络(CR-MCV)。首先构造脑电信号的特征矩阵序列,通过卷积神经网络(CNN)学习多通道脑电的... 目前的脑电(EEG)情感识别模型忽略了不同时段情感状态的差异性,未能强化关键的情感信息。针对上述问题,提出一种多上下文向量优化的卷积递归神经网络(CR-MCV)。首先构造脑电信号的特征矩阵序列,通过卷积神经网络(CNN)学习多通道脑电的空间特征;然后利用基于多头注意力的递归神经网络生成多上下文向量进行高层抽象特征提取;最后利用全连接层进行情感分类。在DEAP(Database for Emotion Analysis using Physiological signals)数据集上进行实验,CR-MCV在唤醒和效价维度上分类准确率分别为88.09%和89.30%。实验结果表明,CR-MCV在利用电极空间位置信息和不同时段情感状态显著性特征基础上,能够自适应地分配特征的注意力并强化情感状态显著性信息。 展开更多
关键词 多通道脑电信号 情感识别 多上下文向量 卷积递归神经网络 多头注意力
下载PDF
基于改进Yolov5s的增强现实文物识别方法
10
作者 张元 关瑜 +2 位作者 熊风光 庞敏 况立群 《计算机技术与发展》 2024年第7期17-23,共7页
将增强现实技术应用于数字博物馆的文物展览,有助于拉近参观者与文物的距离,使展览更具趣味性。针对增强现实技术在文物展览应用场景中,增强现实设备采集的文物目标图像背景复杂、文物形状纹理丰富而导致的误检、识别准确率低的问题,提... 将增强现实技术应用于数字博物馆的文物展览,有助于拉近参观者与文物的距离,使展览更具趣味性。针对增强现实技术在文物展览应用场景中,增强现实设备采集的文物目标图像背景复杂、文物形状纹理丰富而导致的误检、识别准确率低的问题,提出一种基于改进的Yolov5s的文物识别方法。在Yolov5s网络结构中的骨干网络与颈部网络之间引入了CBAM注意力机制,并在骨干网络中的Bottleneck模块中,使用多头注意力机制替换普通卷积,有效捕获局部信息,降低了无用信息的干扰。为了提高识别网络对于目标文物的边界框定位精度,采用DIoU-NMS方法挑选最优的目标识别框作为最终的预测框。实验结果表明,该方法提高了文物的平均识别精度,比原模型更适用于AR应用文物的目标识别。 展开更多
关键词 增强现实 文物识别 Yolov5s 注意力机制 多头自注意力机制 DIoU-NMS
下载PDF
基于扩张卷积和Transformer的视听融合语音分离方法
11
作者 刘宏清 谢奇洲 +1 位作者 赵宇 周翊 《信号处理》 CSCD 北大核心 2024年第7期1208-1217,共10页
为了提高语音分离的效果,除了利用混合的语音信号,还可以借助视觉信号作为辅助信息。这种融合了视觉与音频信号的多模态建模方式,已被证实可以有效地提高语音分离的性能,为语音分离任务提供了新的可能性。为了更好地捕捉视觉与音频特征... 为了提高语音分离的效果,除了利用混合的语音信号,还可以借助视觉信号作为辅助信息。这种融合了视觉与音频信号的多模态建模方式,已被证实可以有效地提高语音分离的性能,为语音分离任务提供了新的可能性。为了更好地捕捉视觉与音频特征中的长期依赖关系,并强化网络对输入上下文信息的理解,本文提出了一种基于一维扩张卷积与Transformer的时域视听融合语音分离模型。将基于频域的传统视听融合语音分离方法应用到时域中,避免了时频变换带来的信息损失和相位重构问题。所提网络架构包含四个模块:一个视觉特征提取网络,用于从视频帧中提取唇部嵌入特征;一个音频编码器,用于将混合语音转换为特征表示;一个多模态分离网络,主要由音频子网络、视频子网络,以及Transformer网络组成,用于利用视觉和音频特征进行语音分离;以及一个音频解码器,用于将分离后的特征还原为干净的语音。本文使用LRS2数据集生成的包含两个说话者混合语音的数据集。实验结果表明,所提出的网络在尺度不变信噪比改进(Scale-Invariant Signal-to-Noise Ratio Improvement,SISNRi)与信号失真比改进(Signal-to-Distortion Ratio Improvement,SDRi)这两种指标上分别达到14.0 dB与14.3 dB,较纯音频分离模型和普适的视听融合分离模型有明显的性能提升。 展开更多
关键词 语音分离 视听融合 多头自注意力机制 扩张卷积
下载PDF
基于门控循环单元和Transformer的车辆轨迹预测方法
12
作者 王庆荣 谭小泽 +1 位作者 朱昌锋 李裕杰 《汽车技术》 CSCD 北大核心 2024年第7期1-8,共8页
为增强自动驾驶车辆对动态环境的理解能力及其道路行驶安全性,提出基于门控循环单元(GRU)和Transformer的车辆轨迹预测模型STGTF,使用GRU提取车辆的历史轨迹特征,通过双层多头注意力(MHA)机制提取车辆的时空交互特征,生成预测轨迹。试... 为增强自动驾驶车辆对动态环境的理解能力及其道路行驶安全性,提出基于门控循环单元(GRU)和Transformer的车辆轨迹预测模型STGTF,使用GRU提取车辆的历史轨迹特征,通过双层多头注意力(MHA)机制提取车辆的时空交互特征,生成预测轨迹。试验结果表明,预测结果的均方根误差(RMSE)平均降低7.3%,STGTF在短期预测和长期预测方面均有不同程度的提升,验证了模型的有效性。 展开更多
关键词 车辆轨迹预测 门控循环单元 TRANSFORMER 车辆交互 多头注意力机制
下载PDF
修复缺陷嫌疑区域的无监督磁瓦表面缺陷检测
13
作者 唐善成 逯建辉 +2 位作者 张莹 金子成 赵安新 《浙江大学学报(工学版)》 EI CAS CSCD 北大核心 2024年第4期718-728,共11页
磁瓦表面缺陷样本数量少,异常视觉特征分布发散,现有依赖目标特征的有监督检测方法不能有效检测未定义缺陷;磁瓦表面正常纹理呈非均匀且非周期性分布,使得经典重构网络难以准确地重构磁瓦表面正常特征,导致相关无监督检测方法性能低下.... 磁瓦表面缺陷样本数量少,异常视觉特征分布发散,现有依赖目标特征的有监督检测方法不能有效检测未定义缺陷;磁瓦表面正常纹理呈非均匀且非周期性分布,使得经典重构网络难以准确地重构磁瓦表面正常特征,导致相关无监督检测方法性能低下.为此,采用多头注意力增强的掩码图像修复网络(MIINet),长距离提取图像特征,捕捉全局信息,增强图像修复的能力;引入视觉显著性算法抑制磁瓦表面纹理信息和突显缺陷区域,以便二值化算法精准分割缺陷嫌疑区域;利用MIINet修复待检测图像缺陷嫌疑区域,选用修复前后图像的残差图像和结构相似性实现缺陷检测与缺陷判定.与经典无监督方法相比,修复缺陷嫌疑区域的表面缺陷检测方法的准确率提升了2.36%,F1值提升了1.62%. 展开更多
关键词 多头注意力 磁瓦表面缺陷检测 无监督学习 图像修复 视觉显著性
下载PDF
重型颅脑损伤患者胃肠功能衰竭风险预测模型的建立
14
作者 林莎莎 周灵静 +1 位作者 唐秀琼 潘梅英 《脑与神经疾病杂志》 CAS 2024年第7期428-433,共6页
目的建立重型颅脑损伤(sTBI)患者胃肠功能衰竭风险预测模型,并进行验证。方法选择2019年1月至2023年3月达州市中西医结合医院神经外科接诊的147例sTBI患者资料进行分析。收集可能影响sTBI患者胃肠功能衰竭的相关因素,根据急性胃肠道损伤... 目的建立重型颅脑损伤(sTBI)患者胃肠功能衰竭风险预测模型,并进行验证。方法选择2019年1月至2023年3月达州市中西医结合医院神经外科接诊的147例sTBI患者资料进行分析。收集可能影响sTBI患者胃肠功能衰竭的相关因素,根据急性胃肠道损伤(AGI)分级将患者分为胃肠功能衰竭组与非胃肠功能衰竭组,以LASSO筛选出潜在影响因素后行多因素Logistic回归分析,根据多因素分析结果建立列线图模型并进行验证。结果本研究模型组102例sTBI患者中共有33例(32.35%)出现胃肠功能衰竭,多因素Logistic回归分析结果显示:机械通气情况、休克、通便措施、肺部感染情况、血钠、人肠脂肪酸结合蛋白(iFABP)、D-乳酸及二胺氧化酶(DAO)为sTBI患者胃肠功能衰竭的独立性影响因素(P<0.05)。ROC分析显示模型组曲线下面积(AUC)为0.942,95%CI为0.896~0.988;验证组AUC为0.908,95%CI为0.849~0.966。校准曲线结果显示,预测曲线与标准曲线基本拟合。决策曲线分析结果显示,当列线图模型预测sTBI患者胃肠功能衰竭风险的概率阈值为0.10~0.90时,患者的净收益率大于0。结论sTBI患者胃肠功能衰竭主要受机械通气情况、休克、通便措施等相关因素的影响,本研究基于上述因素建立的列线图预测模型用于预测sTBI患者胃肠功能衰竭具有较高的准确度与区分度。 展开更多
关键词 重型颅脑损伤 胃肠功能衰竭 多因素分析 列线图模型
下载PDF
基于增强多头注意力机制的Optuna-BiGRU测井岩性识别
15
作者 王婷婷 王振豪 +1 位作者 李方 赵万春 《地球科学与环境学报》 CAS 北大核心 2024年第1期127-142,共16页
测井岩性识别是油气勘探开发中至关重要的内容。针对现有算法模型在处理测井曲线数据时,无法有效捕获曲线内部深层关联和深度方向关系、拟合能力较弱、难以准确提取关键特征、噪声干扰以及模型超参数调优过程复杂困难等问题,提出了一种... 测井岩性识别是油气勘探开发中至关重要的内容。针对现有算法模型在处理测井曲线数据时,无法有效捕获曲线内部深层关联和深度方向关系、拟合能力较弱、难以准确提取关键特征、噪声干扰以及模型超参数调优过程复杂困难等问题,提出了一种通过Optuna超参数优化双向门循环单元(Optuna-BiGRU)结合增强多头注意力机制(EMHA)的测井岩性识别模型——Optuna-BiGRU-EMHA模型。该模型引入残差机制和层归一化以改进多头注意力机制模块,并结合双向门循环单元(BiGRU)解决了处理测井数据时的问题,同时使用Optuna超参数优化框架和小波包自适应阈值方法分别解决了超参数调优和噪声干扰问题。首先通过交会图分析和敏感性箱线图分析选取自然伽马、深感应电阻率、中子-密度孔隙度、平均中子-密度孔隙度和岩性密度5个特征参数的测井数据,通过小波包自适应阈值方法对数据进行去噪,并将测井数据分割成数据块,然后利用Optuna框架优化BiGRU-EMHA模型超参数,最后通过实验对比K-近邻算法(KNN)、随机森林(RF)、极端梯度提升算法(XGBoost)、长短期记忆(LSTM)神经网络、BiGRU、双向长短期记忆(BiLSTM)神经网络、BiGRU-MHA、Optuna-BiGRU-EMHA等8种模型在测井岩性识别中的精度。结果表明:Optuna-BiGRU-EMHA模型识别准确率达到80%,相对于传统机器学习模型和深度学习模型,综合岩性识别准确率分别提高15.94%~23.14%和3.93%~15.94%,该模型为常规测井岩性识别提供了坚实的理论支持。 展开更多
关键词 岩性识别 深度学习 BiGRU 增强多头注意力机制 小波包自适应阈值 超参数优化
下载PDF
基于多头注意力机制字词联合的中文命名实体识别
16
作者 王进 王猛旗 +2 位作者 张昕跃 孙开伟 朴昌浩 《江苏大学学报(自然科学版)》 CAS 北大核心 2024年第1期77-84,共8页
针对现有基于字词联合的中文命名实体识别方法会引入冗余词汇干扰、模型网络结构复杂、难以迁移的问题,提出一种基于多头注意力机制字词联合的中文命名实体识别算法.算法采用多头注意力机制融合词汇边界信息,并通过分类融合BIE词集降低... 针对现有基于字词联合的中文命名实体识别方法会引入冗余词汇干扰、模型网络结构复杂、难以迁移的问题,提出一种基于多头注意力机制字词联合的中文命名实体识别算法.算法采用多头注意力机制融合词汇边界信息,并通过分类融合BIE词集降低冗余词汇干扰.建立了多头注意力字词联合模型,包含字词匹配、多头注意力、融合等模块.与现有中文命名实体识别方法相比,本算法避免了设计复杂的序列模型,方便与现有基于字的中文命名实体识别模型结合.采用召回率、精确率以及F 1值作为评价指标,通过消融试验验证模型各个部分的效果.结果表明,本算法在MSRA和Weibo数据集上F 1值分别提升0.28、0.69,在Resume数据集上精确率提升0.07. 展开更多
关键词 中文命名实体识别 词汇冗余 词汇边界信息 字词联合 多头注意力机制 BIE词集
下载PDF
基于图神经网络的人工自然语言语义挖掘仿真
17
作者 周显春 喻佳 《计算机仿真》 2024年第1期344-348,共5页
语义挖掘工具可从批量非结构化人工自然语言文本数据中准确提取有用信息,但是由于网络环境文本具备半结构化、多尺度、海量、复杂关联等属性,导致文本数据通常维度较高,且仅有小部分节点存在明确标签,因此语义挖掘难度较大。提出基于图... 语义挖掘工具可从批量非结构化人工自然语言文本数据中准确提取有用信息,但是由于网络环境文本具备半结构化、多尺度、海量、复杂关联等属性,导致文本数据通常维度较高,且仅有小部分节点存在明确标签,因此语义挖掘难度较大。提出基于图神经网络的人工自然语言语义挖掘方法。结合多头注意力机制和半监督图卷积神经网络对人工自然语言文本降维处理。联合改进的模糊C均值聚类算法和免疫单亲遗传算法,构建人工自然语言语义挖掘算法。实验结果表明,研究方法的聚类纯度、准确率和召回率均高于95%,说明上述方法的应用性能较优。 展开更多
关键词 图神经网络 人工自然语言 语义挖掘 多头注意力机制
下载PDF
基于改进图注意力网络的油井产量预测模型
18
作者 张强 彭骨 薛陈斌 《吉林大学学报(理学版)》 CAS 北大核心 2024年第4期933-942,共10页
针对图注意力网络处理噪声和时序数据较弱,并且在堆叠多层后出现梯度爆炸、过平滑等问题,提出一种改进图注意力网络模型.首先,使用Squeeze-and-Excitation模块对样本输入数据的特征信息进行不同程度关注,增强模型处理噪声的能力;其次,... 针对图注意力网络处理噪声和时序数据较弱,并且在堆叠多层后出现梯度爆炸、过平滑等问题,提出一种改进图注意力网络模型.首先,使用Squeeze-and-Excitation模块对样本输入数据的特征信息进行不同程度关注,增强模型处理噪声的能力;其次,使用多头注意力机制,将序列数据中每个序列相对其他序列进行加权求和,提取数据的时序性;再次,将图注意力网络提取的节点特征与节点的度中心性拼接,获取节点的局部特征,并用全局平均池化的方式提取节点的全局特征;最后,将两者进行融合得到节点的最终特征表示,增强模型的表征能力.为验证改进图注意力网络的有效性,将改进图注意力网络模型与LSTM,GRU和GGNN模型进行对比,实验结果表明,该模型预测效果得到有效提升,具有更高的预测精度. 展开更多
关键词 图注意力网络 多头注意力 节点度中心性 全局平均池化
下载PDF
基于Transformer模型的车辆轨迹预测
19
作者 田晟 胡啸 《广西师范大学学报(自然科学版)》 CAS 北大核心 2024年第3期47-58,共12页
准确预测车辆轨迹可以保障自动驾驶车辆行驶安全,针对已有方法对长序列轨迹建模预测能力有限的问题,本文提出一种基于Transformer网络的车辆轨迹预测模型。将车辆的运动数据与交互数据输入驾驶意图预测模块生成概率意图向量,通过Concate... 准确预测车辆轨迹可以保障自动驾驶车辆行驶安全,针对已有方法对长序列轨迹建模预测能力有限的问题,本文提出一种基于Transformer网络的车辆轨迹预测模型。将车辆的运动数据与交互数据输入驾驶意图预测模块生成概率意图向量,通过Concatenate函数与轨迹信息拼接后输入轨迹预测编码器,利用多头注意力机制充分提取轨迹特征,经解码器得到未来时刻的车辆轨迹分布。在车辆轨迹真实数据集NGSIM上进行验证,结果表明:在2 s预判时间下,驾驶意图预测模块准确率可达到85%以上;在4 s的预测时域下,轨迹预测模型相较于已有模型,其RMSE降低均达到10%以上。本文提出方法为自动驾驶车辆准确预测轨迹提供技术支持。 展开更多
关键词 自动驾驶 车辆轨迹预测 驾驶意图 特征提取 多头注意力机制
下载PDF
融合多个性化桥和自监督学习的跨域推荐算法
20
作者 王永贵 刘丹妮 《计算机科学与探索》 CSCD 北大核心 2024年第7期1792-1805,共14页
针对跨域推荐系统中目标域中项目交互较少的用户,提出一种融合多个性化桥和自监督学习的跨域推荐算法(MS-PTUPCDR)。首先,在目标域加入变分二部图编码器,使用变分推理框架生成潜在变量,目标域用户表示聚合其同构邻居信息。其次,将用户... 针对跨域推荐系统中目标域中项目交互较少的用户,提出一种融合多个性化桥和自监督学习的跨域推荐算法(MS-PTUPCDR)。首先,在目标域加入变分二部图编码器,使用变分推理框架生成潜在变量,目标域用户表示聚合其同构邻居信息。其次,将用户单一偏好桥扩展为用户多个性化偏好桥,将用户在多源域可转移的用户因子转移到目标域,在目标域加入多头注意力机制融合分别来自不同源域转换的用户潜在因子作为自监督学习的辅助任务。最后,在目标域中将聚合用户邻居因子和融合后的用户多源域转移用户因子进行自监督学习。在目标域通过用户自监督学习后的用户因子和目标域项目因子点积进行目标域项目评分预测。算法在Amazon和MovieLens两个数据集上进行实验,结果表明算法在MAE和RMSE两个评价指标上优于对比基线算法,在两个数据集上与最优对比基线算法相比,MAE平均提升1.96%,RMSE平均提升1.92%,验证了算法的有效性。 展开更多
关键词 跨域推荐 用户多个性化偏好桥 多头注意力机制 自监督学习 变分二部图编码器
下载PDF
上一页 1 2 50 下一页 到第
使用帮助 返回顶部