基于BERT和CNN的药物不良反应个例报道文献分类方法

在临床上,药物不良反应导致的死亡和用药不当造成的住院及门诊费急剧升高,成为临床安全合理用药面临的主要问题之一。目前对药物不良反应的回顾性分析和文献分析多以公开发表的文献资料为依据。学术文献作为重要的数据来源之一,如何自动批量地对其进行数据处理尤为重要。针对医药文本独特的表述方式,基于BERT及其组合模型进行文本分类技术比对实验,建立对药物不良反应个例报道文献数据进行高效快速分类的方法,进而分辨出药物不良反应的类型,有效预警药害事件。实验结果表明,使用BERT模型的分类准确率达到99.75%,其可以准确高效地对药物不良反应个例报道文献进行分类,在辅助医疗、构建医学文本结构化数据等方面均具有重要的价值和意义,进而能够更好地维护公众健康。

集合空间关键字内聚组查询方法

给定一个道路网络和社交网络,集合空间关键字查询的目的是找到一组兴趣点,该组兴趣点的文本信息包含所有查询关键字,与查询的位置较近且彼此之间的距离较小。内聚组查询的目的是找到在地理位置和社交关系上紧密联系的一组用户;而集合空间关键字内聚组查询的目的是找到满足查询要求的一对最佳匹配的兴趣点集合和用户集合。针对这一问题,提出一种新的集合空间关键字内聚组查询处理模式。首先通过快速贪心查询过程获得候选兴趣点集合,然后使用core-tree结构存储(k,c)-core核心分解的结果,从而提高内聚组查询效率,并且保证查询结果能够同时满足用户之间的社会关系约束和兴趣点之间的空间位置约束。通过在真实数据集上开展实验,结果表明提出的方法比枚举方法的查询效率快1~2个数量级,并且具有较高查询准确性。

融合IMR-WGAN的时序数据修复方法

工业数据由于技术故障和人为因素通常导致数据异常,现有基于约束的方法因约束阈值设置的过于宽松或严格会导致修复错误,基于统计的方法因平滑修复机制导致对时间步长较远的异常值修复准确度较低.针对上述问题,提出了基于奖励机制的最小迭代修复和改进WGAN混合模型的时序数据修复方法.首先,在预处理阶段,保留异常数据,进行信息标注等处理,从而充分挖掘异常值与真实值之间的特征约束.其次,在噪声模块提出了近邻参数裁剪规则,用于修正最小迭代修复公式生成的噪声向量.将其传递至模拟分布模块的生成器中,同时设计了一个动态时间注意力网络层,用于提取时序特征权重并与门控循环单元串联组合捕捉不同步长的特征依赖,并引入递归多步预测原理共同提升模型的表达能力;在判别器中设计了Abnormal and Truth奖励机制和Weighted Mean Square Error损失函数共同反向优化生成器修复数据的细节和质量.最后,在公开数据集和真实数据集上的实验结果表明,该方法的修复准确度与模型稳定性显著优于现有方法.

高倍率冷却液吸收树脂的合成及性能研究

动力电池包冷却液泄露引发电路短路是导致新能源汽车自燃的主要原因,冷却液快速吸收材料是解决这一问题的有效途径。采用自由基聚合法合成了丙烯酸-2-丙烯酰胺-2-甲基丙磺酸共聚物P(AA/AMPS)冷却液吸收树脂,通过控制变量法确定了合成树脂的最佳工艺条件,并系统研究了单体配比、丙烯酸(AA)中和度和交联剂N,N′-亚甲基双丙烯酰胺(MBA)用量对树脂吸收冷却液性能的影响规律。结果表明:当单体AA与2-丙烯酰胺-2-甲基丙磺酸(AMPS)的比例为4∶1,AA中和度为80%,交联剂MBA用量为0.10%时,P(AA/AMPS)树脂对冷却液的吸收倍率最高,达到120g/g。

个性化新闻推荐方法研究综述

个性化新闻推荐是帮助用户获取其感兴趣的新闻信息和缓解信息过载的重要技术。近年来,随着信息技术和社会发展,个性化新闻推荐得到了日益广泛的研究,并在改善用户的新闻阅读体验方面取得了显著成功。对基于深度学习的个性化新闻推荐方法进行了系统性综述。首先,分类介绍了个性化新闻推荐方法并分析各自特点及影响因素;然后,给出了个性化新闻推荐的总体框架,并对基于深度学习的个性化新闻推荐方法进行了分析总结;在此基础上,重点综述了基于图结构学习的个性化新闻推荐方法,包括基于用户-新闻交互图、知识图谱和社交关系图的新闻推荐;最后,分析了当前个性化新闻推荐所面临的挑战,探讨了如何解决个性化新闻推荐系统中数据稀疏性、模型可解释性、推荐结果多样性和新闻隐私保护等问题,并在未来研究方向中展望了更具体可操作的研究思路和方法。

融合偏好传播的多任务推荐模型研究

针对知识图谱可以有效地从多源异构数据中还原出实体的三元组关系,却不利于推荐任务且采用单任务学习又很难挖掘数据潜在关联的问题,提出一种融合偏好传播的多任务推荐模型(MAPKR)。首先,利用涟漪传播从知识图谱中提取用户的偏好特征集;其次,依据相似近邻结构实现潜在特征共享,经交叉压缩单元提取项目和实体的高阶特征表示;最后,以多任务学习交替训练推荐模块和知识图谱嵌入模块,将提取的特征向量经归一化内积操作后进行预测、推荐。在3个公开数据集上进行实验并与5个基线模型进行比较。与MKR和RippleNet相比,在MovieLens-1M数据集上,AUC和ACC分别提高了0.68%、0.31%和0.77%、0.54%;在Book-Crossing上,AUC和ACC分别提高了3.48%、2.66%和4.51%、7.21%;在Last.FM上,AUC和ACC分别提高了3.44%、6.25%和2.70%、2.62%。实验结果表明,提出的模型与MKR、RippleNet等其他基线模型相比推荐性能良好。

基于动态时空神经网络的城市交通流量预测方法

交通流量预测对城市道路规划、交通安全问题和建设智慧城市等具有重要意义。然而,现有大部分交通预测模型无法很好地捕捉交通数据的动态时空相关性。针对该问题,提出了一种基于动态时空神经网络的城市交通流量预测方法。首先,通过对交通数据的最近周期依赖、日周期依赖和周周期依赖进行建模,在每个分量上使用三维卷积神经网络提取城市交通高维特征;然后,使用改进的残差结构捕捉远距离区域对与预测区域的相关度,融合空间注意力和时间注意力机制捕捉不同区域不同时间段上的交通流量之间的动态相关性;最后,使用基于参数矩阵的方法对3个分量的输出进行加权融合,得到预测结果。在TaxiBJ和BikeNYC两个公开数据集上开展实验,结果表明所提模型的预测性能优于主流交通预测模型。

临潼区乡村旅游发展现状及对策

陕西省西安市临潼区地理位置优越,历史悠久,乡村旅游产业为当地的农村带来了显著的经济与社会效益。但在乡村旅游产业发展过程中,不可避免地产生了诸如基础设施不够完善、缺乏专业性人才、产品同质化严重等问题。针对以上问题,文章提出了对策建议,以利于临潼区乡村旅游产业的可持续发展,助力临潼区农业农村现代化建设。

基于病理组织切片的肺腺癌肿瘤突变负荷预测模型

肺癌是目前死亡率最高的恶性癌症之一,其中非小细胞肺癌(NSCLC)致死率极高。最近医学研究发现,肿瘤突变负荷(TMB)对于癌症的免疫治疗和化疗的疗效具有较好的预测作用,但传统使用基因测序计算TMB的方法存在检测成本高、周期长、样本依赖度高等缺点。针对上述问题,本研究提出一种混合卷积神经网络和自注意力机制的深度学习模型(FCA-Former)用于预测TMB。该模型以CoAtNet为骨干网络,通过在网络中结合坐标注意力以及融合深度可分离卷积的方式,提高模型的运算速度以及对病理组织切片图像的全局特征提取能力。实验数据采用TCGA数据库中肺腺癌数字病理切片图像数据集,其中高TMB水平的样本271张,低TMB水平的样本66张。实验结果表明,所提方法达到的最高平均曲线下面积(AUC)为98.1%,比现有最好方法RcaNetr提高9.8%。此项研究结果对于NSCLC的预后治疗效果具有较强的指导意义。

多重注意力指导下的异构图嵌入方法

现有的异构图嵌入学习方法存在两个方面的问题,一是没有考虑不同节点属性间的深层联系,二是通过注意力机制聚合邻居节点来生成目标节点的向量表示,忽略了目标节点的特征在向量表示中起的作用。为解决上述问题,本文提出了一种多重注意力指导下的异构图神经网络,从点-线-网3个角度学习异构节点嵌入向量。使用双向长短期记忆模型(bidirectional long short-term memory networks,Bi-LSTM)挖掘不同节点的属性间的深层关联关系并将其映射到同一向量空间,利用级联网络对单条元路径实例上的邻居节点和目标节点的特征信息进行融合,从而增强嵌入向量对目标节点信息的表达能力,提出一种多重注意力机制来聚合多条元路径实例上的节点信息,生成最终的节点嵌入向量表示。在3个大型异构图上的实验结果表明,本文提出的模型在异构图嵌入的效果方面优于现有基线模型,并且对于增强节点属性信息上的表达展现出了良好的性能。

考虑众包工人时空行为偏好的top-k任务推荐模型

如何为面对繁多任务的工人推选出与之偏好密切相关的任务是当前时空众包领域的研究热点,针对已有任务推荐方法大多只关注工人与任务的静态信息匹配,却忽略了工人选择偏好的动态变化,本文提出了考虑众包工人时空行为偏好的top-k任务推荐模型.首先采用时空转移矩阵聚合工人与任务的历史映射信息,然后通过空间注意力机制来增强序列信息的表征能力,再将其纳入到时空循环网络中挖掘工人局部和全局性的移动偏好,进而预测工人的意图动向.最后构建worker-tasks亲和力相关度分数并形成概率个性化任务推荐池,评估工人与他们即将到达区域内任务之间的关联关系,帮助工人快速选择和定位所需任务.实验结果表明,本文所提方法相较于对比模型具有更好的任务推荐效果.

卷积神经网络的top-k相似节点搜索方法

针对复杂网络环境下搜索与目标节点文本和结构均相似的top-k节点问题,本文提出了一种基于卷积神经网络的top-k相似节点搜索算法LRE-CNN.对于一个无向带权复杂网络,首先为网络中每个节点构造基于度和权重的最近邻网络模型,利用最近邻网络相对加权熵计算度和权重对节点结构的影响.然后,通过KL散度比较节点对的差异生成节点结构相似度,从而筛选出目标节点的候选相似节点.最后,利用卷积神经网络(CNN)抽取目标节点和候选相似节点的文本特征间的潜在关系,从而预测出与目标节点文本结构均相似的top-k节点.通过在不同规模的复杂网络上进行实验,并与现有主流相似节点搜索方法进行对比,实验结果表明所提方法具有较高的检索准确率,同时具有较高的执行效率,能够有效适用于大规模复杂网络环境下的相似节点top-k搜索.

使用动态时空神经网络的市区交通流量预测

准确的市区交通流量预测对交通管理、城市规划和公共安全等领域具有重要意义.现有城区交通流量预测方法主要采用CNN等深度学习模型,但存在以下问题:一方面由于捕获全局空间依赖需要堆砌很多层增加网络的接受域,导致学习全局空间依赖关系的效率低下,另一方面忽略了城市区域交通流量的动态性.针对上述问题,本文提出了一种基于注意力的动态时空神经网络市区交通流量预测模型(Spatio-Temporal 3D Convolution Global Depth Residual Network, ST-3DGN).首先,该模型使用多层三维卷积捕捉城市区域交通流动性;然后,采用改进的残差结构结合空间注意力机制对远距离区域间流的空间依赖性进行建模;最后,使用了一种早期融合机制稳定了训练过程,从而进一步提高了模型ST-3DGN的性能.在两个真实公开的数据集上进行了大量实验,实验结果表明本文提出的ST-3DGN模型在预测准确性方面明显优于现有的主流交通预测模型.

RcaNet:一种预测肿瘤突变负荷的深度学习模型

近年来,肺癌的发病率和死亡率不断攀升,已成为对人类生命健康威胁最大的恶性肿瘤之一,而非小细胞肺癌(NSCLC)发病率占肺癌总发病率的80%以上。由于其复杂的诊断过程和昂贵的诊断成本,NSCLC的有效诊断和治疗已成为医生面临的巨大挑战。医学相关研究发现,肿瘤突变负荷(TMB)与NSCLC免疫治疗的疗效呈正相关,同时TMB值对靶向治疗和化疗的疗效具有一定的预测作用。基于上述发现,本研究提出一种深度学习模型(RcaNet),该模型以残差网络(ResNet)为骨干网络,在网络内增加多维度特征注意和多尺度信息融合,以增强网络对肺癌病理组织切片深层特征的关注与提取能力。通过将RcaNet与主流深度学习模型在TCGA公开数据集上进行实验,实验训练样本数为925954张。结果表明,RcaNet模型的性能平均曲线下面积(AUC)值为0.8830,比现有结果最好的CAIM模型高出6.8%,比ResNeSt模型高出4.2%,比ResNet模型高出5.3%。研究结果对非小细胞肺癌诊断治疗有较强的指导意义,具有较高的应用价值。

基于Tomek链的边界少数类样本合成过采样方法

在类别不平衡数据集中,由于靠近类边界的样本更容易被错分,因此准确识别边界样本对分类具有重要意义。现有方法通常采用K近邻来标识边界样本,准确率有待提高。针对上述问题,提出一种基于Tomek链的边界少数类样本合成过采样方法。首先,计算得到类间距离互为最近的样本形成Tomek链;然后,根据Tomek链标识出位于类间边界处的少数类样本;接下来,利用合成少数类过采样技术(SMOTE)中的线性插值机制在边界样本及其少数类近邻间进行过采样,并最终实现数据集的平衡。实验对比了八种采样方法,结果表明所提方法在大部分数据集上均获得了更高的G-mean和F_(1)值。

融合图卷积注意力机制的协同过滤推荐方法

图卷积神经网络(graph convolutional neural network,GCN)因其强大的建模能力引起了广泛关注,在商品推荐中,现有的图卷积协同过滤技术忽略了邻居节点在传播聚合过程中的重要性,使得用户和商品的嵌入向量表达不够合理。为了解决这一问题,本文提出一种融合图卷积注意力机制的协同过滤推荐模型。首先通过图嵌入技术将用户-项目的交互信息映射到低维稠密的向量空间;其次通过堆叠多层的图卷积网络学习用户与项目间的高阶交互信息;同时融合注意力机制为邻居节点自适应地分配权重,不仅可以捕获更具代表性的邻居影响,还使得在聚合邻居节点的特征信息时,仅依赖于节点之间的特征表达,使其独立于图结构,提高了模型的泛化能力;最后设计了分层聚合函数,将图卷积层学习到的多个嵌入向量加权聚合,使用内积函数得到用户-项目之间的关联分数。在3个真实数据上进行的泛化实验,实验结果验证了该方法的有效性。

基于知识图残差注意力网络的推荐方法

随着互联网的高速发展,推荐系统已成为缓解信息过载的重要手段之一。当前的推荐方法主要采用深度学习模型挖掘用户对项目的兴趣度,但是目前使用图神经网络的推荐方法无法有效表征用户和项目之间的交互行为,并且网络层数的增加会产生梯度消失问题。因此,文中提出了一种新的模型,基于正交变换和图上下文的知识图嵌入方式并融合残差网络和注意力机制的模型。首先,通过嵌入节点的邻居属性来表征用户与项目的交互行为,然后通过图神经网络和残差网络分析用户项目交互行为,最后利用注意力机制区分不同的邻域,提高推荐的准确性。通过在Alibaba-fashion和Last-FM两个真实数据集上进行实验,结果表明所提方法能够显著提升推荐效果。

融合对抗训练的中文GPT对话模型研究

在已清洗的中文会话数据集中进行预训练时存在对话模型泛化能力降低、微调后评价指标偏低的问题,为此采用对抗训练的方法,提出一种融合对抗训练的中文GPT对话模型。在微调过程中使用投影梯度下降法进行训练,使用Focal损失函数加快训练速度。实验结果表明,融合对抗训练后,在有噪声的数据集微调和测试中,该模型与基线模型相比具有较强的抗干扰和泛化能力。

基于语义相似度的数据库自适应查询松弛方法

为了解决数据库空查询结果问题,提出了一种基于语义相似度的数据库自适应查询松弛方法.首先,基于初始查询条件和数据分布推测用户对查询指定属性的重视程度,据此提出了一种属性权重评估方法;然后,通过考察属性值的特征信息,分别提出了分类型属性值之间和数值型属性值之间的语义相似度评估方法;在此基础上,根据松弛阈值、属性权重和属性值之间的语义相似度,提出了一种自适应查询松弛重写算法.对于满足松弛查询的近似查询结果,按照它们对初始查询的满足度进行排序.实验结果表明,提出的属性权重和属性值之间的语义相似度评估方法性能稳定,评估结果合理,提出的查询松弛方法具有较高的查全率,能够较好地满足当前用户的需求和偏好.

基于地理-社会关系的多样性与个性化兴趣点推荐

当前的兴趣点推荐方法主要侧重于拟合用户-兴趣点评分矩阵来获取用户偏好,进而为用户推荐其满意度高的兴趣点集合.然而,该类方法得到的推荐结果之间通常比较相似,不具有多样性,实际上为用户推荐与其偏好相关但彼此之间又有一定差异性的兴趣点更有实际意义.针对上述问题,本文提出一种综合考虑兴趣点之间地理关系和社会关系的多样性与个性化推荐方法.首先,将兴趣点之间的地理关系与社会关系相融合,构建了兴趣点的地理-社会关系模型,以此评估兴趣点之间的相关度.然后,在兴趣点相关度矩阵基础上,提出了基于谱聚类的兴趣点多样性划分方法,从而得到若干个具有差异性的兴趣点集合.最后,提出了基于概率因子模型的兴趣点选取与个性化排序方法,从各聚类中选出满足用户偏好的兴趣点构成推荐列表.实验结果表明,本文方法不仅使兴趣点推荐列表具有多样性,同时也具有更高的推荐准确性,从而实现了兴趣点多样性与个性化推荐的有机融合.