LKPNR: Large Language Models and Knowledge Graph for Personalized News Recommendation Framework

Accurately recommending candidate news to users is a basic challenge of personalized news recommendation systems.Traditional methods are usually difficult to learn and acquire complex semantic information in news texts,resulting in unsatisfactory recommendation results.Besides,these traditional methods are more friendly to active users with rich historical behaviors.However,they can not effectively solve the long tail problem of inactive users.To address these issues,this research presents a novel general framework that combines Large Language Models(LLM)and Knowledge Graphs(KG)into traditional methods.To learn the contextual information of news text,we use LLMs’powerful text understanding ability to generate news representations with rich semantic information,and then,the generated news representations are used to enhance the news encoding in traditional methods.In addition,multi-hops relationship of news entities is mined and the structural information of news is encoded using KG,thus alleviating the challenge of long-tail distribution.Experimental results demonstrate that compared with various traditional models,on evaluation indicators such as AUC,MRR,nDCG@5 and nDCG@10,the framework significantly improves the recommendation performance.The successful integration of LLM and KG in our framework has established a feasible way for achieving more accurate personalized news recommendation.Our code is available at https://github.com/Xuan-ZW/LKPNR.

Calculating real-time surface deformation for large active surface radio antennas using a graph neural network

This paper presents an innovative surrogate modeling method using a graph neural network to compensate for gravitational and thermal deformation in large radio telescopes.Traditionally,rapid compensation is feasible for gravitational deformation but not for temperature-induced deformation.The introduction of this method facilitates real-time calculation of deformation caused both by gravity and temperature.Constructing the surrogate model involves two key steps.First,the gravitational and thermal loads are encoded,which facilitates more efficient learning for the neural network.This is followed by employing a graph neural network as an end-to-end model.This model effectively maps external loads to deformation while preserving the spatial correlations between nodes.Simulation results affirm that the proposed method can successfully estimate the surface deformation of the main reflector in real-time and can deliver results that are practically indistinguishable from those obtained using finite element analysis.We also compare the proposed surrogate model method with the out-of-focus holography method and yield similar results.

Constructing Large Scale Cohort for Clinical Study on Heart Failure with Electronic Health Record in Regional Healthcare Platform:Challenges and Strategies in Data Reuse

Regional healthcare platforms collect clinical data from hospitals in specific areas for the purpose of healthcare management.It is a common requirement to reuse the data for clinical research.However,we have to face challenges like the inconsistence of terminology in electronic health records (EHR) and the complexities in data quality and data formats in regional healthcare platform.In this paper,we propose methodology and process on constructing large scale cohorts which forms the basis of causality and comparative effectiveness relationship in epidemiology.We firstly constructed a Chinese terminology knowledge graph to deal with the diversity of vocabularies on regional platform.Secondly,we built special disease case repositories (i.e.,heart failure repository) that utilize the graph to search the related patients and to normalize the data.Based on the requirements of the clinical research which aimed to explore the effectiveness of taking statin on 180-days readmission in patients with heart failure,we built a large-scale retrospective cohort with 29647 cases of heart failure patients from the heart failure repository.After the propensity score matching,the study group (n=6346) and the control group (n=6346) with parallel clinical characteristics were acquired.Logistic regression analysis showed that taking statins had a negative correlation with 180-days readmission in heart failure patients.This paper presents the workflow and application example of big data mining based on regional EHR data.

Spanning tree-based algorithm for hydraulic simulation of large-scale water supply networks

With the purpose of making calculation more efficient in practical hydraulic simulations, an improved algorithm was proposed and was applied in the practical water distribution field. This methodology was developed by expanding the traditional loop-equation theory through utilization of the advantages of the graph theory in efficiency. The utilization of the spanning tree technique from graph theory makes the proposed algorithm efficient in calculation and simple to use for computer coding. The algorithms for topological generation and practical implementations are presented in detail in this paper. Through the application to a practical urban system, the consumption of the CPU time and computation memory were decreased while the accuracy was greatly enhanced compared with the present existing methods.

Modified Shifting Bottleneck Heuristic for Scheduling Problems of Large-Scale Job Shops

A modified shifting bottleneck algorithm was proposed to solve scheduling problems of a large-scale job shop.Firstly,a new structured algorithm was employed for sub-problems so as to reduce the computational burden and suit for large-scale instances more effectively.The modified cycle avoidance method,incorporating with the disjunctive graph model and topological sort algorithm,was applied to guaranteeing the feasibility of solutions with considering delayed precedence constraints.Finally,simulation experiments were carried out to verify the feasibility and effectiveness of the modified method.The results demonstrate that the proposed algorithm can solve the large-scale job shop scheduling problems(JSSPs) within a reasonable period of time and obtaining satisfactory solutions simultaneously.

融合知识图谱和大模型的高校科研管理问答系统设计

科研管理是高校管理中的重要组成部分,但现有的科研管理系统难以满足用户的个性化需求。以高校科研管理向智能化转型为需求导向,将知识图谱、传统模型和大语言模型相结合,共同构建新一代高校科研管理问答系统。采集科研知识用于构建科研知识图谱。利用同时进行意图分类和实体提取的多任务模型进行语义解析。借助解析结果来生成查询语句,并从知识图谱中检索信息来回复常规问题。将大语言模型与知识图谱相结合,以辅助处理开放性问题。在意图和实体具有关联的数据集上的实验结果表明,采用的多任务模型在意图分类和实体识别任务上的F1值分别为0.958和0.937,优于其他对比模型和单任务模型。Cypher生成测试表明了自定义Prompt在激发大语言模型涌现能力方面的成效,利用大语言模型实现文本生成Cypher的准确率达到85.8%,有效处理了基于知识图谱的开放性问题。采用知识图谱、传统模型和大语言模型搭建的问答系统的准确性为0.935,很好地满足了智能问答的需求。

基于预训练语言模型的知识图谱研究综述

大语言模型时代,知识图谱作为一种结构化的知识表示方式,在提升人工智能的可靠性、安全性和可解释性方面发挥着不可替代的作用,具有重要的研究价值和实际应用前景。近年来,凭借在语义理解和上下文学习方面的优越性能,预训练语言模型已经成为了知识图谱研究的主要手段。系统梳理了基于预训练语言模型的知识图谱研究的相关工作,包括知识图谱构建、表示学习、推理、问答等,介绍了相关模型和方法的核心思路,并依据技术路径建立了分类体系,对不同类型方法的优缺点进行了对比分析。此外,对预训练语言模型在事件知识图谱和多模态知识图谱这两种新型知识图谱中的应用现状进行了综述。最后,总结了当前基于预训练语言模型的知识图谱研究面临的挑战,展望了未来的研究方向。

大语言模型驱动的多元关系知识图谱补全方法

知识图谱通过将复杂的互联网信息转化为易于理解的结构化形式,极大地提高了信息的可访问性。知识图谱补全技术进一步增强了知识图谱的信息完整性,显著提升了智能问答和推荐系统等通用领域应用的性能与用户体验。然而,现有的知识图谱补全方法大多专注于关系类型较少和简单语义情景下的三元组实例,未能充分利用知识图谱在处理多元关系和复杂语义方面的潜力。针对此问题,提出了一种由大语言模型(LLM)驱动的多元关系知识图谱补全方法。将LLM的深层语言理解能力与知识图谱的结构特性相结合,有效捕捉多元关系,理解复杂语义情景。此外,还引入了一种基于思维链的提示工程策略,旨在提高补全任务的准确性。该方法在两个公开知识图谱数据集上的实验结果都取得了显著的提升。

面向区块链漏洞知识库的大模型增强知识图谱问答模型

大语言模型(LLM)在专业领域特别是区块链漏洞领域应用时存在局限性,如专业术语噪声干扰和细粒度信息过重导致理解不足。为此,构建一种面向区块链漏洞知识库的增强型知识图谱问答模型(LMBK_KG)。通过整合大模型和知识图谱来增强知识表示和理解能力,同时利用多粒度语义信息进行专业问题的过滤和精准匹配。研究方法包括使用集成的多粒度语义信息和知识图谱来过滤专业术语噪声,以及采用大模型生成的回答与专业知识图谱进行结构化匹配和验证,以提高模型的鲁棒性和安全性。实验结果表明,所提出的模型在区块链漏洞领域问答的准确率比单独使用大模型提高26%。

图模驱动的在线医疗健康智慧问答服务研究

[目的/意义]学者们重视追求医疗智慧问答相关技术本身的前沿性,对基础理论的探讨研究较少,两者未能融合发展。[方法/过程]在辨析相关概念的基础上,首先阐述在线医疗健康领域智慧问答服务的内涵及特征,之后剖析知识图谱与大语言模型的联系及两者的互补融合思路,最后提出图模驱动的在线医疗健康智慧问答服务。[结果/结论]文章将医疗智慧问答服务理论特征贯穿智慧问答服务的全过程,创新性地提出其智慧问答服务应包含大语言模型驱动的医疗知识图谱构建、知识图谱增强的医疗大模型训练、图模驱动的智慧问答服务流程三部分。本研究实现了理论与技术的有机结合,研究成果可用于后续医疗智慧问答的实践性工作。

一种基于知识图谱的检索增强生成情报问答技术

为实现军事情报问答,提出了一种基于知识图谱的检索增强生成框架。该框架通过问题分类、实体识别、实体链接、知识检索有效地获取了背景知识。同时考虑到情报问题多约束的特点,使用回答集编程在知识上通过约束限制减少知识数量或者直接获得答案。最后,使用大语言模型在精炼后的知识上对问题进行求解,以减少问题理解过程中的属性识别与链接。在MilRE数据集上的实验表明,所提框架能够提供基于知识图谱的增强知识检索功能,并具有较好的军事情报问题解答能力。

大模型时代下的汉语自然语言处理研究与探索

自然语言处理是实现人机交互的关键步骤,而汉语自然语言处理(Chinese natural language processing,CNLP)是其中的重要组成部分。随着大模型技术的发展,CNLP进入了一个新的阶段,这些汉语大模型具备更强的泛化能力和更快的任务适应性。然而,相较于英语大模型,汉语大模型在逻辑推理和文本理解能力方面仍存在不足。介绍了图神经网络在特定CNLP任务中的优势,进行了量子机器学习在CNLP发展潜力的调查。总结了大模型的基本原理和技术架构,详细整理了大模型评测任务的典型数据集和模型评价指标,评估比较了当前主流的大模型在CNLP任务中的效果。分析了当前CNLP存在的挑战,并对CNLP任务的未来研究方向进行了展望,希望能帮助解决当前CNLP存在的挑战,同时为新方法的提出提供了一定的参考。

基于回环边残差聚焦权重模型的位姿图优化算法

基于图优化的同时定位与建图(SLAM)系统中含有大噪声的回环边,可能严重阻碍优化器迅速收敛到最优解,显著降低定位精确性和地图一致性。因此,针对大噪声回环边的优化算法的鲁棒性至关重要。引入K-means聚类思想,对回环边残差值进行分类,进而建立了一种新的残差阈值模型,自适应调整回环边在优化时的权重,减少回环边对优化的影响;然后,基于迭代重加权最小二乘的思想形成了RW-RLSPGO算法(residual weighted enhancement for recursive least squares pose graph optimization algorithm,RWRLSPGO);最后,在模拟和真实的PGO数据集上进行蒙特卡罗实验。实验结果表明,RW-RLSPGO算法在准确性和鲁棒性方面都取得了显著的提高,验证了其在大噪声环境下的有效性。

多模态课程知识图谱与大模型协同的智慧教育实践

随着智慧教育的推进,在线学习平台面临知识展示形式单一、在线答疑功能不完善、学习个性化需求无法满足等问题。为解决这些问题,首先,借助大模型和半自动化方法,构建了包含视频、图片、习题等内容的多模态课程知识图谱,实现了网状知识点关联的直观呈现。其次,基于多模态知识图谱和大语言模型,开发了2种知识问答服务,能够有效满足用户在在线学习中的实时问答需求。此外,采用认知诊断模型分析用户的答题情况,并根据分析结果有针对性地推荐薄弱知识点相关的习题和学习资源,从而更好地满足个性化学习需求。上述方法为智慧教育驱动的育人模式提供了新的途径,为用户提供了个性化、多样化和终身化的学习体验。

ChattyGraph:面向异构多协处理器的高可扩展图计算系统

现阶段,随着数据规模扩大化和结构多样化的趋势日益凸现,如何利用现代链路内链的异构多协处理器为大规模数据处理提供实时、可靠的并行运行时环境,已经成为高性能以及数据库领域的研究热点.利用多协处理器(GPU)设备的现代服务器(multi-GPU server)硬件架构环境,已经成为分析大规模、非规则性图数据的首选高性能平台.现有研究工作基于Multi-GPU服务器架构设计的图计算系统和算法(如广度优先遍历和最短路径算法),整体性能已显著优于多核CPU计算环境.然而,这类图计算系统中,多GPU协处理器间的图分块数据传输性能受限于PCI-E总线带宽和局部延迟,导致通过增加GPU设备数量无法达到整体系统性能的类线性增长趋势,甚至会出现严重的时延抖动,进而已无法满足大规模图并行计算系统的高可扩展性要求.经过一系列基准实验验证发现,现有系统存在如下两类缺陷:(1)现代GPU设备间数据通路的硬件架构发展日益更新(如NVLink-V1,NVLink-V2),其链路带宽和延迟得到大幅改进,然而现有系统受限于PCI-E总线进行数据分块通信,无法充分利用现代GPU链路资源(包括链路拓扑、连通性和路由);(2)在应对不规则图数据集时,这类系统常采用过于单一的设备间数据组织和移动策略,带来大量不必要GPU设备间经PCI-E总线的数据同步开销,导致本地性计算同步等待时延开销过大.因此,充分地利用各类现代Multi-GPU服务器通信链路架构来设计可扩展性强的图数据高性能计算系统亟待解决.为了达到Multi-GPU下图计算系统的高可扩展性,提出一种基于混合感知的细粒度通信来增强Multi-GPU图计算系统的可伸缩性,即采用架构链路预感知技术对图结构化数据采用模块化数据链路和通信策略,为大规模图数据(结构型数据、应用型数据)最优化选择数据交换方法.综合上述优化策略,提出并设计了一种面向Multi-GPU图并行计算系统ChattyGraph.通过对GPU图数据缓冲区优化,基于OPENMP与NCCL优化多核GPU协同计算,ChattyGraph能在Multi-GPU HPC平台上自适应、高效地支持各类图并行计算应用和算法.在8-GPU NVIDIA DGX服务器上,对各种真实世界图数据的若干实验评估表明:ChattyGraph显著实现了图计算效率和可扩展性的提升,并优于其他最先进的竞争对手性能,计算效率平均提升了1.2×-1.5×,加速比平均提升了2×-3×,包括WS-VR和Groute.

大语言模型在学科知识图谱自动化构建上的应用

人工智能技术的飞速发展推动了教育领域的智能化,涌现出一些利用知识图谱技术进行学科知识体系构建的研究。利用知识图谱构建的知识体系,可以建模知识点之间的关联性,形成课程知识脉络,有助于学习者对知识点的记忆与深层次理解。然而,学科课程的教学资源多样且分散,现有的自动构建方法往往使用单一的数据资源,资源利用率低,难以对专业知识体系的构建提供有效指导。构建方法自动化程度较低,构建成本大,需要开发不同的模块对非结构化文本进行处理并生成图谱,可复现性和可移植性较差。因此,提出了一种基于大语言模型的学科知识图谱构建优化流程,高度融合大语言模型的优势和各学科知识的逻辑关联。具体以通信专业为例,借用ChatGPT大语言模型的强大功能,使用多种知识来源,通过学科知识分析设计知识系统本体,自动化提取基于教学资源的知识实体和知识关系形成最终的学科知识体系,可方便地推广至其他学科领域。

基于大语言模型的水工程调度知识图谱的构建与应用

随着水利事业的发展和信息化需求的增加,处理和表示海量水利数据变得复杂而繁琐。特别是调度文本数据通常以自然语言的形式存在,缺乏明确的结构和规范,并且处理和应用这些多样性的数据需要具备广泛的领域知识和专业背景。为此,提出了基于大语言模型的水工程调度知识图谱的构建方法。通过数据层的调度规则数据收集与预处理,再利用大语言模型挖掘和抽取数据中蕴藏的知识,完成概念层本体构建和实例层“三步法”提示策略抽取。在数据层、概念层、实例层的相互作用下,实现了规则文本的高性能抽取,完成了数据集和知识图谱的构建。实验结果表明,大语言模型抽取方法F1值达到85.5%,且通过消融实验验证了模型各模块的有效性和合理性。构建的水工程调度知识图谱整合了分散的水利规则信息,有效处理非结构化文本数据,并提供可视化查询和功能追溯功能。这有助于领域从业人员判断来水情况并选择适当的调度方案,为水利决策和智能推荐等提供了重要支持。

大语言模型赋能场景生成和双层优化的多农业园区供电-灌溉-蓄水耦合运行

传统农灌负荷的使用具有集中性和无序性,显著加剧电力系统的供需不平衡与运行成本。为提升农业园区运行的经济性和光伏资源的消纳能力,通过刻画农灌负荷特性,结合作物生长用能需求,提出一种基于大语言模型(largelanguagemodel,LLM)场景生成和双层优化的多农业园区优化调度模型。该模型利用LLM时序分析能力进行光伏短期发电功率预测,然后通过LLM知识推理能力构建农业用水知识图谱,知识图谱中丰富的语义关系辅助LLM推理和预测,生成更符合实际情况的农业供电-灌溉-蓄水场景。双层优化调度模型在生成场景基础上,以园区经济运行为优化目标,对多农业园区供电-灌溉-蓄水进行耦合优化调度。最后,通过仿真验证,本文所提出的方法显著提升了农业园区电力系统运行稳定性,并有效降低了系统运行成本。

国家考古遗址公园研究文献可视化分析

梳理分析国家考古遗址公园研究文献是践行“保护第一、加强管理、挖掘价值、有效利用、让文物活起来”的新时代文物工作的重要思路。运用文献分析软件Cite Space对中国知网(CNKI)数据库1985—2023年国家考古遗址公园研究的477篇文献进行计量统计研究。研究发现:学者在理论拓展、政策解读、方法实践、路径探讨并辅以案例分析等方面有较丰富的研究成果,这些成果聚焦遗址保护、阐释与展示、国家公园、文旅融合等专题。但在理论和实证方面体现活化利用、社区参与、公众共享、数字化、可持续发展等方面的研究成果略显薄弱,在学科交叉、研究方法、技术手段等方面还需加强。未来需从突出国家属性、促进全民共享等视角提升理论与实践的科学研究水平,加强研究机构之间的合作交流。本研究为整体把握国家考古遗址公园的目标定位与发展态势,推动可持续发展提供建议。

面向技艺传承的传统建筑古籍的知识组织——以《营造法式》大木作制度为例

传统建筑古籍是古代建造技术的重要载体,对其技艺与经验进行语义关联和组织对古建筑建造技术的传承与利用具有重要意义。文章以经典建筑古籍《营造法式》卷四、卷五所述“大木作制度”工种的文字信息为原始语料,以大木作营造技艺为对象,在《古建筑类文物元数据规范》的基础上,进行“宋式大木作营造技艺”本体的构建、复用与实例扩展,利用知识图谱对本体进行存储展示;应用知识图谱绘制构件组合“铺作”的3D模型,设计原型系统展示图谱数据,验证所建本体的应用价值。