随着信息技术的快速发展,用户对高效获取精准信息的需求日益增长。此外,为了支持国产操作系统软件生态,文章基于Deepin操作系统,集成RocketQA和ChatGLM模型,设计并实现了一个智能文档问答系统。系统首先使用RocketQA模型将问题向量化,利...随着信息技术的快速发展,用户对高效获取精准信息的需求日益增长。此外,为了支持国产操作系统软件生态,文章基于Deepin操作系统,集成RocketQA和ChatGLM模型,设计并实现了一个智能文档问答系统。系统首先使用RocketQA模型将问题向量化,利用Faiss进行检索和排序,然后由RocketQA模型二次搜索和排序,对结果进行增强,检索到的文档通过ChatGLM模型转化为自然语言答案,以“参考链接 + 答案”的格式呈现给用户。最后,在deepin wiki数据集上进行了广泛的测试,结果表明系统在问答准确性和响应速度方面均表现优异。With the rapid development of information technology, users’ demand for efficiently obtaining accurate information is growing. In addition, to support the ecosystem of domestic operating system software, this paper designs and implements an intelligent document question-answering system based on the Deepin operating system, integrating the RocketQA and ChatGLM models. The system first uses the RocketQA model to vectorize the question, utilizes Faiss for retrieval and sorting, then uses the RocketQA model for a second search and sorting to enhance the results. The retrieved documents are converted into natural language answers by the ChatGLM model and presented to the user in the format of “reference link + answer”. Finally, extensive testing was conducted on the deepin wiki dataset, and the results show that the system performs excellently in both question-answering accuracy and response speed.展开更多
大型语言模型(Large Language Models,LLM)已经成为现今主流的研究热点,而垂直领域行业大模型则成为落地应用的关键点,以医疗为代表的大型语言模型有着可解释性、可靠性、高安全性等要求。针对这类问题,提出MedKGGPT模型,一个基于ChatGL...大型语言模型(Large Language Models,LLM)已经成为现今主流的研究热点,而垂直领域行业大模型则成为落地应用的关键点,以医疗为代表的大型语言模型有着可解释性、可靠性、高安全性等要求。针对这类问题,提出MedKGGPT模型,一个基于ChatGLM的模型,并提出一种面向医疗领域的知识图谱(Knowledge Graphs,KGs)和LLM相结合的框架。框架主要包含两个部分:首先,通过KG三元组中的实体和关系,提出了一种基于KG结构数据的提示工程方法,使得LLM更加具有医学领域的专用知识,提高LLM的可解释性;其次,提出一种利用KG来对齐LLM的方法,将LLM的输出与KG的相关知识进行比较,验证LLM输出结果的一致性和准确性,从而增强了LLM在医疗领域的安全性。实验结果表明,最终生成的MedKGGPT模型能够输出更加具有安全性的结果,说明KG能够有效增强LLM的可解释性,为LLM应用在医疗领域提供了帮助。展开更多
文摘随着信息技术的快速发展,用户对高效获取精准信息的需求日益增长。此外,为了支持国产操作系统软件生态,文章基于Deepin操作系统,集成RocketQA和ChatGLM模型,设计并实现了一个智能文档问答系统。系统首先使用RocketQA模型将问题向量化,利用Faiss进行检索和排序,然后由RocketQA模型二次搜索和排序,对结果进行增强,检索到的文档通过ChatGLM模型转化为自然语言答案,以“参考链接 + 答案”的格式呈现给用户。最后,在deepin wiki数据集上进行了广泛的测试,结果表明系统在问答准确性和响应速度方面均表现优异。With the rapid development of information technology, users’ demand for efficiently obtaining accurate information is growing. In addition, to support the ecosystem of domestic operating system software, this paper designs and implements an intelligent document question-answering system based on the Deepin operating system, integrating the RocketQA and ChatGLM models. The system first uses the RocketQA model to vectorize the question, utilizes Faiss for retrieval and sorting, then uses the RocketQA model for a second search and sorting to enhance the results. The retrieved documents are converted into natural language answers by the ChatGLM model and presented to the user in the format of “reference link + answer”. Finally, extensive testing was conducted on the deepin wiki dataset, and the results show that the system performs excellently in both question-answering accuracy and response speed.
文摘大型语言模型(Large Language Models,LLM)已经成为现今主流的研究热点,而垂直领域行业大模型则成为落地应用的关键点,以医疗为代表的大型语言模型有着可解释性、可靠性、高安全性等要求。针对这类问题,提出MedKGGPT模型,一个基于ChatGLM的模型,并提出一种面向医疗领域的知识图谱(Knowledge Graphs,KGs)和LLM相结合的框架。框架主要包含两个部分:首先,通过KG三元组中的实体和关系,提出了一种基于KG结构数据的提示工程方法,使得LLM更加具有医学领域的专用知识,提高LLM的可解释性;其次,提出一种利用KG来对齐LLM的方法,将LLM的输出与KG的相关知识进行比较,验证LLM输出结果的一致性和准确性,从而增强了LLM在医疗领域的安全性。实验结果表明,最终生成的MedKGGPT模型能够输出更加具有安全性的结果,说明KG能够有效增强LLM的可解释性,为LLM应用在医疗领域提供了帮助。
