基于BERT-BiLSTM-CRF模型的畜禽疫病文本分词研究

针对畜禽疫病文本语料匮乏、文本内包含大量疫病名称及短语等未登录词问题,提出了一种结合词典匹配的BERT-BiLSTM-CRF畜禽疫病文本分词模型。以羊疫病为研究对象,构建了常见疫病文本数据集,将其与通用语料PKU结合,利用BERT(Bidirectional encoder representation from transformers)预训练语言模型进行文本向量化表示;通过双向长短时记忆网络(Bidirectional long short-term memory network,BiLSTM)获取上下文语义特征;由条件随机场(Conditional random field,CRF)输出全局最优标签序列。基于此,在CRF层后加入畜禽疫病领域词典进行分词匹配修正,减少在分词过程中出现的疫病名称及短语等造成的歧义切分,进一步提高了分词准确率。实验结果表明,结合词典匹配的BERT-BiLSTM-CRF模型在羊常见疫病文本数据集上的F1值为96.38%,与jieba分词器、BiLSTM-Softmax模型、BiLSTM-CRF模型、未结合词典匹配的本文模型相比,分别提升11.01、10.62、8.3、0.72个百分点,验证了方法的有效性。与单一语料相比,通用语料PKU和羊常见疫病文本数据集结合的混合语料,能够同时对畜禽疫病专业术语及疫病文本中常用词进行准确切分,在通用语料及疫病文本数据集上F1值都达到95%以上,具有较好的模型泛化能力。该方法可用于畜禽疫病文本分词。

基于改进BiLSTM-CRF模型的网络安全知识图谱构建

针对网络安全领域的图谱构建任务,基于BiLSTM-CRF模型引入了外部网络安全词典来加强网络安全文本的特征,并结合多头注意力机制提取多层特征,最终在网络安全数据集取得了更优异的结果。利用企业内部的日常网络运维数据,设计并构建了一个面向企业网络安全运维管理的知识图谱,为后续进一步研究基于图谱的企业网络安全智能决策等应用奠定基础。

基于BERT-BiLSTM-CRF模型的油气领域命名实体识别

针对油气领域知识图谱构建过程中命名实体识别使用传统方法存在实体特征信息提取不准确、识别效率低的问题,提出了一种基于BERT-BiLSTM-CRF模型的命名实体识别研究方法。该方法首先利用BERT(bidirectional encoder representations from transformers)预训练模型得到输入序列语义的词向量;然后将训练后的词向量输入双向长短期记忆网络(bi-directional long short-term memory,BiLSTM)模型进一步获取上下文特征;最后根据条件随机场(conditional random fields,CRF)的标注规则和序列解码能力输出最大概率序列标注结果,构建油气领域命名实体识别模型框架。将BERT-BiLSTM-CRF模型与其他2种命名实体识别模型(BiLSTM-CRF、BiLSTM-Attention-CRF)在包括3万多条文本语料数据、4类实体的自建数据集上进行了对比实验。实验结果表明,BERT-BiLSTM-CRF模型的准确率(P)、召回率(R)和F_(1)值分别达到91.3%、94.5%和92.9%,实体识别效果优于其他2种模型。

基于BiLSTM-CRF模型的房屋出租App系统的设计与实现

针对文本实体信息抽取优化问题,本文以租赁行业为研究对象,首先,使用爬虫技术对客户发布的信息进行爬取,采用BiLSTM-CRF算法对信息进行实体提取和处理,将处理后的信息存储在数据库中,构建App数据来源的数据层,再基于数据层的数据开发App应用层。开发的App应用层模块包括用户认证模块和主页模块。BiLSTM-CRF模型比LSTM和Bi LSTM在实体边界的识别率更高,模型准确率、召回率和F1值分别可以达到96.58%,88.94%,92.60%。

基于BERT-BiLSTM-CRF模型的地理实体命名实体识别

互联网中存在大量的与地理信息相关的信息,其中文本信息是这些信息的重要组成部分。针对构建地理实体库过程中依赖人工制定规则、信息提取不充分等问题,本文通过利用爬虫技术获取百度百科文本信息并构建地理实体语料库,端到端的深度学习模型BERT-BiLSTM-CRF模型对自建的地理实体语料库进行了命名实体识别(NER),模型在传统的BiLSTM-CRF模型上加入了BERT预训练模型,使得模型可以更好地结合文本上下文及语义信息。结果表明,该模型相比于BiLSTM-CRF模型和BiLSTM模型在地理实体命名实体识别中取得了更好的结果,且对进一步构建地理实体知识图谱、知识库等具有重要意义。

基于BiLSTM-CRF模型的医学影像检查报告信息实体识别

为了将实体识别技术应用于医疗信息系统,提取医学影像检查报告的特征数据,提出了一种基于BiLSTM-CRF模型的信息实体识别方法。构建医学影像检查报告的智能识别系统,实现部位、症状等关键内容的结构化解析,通过可用性评估来分析应用效果。该识别系统已投入使用,共处理了3446份胸部放射CT报告。实验结果表明其识别精度较高,智能提示功能提高了医生的满意度。由此可见命名实体识别方法有助于挖掘医疗文本的价值,在医疗大数据领域有着广阔的应用前景。

基于RoBERTa-BiLSTM-CRF模型的铁路货运一口价议价策略命名实体识别

为提升铁路货运审计工作的效率,针对铁路货运一口价议价策略(简称:一口价策略)的文本数据,设计了基于数据增强的RoBERTa(Robustly optimized Bidirectional Encoder Representation from Transformers)BiLSTM(Bidrectional Long Short Term Memory)CRF(Conditional Random Field)模型,介绍了数据标注策略,详细阐述了模型的总体架构和样本数据增强方法。对所设计的模型进行了应用验证,验证结果表明,RoBERTaBiLSTMCRF模型对一口价策略中命名实体识别的各项性能评价指标较其他2种传统模型均有显著提高,能够更准确地识别一口价策略中的命名实体信息,辅助铁路货运审计人员的审计工作。

基于BERT-BiLSTM-CRF模型的电子目标图谱实体抽取方法

针对电子目标情报数据种类繁多、关联关系复杂,电子目标图谱存在实体抽取混乱、语义容易发生歧义等问题,将BiLSTM-CRF模型和BERT模型相结合,提出了一种电子目标图谱实体抽取方法.该方法将BERT模型中训练的词向量传递给BiLSTM模型中做特征;然后在CRF模型中得到全局序列排列,实现电子目标图谱的实体抽取.实验结果表明,与Word2Vec和BERT不同字嵌入相比,BERT的字嵌入平均识别率提高3.22%;与BiLSTM、CRF、BiLSTM等不同模型层次相比,BERT-BiLSTM-CRF的平均识别率比其他3种模型最好的平均值还要高2.99%,说明该方法能够进一步提高电子目标相关命名实体识别的效果.

基于ELMo-BiLSTM-CRF模型的中文地址分词

为了解决传统基于规则的方法在处理中文地址分词的过程中,存在的分词效率低、需要人工维护字典且对中文地址中有歧义的字段无法正常解析等问题,文中提出在对中文地址分词的过程中,采用ELMo预训练模型的方式和嵌套BiLSTM-CRF的方法提升整体分词效率。该模型考虑到ELMo模型生成的词向量与上下文有关,BiLSTM能够有效解决输入序列的特征提取,且CRF可以通过状态转移矩阵进行训练优化。采用自建的训练样本集对模型进行训练时,分别运用了ELMo-BiLSTM-CRF、BiLSTM-CRF以及BiLSTM,并进行对比。结果表明,ELMo-BiLSTM-CRF模型的分词效果更佳,具有更高的准确率。

基于BiLSTM-CRF模型的汉语否定信息识别

否定信息识别是将自然语言中的肯定信息与否定信息分离,它对信息检索、文本挖掘、情感分析等都有重要作用。该文主要对汉语否定信息中的触发词识别和覆盖域识别进行研究,采用双向长短期记忆网络结合条件随机场(BiLSTM-CRF)为模型,预训练的词向量为输入特征对触发词进行识别,在此基础上添加已知触发词特征对覆盖域进行识别。中文否定与不确定信息语料上,触发词识别取得F1值为91.03%,覆盖域识别在该语料的子语料财经新闻上取得F1值最高为73.91%。实验结果表明,这一模型在汉语否定触发词识别和覆盖域识别上取得的效果优于CRF模型和BiLSTM模型。

基于BiLSTM-CRF模型的食品安全事件词性自动标注研究

词性自动标注的准确率和召回率直接影响到后续食品安全事件各个层面知识和应对策略挖掘的整体效果,不仅直接影响食品安全事件中术语、实体抽取的性能,而且在一定程度上决定了与食品安全事件相关的分类、聚类和关联知识挖掘的精准度。本文分别基于CRF、RNN、BiLSTM和BiLSTM-CRF等传统机器学习模型与深度学习模型对食品安全事件文本进行词性自动标注实验。四十组实验结果表明,在未加入任何人工特征的条件下,深度学习模型的标注调和平均值高于传统的条件随机场模型,其中RNN和BiLSTM的调和平均值分别高出了2.43%和3.93%。而有机融合了BiLSTM和条件随机场模型两者最优特征的BiLSTM-CRF模型整体性能达到了最优,其中调和平均值比BiLSTM高出了7.12%,并且其中最优模型的调和平均值达到了95.89%。

采用BERT-BiLSTM-CRF模型的中文位置语义解析

针对利用当前神经网络模型进行中文位置语义解析存在多义词解析效果差、泛化能力差等问题,提出一种基于BERT-BiLSTM-CRF模型的中文位置语义解析方法。首先利用BERT预训练模型对中文位置信息进行预训练,获取所有层中的上下文信息,增强中文位置信息的语义表征能力,然后通过BiLSTM模型提取向量特征信息,最后通过CRF模型进行解码,获取全局最优标注序列。实验结果表明,在不同数量和区域的中文位置信息数据集基础上,BERT-BiLSTM-CRF模型在所有测试集上分词准确率与F1值都优于目前常用的神经网络模型,最高分别可达到93.91%和93.96%。利用BERT-BiLSTM-CRF模型对中文位置信息进行语义解析,不仅有效提高了中文位置信息解析与多义词解析的准确率,而且具有更好的泛化能力。

基于BERT-BiLSTM-CRF模型的中文实体识别

命名实体识别是自然语言处理的一项关键技术.基于深度学习的方法已被广泛应用到中文实体识别研究中.大多数深度学习模型的预处理主要注重词和字符的特征抽取,却忽略词上下文的语义信息,使其无法表征一词多义,因而实体识别性能有待进一步提高.为解决该问题,本文提出了一种基于BERT-BiLSTM-CRF模型的研究方法.首先通过BERT模型预处理生成基于上下文信息的词向量,其次将训练出来的词向量输入BiLSTM-CRF模型做进一步训练处理.实验结果表明,该模型在MSRA语料和人民日报语料库上都达到相当不错的结果,F1值分别为94.65%和95.67%.

基于深度学习BiLSTM-CRF模型的网络安全知识图谱实体识别方法

为了能够精准地对海量离散化和碎片化的网络安全数据进行分析处理,提取关键信息和关联关系,挖掘信息潜在的价值,构建网络安全知识图谱。本文将双向长短时记忆网络-条件随机场(BiLSTM-CRF)训练模型作为实体识别的方法引入网络安全知识图谱领域。使用Bridges标注的网络安全语料库进行模型训练。通过实验验证本文提出的方法能够完成实体识别任务,识别准确率也达到较高水平。有效的解决了网络安全知识图谱构建中的难题,提升了网络安全数据的分析利用价值。在应对网络攻击时,能够辅助网络安全专家完成网络安全决策,提前做好安全预警。

基于ALBert的农业实体识别模型

由于信息技术快速发展导致农业领域相关数据海量增长,为农业信息检索带来了一定挑战。构建高效、精准的农业知识图谱成为应对挑战的有效方法。其中,农业实体识别在构建农业知识图谱这一过程中扮演着核心角色。为了确保数据的有效组织和利用,提出了一种ALBert-BiLSTM-CRF模型用于提高农业实体识别的准确性。试验结果表明,ALBert-BiLSTM-CRF模型通过参数共享和层次重复使用技术,大幅度降低了模型复杂度,加快了训练速度,使其在处理大规模农业文本数据时更加高效;引入上下文关系强化(CRR)预训练任务,模型增强了对文本间长距离依赖和上下文关系的理解能力,提高了实体识别的准确性。

基于MSPA和MCR模型的庐山市生态网络构建

【目的】在生态环境形势严峻的背景下,构建生态网络是连接破碎化斑块间的重要纽带,是保障物种迁徙交流的有效途径。【方法】以庐山市为研究对象,以GIS技术为核心,利用MSPA法对庐山市进行景观格局分析,再运用景观连通性评价法选取重要生态源地;其次采用AHP分析法结合专家打分法建立阻力因子评价体系构建阻力面,再基于MCR模型完成庐山市生态网络的构建,运用重力模型选取重要潜在生态廊道,给出生态网络的优化对策,最后应用生态网络分析法,对出生态网络的可行性进行分析。【结果】1)庐山市10处重要生态源地的面积为37 946.52 hm^(2),庐山和鄱阳湖为两处大型生态源地;2)遴选出19条重要生态廊道长为297.05 km,主要分布于中部地区;3)构成生态廊道的景观三要素分别为林地、水系和耕地,廊道宽度设置为300 m;4)构建形成“两区两带三轴”的生态安全格局。【结论】研究区内中心城区及中南部地区斑块分布零碎,景观连通性差,缺少生物栖息活动的绿色空间,应大力改善两地的生态环境,生态绿廊由两地内部向外部空间延伸构建,最终绿廊绿道交织成网覆盖全域,新增3个生态核心节点和9条重要生态廊道后的网络连接指数明显提高,表明构建的庐山市生态网络可行性较强。研究结果对于庐山市的城市绿地系统规划、生态园林城市的建设和生物多样性保护具有一定的指导意义。

小学生跨学科素养测评模型构建与应用研究

跨学科素养是小学生学习发展的关键素养,构建科学、合理的跨学科素养测评模型是开展小学生跨学科素养有效监测与提升的重要保证,对打破学科知识壁垒、培育新时代拔尖创新人才具有重要现实意义。研究遵循成熟的教育测评模型构建范式,厘清了小学生跨学科素养操作性定义,构建了包含跨学科知识、跨学科能力和跨学科情意3个一级指标、8个二级指标的小学生跨学科素养测评指标体系,开发了《小学生跨学科素养测评量表》,基于探索性、验证性因素分析以及层次分析法,构建了小学生跨学科素养测评模型:Y=0.306*Y1+0.412*Y2+0.282*Y3,其中Y表示小学生跨学科素养,Y1、Y2、Y3分别表示跨学科知识、跨学科能力、跨学科情意。应用该模型对全国东、中、西部地区12省市的18166名小学4—6年级学生进行测评,初步验证了模型的科学性、有效性与可操作性,并依据测评结果提出提升小学生跨学科素养的对策建议。

基于HCPN的复杂BPMN协作模型数据流建模与验证

为了保证复杂BPMN协作模型的正确性,不仅要涵盖多实例和子进程等复杂元素,还要在检测控制流错误的同时检测数据流错误。但业务流程建模标注(BPMN 2.0)缺乏形式化语义的描述,这对模型正确性的验证造成了阻碍。因此,给出了一种具有弧权重的层次化着色Petri网(HCPN)的定义,它既可以对数据流进行形式化表示,又可以对多实例和子进程结构进行建模。进一步提出了从BPMN协作模型到HCPN模型的形式化映射方法。然后基于HCPN模型的弧权重给出了缺失、丢失和冗余3种数据流错误的定义,并提出了对应的检测算法。最后,设计了一个自动化建模与验证的框架,通过一个案例研究说明了该方法的有效性。

高压管汇材料疲劳性能测试及P-S-N模型曲线的拟合

高压管汇作为压裂设备中的主要易损件之一,其失效危害较大。它的失效原因主要是疲劳、冲蚀、腐蚀或者材料缺陷引起的刺漏和爆裂,其中尤以疲劳失效最不可预估。目前,对于高压管汇材料的疲劳性能研究不够深入,为解决高压管汇材料疲劳寿命的准确描述问题,以某国产高压管汇材料为例,进行了一系列疲劳试验,并基于试验数据,采用多种分布模型和不同S-N模型进行拟合分析,得出综合评价拟合能力最强的P-S-N模型。结果表明,该材料在中长疲劳寿命区,Weibull三参数模型在7级应力水平下综合评价能力最好;在存活率分别为50%、90%、99%、99.9%时,指数S-N模型的拟合系数均大于0.98,拟合能力最好。得出的P-S-N模型曲线可以为高压管汇的疲劳寿命以及安全设计提供依据。

论大语言模型材料的证据属性——以ChatGPT和文心一言为例

以ChatGPT和文心一言为代表的大语言模型产生海量大语言模型材料,此类材料进入社会生活并产生广泛影响,讨论大语言模型材料证据属性具有重要意义。大语言模型材料可以成为证据,但是否具有证据资格需要在具体个案中进行判断。从诉讼效率出发,大语言模型证据在不同诉讼中的呈现形式可以有所区别:一般案件可以仅举示人机交流材料和使用者本地环境信息,重大案件则应完整举示。大语言模型材料区别于大数据证据和一般的人工智能证据,具有直观性强、可解释性弱、偏在于少数技术公司、可识别性弱等特点。