基于模型微调的空中无人机小样本目标识别方法

空中无人机目标识别是现代军事、航空领域的迫切需求,由于目前无人机的功能和种类繁多,对于新机型很难采集大量的无人机样本用于训练目标识别模型;针对该问题,提出了一种基于模型微调的空中无人机小样本目标识别方法;方法以Faster R-CNN为基础架构,首先采用具有大量标记样本的常见机型数据预训练Faster R-CNN模型;然后将基础架构最后的分类层替换为余弦度量,构建联合新机型与常见机型的小样本平衡数据集以较小的学习率微调分类层;实验结果表明,在标记样本数量为5、10和50的情况下,基于模型微调的小样本目标识别模型的mAP分别为88.6%,89.2%和90.8%,能够满足空中无人机小样本目标识别任务需求,且优于其它小样本目标识别方法。

融合大模型微调与图神经网络的知识图谱问答

传统知识图谱问答系统在处理自然语言问句时,常因语义解析不精确而导致错误。为解决这一问题,提出一种融合大模型微调和图神经网络的知识图谱问答方法。收集问题并定义问题的逻辑形式;利用大型预训练语言模型的强大语义解析能力,通过对问题及其对应逻辑形式构成的问答对进行微调,提升问题解析的精度;采用模糊集方法增强微调后的逻辑形式,提高其检索精度;利用图神经网络对这些逻辑形式进行关系投影和逻辑运算获取最终答案。在通用领域标准数据集WebQSP和ComplexWebQuestions上的实验验证表明,该方法在F1、Hit@1和ACC这三个指标上均优于基准模型。同时,方法也在垂直领域风电装备数据集、高速列车数据集上进行了应用和验证。

基于扩散模型微调的高保真图像编辑

针对目前主流的图像编辑方法存在任务单一、操作不友好、保真度低等问题,提出一种基于扩散模型对图像进行高保真编辑的方法。该方法将目前主流的稳定扩散模型作为骨干网络,首先使用低秩适用(LoRA)方法对模型进行微调,使模型能够更好地重建原始图像;其次,使用微调后的模型将图片与简单的提示词通过设计的框架进行推理,最终生成编辑后图像。另外,在上述方法基础上扩展提出了双层U-Net结构用于特定需求的图像编辑任务以及视频合成。与领先的方法 Imagic、DiffEdit、InstructPix2Pix在Tedbench数据集上的对比实验结果显示:所提方法能够对图像进行包括非刚性编辑的多种编辑任务,可编辑性强;而且在学习感知块相似性(LPIPS)指数上比Imagic下降了30.38%,表明该方法具有更高的保真度。

面向视听文化产业的大模型微调技术研究

为探讨大模型微调技术为视听文化产业创新提供的新动能,本文结合大模型微调技术与视听文化产业的发展历程,深入分析视听文化产业与大模型微调技术的协同智能化发展方向。本文首先讨论了大模型微调技术的起源、发展与微调方法,并对该研究领域进行了全面概述。之后,从视听文化产业智能化发展的三个阶段讨论了深度学习技术与大模型微调技术如何与视听文化产业融合创新。再次,依据文化视听产业的主要媒介,即音频、视频、图像等,探讨了深度学习与大模型微调技术在视听文化产业中的应用。最后,本文总结了视听文化产业与大模型微调技术在协同过程中可能面临的问题并对未来的发展进行了展望。

面向鲁棒口语理解的声学组块混淆语言模型微调算法

利用预训练语言模型(pre-trained language models,PLM)提取句子的特征表示,在处理下游书面文本的自然语言理解的任务中已经取得了显著的效果。但是,当将其应用于口语语言理解(spoken language understanding,SLU)任务时,由于前端语音识别(automatic speech recognition,ASR)的错误,会导致SLU精度的下降。因此,本文研究如何增强PLM提高SLU模型对ASR错误的鲁棒性。具体来讲,通过比较ASR识别结果和人工转录结果之间的差异,识别出连读和删除的文本组块,通过设置新的预训练任务微调PLM,使发音相近的文本组块产生类似的特征嵌入表示,以达到减轻ASR错误对PLM影响的目的。通过在3个基准数据集上的实验表明,所提出的方法相比之前的方法,精度有较大提升,验证方法的有效性。

浅谈人工智能中大模型微调技术和应用

AI(人工智能)大规模预训练模型(如Qwen2、GLM-4等)已取得显著突破,为NLP(自然语言处理)及其他领域带来深刻变革。文章聚焦于大模型微调技术,从大模型微调的基本概念入手,分析微调过程中的关键步骤。大模型微调应用在医疗文本分析、法律文书处理、金融分析、移动通信等场景。最后讨论大模型微调面临的挑战,展望未来发展方向。

基于大语言模型的命名实体识别

虽然以ChatGPT为代表的自然语言生成(NLG)大语言模型在自然语言处理中的大多数任务中取得了良好的表现,但其在序列识别任务,如命名实体识别任务中的表现暂且不如基于BERT的深度学习模型.针对这一点,本文探究性的通过将现有的中文命名实体识别问题改造成机器阅读理解问题,提出并设计了基于情境学习和模型微调的新方法,使NLG语言模型在识别命名实体达到了更好的效果,并且该方法不同于其他方法需要改变基层模型的预训练参数.同时,由于命名实体是模型生成的结果而不是对原始数据的分类,不存在边界问题.为了验证新框架在命名实体识别任务上的有效性,本文在多个中文命名实体识别数据集上进行了实验.其中,在Resume和Weibo数据集上的F1分数分别达到了96.04%和67.87%,相较于SOTA模型分别提高了0.4和2.7个百分点,从而验证了新框架能有效利用NLG语言模型在文本生成上的优势完成命名实体识别任务.

基于API序列和预训练模型的恶意软件检测

针对现有方法存在特征表达受限、无法捕获API序列全局语义信息,且恶意软件数据集通常包含大量无标注数据,无法直接进行有监督学习等问题,利用自然语言预训练模型技术,提出一种基于API调用序列和预训练模型的恶意软件检测方法。使用原始API序列构建分词器;基于BERT模型构建出动态掩码序列模型进行无监督学习的预训练,同时获取API序列的全局动态编码表示;使用该编码构造检测模型。实验结果表明,所提方法能有效检测出恶意软件。

垂直领域大模型的定制化:理论基础与关键技术

随着ChatGPT等基于大模型的产品展现出强大的通用性能,学术界和工业界正积极探索如何将这些模型适配到特定行业和应用场景中,即进行垂直领域大模型的定制化。然而,现有的通用大模型可能无法完全适配特定领域数据的格式,或不足以捕捉该领域的独特需求。因此,本文旨在探讨垂直领域大模型定制化的方法论,包括大模型的定义和类别、通用架构的描述、大模型有效性背后的理论基础,以及几种可行的垂直领域大模型构建方法,期望通过这些内容为相关领域的研究者和从业者在垂直领域大模型定制化方面提供指导和参考。

基于DreamBooth的傣锦图案人工智能生成模型

为推动传统文化引领下的现代纺织图案设计发展,提出了一种利用人工智能生成民族纺织图案的模型。以傣族织锦图案为例,对傣族织锦实物图案进行矢量化处理,为每张图片编写对应文本标签,并以此为训练集;选取适用于傣锦的预训练模型,使用DreamBooth方法微调现有的文本-图像模型。对模型训练效果进行分析,得出V1模型是一个具有良好拟合度和图像生成效果的文本-图像生成模型。

基于粒子群优化的自适应微调算法

模型微调是一种重要的迁移学习技术,在各种缺乏训练数据的任务中取得了显著成功,并且只需少量训练时间就能获得满意效果。然而,随着网络模型规模和结构复杂性增加,为特定目标任务设计合适的微调方案变得越来越困难。为了解决这个问题,本文提出了一种基于粒子群优化的自适应微调算法。该算法将预训练模型中的微调层选择问题建模为参数优化问题,并基于种群进化思想,自适应地为目标任务找到合适的层微调方案。实验结果表明,该算法能够精确地求解适合目标任务的层微调方案,并且能够显著提升微调性能。与标准微调基线方法相比,本文算法只需要几次迭代即可实现具有竞争力的性能,从而大幅度减少了训练时间。

航天涉密信息保密审核大模型增强方法

针对航天航空领域资料保密审查的严格要求,现有的人工筛查方法存在成本高昂、关键词匹配精度不足等问题,提出了一种结合大模型的审查方法,用于提升涉密信息的筛查效率和准确性。首先分析了航天航空领域涉密信息的特点,提出了一种基于大模型的保密审核增强架构,该架构结合了动态垂类专家System Prompt,能够从技术涉密和商业涉密等多个角度提高审查的细粒度和准确率。通过引入基于关键词的动态System Prompt机制,实现了大模型语义理解能力与关键词实时更新能力的有效结合。此外,为了防止大模型的过度审核,设计了一种混合式交叉微调策略,显著提高了涉密信息的召回率,达到了96%。通过在自研的1000条高质量测试集上的实验,本增强框架可以将全球已发布的主流大模型在保密审核任务上的准确率提升18%,验证了本文提出框架的有效性。

基于全局信息的卷积神经网络模型剪枝微调优化方法

为解决因卷积神经网络模型规模大,模型剪枝方法引起的精度下降问题,提出一种模型剪枝微调优化方法。该方法引入原卷积神经网络模型权重全局信息至剪枝后模型,使原模型信息体现在剪枝后模型的权重上,提升剪枝后模型的精度。在图像分类任务和目标检测任务中的实验结果表明,所提出的微调优化方法可获得更大的压缩率和更小的模型精度损失。

铁路自然语言大模型关键技术研究及应用展望

人工智能自然语言大模型的涌现为行业深度赋能带来了新的曙光,研究铁路自然语言大模型关键技术及应用,对促进和统筹铁路人工智能发展具有重要意义。根据铁路人工智能应用需求,提出铁路自然语言大模型应用场景;依托铁路人工智能平台,设计铁路自然语言大模型的总体架构,研究自然语言大模型关键技术,构建面向智能问答的铁路行业大模型,并以实际数据进行模型验证;最后从铁路运输组织、铁路运营安全、旅客服务方面对铁路自然语言大模型的发展和应用进行展望。

大语言模型技术在区域地质勘探报告中生成式应用的实践探索

石油和天然气行业的快速发展对地质数据的处理和分析提出了更高的要求。本研究聚焦于这些大模型在地质勘探领域,探索大语言模型在垂直领域的生成式应用。本文总结了当前大模型在地质勘探应用的概况,揭示出其在技术融合,尤其是与传统测井数据分析整合方面的局限性。此外,为了达到预期的训练目标,本研究在数据集的设定过程中,注重了回答的维度和提问方式等因素,确保数据集能满足大模型在地质勘探领域的特殊需求。在此基础上,采用微调LORA算法,针对Baichuan、Qwen和ChatGLM3等前沿模型实施了微调。实验环节的结果凸显了LORA微调策略的成效,验证了微调策略的有效性与针对性。最后,本文对大模型在地质勘探领域的应用前景进行了展望,并提出通过引入增强检索技术进一步提升模型性能的可能性。

对比经微调的ERNIE-Lite-8K-0922和GPT-4在使用Prompt策略后在英语对话系统中的表现:以心理咨询师角色为例

本研究基于大模型在英语对话系统中的实际应用对比了经过微调的ERNIE-Lite-8K-0922和GPT-4模型在采用Prompt策略后在英语对话系统中的能力表现。本研究采用了一系列定量指标,如BLEU、ROUGE分数、训练损失等指标,展示了模型微调的效果,使用自然度、逻辑性、上下文理解、多轮对话处理和情感表达等指标,评估了模型生成回复的质量。本研究在指出了ERNIE-Lite-8K-0922和GPT-4在英语对话系统中的性能差异的同时,还提出了需要进一步完善数据集与微调参数等方法以提高微调后的ERNIE-Lite-8K-0922在英语对话系统及特定领域的表现能力。本研究为探索是否有更加经济高效的方法在实际应用场景中将大语言模型部署为英语对话系统提供了重要参考,也为英语对话系统及相关领域的进一步发展做出了贡献。

基于ResNet50微调网络模型的混凝土表面裂缝缺陷识别方法

为精准高效地识别混凝土表面裂缝缺陷,提出了一种基于ResNet50微调网络模型的混凝土表面裂缝缺陷识别方法。首先,在数据准备阶段,通过光照变换、裁剪和翻转来有效扩增数据集;其次,通过微调全连接层和微调卷积层来构建适用于混凝土表面裂缝缺陷识别的ResNet50微调网络模型;最后,通过ResNet50微调网络模型在混凝土表面裂缝缺陷图像数据集上进行了定性和定量的实验仿真。实验结果验证了所提出微调网络模型在混凝土表面裂缝缺陷任务上的实用性和有效性。

基于大语言模型的垂直领域问答系统研究

垂直领域的任务型对话系统的构建存在缺乏标注数据、泛化性能差、无法冷启动的问题。最近,随着ChatGPT等大型语言模型的提出,自然语言处理领域有了很多新的进展。然而,对在探索大语言模型应用在垂直领域的任务型对话系统构建中的涌现能力的研究还较少。本文针对垂直领域任务型对话系统的构建难题,提出了基于大规模语言模型的意图和词槽识别方法,具体来说有三点:(1)微调大语言模型以提高意图和词槽识别性能;(2)采用多轮交互方式提升识别效果;(3)基于大模型生成训练数据进行数据增强。这些方法的综合应用,能够为垂直领域对话机器人的构建提供一个高效解决方案,减少对人工标注数据的依赖,提升对话机器人在few-shot和zero-shot情况下的准确性。

以对比学习与时序递推提升摘要泛化性的方法

为了有效缓解基于交叉熵损失函数训练的传统文本摘要模型所面临的推理过程中性能下降、泛化性较低、生成过程中曝光偏差现象严重、生成的摘要与参考摘要文本相似度较低等问题,提出了一种新颖的训练方式,一方面,模型本身以beamsearch的方式生成候选集,以候选摘要的评估分数选取正负样本,在输出的候选集中以“argmax-贪心搜索概率值”和“标签概率值”构建2组对比损失函数;另一方面,设计作用于候选集句内的时序递推函数引导模型在输出每个单独的候选摘要时确保时序准确性,并缓解曝光偏差问题。实验表明,所提方法在CNN/DailyMail和Xsum公共数据集上的泛化性得到提升,Rouge与BertScore在CNN/DailyMail上达到47.54和88.51,在Xsum上达到了48.75和92.61。

基于分布式预报平台的水文模型预报研究

本文在分布式水文预报的平台上,对汤旺河流域的洪水预报模型进行研究,依据土壤水的再分布,选取蓄满两层水源模型、径流系数两水源模型、霍顿两水源模型、微调版新安江模型进行对比分析,分析参数的敏感性,进行模型验证及精度评定,确定适合汤旺河上游五营站的洪水预报模型及参数。