摘要
针对消防领域信息化、智能化建设的需要,提出在通用大语言模型的基础上通过微调(fine-tuning)技术来构建消防领域大模型。完整的构建流程包括数据采集、超参数优化实验、高效微调构建领域大模型、领域大模型评估。结果表明:相较于初始的通用大模型,构建的消防领域大模型,在主观评估方面专业性更强,在客观评估方面,BLEU-4分数提高12.1%,ROUGE-1分数提高7.8%,ROUGE-2分数提高7.1%。
出处
《电信快报》
2024年第5期19-27,共9页
Telecommunications Information
基金
上海市“科技创新行动计划”项目(编号:21XD1430100、22QB1400200)
上海市促进产业高质量发展专项资金项目(编号:2211106)
2022年度工业和信息化部大数据产业发展试点示范项目。