基于大型语言模型指令微调的心理健康领域联合信息抽取

信息抽取目的在于从文本中提取关键的信息。心理健康领域的信息抽取能力反映了语言模型对人类心理健康相关信息的自然语言理解能力。提高语言模型的领域信息抽取能力,还能为AI心理健康服务提供重要的知识来源。但目前心理健康信息抽取的中文指令数据集十分匮乏,这限制了相关研究和应用的发展。针对以上问题,该文在心理学专家的指导下提示ChatGPT生成样本实例,并通过设计生成指令以及数据增强,构建了5641条包含命名实体识别、关系抽取和事件抽取三项基本抽取任务的心理健康领域联合信息抽取指令数据集,旨在填补心理健康领域信息抽取中文指令数据集的不足。随后使用该指令数据集对大型语言模型进行参数高效微调。与基线模型的性能对比以及人工评估的实验结果表明,大型语言模型经过有效的指令微调后可以完成心理健康领域信息抽取的联合任务。

基于用户交互状态感知的自动问答关键技术研究

项目以自动问答系统构建为总体研究任务,在语义相似度计算、注意力与情感检测、特定场景短文本对话优化等关键问题,开展相关创新研究. 1 项目主要研究内容 (1)分析了基于词典方法和向量嵌入方法的多种失效原因,提出了利用单词内部(汉字、偏旁部首)信息,采用基于句法分析的规则或者深度学习等技术方法提升语义相似度计算准确率,解决了低频词以及未登录词语义相似度无法计算的困难,并可扩展用于增强高频词的语义相似度计算性能,达到所有频率分布单词的语义相似度均可计算的目的.