提示学习驱动的新闻舆情风险识别方法研究

从新闻报道中识别企业的风险可以快速定位企业所涉及的风险类别,从而帮助企业及时地做出应对措施。一般而言,新闻舆情风险识别是一种风险标签的多分类任务。以BERT为代表的深度学习方法采用预训练+微调的模式在文本分类任务当中表现突出。然而新闻舆情领域标记数据偏少,构成了小样本的机器学习问题。以提示学习为代表的新范式为小样本分类性能的提升提供了一种新的途径和手段,现有的研究表明该范式在很多任务上优于预训练+微调的方式。受现有研究工作的启发,提出了基于提示学习的新闻舆情风险识别方法,在BERT预训练模型基础之上根据提示学习的思想设计新闻舆情风险提示模板,通过MLM(masked language model)模型训练之后,将预测出来的标签通过答案工程映射到已有的风险标签。实验结果表明在新闻舆情数据集的不同数量小样本上,提示学习的训练方法均优于微调的训练方法。

基于多任务联合训练的属性感知情感分类模型

在大数据时代,信息包含大量值得被挖掘和分析的价值,对情感进行自动分类的需求成为了自然语言处理的热门领域之一.由于大型预训练语言模型参数较多,针对下游任务进行微调时需要大量有标注语料以及时间对模型进行训练.本文基于多任务联合训练的思想,提出了一种多任务属性感知情感分类模型.首先,该模型采用提示学习的策略将多属性文本拆解为多条单属性文本,并针对可用语料不足的问题使用多个提示拼接文本进行训练;其次,该模型设计了对属性进行分类的辅助任务模块,让模型能关注到文本中属性信息从而作出更准确的预测;最后,在四个常用的公开数据集上进行了实验,通过分析证明该模型能够有效提高属性级情感分类的性能.

基于prompt tuning的中文文本多领域情感分析研究

不同领域的情感文本表达方式不一样,通常需要为各个领域训练相应的情感分析模型。针对无法用一个模型进行高效多领域情感分析的问题,提出了基于提示微调(prompt tuning)的多领域文本情感分析方法MSAPT。借助hard prompt,指示情感文本的所属领域和待选的情感标签,调动不同领域情感分析相关的知识,再为情感分析预训练一个统一的“通才模型”,在下游的各领域文本学习中,保持模型冻结,通过prompt tuning使模型学习到下游各领域情感文本的特征。MSAPT仅需保存一个模型和一些参数量远远小于模型的prompt,实现了多领域情感分析。在多个属于不同领域的情感文本数据集上进行实验,结果表明仅进行prompt tuning时,MSAPT效果优于模型微调(model tuning)的。最后,分别对适应特定领域的prompt tuning、hard prompt、soft prompt的长度和中间训练数据集的大小进行消融实验,从证明其对情感分析效果的影响。

提示学习框架下融合多层级特征信息的中文命名实体识别

目前基于预训练-微调模式下的命名实体识别任务预训练与微调之间会出现差距,难以有效地对实体与上下文之间的关系进行建模,并且当前中文命名实体识别方法不能获取足够的字形或词义。针对上述问题,本文提出一种基于提示学习且融合多层级特征信息的命名实体识别方法。首先根据提示学习机制构建提示文本,再将输入文本的字符、词和实体级别特征信息与之拼接作为预训练模型的输入,以有效捕捉上下文之间的语义信息,缩小预训练模型与下游任务之间的差距,提高模型对命名实体识别的感知能力。本文提出的方法充分利用先验知识,提升模型的学习质量,提高在中文复杂多变语义环境下命名实体识别的效果。在人民日报、MSRA、Weibo、Resume和CMeEE数据集上的F1值分别达到了97.09%、96.68%、83.44%、97.48%和76.05%。实验结果表明,本文提出方法总体优于目前主流的中文命名实体识别方法。

基于提示学习和注意力机制的多标签图像分类方法

针对传统多标签分类模型中标签相关性容易被忽略和标签标注成本不断增加的问题,提出一种新颖的多标签图像分类方法,将提示学习和交叉注意力机制结合并使用部分标签训练。具体来说,首先,通过将提示与标签结合生成文本输入,并使用预训练文本编码器进行编码,提取文本特征。其次,将图像作为图像编码器的输入。同时,在文本和图像编码器中,加入可学习的提示,旨在增强模型性能。此外,采用了交叉注意力机制,促进模态间的信息交互,从而提升分类效果。通过实验表明,该模型在The PASCAL Visual Object Classes(VOC2007)数据集上使用90%的真实标签时,mAP值达到94.6%。

基于语言-视觉对比学习的多模态视频行为识别方法

以对比语言-图像预训练(Contrastive language-image pre-training, CLIP)模型为基础,提出一种面向视频行为识别的多模态模型,该模型从视觉编码器的时序建模和行为类别语言描述的提示学习两个方面对CLIP模型进行拓展,可更好地学习多模态视频表达.具体地,在视觉编码器中设计虚拟帧交互模块(Virtual-frame interaction module, VIM),首先,由视频采样帧的类别分词做线性变换得到虚拟帧分词;然后,对其进行基于时序卷积和虚拟帧分词移位的时序建模操作,有效建模视频中的时空变化信息;最后,在语言分支上设计视觉强化提示模块(Visual-reinforcement prompt module,VPM),通过注意力机制融合视觉编码器末端输出的类别分词和视觉分词所带有的视觉信息来获得经过视觉信息强化的语言表达.在4个公开视频数据集上的全监督实验和2个视频数据集上的小样本、零样本实验结果,验证了该多模态模型的有效性和泛化性.

基于闪电搜索的多传感器交叉提示算法

随着多传感器交叉提示技术在探测目标中的应用越来越广泛,该项技术的不足之处也逐渐暴露,最突出的问题是在实际应用中时效性以及准确性达不到实战需求。针对以上问题,首先介绍交叉提示技术的基本理论,建立传感器网络模型以及基于Agent技术的分布式管理结构,分析交叉提示技术的条件以及类型,而后给出了网络效能评价函数,最后设计了基于闪电搜索的多传感器交叉提示算法。仿真结果表明,给出的交叉提示模型贴切实际作战环境,在实现多传感器探测联盟对目标进行检测、跟踪的同时进行目标交接,相比博弈论算法和人工蚁群算法,闪电搜索算法求解更准确,收敛更快,鲁棒性也有所提升,因此更适用于现代、未来作战环境。

基于多掩码与提示句向量融合分类的立场检测

立场检测是指分析文本对于某一目标话题表达的立场,立场通常分为支持、反对和其他。近期的工作大多采用BERT等方法提取文本和话题的句语义特征,通常采用BERT首符号隐藏状态或者句子中每个词隐藏状态取平均作为句向量。该文对句向量的获取进行了改进,采用提示学习模板获取提示句向量,提高句向量的特征提取效果。设计了一种基于多掩码与提示句向量融合分类的立场检测模型(PBMSV),将提示句向量分类与多掩码的模板-答案器结构提示学习分类结合,向句向量引入文本、话题和立场词信息,融合句向量和答案器分类结果,对模型进行联合优化。在NLPCC中文立场检测数据集上的实验表明,在五个话题单独训练模型的实验中,该文方法与此前最优方法相比在三个目标上取得领先或持平,取得了79.3的总F1值,与最优方法接近,并在句向量对比实验中,验证了提示句向量的优势。

一种基于多叉树的检索方法及其应用

计算机自动提示对于改善计算机人机界面友好性有着重要的作用。检索技术是计算机自动提示系统的关键,文章提出一种基于多叉树的检索方法。通过将基于多叉树检索的自动提示系统应用到实验室设备管理中,证明这种方法的可行性。

用Monte-Carlo模拟计算中子源在煤介质中的中子注量率分布

本文简单叙述了利用中子感性瞬发γ射线进行物料分析的原理和方法,针对其中的问题对^(241)Am-Be和^(252)Cf 中子源在煤介质中的中子注量率分布进行了模拟计算,并给出了比较结果和结论。

寻证多媒体学习的自我解释效应

自我解释效应指运用引发自我解释策略促进学生多媒体学习的效应。不过多媒体学习并不总是产生自我解释效应,总结已有多媒体环境中样例、教育游戏、动画、视频与图形学习的引发自我解释策略研究,发现自我解释效应的产生需考虑学习资源、学习任务与学生特点,即体现教学适合性。在此基础上,选取多媒体环境简约多图资源进行实证研究,研究证实引发自我解释比教学解释更能促进多媒体图形学习,产生自我解释效应。多媒体学习资源中引发自我解释策略的设计应依据教学适合观,对于低学业水平学生的程序性知识学习,宜同时呈现多图与采用缺损弥补策略,以减轻学生认知负荷,促进他们深层建构学习。

Calculation of Prompt Fission Neutron from ^(233)U(n, f) Reaction byMulti-Modal Los Alamos Model

An attempt is made to improve the evaluation of the prompt fission neutron emis- sion from 233U（n, f） reaction for incident neutron energies below 6 MeV. The multi-modal fission approach is applied to the improved version of Los Alamos model and the point by point model. The prompt fission neutron spectra and the prompt fission neutron as a function of fragment mass （usually named ＂sawtooth＂ data） v（A） are calculated independently for the three most dominant fission modes （standard I, standard II and superlong）, and the total spectra and v（A） are syn- thesized. The multi-modal parameters are determined on the basis of experimental data of fission fragment mass distributions. The present calculation results can describe the experimental data very well, and the proposed treatment is thus a useful tool for prompt fission neutron emission prediction.

Analysis of prompt fission neutron spectrum and multiplicity for ^(237)Np(n, f) in the frame of multi-modal Los Alamos model

The improved version of Los Alamos model with the multi-modal fission approach is used to analyse the prompt fission neutron spectrum and multiplicity for the neutron-induced fission of 237Np. The spectra of neutrons emitted from fragments for the three most dominant fission modes （standard Ⅰ, standard Ⅱ and superlong） are calculated separately and the total spectrum is synthesized. The multi-modal parameters contained in the spectrum model are determined on the basis of experimental data of fission fragment mass distributions. The calculated total prompt fission neutron spectrum and multiplicity are better agreement with the experimental data than those obtained from the conventional treatment of the Los Alamos model.

上海市中心城区交叉口行人违法过街成因分析及改善对策研究

针对行人过街交通违法行为导致的交通事故居高不下的问题,选取上海市中心城区典型交叉口进行道路实际调查。通过网络问卷调研对产生行人违法过街的主要影响因素进行深入调研,完成要因分析,针对性地设计了基于多级预警的行人过街提示系统,制定主要设备布设方法和系统多级预警方式。依托上海市行人过街提示系统升级改造项目进行实际应用,评估系统运行效果。结果表明,研究提出的行人过街提示系统能够有效降低交叉口行人违法过街的发生率,实施后发生率平均降低73%。

KeyEE:Enhancing Low-Resource Generative Event Extraction with Auxiliary Keyword Sub-Prompt

Event Extraction(EE)is a key task in information extraction,which requires high-quality annotated data that are often costly to obtain.Traditional classification-based methods suffer from low-resource scenarios due to the lack of label semantics and fine-grained annotations.While recent approaches have endeavored to address EE through a more data-efficient generative process,they often overlook event keywords,which are vital for EE.To tackle these challenges,we introduce KeyEE,a multi-prompt learning strategy that improves low-resource event extraction by Event Keywords Extraction(EKE).We suggest employing an auxiliary EKE sub-prompt and concurrently training both EE and EKE with a shared pre-trained language model.With the auxiliary sub-prompt,KeyEE learns event keywords knowledge implicitly,thereby reducing the dependence on annotated data.Furthermore,we investigate and analyze various EKE sub-prompt strategies to encourage further research in this area.Our experiments on benchmark datasets ACE2005 and ERE show that KeyEE achieves significant improvement in low-resource settings and sets new state-of-the-art results.

基于提示学习的医学量表问题文本多分类研究

目的 目前医学量表资源的加工与组织多集中在文档层面,不利于用户从条目层面进行检索与复用。本文旨在提出一种低资源场景下的医学量表条目多分类方法,支持细粒度医学量表资源组织与服务。方法 采用一种基于预训练语言模型BERT的提示学习分类方法来实现医学量表条目文本的多分类。首先收集肺癌临床评估量表,提取功能、领域分类标签,采用人工标注“功能-领域”组合标签形成肺癌临床评估条目小样本语料集;然后采用提示学习方法,通过将自定义构建的模板格式输入BERT模型,对模板空缺位置进行预测填充;最后将填充文本映射到标签,实现对医学量表中条目文本的多分类。结果 构建的语料包含肺癌临床评估条目347条,涉及“功能-领域”分类标签9个;在自制的语料集上,提出的多分类方法的平均准确率达到93%,比次优的GAN-BERT模型性能提高约6%。结论 基于预训练语言模型BERT的提示学习分类方法能够在减少医学量表条目语料构建成本的同时保持较优的性能,在医学量表条目分类研究与实践中具有推广价值。

从大模型看测绘时空信息智能处理的机遇和挑战

当前,时空信息、定位导航服务已成为重要的新型基础设施,在通用人工智能的驱动下,大模型引领的智能时代已经到来,越来越强大的大模型将在测绘时空信息智能处理与应用中发挥越来越重要的作用。以大模型为研究范式,总结大模型在测绘时空信息智能处理的现状与进展,分析大模型在测绘时空信息智能处理面临的挑战,阐述多模态融合与理解架构设计、提示工程优化微调以及人在回路引导决策3个核心方面在时空信息测绘大模型中的关键作用。针对行业理解深度、数据安全隐患、内容可信度保障以及训练部署成本优化4个方面,展望时空信息测绘大模型面临的挑战与发展趋势。

基于元多任务提示学习的零样本谣言检测方法

针对现有谣言检测方法在微调大语言模型时导致的高内存占用,以及提示学习方法对初始点选择敏感的问题,提出一种基于元多任务提示学习的零样本谣言检测方法。首先,基于提示学习范式调整零样本谣言检测任务目标,通过设计提示模板使这一任务目标与大语言模型的训练任务目标保持一致,以充分利用大语言模型积累的先验知识。其次,利用元学习的参数更新策略以定位适用于零样本谣言检测任务的提示模板初始点,从不同的元任务中学习通用知识来实现参数优化。最后,引入情感分析作为辅助元任务进一步调整和优化模型参数。在多个公开数据集上的对比实验结果表明,所提方法在零样本谣言检测任务中表现出色,其性能指标优于基准方法。

Multi-modal analysis for low energy neutron-induced fission of ^(235)U

Low energy neutron induced fission of 235U is studied in the framework of the multi-modal fission model. The fission fragment properties, such as the yields, the average total kinetic energy distribution and the average neutron separation energy, are investigated for incident neutron energies from thermal to 6.0 MeV. The multi-modal fission approach is also used to evaluate the prompt fission neutron multiplicity and spectra for the neutron-induced fission of 235U with an improved version of the Los Alamos model for incident neutrons below the （n, nf） threshold. The three most dominant fission modes are taken into account. The model parameters are determined on the basis of experimental data. The calculated results are in good agreement with the experimental data.

Multi-modal calculations of prompt fission neutrons from ^(238)U(n,f) at low induced energy

Properties of prompt fission neutrons from 238U（n, f） are calculated for incident neutron egies below 6 MeV using the multi-modal model, including the prompt fission neutron spectrum, thnere average prompt fission neutron multiplicity, and the prompt fission neutron multiplicity as a function of the fission fragment mass v（A） （usually named ＂sawtooth＂ data） The three most dominant fission modes are taken into account. The model parameters are determined on the basis of experimental fission fragment data. The predicted results are in good agreement with the experimental data.