基于联合学习的语言粒度融合的重叠事件抽取方法

事件抽取是一项重要的信息抽取任务,现有的事件抽取方法大多假设一个句子中仅出现一个事件,然而,在真实的场景下,重叠事件是难以避免的。文中提出了一种基于联合学习的语言粒度融合的重叠事件抽取方法。该方法设计了基于token数目逐层递增和逐层递减的策略,对不同语言粒度的片段进行表示,在此基础上,构建了渐进式语言粒度融合的句子表示。通过引入事件信息感知,建立了基于门控机制的语言粒度和事件信息融合的句子表示。最后,通过联合学习词间的片段关系和角色关系,实现对事件触发词、论元、事件类型和论元角色的判别。在FewFC和DuEE1.0-1数据集上进行了实验,所提LGFEE模型在事件类型判别任务上的F1值分别提高了0.8%和0.6%,在触发词识别、论元识别、论元角色分类任务上也获得了较高的召回率和F1值,验证了其有效性。

一种使用深度联合学习的ICS自适应异常检测方法

为了提高工业控制系统异常检测方法的准确性、及时性以及可部署性,提出了一种使用深度联合学习的ICS自适应异常检测方法。具体来说,首先提出了一种轻量级局部学习模型,以提高学习速度,合理利用硬件资源,保证了部署在分布式边缘设备中的可行性。其次提出了一种只基于正常数据的无监督学习模型,并结合核分位数估计对检测机制进行自适应动态调整。最后将上述方法整合到联合学习框架下,使其能有效地在边缘段攻击源附近进行分布式异常检测,以最大化减少系统对异常攻击的响应时间。

一种基于多模型联合学习的方面情感分析方法

基于方面词的情感分类是情感分析的一个重要子任务,通过学习文本上下文的信息,判别文本中特定方面的情感极性。常用的方法大多都是依赖于给定方面词和上下文词之间的语义关系来构建模型,这在一定程度上忽视了它们之间的句法关系。针对上述问题,提出一种融合注意力机制和句法信息的联合学习方法,不仅能同时学习方面词和上下文词之间的句法及语义关系,在训练过程中自动调整对方面词周围上下文词的关注度,而且同时考虑不同上下文词对方面词在句法上的修饰关系。在SemEval 2014的Restaurant数据集和Laptop数据集上进行实验,与目前最好模型相比,分类准确率和F1值都得到了较大提高。

基于特征映射和联合学习的可解释新闻推荐

为解决现有个性化推荐系统大多是黑箱模式,无法提供可靠的推荐理由这一问题,对可解释性推荐进行深入研究。为在消除元数据需求的情况下,实现推荐的可解释性和性能之间权衡,提出一种特征映射方法,将不可解释的一般特征映射到可解释的方面特征,该方面特征可用于解释生成;同时使用一个联合学习模型平衡准确预测和生成解释这两个任务,实现推荐中令人满意的准确性和可解释性。通过在真实数据集上的实验,验证了该方法在推荐准确度和解释语句质量两方面都有所提升。

注意力引导特征融合与联合学习的遥感影像场景分类

为充分利用遥感影像的多尺度特征,解决遥感影像尺度差异、类间相似和类内差异等现象给高精度场景分类造成的困难,本文提出了一种注意力引导特征融合和联合学习的遥感影像场景分类方法。首先,利用深层卷积神经网络提取影像不同层次的特征图;然后,利用设计的残差注意力机制增强不同层次特征图的语义信息、抑制冗余噪声信息;最后,使用全局均值池化获取不同层次特征图的全局信息以构建特征向量,并将不同层次的特征向量融合,3个不同层次的特征向量及融合后的特征向量分别采用独立的全连接层进行分类。利用联合损失训练网络参数,采取多分类器决策级融合的方式提高预测的稳健性。在UC Merced、AID和NWPU-RESISC45数据集上的试验结果表明,本文方法显著改善了对相似场景及类内差异显著场景的辨识能力,与使用多尺度特征的同类型场景分类方法相比,总体分类精度分别提高0.84%、4.04%和4.43%。

矩阵变换特征与码序列联合学习的卷积码识别方法

现有基于深度学习的卷积码识别方法仍存在参数规模较大、识别性能较弱等不足。针对该问题,提出了一种基于矩阵变换特征与码序列联合学习的卷积码识别方法。将接收到的码字序列排列成矩阵形式,利用软信息剔除可靠性较低的码字,通过一种新的矩阵变换算法得到特征矩阵。在识别时,将原始码字矩阵和特征矩阵输入到具有多模态数据联合学习能力的网络模型,在神经网络中完成特征的提取融合与卷积码的识别。仿真结果表明,所提方法性能明显优于现有基于深度学习的识别方法,特别是对于高码率卷积码;当码率较低时,同样优于传统识别方法。当信噪比达到5 dB时,25种不同参数卷积码的识别率均可达到100%。

基于联合学习的概念设计知识抽取与图谱构建

为提高产品概念设计过程中设计知识获取效率,解决设计知识碎片化、推理性差、可视化程度不高等问题,提出了基于联合学习的设计知识抽取与图谱构建方法。首先,根据设计知识需求和产品概念设计流程,构建了面向产品概念设计的设计知识图谱框架,然后,分析了设计知识提取过程中实体关系重叠问题,建立了基于联合学习的设计知识抽取模型,该模型通过ELECTRA算法进行语义编码,利用联合学习方法将实体关系抽取转换为各关系上两实体映射。通过真实设计数据和DuIE公共数据集对比实验表明,该模型知识抽取效果显著优于对比模型。最后,将该方法应用于文化创意产品设计知识图谱开发,为设计师提供关联化、可推理、可视化的设计知识,辅助进行产品概念设计。

基于联合学习的少样本多类别情感分类方法

对于多类别的细粒度情感分类任务,目前主流的少样本学习方法不能取得较好的性能。针对这一问题,提出一种基于联合学习的少样本多类别情感分类方法。采用基于替换词检测任务的少样本学习方式,将回归和分类的替换词检测模板以及标签描述词同时添加至输入语句,从而将细粒度情感分类任务同时建模为分类问题和回归问题。在此基础上,设计了不同的融合方法进行联合学习。实验结果表明,与主流少样本学习方法相比,该方法在F1-Score和正确率上都取得更优的结果。

基于视觉联合学习的教育数据挖掘隐私保护技术

在过去十年中,教育越来越依赖人工智能。然而,在智能时代,隐私泄露已经成为一个必须立即解决的重要问题。为了实现这一目标,介绍了人工智能领域新兴的联合学习概念,分析了联合学习的定义、系统模型和训练过程以及隐私保护技术,并将联合学习与各种教育数据挖掘算法相结合。该框架可以在不集成数据的情况下对某些活动和情况执行加密训练,然后生成反映所有数据特征的可视化模型。联合可视化是联合学习体系结构在可视化领域的扩展。它主要侧重于在维护数据隐私的前提下,在对来自多个数据源的数据进行可视化分析时,部署一种互利双赢的联合合作技术。必须消除行业数据壁垒,共享数据和专业知识,以解决教育数据挖掘中可能出现的隐私保护问题。研究发现,联合学习方法原则上可以保护数据隐私,并且易于集成到现有的教育应用中。在保护隐私的基础上,使用联合可视化框架可以最大限度地提高模型的准确性。联合学习将为教育的信息化和智能化发展提供一条新的途径。

基于多通道联合学习的自动调制识别网络

自动调制识别技术不仅可以提高频谱资源的利用率,而且是有效鉴别用户合法身份的方式之一。为进一步提高识别算法的性能,文章考虑幅度和相位特征之间的联系,提出了一种新的非对称多通道联合学习网络。该网络将幅度、相位以及两者的联合矩阵作为多通道输入端,在不改变参数量和计算速度的前提下利用非对称联合学习模块,较好地提取调制信号的幅度和相位中同质和异构特征,来实现自适应调制编码。实验结果表明,与其他深度学习网络相比,文章所提网络在基准开源数据集RadioML2016.10a和RadioML2016.10b上分别实现了91.73%和93.36%的识别精度。

J-SGPGN:基于序列与图的联合学习复述生成网络

复述生成是一种基于自然语言生成(NLG)的文本数据增强方法。针对基于Seq2Seq(Sequence-to-Sequence)框架的复述生成方法中出现的生成重复、语意错误及多样性差的问题,提出一种基于序列与图的联合学习复述生成网络(J-SGPGN)。J-SGPGN的编码器融合了图编码和序列编码进行特征增强,而解码器中则设计了序列生成和图生成两种解码方式并行解码;然后采用联合学习方法训练模型,旨在兼顾句法监督与语义监督以同步提升生成的准确性和多样性。在Quora数据集上的实验结果表明,J-SGPGN的生成准确性指标METEOR(Metric for Evaluation of Translation with Explicit ORdering)较准确性最优基线模型——RNN+GCN提升了3.44个百分点,生成多样性指标Self-BLEU(Self-BiLingual Evaluation Understudy)较多样性最优基线模型——多轮回译复述生成(BTmPG)模型降低了12.79个百分点。J-SGPGN能够生成语义更准确、表达方式更多样的复述文本。

基于联合学习的医疗知识图谱构建研究

针对医疗信息呈现出孤岛化与利用低效的问题,提出一种基于联合学习的医疗知识图谱构建方法。在领域本体基础上,运用融合MacBERT的单阶段联合抽取模型,进行知识抽取。模型借助MacBERT模型编码词向量,引入握手标注策略,将实体对的边界标记对齐在每种关系类型下,实现对实体及关系三元组的一次性解码。实验结果表明,F1值为92.8%,优于现有的经典模型。

基于分段序列联合学习网络的光收发机IQ损伤监测

光收发机同相/正交损伤监测是光通信系统实现可靠传输不可或缺的技术。提出了分段序列联合学习网络来监测相干光收发机中的IQ损伤。SSLN通过处理分析经DSP处理后的接收信号,找到数据中隐含的发射机(Tx)IQ损伤特征和接收机(Rx)的IQ损伤特征,建立映射关系。对100 km标准单模光纤上的100-Gbaud QPSK/64QAM信号传输进行了数值模拟,以评估SSLN的性能。数值模拟结果表明,当多个损伤同时存在时,所提出的SSLN能够准确有效地监测Tx和Rx的IQ损伤。

融合元数据及隐式反馈信息的多层次联合学习推荐方法

针对隐式数据单纯利用隐反馈信息往往难以获取较好推荐性能的问题,提出一种融合元数据及隐式反馈信息的多层次深度联合学习(multi-level deep joint learning,MDJL)推荐方法。它利用双深度神经网络共同学习,其中一个网络利用隐式反馈学习用户及项目个体个性化关系,另一个网络利用元数据学习高层次群体共性化关系,从而有效地表达用户偏好,使MDJL框架在个体及群体因素间达到平衡。最后,MDJL推荐算法在Movie Lens 100K和MovieLens 1M两个公开数据集上进行实验评估。结果表明,该算法比其他基线方法表现出了更为优越的推荐性能。

基于低秩矩阵恢复和联合学习的图像超分辨率重建

文中提出一种新的基于低秩矩阵恢复和联合学习的单帧图像超分辨率重建方法.首先根据相似性将训练样本块分成若干个子集合,使用低秩矩阵恢复方法学习每个子集合的潜在结构.然后使用联合学习方法同时训练出两个投影矩阵,将原始高、低分辨率图像块特征的低秩分量映射到一个统一空间中,最后在该统一空间中完成基于邻域嵌入的图像超分辨率重建.实验结果显示文中方法在数量指标和视觉效果上都优于目前几种典型的图像超分辨率重建方法.

一种基于双向LSTM的联合学习的中文分词方法

针对现有的基于深度学习的神经网络模型通常都是对单一的语料库进行训练学习,提出了一种大规模的多语料库联合学习的中文分词方法。语料库分别为简体中文数据集(PKU、MSRA、CTB6)和繁体中文数据集(CITYU、AS),每一个数据集输入语句的句首和句尾分别添加一对标志符。应用BLSTM(双向长短时记忆模型)和CRF(条件随机场模型)对数据集进行单独训练和多语料库共同训练的实验,结果表明大规模的多语料库共同学习训练能取得良好的分词效果。

一种基于联合学习的家庭日常工具功用性部件检测算法

对工具及其功用性部件的认知是共融机器人智能提升的重要研究方向.本文针对家庭日常工具的功用性部件建模与检测问题展开研究,提出了一种基于条件随机场(Conditional random field, CRF)和稀疏编码联合学习的家庭日常工具功用性部件检测算法.首先,从工具深度图像提取表征工具功用性部件的几何特征;然后,分析CRF和稀疏编码之间的耦合关系并进行公式化表示,将特征稀疏化后作为潜变量构建初始条件随机场模型,并进行稀疏字典和CRF的协同优化:一方面,将特征的稀疏表示作为CRF的随机变量条件及权重参数选择器;另一方面,在CRF调控下对稀疏字典进行更新.随后使用自适应时刻估计(Adaptive moment estimation, Adam)方法实现模型解耦与求解.最后,给出了基于联合学习的工具功用性部件模型离线构建算法,以及基于该模型的在线检测方法.实验结果表明,相较于使用传统特征提取和模型构建方法,本文方法对功用性部件的检测精度和效率均得到提升,且能够满足普通配置机器人对工具功用性认知的需要.

融合元数据及attention机制的深度联合学习推荐

融合元数据的协同过滤推荐即混合推荐算法是目前推荐系统领域研究的热点,能一定程度地解决数据稀疏及冷启动等问题。但融合元数据现有的建模方法大多数建立于用户/项目属性权重相同的情景下,以至于用户项目间重点关系表达不显著,难以获得较好的推荐性能。针对上述问题,提出一种融合元数据及attention机制的深度联合学习推荐方法。它利用双深度网络联合学习,其中一个网络基于隐反馈数据实现矩阵非线性分解以学习用户/项目个性化关系,另一个利用attention机制自动捕捉用户/项目关键属性对推荐工作的影响,通过赋予不同属性权重凸显的用户偏好关系建模辅以扩展模型。实验结果表明,所提推荐算法在MovieLens 100K和MovieLens 1M两个公开数据集上均表现出较为优越的推荐性能。

气味诱导小鼠联合学习行为学范式的应用

目的:训练C57/6J野生型小鼠进行气味诱导奖赏联合学习,探究气味诱导小鼠联合学习行为学范式的可行性。方法:将C57/6J野生型雄性小鼠按周龄从6~8、12~14、16~18、24~36依次分为4组,在头部固定情况下分别进行气味诱导奖赏联合学习行为学训练。通过分析舔水事件发生的速率等行为学指标,观察小鼠在该种行为学范式下的学习能力。结果:分析发现小鼠可在8组训练内达到行为学标准(连续2组训练正确率达到85%以上),且不同年龄组达标所用训练组数无统计学差异,提示在一定年龄范围内该种行为学范式对小鼠的学习情况影响不显著。结论:小鼠气味诱导奖赏联合学习行为学范式可用于不同年龄段的小鼠,为之后结合行为学进行神经科学领域深层机制的研究奠定了可行性基础。

非线性联合学习的三维人脸表情合成方法

针对人脸表情数据的非线性分布特性,提出一种基于非线性联合学习的三维人脸表情合成方法.首先提出非线性联合学习理论,通过无监督回归将具有相同属性的三维人脸映射到相同的低维表达;其次,基于三维人脸的低维表达对低维表达进行重建操作,为给定的三维人脸合成表情,或基于样例表情进行表情的重定向.另外,非线性联合学习方法还能有效地处理带噪声及不完整的人脸数据,获得完整的表情人脸.实验结果表明,文中方法的表情重定向合成结果及合成效率优于已有方法.