基于样本内外协同表示和自适应融合的多模态学习方法

多模态机器学习是一种新的人工智能范式,结合各种模态和智能处理算法以实现更高的性能.多模态表示和多模态融合是多模态机器学习的2个关键任务.目前,多模态表示方法很少考虑样本间的协同,导致特征表示缺乏鲁棒性,大部分多模态特征融合方法对噪声数据敏感.因此,在多模态表示方面,为了充分学习模态内和模态间的交互,提升特征表示的鲁棒性,提出一种基于样本内和样本间多模态协同的表示方法.首先,分别基于预训练的BERT,Wav2vec 2.0,Faster R-CNN提取文本特征、语音特征和视觉特征;其次,针对多模态数据的互补性和一致性,构建模态特定和模态共用2类编码器,分别学习模态特有和共享2种特征表示;然后,利用中心矩差异和正交性构建样本内协同损失函数,采用对比学习构建样本间协同损失函数;最后,基于样本内协同误差、样本间协同误差和样本重构误差设计表示学习函数.在多模态融合方面,针对每种模态可能在不同时刻表现出不同作用类型和不同级别的噪声,设计一种基于注意力机制和门控神经网络的自适应的多模态特征融合方法.在多模态意图识别数据集MIntRec和情感数据集CMU-MOSI,CMU-MOSEI上的实验结果表明,该多模态学习方法在多个评价指标上优于基线方法.

基于自编码器的过完备多级表示深度子空间聚类

深度子空间聚类网络利用深度自表达性,借助具备全连接层的欠完备深度自编码器,有效地解决了无监督子空间聚类难题.然而,该方法使用输入数据的不完全表示,并且缺乏低级和高级信息的集成,从而损害其鲁棒性.为解决这一问题,提出了一种新的深度子空间聚类方法,该方法使用卷积自动编码器将输入图像转换为位于线性子空间联合上的新表示.在编码器层加入了过完备分支,使得网络能够捕捉到更精细的数据细节.此外,在编码器和相应的解码器层之间引入多个完全连接的线性层.这些互相连接的层协同作用,将低级和高级信息结合在一起,从而在编码器的不同层级上生成了多组自表达和信息表示.该过程有效地促进了特征学习过程.最后,引入了一个新的损失最小化问题,利用初始样本聚类有效地集成了多级表示,从而更准确地恢复了底层子空间结构.随后,采用迭代方案来最小化损失函数.在4个真实数据集上的实验结果表明,在大多数子空间聚类场景中,本文方法最优.

论公司决议中意思表示瑕疵规则的适用及其限度

作为一种组织法上的特殊法律行为,公司决议中存在适用意思表示瑕疵规则的理论空间。但公司决议的形成依赖于股东个人意思表示的作出与团体议事程序的有效运作,具有行为法与组织法交融的特征。司法实践中关于公司决议瑕疵的效力判断存在个人行为法路径与团体组织法路径的截然对立,未能在股东个体权利救济与组织关系安定性之间实现价值平衡。基于主体利益关系的竞争性、内部运转的程序正义理念和多数决原则的控制功能这三个方面的特性,公司决议适用意思表示瑕疵规则应当进行相应的修正及限制。在股东意思与表示不一致的情形下,基于表决主体可苛责性和相对人信赖保护的考量,股东原则上不得主张意思表示瑕疵而影响公司决议效力。在股东意思表示不自由的情形下,原则上可以引入意思表示瑕疵规则实现对股东个体权利的救济,但需区分不同情形予以具体分析,同时还要充分注重与现有公司决议效力规则的体系衔接。

基于改进自注意力机制和表示学习的分层文档分类方法

文档分类的一项基本工作是研究如何高效地表示输入特征,句子和文档向量表示也可以辅助自然语言处理的下游任务,如文本情感分析和数据泄露预防等。特征表示也逐渐成为文档分类问题的性能瓶颈和模型可解释性的关键之一。针对现有分层模型面临的大量重复计算以及可解释性缺乏的问题,提出了一种分层文档分类模型,并研究了句子和文档表示方法对文档分类问题的性能影响。所提模型集成了使用改进自注意力机制融合输入特征向量的句子编码器和文档编码器,形成了一个层次结构,以实现对文档级数据的分层处理,在简化计算的同时增强了模型的可解释性。与仅使用预训练语言模型的特殊标记向量作为句子表示的模型相比,所提模型在5个公开文档分类数据集上实现了平均4%的性能提升,比使用词向量矩阵的注意力输出均值的模型提高了2%。

任务协作表示增强的要素及关系联合抽取模型

对文本中诸如实体与关系、事件及其论元等要素及其特定关系的联合抽取是自然语言处理的一项关键任务.现有研究大多采用统一编码或参数共享的方式隐性处理任务间的交互,缺乏对任务之间特定关系的显式建模,从而限制模型充分利用任务间的关联信息并影响任务间的有效协同.为此,提出了一种基于任务协作表示增强的要素及关系联合抽取模型(Task-Collaboration Representation Enhanced model for joint extraction of elements and relationships,TCRE).该模型旨在从多个阶段处理任务间的特定关系,帮助子任务进行更细致的调节和优化,促进整体性能的提升.在三个关系抽取和一个事件抽取数据集上进行实验,TCRE在实体识别和关系提取任务上平均性能分别提高0.57%和0.77%,在触发词识别和论元角色分类任务上分别提高0.7%和1.4%.此外,TCRE还显示出在缓解“跷跷板现象”方面的作用.

因果关系表示增强的跨领域命名实体识别

跨领域命名实体识别在现实应用中,尤其在目标领域数据稀缺的小样本场景中具有重要价值。然而,现有方法主要是通过特征表示或模型参数共享实现的跨领域实体能力迁移,未充分考虑由于样本选择偏差而引起的虚假相关性问题。为了解决跨领域中的虚假相关性问题,提出一种因果关系表示增强的跨领域命名实体识别模型,将源域的语义特征表示与目标域的语义特征表示进行融合,生成一种增强的上下文语义特征表示。通过结构因果模型捕捉增强后的特征变量与标签之间的因果关系。在目标域中应用因果干预和反事实推断策略,提取存在的直接因果效应,从而进一步缓解特征与标签之间的虚假相关性问题。该方法在公共数据集上进行了实验,实验结果得到了显著提高。

单边区间集模糊半概念的知识表示及提取方法

为了使“区间”形式加以表述的不确定信息的提取具有侧重性,需提取出对象(属性)集对应的属性(对象)区间集。本文在模糊形式背景中,通过引入2个阈值,将单边区间集与经典半概念结合,提取出属性(对象)集对应的对象(属性)区间集,从而提出区间集外延–集合内涵(集合外延–区间集内涵)(interval set extent-set intent(set extent-interval set intent),ISE-SI(SE-ISI))型单边区间集模糊半概念。全体ISE-SI(SE-ISI)型单边区间集模糊半概念构成格,并给出基于格搜寻全体ISE-SI(SE-ISI)型单边区间集模糊半概念的算法。通过与已有成果对比,显示出这2种知识表示形式的多方优势。本文所得结果在知识表示及提取方法上具有适用范围广、实际应用强等优点。

基于三维空间旋转平移的自适应知识表示方法

现有知识图谱表示学习研究中普遍存在忽视特定关系的语义空间、难以建模非单射复杂关系或多种关系模式等问题,尤其是在不可交换的组合以及子关系两种关系模式上表现不佳。针对该问题,在对实体自适应投影的基础上,利用罗德里格斯旋转公式将旋转操作从二维空间拓展到三维空间并进行平移优化,提出一种新的具有强表征能力的模型ATR3DKRL。通过理论推导可以证明该模型能够建模非单射复杂关系以及多种关系模式。在多个通用数据集上的实验结果表明,该模型可以有效提高链接预测精度,在数据集DB100K与FB15K-237中四个指标上领先现有基线模型,其中在DB100K上评价指标MRR和H@1相较于基线模型RotatE分别大幅提高了3.3%以及6.5%。

缆机安全运行本体知识表示及复用方法

为解决缆机运行管理过程中,大量多源异构结构化和非结构化知识难以复用及知识管理效率低的问题,分析缆机安装和运维过程中积累的大量技术规范、专家经验等安全知识,提取缆机运行相关实体类,采用五元组模型结构化表达缆机安全运行本体知识,并建立类间二元关系,使用Protégé中的本体表达语言程序化表示;构建缆机实体、安全预警、应急预案3大领域本体知识库;采用3Dmax软件,构建缆机运行三维场景模型,导入Unity3D引擎,在用户界面和交互功能中,实现本体知识库知识检索;针对缆机各实体存在的安全隐患、事故实例、应急预案,构建完整的缆机安全运行知识检索三维可视化平台。结果表明:缆机安全运行本体知识库,能够集中统一管理各种缆机安全运行知识,结合知识检索平台,可实现知识的高效查询和复用。

具有潜在表示和动态图约束的多标签特征选择

针对现有嵌入式方法忽略实例相关性的潜在表示对伪标记学习的影响以及固定的图矩阵导致计算误差随迭代的加深而不断增大的问题,提出一种具有潜在表示和动态图约束的多标签特征选择方法.该方法首先利用实例相关性的潜在表示构造伪标签矩阵,并将其与线性映射和最小化伪标签与真实标签之间的Friedman范数距离相结合,从而保证伪标签与真实标签之间具有较高的相似性.其次,利用伪标签的低维流形结构构建动态图,以缓解固定图矩阵导致的随迭代深度增加计算误差的问题.在12个数据集上与7种先进方法的对比实验结果表明,该方法的整体分类性能优于现有先进方法,能较好地处理多标记特征选择问题.

数字信号的量子补码浮点表示及运算研究

为了提高量子数字信号表示的灵活性,本文提出了一种新的基于补码浮点表示的一维有限长度量子数字信号表示模型(Complement Floating-point Representation of Digital Signals,CFRDS)。该模型使用两组量子比特序列分别表示位置信息与幅值信息。其中,位置信息采用有符号定点整数补码形式表示,保证了信号位置的精确性和负数处理能力;幅值信息则采用浮点数形式表示,浮点数的阶码和尾数均采用补码形式,能够更灵活地应对不同幅值的信号,确保在极端数值条件下依然保持高精度,同时,这种表示方法也简化了数学运算,能够处理更广泛的信号类型。该模型不仅在信号幅值的表示范围与精度上取得了显著提升,还在数学运算的便捷性方面展现了优越性,使得各种信号处理算法更加高效和可靠,适用于更加复杂的信号处理算法,提高了信号处理的效率。本文提出了CFRDS模型,设计了该模型的量子制备线路与基于该模型的量子数字信号基本运算线路,包括两个量子数字信号的序列加法、序列乘法以及自相关函数序列运算,并深入分析了线路复杂度,最后通过计算机仿真实验验证了所提出方案的可行性和有效性。

基于深度学习节点表示的谣言源定位方法

随着互联网的普及,网络上的信息以惊人的速度传播给公众。然而,由于级联效应,虚假信息和谣言同时也在迅速蔓延,对社会造成了巨大的危害。在社交网络上找到谣言的传播源头,对抑制谣言的传播起到至关重要的作用。传统的谣言源定位方法大多未能够融合多源特征且定位准确率还需进一步提高,因此,提出一种基于深度学习的谣言源定位方法,根据观测受谣言影响的节点多源特征来识别谣言源。首先,根据节点与观测节点之间的影响力相似度得到节点的影响力向量。然后,利用自编码网络对节点的影响力向量进行编码,得到包含节点信息、扩散路径和传播时间信息在内的节点的新的嵌入表示。最后,根据节点新的影响力向量计算节点为谣言源的概率,以定位谣言源。在2个模拟网络和4个真实网络上的实验结果表明,与其他方法相比,所提方法能够以更快的速度定位谣言源,且谣言源定位的准确率提升了25%以上。

自监督对比的属性图联合表示聚类

现实世界中越来越多的复杂数据被表示为具有属性节点的图,因此属性图聚类是图挖掘中的一个重要问题。图神经网络在图结构数据的编码表示方面取得较好性能,但基于卷积操作或者注意力机制的图神经网络方法存在节点噪声、特征过度平滑、网络异质性、计算代价高昂等问题。基于深度学习方法如自编码器能够有效地提取节点属性表示,但不能包含丰富结构信息。因此提出了一种基于自监督训练和对比学习的图联合表示聚类方法(self-supervised contrastive graph joint representation clustering,SCRC)。使用自编码器预训练学习节点的属性表示,通过在图结构信息上增加对比损失信息,使用影响对比损失融合更加丰富的结构信息,联合图结构信息和属性表示,基于神经网络自监督训练机制迭代优化完成聚类任务。通过设计简单的线性模型,避免使用卷积和注意力机制,有效整合结构信息,使得运行速度更快。在广泛使用的引文网络数据上进行实验,对参数敏感性进行分析,验证了影响对比损失和自监督联合聚类的有效性。实验结果表明,所提出的方法取得了显著的性能提升,并且对节点噪声、特征过度平滑和网络异质性更具有鲁棒性。

JCapsR:一种联合胶囊神经网络的藏语知识图谱表示学习模型

知识图谱表示学习是自然语言处理的一项关键技术,现有的知识图谱表示研究主要集中在英语、汉语等语言,而低资源语言的知识图谱表示学习研究还处于探索阶段,如藏语。该文基于前期构建的藏语知识图谱,提出了一种联合胶囊神经网络(JCapsR)的藏语知识图谱表示学习模型。首先,我们使用TransR模型生成藏语知识图谱的结构化信息表示。其次,采用融合多头注意力和关系注意力的Transfomer模型表示藏语实体的文本描述信息。最后,采用JCapsR进一步提取三元组在知识图谱语义空间中的关系,将实体文本描述信息和结构化信息融合,得到藏语知识图谱的表示,相比基线系统,联合胶囊神经网络JCapsR模型提高了在藏语知识图谱上实体链接预测的性能,相关研究为其他低资源语言知识图谱表示学习的拓展优化提供了参考借鉴意义。

量子力学表示理论的一种实现

量子力学创立伊始,狄拉克就关注到了一般表示的问题,其后量子力学的发展又引入了福克态、相干态等表示。好的表示应能提供正交归一的完备基,同时又能给出问题的严格解析解或者允许方便地得到近似解,但这常常是做不到的。我们意识到此前得到的相干态正交化方法恰恰满足表示理论的一般性要求,且因为包含自由参数为构造归一化的完备正交基实际上提供了无限的选择,这样甚至在解决问题的过程中都可以灵活地选择不同的表示,从而带来计算量的大幅减小。通过对不同耦合强度下的近共振态Rabi模型最初10个能级的计算,并同关联的JC模型的结果相比较,验证了相干态正交化方法的有效性。

基于双向编码表示转换的双模态软件分类模型

针对已有方法在软件分类方面只考虑单一分类因素和精确率较低的不足,提出基于双向编码表示转换(BERT)的双模态软件分类方法.该方法遵循最新的国家标准对软件进行分类,通过集成基于代码的BERT(CodeBERT)和基于掩码语言模型的纠错BERT(MacBERT)双向编码的优势,其中CodeBERT用于深入分析源码内容,MacBERT处理文本描述信息如注释和文档,利用这2种双模态信息联合生成词嵌入.结合卷积神经网络(CNN)提取局部特征,通过提出的交叉自注意力机制(CSAM)融合模型结果,实现对复杂软件系统的准确分类.实验结果表明,本文方法在同时考虑文本和源码数据的情况下精确率高达93.3%,与从奥集能和gitee平台收集并处理的数据集上训练的BERT模型和CodeBERT模型相比,平均精确率提高了5.4%.这表明了双向编码和双模态分类方法在软件分类中的高效性和准确性,证明了提出方法的实用性.

一种双通道半监督网络表示学习模型

在半监督网络表示学习中,节点标签对于网络在不同空间中映射关系的建立具有重要指导意义。然而在很多实际任务中,可用标签信息往往比较有限或难以获取,这导致在学习网络低维表示的过程中无法提供充分有效的监督。针对这一问题,提出了一种双通道半监督网络表示学习模型,该模型以自编码器为基本框架,由自监督和半监督两个信息传递通道构成。自监督信号与标签信息分别在两个通道中对网络表示映射关系的建立提供指导,同时二者之间形成信息互补与增强。考虑到两个通道间可能存在信息冗余,在互信息视角下设计了冗余识别与消除机制。在此基础上,构造了一体化优化模型,实现自监督学习与半监督学习的协同,使学习到的网络表示更好地捕捉和保持网络的结构和特性。在真实数据集上的实验结果表明,提出的模型学习的网络表示在节点分类、聚类和可视化等任务中能够获得优于基线方法的性能。

基于专利实体语义表示的技术主题演化路径识别

[研究目的]从专利实体抽取和语义表示角度,识别语义相同但表达方式不同的专利实体,更准确地发现技术主题演化路径,更好地辅助科技创新和管理决策。[研究方法]提出一种基于专利实体语义表示的技术主题演化路径识别方法。首先,构建BERT-BiLSTM-CRF模型自动抽取专利实体,利用表示学习方法研究专利实体的语义向量表示。其次,基于K-means算法对实体向量进行聚类,识别技术主题。最后,基于实体语义相似度,识别语义相同但表达不同的专利实体,进而基于相同实体数量设计知识流入和知识流出指标,根据主题之间的知识流入和流出比例共同识别分裂、发展、融合等演化关系,构建技术主题演化路径。[研究结论]实证研究表明,该方法能有效识别语义相同但表达不同的专利实体,进而更加准确地识别主题间演化关系,构建技术主题演化路径。

基于数据与特征增强的自监督图表示学习方法

图表示学习在处理图数据结构中起着非常重要的作用,但它面临着严重依赖于标记信息的挑战。为了克服这一挑战,提出了一种新的自监督图表示学习框架,通过使用对比学习方法,融合原始图的结构与属性以及频谱的高低频信息,在保留节点信息的基础上进行增强。同时,利用残差融合机制和无偏特征增强方法,在保证特征有效性的同时进一步减少增强样本的偏差。此外,在对比部分估计负样本为真的概率,并使用权重来度量负样本的硬度和相似度。通过在3个公开数据集上实验证明,在节点分类的下游任务中表现不仅优于当前最先进的无监督方法,而且还在多数任务中超过了以往的有监督方法。

中外数学教科书“用圆弧表示角”本质的比较研究

中小学数学教科书中用圆弧表示角的方式尚未统一,无法凸显角的本质,主要原因在于“用圆弧表示角”的本质尚不明确.“用圆弧表示角”的本质为:用圆弧长度(圆弧所对半径相等)表示角的大小;带有方向(箭头)的圆弧,既可表示角的方向,也可表示角的优劣.对中国近百年(15个版本)教科书的比较发现:“用圆弧表示角”的编排逐渐统一,但角的静态定义不利于体现“用圆弧表示角”的本质;对“圆弧所对半径相等”的认识仍不清晰.国外教科书的情况也大致相同.提出建议:早早引入角的动态定义,统一圆弧所对半径,凸显角的本质.