基于细粒度代码表示和特征融合的即时软件缺陷预测方法

即时软件缺陷预测指在软件更改初次提交之际预测该更改引入缺陷的倾向。此类预测针对单一程序变更,而非在粗粒度上进行。由于其即时性和可追溯性,该技术已在持续测试等领域得到广泛应用。目前的研究中,提取变更代码表示的方法粒度较粗,仅标出了变更行,而没有进行细粒度的标记。此外,现有的使用提交内容进行缺陷预测的方法,仅仅是把提交消息与变更代码的特征进行简单拼接,缺失了在特征空间上的深度对齐,这使得在提交消息质量参差不齐的情况下,会出现预测结果易受噪声干扰的情形,并且现有方法也未将领域专家设计的人工特征以及变更内容中的语义语法信息综合起来进行预测。为了解决上述问题,提出了一种基于细粒度代码表征和特征融合的即时软件缺陷预测方法。通过引入新的变更嵌入计算方法来在细粒度上表示变更代码。同时,引入特征对齐模块,降低提交消息中噪声对方法性能的影响。此外,使用神经网络从人工设计的特征中学习专业知识,充分利用现有特征进行预测。实验结果表明,相较于现有方法,该方法在3个性能指标上均有显著提升。

面向工业品缺陷检测的对比表示学习

在大规模制造业中,缺陷检测旨在发现有缺陷的零部件,如损坏、错位的和存在印刷错误的部件等。由于缺陷类型未知以及缺陷样本短缺,工业品缺陷检测面临着极大的挑战。为克服上述困难,一些方法利用来自自然图像数据集的通用视觉表示,提取广义特征来进行缺陷检测。然而,提取到的预训练特征与目标数据之间存在分布差异,直接使用该特征会导致检测性能不佳。因此,提出了一种基于对比表示学习的方法ConPatch。该方法采用对比表示学习来收集相似特征或者分离不相似特征,从而学习面向目标的特征表示。为了解决缺乏缺陷标注的问题,将数据表示之间的两种相似性度量即成对相似度和全局相似度作为伪标签。此外,采用了轻量化的内存库,仅将全部正常样本即全部无缺陷样本的特征中心存储到内存库中,从而减小了空间复杂度和内存库的尺寸。最后,将正常特征拉近至一个超球面内,而缺陷特征则分布在超球面外,以此来聚集正常特征。实验结果显示,在工业品缺陷检测数据集MVTec AD中,基于Wide-ResNet50的ConPatch模型的I-AUROC和P-AUROC分别达到99.35%和98.26%。在VisA数据集中,ConPatch模型的I-AUROC和P-AUROC分别达到95.50%和98.21%。上述结果验证了模型的有效性。

基于自适应差异化图卷积的图注意力网络表示学习算法

为解决传统图卷积网络在处理节点间复杂关系时存在的局限性,提出一种基于自适应差异化图卷积的图注意力网络表示学习算法。采用差异化图卷积网络,依据每个节点自身特征和邻居信息进行差异化采样,捕捉节点间的复杂关系;再结合二阶段关键相邻采样方式优先挖掘重要节点并保留随机性,完成关键邻居节点的采样;然后结合图注意力网络,通过局部关注和自适应学习权重分配将关键邻居节点特征聚合到自身节点上,增强节点的特征表示;最后经网络训练,进一步增强网络表示学习能力。实验结果表明,所提出的算法优化了节点聚合程度和边界清晰度,提高了节点分类的准确性和可视化效果,并且通过关注二阶邻居和使用双头注意力,在网络表示学习上也展现出了优越性能。

基于预训练表示和宽度学习的虚假新闻早期检测

为了实现虚假新闻的早期检测,提出一种基于预训练表示和宽度学习的虚假新闻早期检测方法。首先,将新闻文本输入大规模预训练语言模型RoBERTa中,得到对应新闻文本的上下文语义表示。其次,将得到的新闻文本的上下文语义表示输入宽度学习的特征节点和增强节点中,利用宽度学习的特征节点和增强节点进一步提取新闻文本的线性和非线性特征并构造分类器,从而预测新闻的真实性。最后,在3个真实数据集上进行了对比实验,结果表明,所提方法可以在4 h内检测出虚假新闻,准确率超过80%,优于基线方法。

基于专利实体语义表示的技术主题演化路径识别

[研究目的]从专利实体抽取和语义表示角度,识别语义相同但表达方式不同的专利实体,更准确地发现技术主题演化路径,更好地辅助科技创新和管理决策。[研究方法]提出一种基于专利实体语义表示的技术主题演化路径识别方法。首先,构建BERT-BiLSTM-CRF模型自动抽取专利实体,利用表示学习方法研究专利实体的语义向量表示。其次,基于K-means算法对实体向量进行聚类,识别技术主题。最后,基于实体语义相似度,识别语义相同但表达不同的专利实体,进而基于相同实体数量设计知识流入和知识流出指标,根据主题之间的知识流入和流出比例共同识别分裂、发展、融合等演化关系,构建技术主题演化路径。[研究结论]实证研究表明,该方法能有效识别语义相同但表达不同的专利实体,进而更加准确地识别主题间演化关系,构建技术主题演化路径。

论公司决议中意思表示瑕疵规则的适用及其限度

作为一种组织法上的特殊法律行为,公司决议中存在适用意思表示瑕疵规则的理论空间。但公司决议的形成依赖于股东个人意思表示的作出与团体议事程序的有效运作,具有行为法与组织法交融的特征。司法实践中关于公司决议瑕疵的效力判断存在个人行为法路径与团体组织法路径的截然对立,未能在股东个体权利救济与组织关系安定性之间实现价值平衡。基于主体利益关系的竞争性、内部运转的程序正义理念和多数决原则的控制功能这三个方面的特性,公司决议适用意思表示瑕疵规则应当进行相应的修正及限制。在股东意思与表示不一致的情形下,基于表决主体可苛责性和相对人信赖保护的考量,股东原则上不得主张意思表示瑕疵而影响公司决议效力。在股东意思表示不自由的情形下,原则上可以引入意思表示瑕疵规则实现对股东个体权利的救济,但需区分不同情形予以具体分析,同时还要充分注重与现有公司决议效力规则的体系衔接。

任务协作表示增强的要素及关系联合抽取模型

对文本中诸如实体与关系、事件及其论元等要素及其特定关系的联合抽取是自然语言处理的一项关键任务.现有研究大多采用统一编码或参数共享的方式隐性处理任务间的交互,缺乏对任务之间特定关系的显式建模,从而限制模型充分利用任务间的关联信息并影响任务间的有效协同.为此,提出了一种基于任务协作表示增强的要素及关系联合抽取模型(Task-Collaboration Representation Enhanced model for joint extraction of elements and relationships,TCRE).该模型旨在从多个阶段处理任务间的特定关系,帮助子任务进行更细致的调节和优化,促进整体性能的提升.在三个关系抽取和一个事件抽取数据集上进行实验,TCRE在实体识别和关系提取任务上平均性能分别提高0.57%和0.77%,在触发词识别和论元角色分类任务上分别提高0.7%和1.4%.此外,TCRE还显示出在缓解“跷跷板现象”方面的作用.

因果关系表示增强的跨领域命名实体识别

跨领域命名实体识别在现实应用中,尤其在目标领域数据稀缺的小样本场景中具有重要价值。然而,现有方法主要是通过特征表示或模型参数共享实现的跨领域实体能力迁移,未充分考虑由于样本选择偏差而引起的虚假相关性问题。为了解决跨领域中的虚假相关性问题,提出一种因果关系表示增强的跨领域命名实体识别模型,将源域的语义特征表示与目标域的语义特征表示进行融合,生成一种增强的上下文语义特征表示。通过结构因果模型捕捉增强后的特征变量与标签之间的因果关系。在目标域中应用因果干预和反事实推断策略,提取存在的直接因果效应,从而进一步缓解特征与标签之间的虚假相关性问题。该方法在公共数据集上进行了实验,实验结果得到了显著提高。

单边区间集模糊半概念的知识表示及提取方法

为了使“区间”形式加以表述的不确定信息的提取具有侧重性,需提取出对象(属性)集对应的属性(对象)区间集。本文在模糊形式背景中,通过引入2个阈值,将单边区间集与经典半概念结合,提取出属性(对象)集对应的对象(属性)区间集,从而提出区间集外延–集合内涵(集合外延–区间集内涵)(interval set extent-set intent(set extent-interval set intent),ISE-SI(SE-ISI))型单边区间集模糊半概念。全体ISE-SI(SE-ISI)型单边区间集模糊半概念构成格,并给出基于格搜寻全体ISE-SI(SE-ISI)型单边区间集模糊半概念的算法。通过与已有成果对比,显示出这2种知识表示形式的多方优势。本文所得结果在知识表示及提取方法上具有适用范围广、实际应用强等优点。

基于三维空间旋转平移的自适应知识表示方法

现有知识图谱表示学习研究中普遍存在忽视特定关系的语义空间、难以建模非单射复杂关系或多种关系模式等问题,尤其是在不可交换的组合以及子关系两种关系模式上表现不佳。针对该问题,在对实体自适应投影的基础上,利用罗德里格斯旋转公式将旋转操作从二维空间拓展到三维空间并进行平移优化,提出一种新的具有强表征能力的模型ATR3DKRL。通过理论推导可以证明该模型能够建模非单射复杂关系以及多种关系模式。在多个通用数据集上的实验结果表明,该模型可以有效提高链接预测精度,在数据集DB100K与FB15K-237中四个指标上领先现有基线模型,其中在DB100K上评价指标MRR和H@1相较于基线模型RotatE分别大幅提高了3.3%以及6.5%。

缆机安全运行本体知识表示及复用方法

为解决缆机运行管理过程中,大量多源异构结构化和非结构化知识难以复用及知识管理效率低的问题,分析缆机安装和运维过程中积累的大量技术规范、专家经验等安全知识,提取缆机运行相关实体类,采用五元组模型结构化表达缆机安全运行本体知识,并建立类间二元关系,使用Protégé中的本体表达语言程序化表示;构建缆机实体、安全预警、应急预案3大领域本体知识库;采用3Dmax软件,构建缆机运行三维场景模型,导入Unity3D引擎,在用户界面和交互功能中,实现本体知识库知识检索;针对缆机各实体存在的安全隐患、事故实例、应急预案,构建完整的缆机安全运行知识检索三维可视化平台。结果表明:缆机安全运行本体知识库,能够集中统一管理各种缆机安全运行知识,结合知识检索平台,可实现知识的高效查询和复用。

具有潜在表示和动态图约束的多标签特征选择

针对现有嵌入式方法忽略实例相关性的潜在表示对伪标记学习的影响以及固定的图矩阵导致计算误差随迭代的加深而不断增大的问题,提出一种具有潜在表示和动态图约束的多标签特征选择方法.该方法首先利用实例相关性的潜在表示构造伪标签矩阵,并将其与线性映射和最小化伪标签与真实标签之间的Friedman范数距离相结合,从而保证伪标签与真实标签之间具有较高的相似性.其次,利用伪标签的低维流形结构构建动态图,以缓解固定图矩阵导致的随迭代深度增加计算误差的问题.在12个数据集上与7种先进方法的对比实验结果表明,该方法的整体分类性能优于现有先进方法,能较好地处理多标记特征选择问题.

数字信号的量子补码浮点表示及运算研究

为了提高量子数字信号表示的灵活性,本文提出了一种新的基于补码浮点表示的一维有限长度量子数字信号表示模型(Complement Floating-point Representation of Digital Signals,CFRDS)。该模型使用两组量子比特序列分别表示位置信息与幅值信息。其中,位置信息采用有符号定点整数补码形式表示,保证了信号位置的精确性和负数处理能力;幅值信息则采用浮点数形式表示,浮点数的阶码和尾数均采用补码形式,能够更灵活地应对不同幅值的信号,确保在极端数值条件下依然保持高精度,同时,这种表示方法也简化了数学运算,能够处理更广泛的信号类型。该模型不仅在信号幅值的表示范围与精度上取得了显著提升,还在数学运算的便捷性方面展现了优越性,使得各种信号处理算法更加高效和可靠,适用于更加复杂的信号处理算法,提高了信号处理的效率。本文提出了CFRDS模型,设计了该模型的量子制备线路与基于该模型的量子数字信号基本运算线路,包括两个量子数字信号的序列加法、序列乘法以及自相关函数序列运算,并深入分析了线路复杂度,最后通过计算机仿真实验验证了所提出方案的可行性和有效性。

基于深度学习节点表示的谣言源定位方法

随着互联网的普及,网络上的信息以惊人的速度传播给公众。然而,由于级联效应,虚假信息和谣言同时也在迅速蔓延,对社会造成了巨大的危害。在社交网络上找到谣言的传播源头,对抑制谣言的传播起到至关重要的作用。传统的谣言源定位方法大多未能够融合多源特征且定位准确率还需进一步提高,因此,提出一种基于深度学习的谣言源定位方法,根据观测受谣言影响的节点多源特征来识别谣言源。首先,根据节点与观测节点之间的影响力相似度得到节点的影响力向量。然后,利用自编码网络对节点的影响力向量进行编码,得到包含节点信息、扩散路径和传播时间信息在内的节点的新的嵌入表示。最后,根据节点新的影响力向量计算节点为谣言源的概率,以定位谣言源。在2个模拟网络和4个真实网络上的实验结果表明,与其他方法相比,所提方法能够以更快的速度定位谣言源,且谣言源定位的准确率提升了25%以上。

自监督对比的属性图联合表示聚类

现实世界中越来越多的复杂数据被表示为具有属性节点的图,因此属性图聚类是图挖掘中的一个重要问题。图神经网络在图结构数据的编码表示方面取得较好性能,但基于卷积操作或者注意力机制的图神经网络方法存在节点噪声、特征过度平滑、网络异质性、计算代价高昂等问题。基于深度学习方法如自编码器能够有效地提取节点属性表示,但不能包含丰富结构信息。因此提出了一种基于自监督训练和对比学习的图联合表示聚类方法(self-supervised contrastive graph joint representation clustering,SCRC)。使用自编码器预训练学习节点的属性表示,通过在图结构信息上增加对比损失信息,使用影响对比损失融合更加丰富的结构信息,联合图结构信息和属性表示,基于神经网络自监督训练机制迭代优化完成聚类任务。通过设计简单的线性模型,避免使用卷积和注意力机制,有效整合结构信息,使得运行速度更快。在广泛使用的引文网络数据上进行实验,对参数敏感性进行分析,验证了影响对比损失和自监督联合聚类的有效性。实验结果表明,所提出的方法取得了显著的性能提升,并且对节点噪声、特征过度平滑和网络异质性更具有鲁棒性。

JCapsR:一种联合胶囊神经网络的藏语知识图谱表示学习模型

知识图谱表示学习是自然语言处理的一项关键技术,现有的知识图谱表示研究主要集中在英语、汉语等语言,而低资源语言的知识图谱表示学习研究还处于探索阶段,如藏语。该文基于前期构建的藏语知识图谱,提出了一种联合胶囊神经网络(JCapsR)的藏语知识图谱表示学习模型。首先,我们使用TransR模型生成藏语知识图谱的结构化信息表示。其次,采用融合多头注意力和关系注意力的Transfomer模型表示藏语实体的文本描述信息。最后,采用JCapsR进一步提取三元组在知识图谱语义空间中的关系,将实体文本描述信息和结构化信息融合,得到藏语知识图谱的表示,相比基线系统,联合胶囊神经网络JCapsR模型提高了在藏语知识图谱上实体链接预测的性能,相关研究为其他低资源语言知识图谱表示学习的拓展优化提供了参考借鉴意义。

量子力学表示理论的一种实现

量子力学创立伊始,狄拉克就关注到了一般表示的问题,其后量子力学的发展又引入了福克态、相干态等表示。好的表示应能提供正交归一的完备基,同时又能给出问题的严格解析解或者允许方便地得到近似解,但这常常是做不到的。我们意识到此前得到的相干态正交化方法恰恰满足表示理论的一般性要求,且因为包含自由参数为构造归一化的完备正交基实际上提供了无限的选择,这样甚至在解决问题的过程中都可以灵活地选择不同的表示,从而带来计算量的大幅减小。通过对不同耦合强度下的近共振态Rabi模型最初10个能级的计算,并同关联的JC模型的结果相比较,验证了相干态正交化方法的有效性。

基于双向编码表示转换的双模态软件分类模型

针对已有方法在软件分类方面只考虑单一分类因素和精确率较低的不足,提出基于双向编码表示转换(BERT)的双模态软件分类方法.该方法遵循最新的国家标准对软件进行分类,通过集成基于代码的BERT(CodeBERT)和基于掩码语言模型的纠错BERT(MacBERT)双向编码的优势,其中CodeBERT用于深入分析源码内容,MacBERT处理文本描述信息如注释和文档,利用这2种双模态信息联合生成词嵌入.结合卷积神经网络(CNN)提取局部特征,通过提出的交叉自注意力机制(CSAM)融合模型结果,实现对复杂软件系统的准确分类.实验结果表明,本文方法在同时考虑文本和源码数据的情况下精确率高达93.3%,与从奥集能和gitee平台收集并处理的数据集上训练的BERT模型和CodeBERT模型相比,平均精确率提高了5.4%.这表明了双向编码和双模态分类方法在软件分类中的高效性和准确性,证明了提出方法的实用性.

一种双通道半监督网络表示学习模型

在半监督网络表示学习中,节点标签对于网络在不同空间中映射关系的建立具有重要指导意义。然而在很多实际任务中,可用标签信息往往比较有限或难以获取,这导致在学习网络低维表示的过程中无法提供充分有效的监督。针对这一问题,提出了一种双通道半监督网络表示学习模型,该模型以自编码器为基本框架,由自监督和半监督两个信息传递通道构成。自监督信号与标签信息分别在两个通道中对网络表示映射关系的建立提供指导,同时二者之间形成信息互补与增强。考虑到两个通道间可能存在信息冗余,在互信息视角下设计了冗余识别与消除机制。在此基础上,构造了一体化优化模型,实现自监督学习与半监督学习的协同,使学习到的网络表示更好地捕捉和保持网络的结构和特性。在真实数据集上的实验结果表明,提出的模型学习的网络表示在节点分类、聚类和可视化等任务中能够获得优于基线方法的性能。

基于数据与特征增强的自监督图表示学习方法

图表示学习在处理图数据结构中起着非常重要的作用,但它面临着严重依赖于标记信息的挑战。为了克服这一挑战,提出了一种新的自监督图表示学习框架,通过使用对比学习方法,融合原始图的结构与属性以及频谱的高低频信息,在保留节点信息的基础上进行增强。同时,利用残差融合机制和无偏特征增强方法,在保证特征有效性的同时进一步减少增强样本的偏差。此外,在对比部分估计负样本为真的概率,并使用权重来度量负样本的硬度和相似度。通过在3个公开数据集上实验证明,在节点分类的下游任务中表现不仅优于当前最先进的无监督方法,而且还在多数任务中超过了以往的有监督方法。