Design and Implementation of Weibo Sentiment Analysis Based on LDA and Dependency Parsing

Information content security is a branch of cyberspace security. How to effectively manage and use Weibo comment information has become a research focus in the field of information content security. Three main tasks involved are emotion sentence identification and classification,emotion tendency classification,and emotion expression extraction. Combining with the latent Dirichlet allocation(LDA) model,a Gibbs sampling implementation for inference of our algorithm is presented,and can be used to categorize emotion tendency automatically with the computer. In accordance with the lower ratio of recall for emotion expression extraction in Weibo,use dependency parsing,divided into two categories with subject and object,summarized six kinds of dependency models from evaluating objects and emotion words,and proposed that a merge algorithm for evaluating objects can be accurately evaluated by participating in a public bakeoff and in the shared tasks among the best methods in the sub-task of emotion expression extraction,indicating the value of our method as not only innovative but practical.

基于跨度和边界探测的实体关系联合抽取模型

针对大多数跨度模型将文本分割成跨度序列时,产生大量非实体跨度,导致了数据不平衡和计算复杂度高等问题,提出了基于跨度和边界探测的实体关系联合抽取模型(joint extraction model for entity relationships based on span and boundary detection,SBDM)。SBDM首先使用训练Transformer的双向编码器表征量(bidirectional encoder representations from Transformer,BERT)模型将文本转化为词向量,并融合了通过图卷积获取的句法依赖信息以形成文本的特征表示;接着通过局部信息和句子上下文信息去探测实体边界并进行标记,以减少非实体跨度;然后将实体边界标记形成的跨度序列进行实体识别;最后将局部上下文信息融合到1个跨度实体对中并使用sigmoid函数进行关系分类。实验表明,SBDM在SciERC(multi-task identification of entities,relations,and coreference for scientific knowledge graph construction)数据集、CoNLL04(the 2004 conference on natural language learning)数据集上的关系分类指标S F1分别达到52.86%、74.47%,取得了较好效果。SBDM用于关系分类任务中,能促进跨度分类方法在关系抽取上的研究。

基于语义-注意力机制的方面级情感分类

现有方面级情感分析研究大多数往往从文本数据本身进行情感分析,而没有充分利用领域知识,忽略了语义依存信息的重要性,使得方面表示受噪声信息影响严重,出现噪声词注意权重高的可能。针对以上问题,结合领域知识,提出了一种剪枝算法和语义-注意力机制相结合的方法(Pruning And Semantic At tention,PASA)针对服务领域特定方面进行情感分类。方法一方面结合领域知识对文本对应的语义依存树进行剪枝实现方面信息降噪,另一方面,通过利用语义-注意力机制进行增强并精确捕获方面的上下文描述信息,从而实现对方面情感极性的判断。为了验证所提出方法的正确性和有效性,在物流数据集、酒店评论数据集及SemEval 2014的Restaurant数据集进行了大量实验,结果表明,所提出的方法相对于其它方法具有明显优势,在垂直领域具有较好的应用前景。

增强依存结构表达的零样本跨语言事件论元角色分类

事件论元角色分类是事件抽取中的子任务,旨在为事件中的候选论元分配相应的角色。事件语料标注规则复杂、人力耗费大,在很多语言中缺少相关标注文本。零样本跨语言事件论元角色分类可以利用源语言的丰富语料建立模型,然后直接应用于标注语料匮乏的目标语言端。围绕不同语言的事件文本在依存结构上的表达共性,提出了使用BiGRU网络模块对触发词到候选论元的依存路径信息进行额外编码的方法。本文设计的编码模块能灵活地与当前主流的基于深度学习框架的事件论元角色分类模型相联合。实验结果表明,本文提出的方法能更有效地完成跨语言迁移,提高多个基准模型的分类性能。

基于关系增强图卷积网络的机器阅读理解式事件检测

在面对具有复杂句法关系的长文本上下文时,现有机器阅读理解式事件检测模型难以挖掘关键词之间长距离依赖关系。针对上述问题,提出一种基于关系增强图卷积网络(REGCN)的机器阅读理解式事件检测模型(MRCREGCN)。首先,利用预训练语言模型对问题和文本进行联合编码,得到融入先验信息的单词向量表示;其次,引入动态的关系增强标签信息,并利用REGCN深入学习单词之间的句法依存关系,增强模型对长文本句法结构的感知能力;最后,利用多分类器得到文本单词在所有事件类型下的概率分布。在ACE2005英文语料上的实验结果表明,所提模型在触发词分类上的F1分值相较于同类机器阅读理解模型EEQA(Event Extraction by Answering(almost)natural Questions)和最佳基线模型DEGREE(Data-Efficient GeneRation-based Event Extraction)分别提升了2.49%和1.23%,验证了MRC-REGCN具有更好的事件检测性能。

市级开放大学科研工作的困境与应对——基于10所市级开放大学近十年论文发表的分析

科研是大学的重要职能之一,作为全民终身学习社会的新型大学,开放大学承担着开放教育办学形式、组织模式和运行机制的研究工作。市级开放大学是开放大学办学体系中承上启下的重要环节,研究市级开放大学的科研工作有重要意义。对浙江省10所市级开放大学2012—2023年论文发表情况进行分析,发现市级开放大学的科研工作存在数量少、不平衡、趋于集中等问题,根据资源依赖理论,这些问题主要缘于市级开放大学的科研工作面临人员困境、信息困境和合法性困境。为此,市级开放大学要优化职称分类评审制度激励全员参与科研;开展有组织科研,凝聚校内、系统内和跨系统的科研合力;以学校特色带科研特色,发展教学学术实现扬长避短。

A PARALLELIZATION METHOD FOR DO-LOOP BASED ON EQUIVALENCE CLASSIFICIATION

In this paper, a new method for DO-loop parallelization based on the new collcept allocation-dependence and equivalence classification of iteration space is proposed. This method has many advantages: It is a general,ullified method for DO-loop parallelization. It is used in coarse grain parallel partitioning on MINID and SPMD. While partitioning iteration space, it also does the does the partition and computation partition such that these partitions are independent each other. It can extract the potential parallelism of program accurately. Combining with task-level parallelization vectorization and pipeline,it can extract parallelism thoroughly.

面向层次结构数据的增量特征选择

随着大数据时代的到来,数据样本量越来越多,维度越来越高,同时样本标签存在复杂的层次结构关系。采用包含策略,研究了基于依赖度的分层分类增量特征选择,解决了标签具有树结构且标签分布在任意节点的分层分类问题。首先,利用标签之间的层次结构,采用包含策略来缩小负样本空间。其次,使用模糊粗糙集理论,提出了一个基于包含策略的模糊粗糙集模型,设计了一个基于包含策略的依赖度计算算法和一个非增量特征选择算法。基于此,引入增量机制,提出了基于包含策略的依赖度增量更新方法,设计了两个基于两种策略的增量特征选择算法。最后,将此方法与基于兄弟策略的依赖度进行对比,通过实验验证了所提方法的可行性与高效性。

基于ISM-MICMAC的煤矿工人违章行为影响因素研究

为探究煤矿工人违章行为影响因素及其相互作用关系,建立了违章行为影响因素指标体系,并采用解释结构模型(ISM)和交叉影响矩阵相乘法(MICMAC),深入剖析了影响因素之间的逻辑关系,构建了影响因素的多级递接结构模型及驱动力-依赖度象限分类图。结果表明:煤矿工人违章行为影响因素可划分为4级3阶的多级递接结构;安全知识技能、安全意识水平、安全行为习惯、自保互保意识属于依赖簇,具有强依赖性,是影响违章行为的重要因素;安全生产投入、安全管理制度、矿领导安全理念、管理者安全意识、企业安全氛围属于独立簇,具有强驱动力,是影响违章行为的关键因素。

基于混合图神经网络的方面级情感分类

目前在方面级情感分类研究中,图卷积网络被应用于句法依赖树上构建方面词与上下文词的依赖关系。但是由于句法依赖树的不稳定性和语句的复杂性与不规范表达,这种改进较为有限。为解决上述问题,提出了一种基于混合图神经网络模型。在该模型中,为了深度提取方面词与上下文词的依赖关系,设计了应用于句法依赖树的多层图卷积网络。同时为提取词级依赖特征,设计了具有残差连接的图注意力网络(Res-GAT),其主要思想为以词级依赖关系特征作为补充,结合句法依赖关系进行方面级情感分类。通过在五个经典数据集上实验,证明了该模型相较于基线模型具有更优异的分类能力。

结合多种语言学特征的中文隐式情感分类

情感分析一直是自然语言处理中的热点研究方向,隐式情感分类指无显式情感词的情感分类任务,目前,隐式情感分析还处于起步阶段。隐式情感分析面临缺乏显式情感词、表达方式委婉、语义难以理解等问题,传统的情感分析方法如情感词典、词袋模型等难以生效,使得隐式情感分类任务更加艰巨。针对以上问题,提出了一种结合文本、词性与依存关系的图神经网络模型来进行隐式情感分类。具体来说,模型首先抽取文本的词性和依存特征,然后使用预训练语言模型BERT提取文本向量特征,从而构建了一个基于多种语言学特征的图注意力神经网络。该模型在SMP2021隐式情感识别公开数据集上进行了多次实验。实验结果表明,相较于多种基线模型,所提模型取得了较好的分类效果,证实了所提出的融合了多种语言学特征的隐式情感分类方法具有可行性和有效性。

基于AWI和GCN的方面级情感分类模型

目前大多数方面级情感分类研究都忽略了方面词的建模,以及方面词与上下文之间的交互信息,并且难以体现语法上与方面词有直接联系上下文单词的重要程度。针对上述问题,提出基于方面词交互(aspect word interaction,AWI)和图卷积网络(graph convolutional network,GCN)的方面级情感分类模型(AWI-GCN)。使用双向长短期记忆网络(bi-directional long short-term memory,Bi-LSTM)分别提取方面词和上下文的特征;采用GCN根据句法依存树进一步提取与方面词有直接语法联系的上下文情感特征;利用注意力机制学习方面词与上下文的交互信息,同时提取上下文中为方面词情感分类做出重要贡献的情感特征。针对3个公开数据集上的仿真实验结果表明,AWI-GCN模型相比当前代表模型取得了更好的情感分类效果。

融合BiLSTM的双图神经网络文本分类模型

采用图神经网络模型为整个语料库构建异构图处理文本分类任务时,存在难以泛化到新样本和词序信息缺失的问题。针对上述问题,提出了一种融合双图特征和上下文语义信息的文本分类模型。首先,为每个文本独立构建共现图和句法依存图,从而实现对新样本的归纳式学习,从双图角度捕获文本特征,解决忽略单词间依存关系的问题;其次,利用双向长短期记忆网络(bidirectional long short-term memory,BiLSTM)编码文本,解决忽略词序特征和难以捕捉上下文语义信息的问题;最后,融合双图特征,增强图神经网络模型的分类性能。在MR,Ohsumed,R8,R52数据集上的实验结果表明,相较于经典的文本分类模型,该模型能够提取更丰富的文本特征,在准确率上平均提高了2.17%,5.38%,0.61%,2.48%。

基于图卷积和注意力的方面级情感分类

为解决图注意力网络对边信息的忽视和固定卷积层数的方法不能自适应获取情感词信息的问题,提出一种基于图卷积和注意力的方面级情感分类模型。加入句法依存边信息提高对不同句法连接词的区分度;一个迭代注意力机制被设计用于建立方面词和句中所有词的关联关系,自适应选择全局词信息。模型在Twitter、Rest14和Rest16数据集上获得更好的性能。实验结果验证了该方法的有效性。

基于LaLI和GCN的方面级情感分类模型

图卷积网络(graph convolution network,GCN)和循环神经网络的方面级情感分类方法忽略了单词词性信息和方面词与上下文单词之间的位置信息,且难以突出方面与其关键情感词之间的联系和重要性。针对上述问题,提出了一种基于GCN并融合多方面信息的方面情感分类模型(LaLI-GCN)。使用双向长短期记忆网络提取语义信息,并设计融合算法引入单词的词性与位置信息(lexical and location information,LaLI);结合融合算法的结果用于设计增强算法去生成增强句法依存树,采用GCN融合语义信息和句法依存信息;根据掩码机制提取特定方面特征,利用交互注意力捕捉方面与上下文之间的交互信息完成情感分类。模型在三个公开数据集的实验证明了经过算法融合的词性与位置信息对于提升情感判别的有效性,且相较于当前代表模型有更好的情感分类效果。

结合句子序列与语法关系的方面级情感分类方法

为了研究句子结构关系对方面级情感分类模型性能的影响,针对当前方面级情感分类方法中过于重视句子中语法关系的作用,而忽视了句子的序列结构关系的问题,提出一种结合句子序列与语法关系的信息融合网络(sequence-syntax information fusion network,SYFN)模型。SYFN模型分别处理句子的序列与语法关系信息,并在融合2种结构关系信息的基础上进一步结合网络的高低层融合信息。这些改进措施使模型能够结合高低层网络的关系融合信息去处理各种复杂的句子关系,能够充分利用结构关系信息进行情感分类。实验结果表明,SYFN模型与基线模型相比性能有较明显的提升。

基于邻域覆盖约简的层次化规则学习算法

在大数据环境下的分类学习中,随着描述样本语义信息的丰富,数据的类别空间结构存在着层次化。然而,现有分层分类算法缺乏可解释性,为此本文提出了一种基于邻域覆盖约简的层次化规则学习算法。该算法框架主要包括:(1)定义了面向层次化结构数据的邻域覆盖约简模型;(2)定义了层次邻域系统中覆盖元的依赖度;(3)提出了一种基于覆盖元依赖度的层次化规则学习前向搜索算法。最后,实验表明本文所提算法的分类性能较优且具有较好的可解释性。

基于层次信息融合的声学场景分类

声学场景分类技术可以通过在公共区域中录制的音频分析出它的录制环境,在日常生活中发挥着重要的作用.与传统分类问题类与类之间没有关系不同,声学场景分类的类别间存在着层次结构关系(父类与子类),如机场和购物中心的父类为室内.而现有的方法在设计时并未考虑声学场景分类任务的这一特性,忽略了父类和子类间的依赖关系.因此,本文利用声学场景类别间的层次结构关系,提出了一种基于层次信息融合的声学场景分类方法.该方法为父类和子类分别设计了单独的分类器,在子类分类的过程中融合了父类的信息,并设计了层次依赖损失来对预测的父类和子类不匹配的情况进行惩罚.在TAU城市声学场景2020移动开发数据集上的实验结果表明,基于层次信息融合的方法有效地提升了声学场景分类模型的性能,分类准确率提升了1.1%.

基于粗糙集属性依赖度强化的交互式大数据特征分类

为了提高交互式大数据特征分类性能,提出基于粗糙集属性依赖度强化的特征分类方法.利用交互式大数据在粗糙集的属性依赖度,确定数据属性之间的关联关系.通过定义近似集强化交互式大数据粗糙集属性依赖度,明确数据状态量之间的幅值规律,并计算出交互式大数据之间的密度值.根据密度值确定交互式大数据分布的集中区域并提取其特征,构建目标函数计算出大数据的期望熵值.利用交互式大数据特征的增益信息值,实现特征分类.实验结果表明,文中方法在分类交互式大数据特征时,AUC值接近1.0,具有较高的应用价值;文中方法分类时的加速比高于4.0,提高了分类效率.

基于邻域粗糙集的多标记分类特征选择算法

多标记学习是一类复杂的决策任务,同一个对象可能同时属于多个类别.此类任务在文本分类、图像识别、基因功能分析等领域广泛存在.多标记分类任务往往由高维特征描述,存在大量无关和冗余的信息.目前已经提出了大量的单标记特征选择算法以应对维数灾难问题,但对于多标记的属性约简和特征选择却鲜有研究.将粗糙集应用于多标记数据的特征选择中,针对多标记分类任务,重新定义了邻域粗糙集的下近似和依赖度计算方法,探讨了这一模型的性质,进而构造了基于邻域粗糙集的多标记分类任务的特征选择算法,并给出了在公开数据上的实验结果.实验分析证明算法的有效性.