基于LDA-Word2vec的图书情报领域机器学习研究主题演化与热点主题识别

[目的/意义]在人工智能技术及应用快速发展与深刻变革背景下,机器学习领域不断出现新的研究主题和方法,深度学习和强化学习技术持续发展。因此,有必要探索不同领域机器学习研究主题演化过程,并识别出热点与新兴主题。[方法/过程]本文以图书情报领域中2011—2022年Web of Science数据库中的机器学习研究论文为例,融合LDA和Word2vec方法进行主题建模和主题演化分析,引入主题强度、主题影响力、主题关注度与主题新颖性指标识别热点主题与新兴热点主题。[结果/结论]研究结果表明,(1)Word2vec语义处理能力与LDA主题演化能力的结合能够更加准确地识别研究主题,直观展示研究主题的分阶段演化规律;(2)图书情报领域的机器学习研究主题主要分为自然语言处理与文本分析、数据挖掘与分析、信息与知识服务三大类范畴。各类主题之间的关联性较强,且具有主题关联演化特征;(3)设计的主题强度、主题影响力和主题关注度指标及综合指标能够较好地识别出2011—2014年、2015—2018年和2019—2022年3个不同周期阶段的热点主题。

基于K-means与Word2vec的哺乳文胸评论主题挖掘研究

目的为了了解消费者在网络平台购买哺乳文胸时的关注侧重点,文章从在线评论中抽取有效关键词构建哺乳文胸主题,并通过计算主题的重要程度协助商家了解消费者关注重点方向。方法选用TF-IDF关键词抽取算法,结合K-means和Word2vec进行语义聚类、主题识别、主题词挖掘及主题重要度计算。结果哺乳文胸评论文本聚类后的主题重要程度排名是:产品品质(45.47%)、产品外观(35.83%)、产品服务(18.79%)。结论通过该方法能够有效的识别和构建哺乳文胸主题及主题词,同时,通过主题的重要程度,能够了解消费者对于网络平台购买哺乳文胸时关注的重点方向,为哺乳内衣企业进行产品改善及生产等提供理论参考。

基于Word2Vec和决策树的故障定位技术

利用Word2Vec方法对Java源代码进行深层语义编码,生成文件级和行级的语义向量,并将其用作输入数据来训练决策树模型,以实现精确的文件级别和行级别故障定位,优化故障检测过程,构建一个综合文件级别与行级别分析的高效故障定位框架.实验结果表明:该模型在各项目中的故障定位准确率均高于83%.

关于Word2Vec文本分类效果若干影响因素的分析

Word2Vec向量模型参数众多,在不同情景下分类效果不一,分析其影响因素很有必要。从Word2Vec模型基本原理出发,分析讨论了预训练语料、词向量预训练参数以及分类模型参数三大因素对模型分类效果的影响。结果表明限定域预料效果好于广域预料;预训练参数中向量维度越大,效果越好,窗口大小存在最优值,分类算法影响不大;分类模型参数中学习率、激活函数、批次大小对模型分类效果影响较大,训练轮次相对较小。

基于SVM和Word2vec的微博评论情感识别模型

微博作为高互动性的社媒平台,其中富含大量主观性文本数据。为挖掘评论文本中潜在的信息价值,针对传统方法中存在的语义缺失和过度依赖背景知识等问题,提出一种基于SVM和Word2vec的情感识别模型。通过Word2vec模型中的Skip-gram方法利用当前语境的中心词预测上下文结构,将词语映射为词向量,进而转化成向量矩阵,输入至SVM模型进行训练与分类。实验结果表明,模型的准确率为0.943,召回率为0.941,F1值为0.946,具有良好的泛化性。

Word2Vec-KNN技术支持下潮流玩具质量检测模型研究

随着人们生活水平的提高,越来越多的消费者更加注重所购产品的质量,特别是在儿童玩具方面。质量不合格的玩具产品会给儿童带来诸多影响,包括但不限于安全隐患及对儿童健康产生的影响。然而,工业制造中的产品质量检测报告种类繁多且不易被理解,无法直观体现产品质量。因此,文章提出了一种基于Word2Vec与K最近邻分类算法相结合的产品质量评估模型。该模型能够通过产品质量报告对某玩具进行评估,从而判断其质量。实验结果表明,在数据集尺寸达到900时,K均值聚类算法模型、局部加权最近邻算法模型和混合模型算法模型的准确率分别为0.84,0.91与0.96,损失函数值分别为0.07,0.05及0.03,证明所提模型能够对玩具产品进行准确评估,从而为消费者和质量监管部门提供一定的决策支持。

融合Word2Vec的半积累引用共词网络的领域主题演化研究

发现并厘清学科及领域的发展路径和演化脉络,对科学研究和学科发展具有重要意义。针对传统共词分析法的不足和主题演化分析维度的单一性问题,本文提出了一种基于引用共词网络的主题发现与演化分析方法,并以情报学领域为例进行了实证研究。通过引用关系定义“引用共现”关联,并融合词嵌入技术构建关键词网络;使用社区探测法识别领域主题,采用后离散分析法,从内容结构和发展趋势两个角度进行学科主题演化分析,并可视化呈现主题演化路径及发展趋势。研究结果表明,本文所构建网络比传统共词网络能呈现粒度更优的主题聚类效果,并且能较好地呈现主题动态演化趋势,是共词分析法的有效补充。

基于word2vec的内容过滤科技成果推荐模型研究

针对科技成果转化难、提供方与需求方信息不对称等问题,基于word2vec构建了内容过滤推荐改进模型,以期提高科技成果推荐效率和转化率。通过word2vec对科技服务需求与科技成果的文本数据进行建模,提取词向量,再使用TF-IDF方法提取关键词,最后利用提取的关键词词向量的余弦相似度Sim值进行匹配,以寻找出与科技服务需求匹配的科技成果。利用公共科技服务平台“科惠网”的现代农业领域数据集对改进模型、均值word2vec模型、textrank+word2vec模型、TF-IDF余弦相似度模型进行实验,使用不同领域数据集进行对比分析。结果表明:改进模型在精确率、召回率、F 1值、ROC曲线及AUC值上表现较好,具有较高的应用价值,能够更好地帮助科技服务平台完成推荐。

一种基于Word2Vec的M-TextRank文本摘要模型

针对传统TextRank摘要提取算法导致大量的冗余数据的问题,提出了一种改进后的Word2Vec+M-TextRank模型。首先通过使用神经网络预训练模型Word2Vec将文本数据编码得到具有高相关性、高抽象型和高概括性特征的词向量,然后使用改进后的M-TextRank算法依据句权重构建句向量图,最后使用共现关系构造任两点之间的边,迭代传播各节点的权重进行文本摘要提取。实验结果表明,提取方法对于中文数据在保证内容的全面性的同时,尽可能地减少冗余信息,提高摘要的可读性和可用性,同时提高了模型的准确性和效率。

基于CiteSpace、Word2vec和LDA主题模型的国内技术接受模型领域研究现状和演化分析

[目的/意义]旨在梳理国内技术接受模型领域研究成果,总结国内学术界在技术接受模型领域研究热点,同时对研究主题的演化进行分析,为技术接受模型后续研究提供借鉴和参考。[方法/过程]采用CiteSpace、Word2vec和LDA主题模型,首先对在知网上检索的文章进行清理与信息采集,导出相应的Refworks文件。然后借助于软件CiteSpace,从作者、机构、关键词等方面,对技术接受模型研究进行可视化分析,再通过Word2vec和LDA主题模型对文献摘要进行分析,总结得出技术接受模型研究的热点主题及主题演化。[结果/结论]研究发现,技术接受模型依然是解决新技术的采纳和持续使用的重要方法,但要考虑多因素影响,增强其扩展性和适应性,重视用户体验和情感因素。

一种Word2vec构建词向量模型的实现方法

Word2vec是一种基于简单神经网络的自然语言处理方法,是一种词嵌入技术,可用于构建高维词向量。研究针对Word2vec词向量表示方法进行模型构建和分析,通过NLPCC2014语料训练,将词映射到高维词向量空间中,完成了Word2vec的功能实现以及可视化输出。实验中进一步针对CBOW模型与Skip-gram模型,这两种Word2vec中的重要模型进行对比研究,输出结果表明:在通过大语料训练中文词向量时,Skip-gram模型在新词识别上具有明显优势,综合模型准确性与时间性能来说,总体可靠性更优。

基于Word2Vec的中文文本零水印算法

经典的文本鲁棒水印会修改文本内容或格式,从而降低文本的保真性和可用性,文章提出了一种基于Word2Vec的中文文本零水印算法,能够在不修改文本信息的前提下实现水印的生成和检测。首先对文本数据进行分词,统计词频并提取特征词,运用Word2Vec生成相应的特征词向量;然后采用SVD(奇异值分解)算法对其进行降维,并结合AES(高级加密标准)加密生成最终的零水印。水印检测时,通过对比SVD分解产生的特征值和特征向量判断版权归属。基于理论概述和实验结果综合分析,文章提出的零水印算法不需要对原始文本做任何修改,能够抵抗一定程度的增删、句型转换、同义词替换等攻击,具有一定的鲁棒性,切实有效地解决了文本的版权保护问题。

基于加权Word2Vec-XGBoost的情感分析方法研究

针对网络评论信息数据不平衡问题,提出了基于加权Word2Vec-XGBoost的情感分析方法,以提高情感分析的准确率。首先,利用TF-IDF算法对Word2Vec词向量模型进行加权,并将其作为模型输入;然后,利用XGBoost模型进行情感分析。实验结果表明,加权Word2Vec-XGBoost模型比传统的逻辑回归和决策树分类模型的情感分类准确率更高。

基于LDA-TF-IDF和Word2vec文档表示

针对自然语言处理中传统文档表示方法上下文语义信息不全,干扰词多等问题,提出了一种基于LDA-TFIDF和Word2vec的文档表示方法。首先对数据集进行分词、去停用词等预处理;其次,利用LDA主题模型和TF-IDF抽取文档中具有表征性的特征词,并计算对应权重;最后,应用数据集训练Word2vec模型获取词向量,并将抽取的特征词权重融入Word2vec词向量构建文档语义向量。通过分类任务对该方法进行验证,实验结果表明,与已有方法相比该方法在垃圾短信数据集上表现效果更佳,验证了方法的有效性。

基于TF-IDF和word2Vec的中文文本自动摘要模型

随着互联网时代的数据爆炸,在短文本信息数量迅速增长的环境下,为了更好地进行中文本摘要模型的计算,本文针对短文本的文本特征提取和相似度计算进行了深入研究。本文将优化的TF-IDF模型和Word2Vec模型结合起来,进而提出一种兼顾短文本统计特征和语义特征的合并加权Word2Vec和TF-IDF的文本特征提取算法,将文本进行向量化表示;随后,在文本的相似度算法中,基于短文本的特征,选取了余弦相似度算法,对短文本间相似度值进行了有效计算。实验结果表明,使用TF-IDF和Word2Vec结合模型与传统单个模型相比,生成出的文摘准确性更高,质量更好。

基于Word2vec和K-Means算法的勘探开发成果文档聚类研究

根据渤海油田七年行动计划部署,现阶段勘探开发研究成果数量激增.目前,渤海油田勘探开发研究成果入库前分类工作主要依靠传统手动方式,效率低下且无法满足成果文档及时共享的需求.针对以上问题,提出一种基于Word2vec和卷积神经网络(convolutional neural networks, CNN)的文本特征提取方法并结合K-Means聚类算法对勘探开发阶段的成果文档进行自动分类.该方法在预训练word2vec向量的基础上基于自有开发成果文档标题语料库进行再训练,将低维向量的形式表征及文本的深层语义特征相结合,最后采用聚类算法对成果文档进行聚类.实验结果表明,在搜集的近7万份勘探开发成果文档数据集中,采用该方法使文档分类效率比手工方法提升了91.8%,标签获取准确率达93.6%,效率上和准确率都实现了较大提升.

新媒体与企业管理研究的中文文献主题演化——基于word2vec与LDA模型的可视化分析(2017—2023)

相对于传统的LDA模型,引入word2vec的LDA模型在进行主题演化分析时,可以更好地理解并追踪主题的演变过程。结合word2vec与LDA模型,对2017年至2023年有关“新媒体与企业管理”的中文文献进行主题演化分析,生成主题演化桑基图。结果显示:在第一阶段(2017年至2019年),大部分研究主要集中在新媒体环境下的企业公共关系管理;在第二阶段(2020年至2023年),除了延续既有的主题,部分研究焦点转移到市场竞争、数字转型、人力资源及消费者等其他情境和要素。未来的研究可以进一步挖掘新媒体的潜力,更好地帮助企业应对来自市场竞争和数字化转型的挑战,同时也要关注对应的技术和伦理风险。

基于Word2Vec及TextRank算法的长文档摘要自动生成研究

近年来,如何从大量信息中提取关键信息已成为一个急需解决的问题。针对中文专利长文档,提出一种结合Word2Vec和TextRank的专利生成算法。首先利用Python Jieba技术对中文专利文档进行分词,利用停用词典去除无意义的词;其次利用Word2Vec算法进行特征提取,并利用WordCloud对提取的关键词进行可视化展示;最后利用TextRank算法计算语句间的相似度,生成摘要候选句,根据候选句的权重生成该专利文档的摘要信息。实验表明,采用Word2Vec和TextRank生成的专利摘要质量高,概括性也强。

基于Word2vec的程序员行为推荐模型研究

本文提出一种针对程序员在进行软件项目开发管理时的行为推荐模型。本模型借鉴了自然语言处理领域的Word2vec技术,利用Word2vec模型学习程序员某一项目下基于时序的行为记录信息,获得程序员行为在空间上的向量表示,从而得到程序员及其行为之间的相似度进行推荐。主要工作包括训练数据集的采集及预处理,行为词向量模型搭建和训练,并结合了Word2vec算法和基于该算法下的doc2vec推荐模型应用在推荐系统上的效用性。实验主要通过选择合适的维度和窗口值,以及检验不同稀疏度的数据集对推荐效果的影响。结果表明该模型在程序员行为推荐上具有显著效果。

基于Word2Vec与LSTM病历文本分类研究

医疗系统的不断完善,产生了大量的医疗电子病历文本数据,其中含有数量可观的有借鉴性的医疗文本信息,而在对电子病历文本挖掘和利用方面,一直存在有效信息分类难度大、利用率低等问题。为了解决以上问题,设计一种基于Word2Vec与长短期记忆神经网络(LSTM)的文本分类模型,使用Word2Vec模型计算文本向量作为LSTM的输入,构建两组对照模型,分别是基于支持向量机(SVM)的文本分类算法以及基于卷积神经网络(CNN)的文本分类算法,实验结果显示该方法在分类效果上优于其它对照模型,具有一定的实用价值。