Role of ELMOs in cancer cell migration and engulfment

Metastasis is responsible for the majority of deaths related to cancer and results from several interconnected processes including cell proliferation,angiogenesis,chemotaxis,cell adhesion,migration,and invasion into the surrounding tissue.SDF-1αinduced chemotaxis plays an important role in cancer chemotaxis and metastasis.Binding of SDF-1α(CXCL12)to CXCR4 triggers activation of heterotrimeric G proteins that regulate actin polymerization and migration of cancer cells.

elmos推出用于汽车尾灯,具有功率管理专利技术的线性LED驱动器

最高输出可达3×55mA,恒流输出的E522.9x系列线性控制器德国elmos公司日前宣布推出基于E522.90/91/92/93系列芯片用于汽车尾灯LED驱动器的系列解决方案。E522.9x系列的每个通道输出电流为14mA至55mA可调范围,并联工作时单颗芯片最高输出165mA,即使在恶劣的散热条件下,这款拥有专利的电源管理芯片也可确保LED的恒流特性。该方案可用把增加的功耗通过外部取样电阻的设计选择。

基于ELMO-TextCNN-Reformer的bilibili评论情感分析

面向bilibili短视频评论数据的情感分析,旨在挖掘视频观看者对短视频的看法,使视频作者也可以快速得到自己想要的评价,进而对后续作品做出改进。针对短视频评论更新快、词汇新颖、评论过长、一词多义等因素造成的短视频评论情感分析准确率低的问题,文章构建了bilibili短视频评论数据集,并提出了ELMO(Embedding From Language Model)用以构建动态词向量解决一词多义及新词的问题,通过构建TextCNN和Reformer双通道神经网络结构来提取局部、全局特征。由于Reformer采用了局部敏感哈希的特殊注意力机制,更能联系全局特征,之后将两者得到的结果拼接送入分类器得出情感分析的结果,并将得出的结果与多个深度学习模型进行对比。

面向金融新闻的命名实体识别方法

命名实体识别是自然语言处理的基本任务之一。针对金融新闻领域中传统模型识别效果一般的问题,本文提出了一种基于迁移语料库训练的ELMo-BiLSTM-CRF模型的方法。实验通过对金融新闻数据集进行标注和分词等处理,使用迁移训练的ELMo模型进行词向量生成,BiLSTM模型提取文本特征,最后利用条件随机场(CRF)对文本特征进行分类。与其他传统模型相比,该方法在实体识别的精准率、召回率和F1值上均有显著提升。

吞噬细胞运动蛋白1在IL-8诱导的乳腺癌细胞的侵袭和转移中发挥重要作用

目的探讨吞噬细胞运动蛋白1(engulfment and cell motility 1,ELMO1)在IL-8诱导的乳腺癌细胞侵袭和转移过程中的作用。方法采用趋化运动实验检测不同浓度IL-8刺激下乳腺癌细胞的趋化运动能力;采用Western blot检测乳腺癌细胞中ELMO1的表达情况;利用小RNA干扰技术,瞬时转染乳腺癌细胞MDA-MB-231,用过表达质粒上调乳腺癌细胞MCF-7中ELMO1的表达;应用趋化运动实验和Transwell侵袭实验检测各组转染细胞的趋化和侵袭能力。结果趋化运动实验结果显示,在IL-8刺激下,乳腺癌细胞MDA-MB-231和MCF-7的运动能力明显增强,具有剂量依赖性;Western blot结果显示ELMO1在si ELMO1/MDA-MB-231细胞中的表达明显降低,而在MCF-7/ELMO1细胞中的表达明显增高;趋化运动实验结果显示在IL-8刺激下,Si ELMO1/MDA-MB-231细胞组的趋化运动能力明显降低,MCF-7/ELMO1细胞组的趋化运动能力明显增强;Transwell侵袭实验结果显示在IL-8刺激下,敲除ELMO1明显降低MDA-MB-231细胞的侵袭能力,过表达ELMO1明显增强MCF-7细胞的侵袭能力。结论 IL-8能促进MDA-MB-231和MCF-7细胞的趋化运动和侵袭能力,而ELMO1在IL-8诱导的乳腺癌细胞趋化和侵袭作用中发挥重要作用。

鸟嘌呤核苷交换因子Dock180与Elmo1在卵巢癌细胞中的共表达

目的寻找卵巢癌细胞中鸟嘌呤核苷交换因子Dock180与Elmo1呈相互协同作用的依据。方法采用Western blot检测人卵巢癌组织、良性肿瘤组织及正常卵巢组织中的Dock180与Elmo1的表达水平;免疫组化检测卵巢癌组织中Dock180与Elmo1的分布;免疫荧光检测Dock180与Elmo1在卵巢癌细胞SKOV3中的定位分布;检测Dock180表达缺失的SKOV3细胞中内源性Elmo1的表达水平。结果 Dock180与Elmo1在人卵巢癌组织中的表达水平呈明显正相关(r=0.829,P<0.05),在卵巢癌组织中二者的表达水平显著高于卵巢良性肿瘤组织组和卵巢正常组织组(P<0.05)[Dock180:(1.054±0.114)、(0.518±0.126)、(0.425±0.072);Elmo1:(0.864±0.114)、(0.374±0.076)、(0.300±0.105)]。免疫组化及细胞化学染色均显示二者在人卵巢癌组织和细胞内的分布具有一致性。而且在Dock180表达缺失细胞中,Elmo1的表达水平也同时降低。结论 Dock180与Elmo1在促进卵巢癌的癌变过程中可能具有相互协同作用。

蜂胶中CAPE对HGF诱导的HepG2细胞侵袭和迁移能力的抑制作用

目的:探讨咖啡酸苯乙酯(phenethyl caffeate,CAPE)对肝细胞生长因子(hepatocyte growth factor,HGF)诱导的人肝癌细胞系(Hep G2细胞)侵袭和迁移的抑制作用及机制。方法:将实验分为对照组(HGF=0 ng/m L;CAPE=0μmol/L)、诱导组(HGF=20 ng/m L;CAPE=0μmol/L)和荷药组(HGF=20 ng/m L;CAPE分别为2.5、5.0、7.5、10.0μmol/L),测定细胞黏附率,Transwell小室模拟细胞侵袭和迁移能力以及划痕实验测定细胞迁移率,蛋白免疫印迹(Western blot)法检测ELMO1、MAP4K4和FNDC3B表达。结果:与对照组比较,诱导组表现出显著的促进细胞黏附和迁移作用,荷药组中表现出对HGF诱导的细胞黏附和迁移具有显著的抑制作用(P<0.05)。Transwell小室实验结果表明CAPE对HGF诱导的Hep G2细胞侵袭和迁移作用有抑制作用。Western blot结果显示,诱导组和对照组相比ELMO1和MAP4K4表达显著上调,荷药组和诱导组相比ELMO1和MAP4K4表达显著下调(P<0.05);诱导组表达FNDC3B较对照组显著下降(P<0.05),荷药组FNDC3B表达量较诱导组增加,但结果不显著(P>0.05)。结论:CAPE能够抑制HGF诱导的Hep G2细胞的黏附、侵袭和迁移。CAPE通过上调FNDC3B和下调ELMO1、MAP4KE的表达,抑制Hep G2细胞的侵袭和迁移能力。

基于多语义融合的反讽识别

反讽是一种复杂的语言现象,被广泛应用于社交媒体中。如何让计算机具有识别反讽的能力,成为了自然语言处理研究领域的热门研究内容之一。该文针对反讽识别中缺乏上下文语境信息和修辞表达信息的问题,提出了基于多语义融合的反讽识别方法。该方法采用ELMo从大规模反讽文本中训练得到领域词嵌入表示,并融合基于词性和基于风格信息的语义表示,使用双向长短时记忆网络和卷积神经网络进行反讽识别。实验结果表明,所提出模型能够从多个维度提取反讽文本的潜在语义特征,在公开数据集IAC上的实验性能有显著提升。

融合情感词典与上下文语言模型的文本情感分析

词嵌入技术在文本情感分析中发挥着重要的作用,但是传统的Word2Vec、GloVe等词嵌入技术会产生语义单一的问题。针对上述问题提出了一种融合情感词典与上下文语言模型ELMo的文本情感分析模型SLP-ELMo。首先,利用情感词典对句子中的单词进行筛选;其次,将筛选出的单词输入字符卷积神经网络(char-CNN),从而产生每个单词的字符向量;然后,将字符向量输入ELMo模型进行训练;此外,在ELMo向量的最后一层加入了注意力机制,以便更好地训练词向量;最后,将词向量与ELMo向量并行融合并输入分类器进行文本情感分类。与现有的多个模型对比,所提模型在IMDB和SST-2这两个数据集上均得到了更高的准确率,验证了模型的有效性。

ON-LSTM和自注意力机制的方面情感分析

方面情感分析是更细粒度的文本情感分析,传统的方法是采用长短时记忆神经网络和注意力机制相结合,但实际并未考虑到方面情感特征项与句子上下文之间的联系,并且在预训练阶段通常使用静态语言模型,无法根据需要调整输入词向量.针对以上两个问题,本文提出一种基于有序神经元长短时记忆和自注意力机制的方面情感分析模型(ON-LSTM-SA).首先,利用深层语境化词表征(ELMo)进行语料的预训练.其次,在隐藏层采用ON-LSTM神经网络模型从上下文的左右两个方向同时进行训练,获取方面情感特征项与句子之间的层级结构关系.最后,根据自注意力机制计算内部的词依赖关系.该模型通过在SemEval2014和SemEval2017中的Laptop、Restaurant和Twitter三个数据集上进行实验,与传统LSTM模型相比分别提升了2.1%、5.9%和6.5%.

ELMO1在肝细胞癌中的表达及对肝癌细胞株迁移能力的影响

目的探讨ELMO1蛋白在肝细胞癌中的表达情况及其对肝癌细胞株迁移能力的影响。方法利用Western blot技术检测ELMO1蛋白在肝癌组织和不同肝癌细胞株中的表达。构建过表达ELMO1的质粒及合成靶向抑制ELMO1表达的siRNA,分别转染至人肝癌细胞株SK-Hep-1中,利用Western blot技术检测ELMO1蛋白的表达及细胞Rac1的活性,用Transwell法检测细胞的侵袭能力。结果 ELMO1在正常肝细胞株LO_2和转移潜能最弱的HepG2中表达最低,在转移潜能最强的SK-HEP-1中表达最高。ELMO1在肝癌组织中的表达均高于癌旁组织。与转染空载体的SK-Hep-1细胞相比,转染ELMO1表达质粒的SK-Hep-1细胞中ELMO1的表达明显上调,细胞Rac1活性明显增强,Transwell穿过膜的细胞明显增多(P<0.05)。与转染阴性对照siRNA的SK-Hep-1细胞相比,转染ELMO1 siRNA的细胞中ELMO1的表达明显下调,细胞Rac1活性明显减弱,Transwell穿过膜的细胞数明显减少(P<0.05)。结论 ELMO1在肝细胞癌中的表达明显升高,促进细胞的迁移。

基于联合向量和神经网络的事件因果关系抽取

事件关系抽取是自然语言处理领域中一项重要的语义处理任务。针对当前事件因果关系抽取研究中存在词汇特征不符合上下文语境、语义特征不足等问题,提出了基于联合词向量和Attention-BiGRU网络的事件因果关系抽取方法。该方法把因果关系抽取转化为分类问题,首先利用word2vec和ELMO模型对CEC语料进行表示,形成事件关系对的文本表示模型,以获取词向量矩阵及考虑文本语境的动态词特征,从而构成联合向量;然后利用Attention-BiGRU网络,深层提取语义特征信息,并对特征进行权重调整,突出重要词汇对因果关系抽取的贡献;最后将加权特征输入softmax分类器进而完成事件因果关系的抽取。在数据集上进行对比实验,该方法取得了88.56%的F1值,结果表明所提出方法的有效性。

基于笔画ELMo和多任务学习的中文电子病历命名实体识别研究

近年来,电子病历文本数据不断增长,这为医学研究提供了丰富的知识来源.结合领域需求,采用有效的文本挖掘技术从电子病历文本中自动快速、准确地获取医疗知识,将对医疗健康领域的研究产生极大的推动作用.中文临床电子病历命名实体识别作为中文医学信息抽取的基本任务,已经受到了广泛关注.目前大多数中文电子病历实体识别工作都是在传统通用的文本表示向量基础上,通过特征工程来提升模型在医疗领域上的性能,缺乏适合中文生物医学特定领域的预训练表示向量.此外,目前现存的中文电子病历标注数据十分稀缺,标注电子病历实体需要具备专业的医学背景知识,且耗时耗力.针对这些问题,本文提出了一种基于笔画ELMo和多任务学习的中文电子病历实体识别方法.首先以笔画序列为输入对ELMo表示学习方法进行改进,利用海量无标注的中文生物医学文本学习上下文相关且包含汉字内部结构信息的笔画ELMo向量,然后构建基于多任务学习的神经网络模型来充分利用现存数据提升模型性能.此外,本文还系统地比较了实体识别常用额外特征(包括词向量、词典和部首特征)以及主流神经网络模型(包括CNN、BiLSTM、CNN-CRF和BiLSTM-CRF模型)在中文电子病历实体识别任务上的性能.实验结果表明,在该任务上BiLSTM-CRF模型获得了比其它模型更好的结果,常用额外特征中词典特征最为有效.相比其它现存方法,本文提出的基于笔画ELMo和多任务学习的神经网络模型在CCKS17和CCKS18 CNER数据集上都获得了更好的结果,F值分别为91.75%和90.05%.

融合基于语言模型的词嵌入和多尺度卷积神经网络的情感分析

针对Word2Vec、GloVe等词嵌入技术对多义词只能产生单一语义向量的问题,提出一种融合基于语言模型的词嵌入(ELMo)和多尺度卷积神经网络(MSCNN)的情感分析模型。首先,该模型利用ELMo学习预训练语料,生成上下文相关的词向量;相较于传统词嵌入技术,ELMo利用双向长短程记忆(LSTM)网络融合词语本身特征和词语上下文特征,能够精确表示多义词的多个不同语义;此外,该模型使用预训练的中文字符向量初始化ELMo的嵌入层,相对于随机初始化,该方法可加快模型的训练速度,提高训练精度;然后,该模型利用多尺度卷积神经网络,对词向量的特征进行二次抽取,并进行特征融合,生成句子的整体语义表示;最后,经过softmax激励函数实现文本情感倾向的分类。实验在公开的酒店评论和NLPCC2014 task2两个数据集上进行,实验结果表明,在酒店评论数据集上与基于注意力的双向LSTM模型相比,该模型正确率提升了1.08个百分点,在NLPCC2014 task2数据集上与LSTM和卷积神经网络(CNN)的混合模型相比,该模型正确率提升了2.16个百分点,证明了所提方法的有效性。

Elmo系列产品在血管造影仪上的应用

以Elmo系列产品血管造影仪上的应用介绍Elmo系列产品,介绍CAN总线控制方式的优点,以及应用Elmo Maestro对血管造影仪定位控制。

Elmo20/460型直线电机驱动器及其调试

Elmo20/460是直线电机驱动器,并配备有专用的控制软件及相关的程序,能方便快捷地与配套电机进行调试;详细介绍了其调试步骤及其硬件接线图。

基于ELMo和Transformer混合模型的情感分析

针对循环神经网络模型无法直接提取句子的双向语义特征,以及传统的词嵌入方法无法有效表示一词多义的问题,该文提出了基于ELMo和Transformer的混合模型用于情感分类。首先,该模型利用ELMo模型生成词向量。基于双向LSTM模型,ELMo能够在词向量中进一步融入词语所在句子的上下文特征,并能针对多义词的不同语义生成不同的语义向量。然后,将得到的ELMo词向量输入Transformer模型进行情感分类。为了实现分类,该文修改了Transformer的Encoder和Decoder结构。ELMo和Transformer的混合模型是循环神经网络和自注意力的组合,两种结构可从不同侧面提取句子的语义特征,得到的语义信息更加全面、丰富。实验结果表明,该方法与当前主流方法相比,在NLPCC2014 Task2数据集上分类正确率提高了3.52%;在酒店评论的4个子数据集上分类正确率分别提高了0.7%、2%、1.98%和1.36%。

域信息共享的方法在蒙汉机器翻译中的应用

蒙汉翻译属于低资源语言的翻译,面临着平行语料资源稀缺的困难,为了缓解平行语料数据稀缺和词汇表受限引发的翻译正确率低的问题,利用动态的数据预训练方法ELMo(Embeddings from Language Models),并结合多任务域信息共享的Transformer翻译架构进行蒙汉翻译。利用ELMo(深层语境化词表示)进行单语语料的预训练。利用FastText词嵌入算法把蒙汉平行语料库中的上下文语境相关的大规模文本进行预训练。根据多任务共享参数以实现域信息共享的原理,构建了一对多的编码器-解码器模型进行蒙汉神经机器翻译。实验结果表明,该翻译方法比Transformer基线翻译方法在长句子输入序列中可以有效提高翻译质量。

基于预训练语言模型词向量融合的情感分析研究

针对传统情感分类模型的分类效果不足,无法准确地捕捉词语之间关系的问题,提出一种基于预训练语言模型词向量融合的GE-BiLSTM(Glove-ELMO-BiLSTM)情感分析模型。通过预训练语言模型ELMO以语言模型为目的训练词向量,再与传统的Glove模型的训练结果进行运算融合,结合了全局信息以及局部上下文信息,增加了词向量矩阵的稠密度,词语之间的特征得到更好的表达,结合BiLSTM神经网络可以更好地捕捉上下文信息的关系。实验结果证明:GE-BiLSTM情感分析模型可以达到更好的分类效果,准确率比传统模型提高了2.3百分点,F1值提升了0.024。

融合ELMo词嵌入的多模态Transformer的图像描述算法

图像描述任务旨在针对一张给出的图像产生其对应描述。针对现有算法中语义信息理解不够全面的问题,提出了一个针对图像描述领域的多模态Transformer模型。该模型在注意模块中同时捕捉模态内和模态间的相互作用;更进一步使用ELMo获得包含上下文信息的文本特征,使模型获得更加丰富的语义描述输入。该模型可以对复杂的多模态信息进行更好地理解与推断并且生成更为准确的自然语言描述。该模型在Microsoft COCO数据集上进行了广泛的实验,实验结果表明,相比于使用bottom-up注意力机制以及LSTM进行图像描述的基线模型具有较大的效果提升,模型在BLEU-1、BLEU-2、BLEU-3、BLEU-4、ROUGE-L、CIDEr-D上分别有0.7、0.4、0.9、1.3、0.6、4.9个百分点的提高。