SaGE:基于句法感知图卷积神经网络和ELECTRA的中文隐喻识别模型

隐喻是人类语言中经常出现的一种特殊现象,隐喻识别对于自然语言处理各项任务来说具有十分基础和重要的意义。针对中文领域的隐喻识别任务,该文提出了一种基于句法感知图卷积神经网络和ELECTRA的隐喻识别模型(S yntax-a ware G CN with E LECTRA,SaGE)。该模型从语言学出发,使用ELECTRA和Transformer编码器抽取句子的语义特征,将句子按照依存关系组织成一张图并使用图卷积神经网络抽取其句法特征,在此基础上对两类特征进行融合以进行隐喻识别。该模型在CCL 2018中文隐喻识别评测数据集上以85.22%的宏平均F 1值超越了此前的最佳成绩,验证了融合语义信息和句法信息对于隐喻识别任务具有重要作用。

基于Electra语言模型的地理命名实体识别

地理命名实体识别是构建高质量地理知识图谱的关键环节,需要从大量的非结构化文本中提取地理实体名称,为了提高识别效率和自动化水平,文章选取百度百科和中文地址要素解析任务的部分数据构建语料库,采用轻量化语言模型Electra与CRF相结合对唐山市地区的地理命名实体进行了自动识别研究。研究表明:Electra-CRF语言模型有很好的鲁棒性,以唐山市百度百科词条为例进行模型评估,该方法对于地理命名实体的平均解析准确率达80%以上,可以运用在构建地理知识图谱或者地理知识库的命名实体识别任务当中。

QV-Electra:引入Query-Value注意力机制的预训练文本分类模型

预训练语言模型的作用是在大规模无监督语料上基于特定预训练任务获取语义表征能力,故在下游任务中仅需少量语料微调模型且效果较传统机器学习模型(如CNN、RNN、LSTM等)更优。常见的预训练语言模型如BERT、Electra、GPT等均是基于传统Attention机制搭建。研究表明,引入Query-Value计算的QV-Attention机制效果较Attention机制有所提升。该文模型QV-Electra将QV-Attention引入预训练模型Electra,该模型在保留Electra预训练模型参数的同时仅通过添加0.1%参数获得性能提升。实验结果表明,QV-Electra模型在同等时间的情况下,相较于传统模型以及同等参数规模预训练模型能取得更好的分类效果。

基于ELECTRA与神经网络模型的中文医疗知识图谱实体识别

如今随着互联网的发展,数据呈现的方式大不相同,然而知识图谱的出现,给人们提供了一种更好地组织、管理和理解海量信息的能力.知识图谱质量的高低与实体以及实体之间的关系存在密不可分的关系,从实体角度出发,研究实体识别方法.如今大多数深度学习模型对实体识别效果不错,但在语义信息方面没有考虑上下文信息,并且模型体积庞大,参数数量多,导致模型预测结果与真实结果误差大,能耗高.提出了一种ELECTRA模型与神经网络模型结合来进行命名体识别的方法,该方法降低能耗以及提升训练速度,同时又提高了实体识别的准确率等.该组合模型分为三块:首先对ELECTRA模型进行改进,输入文本进行[cls]以及[seq]处理,避免实体边界模糊问题.然后进行随机15%的Mask机制,经生成器预测,再经判别器判别,形成字向量.其次将字向量引入双向长短期记忆网络BiLSTM中,进行上下文语义增强后将句子序列打分.最后通过条件随机场CRF层找到最优的序列标签.实验结果表明,该方法在医疗语料库进行实体识别时,准确率为97.94%、召回率为95.41%、F1值为95.44%、精确率为95.46%,与已有的方法相比,提出的方法效果提升明显.

融合ELECTRA和文本局部信息的中文语法错误检测方法

语法错误检测是自然语言处理领域的一项基本任务,其目标是自动识别文本中存在的错别字、语法及语序错误等。与其他语言相比,中文语法灵活多变且缺乏时态、语态等标志性信息,因此,文本的局部信息对于中文语法错误检测具有重要作用。传统的机器学习方法难以检测文本中存在的语法错误,而现有深度学习方法在纠错过程中不能充分利用文本的局部信息,导致语法错误检测效果不佳。建立一种融合ELECTRA和文本局部信息的中文语法错误检测模型ELECTRA-GCNN-CRF。将语法错误检测视为序列标注任务,使用ELECTRA预训练语言模型对文本进行表征。采用卷积神经网络提取文本的局部位置和语义信息,并引入残差门控机制,降低无效信息带来的影响。通过CRF模型学习标签间的内在关联关系,输出符合标注规则的语法错误标签序列。在NLPTEA中文语法错误检测数据集上的实验结果表明,ELECTRA-GCNN-CRF在检测层、识别层和定位层上的F1值较对比基线模型分别平均提高了0.94、3.74和5.03个百分点,该模型能够有效提升语法错误检测效果。

基于ELECTRA商品评论文本情感分类

商品短评论的情感分析可有效地为用户和决策者提供产品选择的判断依据,但由于商品短评论文本特征呈现分散性和交错性的特点,因此难以有效地抽取短文本情感特征并作出分类。为解决这个问题,基于预训练模型提出一种商品短评论文本情感分类的新方法,便于用户决策。提出的基于ELECTRA的商品短评论文本情感分类方法包括三个过程,即嵌入层用Electra替换Bert进行向量映射和特征选择的过程,训练层神经网络模型的迭代优化过程,分类层进行商品短评情感分类过程。实验结果表明,所提出的模型在准确率上有明显的提高。

基于ELECTRA-CRF的电信网络诈骗案件文本命名实体识别模型

文章提出一种基于ELECTRA-CRF的电信网络诈骗案件文本命名实体识别模型。该模型首先将标注后的语料输入ELECTRA模型,得到以字为颗粒度的状态转移特征;然后由CRF模型计算转移分数,判断当前位置与其相邻位置字符的实体标注组合;最后将该模型与BERT-CRF模型、RoBERTa-CRF模型进行对比。实验结果表明,文中模型在运算效率上明显优于其他两种深度学习模型,且准确度、召回率和调和平均值并未有太大损失,可以很好地应用于电信网络诈骗案件的命名实体识别中。

Siamese-ELECTRA网络结合对抗训练的FAQ问答模型研究

FAQ问答系统可基于用户提出的问题在标准问题集合中自动检索出一条或多条最相似的问题,并以该问题的标准答案作为解答。针对传统基于向量空间模型的方法只能表征文本浅层语义变化,以及BERT模型句对分类任务预测效率低等问题,提出一种基于Siamese-ELECTRA网络的FAQ检索式问答模型,将语义上相似问句的特征向量映射到相近的空间,基于向量距离公式快速计算语义相似性得分。同时,为了提升模型的鲁棒性和泛化能力,在训练模型时加入对抗训练算法FGM,对嵌入层参数矩阵进行梯度扰动;针对FAQ数据集通常只标注正样本导致负采样不充分、分类比例难平衡问题,引入无需在数据集中添加负样本即可训练的多重否定损失。实验表明,该模型相较于多种已有方法有较大提升,能够实现相似问题检索服务的毫秒级响应,具有一定的应用价值。

Focal Electra 1028Be

法国FOCAL（劲浪）的Electra1028Be采用最顶尖零件及设计，并糅合极品旗舰级扬声器乌托邦第三代系列中多项著名技术，包括纯铍（Beryllium）高音单元，更有效增加高音下延力，能与中音频率有更佳衔接，从而展现更协调的音乐感。而中／低音单元设计并不简单，应用乌托邦第三代镭射切割“W”三文治音盆，令音镟边缘更精密稳定。

B＆W 705扬声器——JMlab Electra 906扬声器

我们知道，用仪器测试音频器材仅能表示指标的优劣，不一定能说明声音的好坏，好声必定要有好的指标，但好指标的器材不一定出好声。还有，许多器材的发声并不存在优劣，而是风格，就是我们常说的“喜欢与不喜欢”。

Agilent荣膺Electra Award 08年最佳设计与测试产品奖

安捷伦科技公司宣布,Infiniium 90000A实时示波器赢得《Electronics Weekly》杂志的Electra Award 08年最佳设计与测试产品奖。在总共六款候选产品中,90000A最终脱颖而出,赢得了这一荣誉。

ELECTRA公司出品的ROCKABILLY BOOGY自行车

ELECTRA公司出品的这款名为“ROCKABILLY BOOGY”的新型自行车，市场售价为580美元，骑行起来能让你又一次体验到青春飞扬的感觉。

Electra 926的搭配

最近我购得JMlab Electra 926落地箱一对，但不知该用哪款放大器来驱动它较好。朋友推荐我用安桥的TX-NR90l，据说是因为安桥与它在声音上会比较合拍。但我更希望是用Hi-Fi放大器来驱动，毕竟大多数时间都是在听音乐的呀!我比较中意音乐传真的A308，您认为呢?也许您能给我更好的推荐，请速回复。

JMlab Electra 936落地音箱

Electra系列音箱是 法国JMlab(劲浪)公 司在2002年推出的 力作,其档次仅次于Utopia旗舰系列而位列第二。

Electra1000采煤机先导控制回路故障分析与处理

电牵引采煤机是目前普遍使用的井下采掘设备,不同型号的电牵引采煤机的基本电气结构相同,其中以Electra1000型采煤机最具代表性。笔者在长期的矿山生产实践中,记录了一些影响生产的采煤机典型故障实例,在此对Electra1000型采煤机先导控制回路设置、维护和运行不当导致的故障加以分析讨论,供同行参考。1 Electra1000型采煤机先导控制回路Electra1000型采煤机的电源为三相交流1 140 V,来自工作面平巷的组合开关,采用先导控制方式,在远离电源开关的采煤机侧进行。

基于ELECTRA模型与词性特征的金融事件抽取方法研究

【目的】针对金融事件抽取中金融事件实体边界模糊、抽取不准确的问题,提出基于预训练模型ELECTRA和词性特征的金融事件抽取方法。【方法】为增强模型对金融关键实体的感知力,充分考虑语料原始的语义信息以及词性特征信息,将语料分别通过两个ELECTRA预训练模型后进行融合操作,达到增强语义的效果;将学习到的信息传入BiGRU中,获取上下文长距离的语义依赖,输出原始的序列标签;利用CRF克服标签偏差问题,通过上述步骤完成金融事件抽取。【结果】基于预训练模型ELECTRA和词性特征的金融事件抽取方法在金融事件数据集上F1值达到70.96%,比经典的抽取模型BiLSTM-CRF性能提升20.74个百分点。【局限】数据集中事件数较少,预训练模型体积较大,会受到GPU/TPU内存的限制。【结论】本文模型能够更加全面地捕捉金融事件元素之间的联系,提升金融事件抽取的效果。

音箱大厂的特别礼物——JMLab Electra 907Be 25周年纪念音箱

不少音响名厂在特殊的年份都会推出“纪念版”产品，一来给发烧友意外惊喜，二来也会将厂家的看家技术和高级用料凝聚其中作一个很好的宣传展示。比如本刊曾介绍过的丹拿25周年或达尼20周年纪念版音箱就是很好的例子。