针对现有的数字化档案多标签分类方法存在分类标签之间缺少关联性的问题,提出一种用于档案多标签分类的深层神经网络模型ALBERT-Seq2Seq-Attention.该模型通过ALBERT(A Little BERT)预训练语言模型内部多层双向的Transfomer结构获取进...针对现有的数字化档案多标签分类方法存在分类标签之间缺少关联性的问题,提出一种用于档案多标签分类的深层神经网络模型ALBERT-Seq2Seq-Attention.该模型通过ALBERT(A Little BERT)预训练语言模型内部多层双向的Transfomer结构获取进行文本特征向量的提取,并获得上下文语义信息;将预训练提取的文本特征作为Seq2Seq-Attention(Sequence to Sequence-Attention)模型的输入序列,构建标签字典以获取多标签间的关联关系.将分类模型在3种数据集上分别进行对比实验,结果表明:模型分类的效果F1值均超过90%.该模型不仅能提高档案文本的多标签分类效果,也能关注标签之间的相关关系.展开更多
随着音频载体设备的发展,扬声器在向着体积小、功率大的趋势发展,长时间工作在大信号驱动时音圈发热严重,会出现音圈断路等热损坏问题,通过对扬声器电参量数据的预测,可以降低功放功率等方法保护音圈,延长使用寿命。针对功率试验中扬声...随着音频载体设备的发展,扬声器在向着体积小、功率大的趋势发展,长时间工作在大信号驱动时音圈发热严重,会出现音圈断路等热损坏问题,通过对扬声器电参量数据的预测,可以降低功放功率等方法保护音圈,延长使用寿命。针对功率试验中扬声器电参量数据的时序特性,提高预测准确率,提出一种基于变分模态分解(variational mode decomposition,VMD)和编解码器(sequence to sequence,Seq2seq)模型的扬声器电参量多步预测方法。该方法首先使用VMD将原始数据进行分解,降低数据的非平稳性,利用分解后的数据构建训练集并使用Seq2seq网络模型进行训练和多步预测。仿真结果表明,所提出的预测模型在单步预测情况下,模型评价指标均方根误差(RMSE)为0.044、平均绝对百分比误差(MAPE)为0.15%、决定系数(R^(2))为0.94,在五步预测的情况下,模型评价指标RMSE为0.05、MAPE为0.17%、R^(2)为0.92,均优于其余对比模型,表明所提出模型的精度更高。展开更多
文摘针对现有的数字化档案多标签分类方法存在分类标签之间缺少关联性的问题,提出一种用于档案多标签分类的深层神经网络模型ALBERT-Seq2Seq-Attention.该模型通过ALBERT(A Little BERT)预训练语言模型内部多层双向的Transfomer结构获取进行文本特征向量的提取,并获得上下文语义信息;将预训练提取的文本特征作为Seq2Seq-Attention(Sequence to Sequence-Attention)模型的输入序列,构建标签字典以获取多标签间的关联关系.将分类模型在3种数据集上分别进行对比实验,结果表明:模型分类的效果F1值均超过90%.该模型不仅能提高档案文本的多标签分类效果,也能关注标签之间的相关关系.
文摘随着音频载体设备的发展,扬声器在向着体积小、功率大的趋势发展,长时间工作在大信号驱动时音圈发热严重,会出现音圈断路等热损坏问题,通过对扬声器电参量数据的预测,可以降低功放功率等方法保护音圈,延长使用寿命。针对功率试验中扬声器电参量数据的时序特性,提高预测准确率,提出一种基于变分模态分解(variational mode decomposition,VMD)和编解码器(sequence to sequence,Seq2seq)模型的扬声器电参量多步预测方法。该方法首先使用VMD将原始数据进行分解,降低数据的非平稳性,利用分解后的数据构建训练集并使用Seq2seq网络模型进行训练和多步预测。仿真结果表明,所提出的预测模型在单步预测情况下,模型评价指标均方根误差(RMSE)为0.044、平均绝对百分比误差(MAPE)为0.15%、决定系数(R^(2))为0.94,在五步预测的情况下,模型评价指标RMSE为0.05、MAPE为0.17%、R^(2)为0.92,均优于其余对比模型,表明所提出模型的精度更高。
文摘针对现有基于深度神经网络的代码缺陷检测方法无法分析缺陷特征并输出相关评审建议的问题,提出一种基于大感知域LSTM-Seq2Seq模型的代码缺陷检测方法。首先,使用长短期记忆网络(LSTM,long short-term memory)学习缺陷代码的编码特征,建立缺陷判别模型。其次,针对模型与数据集不匹配的问题,向序列到序列模型(Seq2Seq,sequence to sequence)引入代码段长度系数,提升模型对代码评审任务的适用度;通过建立代码缺陷特征与评审建议特征间的映射关系建立了代码分析模型,实现评审输出功能。最后,利用公开数据集SARD对该方法进行了验证,该方法在准确率、召回率、F1值方面的测试结果分别为92.50%、87.20%、87.60%,典型代码缺陷输出的评审文本与专家评审的文本相似度为85.99%,可有效减少评审过程对专家经验的依赖。