基于Depth-wise卷积和视觉Transformer的图像分类模型

图像分类作为一种常见的视觉识别任务,有着广阔的应用场景。在处理图像分类问题时,传统的方法通常使用卷积神经网络,然而,卷积网络的感受野有限,难以建模图像的全局关系表示,导致分类精度低,难以处理复杂多样的图像数据。为了对全局关系进行建模,一些研究者将Transformer应用于图像分类任务,但为了满足Transformer的序列化和并行化要求,需要将图像分割成大小相等、互不重叠的图像块,破坏了相邻图像数据块之间的局部信息。此外,由于Transformer具有较少的先验知识,模型往往需要在大规模数据集上进行预训练,因此计算复杂度较高。为了同时建模图像相邻块之间的局部信息并充分利用图像的全局信息,提出了一种基于Depth-wise卷积的视觉Transformer(Efficient Pyramid Vision Transformer,EPVT)模型。EPVT模型可以实现以较低的计算成本提取相邻图像块之间的局部和全局信息。EPVT模型主要包含3个关键组件:局部感知模块(Local Perceptron Module,LPM)、空间信息融合模块(Spatial Information Fusion,SIF)和“+卷积前馈神经网络(Convolution Feed-forward Network,CFFN)。LPM模块用于捕获图像的局部相关性;SIF模块用于融合相邻图像块之间的局部信息,并利用不同图像块之间的远距离依赖关系,提升模型的特征表达能力,使模型学习到输出特征在不同维度下的语义信息;CFFN模块用于编码位置信息和重塑张量。在图像分类数据集ImageNet-1K上,所提模型优于现有的同等规模的视觉Transformer分类模型,取得了82.6%的分类准确度,证明了该模型在大规模数据集上具有竞争力。

基于梯形模糊数的动态混合多属性群决策方法

基于梯形模糊数信息环境,研究动态混合多属性群决策问题.给出梯形模糊数的转化方法及梯形模糊数信息的加权综合集结方法,定义动态梯形模糊加权几何算子;提出不同类别权重的确定方法,利用决策专家的赋值离差和最小化方法确定决策者的权重,运用离差最大化模型确定属性权重,基于熵权法和Orness测度赋权法计算时间权重;在此基础上,利用VIKOR(多准则妥协解排序)法提出一种基于梯形模糊数的动态混合多属性群决策方法,并通过算例验证其可行性与有效性.

动态调整语义的词性加权多模态情感分析模型

为更好地利用单词词性包含的语义信息和伴随单词出现时的非自然语言上下文信息,提出动态调整语义的词性加权多模态情感分析(part of speech weighted multi-modal sentiment analysis model with dynamic semantics adjustment,PW-DS)模型.该模型以自然语言为主体,分别使用基于Transformer的双向编码器表示(bidirectional encoder representation from Transformers,BERT)模型、广义自回归预训练(generalized autoregressive pretraining for language understanding,XLNet)模型和一种鲁棒优化的BERT预训练(robustly optimized BERT pretraining approach,RoBERTa)模型为文本模态做词嵌入编码;创建动态调整语义模块将自然语言和非自然语言信息有效结合;设计词性加权模块,提取单词词性并赋权以优化情感判别.与张量融合网络和低秩多模态融合等当前先进模型的对比实验结果表明,PW-DS模型在公共数据集CMU-MOSI和CMU-MOSEI上的平均绝对误差分别达到了0.607和0.510,二分类准确率分别为89.02%和86.93%,优于对比模型.通过消融实验分析了不同模块对模型效果的影响,验证了模型的有效性.

《本草纲目》草部药物药性与禁忌反恶解毒相关性研究

目的:以《本草纲目》草部药物为研究对象,探讨药性与禁忌反恶解毒等药物相互作用之间的相关性。方法:对其的药性以及忌反恶解毒等与药物警戒密切相关的药物相互作用的信息进行整理,应用数据挖掘中关联规则算法对数据进行分析。结果:药物属性中辛味与"有毒"密切相关;苦寒的药物容易和其他药物发生禁忌反恶解毒等相互作用;而药物"有毒""无毒"与是否与其他药物发生禁忌反恶解毒等相互作用没有必然联系。结论:药物性味与药物毒性以及引发药物之间发生配伍禁忌反应之间存在相关性,这对中药药物警戒研究具有重要意义。

基于随机森林的哈希检索算法

从海量数据中进行近似数据的检索是数据挖掘领域许多应用的关键。尤其近年来,数据的规模出现爆炸式增长,数据检索需面对海量数据和“维度灾难”的叠加考验,这使得传统最近邻算法效率降低,而近似最近邻算法发挥了越来越重要的作用。其中哈希算法以其在存储空间和计算时间上的优势受到了广泛关注。提出了一种基于随机森林的哈希算法。该算法通过构建随机森林,将原始空间的样本映射为海明空间的二进制哈希码,并在哈希空间上定义了顺序敏感的海明距离,以最大程度保持数据在原空间的近邻关系不变。由于随机森林中不同决策树所使用的特征空间和学习过程是独立的,可以以增量的方式灵活地确定哈希码的长度。此外基于随机森林的哈希编码算法天然适合并行部署,从而可以大大提高算法速度。最后,在MNIST和CIFAR-10数据集对所提算法进行了实验验证,结果表明了算法的有效性和出色性能。

本草纲目药物警戒数据库设计与应用研究

目的:为深入分析研究本草纲目中的药物警戒思想提供新方法。方法:基于本草纲目金陵本文献著作设计了药物警戒数据库,阐述了数据库建立的要求和存储模型的选取,以及数据库的概念和逻辑设计。结果:在此数据库的基础上可建立知识发现系统,应用数据挖掘算法,对本草纲目中的药物警戒思想进行分析。结论:本草纲目药物警戒思想数据库的建立可以为深入研究药物警戒思想提供方便、准确的手段,此方法也可应用于其他文献著作研究。

加权模糊产生式规则的泛化能力研究

为了提高模糊产生式规则的知识表示能力,人们在模糊产生式规则中引入了局权、全权、置信度等参数。视加权模糊规则中的权重等为可调的知识表示参数,首先研究这些知识表示参数与加权模糊规则的泛化能力之间的关系,然后提出了一种基于极大模糊熵原理的知识表示参数优化方法。在选定数据集上的仿真实验数据表明,提出的方法可以明显提高基于加权模糊产生式规则的专家推理系统的泛化能力。

基于Wasserstein距离的双向学习推理

基于Wasserstein距离的生成对抗网络(WGAN)将编码器和生成器双向集成于其模型中,从而增强了生成模型的学习能力,但其在优化目标中使用KL散度度量分布间的差异,会导致学习训练过程中出现梯度消失或梯度爆炸问题,降低模型鲁棒性.为克服这一问题,提出了一种基于Wasserstein距离的双向学习推理(WBLI)模型.文章首先建立了真实数据分布与隐数据分布双向学习网络,然后引入Wasserstein距离度量联合概率分布的差异性,并据此推导了可解的损失代价函数,给出了完整的网络学习模型和迭代算法.实验结果表明,WBLI模型有效缓解了传统GAN及其变种的模式坍塌问题,增强了训练学习的鲁棒性,可生产辨识度更高的样本.

数学建模——科学培养数学思维的关键

数学建模是训练数学思维的重要手段,是科学培养数学思维的关键.从数学建模过程对于科学地训练数学思维的作用出发,对数学建模和数学思维的能动关系进行了理论研究,分别从理论基础和实际应用两个方面说明数学建模教学等相关活动的开展对于科学地培养数学思维的重要作用.

一种基于Q-学习算法的增量分类模型

大数据时代的数据信息呈现持续性、爆炸性的增长,为机器学习算法带来了大量监督样本。然而,这对信息通常不是一次性获得的,且获得的数据标记是不准确的,这对传统的分类模型提出了挑战,而增量学习是一种重要的解决方法。但在增量学习中,样本的标记顺序将严重影响分类器的性能,特别是在分类器分类能力较弱的情况下,传统的增量学习方法容易过早地将噪声数据添加到训练集上,从而影响分类器的精度。为解决这个问题,文中提出一种基于Q-学习算法的增量分类模型。该模型利用强化学习中经典的Q-学习算法来合理选择样本增量序列,削弱噪声数据的负面影响,并实现在学习过程中自主标记样本。同时,为了解决当新增未标记样本集规模较大时,Q-学习中的状态空间与动作空间增大带来的计算复杂度和存储空间呈指数增长的问题,文中进一步给出了批量增量分类模型,有效降低了模型的计算复杂度并节约了存储空间。基于Q-学习算法的增量分类模型融合了增量学习及强化学习的思想,具有分类精度高、实时性强等优点。最后,在3个UCI数据集上进行实验来验证所提模型的有效性,结果表明该模型通过选择新增训练集合的确有助于提升分类器的精度,且由不同增量序列训练得到的分类器精度也有较大差异。基于Q-学习算法的增量分类模型可以利用已有的少量监督信息进行初始训练,通过自主标记样本构造增量训练集,并通过自监督的方式提高分类器的精度。因此,基于Q-学习算法的增量分类模型可被用于解决监督信息缺乏的问题,具有一定的应用价值。

随机状态下基于期望经验回放的Q学习算法

强化学习的经验回放方法在减少状态序列间相关性的同时提高了数据的利用效率,但目前只能用于确定性的状态环境.为在随机状态环境下充分利用经验回放,且能够保持原有的状态分布,提出一种基于树的经验存储结构来存储探索过程中的状态转移概率,并根据该存储方式,提出基于期望经验回放的Q学习算法.该方法在保证算法复杂度较低的情况下,可实现对环境状态转移的无偏估计,减少Q学习算法的过估计问题.在经典的机器人随机行走问题中进行实验,结果证明,相比于基于均匀回放方法和优先回放的经验回放方法,基于期望经验回放Q学习算法的收敛速度约提高了50%.

基于深度情感唤醒网络的多模态情感分析与情绪识别

随着网络平台上各类图像、视频数据的快速增长,多模态情感分析与情绪识别已成为一个日益热门的研究领域.相比于单模态情感分析,多模态情感分析中的模态融合是一个亟待解决的关键问题.受到认知科学中情感唤起模型的启发,提出一种能够模拟人类处理多通道输入信息机制的深度情感唤醒网络(DEAN),该网络可实现多模态信息的有机融合,既能处理情绪的连贯性,又能避免融合机制的选择不当而带来的问题.DEAN网络主要由以下3部分组成:跨模态Transformer模块,用以模拟人类知觉分析系统的功能;多模态BiLSTM系统,用以模拟认知比较器;多模态门控模块,用以模拟情感唤起模型中的激活结构.在多模态情感分析与情绪识别的3个经典数据集上进行的比较实验结果表明,DEAN模型在各数据集上的性能均超越了目前最先进的情感分析模型.

体育教师应如何适应新课程改革

我国中小学体育课程改革给中小学体育教学带来了新鲜活力,新的体育教育教学理念、课程目标和教学方法等内容正在主导着学校体育教学的快速发展。