Graphic Processing Unit-Accelerated Neural Network Model for Biological Species Recognition

A graphic processing unit (GPU)-accelerated biological species recognition method using partially connected neural evolutionary network model is introduced in this paper. The partial connected neural evolutionary network adopted in the paper can overcome the disadvantage of traditional neural network with small inputs. The whole image is considered as the input of the neural network, so the maximal features can be kept for recognition. To speed up the recognition process of the neural network, a fast implementation of the partially connected neural network was conducted on NVIDIA Tesla C1060 using the NVIDIA compute unified device architecture (CUDA) framework. Image sets of eight biological species were obtained to test the GPU implementation and counterpart serial CPU implementation, and experiment results showed GPU implementation works effectively on both recognition rate and speed, and gained 343 speedup over its counterpart CPU implementation. Comparing to feature-based recognition method on the same recognition task, the method also achieved an acceptable correct rate of 84.6% when testing on eight biological species.

A Novel Distributed Optimal Adaptive Control Algorithm for Nonlinear Multi-Agent Differential Graphical Games

In this paper, an online optimal distributed learning algorithm is proposed to solve leader-synchronization problem of nonlinear multi-agent differential graphical games. Each player approximates its optimal control policy using a single-network approximate dynamic programming(ADP) where only one critic neural network(NN) is employed instead of typical actorcritic structure composed of two NNs. The proposed distributed weight tuning laws for critic NNs guarantee stability in the sense of uniform ultimate boundedness(UUB) and convergence of control policies to the Nash equilibrium. In this paper, by introducing novel distributed local operators in weight tuning laws, there is no more requirement for initial stabilizing control policies. Furthermore, the overall closed-loop system stability is guaranteed by Lyapunov stability analysis. Finally, Simulation results show the effectiveness of the proposed algorithm.

NM-SpMM:面向国产异构向量处理器的半结构化稀疏矩阵乘算法

深度神经网络在自然语言处理、计算机视觉等领域取得了优异的成果,由于智能应用处理数据规模的增长和大模型的快速发展,对深度神经网络的推理性能要求越来越高,N∶M半结构化稀疏化技术成为平衡算力需求和应用效果的热点技术之一。国产异构向量处理器FT-M7032为智能模型处理中的数据并行和指令并行开发提供了较大空间。针对N∶M半结构化稀疏模型计算稀疏模式多样性,提出了一种面向FT-M7032的可灵活配置的稀疏矩阵乘算法NM-SpMM。NM-SpMM设计了一种高效的压缩偏移地址稀疏编码格式COA,避免了半结构化参数配置对稀疏数据访存计算的影响。基于COA编码,NM-SpMM对不同维度稀疏矩阵计算进行了细粒度优化。在FT-M7032单核上的实验结果表明,相较于稠密矩阵乘,NM-SpMM能获得1.73~21.00倍的加速,相较于采用CuSPARSE稀疏计算库的NVIDIA V100 GPU,能获得0.04~1.04倍的加速。

GNNSched:面向GPU的图神经网络推理任务调度框架

由于频繁的显存访问,图神经网络GNN在GPU上运行时往往资源利用率较低。现有的推理框架由于没有考虑GNN输入的不规则性,直接适用到GNN进行推理任务共置时可能会超出显存容量导致任务失败。对于GNN推理任务,需要根据其输入特点预先分析并发任务的显存占用情况,以确保并发任务在GPU上的成功共置。此外,多租户场景提交的推理任务亟需灵活的调度策略,以满足并发推理任务的服务质量要求。为了解决上述问题,提出了GNNSched,其在GPU上高效管理GNN推理任务的共置运行。具体来说,GNNSched将并发推理任务组织为队列,并在算子粒度上根据成本函数估算每个任务的显存占用情况。GNNSched实现了多种调度策略来生成任务组,这些任务组被迭代地提交到GPU并发执行。实验结果表明,GNNSched能够满足并发GNN推理任务的服务质量并降低推理任务的响应时延。

面向图神经网络模型提取攻击的图数据生成方法

无数据模型提取攻击是基于攻击者在进行攻击时所需的训练数据信息未知的情况下提出的一类机器学习安全问题。针对无数据模型提取攻击在图神经网络(GNN)领域的研究缺乏,提出分别用GNN可解释性方法GNNExplainer和图数据增强方法GAUG-M优化图节点特征信息和边信息生成所需图数据,最终提取GNN模型的方法。首先,利用GNNExplainer方法对目标模型的响应结果进行可解释性分析得到重要的图节点特征信息;其次,通过对重要的图节点特征加权,对非重要图节点特征降权,实现图节点特征信息的整体优化;然后,使用图形自动编码器作为边信息预测模块,根据优化后的图节点特征得到节点与节点之间的连接概率;最后,根据概率增加或者删减相应边优化边信息。实验采用5个图数据集训练的3种GNN模型架构作为目标模型提取攻击,得到的替代模型达到了73%~87%的节点分类任务准确性和76%~89%的与目标模型性能的一致性,验证了所提方法的有效性。

基于ANN的RECFST短柱轴压承载力预测

目的针对相关设计规范和文献在计算圆端形截面钢管混凝土短柱轴压承载力上的局限性,开发高精高效的轴压承载力预测模型。方法首先,基于国内外已有的RECFST短柱轴压试验研究结果建立有限元模型,并通过验证;其次,基于Python脚本批量生成有限元模型,建立涵盖广泛输入参数的数据集;然后,利用数据集开发高精度的ANN模型并与相关规范和文献结果进行比较;最后,基于ANN模型开发GUI图形用户界面工具。结果ANN模型预测值与试验结果之比的平均值N ANN/N u=0.98,模型预测误差远低于相关规范和文献公式预测误差;ANN模型的均方误差K MSE=7.3734×10-7,总数据样本回归值R=0.99963,表明了ANN模型的有效性以及预测结果的精确性。结论ANN模型可以准确预测RECFST短柱的轴压承载力,基于模型开发的GUI工具简便实用。

基于漏磁负载归一化Lissajous图形分析的变压器绕组故障诊断

漏磁检测作为变压器故障诊断最具潜力的在线方法之一,由于其漏磁信号受到外部环境和运行条件的影响,实用性还需进一步提升。为了解决这些问题,本文提出了一种基于Lissajous图形与卷积神经网络(CNN)相结合的变压器绕组故障诊断方法。首先,对变压器绕组进行仿真建模,并通过与实验平台测试数据进行一致性验证。然后,设置不同程度和位置的匝间短路故障,收集绕组外部不同位置的漏磁信号。最后,使用本文所提出的LG–CNN方法对绕组故障进行诊断。该方法包括以下3个关键步骤:1)对多工况变压器漏磁信号进行负载归一化;2)将负载归一化后的漏磁信号转换为2维Lissajous漏磁图像;3)使用卷积神经网络对2维漏磁图像进行特征提取并对绕组故障进行诊断。基于漏磁信号的Lissajous图像可以很好地整合各测点漏磁信息之间的关系,针对Lissajous图形随负载变化而变化的问题,本文提出了一种漏磁负载归一化方法,通过实体变压器和高仿真模型实验,验证了所提漏磁负载归一化方法的有效性以及所提检测方法在区分不同程度和位置绕组短路方面的可行性。

基于神经网络的Bark域图形均衡器的设计

描述了一种基于BP神经网络的图形均衡器设计方法,在不牺牲参数均衡滤波器的Bark频带图形均衡器精度的情况下简化图形均衡器的设计。其核心思想是训练一个神经网络来预测从目标增益到指定中心频率处的优化通带增益的映射关系。在24通道的Bark频带图形均衡器的情况下,利用具有48个神经元隐藏层的BP神经网络的非线性映射功能来实现预测。然后,使用封闭式公式快速、简便地计算频带滤波器的系数。这项工作将引入使用最小二乘法获得滤波器最佳增益的精确控制方法,并不断加以改进。采用BP神经网络与目标增益直接预测获得参数均衡器的优化增益,使得计算量大大减少,使得基于参数均衡滤波器的Bark频带图形均衡器的逼近误差小于0.1 dB。由此产生的BP神经网络控制的24通道Bark域图形均衡器非常有用。

DeepFlame:基于深度学习和高性能计算的反应流模拟开源平台

近年来,深度学习被广泛认为是加速反应流模拟的一种可靠方法。近期开发了一个名为DeepFlame的开源平台,可以在模拟反应流过程中实现对机器学习库和算法的支持。基于DeepFlame,成功地采用深度神经网络来计算化学反应源项,并对DeepFlame平台进行了高性能优化。首先,为了充分发挥深度神经网络(DNN)的加速潜力,研究实现了DeepFlame对DNN多卡并行推理的支持,开发了节点内分割算法和主从通信结构,并完成了DeepFlame向图形处理单元(GPU)和深度计算单元(DCU)的移植。其次,还基于Nvidia AmgX库在GPU上实现了偏微分方程求解和离散稀疏矩阵构造。最后,对CPU-GPU/DCU异构架构上的新版本DeepFlame的计算性能进行了评估。结果表明,仅利用单个GPU卡,在模拟具有反应性的泰勒格林涡(TGV)时可以实现的最大加速比达到15。

基于粒子群优化BP神经网络的激光扫描投影系统畸变预测方法

为了精准、高效地预测和校正激光扫描投影系统的畸变误差,研究了基于粒子群优化BP神经网络的畸变预测方法。建立了BP神经网络结构,并融合粒子群优化算法对BP神经网络的权值和阈值进行优化,得出基于粒子群优化BP神经网络的激光扫描投影系统投影畸变预测模型。选取距激光扫描投影仪器两米的待投影面上的理论坐标点及各点相应畸变值Δx作为粒子群优化BP神经网络的训练数据集,将待投影面上实际投影位置坐标代入训练好的粒子群优化BP神经网络进行预测得到预测畸变值输出,并与实际畸变值对比,最后,引入Elman神经网络预测模型的预测结果与所研究预测方法进行对比。结果表明:在±30°的全视场扫描投影范围内粒子群优化BP神经网络预测模型的均方根误差为0.0176 mm,解算时间仅需22.4 s,相较于Elman神经网络效率提升78.33%,预测精度及时间明显优于Elman神经网络,可以有效预测激光扫描投影系统的畸变误差。

转子轴心轨迹故障诊断特征识别方法研究

转子轴心轨迹形状反映转子系统的工作状态，用神经网络方法可识别转子轴心轨迹形状，但神经网络的训练速度和稳定性与网络输入数据编码方式有关，提出一种使轴心轨迹图形编码得到较大压缩的平面图形可变等长度压缩编码方法，从而减少了轴心轨迹神经网络识别系统的输入变元数，使训练后的神经网络的联想能力得到较大提高，也加快了网络的训练速度及稳定性．将该图形形状识别系统加入到故障诊断专家系统中，提高了故障诊断专家系统的自动诊断水平．

节点图和边图切换卷积驱动的快速静态安全分析方法

针对预想事故在线分析中,实时性要求和时域方程计算复杂性之间的矛盾,提出了一种基于图卷积神经网络的潮流计算模型,进而实现快速预想事故分析。该方法包含了一个基于节点图和边图切换卷积的快速潮流计算模型,能够实现多场景的新能源出力、负荷数据与支路潮流、节点电压之间的非线性关系的快速拟合。针对不同预想事故导致的网络结构变化设计了反映拓扑结构变化的矩阵,避免了支路开断导致的边图节点消失,保证了模型的鲁棒性;同时,将荷源数据分离,构造了考虑荷源变化的输入特征向量。IEEE 39、118节点系统算例测试表明,所提出的模型能够适应N–1故障引起网络拓扑结构的变化和新能源的波动性,实现潮流快速拟合,可为预想事故在线分析提供新工具。

基于物理化学性质的葡萄酒质量的可视化评价研究

提出了一种可视化的方法评价葡萄酒质量。葡萄酒数据来自于认证阶段的物理化学分析测试,其中输入变量是11个,输出变量是葡萄酒质量,共得到1599个的红葡萄酒样本和4898个的白葡萄酒样本。结果表明该方法的效果优于传统的神经网络和支持向量机方法,并且具有可视化的优点。这对于改进酿酒品酒评价和葡萄酒生产都有重要意义,并且对根据消费者口味细分目标市场也很有帮助。

黄土高边坡稳定性预测模型研究

黄土地区的滑坡严重制约了当地的经济发展,为了减轻滑坡灾害的损失,有必要进一步加强边坡稳定的预测研究工作。由于黄土的水敏性,黄土高边坡土体的稳定性主要受到坡体含水率的控制。本文在综合考虑黄土边坡各种影响因素的基础上,提出了考虑含水率的黄土高边坡稳定性预测模型。本文首先在图解法的基础上开发了自动查表程序,可自动生成大量具有代表性的边坡数据,为后续建模提供数据支持;进而基于改进的遗传神经网络,建立了考虑含水率变化的黄土边坡稳定性预测模型,并验证了该模型的可靠性。最后以关中地区两个高边坡为例,利用该模型对边坡在不同含水率状态下的稳定性进行了预测。结果表明,模型的预测值和期望值吻合较好,说明该模型在关中地区具有广泛的适用性。

一种深度自监督聚类集成算法

针对聚类集成中一致性函数设计问题,本文提出一种深度自监督聚类集成算法。该算法首先根据基聚类划分结果采用加权连通三元组算法计算样本之间的相似度矩阵,基于相似度矩阵表达邻接关系,将基聚类由特征空间中的数据表示变换至图数据表示;在此基础上,基聚类的一致性集成问题被转化为对基聚类图数据表示的图聚类问题。为此,本文利用图神经网络构造自监督聚类集成模型,一方面采用图自动编码器学习图的低维嵌入,依据低维嵌入似然分布估计聚类集成的目标分布;另一方面利用聚类集成目标对低维嵌入过程进行指导,确保模型获得的图低维嵌入与聚类集成结果是一致最优的。在大量数据集上进行了仿真实验,结果表明本文算法相比HGPA、CSPA和MCLA等算法可以进一步提高聚类集成结果的准确性。

GPU加速的神经网络BP算法

近年来图形处理器(GPU)快速拓展的可编程性能力加上渲染流水线的高速度及并行性,使得图形处理器通用计算(GPGPU)迅速成为一个研究热点。针对大规模神经网络BP算法效率低下问题,提出了一种GPU加速的神经网络BP算法。将BP网络的前向计算、反向学习转换为GPU纹理的渲染过程,从而利用GPU强大的浮点运算能力和高度并行的计算特性对BP算法进行求解。实验结果表明,在保证求解结果准确度不变的情况下,该方法运行效率有明显的提高。

基于径向基概率神经网络的工程图纸图形符号识别

基于径向基概率神经网络,提出一种扫描工程图纸图像分割后的图形符号识别方法.针对已分割的扫描工程图纸图形符号图像,首先进行二值化处理,然后对二值图形符号图像进行Hu不变矩特征提取,再使用一种新型的径向基概率神经网络进行分类,从而实现图像识别.为加快径向基概率神经网络的收敛速度,采用递归最小二乘算法进行训练.实验结果表明,径向基概率神经网络在识别性能与速度等方面非常适合于工程图纸的图形符号识别.

一种用于人脸表情识别的卷积神经网络

为了避免传统的表情识别中复杂的显式特征提取过程,文中提出了一种用于人脸表情识别的卷积神经网络(CNN)。首先,对人脸表情图像进行归一化预处理,并使用可训练的卷积核提取隐式的特征。然后,采用最大池化方法对提取的隐式特征进行降维处理。最后,采用Softmax分类器对测试样本图像的表情进行分类识别。使用图形处理器(GPU)在CK+人脸表情数据库上进行了实验,结果表明了CNN用于人脸表情识别的性能和泛化能力。

用线性神经网络映射光学过程层析成像的逆问题

过程层析成像 (Process tomography)的逆问题也称为成像算法 ,它不仅需要反映被测物质与激励场的相互作用原理 ,而且应与传感器的空间阵列结构相匹配 .成像算法的性能好坏 (包括图象质量和每帧计算需时 )是过程层析成像技术能否应用于工业过程监控系统的关键问题之一 .为了得到性能良好的重建图象 ,提出了一种线性神经网络图象重建算法 .该算法首先通过建立光学层析成像的正问题和逆问题的线性化模型来求解正问题 ,以得出图象和投影的关系模式对 ,然后将其用于训练和构造线性神经网络 ;最后使用训练好的线性神经网络来映射光学层析成像的逆问题 .实验表明 ,该方法具有较高的图象质量和极高的成像实时性 。

基于BP神经网络的计算机绘图课程教学质量评价的研究及应用

计算机绘图是一门专业基础课,具有很强的实践性,要求授课老师理论与实际操作相结合进行授课。如何提高教学质量是当今高校教育的重点,而客观、准确地评价教学质量对于提高教学质量有着积极而重要的意义。在制定评价指标体系的基础上,利用BP神经网络理论构建合理、有效的计算机绘图教学质量评价模型,并对学校的计算机绘图课程的教学质量进行了评价,找出存在的问题,为今后的教学改革提供方向。