基于FPGA的Winograd算法卷积神经网络加速器设计与实现

为实现卷积神经网络在低功耗、边缘计算等场景中的加速计算,设计了一种基于现场可编程门阵列(FPGA)的Winograd算法卷积神经网络加速器。首先,将图像数据和权重数据量化为8位定点数,并设计了硬件卷积计算过程中的量化流程,提升了数据传输速度和计算速度。接着,设计了输入数据缓存复用模块,将多输入通道数据融合后传输,复用了行重叠数据。然后设计了Winograd流水线卷积模块,实现列数据的组合复用,从而最大化重用了片上数据,降低了片上数据存储的占用和带宽压力。最后将加速器在Xilinx的ZCU104开发板上部署。经过实验验证,加速器的卷积层计算性能达到354.5 GOPS,片上DSP计算效率达到0.69,与相关研究相比,实现了1.6倍以上的提升。该加速器能够以高能效比完成基于VGG-16网络的遥感图像分类任务。

基于Winograd算法的高效神经网络加速器及FPGA实现

为了加速卷积神经网络(convolutional neural networks,CNN)的推断过程,文章采用Winograd算法,基于现场可编程门阵列(field programmable gate array,FPGA)设计一种高效CNN加速器。为解决Winograd算法转置后的数据位宽与数字信号处理单元(digital signal processing,DSP)位宽失配问题,文章提出部分积切割方法,充分利用DSP实现单周期多输出功能;为降低片上内存占用率,设计一种输入特征图可复用的数据流完成片内外数据交互。所设计的加速器在XCKU060板卡上部署,其吞吐率和每个DSP运算效率分别达2.358×10^(12)OPs和1.15×10^(9)OPs。结果表明该文提出的加速方法有效提升CNN加速器运算单元效率。

基于Winograd算法的目标检测加速器设计与优化

卷积神经网络(Convolutional Neural Networks,CNN)已被广泛应用于图像处理领域.基于CNN的目标检测模型,如YOLO,已被证明在许多应用中是最先进的.CNN对计算能力和内存带宽要求极高,通常需要部署到专用硬件平台,FPGA因其高性能、低功耗和可重配置性成为CNN的有效硬件加速器.以往的基于FPGA的目标检测加速器主要采用传统卷积算法,然而,传统卷积算法的高运算复杂度限制了加速器的性能.基于此,本文设计了一种基于Winograd算法的目标检测加速器.考虑到各模块间的联系,采用模块融合策略融合卷积层和池化层模块,降低数据移动次数,减少片外存储器访问次数,提高加速器整体性能.以YOLO2模型为例,对数据访问模式、池化内核、参数重排序、数据通路优化进行分析设计,并部署在U280板卡上.实验结果表明,量化后mAP降低了0.96%,性能达249.65 GOP/s,是Xilinx官网所给数据的4.4倍.

基于二维Winograd算法的深流水线5×5卷积方法

针对二维Winograd卷积算法中存储器带宽需求过高、计算复杂度高、设计探索周期漫长、级联的卷积存在层间计算延迟等问题,提出一种基于二维Winograd算法的双缓冲区5×5卷积层设计方法。首先使用列缓冲结构完成数据布局,以重用相邻分块之间的重叠数据,降低存储器带宽需求;然后精确搜索并复用Winograd算法加法计算过程中重复的中间计算结果,来降低加法运算量,从而减小加速器系统的能耗开销和设计面积;最后根据Winograd算法计算过程来完成6级流水线结构的设计,并实现针对5×5卷积的高效率计算。实验结果表明,这种5×5卷积的计算方法在基本不影响卷积神经网络(CNN)预测准确率的前提下,与传统卷积相比降低了83%的乘法运算量,加速倍率为5.82;该方法与级联3×3二维Winograd卷积组成5×5卷积的方法相比降低了12%的乘法运算量,降低了约24.2%的存储器带宽需求,并减少了20%的运算时间。

使用Winograd算法实现不规则长度DFT——在多载波调制系统(OFDM)中不规则长度FFT的一种实现方法

本文结合FFT在多载波调制系统(OFDM)中的应用,介绍了改进大素数Winograd FFT算法,并通过与传统Winograd FFT、DFT的性能比较,论述了本算法的研究意义;介绍了二维卷积算法Agarwal-Cooley、包括中国余数定理、小点数的Winograd卷积算法和克罗内克积;在介绍算法的同时穿插11点FFT的推导,先计算2点和5点Winograd卷积,之后得到10点卷积,最后得出11点FFT。

基于Winograd算法的可重构卷积神经网络加速器

神经网络被广泛应用于模式识别、预测分析、数据拟合等方面,是人工智能的重要基础。神经网络卷积计算量大且网络参数量多,导致了计算时间长且数据访存压力大等问题。针对以上问题,文中基于Winograd算法对卷积计算进行加速,设计了优化的硬件计算结构,提高了数据的复用效率和计算并行度。相较于滑窗卷积,文中所提加速器的计算效率提升了4.352倍。在卷积核梯度计算方面,该加速器采用优化的数据分配方式,减少了数据搬移且满足了多个PE并行计算的数据需求,与CPU相比性能提升了23倍。实验表明,该加速器在VGG-9网络模型下的卷积计算吞吐率可达192.55 GFLOPS,在训练后对CIFAR-10数据集的识别率为76.54%。

申威26010众核处理器上Winograd卷积算法的研究与优化

卷积作为深度学习中被频繁使用的关键部分,其并行算法的研究已成为高性能计算领域中的热门话题.随着我国自主研发的申威26010众核处理器在人工智能领域的快速发展,对面向该处理器的高性能并行卷积算法提出了迫切的需求.针对申威26010处理器的架构特征以及Winograd卷积算法的计算特性,提出了一种高性能并行卷积算法——融合Winograd卷积算法.该算法不同于依赖官方GEMM(general matrix multiplication)库接口的传统Winograd卷积算法,定制的矩阵乘实现使得该算法的执行过程变得可见,且能够更好地适应现实中常见卷积运算.整个算法由输入的Winograd变换、卷积核的Winograd变换、核心运算和输出的Winograd逆变换4部分构成,这4个部分并不是单独执行而是融合到一起执行.通过实时地为核心运算提供需要的变换后数据,并将计算结果及时地逆变换得到最终的输出数据,提高了算法执行过程中的数据局部性,极大地降低了整体的访存开销.同时,为该算法设计了合并的Winograd变换模式、DMA(direct memory access)双缓冲、片上存储的强化使用、输出数据块的弹性处理以及指令重排等优化方案.最终的实验结果表明,在VGG网络模型的总体卷积测试中,该算法性能是传统Winograd卷积算法的7.8倍.同时,抽取典型卷积神经网络模型中的卷积进行测试,融合Winograd卷积算法能够在所有的卷积场景中发挥明显高于传统Winograd卷积算法的性能.其中,最大能够发挥申威26010处理器峰值性能的116.21%,平均能够发挥峰值性能的93.14%.

算法嵌入政府治理:逻辑、风险与规制

伴随着现代信息技术的迅猛发展,智能算法在推动经济社会不断发展的同时也成为推动国家治理现代化的重要驱动力。现阶段如何推进算法技术更有效地嵌入政府治理,在充分发挥技术效益的同时反制技术滥用,实现公共价值最大化目标是亟须关注的时代命题。从“技术—权力—规则”三个维度搭建研究算法嵌入政府治理的分析框架,探索算法技术赋能政府治理的价值意蕴与运作逻辑。聚焦算法技术黑箱阻滞公共责任认定、算法权力削弱政府与民众自主性、算法规则偏好导致治理正义性减损等风险与挑战,提出在实践中要推进技术适度透明化以明晰责任关系链条、规范算法权力运作并坚持人本主义治理理念、明确算法规则决策限度以强化治理正义性等实践进路。

教育数字化转型中的算法权力及其规制

依托框架优势、机器优势和嵌入优势的全新算法,将会随着数字平台的搭建、数据资源的挖掘、“人–机”交互的设计,由单纯的计算工具向事务运行规则转变,进而演变为教育数字化转型中不容回避的权力议题。教育数字化转型中的算法权力既有益于管理风险、规范行为和辅助决策,也可能由于自身的局限以及它与教育之间的冲突,导致教育的风险异化、行为降格和决策失衡。要将算法权力规制到安全、可靠的“笼子”之中,除借助算法目标的教育审查、算法设计的教育解释、算法运行的教育监管、算法应用的教育鉴别、算法信息的教育备案、算法责任的教育认定,以构建从背景、过程到结果的规范机制;还应诉诸教育之于算法的祛魅、平衡与扬弃,以凸显“入乎其内却又出乎其外”的制衡思想。

跟踪算法下的果树修剪机器人路径规划设计

以果树修剪机器人为研究对象,基于轨迹跟踪算法对修剪机器人进行作业路径规划,并分别与传统的往复式路径规划算法和跟踪算法进行仿真对比实验分析。分析结果表明:与传统往复式路径规划算法相比,修剪机器人作业过程中漏剪率降低3%,重复率降低2.5%;与传统跟踪式路径规划算法相比,修剪机器人作业过程转角范围增大36°,横向轨迹误差降低600mm。

个性化推荐算法的法律风险规制

信息爆发增长催生了个性化推荐算法技术的兴起。个性化推荐算法在解决信息过载和长尾问题、满足用户个性化需求、提高互联网信息服务效率的同时,也引发了用户意思自治受限、隐私泄露、信息茧房、算法歧视等诸多法律风险,亟需法律作出必要的回应。为此,应当在诚信原则、自主原则、公正原则、比例原则的指导下,树立开放的隐私保护观,强化算法告知义务与用户拒绝权利,完善算法解释权,构建算法审计制度,以降低个性化推荐算法所带来的法律风险。

基于混合遗传算法的多无人机巡逻路径优化

假设无人机巡逻的起、终点均为派出所,提出了一种融合传统遗传算法和爬山算法的警用无人机巡逻路径优化模型——混合遗传算法。按照轮盘赌法则,进行种群个体的选择,以增大优秀种群个体被选中的概率,达到较好的优化效果。同时定义了与路径优化相适应的基因交叉和变异规则。仿真结果表明,提出的混合遗传算法在寻优效果上明显优于传统遗传算法。

一种新型的电能质量扰动信号分析的CDMSPSO-MP算法

针对匹配追踪(matching pursuit,MP)算法在检测电能质量扰动信号时存在的计算量大、重构信号质量不佳的问题,利用混沌动态多种群粒子群优化(chaos dynamic multi-swarm particle swarm optimization,CDMSPSO)算法对MP算法进行优化,提出了CDMSPSO-MP算法。首先,CDMSPSO算法使用Logistic映射替代伪随机数更新种群,提高信号重构时搜索时频原子的随机性;然后,将种群划分为多个小规模种群并设置相应的重组期,增加信号重构时频原子的多样性;最后,以扰动信号与原子内积的绝对值作为CDMSPSO算法的适应度函数,替代MP算法的遍历计算,提升信号的重构速度。实验结果表明,CDMSPSO-MP算法有效提高了计算速度,减少了无关时频原子作为扰动信号分量的计算,提高了重构信号的质量。

基于改进蚁狮算法的家庭用电优化调度

为了充分挖掘用户侧需求响应能力,平抑用户的负荷波动及降低用户的用电成本,提出了一种基于改进蚁狮优化算法的家庭用电优化调度方法。首先构建了家庭用电优化调度模型,并将峰均比和平均等待时间作为惩罚量引入用电成本得到综合成本函数。其次采用差分进化机制改进了传统的蚁狮算法。最后基于实时电价和临界峰值电价进行仿真,结果表明,改进的蚁狮算法可以有效的降低用户的用电成本,维持用电舒适度,并与粒子群算法、遗传算法和蚁狮算法进行对比,验证了所提算法有较高的稳定性,更强的全局搜索能力,收敛效果更好。

面向联盟链的共识算法研究

实用拜占庭容错算法(Practical Byzantine Fault Tolerance)广泛用于理论研究和实际生产中,但存在着选取主节点随机、缺乏惩罚机制等缺点.针对以上问题,(1)提出一种基于复杂网络角度的区块链共识算法,通过引入时间感知PageRank算法,建立区块链网络节点的影响力评分机制,并建立共识群组;(2)为了减少共识攻击的发生,建立节点惩罚机制,增加节点作恶的成本,有效提高攻击代价,降低攻击概率;(3)实验表明,基于时间感知PageRank的共识算法在扩展性和可靠性上高于实用拜占庭容错算法和基于信用分级的拜占庭容错算法(Credit-Layered Byzantine Fault Tolerance);在公平性和在延迟性方面,均取得良好效果.

机载分布式智能蒙皮波束综合算法研究

针对机载智能蒙皮天线孔径共形和分布化的特点,开展了基于Broyden族算法的波束综合优化研究。算法以最小化副瓣电平为优化目标,通过K-S函数连续化处理,实现低副瓣波束赋形。通过不同的加权方式对算法的有效性进行了验证,相与遗传算法(genetic algorithm,GA)等随机优化算法,本文算法收敛速度快,能够避免陷入局部最优,适用于大规模非均匀共形天线阵列,具有较高的工程应用价值。

递归型数据中心网络上g-额外连通度及容错单播算法研究

数据中心网络的研究是近几年兴起的热点。与传统的树型数据中心网络相比,递归型数据中心网络具有更好的容错性和可扩展性。部署于n-口交换机上的k-维递归型完全图网络可以表示为Xk,n,σ表示图中任意顶点与同维度其他子图相连接的边数。在实际情况中,网络的额外连通度相较于传统的连通度能够更准确地衡量一个网络的容错性。证明当k≥3,n≥3,σ∈{1,n-1}且0≤g≤2时,Xk,n的g-额外连通度为(g+1)(kσ-1)+n,这一结果接近于其连通度的g+1倍。进一步,提出基于该情形下的容错单播算法,并证明了该算法的时间复杂度和在最坏情况下Xk,n中任意两点间构造出路径长度的上界。通过模拟仿真实验,验证了该算法在执行效率上优于广度优先和深度优先搜索算法,且算法具有较好的容错性。

航母航空保障作业中异质群体的动态路径规划算法

航母保障作业中路径规划任务存在着场景高动态性以及智能体的强异质性问题,传统的全局路径规划算法虽然能获得全局最优的结果,但无法适应高度动态变化的场景,且不能很好解决智能体的异质性所带来的安全性问题;当前的局部路径规划算法能够很好地解决智能体体型差异,但是异质群体行为控制表示难以统一表达。为了解决以上问题,提出了一种航母航空保障作业中的异质群体的动态路径规划算法。首先,将优化的全局和局部路径规划算法融合,解决航空保障作业场景的高动态性问题,根据动态环境信息及时调整路径,并充分考虑场景的高动态性给异质智能体带来的安全性问题。然后,该方法考虑异质智能体不同的行为特性,在局部碰撞避免过程中采用基于运动学特性的异质智能体行为控制模型。最后,以美国尼米兹号航母为例,使用UE4进行仿真实验,从路径长度、平滑度、安全性和避障能力等方面对该算法进行了评价。仿真实验结果表明,与其他路径规划算法相比,所提算法不仅可以生成航母甲板异质群体的安全路径,还能够满足异质群体在动态航空保障作业场景中的应用需求。

一种改进的概率霍夫直线检测算法

针对概率霍夫直线检测算法检测速率不高、检测精度易受其他特征和连续间断线干扰的缺点,提出了一种改进的概率霍夫直线检测算法。改进后的算法将注意力集中在直线可能存在的若干个区间,提升了检测速率与精度,在直线检测全过程监控并剔除连续间断线,提升了算法的抗干扰能力。经过100组铝锭边缘线检测的实验验证,改进后算法相较原算法平均检测速率提升至1.77倍,查准率提升至1.45倍,且改进后算法在其他图片上的检测速率和检测效果相较原算法也有明显提升。

智能算法的亚群优化策略综述

群智能算法的优化是提升群智能算法性能的一个主要途径,随着群智能算法越来越广泛地运用到各类模型优化、生产调度、路径规划等问题中,对智能算法性能的要求也越来越高。亚群策略作为一种优化群智能算法的重要手段,能够灵活地平衡算法的全局勘探能力和局部开发能力,已经成为群智能算法的研究热点之一。为了促进亚群优化策略的发展和应用,对动态亚群策略、基于主从范式的亚群策略和基于网络结构的亚群策略进行了详细调查,阐述了各类亚群策略的结构特点、改进方式和应用场景。最后,总结了亚群策略目前存在的问题以及未来的研究趋势和发展方向。