基于低维参数空间的神经网络结构设计方法

本文研究了流形学习的分类器网络结构优化设计问题,针对利用神经网络对同一对象的非线性结构样本集进行分类和识别时,如何合理地设计网络结构的问题,提出了一个新颖的基于低维参数空间估计的神经网络结构设计的方法。该方法以流形学习为基础,结合Sammon系数有效估计出低维参数空间大小,并将此对应到神经网络结构分组设计的隐节点分组数目上,从而设计出具有一定泛化能力的网络结构。实验结果表明了本文所提方法的有效性。

基于细胞自动机和QPSO的间接编码神经网络结构设计算法

设计间接编码方案表达网络结构,利用二维细胞自动机中的元细胞表示网络连接存在与否,对元细胞的坐标和值分别演化,实现对网络结构的生长和剪枝.应用二进制量子化粒子群算法,采用特定的适应度函数,生成和进化元细胞的坐标.设计元细胞的邻域演化规则,演化元细胞的值.利用浮点量子化粒子群算法训练当前网络,逐步得到最终稳定网络结构及其参数.实验结果表明,当应用于不同规模的网络结构设计时,算法复杂度变化不大,并且具备稳定的收敛性能.

面向高能效场景的神经网络结构和加速器协同设计

神经网络算法和深度学习加速器已成为推动深度学习方法应用最重要的两股力量,但目前的神经网络结构设计主要围绕模型精度、计算量等指标,忽略了不同模型在目标加速器上计算效率的差异;而加速器设计一般针对既定的神经网络基准程序进行优化,往往难以覆盖到未来不断迭代进化的神经网络模型,这就容易导致加速器在新的网络架构上表现不佳。本质上,神经网络架构与加速器相对独立的设计流程,导致了两者的设计和优化不匹配,从而无法达到最优的深度学习推理性能。为此,本文提出了一种针对图像分类任务的网络结构和加速器软硬件协同设计的框架,将网络结构和加速器设计融合到统一的设计空间中,并针对设计约束,自动搜索最优协同设计方案,实现了端到端的深度学习推理定制和优化。实验表明,在真实的图像分类数据集和脉动阵列架构上,相对于传统的网络结构和加速器分别独立优化的方法,本文提出的协同设计方法实现了平均40%的能耗降低。

Optimal control of end-port glass tank furnace regenerator temperature based on artificial neural network

In the paper, an artificial neural network (ANN) method is put forward to optimize melting temperature control, which reveals the nonlinear relationships of tank melting temperature disturbances with secondary wind flow and fuel pressure, implements dynamic feed-forward complementation and dynamic correctional ratio between air and fuel in the main control system. The application to Anhui Fuyang Glass Factory improved the control character of the melting temperature greatly.