面向FPGA的二值神经网络模型压缩方法研究

针对卷积神经网络在正向推理时的高计算复杂度与空间复杂度问题,提出了一种基于二值神经网络(Binary Neural Network,BNN)的过滤器剪枝算法(Binary Filter Pruning:BFP). BFP算法通过剪除L2范数较小的过滤器,构建剪枝压缩后的二值神经网络模型.进一步面向FPGA(Field Programmable Gate Array)平台,设计并实现了基于二值复值神经网络(Binary Complex Neural Network,BCNN)的ResNet-18加速计算模型.对二值复值卷积层与预处理过程中的卷积层,分别设计了数据预处理合并优化与数据重排序.实验结果显示,BFP算法在CIFAR-10数据集上的分类精度,比基于SLR(Surrogate Lagrangian Relaxation)的通道剪枝方法平均提高了1%.与CPU平台相比,设计的加速器在PYNQ-Z1平台上的计算性能提高了23倍.

一阶混合整数值负二项自回归模型

考虑复杂整数值时间序列数据的建模问题.首先,提出一类一阶混合整数值负二项自回归模型,并证明该模型的严平稳遍历性,讨论该模型的转移概率、期望、方差等概率统计性质;其次,研究该模型的最大似然估计问题,得到了估计量的渐近正态性,并在数值模拟的基础上进行实证分析.实证分析结果表明,该模型在拟合毒品犯罪次数数据时性能良好.

二值probit回归模型的坍缩变分贝叶斯推断算法

给出了二值probit回归模型的坍缩变分贝叶斯推断算法.此算法比变分贝叶斯推断算法能更逼近对数边缘似然,得到更精确的模型参数后验期望值.如果两个算法得到的分类错误一致,则该算法的迭代次数较变分法明显减少.仿真实验结果验证了所提出算法的有效性.

基于二维相关红外光谱对pH值影响大豆分离蛋白二级结构含量的快速分析

为满足不同种类食品对大豆分离蛋白(soybean protein isolate,SPI)不同功能性的需求,本研究利用红外光谱快速采集70组不同pH值处理后SPI的数据,探讨pH值变化对SPI结构含量的影响。使用均值中心化、多元散射校正、标准正态变量变换和归一化算法对红外光谱数据进行预处理,基于二维相关红外光谱提取特征波段,再利用偏最小二乘(partial least square,PLS)法和算术优化算法-随机森林(arithmetic optimization algorithm-random forests,AOA-RF)建立不同pH值条件下SPI结构及含量的预测模型。结果表明,经均值中心化和多元散射校正结合处理后,α-螺旋、β-折叠、β-转角和无规卷曲模型的相对标准偏差分别为1.29%、1.60%、1.37%、7.28%,两者结合对光谱数据的预处理效果最佳。预测α-螺旋和β-折叠含量最优模型为AOA-RF(特征波段),校正集决定系数为0.9350和0.9266,预测集决定系数为0.8568和0.8701;预测β-转角和无规卷曲含量最优模型为PLS(特征波段),校正集决定系数为0.9154和0.8817,预测集决定系数为0.8913和0.7843。本研究结果可为工业生产过程中产品质量快速检测和工艺条件控制提供理论支撑。

零修正Skellam整数值GARCH模型

Skellam分布是一种定义在Z上的离散分布.最近,基于Skellam分布和修正Skellam分布的INGARCH模型相继被提出.本文在零修正Skellam(ZMS)分布的基础上,提出了ZMSINGARCH模型.该模型基于一个额外的参数对整数0进行了细致的处理,并且对零膨胀或零收缩比例有着合理的解释,可以更好地拟合数据和捕获非零均值时间序列中的波动性.当模型的阶数p=1且q=1时给出了模型的定义和统计性质,通过数值模拟发现条件极大似然估计优于条件最小二乘估计.基于对数似然比统计量,检验了修正后的模型,通过分析来自不同股票交易市场的两个实例说明了该模型具有良好的性质.

基于分离卷积二值化网络的模型压缩方法研究

深度卷积神经网络(DeepConvolutional Neural Networks,DCNNs)在各个领域的应用愈加广泛,而在实际应用中DCNN需要大量的计算和内存资源,在资源有限的移动设备上难以部署。因此提出了一种基于深度可分离卷积二值化网络的模型压缩与优化加速的方法,首先在深度卷积神经网络中使用深度可分卷积代替传统的卷积,其次将网络中的权重和激活值进行二值化,并通过教师网络引导训练,在最大限度的增加计算速度和减少内存资源占用的同时,保持网络的分类精度。实验结果表明,使用上述方法对花卉数据集进行分类识别,在精度仅下降2.2%的情况下,可大幅减少计算时间和内存资源的占用,有利于移动设备的部署。

二值形态学边缘检测算法的量子实现及仿真

为进一步完善量子计算机图像边缘检测算法,结合IBM Q平台上的量子计算操作,提出了量子图像二值形态学边缘检测算法。在NEQR量子二值图像表示和量子二值腐蚀和膨胀操作的基础上,设计并实现了相应的二值形态学去噪处理量子电路和边缘提取量子电路。通过Qiskit扩展在虚拟本地量子模拟器上实现了8×8和128×128大小的量子图像二值形态学边缘检测,同时在IBM Q平台的真实云端量子模拟器上实现了8×8大小的量子图像对比仿真实验,实验结果证明了量子图像二值形态学边缘检测算法的可行性与有效性。

基于二次插值的GM(1,1)模型预测方法的改进

从理论上分析了GM(1,1)模型中背景值的计算,指出文[11]利用Newton-Cotes公式构造模型背景值的方法是不可靠的,提出用二次插值构造模型中的背景值,同时用最小二乘法对预测公式中的初值进行改进,并用改进的方法进行了短期预测。其理论分析及仿真结果均表明本文所提出的方法有效可靠,为提高预测精度提供了新的途径。

偏最小二乘与人工神经网络耦合模型在酸雨pH值预测中的应用

将偏最小二乘与人工神经网络耦合,建立了一种新型耦合预测模型———偏最小二乘与人工神经网络耦合模型。该模型利用了偏最小二乘方法有效处理自变量之间多重相关性问题和人工神经网络可以较好地解决非线性问题的能力,在城市酸雨pH值预测中的应用表明,该模型预测精度高,明显优于偏最小二乘回归模型和人工神经网络模型。

基于二值响应模型的房地产泡沫预警方法研究

本文在总结国内外房地产泡沫预警研究的基础上,论述了二值响应模型在房地产泡沫预警研究中的应用,并以日本为例进行了实证研究。结果表明,二值响应模型在房地产泡沫预警中有比较准确的预测作用。另外,与徐滇庆(2000)的研究不同,有关股市价值的相关变量并不能对房地产泡沫起到明显的预警作用。

Poisson-Logistic二元复合极值模型在平台甲板标高设计中的应用

考虑到平台所在海区台风出现的频次及其诱发之风、浪、潮、流极端海况联合出现的概率特性,本文推导出Poisson-Logistic二元复合极值模式,并以平台甲板标高进行实例计算。新模式增加了概率模型的物理内涵,解决了Logistic模型阈值选取的任意性。对海洋工程极端海况荷载组合预测具有广泛的应用前景。

二值响应模型与决策树在门诊失约行为研究中的应用

目的通过将二值响应模型与决策树相结合,对门诊预约失约患者的特征进行鉴别和归纳,以期为减少患者失约行为的发生,提高门诊预约管理质量提供参考。方法将二值响应模型与决策树联合应用,鉴别出对失约行为具有显著效应的特征,并将其作为分类节点,构建决策树,最终获得失约患者的特征组合。结果在样本医院的妇科门诊中,预约提前时间≤1天的患者,预约提前时间>1天且≤2天并且预约新院区就诊的外地患者及预约提前时间>20天的外地患者更容易发生失约行为。结论可利用该模型,对预约患者的失约率进行预测,并采取针对性措施,减少失约行为的发生。

一种用于图像二值化的细胞神经网络模型

本文提出了一种用于图像二值化的神经网络模型，我们称它为数字式细胞神经网络。它基于蔡少堂等提出的细胞神经网络概念［１］［２］，但采用了神经元离散时间的数字动力学技术。利用这个模型，只要通过简单的整数运算就可以并行高速地对灰度图像进行二值化。对于不同邻接和权值的选择得到了比传统二值化方法更自然的二值图像。另外，所提出的神经网络模型非常适合于数字ＶＬＳＩ实现。

基于模型基的二值图像压缩方法

目前 ,二值图像压缩主要采用无损压缩方式 ,压缩倍数低。针对具有相同背景的表格图像 ,借鉴在运动图像压缩中效果很好的模型基压缩方法 ,提出将表格图像的相同背景建立成二维模型 ,将表格图像中的不同内容作为运动参数进行编码 ,解码时再将图像进行合成的方法。

商业银行内部评级法的违约概率预测新方法——基于二值响应面板数据模型的研究

违约概率(PD)的计量是商业银行内部评级体系的基础,它对整个内部评级体系的效果有根本性的影响。目前各种违约概率计量方法最大的缺陷是忽略了时间效应的影响。本文提出的含随机截距项的二值响应面板数据模型是对现有各种方法的深入和完善。首先,它成功地将二值响应模型融合在面板数据分析中;其次,它特别考虑了因为观测时间不同而产生的时间效应,依此在模型中加入了随机截距项。实证结果表明,这一方法具有更好的解释能力和预测效果,是银行业进行内部评级工作理想的模型,因此具有很强的理论价值和实践意义。

二值决策Bayesian粗糙集模型属性约简研究

Bayesian粗糙集模型作为经典粗糙集理论与Bayesian推理发展的综合模型,其近似区域划分以事件发生的先验概率为基准,可有效处理众多实际问题,如医疗诊断、故障检测、经济预测等。针对二值决策Bayesian粗糙集理论,证明了Slezak和Ziarko属性约简模型等价,并进一步给出了相应分辨矩阵描述,从而经典粗糙集模型中基于分辨矩阵的知识约简思想均可平移应用于Bayesian粗糙集模型,丰富了Bayesian粗糙集理论体系。

变系数模型的稳健LS-SVR估计算法及数值分析

变系数模型的最小二乘支持向量回归估计方法(VC-LS-SVR)是最近提出的一种用于分析变量间回归关系动态变化特征的有力工具,经典非参数回归模型与机器学习方法相融合的新技术,不仅增强了变系数模型对变量间非线性关系的适应性与可计算性,同时继承了经典统计模型的可解释性。但是上述方法直接利用最小二乘支持向量回归(LS-SVR)技术拟合变系数模型,缺乏稳健性,数据中的异常值会扭曲系数函数的估计,从而引起对回归关系的误导性解释。为解决上述问题,基于VC-LS-SVR和加权思想提出了两种稳健估计方法:变系数模型的加权最小二乘支持向量回归估计方法(VC-WLS-SVR)与迭代重加权最小二乘支持向量回归估计方法(VC-IRLS-SVR)。数值实验结果表明两种方法具有稳健性,能够有效抑制异常值的影响,即使在异常数据污染率达到50%或存在极端异常值的情况下,也能获得准确和稳定的估计结果。

态度测量的新进展:二值概率展开模型及一般形式

态度测量主要应用两种模型:累进型与展开型。目前国内的相关研究主要针对累进型模型。文章在回顾累进型模型的基础上,介绍了当前国际研究最为前沿的一种新的态度测量模型———二值概率展开模型,并详细阐述了该模型的一般数学表达式。

应用奇异值分解与二维经验模型分解提取金矿化致矿重力异常

奇异值分解(singular value decomposition,SVD)和二维经验模型分解(bi-dimensional empirical mode decomposition,BE-MD)2种方法用于鲁西铜石金矿田的金矿化致矿重力异常提取。通过对比研究得出如下结论:①基于重力数据,由BEMD和SVD 2种方法获取的铜石金矿田的控矿因素是一致的,为重力负异常的近圆形铜石侵入杂岩体和环绕铜石侵入杂岩体的表现为正异常的接触交代矿化带。②2种方法一致地揭示了控矿因素和不同类型金矿化之间的空间关系:斑岩型金矿化位于杂岩体内,矽卡岩型铁-铜-金矿化位于内接触交代带,卡林型和隐爆角砾岩型金矿床位于外接触交代带。③BEMD的分解结果不但反映了控矿地质体单元(铜石杂岩体)的空间分布特征,亦反映了铜石金矿田的其它地质单元,如NW向表现为明显重力负异常的中生代火山沉积盆地,位于铜石侵入体与中生代火山沉积盆地之间的表现为重力正异常的NW向基底隆起。而由SVD获取的致矿重力异常,更确切地揭示了铜石侵入体和环形接触交代带内部的精细结构特征,环形接触交代带内部具岛状形态的正重力异常可能代表铁-铜-金矿化矽卡岩体。④虽然2种方法在原理和过程方面都不同,但具有明显地质成矿意义的金致矿异常皆可通过各自定义的带通滤波器获取。⑤在成矿地质背景的约束下,由这2种方法获取的综合研究结果比其中任意一种方法获取的结果更全面客观地揭示了控矿因素与金矿化的空间关系。

二维复合极值模型在暴雨多变量联合分布中的应用

为了更好地描述暴雨多变量特征,构建以GPD为边缘分布的泊松-二维Copula复合极值模型,并将其应用于成都温江站暴雨雨量和暴雨雨峰的联合概率分布计算,研究表明该模型:理论联合频率与经验联合频率吻合较好,能用于暴雨联合分布的计算;考虑了暴雨过程出现的频次,增加了概率模型的物理内涵,选取独立的暴雨过程极大值作为样本,克服了GPD阈值选取的随意性;可以推广应用于连续分布为其他的Copula函数的情形,具有广泛的应用前景。