基于Mini-batch神经网络的船舶柴油机风险等级预测

文章针对现有的船舶柴油机健康管理智能化程度不高、管理技术落后等问题,引入神经网络风险预测方法。提出Mini-batch梯度下降方法,通过在网络训练不同阶段使用不同权重的训练样本,提升原有全量梯度下降算法预测模型不准确和较难更新等问题。并从船舶柴油机在一次机务风险所承担的风险着手,建立设备健康风险状态的综合评价指标体系,通过Minibatch梯度下降优化了风险等级分类器。结果表明,该方法能够对柴油机风险等级进行有效预测。

复杂背景下基于YCbCr颜色空间和Mini-Batch聚类的肤色检测

针对复杂背景下的人体彩色图像,提出了一种基于YCbCr颜色空间和Mini-Batch聚类的肤色检测算法.算法首先将目标图像转换到YCbCr颜色空间,并在Cb和Cr分量上进行统计建模,得出肤色阈值的高斯分布模型;然后采用Mini-Batch聚类算法在Cb和Cr分量上对肤色进行聚类分割,并对分割出的肤色区域进行面积过滤和区域归并,最终获得完整的肤色区域.仿真结果表明,相比传统算法,该算法对光照变化具有很好的鲁棒性,在背景复杂的人体图像中,能够得到较为完整、准确的肤色区域;同时该算法对大尺寸的图像具有较高处理效率.

高清彩色图像分割的Mini-batch FCM算法研究

模糊C-均值(Fuzzy C-Means,FCM)聚类算法是一种基于划分的无监督聚类算法,也是较为常见的图像分割算法之一,该算法通过寻找0~1之间的模糊隶属度等级来进行图像分割,并通过在特征空间中寻找聚类中心来达到最小化目标函数的目的。它的局限性主要有实时性较差、初始聚类中心的设置对最终结果影响较大、未考虑空间因素导致抗噪性弱。本文将mini-batch方法应用到FCM算法中,加快了FCM算法的收敛速度,提高了算法的效率及时效性,一定程度上解决了当数据特征复杂、集合较大时,FCM算法的实时性不是很理想的问题,继而节省算法运行的时间。

基于小批量随机梯度下降法的SVM训练隐私保护方案

使用支持向量机(support vector machine,SVM)处理敏感数据时,隐私保护很重要,已有SVM隐私保护方案基于批量梯度下降法(batch gradient descent,BGD)进行训练,计算开销巨大.针对该问题,提出基于小批量随机梯度下降法(mini-batch stochastic gradient descent,Mini-batch SGD)的SVM隐私保护方案.首先,设计基于Mini-batch SGD的SVM训练算法;然后在此基础上,对模型权重进行乘法扰动,利用大整数分解问题困难假设确保模型的隐私性,使用同态密码体制对数据加密后再执行SVM训练,之后运用同态哈希函数进行验证;最终构建了SVM隐私保护方案.针对安全威胁,论证了数据隐私性、模型隐私性、模型正确性.对方案进行仿真实验和分析,结果表明,该方案在分类性能接近已有方案的情况下,其计算时间开销平均节约了92.4%.

基于CSD-ELM的不平衡数据分类算法

基于代价敏感学习的极限学习机(ELM)算法在处理不平衡数据分类问题时,未考虑不同类别样本的分布特点以及同一类别中各样本的重要性对分类结果的影响。为此,提出基于样本数量比例的错分惩罚因子设置方法,并基于Mini-batch k-means聚类与距离测度设计一种类内样本权值确定方案。在此基础上,构建区分正、负类别的隐含层输出矩阵,根据训练样本数与ELM隐含层节点数间的关系,分2种情况计算ELM隐含层与输出层间的连接权值,以降低算法的时间复杂度。实验结果表明,与ELM、WELM等算法相比,该算法的G-mean、F1分类性能指标值均较高。

基于Fibonacci采样的数据预处理方法研究

提高神经网络(NN)的收敛速率和预测精度一直是人工智能领域的一个挑战性问题,尽管许多研究人员已在研究中使用小批量数据训练神经网络获得了较好的效果,但是这些方法并不够灵活.针对这个问题,该文提出了一种新的数据预处理算法即Fibonacci采样算法.根据Fibonacci数列规则绘制一个新的训练数据序列,这不仅可以恢复小批量数据的划分,而且还可以提供更灵活的批量规模的选择.实验结果表明:在梯度下降之前,Fibonacci数据划分序列能得到较好的实验结果.在应用于相同的单个CNN(5层卷积神经网络)和AlexNet中,Fibonacci采样算法比传统的小批量梯度下降算法能获得更高的准确度和更低的损失值,并且在几种通用网络(LeNet、AlexNet、VGG-16、GoogLeNet)上的性能也取得显著提升.

满足本地差分隐私的分类变换扰动机制

本地差分隐私作为一种隐私保护技术,被广泛用于连续数值型数据的均值估计,使用的扰动机制将直接影响均值的准确度.为进一步提高均值估计的准确性,提出了一种满足差分隐私的分类变换扰动机制.该机制对连续数值型数据划分变换范围并进行分段,根据分段将其变换为1维二元分类数据.转换后使用随机响应机制进行扰动,再根据扰动后的数据标识的数值段从中随机均匀抽取数值作为扰动值.在真实数据和合成数据中的均值估计实验结果表明该机制极大地提高了准确性.除此之外,将分类变换扰动机制用于构建满足本地差分隐私的小批量梯度下降算法,并完成线性回归学习任务,实验结果证明该方法同样优于其他已有机制,可得到更小的均方误差.

基于去噪自编码器网络特征降维与改进小批优化K均值算法的海量用户用电行为聚类及分析

海量用户用电特性的挖掘与分析对实现电网与用户间的双向互动具有十分重要的意义。提出一种适用于海量用户用电行为聚类及分析的算法,以降低算法时间复杂度,提升海量用户负荷数据分析效率。提取用户用电行为特征,构建多层去噪自编码网络,实现多维特征的降维;利用小批优化K均值算法进行聚类分析,并对算法进行初始聚类质心优化与超参数优化的改进以提升算法收敛速度与效果,其中超参数优化利用基于高斯过程的贝叶斯优化算法进行;利用类间分离度和类内内聚度的相关指标对聚类效果进行评价;通过互信息筛选有效聚类特征,实现用户画像。算例结果表明,所提方法在特征优化、聚类效果与收敛速度上均有较好的表现。

面向大规模服务性能预测的在线学习方法

为提高服务运行质量,需要主动预防服务失效和服务性能波动,而不是在服务发生错误时触发处理程序。高效地预测与分析大规模服务的性能是有效可行的主动预防工具。然而传统的服务性能预测模型多采用完全批量训练模式,难以满足大规模服务计算的实时性要求。在综合权衡完全批量学习法和随机梯度下降法的基础上,建立了基于在线学习的大规模服务性能预测模型,提出了一种基于小批量在线学习的服务性能预测方法,通过合理地设置预测模型的批量参数,一次迭代仅需训练批量规模较小的样本数据,从而改善大规模服务性能预测的时间效率;详细分析了在线服务预测模型的收敛性。实验表明,提出的在线学习算法有效地解决了大规模服务预测算法的时效性问题。

MapReduce框架下基于线性回归的短期负荷预测

为解决负荷预测时因数据量大、数据种类繁多带来的计算速度慢、预测精度低等问题,在MapReduce并行编程框架下,提出基于小批量随机梯度下降法的线性回归模型.首先,为清理智能配电终端产生的重复数据和不良数据,提出利用自适应近邻排序算法清除重复记录的数据,并利用K均值聚类的方法剔除异常数据和记录不完整的数据,然后利用F检验法来检验该数据集能否线性表征负荷,再利用T检验法检验特性向量与负荷间线性关系的显著性,并剔除与负荷线性关系较弱的特性向量.根据以上方法建立短期负荷预测模型,并将其用在甘肃武威某区域配电网短期负荷预测中.结果表明,所提出的短期负荷预测模型的平均绝对百分误差为2.043%,均方根误差为3112.62.这些预测误差满足负荷预测的要求,极大地提高了负荷计算的速度,缩短了负荷预测时间.

批量减数更新方差缩减梯度下降算法BSUG

机器学习问题通常会转换成求解一个目标函数问题。继随机梯度下降(Stochastic Gradient Descent,SGD)之后,随机方差缩减梯度法(Stochastic Variance Reduction Gradient,SVRG)成为如今优化目标函数参数的主流算法,它由于不受方差影响达到线性收敛而被人们广泛研究。它的提出导致陆续出现如SAGA(Stochastic Average Gradient Average)和SCSG(Stochastically Controlled Stochastic Gradient)等新型方差缩减算法,它们有着过量消耗内存、迭代缓慢等问题。为了实现小成本存储以及快速迭代的目的,设计了一种以SVRG为基础的新型变异方差缩减算法BSUG(Batch Subtraction Update Gradient)。改进在于:使用小批量样本代替全部样本进行平均梯度计算,同时对平均梯度进行减数更新。每轮迭代中,随机抽取一批小样本进行平均梯度计算,同时在内部迭代时通过对过去模型梯度的舍去来达到更新平均梯度的目的。通过合适地降低批大小B,可以减少内存存储以及迭代次数。理论分析算法的收敛性,并基于Python进行算法实现,通过与Mini-Batch SGD、AdaGrad、RMSProp、SVRG和SCSG等算法进行比较证明了BSUG算法的有效性,并且通过对超参数进行探究证明了算法的稳定性。

基于用户特征的谱聚类算法研究

复杂网络是由一系列具有一定关联性和独立性的社区结构所构成。在社区发现的相关算法中,针对传统谱聚类存在无法计算社交网络中的高维数据,同时聚类过程中对于大规模数据计算耗时时间过长的问题,提出基于用户特征的谱聚类算法。引入了余弦相似度将高维数据进行特征降维计算,并更新传统谱聚类中的相似度矩阵,提高用户之间划分社区的准确性,同时,使用Mini-Batch K-means算法代替传统算法聚类过程中的K-means算法,既保证社区划分的质量,又减少算法聚类过程所花费的时间,提高算法的运行效率。最终在Spark平台下通过在不同规模的微博数据集进行对比实验,并采用Davies-Bouldin指数和时间指数验证。实验结果表明,改进后的算法Davies-Bouldin指数较好,时间指数相对减少,可以有效解决谱聚类处理大规模数据存在的效率问题。

苯乙烯的间歇-半连续RAFT细乳液聚合

进行了苯乙烯的间歇-半连续RAFT细乳液聚合,考察了半连续段的起点、单体滴加速率及最终胶乳固含量的影响。结果发现:从最终胶乳的稳定性考虑,半连续聚合的起点选择在间歇聚合的高转化率时期更好;若综合考虑胶乳的稳定性、分子量及其分布、固含量、乳化剂及共稳定剂在胶乳中的残留率等因素,半连续聚合的起点可适当提前,但必须在间歇聚合成核期结束后。过早容易引起乳液的失稳;过迟会延长反应时间,降低聚合物的制备效率,导致死聚物链含量升高。聚合体系的稳定性与胶乳的固含量密切相关,最终固含量不宜超过40%。采用间歇-半连续二段聚合工艺可以制得窄分子量分布(PDI=～1.3),低乳化剂及共稳定剂残留量(～1.5%,质量)的高分子量聚合物(■n≈8×104g.mol-1)。

基于约束理论的企业信息系统研究

针对军工企业的生产经营特点以及信息化需求,对TOC与MRPII和JIT进行了分析和比较,在此基础上提出了基于约束理论的企业信息化管理系统开发方案。将约束理论应用于主计划管理的维护中,实现了一个网络环境下的智能生产管理平台。重点介绍了产品配套管理、生产计划管理、库存管理以及生产线底层控制器等功能的设计实现。

一种嵌入式边缘计算平台能力评估方法

边缘计算平台是下一代智能作战装备的核心基础组件之一,结合军事应用场景,提出一种基于微型批处理和Mapreduce计算模型的嵌入式边缘计算平台能力评估方法。该方法将军事应用中的协作式电磁态势感知数据处理过程映射为MapReduce计算过程,采用微型批处理的方式进行处理,实现了典型军事应用场景与大数据计算方法相结合的嵌入式边缘计算平台能力评估策略,并描述了测试方法和关键性能指标。方法的尝试将有助于将大数据、智能计算模型与典型军事应用场景相结合,进行有针对性的嵌入式边缘计算平台能力评估方法研究。

引入全局算法的小批量K-Means

提出一种引入全局算法的小批量K-means.算法应用全局搜索算法,解决在大数据情况下运算耗时问题和传统K-means对初始中心点敏感的问题.实验结果表明,该方法在获得最佳结果的前提下可以节省大量的计算时间.

轧机轧制力的改进训练策略深度神经网络预测

为了提高双机架炉卷轧机的轧制力预测精度,提出了具有快速而高效训练策略的深度神经网络预测方法。介绍了双机架炉卷轧机的工作原理,分析了轧制力影响参数。在深度神经网络基础上,使用随机小批量的样本选取法,提高深度神经网络训练速度;提出自适应矩估计梯度优化算法,用于解决传统训练方法陷入局部极值的问题,从而给出了改进训练策略的深度神经网络轧制力预测方法。经轧制实验验证,改进深度神经网络的训练时间为226.15s,而传统网络的训练时间为862.93s;改进网络的预测误差绝大部分控制在3%以内,而传统网络的预测误差绝大部分控制在5%以内。以上数据表明,改进深度神经网络的训练速度和预测精度均远优于传统深度神经网络。

基于高速公路收费数据的用户交通出行多维度特征分析

为提升高速公路信息化管理水平,调节高速公路需求分布不均衡问题,构建了包含时间、空间、用户个人属性3个维度的特征指标体系,在K-means聚类算法的基础上,设计并使用Mini-Batch-Kmeans聚类算法对出行用户进行了分类,同时从时间、空间、个人属性3个不同维度深入分析了各类出行特征指标。研究结果表明:1)高速公路出行者多为单次出行或周末出行;2)经PCA降维和Mini-Batch-Kmeans聚类后,出行用户可分为6类;3)时间上,用户出行早晚高峰为7:00—9:00和16:00—18:00;空间上,用户出行站点多在经济水平较高城市,长途用户多在沿海或有货物中转站的城市;个人属性上,通勤用户与长途用户多使用ETC支付且花费金额高。

基于逻辑回归模型的缺血性脑卒中发病率预测研究

介绍基于逻辑回归模型的缺血性脑卒中发病率预测方法及流程,包括收集和清洗数据、构建大数据平台、提取预测特征、构建基于逻辑回归的模型等。通过仿真实验验证该方法的有效性,为脑卒中数据分析、疾病预防提供技术支持。

基于小批量梯度下降和Spark分布式方法的局部断层细化对齐

生物样品在获取电子冷冻断层扫描(cryo-ET)图像时的辐射损伤,信息缺失和低信号噪声比(SNR),限制了从断层数据中恢复3维结构信息。仿照电子低温显微镜(cryo-EM)单颗粒3维重构技术,对局部断层数据进行对齐和平均,产生高精度大分子复合体的3维结构。现有的局部断层对齐技术都会涉及6个自由度(3个旋转参数、3个平移参数),因此,它们在每次迭代对齐中处理整个3维体积图像来计算这6个自由度,这是计算密集型的。针对上述问题,本文提出一种基于小批量梯度下降(MBGD)方法实现局部断层3维数据细化对齐,并首次利用Spark分布式框架实现局部断层对齐全局择优。通过对仿真数据和实验数据的对齐,基于小批量梯度下降细化对齐算法与基线方法相比,实现了对齐精度和速度的提高。