Mstlab工具在数理统计学中的应用——一元回归问题的计算机求解法

介绍了利用matlab数学计算工具来进行一元回归拟合的方法,包括求解思路、流程图、主要程序、程序的使用方法。

关于香港回归问题的历史回顾(1942—1945)

香港，历来就是中国的领土。１９４２年至１９４５年，国民党政府就取消英、美等国在华的治外法权问题与英、美等国展开谈判之际，以及１９４５年日本战败投降后的受降过程中，中方都面临收回香港主权的大好历史机遇。然而，由于美国政府的出尔反尔、背信弃义，英国坚持其顽固的殖民主义立场，更由于中国的贫弱和国民党政府采取妥协、软弱的外交政策，不仅使作为战胜国的中国在外交上蒙受了新的耻辱，而且使中国再次坐失了收回香港主权的良机。

含有不等式约束的回归问题中的帽子矩阵

影响分析是研究回归问题的一个重要环节 ,提到影响分析 ,必须引进帽子矩阵 .无约束回归问题中的帽子矩阵的作用已经分析清楚 .本文将探讨含有不等式约束的回归问题中的帽子矩阵的作用 ,并将之与无约束情形相比较 .

求解大规模SCAD回归问题的随机坐标下降算法研究

回归方法是重要的数据分析工具。带平滑削边绝对偏离(smoothly clipped absolute deviation, SCAD)正则项的回归问题,以其在处理高维数据中的近似无偏性(见Fan和Li,2001),在大数据分析中得到广泛应用。但在大数据背景下,待求解的SCAD回归问题的数据量往往很大,而且分布在不同地理位置,这使得在SCAD回归问题的求解算法设计中,需要重新考虑计算的内存使用量。常规用于求解SCAD回归问题的优化算法(LQA、LLA、ADMM等)往往需要在每一次迭代中更新全部变量,从而造成计算的内存需求很大,难以适应大数据的求解要求。随机坐标下降方法(stochastic coordinate descent, SCD)以其子问题运算内存需求小(见Nesterov,2012)的优势,在大规模分布式最优化问题中得到了广泛的应用。但目前理论上SCD算法仅能处理带凸惩罚项的回归问题,由于SCAD回归问题中惩罚项的非凸非光滑性,现有的随机坐标下降方法难以处理这一问题。首先对SCAD回归问题模型进行分析,得出SCAD回归模型的损失函数是导数Lipschitz、惩罚函数是semi-convex的,此外根据已有结论,得到SCAD回归问题的稳定点即可保证良好的统计性质。基于这些性质的分析,介绍了一种新的随机坐标下降方法(variable bregman stochastic coordinate descent, VBSCD),这一方法能很好求解带SCAD惩罚项的回归问题,算法的收敛点是SCAD回归模型的稳定点。最后,通过计算实验进一步说明本算法在求解SCAD回归问题的有效性。对不同的变量分组数,算法迭代到稳定点所需的迭代回合数相对稳定。随着变量分块数的增加,单次迭代中计算的内存需求减少。该研究方法可广泛应用于大数据背景下SCAD回归问题的求解当中。

Boosting算法在回归问题计算的应用

将机器学习中的一种新方法——Boosting算法应用于两类不同回归问题的计算,结果表明:该方法有效、实用,在完成参数估计的同时,可以自动获取决定模型参数的主因素,并且特别适用于解决高维稀疏性问题.

回归问题中的k近邻加权方法研究

针对回归问题分析了常用的k近邻加权回归算法的特点,给出一种基于k近邻的改进加权方法.根据每个样本在整个样本空间中所处的位置的不同来计算不同的权重值,更好地描述了样本点的局部性质.理论上,我们给出了改进方法与原始计算权重方法所得的权重值之间的关系,证明了我们的改进方法能够更好的描述离群点和具有重要局部性质的样本点.另外,我们还将这种新的加权方法推广到支持向量回归机和最小二乘支持向量回归机中,实验验证了所提方法的有效性.

一种求解稀疏逻辑回归问题的不精确邻近拟牛顿算法

复合凸优化问题是一类重要的优化问题,它在图像去模糊、人脸识别和压缩感知等领域具有广泛的应用。针对稀疏逻辑回归问题,提出了一种不精确加速邻近拟牛顿算法,并给出了该算法的收敛速度分析。数值结果表明,不精确加速邻近拟牛顿算法求解稀疏逻辑回归问题是有效的。

人工神经网络和随机森林在回归问题中的应用比较

机器学习方法在回归问题中的应用十分广泛,人工神经网络(Artificial Neural Network,ANN)和随机森林(random forest,RF)均是经典的机器学习算法,在回归问题中均有众多的应用。神经网络和RF算法均为决策树算法的扩展,且均在解决回归问题中有着良好的精度。ANN是一种可以广泛应用于各个学科的经典机器学习算法;RF算法具有结构清晰、易于解释、运行效率高且对于数据要求低等优势,且RF模型具有稳定性较高,不易出现过拟合问题等特点。文章通过2个回归问题的案例,比较神经网络和RF算法在回归问题中的区别,为研究2种算法在回归问题中的应用提供参考。

邓小平在香港回归问题上的战略构想

邓小平在香港回归问题上的战略构想王大顺一、关于香港回归的时机。邓小平晚年设计香港回归可以追溯到１９７８年下半年，当时引起邓小平思想兴奋的焦点主要是：一、究竟在什么时间、以什么方式在香港恢复行使主权，尽可能地实现平稳过渡；二、如何在香港恢复行使主权以后...

求解逻辑回归问题的多层邻近拟牛顿算法

针对逻辑回归问题,基于多层优化思想和邻近拟牛顿算法,提出一种求解该问题的多层邻近拟牛顿算法。先构造粗糙模型,再根据粗糙条件判断选择执行粗糙步或邻近拟牛顿步。此外,为节省计算量,该算法给出一个合理的目标函数二阶近似,并近似求解子问题。数值结果表明,该算法在求解逻辑回归问题时是有效的。

生理信号回归问题的一种解法

一自适应在线过程可通过Kalman滤波表示为时变多变量的自回归模型。时变模型的参数的估计能被用以计算线性相关的瞬时测量,此方法对生理信号的分析非常有用。本文着重讨论了在呼吸运动,心率波动,血压的分析中的应用。

外交史上的不配丰碑——邓小平处理香港回归问题的立场、原则与智慧

香港的回归路，曲折，坎坷而又漫长。回首这条路上的艰难历程．邓小平的一道道足印将永远是这条路上的辉煌文字和不朽丰碑。

中英在香港回归问题上的几次斗争

中英在香港回归问题上的几次斗争赵文静作者：赵文静，焦作４５４１５０１８４０年鸦片战争后，英国侵略者强迫清政府签订了《中英南京条约》、《中英北京条约》和《中英展拓香港界址专条》三个不平等的条约，逐渐把香港地区（香港岛、九龙、新界）沦为它的殖民地。英国的...

美中关系与香港回归问题

美中关系与香港回归问题林芸１９９７年３月，美国国会通过了《香港回归法案》，其中规定，如果香港在回归中国后失去高度自治和自主权，使美国的政治经济利益受到损害的话，美国便会采取相应的制裁措施，包括禁止香港制造的纺织品、玩具和电子产品进入美国，并且重新检讨...

快速定位LTE基站回归问题的方法

随着通信行业的发展,第四代通信设备LTE(长期演进)基站架构已基本稳定,面临着越来越多的LTE基站回归测试。LTE基站回归测试定位问题较慢,延长了解决问题的时间,需要花费很多研发时间和精力。文章根据回归测试原理,结合LTE基站的功能,通过抓log自我分析、二分查找法、替换法、定点查CR法、查看代码法、编包验证法等方法,为快速定位回归测试问题提供方案。可以缩短系统测试工程师和开发人员定位LTE基站问题的时间,提高定位问题的效率。

乌泰叛逃后的回归问题

叛国暴乱失败后的外逃者,其前途不外乎有两种可能:一是死硬到底,埋骨他乡,遗臭千古;一是痛认前非,回归祖国,有益后世。策动外蒙“独立”和乌泰叛乱的沙俄,对其脚下的走狗的前途也持两种态度:当这些人对它还有点用处的时候,扶植豢养;一旦形势发生逆转,也就一脚踢开,这样,叛逃者的悲惨结局也就到来了。库伦叛国集团于一九一三年“远征”内蒙失败后的处境,就反映了后种状态的发展趋势。叛逃到库伦的内蒙王公喇嘛,在内外交困和分化过程中,一些人对待归宿问题上,在各种因素影响下,逐渐地选择了回归内地的道路,乌泰就是其中一个典型。研究这一历史现象,探讨乌泰等王公回归的原因和条件是很有意义的。拙文试图就这些问题谈几点看法。

基于MCP正则的最小一乘回归问题研究

针对损失函数为最小一乘函数的回归问题,研究其基数罚问题与MCP (minimax concave penalty)松弛问题之间解的关系.首先,证明了 MCP罚松弛模型解的下界性质,以此为基础分析了基数罚问题与松弛问题之间解的等价性,证明了在一定条件下两个问题具有相同的全局最优解以及最优值,此外,还证明了松弛模型的局部最优解是基数罚问题的局部最优解,在局部极小值点处松弛模型与基数罚问题的最优值是相等的.文章结果为求解稀疏最小一乘回归问题提供了理论依据和可行途径.

以民国时期武术教学反思当下校园武术回归问题

为贯彻社会主义核心价值观,贯彻落实习近平总书记关于体育强国建设的重要指示和全国教育会议精神,深入探讨发展有中国特色的体教结合的教育方式,促进校园文化学习与体育锻炼协调发展。本文运用文献资料法和逻辑分析法,以民国时期学校武术教学为切入点,通过与现行校园武术教学内容、师资、教学方法的比较,得出当前学校武术教学上竞技武术教学占比较重,教学方法枯燥,教学过程缺乏传统武术内容的问题。结合学校武术的现状,借鉴民国时期的经验,对当前学校武术教师的专业能力提升和教学方法等方面进行改革创新,以促进校园武术的进一步发展。

特征挖掘算法与不同机器学习方法在回归问题中的应用研究

近年来,机器学习方法在各个领域内的应用十分广泛,而特征挖掘则是机器学习过程中十分重要的数据预处理过程。Boruta算法是一种基于随机森林算法的特征筛选算法,该算法可以对机器学习过程中的自变量进行筛选,并且进行重要性排序。随机森林、支持向量机、k最近邻算法和梯度提升模型则是机器学习中的经典算法,在解决回归和分类问题中均有较广泛的应用。本文通过红葡萄酒案例,将Boruta算法与4种机器学习方法相结合,探讨Boruta算法的作用及几种不同机器学习方法的区别,为将特征挖掘算法和机器学习在回归问题中的应用提供参考。

基于LSTM的小井眼阵列感应测井响应预测

快速准确地获取测井响应曲线是进行后续测井反演的基础。为了对测井响应进行高效的正演建模,将LSTM神经网络应用于小井眼阵列感应测井响应的预测中。数据集来源于COMSOL软件建模仿真得到的小井眼感应测井响应数据。在离线训练阶段,LSTM模型从测井响应数据库中提取到小井眼感应测井响应的数据特征。给定简单各向同性层状地层和复杂各向同性地层两种地层参数,训练得到的模型可用于预测阵列感应仪器的小井眼测井响应。研究表明,LSTM预测结果与基于测井响应数据库传统多维插值法的结果基本吻合。在保证预测结果精度的前提下,LSTM预测极大地提高了不同地层场景下测井响应的预测时间,且具有良好的泛化能力。