期刊文献+
共找到1篇文章
< 1 >
每页显示 20 50 100
平方根倒数速算法的精度优化 被引量:2
1
作者 周泉 杨靓 何卫强 《微电子学与计算机》 北大核心 2019年第5期64-69,共6页
平方根倒数速算法是计算机数值计算中的一种常用方法.文中在对平方根倒数速算法的原理进行分析的基础上,提出一个新的算法常数来提升计算结果的统计精度.实验结果表明,本文提供的算法常数相比于原有的算法常数能将批量数据处理的平均精... 平方根倒数速算法是计算机数值计算中的一种常用方法.文中在对平方根倒数速算法的原理进行分析的基础上,提出一个新的算法常数来提升计算结果的统计精度.实验结果表明,本文提供的算法常数相比于原有的算法常数能将批量数据处理的平均精度提升大约30%~40%,而针对单个数据的计算,本文方法的意义在于能从一个更大的概率(平均约77%)上获得比原有方法更加精确的结果. 展开更多
关键词 平方根倒数 0x5f3759df 0x5f34ff59 卡马克常数 精度优化
下载PDF
上一页 1 下一页 到第
使用帮助 返回顶部