期刊导航
期刊开放获取
河南省图书馆
退出
期刊文献
+
任意字段
题名或关键词
题名
关键词
文摘
作者
第一作者
机构
刊名
分类号
参考文献
作者简介
基金资助
栏目信息
任意字段
题名或关键词
题名
关键词
文摘
作者
第一作者
机构
刊名
分类号
参考文献
作者简介
基金资助
栏目信息
检索
高级检索
期刊导航
共找到
1
篇文章
<
1
>
每页显示
20
50
100
已选择
0
条
导出题录
引用分析
参考文献
引证文献
统计分析
检索结果
已选文献
显示方式:
文摘
详细
列表
相关度排序
被引量排序
时效性排序
平方根倒数速算法的精度优化
被引量:
2
1
作者
周泉
杨靓
何卫强
《微电子学与计算机》
北大核心
2019年第5期64-69,共6页
平方根倒数速算法是计算机数值计算中的一种常用方法.文中在对平方根倒数速算法的原理进行分析的基础上,提出一个新的算法常数来提升计算结果的统计精度.实验结果表明,本文提供的算法常数相比于原有的算法常数能将批量数据处理的平均精...
平方根倒数速算法是计算机数值计算中的一种常用方法.文中在对平方根倒数速算法的原理进行分析的基础上,提出一个新的算法常数来提升计算结果的统计精度.实验结果表明,本文提供的算法常数相比于原有的算法常数能将批量数据处理的平均精度提升大约30%~40%,而针对单个数据的计算,本文方法的意义在于能从一个更大的概率(平均约77%)上获得比原有方法更加精确的结果.
展开更多
关键词
平方根倒数
0x5f3759df
0x5f34ff59
卡马克常数
精度优化
下载PDF
职称材料
题名
平方根倒数速算法的精度优化
被引量:
2
1
作者
周泉
杨靓
何卫强
机构
西安微电子技术研究所
出处
《微电子学与计算机》
北大核心
2019年第5期64-69,共6页
文摘
平方根倒数速算法是计算机数值计算中的一种常用方法.文中在对平方根倒数速算法的原理进行分析的基础上,提出一个新的算法常数来提升计算结果的统计精度.实验结果表明,本文提供的算法常数相比于原有的算法常数能将批量数据处理的平均精度提升大约30%~40%,而针对单个数据的计算,本文方法的意义在于能从一个更大的概率(平均约77%)上获得比原有方法更加精确的结果.
关键词
平方根倒数
0x5f3759df
0x5f34ff59
卡马克常数
精度优化
Keywords
inverse square root
0x5f3759df
0x5f34ff59
carmack constant
accuracy optimizing
分类号
TP301.6 [自动化与计算机技术—计算机系统结构]
下载PDF
职称材料
题名
作者
出处
发文年
被引量
操作
1
平方根倒数速算法的精度优化
周泉
杨靓
何卫强
《微电子学与计算机》
北大核心
2019
2
下载PDF
职称材料
已选择
0
条
导出题录
引用分析
参考文献
引证文献
统计分析
检索结果
已选文献
上一页
1
下一页
到第
页
确定
用户登录
登录
IP登录
使用帮助
返回顶部