期刊文献+
共找到1篇文章
< 1 >
每页显示 20 50 100
单精度浮点数累加和误差研究 被引量:6
1
作者 陈天超 冯百明 《计算机应用》 CSCD 北大核心 2013年第6期1531-1533,1539,共4页
计算机中进行浮点数加法运算时,需要进行对阶和右规格化操作,该操作会进行舍入处理,这种处理过程会产生误差,浮点数累加运算会造成误差的累积,导致计算结果精度不够甚至计算结果错误。通过实验手段研究单精度浮点数累加过程中不同结合... 计算机中进行浮点数加法运算时,需要进行对阶和右规格化操作,该操作会进行舍入处理,这种处理过程会产生误差,浮点数累加运算会造成误差的累积,导致计算结果精度不够甚至计算结果错误。通过实验手段研究单精度浮点数累加过程中不同结合顺序对浮点数累加和误差的影响,探索结合顺序导致计算误差的规律,为多核计算、GPU计算、多处理器计算等计算范型和计算结构提供选择结合方法的依据,便于发挥其并行计算的优势。 展开更多
关键词 单精度浮点数 累加和 误差 结合顺序 右规格化
下载PDF
上一页 1 下一页 到第
使用帮助 返回顶部