期刊文献+
共找到1篇文章
< 1 >
每页显示 20 50 100
减小MPU运算中舍入误差的树型分析方法 被引量:1
1
作者 柳见成 《长沙水电师院自然科学学报》 1994年第3期247-252,266,共7页
采用MPU进行浮点运算时的舍入误差现象的分析,提出了一种减小舍入误差的树型分析法。利用此分析方法可以确定运算顺序,这种顺序能使表达式运算过程中的舍入误差减至最小程度,不必引入多倍字长运算,从而达到减少数据存储容量和提... 采用MPU进行浮点运算时的舍入误差现象的分析,提出了一种减小舍入误差的树型分析法。利用此分析方法可以确定运算顺序,这种顺序能使表达式运算过程中的舍入误差减至最小程度,不必引入多倍字长运算,从而达到减少数据存储容量和提高执行速度的目的. 展开更多
关键词 MPU 运算 舍入误差 树型分析方法
下载PDF
上一页 1 下一页 到第
使用帮助 返回顶部