期刊文献+
共找到1篇文章
< 1 >
每页显示 20 50 100
计算机浮点数算术运算的舍入误差研究 被引量:7
1
作者 范啸涛 季光明 何永斌 《成都理工大学学报(自然科学版)》 CAS CSCD 北大核心 2005年第2期213-216,共4页
对计算机浮点数算术运算的舍入误差进行分析,是对数值计算方法作误差分析的基础。论文全面研究了计算机浮点数算术运算的舍入误差的基本理论,对有关结论均作了严格的论证。并举例说明由算术运算的误差界,可建立较复杂运算的误差界。还... 对计算机浮点数算术运算的舍入误差进行分析,是对数值计算方法作误差分析的基础。论文全面研究了计算机浮点数算术运算的舍入误差的基本理论,对有关结论均作了严格的论证。并举例说明由算术运算的误差界,可建立较复杂运算的误差界。还研究了向前误差分析和向后误差分析的要点。推广上述结果,对矩阵基本运算的舍入误差进行了估计。 展开更多
关键词 浮点数系统 舍入误差 机器精度 向后误差分析
下载PDF
上一页 1 下一页 到第
使用帮助 返回顶部