期刊文献+

计算器的计算误差与计算精确度的研讨

Study on precision and error for calculation of the calculator
下载PDF
导出
摘要 程序型计算器在林业上应用十分广泛,而用计算器进行数值计算都可能出现误差。现给出减小误差的原理和算法途径;指出不同档次的计算工具有不同的计算精确度,应根据对计算误差的要求进行恰当选用;CASIOfx-3000p系列计算器因节省末3Bit位而采用“七舍八八”的特殊处理规则导致误差过大。
作者 张允中
出处 《林业建设》 2002年第6期24-27,共4页 Forestry Construction
  • 相关文献

参考文献6

  • 1余元初.近似计算[M].上海:上海教育出版社.
  • 2张允中.可编程计算器机内固化程序应用探讨[J].西部林业科学,1993,29(1):65-69. 被引量:1
  • 3张允中.CASIOfx—3800P计算器功能结构及教学应用[J].中等林业教育,1996,(4).
  • 4张允中.计算器多元线性回归、多项式回归、矩阵乘法通用程序[J].贵州林勘设计,1996,.
  • 5张允中.迭代法解高次方程及线性方程组在编程计算器上的实现[J].云南中专数学研究,1993,.
  • 6张允中.fx—3600P计算器程序运算中数据压缩存贮及分离方法[J].贵州林勘设计,1986,(2).

相关作者

内容加载中请稍等...

相关机构

内容加载中请稍等...

相关主题

内容加载中请稍等...

浏览历史

内容加载中请稍等...
;
使用帮助 返回顶部