期刊文献+

微机程序设计中有效数字的取位通式

下载PDF
导出
摘要 在计算机程序设计中,经常遇到有效数字的取舍处理问题。目前普遍采用的按数量级大小分别取位的方法比较繁琐,特别是对于检数量级变化范围大、事先又无法估计其大小和范围的输出,一般要用相当大的篇幅设立专门的“子程序”,而采用“通式”取位就简单多了,且无需估计数字的大小,对任何数字均有效。使程序设计大大简化。在程序设计中,有效数字的取位方法是先把该数扩大或缩小到要取的位数为整数,加0.5取整后再恢复到原数的数量级。
出处 《山西师范大学学报(自然科学版)》 1990年第2期93-93,共1页 Journal of Shanxi Normal University(Natural Science Edition)
  • 相关文献

相关作者

内容加载中请稍等...

相关机构

内容加载中请稍等...

相关主题

内容加载中请稍等...

浏览历史

内容加载中请稍等...
;
使用帮助 返回顶部