期刊文献+

计算机“二—十”进制数据转换算法

The Reseach on BTD Algorithm of Data Conversion in Computer
下载PDF
导出
摘要 “二一十”转换是计算机中经常用到的,将二进制浮点数0.B<sub>1</sub>B<sub>2</sub>…B<sub>n</sub>*2<sup>B</sup>转换成十进制数0.D<sub>1</sub>D<sub>2</sub>…D<sub>n</sub>*10<sup>D</sup>的关键是首先求出D。本文通过全面研制二进制浮点数的性质,推导出了一个关于精确求D的重要结论,并由此构造出一个实际应用时总误差最小的高效求D公式。 The binary-to-decimal (BTD) conversion is often used in computer. It is the key problem to cal-culate D first for converting the binary floating point number (BFPN) 0. B_IB_Z…B_n * 2~B into the decimal0. D_1D_2…D_m * 10~D. In this paper, we comprehensively studied the nature of BFPNand inferred an impor-tant conclusion for calculating D precisely. Based on the conclusion we constructed a high efficient for-mula which can not only calculate D but also keep the total error minimum in application.
作者 钟志新
出处 《国防科技大学学报》 EI CAS CSCD 北大核心 1993年第1期31-36,共6页 Journal of National University of Defense Technology
关键词 数制转换 二进制 十进制 计算机 date conversion floating point number binary system decimal system.
  • 相关文献

参考文献2

  • 1团体著者,1988年
  • 2团体著者,1983年

相关作者

内容加载中请稍等...

相关机构

内容加载中请稍等...

相关主题

内容加载中请稍等...

浏览历史

内容加载中请稍等...
;
使用帮助 返回顶部