期刊文献+
共找到1篇文章
< 1 >
每页显示 20 50 100
同符号数相加“大数吃小数”的界限:理论分析 被引量:2
1
作者 曹靖 李建平 《天津师范大学学报(自然科学版)》 CAS 2014年第4期25-27,共3页
研究计算机内部二进制浮点数IEEE754存储规则及相加过程,给出数值计算中两同号规范化数相加发生"大数吃小数"现象的严格理论界限,为实际数值计算中避免此类现象提供理论依据,并利用所得理论对数值试验中的现象及结论进行解释.
关键词 “大数吃小数” 数值计算 IEEE754标准 规范化二进制浮点数
下载PDF
上一页 1 下一页 到第
使用帮助 返回顶部