同符号数相加“大数吃小数”的界限:数值试验

利用大量数值试验,得出机器单双精度下关于两同符号数相加时"大数吃小数"界限的数据.对试验数据进行分段线性拟合,给出"大数吃小数"界限的近似公式,与试验数据比较表明近似公式具有良好的估计效果,可为单双精度下避免"大数吃小数"现象提供可靠的依据.进一步,将机器单双精度的结果推广至任意机器精度,得到的结论可方便应用于实际的数值运算中.

同符号数相加“大数吃小数”的界限：理论分析

研究计算机内部二进制浮点数IEEE754存储规则及相加过程,给出数值计算中两同号规范化数相加发生"大数吃小数"现象的严格理论界限,为实际数值计算中避免此类现象提供理论依据,并利用所得理论对数值试验中的现象及结论进行解释.

基于 PLC的流量累积误差及解决方法

用PLC进行流量累积运算时，通常存在矩形积分误差、浮点运算误差和“大数吃小数”，本文分析了累积误差的产生机理，并以西门子STEP7为例提出了降低误差的程序设计方法。