数值计算在工程数学应遵循原则研究

指出了工程问题的数值计算中出现误差的渠道及原因，分析了这些误差可能会引起的后果。通过具体例子说明要避免这些误差须遵循的原则。用数值稳定性好的计算方法；两个数量级相差很大的数进行加减运算时，防止小的那个数加减不到大的数中；避免两个相近的数相减，损失有效数字；防止出现机器零和溢出停机；在除法运算中，避免除数的绝对值远小于被除数的绝对值；简化计算步骤，减少运算次数。