摘要
本文在简介有效数字的概念、数据保留位数规则、有效数字正确表示、数字修约规则、数据运算规则的基础上,研究了在LabVIEW开发环境下设计程序实现数据修约的方法。对从事测量、测试工程技术人员和程序设计者具有重要参考借鉴价值。
The paper introduces the conception of the effective number, the rule of Rounding off value digit, the express of the significant digit and the rule of operation. It researches the way of the programming implement of rules for rounding off numerical values in LabVIEW. It has a great value for the ones who work on testing and measurement.
出处
《仪器仪表标准化与计量》
2012年第1期46-48,共3页
Instrument Standardization & Metrology
关键词
有效数字
数据修约
LABVIEW
Effective Number Rounding offNumerical Values LabVIEW