期刊文献+
共找到1篇文章
< 1 >
每页显示 20 50 100
基于误差位和小数位的乘积有效数字自动提取方法
1
作者 陈鲤江 吴姚鑫 +2 位作者 虞凤英 郑水泉 宋照发 《计算机应用与软件》 CSCD 北大核心 2012年第8期294-296,共3页
提出基于误差位和小数位的乘积有效数字自动提取方法。该方法由相乘数据的有效位数决定乘积的误差位数,再由乘积的总位数与其误差位数求出乘积的有效位数,进而提取其有效数字。考虑到乘积在计算机中溢出和非溢出两种情况,采用乘积的整... 提出基于误差位和小数位的乘积有效数字自动提取方法。该方法由相乘数据的有效位数决定乘积的误差位数,再由乘积的总位数与其误差位数求出乘积的有效位数,进而提取其有效数字。考虑到乘积在计算机中溢出和非溢出两种情况,采用乘积的整数位数和小数位数来计算乘积的总位数,乘积的小数位数由相乘数据的小数位数求出,乘积的整数位数通过计数的方法得到。理论分析表明,在任意情况下,两个有效数字相乘,其积的误差位数与两数中位数较大的有效数字位数相同。实验结果表明,有效数字提取算法能对计算机存储范围内的乘积有效数字进行正确、完整、有效地提取,且满足大学物理实验数据自动处理的要求。 展开更多
关键词 乘积 乘积的误差位数 乘积的小数位数 乘积有效数字的自动提取
下载PDF
上一页 1 下一页 到第
使用帮助 返回顶部