期刊文献+
共找到1篇文章
< 1 >
每页显示 20 50 100
位数随机的有效数字自动运算算法 被引量:1
1
作者 陈鲤江 吴姚鑫 +1 位作者 郑水泉 虞凤英 《计算机应用与软件》 CSCD 北大核心 2012年第6期97-99,104,共4页
针对物理实验数据的自动处理,提出一种位数随机的有效数字自动运算算法,包括有效数字运算结果的科学记数表示算法、有效位数的取舍算法、数据表示形式的转换算法以及不同位数有效数字的运算算法。对有效数字多项式的自动运算实验结果表... 针对物理实验数据的自动处理,提出一种位数随机的有效数字自动运算算法,包括有效数字运算结果的科学记数表示算法、有效位数的取舍算法、数据表示形式的转换算法以及不同位数有效数字的运算算法。对有效数字多项式的自动运算实验结果表明,该算法符合运算优先级的要求,运算结果符合有效数字的取舍原则,算法运算的结果与人工运算的结果完全相同,算法满足位数随机的物理实验数据的自动处理要求。 展开更多
关键词 位数随机的有效数字 科学记数法 四舍六入五配偶 数值多项式
下载PDF
上一页 1 下一页 到第
使用帮助 返回顶部