期刊文献+
任意字段
题名或关键词
题名
关键词
文摘
作者
第一作者
机构
刊名
分类号
参考文献
作者简介
基金资助
栏目信息
共找到1篇文章
< 1 >
每页显示 20 50 100
已选择0条
导出题录 引用分析
参考文献
引证文献
 统计分析
检索结果
已选文献
显示方式：
计算机运算中的量化误差分析
1
作者 边秀合 张建新 《河南广播电视大学学报》 1998年第4期37-,49,共2页
计算机在作定点乘法或浮点乘法和加法时，会使字长增加。如原是ｂ位字长，运算后增长到ｂｉ位字长，这就要对尾数作量化处理，使ｂｉ位字长缩减为ｂ位字长。截尾处理就是保留ｂ位码而抛掉余下的尾数，舍入处理就是按最接近的值取ｂ位码... 计算机在作定点乘法或浮点乘法和加法时，会使字长增加。如原是ｂ位字长，运算后增长到ｂｉ位字长，这就要对尾数作量化处理，使ｂｉ位字长缩减为ｂ位字长。截尾处理就是保留ｂ位码而抛掉余下的尾数，舍入处理就是按最接近的值取ｂ位码。这两种处理所产生的误差是不一样的... 展开更多
关键词 量化误差 计算机运算 截尾误差 舍入误差 截尾处理 浮点制 表达式 补码 绝对误差 原码
下载PDF
已选择0条
导出题录 引用分析
参考文献
引证文献
 统计分析
检索结果
已选文献
上一页 1 下一页 到第 页
使用帮助 返回顶部