期刊文献+
共找到2篇文章
< 1 >
每页显示 20 50 100
精度量化控制过程的应用
1
作者 李金明 李润 李泉 《兰州石化职业技术学院学报》 2007年第2期28-29,共2页
控制精度问题实际上最终归结为数字的精度问题,滤波器的各系数以及每次运算的结果都是存储在有限长的存储单元中,因此,必然造成一定的误差。针对A/D变换的量化效应加以分析,估算其对系统控制精度的影响程度。
关键词 精度量化 截尾处理 舍入处理 量化噪声
下载PDF
计算机运算中的量化误差分析
2
作者 边秀合 张建新 《河南广播电视大学学报》 1998年第4期37-,49,共2页
计算机在作定点乘法或浮点乘法和加法时,会使字长增加。如原是b位字长,运算后增长到bi位字长,这就要对尾数作量化处理,使bi位字长缩减为b位字长。截尾处理就是保留b位码而抛掉余下的尾数,舍入处理就是按最接近的值取b位码... 计算机在作定点乘法或浮点乘法和加法时,会使字长增加。如原是b位字长,运算后增长到bi位字长,这就要对尾数作量化处理,使bi位字长缩减为b位字长。截尾处理就是保留b位码而抛掉余下的尾数,舍入处理就是按最接近的值取b位码。这两种处理所产生的误差是不一样的... 展开更多
关键词 量化误差 计算机运算 截尾误差 舍入误差 截尾处理 浮点制 表达式 补码 绝对误差 原码
下载PDF
上一页 1 下一页 到第
使用帮助 返回顶部