摘要
浮点型数据在计算机系统中广泛应用,但其表示精度存在一定的限制,客观存在不能精确表示的现象。在教学工作中,关于IEEE754规格化浮点数有效位数的内容难以理解,导致学生对浮点数精度的学习存在困难。基于IEEE754标准,通过大量图表、实例,将浮点数的基本格式、数据范围、精度等问题具象阐释。对精度问题提出了两种理解方式:一是从数值分析的角度根据有效数字的严格定义来进行确定;二是从近似值能准确表示的十进制数的位数来确定。开发了一个可视化的教学辅助工具,能够直观展示浮点数的精度判断结果,对于教学工作具有实际应用价值。
出处
《电脑知识与技术》
2024年第17期168-171,共4页
Computer Knowledge and Technology
基金
2023年度计算机领域本科教育教学改革试点工作计划(“101计划”)教材试点应用项目
国家级大学生创新创业训练计划项RoadSense-基于路面坑洼检测的智慧交通决策支持系统(202313021005)
2021年度教育部第二批产学合作协同育人项目“面向系统能力培养的计算机系统原理在线教学资源建设”(202102533017)
2023年校级在线开放课程建设项目“计算机系统原理实验”
2023年校级七期重点教材建设项目“计算机系统原理实验”
2022年校级本科实践教学改革研究项目“逆向工程综合实验”(SJ2201)。
