Excel中VBA函数消除浮点误差的数据修约方法

Excel工作表的函数计算使用极大的提高了工作效率,但是数据处理中需要的"四舍六入"修约规则较难实现,有文章介绍通过函数或VBA功能实现,却比较繁杂且无法消除浮点误差,本文介绍了VBA中一种简单的消除浮点误差的数据修约方法。

容差可控的线消隐算法

线消隐是指对三维图形中包含的线段与面片的遮挡关系进行判断,并将裁剪的结果以二维矢量图形的方式输出到其他设备(如打印机和绘图仪)。该技术广泛用于三维模型的可视化与高精度矢量输出。传统的线消隐算法难以处理因浮点运算误差导致的输出错误、图元缺失等问题。针对该问题提出了新算法,该算法以三角网格模型为输入,允许用户输入用于控制输出结果的几何容差,算法首先找出轮廓线和棱线,然后利用R树加速三维图元求交,最后采用容差可控的矢量裁剪算法获得最终的消隐结果。在传统算法中,容差是不可见且意义不明确的隐藏变量,新算法给容差赋予了明确的几何意义,避免了因浮点运算误差导致的逻辑错误。

跨尺度三维场景显示精度提高技术研究

在跨尺度三维场景中,由于空间尺度变化非常大,单一的基准坐标系存在很大的应用局限性,当相机观察距离基准坐标系远的目标时,目标会出现抖动现象。空间目标在统一时间基准下位置和姿态不断发生变化,当相机跟随目标近距离固定观察目标的某一区域时,目标也会出现抖动。提出了基于关注目标惯性坐标系设置基准坐标系的方法,在空间尺度变化时可以有效提高显示精度。提出了基于关注目标本体坐标系设置基准坐标系的方法,当相机近距离固定观察目标时也可以有效提高显示精度。