平方根倒数速算法的精度优化

平方根倒数速算法是计算机数值计算中的一种常用方法.文中在对平方根倒数速算法的原理进行分析的基础上,提出一个新的算法常数来提升计算结果的统计精度.实验结果表明,本文提供的算法常数相比于原有的算法常数能将批量数据处理的平均精度提升大约30%～40%,而针对单个数据的计算,本文方法的意义在于能从一个更大的概率(平均约77%)上获得比原有方法更加精确的结果.

计算机三维图形中一个平方根倒数算法的数学证明及优化

在计算机三维图形领域中存在一个仅使用位操作和减法运算的快速平方根倒数算法.作者利用代数分析结合Mathematica软件提供的数值方法,通过构造相对误差目标函数并最小化之,证明了此算法的有效性,指出了其适用条件并发现了算法中一个常数的较优替代值.此外如果按输入分两类分别进行计算能再提高精度.进一步利用C语言编程手段验证了优化后的算法.

一种定点化平方根倒数运算的硬件实现

针对平方根倒数运算电路中传统的多次迭代法占用较多运算单元,以及多项式逼近法占用大量存储单元的问题,提出一种基于分段二次项式逼近与牛顿迭代相结合的定点化平方根倒数运算的硬件实现方法。结合两种方法的优点,即运用少量存储单元存储二次多项式系数用于求解迭代初值;然后对迭代初值进行一次牛顿迭代使根快速收敛。其中,对系数及过程变量都进行定点化处理,避免复杂的浮点运算。实验结果表明,该现实方法仅需584bit存储单元及少量乘加运算单元,求解误差小。

基于浮点数的Cholesky分解FPGA实现

在阵列信号抗干扰算法中,常常需要求解协方差矩阵的逆矩阵。Cholesky分解利用了协方差矩阵的厄米特(Hermitian)正定的特性,大大简化了矩阵求逆运算的计算量。论文介绍了Cholesky分解数学原理,并提出了一种适合FPGA实现的结构。基于浮点数的算法实现相比传统的定点数,大大提高了结果的精度。由于Cholesky分解需要涉及浮点数的开方运算,论文引入了平方根倒数法来提高开方运算的速度。通过仿真与实测,选取了最优的资源与速度的实现方案。