期刊文献+
共找到36篇文章
< 1 2 >
每页显示 20 50 100
Analysis and Application of Multiple-Precision Computation and Round-off Error for Nonlinear Dynamical Systems 被引量:4
1
作者 王鹏飞 黄刚 王在志 《Advances in Atmospheric Sciences》 SCIE CAS CSCD 2006年第5期758-766,共9页
This research reveals the dependency of floating point computation in nonlinear dynamical systems on machine precision and step-size by applying a multiple-precision approach in the Lorenz nonlinear equations. The pap... This research reveals the dependency of floating point computation in nonlinear dynamical systems on machine precision and step-size by applying a multiple-precision approach in the Lorenz nonlinear equations. The paper also demoastrates the procedures for obtaining a real numerical solution in the Lorenz system with long-time integration and a new multiple-precision-based approach used to identify the maximum effective computation time (MECT) and optimal step-size (OS). In addition, the authors introduce how to analyze round-off error in a long-time integration in some typical cases of nonlinear systems and present its approximate estimate expression. 展开更多
关键词 multiple-precision numerical calculation round-off error nonlinear dynamical system
下载PDF
基于GPU的数字下变频累积误差控制方法 被引量:1
2
作者 李超 焦义文 +2 位作者 傅诗媛 高泽夫 毛飞龙 《系统工程与电子技术》 EI CSCD 北大核心 2023年第4期965-972,共8页
针对数字下变频系统中高速数据处理实时性需求,设计了基于中央处理器(central processing unit,CPU)+图形处理单元(graphic processing unit,GPU)的异构平台数字下变频处理算法,并完成了相应并行程序设计,进行了实际数据验证。鉴于GPU... 针对数字下变频系统中高速数据处理实时性需求,设计了基于中央处理器(central processing unit,CPU)+图形处理单元(graphic processing unit,GPU)的异构平台数字下变频处理算法,并完成了相应并行程序设计,进行了实际数据验证。鉴于GPU运算采用单精度浮点数格式进行数据处理,进行长时程数据处理过程中,会产生浮点数舍入误差累积,导致结果的不准确不可靠,设计了联合相位循环归零法和无误差变换补偿法,实现了浮点数舍入误差的控制与补偿。数据测试结果表明,所提方法可将相位误差控制在10-11rad以内,且不随时间累积,计算结果准确可靠。 展开更多
关键词 图形处理单元 舍入误差 累积误差 无误差变换
下载PDF
同位素年代学数据处理技术及常见问题解析 被引量:1
3
作者 路远发 李文霞 《华南地质》 CAS 2023年第1期157-171,共15页
同位素年代学数据处理是同位素年代学研究的重要环节之一,是获得可靠年龄的基本保证。数据处理过程涉及等时线及U-Pb不一致线、反等时线等直线的拟合,年龄计算过程中分析数据不确定度的设定、加权平均计算,以及假等时线的识别等诸多环... 同位素年代学数据处理是同位素年代学研究的重要环节之一,是获得可靠年龄的基本保证。数据处理过程涉及等时线及U-Pb不一致线、反等时线等直线的拟合,年龄计算过程中分析数据不确定度的设定、加权平均计算,以及假等时线的识别等诸多环节。本文介绍了常用同位素年代学数据处理程序Isoplot的使用技巧;并对数据处理过程中涉及的线性回归、等时线质量的判断及常见问题提出一些见解,以期对同位素年代学的研究有所助益。 展开更多
关键词 同位素年代学 数据处理 误差加权回归 Isoplot 数值修约
下载PDF
舍入误差对大气环流模式模拟结果的影响 被引量:11
4
作者 王鹏飞 王在志 黄刚 《大气科学》 CSCD 北大核心 2007年第5期815-825,共11页
 此文旨在研究气候数值模式的长期计算时受舍入误差的影响。通过对大气环流谱模式SAMIL采用不同CPU数计算时获得的长时间积分结果进行分析,发现使用不同CPU数进行单精度计算时,其十年平均月平均500hPa高度场随机误差在正负6~8gpm范...  此文旨在研究气候数值模式的长期计算时受舍入误差的影响。通过对大气环流谱模式SAMIL采用不同CPU数计算时获得的长时间积分结果进行分析,发现使用不同CPU数进行单精度计算时,其十年平均月平均500hPa高度场随机误差在正负6~8gpm范围内,而使用双精度计算时相应的误差为正负3~4gpm。对于气候平均场而言,作者的试验表明SAMIL在并行计算时由于计算顺序改变而引起的误差在可接受范围之内。然而,虽然舍入误差的全球平均值不大,但其误差分布的差别范围并不小。数值试验得到的不同模拟结果之间误差大小与模拟结果的自身年际变化大小在同样的量级,因此对于“年际变化”这样的问题来说,其影响是不可忽略的,必须要使用集合预报的办法来减小误差的影响。文中列出了3种研究复杂数值模式舍入误差的实验方法,指出其一定条件下的等效性和不同适用范围,对于其他模式的舍入误差影响研究有一定的参考价值。在舍入误差分析的基础上,介绍了一种新型的专门针对舍入误差的集合预报方法(舍入误差平均集合,RME),指出了其在气候模拟研究中的应用价值。 展开更多
关键词 大气环流模式 舍入误差 计算精度 误差研究方法 集合预报
下载PDF
数值积分过程中截断误差和舍入误差的分离方法及其效果检验 被引量:6
5
作者 王鹏飞 黄荣辉 李建平 《大气科学》 CSCD 北大核心 2011年第3期403-410,共8页
本文讨论数值积分过程中截断误差和舍入误差的分离方法和理论,解析地给出某些数值计算方法的理论截断误差,并以此来分离计算结果中的误差。然后引入参考解的办法,用来分离更为一般的微分方程求解过程中的截断误差和舍入误差。以参考解... 本文讨论数值积分过程中截断误差和舍入误差的分离方法和理论,解析地给出某些数值计算方法的理论截断误差,并以此来分离计算结果中的误差。然后引入参考解的办法,用来分离更为一般的微分方程求解过程中的截断误差和舍入误差。以参考解算法为基础,对一个偏微分方程的数值解进行计算,所得结果与采用理论截断误差得到的结果进行了对比,发现:(1)当使用迎风差和中央差格式时,理论截断误差和近似截断误差在数值上高度一致,说明了参考解方法的正确性;(2)对于一阶的波动方程,迎风差和中央差格式的理论截断误差在形式上也具有波动的周期特征,振幅的大小与计算参数有关;(3)理论截断误差可以适用于任意t时刻,而近似截断误差的适用时间范围为一个有限的时间段,不过它可以很容易的获取一般微分方程的截断误差,而不需要复杂的理论推导。 展开更多
关键词 数值积分 截断误差 舍入误差 参考解
下载PDF
面向飞腾处理器的多线程可复现DGEMV设计与实现 被引量:1
6
作者 陈磊 唐滔 +2 位作者 漆海俊 姜浩 何康 《计算机科学》 CSCD 北大核心 2022年第10期27-35,共9页
在高性能计算中,求解大规模、大尺度、长时程和病态问题过程中舍入误差的累计都可能会使算法的最终数值结果失真。在不同的计算软硬件资源下,每次运行的结果可能不一致,而这些结果是开发者调试程序和正确性检查的重要依据,会对科研工作... 在高性能计算中,求解大规模、大尺度、长时程和病态问题过程中舍入误差的累计都可能会使算法的最终数值结果失真。在不同的计算软硬件资源下,每次运行的结果可能不一致,而这些结果是开发者调试程序和正确性检查的重要依据,会对科研工作的顺利进行造成干扰,因此算法数值结果的可复现性变得至关重要。文中面向飞腾处理器,基于OpenBLAS软件框架,结合美国伯克利国家实验室的Demmel教授团队开发的ReproBLAS软件中提出的可复现的方法与Castado提出的多层分块技术,使用舍入误差分析和无误差变换等技术,设计出了多线程可复现DGEMV的算法。数值实验显示,所提算法实现了数值计算的可复现性,且输出结果与ReproBLAS相同,验证了所提算法的可靠性。同时,所提算法在相同的测试环境下运行速度至少是ReproBLAS实现算法运行速度的2倍。此外,还将所提算法与日本理化研究所Mukunoki提出的OzBLAS中的可复现DGEMV函数进行对比,同为单线程时该算法的运行速度至少是OzBLAS算法的20倍,在相同多线程数量情况下,该算法的运行速度至少是OzBLAS算法的9倍。理论分析和数值实验均表明,该改进算法比国际上现有的可复现数值算法性能更优。 展开更多
关键词 可复现性 舍入误差 无误差变换 DGEMV
下载PDF
多精度计算和区间分析方法在科学计算中的应用 被引量:1
7
作者 王鹏飞 《南京气象学院学报》 CSCD 北大核心 2009年第2期172-181,共10页
介绍了多精度计算和区间分析的概念、方法及应用,使用多精度计算研究Lorenz非线性动力系统计算结果对计算精度、步长的敏感依赖关系和不确定现象,研究Lorenz系统中长时间数值解的计算方法和基于多精度计算的最优步长、最大有效计算时间... 介绍了多精度计算和区间分析的概念、方法及应用,使用多精度计算研究Lorenz非线性动力系统计算结果对计算精度、步长的敏感依赖关系和不确定现象,研究Lorenz系统中长时间数值解的计算方法和基于多精度计算的最优步长、最大有效计算时间搜索方法,讨论了区间分析方法在计算机辅助证明Lorenz混沌吸引子存在性问题中的应用。 展开更多
关键词 多精度计算 区间分析 舍入误差 非线性动力系统
下载PDF
四元数计算舍入误差的概率分析 被引量:3
8
作者 费景高 《导弹与航天运载技术》 1995年第2期12-19,共8页
对捷联式制导系统中四元数微分方程数值求解舍入误差进行概率分析。首先,对于定点计算机上四元数计算的舍入误差建立了概率模型,然后对舍入误差进行概率估计。
关键词 捷联式惯性制导 舍入误差 概率模型 计算
下载PDF
线性相位频率取样FIR滤波器量化误差的分析
9
作者 张建成 孙鼎成 +1 位作者 赵国兴 王前 《辽宁大学学报(自然科学版)》 CAS 2001年第1期56-59,共4页
主要分析了线性相位频率采样FIR滤波器中的量化噪声 ,并给出计算公式 .
关键词 线性相位 FIR滤波器 量化噪声 舍入误差 数学滤波器
下载PDF
PSWF非正弦时域正交调制系统有限字长效应研究
10
作者 张晨亮 王红星 +1 位作者 康家方 刘传辉 《中国电子科学研究院学报》 2013年第6期650-655,共6页
在基于PSWF的非正弦数字通信中,二进制定点数的截尾误差与舍入误差对系统的性能影响不容忽视。首先分析了二进制定点数产生有限字长效应的原因,接着对二进制定点数的截尾误差与舍入误差进行了理论分析,同时,利用MATLAB针对PSWF通信系统... 在基于PSWF的非正弦数字通信中,二进制定点数的截尾误差与舍入误差对系统的性能影响不容忽视。首先分析了二进制定点数产生有限字长效应的原因,接着对二进制定点数的截尾误差与舍入误差进行了理论分析,同时,利用MATLAB针对PSWF通信系统中的具体参数进行了误差仿真,归纳与总结了仿真结果,可为工程应用提供参考。 展开更多
关键词 非正弦时域正交调制 椭圆球面波函数 截尾误差 舍入误差
下载PDF
正交多项式的并行算法修正及其稳定性分析
11
作者 李莎澜 邓永华 《江汉石油学院学报》 EI CSCD 北大核心 2003年第3期149-151,共3页
通过修正求解Chebyshev多项式的Clenshaw和Forsythe算法,提出了求解一般正交多项式的两种并行算法。并通过讨论这两种并行算法矩阵形式的舍入误差,对它们的稳定性进行了分析。
关键词 正交多项式 并行算法 舍入误差 稳定性 分析
下载PDF
基于旋转矩阵的加密解密算法
12
作者 张红芹 赵一峥 +2 位作者 徐孜立 邹雪妍 岳华 《吉林大学学报(理学版)》 CAS CSCD 北大核心 2016年第2期229-233,共5页
利用舍入误差分析的方法及计算机浮点运算的特性,构造一种基于旋转矩阵的加密解密算法,并提出了保证算法有效的充分条件.应用实例验证了算法的可行性.
关键词 加密解密算法 旋转矩阵 舍入误差分析
下载PDF
利用大气环流模式讨论舍入误差对东亚和西北太平洋夏季气候模拟的影响
13
作者 黄刚 胡开明 《南京气象学院学报》 CSCD 北大核心 2009年第2期155-163,共9页
采用单精度和双精度编译的大气环流模式对东亚以及西北太平洋气候进行集合模拟,分析舍入误差对大气环流模式在东亚和西北太平洋区域夏季气候模拟的影响,结果表明采用双精度编译的模式在850 hPa环流场比单精度模式模拟效果要好。为了进... 采用单精度和双精度编译的大气环流模式对东亚以及西北太平洋气候进行集合模拟,分析舍入误差对大气环流模式在东亚和西北太平洋区域夏季气候模拟的影响,结果表明采用双精度编译的模式在850 hPa环流场比单精度模式模拟效果要好。为了进一步分析双精度模式模拟效果优于单精度模式的原因,集中研究了850 hPa纬向风场的模拟情况。结果表明,双精度模式对东亚以及西太平洋850 hPa纬向风场第1模态有着更好的模拟,而且第2模态的时间序列与再分析资料850hPa纬向风场的第2模态时间序列有着更好的相关。这些结果表明,由于舍入误差的影响使得该区域大气内部噪音更强烈,从而使得海温强迫导致的气候变率变弱,进而使得双精度编译的模式对东亚和西北太平洋区域气候的模拟要优于单精度模式。 展开更多
关键词 舍入误差 西北太平洋 东亚气候 大气环流模式
下载PDF
数据舍入误差对大流量齿轮泵瞬时流量MATLAB仿真精度的影响
14
作者 荆琴 周毓明 张巨香 《机床与液压》 北大核心 2010年第13期157-158,162,共3页
MATLAB仿真时数据计算存在舍入误差,影响仿真精度,导致仿真结果与实际情况不符,是仿真过程中容易忽略的问题,且在欠缺理论推导的情况下,该问题尤为严重。针对CB-B250型大流量齿轮泵瞬时流量进行了仿真,并对其进行了理论推导,针对首次仿... MATLAB仿真时数据计算存在舍入误差,影响仿真精度,导致仿真结果与实际情况不符,是仿真过程中容易忽略的问题,且在欠缺理论推导的情况下,该问题尤为严重。针对CB-B250型大流量齿轮泵瞬时流量进行了仿真,并对其进行了理论推导,针对首次仿真结果某些值与理论推导值存在约20%误差的情况,分析了引起问题的原因,并将二次仿真结果与首次结果进行了比较,指出了采用MATLAB仿真时的一些注意事项,给出了改进思路和方法。 展开更多
关键词 舍入误差 MATLAB仿真精度
下载PDF
光弹性确定复合型应力强度因子K_Ⅰ和K_Ⅱ的误差分析
15
作者 伍洪泽 《中南矿冶学院学报》 CSCD 1994年第2期248-251,共4页
复合型应力强度因子K_Ⅰ和K_Ⅱ的光弹性测定值是K_Ⅰ和K_Ⅱ的近似值.本文提出了影响K_Ⅰ和K_Ⅱ精确值的误差有模型误差、观察误差、截断误差、及舍入误差,并对前二项误差做了详细分析,指出了确定误差的方法和计算公式,... 复合型应力强度因子K_Ⅰ和K_Ⅱ的光弹性测定值是K_Ⅰ和K_Ⅱ的近似值.本文提出了影响K_Ⅰ和K_Ⅱ精确值的误差有模型误差、观察误差、截断误差、及舍入误差,并对前二项误差做了详细分析,指出了确定误差的方法和计算公式,提出了减小误差的途径. 展开更多
关键词 误差分析 光弹性 应力强度因子
下载PDF
本征真浑沌与误差赝浑沌——从舍入误差看浑沌运动
16
作者 刘华杰 《自然杂志》 1995年第4期225-230,共6页
本文论述了浑沌的本质,并通过理论阐述和实际计算,论证了数值计算中舍入误差并不从根本上改变浑沌系统的本质特征。进而证明了在处理浑沌问题中数值计算的可靠性,以及浑沌随机性的内秉性(即浑沌的随机性不受舍入误差的影响)。作者指出,... 本文论述了浑沌的本质,并通过理论阐述和实际计算,论证了数值计算中舍入误差并不从根本上改变浑沌系统的本质特征。进而证明了在处理浑沌问题中数值计算的可靠性,以及浑沌随机性的内秉性(即浑沌的随机性不受舍入误差的影响)。作者指出,在实践中,周期是否真正达到无穷是次要的。不管用什么模型,只要能近似说明实际过程,在一段时间内能作出有限的预测就行。只要看它像浑沌,就可以试着用浑沌理论的一套方法去研究。如果有效,特别是比其他方法都好,绝对没有必要因其他问题而放弃用浑沌理论。数学上干干净净的浑沌本来就不存在,现实存在的才是活生生的、丰富的浑沌。 展开更多
关键词 浑沌 舍入误差 内秉性 稳定性
下载PDF
通过恒等变换计算多项式的出错原因分析
17
作者 陈培军 王欣洁 《电脑学习》 2010年第5期100-101,共2页
本文分别从舍入误差、截断误差、算法的稳定性等角度对恒等变换计算多项式的出错原因,进行了细致的分析。本文结果解释了在许多快速算法中,某些变换算子数值不稳定的原因。
关键词 多项式 误差分析 舍入误差 截断误差 有效数字 恒等变换
下载PDF
求逆阵及解线性方程组的迭代算法
18
作者 孙俊逸 《赣南师范学院学报》 1990年第S1期37-44,共8页
本文给出求可逆方阵的逆矩阵和利用线性代数方程组AX=b的系数矩阵A的一个初始近似逆阵P求解方程组的迭代算法,这种算法具有迭代格式简单,能有效地控制求解过程中的舍入误差的影响,灵活确定迭代次数等特点。
关键词 逆阵矩 线性方程组 系数矩阵 初始近似矩阵 迭代算法 舍入误差
下载PDF
求逆阵及解线性方程组的迭代算法
19
作者 孙俊逸 《赣南师范学院学报》 1990年第3期37-44,共8页
本文给出求可逆方阵的逆矩阵和利用线性代数方程组AX=b的系数矩阵A的一个初始近似逆阵P求解方程组的迭代算法,这种算法具有迭代格式简单,能有效地控制求解过程中的舍入误差的影响,灵活确定迭代次数等特点。
关键词 逆阵 线性方程组 迭代算法
全文增补中
Langmuir方程参数线性回归与非线性回归的比较 被引量:5
20
作者 孟帅 朱绍军 《煤矿安全》 CAS 北大核心 2019年第1期188-191,共4页
Langmuir方程是常用的吸附等温线方程之一,Langmuir方程参数估计有线性回归和非线性回归2种方法。以实测数据为依据,采用IBM SPSS Statistics 24.0软件进行Langmuir方程参数线性回归与非线性回归的对比分析。结果表明:线性回归方法不满... Langmuir方程是常用的吸附等温线方程之一,Langmuir方程参数估计有线性回归和非线性回归2种方法。以实测数据为依据,采用IBM SPSS Statistics 24.0软件进行Langmuir方程参数线性回归与非线性回归的对比分析。结果表明:线性回归方法不满足相应曲线因变量的残差平方和最小,线性回归方法中对变量由无理数到有限小数的数值修约是引起舍入误差的原因。基于非线性回归方法对实测数据具有残差平方和较小的特点,在应用Langmuir方程求参数时建议采用非线性回归方法。 展开更多
关键词 LANGMUIR方程 线性回归 非线性回归 残差平方和 数值修约 舍入误差 吸附等温线
下载PDF
上一页 1 2 下一页 到第
使用帮助 返回顶部