期刊文献+
共找到3篇文章
< 1 >
每页显示 20 50 100
双模压缩真空态模间纠缠度的讨论
1
作者 黄纯青 《广东教育学院学报》 2006年第3期42-44,共3页
讨论了双模压缩真空态的模间纠缠度与压缩参数的关系,同时指出造成以往文献中双模压缩真空态的模间纠缠度的不同形式的图像产生差异的原因是数值计算的浮点数误差.
关键词 双模压缩真空态 纠缠度 浮点数误差
下载PDF
提高多边形布尔运算健壮性的顶点融合技术
2
作者 白萌 孟新 李大林 《微计算机信息》 2012年第10期400-401,399,共3页
多边形在计算机中是以浮点数表示其顶点的,但这样的多边形在进行布尔运算时由于浮点数误差的问题会引起算法失效。鉴于此,分析了计算几何领域中影响多边形布尔运算健壮性的因素,制定了提高简单多边形布尔算法健壮性的策略,提出了多边形... 多边形在计算机中是以浮点数表示其顶点的,但这样的多边形在进行布尔运算时由于浮点数误差的问题会引起算法失效。鉴于此,分析了计算几何领域中影响多边形布尔运算健壮性的因素,制定了提高简单多边形布尔算法健壮性的策略,提出了多边形顶点融合技术来规避浮点数误差而造成的计算错误,确保了算法的收敛性。经程序测试,这些方法不仅增加了算法的健壮性,而且更有效的满足高性能计算的精度要求和性能要求。 展开更多
关键词 浮点数误差 多边形 布尔运算 健壮性
下载PDF
基于 PLC的流量累积误差及解决方法 被引量:1
3
作者 华优基 《计量技术》 2014年第9期81-83,共3页
用PLC进行流量累积运算时,通常存在矩形积分误差、浮点运算误差和“大数吃小数”,本文分析了累积误差的产生机理,并以西门子STEP7为例提出了降低误差的程序设计方法。
关键词 梯形积分 浮点数舍入误差 大数吃小数
原文传递
上一页 1 下一页 到第
使用帮助 返回顶部