win10系统下载站 - 最全面的操作系统下载网站

u盘教程游戏攻略电脑学习教程

windows7旗舰版
当前位置:主页 > 技术开发教程 >

避开浮点设置的4舍5入出错

发布时间:2021-02-05 来源:未知 浏览量:

Single, Double和Extended型的浮点变量存在着四舍五入问题。举个例子,假设我们用电脑使用4位数字,那么:
  1 / 3 = 0.3333

我们知道3 * 1/3 = 1,但如果我们这样:
  X := 1 / 3;
  X := X * 3;
  if X = 1 then //结果将会不正确

为什么?因为X = 0.9999而不是1。

电脑不会有无限的小数位。从Single到Double到Extended ,浮点类型可以给你更好的精确度,但是上述的四舍五入错误依然存在。

不要再作相等比较了,我们需要确定要多精确才够。

用下面的例程实现:

var
  ESBTolerance: Extended = 0.00000001; //设定所要的精确度

function SameFloat (const X1, X2: Extended): Boolean;
begin
  Result := abs (X1 - X2) < ESBTolerance
end;

function FloatIsZero (const X: Extended): Boolean;
begin
Result := abs (X) < ESBTolerance
end;

function FloatIsPositive (const X: Extended): Boolean;
begin
Result := (X >= ESBTolerance);
end;

function FloatIsNegative (const X: Extended): Boolean;
begin
  Result := (X <= -ESBTolerance);
end;
关键词: 避开浮点设置的4舍5入出错 
我要分享:

相关推荐

本站发布的ghost系统仅为个人学习测试使用,请在下载后24小时内删除,不得用于任何商业用途,否则后果自负,请支持购买微软正版软件!

如侵犯到您的权益,请及时通知我们,我们会及时处理。

Copyright @ 2018 win10系统下载站(http://www.win10pc.cn) 版权所有  xml地图 邮箱: