'不到'与宽容的比较

时间:2013-11-10 19:51:38

标签: matlab math precision numerical

我正在尝试编写一些代码来计算a是否小于b且具有n位容差,其中ab是双精度变量。< / p>

例如,4.000000001 < 4.00000001TRUE4.0000000001 < 4.000000001FALSE3.99999999 < 4.00000000也是FALSE。另请注意,ab可能是否定的。

2 个答案:

答案 0 :(得分:3)

这应该有效:

ndigits = 7;
round(a*10^ndigits) < round(b*10^ndigits) 

答案 1 :(得分:1)

如果你真的想找<关系,我会做

x < y + tolerance

其中,容差是一个值,表示 y以上