浮点精度问题

时间:2018-11-16 11:48:03

标签: excel floating-point precision

使用Microsoft Excel 2010。

这两个公式为什么产生不同的结果?

= (0.5 - 0.4 - 0.1)

产生-2.775E-17 而

= 0.5 - 0.4 - 0.1

精确地产生0。

唯一的区别在于方括号。 Excel是否会尝试使用浮点数来做一些聪明的事情,认为它应该是某个值而不是另一个值,以便隐藏二进制浮点的常见问题并使它看起来好像在使用十进制算术?有记录吗?

0 个答案:

没有答案