Groovy BigDecimal精度问题

Question

给出以下一行

BigDecimal step = 10.0G**-1.0G

groovy 1.7.5返回错误的

0.1000000000000000055511151231257827021181583404541015625

和groovy 1.8返回正确的

0.1

不幸的是，我想在Grails中解决我的问题。 1.4使用groovy 1.8还不够稳定（控制器在开发模式下不刷新），grails 1.3.7附带groovy 1.7.x

两个问题：

• 我做错了什么或是1.7.5中的错误？

• 我该如何避免这种行为？我认为BigDecimals对于这种舍入问题是完美的吗？

第二次更新：（忘记第一次更新） - ;

我现在有点困惑。似乎我每次尝试都会得到不同的结果....：

BigDecimal step = 10.0G**-1.0G
println step

返回0.1000000000000000055511151231257827021181583404541015625

和

println 10.0G**-1.0G

返回

0.1

在两个groovy版本中。

但是如果您只是将BigDec step = 10.0G**-1.0G放在groovyConsole中并让控制台打印最后一个响应，那么您将获得不同groovy版本的不同结果。所以一个问题似乎是groovyConsole。

另一个问题似乎是执行的toString转换。

似乎涉及一些自动装箱......当我做

时

def step = 10.0G**-1.0G

结果是Double ...

我想这会将问题归结为两个问题：

• a）哪些数学运算是BigDecimal运算？

和

• b）如何轻松绕过BigDecimal以便我能纠正上述问题？

Thanx耐心等待

Answer 1

我想我已经明白了。以下是来自java doc的线索：

  

BigDecimal（double val）             将double转换为BigDecimal，即精确小数   double的二进制表示   浮点值。

• 因此，我在代码中使用的Math.-Functions似乎不支持BigDecimal。
• 结果在幕后从Double转换为BigDecimal
• 完全当双精度为0.1000000000000000055511151231257827021181583404541015625
时，双精度二进制的表示 0.1
• println 10.0G**-1.0G打印双值（0.1）
• BigDecimal step = 10.0G**-1.0G; println step打印双0.1的BigDecimal表示，这是上面的丑陋数字

似乎groovy版本的行为（关于BigDecimals）没有区别，但是在groovyConsole中输出结果的行为存在差异。

Answer 2

我正在使用Groovy 1.7.5而我10.0G**-1.0G会返回0.1

您正在运行哪个JDK？

Answer 3

我怀疑10.0G ** - 1.0G变成Math.pow（10，-1），math.pow返回一个double，然后给出舍入错误。 为了避免它，如果你只是提高到-1，你可以将其作为一个部门（1.0G / 10.0G）来实现。

那就是说，我不太了解Groovy，所以我的猜测可能是错的，但这肯定是它看起来的样子，并且它得到了Groovy的文档所说的支持。

Answer 4

如果你想从Double转换为BigDecimal并且没有获得所有额外的数字，一种方法是将Double放入一个String然后将其转换为BigDecimal，这将阻止所有额外的数字过来来自double的精确二进制表示。

Double someFraction = 1.23456789
BigDecimal sameFraction = "${someFraction}".toBigDecimal()