设置BigDecimal的特定精度

时间:2012-02-28 13:35:59

标签: java bigdecimal floating-point-precision

我有XSD要求我使用BigDecimal作为lat / lon。我目前将lat / lon作为双精度,并将它们转换为BigDecimal,但我只需要使用大约12个精度位置。我无法弄清楚如何设置它。任何人都可以帮我这个吗?

4 个答案:

答案 0 :(得分:87)

您可以使用setScale()例如

double d = ...
BigDecimal db = new BigDecimal(d).setScale(12, BigDecimal.ROUND_HALF_UP);

答案 1 :(得分:34)

问题的标题询问精度。 BigDecimal区分了规模和精确度。比例是小数位数。您可以将精度视为significant figures的数量,也称为有效数字。

Clojure中的一些例子。

(.scale     0.00123M) ; 5
(.precision 0.00123M) ; 3

(在Clojure中,M指定一个BigDecimal文字。如果你愿意,可以将Clojure翻译成Java,但我发现它比Java更紧凑!)

您可以轻松增加比例:

(.setScale 0.00123M 7) ; 0.0012300M

但你不能以完全相同的方式减少比例:

(.setScale 0.00123M 3) ; ArithmeticException Rounding necessary

你也需要通过舍入模式:

(.setScale 0.00123M 3 BigDecimal/ROUND_HALF_EVEN) ;
; Note: BigDecimal would prefer that you use the MathContext rounding
; constants, but I don't have them at my fingertips right now.

因此,很容易改变规模。但是精度呢?这并不像你希望的那么容易!

很容易降低精度:

(.round 3.14159M (java.math.MathContext. 3)) ; 3.14M

但是如何增加精度并不明显:

(.round 3.14159M (java.math.MathContext. 7)) ; 3.14159M (unexpected)

对于持怀疑态度,这是而不是只是一个没有显示的尾随零的问题:

(.precision (.round 3.14159M (java.math.MathContext. 7))) ; 6 
; (same as above, still unexpected)

FWIW,Clojure小心尾随零,显示它们:

4.0000M ; 4.0000M
(.precision 4.0000M) ; 5

回到正轨......您可以尝试使用BigDecimal构造函数,但它不会将精度设置为高于您指定的位数:

(BigDecimal. "3" (java.math.MathContext. 5)) ; 3M
(BigDecimal. "3.1" (java.math.MathContext. 5)) ; 3.1M

因此,没有快速的方法来改变精度。在写这个问题和我正在研究的项目时,我花时间与此作斗争。我认为这至多是一个疯狂的API,最糟糕的是一个bug。人。严重?

所以,我可以说,如果你想改变精度,你需要做这些步骤:

  1. 查找当前精确度。
  2. 查找当前比例。
  3. 计算比例变化。
  4. 设置新比例
  5. 这些步骤,如Clojure代码:

    (def x 0.000691M) ; the input number
    (def p' 1) ; desired precision
    (def s' (+ (.scale x) p' (- (.precision x)))) ; desired new scale
    (.setScale x s' BigDecimal/ROUND_HALF_EVEN)
    ; 0.0007M
    

    我知道,这只是改变精度的很多步骤!

    为什么BigDecimal没有提供此功能?我忽视了什么吗?

答案 2 :(得分:4)

 BigDecimal decPrec = (BigDecimal)yo.get("Avg");
 decPrec = decPrec.setScale(5, RoundingMode.CEILING);
 String value= String.valueOf(decPrec);

这样您就可以设置BigDecimal的特定精度。

decPrec的值为1.5726903423607562595809913132345426 四舍五入为1.57267

答案 3 :(得分:0)

试试这段代码......

    Integer perc = 5;
    BigDecimal spread = BigDecimal.ZERO; 
    BigDecimal perc = spread.setScale(perc,BigDecimal.ROUND_HALF_UP);
    System.out.println(perc);

结果:0.00000

相关问题