如何在F#中获取多维数据集根

时间:2011-09-03 02:13:20

标签: f# type-conversion

我试图在F#中获取立方根。但这是我的问题。

let x5 = ((float 64) ** (1.0/3.0));;
val x5 : float = 4.0

int x5;; //expected 4
val it : int = 3

结果应为4,而不是3。

怎么了?

2 个答案:

答案 0 :(得分:3)

没有什么不对,问题是x5的值略低于,而不是4.0。 你可以明确地看到使用fsi:

少了多少
let x5 = ((float 64) ** (1.0/3.0))
let err = 4.0 - x5;;

val x5 : float = 4.0
val err : float = 4.440892099e-16

答案 1 :(得分:1)

看起来你可能正在查看错误的变量。

我自己检查了一个例子:

http://ideone.com/kn9jd

(ideone是一个免费的在线编译/执行服务。)