Float64粒度:最长的行是多少?

时间:2020-09-22 00:32:48

标签: python numpy floating-point

IEEE定义了float64从-2.23e-308+1.8e+308的范围。但是这个范围所暗示的粒度是什么?也就是说,从最小到最大可以做的非零增量的最大数量是多少?这等效于在这些点之间绘制最平坦(非零斜率)的线。该行包括多少个样本,增量大小是多少?

例如,某些数字系统“ alpha”的范围是-3到+3,“粒度”是1,表示这样的行是[-3,-2,-1,0,1,2,3]。忽略任何内存注意事项;我们有一个十亿字节的RAM。

0 个答案:

没有答案