标签: python numpy floating-point
IEEE定义了float64从-2.23e-308到+1.8e+308的范围。但是这个范围所暗示的粒度是什么?也就是说,从最小到最大可以做的非零增量的最大数量是多少?这等效于在这些点之间绘制最平坦(非零斜率)的线。该行包括多少个样本,增量大小是多少?
-2.23e-308
+1.8e+308
例如,某些数字系统“ alpha”的范围是-3到+3,“粒度”是1,表示这样的行是[-3,-2,-1,0,1,2,3]。忽略任何内存注意事项;我们有一个十亿字节的RAM。
[-3,-2,-1,0,1,2,3]