TI基本数字标准

时间:2015-11-25 18:53:49

标签: calculator ieee-754 ti-basic

数字变量是否遵循TI计算器的文档标准?

我真的很惊讶地注意到我的TI 83 Premium CE这个测试实际上是真的(即1):

  

0.1 - > X

     

0.1 - > ÿ

     

0.01 - > ž

     

X * Y = Z

我希望这会失败,假设我的计算器会使用IEEE 754标准来表示浮点数。

另一方面,计算2 ^ 50 + 3-2 ^ 50返回0,表明大整数似乎使用这样的标准:我们在这里看到大数字有一个有限的尾数。

1 个答案:

答案 0 :(得分:3)

TI-BASIC' =是一种宽容比较

在计算器上尝试1+10^-12=1。这些数字不能平等地表示(1+10^-12-1给出1E-12),但您会注意到该比较返回true:因为=具有一定的数量宽容。 AFAICT来自我的计算器测试,如果在舍入到十位有效数字时数字相等,=将返回true。

其次,

TI-BASIC使用专有的BCD浮点格式

TI浮点数是一种长度为9个字节的BCD格式,其中一个字节用于符号和辅助信息,14个数字(7个字节)的精度。第九个字节用于额外的精度,因此数字可以正确舍入。

有关详细信息,请参阅由@doynax here链接的来源。

相关问题