限制matlab计算的准确性

时间:2017-10-28 15:07:52

标签: matlab rounding rounding-error

在我的数值分析课中,我们有时需要用t位舍入算法进行计算,即每次计算(每次计算,而不是每个变量赋值)都舍入为t意义全数。我使用matlab进行计算,我需要一种方法来限制matlab在t位舍入算法中进行所有计算。

如果不存在这种方式,我想找到一种方法将特定数字舍入为t意义全数字。

谢谢!

P.S。我尝试使用digits(t),但它似乎只影响matlab显示数字的方式(我可能使用它错了)。

1 个答案:

答案 0 :(得分:0)

您可以使用:

 system_dependent('setprecision',24); %accepts values 24, 53 or 64

,如thisthis资源中所述。

相关问题