Question

我在lua中有一个函数，给出了2个向量，将第一个向量的lambda乘数返回到第二个，这是我的代码

function Math.vectorLambda( v1,v2 )
    local v1Length,v2Length=math.sqrt(v1.x^2+v1.y^2),math.sqrt(v2.x^2+v2.y^2)
    if v1Length==0 then
        return nil
    else
        local dotProduct=v1.x*v2.x+v1.y*v2.y
        print(dotProduct,v1Length,v2Length,math.abs(dotProduct)==(v1Length*v2Length))
        if math.abs(dotProduct)==(v1Length*v2Length) then
            if v1.x~=0 then
                return v2.x/v1.x
            else
                return v2.y/v1.y
            end
        else
            return nil
        end
    end
end

但是，如果

--this is what I get from terminal and I believe that it does not display the whole number--
    v1={0.51449575542753,-0.85749292571254}
    v2={-10,16.666666666667}

输出

-19.436506316151    1   19.436506316151 false

这就是说dotProduct和v1Length * v2Length的绝对值不一样...... 上面是什么原因，而不是我是盲目的？：（

顺便说一下，函数不稳定..具有完全相同的向量，函数可能具有相同的输出，除了math.abs（dotProduct）==（v1Length * v2Length）给出true，因此返回正确的答案而不是nil，为什么呢？

Answer 1

花车很棘手。你很可能在较小的小数位上有差异（我不确定，因为我在这里得到true）。尝试使用以下函数以更高的精度打印数字：

function prec_print(v, prec)
  local format = '%.' .. prec .. 'f'
  print(string.format(format, value))
end

在任何情况下，您几乎都不应该使用==来比较浮点相等性。对于花车，对false这样的简单事物来说很容易获得a+b-b==a。您应该做的是检查两个值的差异是否小于某个阈值：

function almost_equal(float1, float2, threshold)
  return math.abs(float1 - float2) <= threshold
end

但它实际上比那更棘手（例如，如果说float1和float2相距太远）。无论如何，对于使用浮点数的任何人来说，此读取是必需的：http://docs.oracle.com/cd/E19957-01/806-3568/ncg_goldberg.html

干杯！

Lua失去了精确度

1 个答案: