fmod返回不一致的值

时间:2012-08-05 07:14:16

标签: c++ mingw math.h

尝试使用一些perlin噪声函数时,遇到一个奇怪的错误。突然间,我在所有电话中间都获得了一个off值。将其追溯到fmod()中的不一致返回值。

i=512;
cout << i << ","  << fmod(i/102.4,1.f) << "," << fmod(i/102.4,1.f) << endl;

我希望得到以下输出。

512,0,0

但我没有。我明白了。

512,0,1

更奇怪的是,如果我多次调用cout线,则错误会在以后的运行中消失。

512,0,1
512,0,0
512,0,0

将值硬编码到函数中(将所有'y'替换为'512')会得到正确的结果(始终返回0)。

有没有人见过这样的结果?

2 个答案:

答案 0 :(得分:5)


最终编辑:这几乎肯定是GCC或glibc中的一个错误。简单地声明一个在代码中的其他地方调用fmod的函数(即使该函数没有被调用)也会使问题消失。

我建议将-fno-builtins传递给编译器以解决此问题。 Thas似乎为我解决了这个问题。


我能够在GCC 4.5.3中为cygwin重现这一点。

仅当i变量为非常量[编辑>时才会发生这种情况:可能是因为它鼓励编译器使用临时存储初始除法的结果)。我测试的更简单的C程序:

#include <stdio.h>

#include <math.h>

int main()
{
    int i = 512;
    printf("%f %f\n", fmod(i/102.4,1.f), fmod(i/102.4,1.f));
    printf("%f %f\n", fmod(i/102.4,1.f), fmod(i/102.4,1.f));

}

哪个输出:

0.000000 1.000000
0.000000 0.000000

我试过查看asm输出,但我的x87-foo很弱。 其他人可以看到什么是错的吗?我会一直在寻找:

    .file   "test.cpp"
    .section    .debug_abbrev,"dr"
Ldebug_abbrev0:
    .section    .debug_info,"dr"
Ldebug_info0:
    .section    .debug_line,"dr"
Ldebug_line0:
    .text
Ltext0:
    .def    ___main;    .scl    2;  .type   32; .endef
    .section .rdata,"dr"
LC3:
    .ascii "%f %f\12\0"
    .text
.globl _main
    .def    _main;  .scl    2;  .type   32; .endef
_main:
LFB7:
    .file 1 "test.cpp"
    .loc 1 6 0
    pushl   %ebp
LCFI0:
    movl    %esp, %ebp
LCFI1:
    andl    $-16, %esp
LCFI2:
    subl    $64, %esp
LCFI3:
    .loc 1 6 0
    call    ___main
LBB2:
    .loc 1 7 0
    movl    $512, 60(%esp)
    .loc 1 8 0
    fildl   60(%esp)
    fldl    LC0
    fdivrp  %st, %st(1)
    fld1
    fld %st(1)
L2:
    fprem
    fnstsw  %ax
    sahf
    jp  L2
    fstp    %st(1)
    fucomi  %st(0), %st
    jp  L5
    fucomi  %st(0), %st
    je  L6
    fstp    %st(0)
    jmp L4
L5:
    fstp    %st(0)
L4:
    fld1
    fstpl   8(%esp)
    fstpl   (%esp)
    call    _fmod
    jmp L3
L6:
    fstp    %st(1)
L3:
    fstpl   40(%esp)
    fildl   60(%esp)
    fldl    LC0
    fdivrp  %st, %st(1)
    fld1
    fstpl   8(%esp)
    fstpl   (%esp)
    call    _fmod
    fldl    40(%esp)
    fstpl   12(%esp)
    fstpl   4(%esp)
    movl    $LC3, (%esp)
    call    _printf
    .loc 1 9 0
    fildl   60(%esp)
    fldl    LC0
    fdivrp  %st, %st(1)
    fld1
    fstpl   8(%esp)
    fstpl   (%esp)
    call    _fmod
    fstpl   32(%esp)
    fildl   60(%esp)
    fldl    LC0
    fdivrp  %st, %st(1)
    fld1
    fstpl   8(%esp)
    fstpl   (%esp)
    call    _fmod
    fldl    32(%esp)
    fstpl   12(%esp)
    fstpl   4(%esp)
    movl    $LC3, (%esp)
    call    _printf
LBE2:
    movl    $0, %eax
    .loc 1 10 0
    leave
LCFI4:
    ret
LFE7:
    .section .rdata,"dr"
    .align 8
LC0:
    .long   -1717986918
    .long   1079613849
    .section    .debug_frame,"dr"
Lframe0:
    .long   LECIE0-LSCIE0
LSCIE0:
    .long   0xffffffff
    .byte   0x1
    .ascii "\0"
    .uleb128 0x1
    .sleb128 -4
    .byte   0x8
    .byte   0xc
    .uleb128 0x4
    .uleb128 0x4
    .byte   0x88
    .uleb128 0x1
    .align 4
LECIE0:
LSFDE0:
    .long   LEFDE0-LASFDE0
LASFDE0:
    .secrel32   Lframe0
    .long   LFB7
    .long   LFE7-LFB7
    .byte   0x4
    .long   LCFI0-LFB7
    .byte   0xe
    .uleb128 0x8
    .byte   0x85
    .uleb128 0x2
    .byte   0x4
    .long   LCFI1-LCFI0
    .byte   0xd
    .uleb128 0x5
    .byte   0x4
    .long   LCFI4-LCFI1
    .byte   0xc5
    .byte   0xc
    .uleb128 0x4
    .uleb128 0x4
    .align 4
LEFDE0:
    .section    .eh_frame,"w"
Lframe1:
    .long   LECIE1-LSCIE1
LSCIE1:
    .long   0x0
    .byte   0x1
    .ascii "\0"
    .uleb128 0x1
    .sleb128 -4
    .byte   0x8
    .byte   0xc
    .uleb128 0x4
    .uleb128 0x4
    .byte   0x88
    .uleb128 0x1
    .align 4
LECIE1:
LSFDE3:
    .long   LEFDE3-LASFDE3
LASFDE3:
    .long   LASFDE3-Lframe1
    .long   LFB7
    .long   LFE7-LFB7
    .byte   0x4
    .long   LCFI0-LFB7
    .byte   0xe
    .uleb128 0x8
    .byte   0x85
    .uleb128 0x2
    .byte   0x4
    .long   LCFI1-LCFI0
    .byte   0xd
    .uleb128 0x5
    .byte   0x4
    .long   LCFI4-LCFI1
    .byte   0xc5
    .byte   0xc
    .uleb128 0x4
    .uleb128 0x4
    .align 4
LEFDE3:
    .text
Letext0:
    .section    .debug_loc,"dr"
Ldebug_loc0:
LLST0:
    .long   LFB7-Ltext0
    .long   LCFI0-Ltext0
    .word   0x2
    .byte   0x74
    .sleb128 4
    .long   LCFI0-Ltext0
    .long   LCFI1-Ltext0
    .word   0x2
    .byte   0x74
    .sleb128 8
    .long   LCFI1-Ltext0
    .long   LCFI4-Ltext0
    .word   0x2
    .byte   0x75
    .sleb128 8
    .long   LCFI4-Ltext0
    .long   LFE7-Ltext0
    .word   0x2
    .byte   0x74
    .sleb128 4
    .long   0x0
    .long   0x0
    .section    .debug_info,"dr"
    .long   0x13a
    .word   0x2
    .secrel32   Ldebug_abbrev0
    .byte   0x4
    .uleb128 0x1
    .ascii "GNU C++ 4.5.3\0"
    .byte   0x4
    .ascii "test.cpp\0"
    .ascii "/home/martin\0"
    .long   Ltext0
    .long   Letext0
    .secrel32   Ldebug_line0
    .uleb128 0x2
    .byte   0x4
    .byte   0x7
    .ascii "unsigned int\0"
    .uleb128 0x2
    .byte   0x1
    .byte   0x6
    .ascii "char\0"
    .uleb128 0x2
    .byte   0x1
    .byte   0x6
    .ascii "signed char\0"
    .uleb128 0x2
    .byte   0x1
    .byte   0x8
    .ascii "unsigned char\0"
    .uleb128 0x2
    .byte   0x2
    .byte   0x5
    .ascii "short int\0"
    .uleb128 0x2
    .byte   0x2
    .byte   0x7
    .ascii "short unsigned int\0"
    .uleb128 0x2
    .byte   0x4
    .byte   0x5
    .ascii "int\0"
    .uleb128 0x2
    .byte   0x8
    .byte   0x5
    .ascii "long long int\0"
    .uleb128 0x2
    .byte   0x8
    .byte   0x7
    .ascii "long long unsigned int\0"
    .uleb128 0x2
    .byte   0x4
    .byte   0x5
    .ascii "long int\0"
    .uleb128 0x2
    .byte   0x4
    .byte   0x7
    .ascii "long unsigned int\0"
    .uleb128 0x2
    .byte   0x8
    .byte   0x4
    .ascii "double\0"
    .uleb128 0x2
    .byte   0x4
    .byte   0x4
    .ascii "float\0"
    .uleb128 0x2
    .byte   0xc
    .byte   0x4
    .ascii "long double\0"
    .uleb128 0x3
    .byte   0x1
    .ascii "main\0"
    .byte   0x1
    .byte   0x5
    .long   0x98
    .long   LFB7
    .long   LFE7
    .secrel32   LLST0
    .uleb128 0x4
    .long   LBB2
    .long   LBE2
    .uleb128 0x5
    .ascii "i\0"
    .byte   0x1
    .byte   0x7
    .long   0x98
    .byte   0x2
    .byte   0x74
    .sleb128 60
    .byte   0x0
    .byte   0x0
    .byte   0x0
    .section    .debug_abbrev,"dr"
    .uleb128 0x1
    .uleb128 0x11
    .byte   0x1
    .uleb128 0x25
    .uleb128 0x8
    .uleb128 0x13
    .uleb128 0xb
    .uleb128 0x3
    .uleb128 0x8
    .uleb128 0x1b
    .uleb128 0x8
    .uleb128 0x11
    .uleb128 0x1
    .uleb128 0x12
    .uleb128 0x1
    .uleb128 0x10
    .uleb128 0x6
    .byte   0x0
    .byte   0x0
    .uleb128 0x2
    .uleb128 0x24
    .byte   0x0
    .uleb128 0xb
    .uleb128 0xb
    .uleb128 0x3e
    .uleb128 0xb
    .uleb128 0x3
    .uleb128 0x8
    .byte   0x0
    .byte   0x0
    .uleb128 0x3
    .uleb128 0x2e
    .byte   0x1
    .uleb128 0x3f
    .uleb128 0xc
    .uleb128 0x3
    .uleb128 0x8
    .uleb128 0x3a
    .uleb128 0xb
    .uleb128 0x3b
    .uleb128 0xb
    .uleb128 0x49
    .uleb128 0x13
    .uleb128 0x11
    .uleb128 0x1
    .uleb128 0x12
    .uleb128 0x1
    .uleb128 0x40
    .uleb128 0x6
    .byte   0x0
    .byte   0x0
    .uleb128 0x4
    .uleb128 0xb
    .byte   0x1
    .uleb128 0x11
    .uleb128 0x1
    .uleb128 0x12
    .uleb128 0x1
    .byte   0x0
    .byte   0x0
    .uleb128 0x5
    .uleb128 0x34
    .byte   0x0
    .uleb128 0x3
    .uleb128 0x8
    .uleb128 0x3a
    .uleb128 0xb
    .uleb128 0x3b
    .uleb128 0xb
    .uleb128 0x49
    .uleb128 0x13
    .uleb128 0x2
    .uleb128 0xa
    .byte   0x0
    .byte   0x0
    .byte   0x0
    .section    .debug_pubnames,"dr"
    .long   0x17
    .word   0x2
    .secrel32   Ldebug_info0
    .long   0x13e
    .long   0x10d
    .ascii "main\0"
    .long   0x0
    .section    .debug_pubtypes,"dr"
    .long   0xe
    .word   0x2
    .secrel32   Ldebug_info0
    .long   0x13e
    .long   0x0
    .section    .debug_aranges,"dr"
    .long   0x1c
    .word   0x2
    .secrel32   Ldebug_info0
    .byte   0x4
    .byte   0x0
    .word   0x0
    .word   0x0
    .long   Ltext0
    .long   Letext0-Ltext0
    .long   0x0
    .long   0x0
    .def    _fmod;  .scl    2;  .type   32; .endef
    .def    _printf;    .scl    2;  .type   32; .endef

[编辑:注意,它总是第一次调用fmod而返回奇怪的结果(从来没有一次)。 fmod调用正在从右向左进行评估。

[编辑2 :定义一个函数,double my_fmod(double a, double b) { return fmod(a, b); }并通过调用将问题消失。 ]

答案 1 :(得分:3)

这不是gcc或库bug。这只是一个不精确的浮点表示的结果。

i=512;
cout << i << ","  << fmod(i/102.4,1.f) << "," << fmod(i/102.4,1.f) << endl;

512/102.4数学结果正好是5.但102.4无法在二进制浮点中精确表示,因此传递给fmod的值可能要么是5.0,要么是略高于或低于它。

如果除法的结果是4.99999999,那么fmod(i/102.4,1.f)将返回0.99999999,这可能会在输出到1时四舍五入。

尝试更精确地显示值。

您需要修改代码,以便允许的值略小于您期望的值。由于fmod()是一个不连续的函数,它可以极大地放大这些差异。

这个程序:

#include <iostream>
#include <iomanip>
#include <cmath>
int main(void) {
    int i = 512;
    std::cout << i << "," 
              << std::setprecision(20) << fmod(i/102.4,1.f)
              << "," << fmod(i/102.4,1.f) << std::endl;
    return 0;
}

在我的系统上生成此输出:

512,0,0.99999999999999977796