Question

我正在尝试读取包含char和double序列的二进制文件。（例如0 0.125 1 1.4 0 2.3 1 4.5，但写在二进制文件中）。我创建了一个简单的struct输入，还有一个MPI数据类型，我将调用与此结构相对应的mpi_input。

typedef struct { char type; double value } input;

我想使用MPI_File_read_at_all并行读取我的文件（即使用不同的处理器）。我想在这个函数中使用数据类型mpi_input。

问题是，我认为这个函数需要一个缓冲区，直到最后才写入。我尝试使用input *buffer，但这会因数据结构对齐而产生问题。对于如何做到这一点有什么想法吗？

这是一个最小的工作示例：

#include <stdlib.h>
#include <stdio.h>
#include <string.h>
#include <mpi.h>
#include <assert.h>
#include <stddef.h>

int main(int argc, char** argv)
{
    typedef struct
    {
        double val;
        char type;
    } input;

    int rank, size;

    MPI_Init(&argc, &argv);
    MPI_Comm_rank(MPI_COMM_WORLD, &rank);
    MPI_Comm_size(MPI_COMM_WORLD, &size);

    assert(size == 4);

    MPI_File in;
    MPI_Offset filesize;
    MPI_File_open(MPI_COMM_WORLD, argv[1], MPI_MODE_RDONLY, MPI_INFO_NULL, &in);
    MPI_File_get_size(in, &filesize);

    int mysize = filesize/size;
    int globalstart = rank * mysize;

    input *chunk = malloc(sizeof(input)*2);

    int n = 128;
    int m = 256;

    int blocks[2] = {1,1};
    MPI_Datatype types[2] = {MPI_BYTE, MPI_DOUBLE};
    MPI_Aint displacements[2];
    MPI_Datatype cell_type;
    MPI_Aint charex, doublex;
    displacements[0] = offsetof(input, type);
    displacements[1] = offsetof(input, val);
    MPI_Type_create_struct(2, blocks, displacements, types, &cell_type);
    MPI_Type_commit(&cell_type);

    MPI_File_read_at_all(in, globalstart, chunk, mysize, cell_type, MPI_STATUS_IGNORE);
    if(rank == 0)
        printf("0 - Got %d %f\n", chunk->val, chunk->type);
    if(rank == 4)
        printf("Got %d %f\n", chunk->val, chunk->type);

    MPI_File_close(&in);
    MPI_Finalize();
}

这是一个生成简单二进制文件的代码：

#include <stdio.h>
#include <stdlib.h>

int main()
{
    FILE *fp;
    char* filename = "test.dump";
    fp = fopen(filename, "wb");

    char bla = 8;
    for(double i = 0; i < 8; i++)
    {
        fwrite(&bla, sizeof(char), 1, fp);
        bla--;
        fwrite(&i, sizeof(double), 1, fp);
    }

    fclose(fp);
}

Answer 1

您提供了MPI_File_read_at_all错误的参数。在MPI中，与要发送/接收/读取/写入的数据相关的参数几乎总是以下列形式的三元组给出：buffer, #elements, datatype。

在您的情况下，#elements等于mysize，以字节为单位，而不是数据类型cell_type的元素数。因此，该函数读取的元素数量超出了缓冲区内可容纳的元素数，从而破坏了堆。

您应该做的是将mysize除以数据类型的大小（并且不 sizeof(input)！）：

int cell_type_size;
MPI_Type_size(cell_type, &cell_type_size);

...

MPI_File_read_at_all(in, globalstart,
    chunk, mysize / cell_type_size, cell_type, MPI_STATUS_IGNORE);
//  ~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~
//         data specification triplet

此外，您的第二个printf语句永远不会执行，因为{4}在4个MPI流程的情况下rank从0变为3。

MPI分布式读取非标准类型

1 个答案: