将结构传递给C#中的非托管代码

时间:2011-10-13 16:11:03

标签: c# dll pinvoke marshalling

我一直在与这个问题作斗争一段时间,我希望有人可以提供帮助。我正在将VB6应用程序转换为C#。我要展示的所有内容在VB6中都是完美的,但在C#中失败了。

我正在对一个C dll进行API调用,传递一个结构。结构在C端获得了修改的值,我应该在返回结构中看到修改后的值。

注意,Sig是int,Status是int,CLIENTID是UINT_PTR。

以下是C结构:

typedef struct
{
    short               vers;               
    short               flags;              
    short               cmd;                
    short               objtype;            
    DWORD               id;                 
    DWORD               client;             
    char                buf[MAX_TOOLBUF];   
    DWORD               toolID;             
    NMSG                msg;                
    DWORD               caller;             
    CLIENTID                    clientID;           
    DWORD               ticket; 
    ToolResult PTR                      result;     
        long                spare[4];           
} Request;

typedef struct
{
    DWORD       hwnd;
    DWORD       message;
    DWORD       wParam;
    DWORD       lParam;
} NMSG;

typedef struct
{
Sig          sig;               
short               cnt;                
Status              error;              
DWORD               ticket;             
DWORD               toolID;             
long                spare[4];           
} ToolResult;

在我的C#代码中,我定义了以下结构来映射到上面的C结构:

[StructLayout(LayoutKind.Sequential)]
public struct NMSG
{
    public int hWnd;
    public int msg;
    public int wParam;
    public int lParam;
}

[StructLayout(LayoutKind.Sequential)]
public struct Request
{
    public Int16 vers;        
    public Int16 flags;        
    public Int16 cmd;         
    public int16 objType;     
    public int id;             
    public int Client;         

    [MarshalAs(UnmanagedType.ByValTStr, SizeConst = 260)]
    public string buf;

    public int toolID;         
    public NMSG msg;           
    public int caller;        
    public IntPtr clientID;       
    public int ticket;         
    public ToolResult result;         

    [MarshalAs(UnmanagedType.ByValArray, SizeConst= 4) ]
    public int64[] spare;       
}

这是C代码中的方法修饰:

SendRequest(Request PTR req)
{
    ....
}

以下是C#中使用这些结构的API中的PInvoke声明:

    [DllImport("TheCDLL.dll", EntryPoint = "_Request@4", CharSet = CharSet.Ansi, CallingConvention = CallingConvention.Cdecl)]
    public static extern void Request(ref Request req);

这是我的C#代码填充结构并进行API调用:

Request req = new Request();

req.vers = 1;
req.toolID = 4000;
req.Client = 0;
req.cmd = 11;
req.objType = 1;;
req.id = 1;
req.msg.hWnd = Hwnd; // verified this is a valid window handle
req.msg.msg = 1327;
req.msg.wParam = 101;
req.msg.lParam = 0;
req.spare = new int[4];
req.buf = new string(' ', 260);
req.flags = 11;

Request(ref req);

问题是,在VB6代码中,结构项'result'在我进行API调用后会被填充一个值。在C#中,“结果”总是只有0.我猜我的编组方式一定有问题吗?我已经阅读了数十篇文章,并尝试了许多不同的方法来使这项工作取得成功。任何帮助表示赞赏!

更新:现在我已根据以下建议更新了代码(修复类型并清理最初编写的代码),我得到一个例外:

System.AccessViolationException: Attempted to read or write protected memory. This is        often an indication that other memory is corrupt.

我发现,一旦我在Request结构中从'public int vers'更改为'public Int16 vers',就会发生这种情况。想法?

1 个答案:

答案 0 :(得分:1)

UnmanagedType.Struct实际上不适用于子结构;它使Marshaler将相关对象作为VARIANT传递。这不是你想要的。尝试取消除了字符串(长度),数组(也用于长度)和枚举类型之外的所有MarshalAs语句(我在这里看不到任何语句,但在我的DLL中它们是UnmanagedType.I4)并且看到如果可行的话。

你的C#结构中还有一些额外的东西不在你的C版本中,两个之间的几个变量不匹配,你的C函数除了你的C#extern期望IntPtr之外没有返回任何东西。这些确实需要匹配一切顺利。 (我猜这只是网站的简化,但要记住这一点。)