建立一个解释器:设计一个AST

时间:2017-04-12 16:16:56

标签: c compiler-construction grammar abstract-syntax-tree interpreter

所以我正在为我正在制作的与Python类似的语言编写解释器。现在我明白这不是一个小任务,我不希望它工作得很好或做得多,但我希望它有一些基本的功能(变量,函数,循环,if语句等......)

所以目前我处于解释器获取文件的阶段,并将其拆分为令牌列表,现在我已准备好将这些令牌转换为AST。我打算用递归下降解析器做这个,我相信我理解,但这是问题所在。我们说我有以下输入

1 + 2 * 3

这将输出7,因为使用BIDMAS首先进行乘法,所以

2 * 3 = 6

然后在

之后完成添加
1 + 6 = 7

我知道如何获得此顺序,因为我有一个简单的语法,但我不知道如何将其存储为AST。为简化答案的内容,我们假设这是您将收到的唯一输入,语法可以是

program = add
add = mul {"+" mul}
mul = NUM {"*" NUM}

基本上,你如何建立一个存储AST的数据结构?

P.S。我在C中这样做。

2 个答案:

答案 0 :(得分:4)

免责声明:此表示是主观的,只是为了阐明。

从根本上说,您的AST将构建为二叉树,其中每个AST节点都是一个“C”结构,同时包含“左”和“右”指针。 AST的其他元素通常是上下文敏感的。例如,变量声明与函数定义或函数中的表达式。对于你引用的例子,粗糙的树将反映出这一点:

   +
 /   \
1     *
      /\
     2  3 

因此,将上述节点1 +(2 * 3)替换为AST构造将类似于:

                 -----------------
                | type: ADDOP   |
                | left: struct* |
                | right: struct*|
                -----------------
              /                   \
             /                     \
 (ADDOP left points to)         (ADDOP right points to)
------------------------       --------------------------  
| type: NUMLITERAL     |       | type: MULTOP           |
| value: 1             |       | left: struct*          |
| left: struct* (null) |       | right: struct*         |
| right: struct*(null) |       --------------------------
------------------------              /               \
                                     /                 \

                    (MULTOP left points to)         (MULTOP right points to)
                    ------------------------       --------------------------  
                    | type: NUMLITERAL     |       | type: NUMLITERAL       |
                    | value: 2             |       | value: 3               |
                    | left: struct* (null) |       | left: struct* (null)   |
                    | right: struct*(null) |       | right: struct* (null)  |
                    ------------------------       --------------------------

我假设您对“C”以及如何malloc节点和分配左/右指针有足够的了解。

现在剩下的活动是对树进行后序遍历,以评估表达式并生成结果或发出与编译结果对齐的适当中间代码/机器代码。任何一种选择都会带来大量的思考和计划。

BTW:如上所述,AST节点通常具有基于您想要表示的抽象级别的属性。另请注意,典型编译器可能出于不同原因利用多个AST。是的,更多的阅读/学习。

注意:这说明了AST的数据结构,但是对于如何将字符串“1 + 2 * 3”输入到这种结构的节点中,@ mikeb答案是坚如磐石的。

答案 1 :(得分:1)

我使用" Shunting Yard"算法 - > https://en.wikipedia.org/wiki/Shunting-yard_algorithm

那里也有psudocode。

FTA:

在计算机科学中,分流码算法是一种解析中缀符号中指定的数学表达式的方法。它可用于生成后缀表示法字符串,也称为反向波兰表示法(RPN)或抽象语法树(AST)。该算法由Edsger Dijkstra发明,并命名为"调车场"因为它的操作类似于铁路调车场的操作。 Dijkstra首先在数学中心报告MR 34/61中描述了Shunting Yard算法。

与RPN的评估一样,分流码算法是基于堆栈的。中缀表达式是大多数人习惯使用的数学符号的形式,例如" 3 + 4"或" 3 + 4 *(2-1)"。对于转换,有两个文本变量(字符串),输入和输出。还有一个堆栈,用于保存尚未添加到输出队列的运算符。要进行转换,程序会按顺序读取每个符号,并根据该符号执行某些操作。上述例子的结果将是" 3 4 +"或" 3 4 2 1 - * +"。

分流码算法后来被推广为运算符优先解析。

代码,因为有人指出这不是如何存储它(如果你不喜欢C - 从http://rosettacode.org/wiki/Parsing/Shunting-yard_algorithm中选择):

#include <sys/types.h>
#include <regex.h>
#include <stdio.h>

typedef struct {
    const char *s;
    int len, prec, assoc;
} str_tok_t;

typedef struct {
    const char * str;
    int assoc, prec;
    regex_t re;
} pat_t;

enum assoc { A_NONE, A_L, A_R };
pat_t pat_eos = {"", A_NONE, 0};

pat_t pat_ops[] = {
    {"^\\)",    A_NONE, -1},
    {"^\\*\\*", A_R, 3},
    {"^\\^",    A_R, 3},
    {"^\\*",    A_L, 2},
    {"^/",      A_L, 2},
    {"^\\+",    A_L, 1},
    {"^-",      A_L, 1},
    {0}
};

pat_t pat_arg[] = {
    {"^[-+]?[0-9]*\\.?[0-9]+([eE][-+]?[0-9]+)?"},
    {"^[a-zA-Z_][a-zA-Z_0-9]*"},
    {"^\\(", A_L, -1},
    {0}
};

str_tok_t stack[256]; /* assume these are big enough */
str_tok_t queue[256];
int l_queue, l_stack;
#define qpush(x) queue[l_queue++] = x
#define spush(x) stack[l_stack++] = x
#define spop()   stack[--l_stack]

void display(const char *s)
{
    int i;
    printf("\033[1;1H\033[JText | %s", s);
    printf("\nStack| ");
    for (i = 0; i < l_stack; i++)
        printf("%.*s ", stack[i].len, stack[i].s); // uses C99 format strings
    printf("\nQueue| ");
    for (i = 0; i < l_queue; i++)
        printf("%.*s ", queue[i].len, queue[i].s);
    puts("\n\n<press enter>");
    getchar();
}

int prec_booster;

#define fail(s1, s2) {fprintf(stderr, "[Error %s] %s\n", s1, s2); return 0;}

int init(void)
{
    int i;
    pat_t *p;

    for (i = 0, p = pat_ops; p[i].str; i++)
        if (regcomp(&(p[i].re), p[i].str, REG_NEWLINE|REG_EXTENDED))
            fail("comp", p[i].str);

    for (i = 0, p = pat_arg; p[i].str; i++)
        if (regcomp(&(p[i].re), p[i].str, REG_NEWLINE|REG_EXTENDED))
            fail("comp", p[i].str);

    return 1;
}

pat_t* match(const char *s, pat_t *p, str_tok_t * t, const char **e)
{
    int i;
    regmatch_t m;

    while (*s == ' ') s++;
    *e = s;

    if (!*s) return &pat_eos;

    for (i = 0; p[i].str; i++) {
        if (regexec(&(p[i].re), s, 1, &m, REG_NOTEOL))
            continue;
        t->s = s;
        *e = s + (t->len = m.rm_eo - m.rm_so);
        return p + i;
    }
    return 0;
}

int parse(const char *s) {
    pat_t *p;
    str_tok_t *t, tok;

    prec_booster = l_queue = 0;
    display(s);
    while (*s) {
        p = match(s, pat_arg, &tok, &s);
        if (!p || p == &pat_eos) fail("parse arg", s);

        /* Odd logic here. Don't actually stack the parens: don't need to. */
        if (p->prec == -1) {
            prec_booster += 100;
            continue;
        }
        qpush(tok);
        display(s);

re_op:      p = match(s, pat_ops, &tok, &s);
        if (!p) fail("parse op", s);

        tok.assoc = p->assoc;
        tok.prec = p->prec;

        if (p->prec > 0)
            tok.prec = p->prec + prec_booster;
        else if (p->prec == -1) {
            if (prec_booster < 100)
                fail("unmatched )", s);
            tok.prec = prec_booster;
        }

        while (l_stack) {
            t = stack + l_stack - 1;
            if (!(t->prec == tok.prec && t->assoc == A_L)
                    && t->prec <= tok.prec)
                break;
            qpush(spop());
            display(s);
        }

        if (p->prec == -1) {
            prec_booster -= 100;
            goto re_op;
        }

        if (!p->prec) {
            display(s);
            if (prec_booster)
                fail("unmatched (", s);
            return 1;
        }

        spush(tok);
        display(s);
    }

    return 1;
}

int main()
{
    int i;
    const char *tests[] = { 
        "3 + 4 * 2 / ( 1 - 5 ) ^ 2 ^ 3",    /* RC mandated: OK */
        "123",                  /* OK */
        "3+4 * 2 / ( 1 - 5 ) ^ 2 ^ 3.14",   /* OK */
        "(((((((1+2+3**(4 + 5))))))",       /* bad parens */
        "a^(b + c/d * .1e5)!",          /* unknown op */
        "(1**2)**3",                /* OK */
        0
    };

    if (!init()) return 1;
    for (i = 0; tests[i]; i++) {
        printf("Testing string `%s'   <enter>\n", tests[i]);
        getchar();

        printf("string `%s': %s\n\n", tests[i],
            parse(tests[i]) ? "Ok" : "Error");
    }

    return 0;
}