使用flex,yy_scan_string()和input()直到输入结束为止

时间:2015-04-27 05:21:10

标签: c++ c flex-lexer

以下flex代码似乎创建了一个可执行文件,当输入字符串是未终止的注释时会出现错误。请注意:

  • 仅当输入缓冲区是字符串(例如使用yy_scan_string())而不是文件(yyset_in())
  • 时才会发生这种情况
  • 当flex代码尝试在NULL文件指针上调用fread()时发生seg错误 - 即使没有使用过任何文件缓冲区
  • "否则返回0"防止错误发生,但我不清楚这是否是多个缓冲区上下文中的安全解决方法
  • 以下代码仅供参考,请原谅不太现实的原因。
  • 我尝试使用unput()代替"返回0"而且它似乎没有任何区别

这是一个灵活的错误(为什么它会调用fread())?在任何情况下,"返回0"解决这个问题的正确方法,或者可能导致其他问题,例如:对于嵌套/多个缓冲区?

bug.l:

// to compile: flex bug.l; gcc -g lex.yy.c
// to run: ./a.out "/* unterminated comment"

%option reentrant stack noyywrap

%%

"/*" {
  size_t len;
  int c1 = 0, c2 = input(yyscanner);

  for(len = 1;;len++) {
    if(c2 == EOF || !c2) break;
    if(c1 == '*' && c2 == '/') break;
    c1 = c2;
    c2 = input(yyscanner);
  }

  if(c1 == '*' && c2 == '/')
    printf("found end of comment\n");
  // else return 0; // without this line, string input of "/*" will cause a seg fault
 }

.|\n

<<EOF>> { return 0; }
%%

int main ( int argc, char * argv[] ) {    
  if(argc < 3 || (strcmp(argv[1], "-s") && strcmp(argv[1], "-f")))
    printf("Usage:\n  %s -s string_to_scan\n  %s -f file_to_scan\n", argv[0], argv[0]);
  else {
    yyscan_t scanner;
    YY_BUFFER_STATE buf;

    if(!strcmp(argv[1], "-s")) {
      yylex_init ( &scanner );
      buf = yy_scan_string(argv[2], scanner);
      yylex ( scanner );
      yylex_destroy ( scanner );
    } else {
      FILE *f = fopen(argv[2], "rb");
      if(f) {
        yylex_init ( &scanner );
        yyset_in (f, scanner);
        yylex ( scanner );
        yylex_destroy ( scanner );
      }
    }
  }
  return 0;
}

2 个答案:

答案 0 :(得分:3)

如上所述,如果评论未终止,您将最终尝试两次阅读EOF。也就是说,你读了一次(使用input()),然后,因为你没有从词法动作返回,你请求flex继续扫描输入,这需要它来读取输入字符。

这是未定义的行为。识别出EOF后,必须从扫描仪返回0。

您的<<EOF>>规则是不必要的;没有规则,扫描仪将通过返回0自动响应EOF。通常,插入EOF规则的唯一原因是进行某种清理或切换输入缓冲区。如果你有一个非平凡的EOF规则,它必须返回0或安排当前输入缓冲区不被重试。

答案 1 :(得分:1)

如果我正确理解您的代码,我不能同意您的说法,即flex有错误。您正在读取规则"/*"的操作代码中的输入流。这样做违反了词法分析的想法。您提供的代码可能会阻止扫描程序设置文件结束标志,并且在调用"/*"的操作后,扫描程序正在尝试读取已结束的流。要处理注释,您应该使用flex状态。

修改

您的代码应该如下所示:

%option reentrant stack noyywrap

%s COMMENT

%%

"/*" { BEGIN COMMENT; }
<COMMENT>"*/" { BEGIN 0; }
<COMMENT>. { /*code for ignored comment characters*/ }
.|\n { /*code to handle non-comment characters*/ }

%%

int main ( int argc, char * argv[] ) {
  if(argc < 3 || (strcmp(argv[1], "-s") && strcmp(argv[1], "-f")))
    printf("Usage:\n  %s -s string_to_scan\n  %s -f file_to_scan\n", argv[0], argv[0]);
  else {
    yyscan_t scanner;
    YY_BUFFER_STATE buf;

    if(!strcmp(argv[1], "-s")) {
      yylex_init ( &scanner );
      buf = yy_scan_string(argv[2], scanner);
      yylex ( scanner );
      yylex_destroy ( scanner );
    } else {
      FILE *f = fopen(argv[2], "rb");
      if(f) {
        yylex_init ( &scanner );
        yyset_in (f, scanner);
        yylex ( scanner );
        yylex_destroy ( scanner );
      }
    }
  }
  return 0;
}