Question

如果以下正则表达式可以逐行拆分csv字符串。

var lines = csv.split(/\r|\r?\n/g);

如何调整以跳过CSV值中包含的换行符（即引号/双引号之间）？

示例：

2,"Evans & Sutherland","230-132-111AA",,"Visual","P
CB",,1,"Offsite",

如果你没有看到它，这是一个可见的新行的版本：

2,"Evans & Sutherland","230-132-111AA",,"Visual","P\r\nCB",,1,"Offsite",\r\n

我试图跳过的部分是包含在“PCB”条目中间的换行符。

更新

我之前可能应该提到这一点，但这是名为jquery-csv的专用CSV解析库的一部分。为了提供更好的上下文，我在下面添加了当前的解析器实现。

以下是验证和解析条目的代码（即一行）：

$.csvEntry2Array = function(csv, meta) {
  var meta = (meta !== undefined ? meta : {});
  var separator = 'separator' in meta ? meta.separator : $.csvDefaults.separator;
  var delimiter = 'delimiter' in meta ? meta.delimiter : $.csvDefaults.delimiter;

  // build the CSV validator regex
  var reValid = /^\s*(?:D[^D\\]*(?:\\[\S\s][^D\\]*)*D|[^SD\s\\]*(?:\s+[^SD\s\\]+)*)\s*(?:S\s*(?:D[^D\\]*(?:\\[\S\s][^D\\]*)*D|[^SD\s\\]*(?:\s+[^SD\s\\]+)*)\s*)*$/;
  reValid = RegExp(reValid.source.replace(/S/g, separator));
  reValid = RegExp(reValid.source.replace(/D/g, delimiter));

  // build the CSV line parser regex
  var reValue = /(?!\s*$)\s*(?:D([^D\\]*(?:\\[\S\s][^D\\]*)*)D|([^SD\s\\]*(?:\s+[^SD\s\\]+)*))\s*(?:S|$)/g;
  reValue = RegExp(reValue.source.replace(/S/g, separator), 'g');
  reValue = RegExp(reValue.source.replace(/D/g, delimiter), 'g');

  // Return NULL if input string is not well formed CSV string.
  if (!reValid.test(csv)) {
    return null;
  }

  // "Walk" the string using replace with callback.
  var output = [];
  csv.replace(reValue, function(m0, m1, m2) {
    // Remove backslash from any delimiters in the value
    if (m1 !== undefined) {
      var reDelimiterUnescape = /\\D/g;              
      reDelimiterUnescape = RegExp(reDelimiterUnescape.source.replace(/D/, delimiter), 'g');
      output.push(m1.replace(reDelimiterUnescape, delimiter));
    } else if (m2 !== undefined) { 
      output.push(m2);
    }
    return '';
  });

  // Handle special case of empty last value.
  var reEmptyLast = /S\s*$/;
  reEmptyLast = RegExp(reEmptyLast.source.replace(/S/, separator));
  if (reEmptyLast.test(csv)) {
    output.push('');
  }

  return output;
};

注意：我还没有测试过，但我想我可能会将最后一场比赛纳入主分组/回调。

这是执行拆分部分的代码：

$.csv2Array = function(csv, meta) {
  var meta = (meta !== undefined ? meta : {});
  var separator = 'separator' in meta ? meta.separator : $.csvDefaults.separator;
  var delimiter = 'delimiter' in meta ? meta.delimiter : $.csvDefaults.delimiter;
  var skip = 'skip' in meta ? meta.skip : $.csvDefaults.skip;

  // process by line
  var lines = csv.split(/\r\n|\r|\n/g);
  var output = [];
  for(var i in lines) {
    if(i < skip) {
      continue;
    }
    // process each value
    var line = $.csvEntry2Array(lines[i], {
      delimiter: delimiter,
      separator: separator
    });
    output.push(line);
  }

  return output;
};

有关如何工作的细分，请查看this answer。我的版本略有改编。我整合了单引号和双引号匹配以匹配一个文本分隔符并使分隔符/分隔符动态化。它在验证网络方面表现非常出色，但我在顶部添加的线分割解决方案非常脆弱，并且在我上面描述的边缘情况上打破了。

我只是在寻找一个解决方案，它将字符串提取有效条目（传递给条目解析器），或者在错误数据上失败，返回错误，指示解析失败的行。

更新

splitLines: function(csv, delimiter) {
  var state = 0;
  var value = "";
  var line = "";
  var lines = [];
  function endOfRow() {
    lines.push(value);
    value = "";
    state = 0;
  };
  csv.replace(/(\"|,|\n|\r|[^\",\r\n]+)/gm, function (m0){
    switch (state) {
      // the start of an entry
      case 0:
        if (m0 === "\"") {
          state = 1;
        } else if (m0 === "\n") {
          endOfRow();
        } else if (/^\r$/.test(m0)) {
          // carriage returns are ignored
        } else {
          value += m0;
          state = 3;
        }
        break;
      // delimited input  
      case 1:
        if (m0 === "\"") {
          state = 2;
        } else {
          value += m0;
          state = 1;
        }
        break;
      // delimiter found in delimited input
      case 2:
        // is the delimiter escaped?
        if (m0 === "\"" && value.substr(value.length - 1) === "\"") {
          value += m0;
          state = 1;
        } else if (m0 === ",") {
          value += m0;
          state = 0;
        } else if (m0 === "\n") {
          endOfRow();
        } else if (m0 === "\r") {
          // Ignore
        } else {
          throw new Error("Illegal state");
        }
        break;
      // un-delimited input
      case 3:
        if (m0 === ",") {
          value += m0;
          state = 0;
        } else if (m0 === "\"") {
          throw new Error("Unquoted delimiter found");
        } else if (m0 === "\n") {
          endOfRow();
        } else if (m0 === "\r") {
          // Ignore
        } else {
          throw new Error("Illegal data");
        }
          break;
      default:
        throw new Error("Unknown state");
    }
    return "";
  });
  if (state != 0) {
    endOfRow();
  }
  return lines;
}

分线器只需4种状态：

0：条目的开头
1：引用以下内容
2：遇到第二个引用
3：未引用以下内容

这几乎是一个完整的解析器。对于我的用例，我只想要一个分线器，这样我就可以提供更加通用的方法来处理CSV数据。

注意：这种方法的功劳归于另一个未经他的许可我不会公开命名的开发者。我所做的只是将它从完整的解析器改为线分割器。

更新

在之前的lineSplitter实现中发现了一些损坏的边缘情况。提供的文件应完全符合RFC 4180。

Answer 1

正如我在评论中指出的那样，只有单一的正则表达式没有完整的解决方案。

一种使用多个正则表达式的新方法，通过分割逗号并使用嵌入的逗号连接字符串进行描述here: -

我个人会使用一个简单的有限状态机，如here

所述

状态机有更多代码，但代码更清晰，并清楚每个代码正在做什么。从长远来看，这将更加可靠和可维护。

Answer 2

使用正则表达式进行解析并不是一个好主意。最好用它来检测“坏”分裂然后合并它们：

var lines = csv.split(/\r?\n/g);
var bad = [];

for(var i=lines.length-1; i> 0; i--) {
    // find all the unescaped quotes on the line:
    var m = lines[i].match(/[^\\]?\"/g);

    // if there are an odd number of them, this line, and the line after it is bad:
    if((m ? m.length : 0) % 2 == 1) { bad.push(i--); }
}

// starting at the bottom of the list, merge lines back, using \r\n
for(var b=0,len=bad.length; b < len; b++) {
    lines.splice(bad[b]-1, 2, lines[bad[b]-1]+"\r\n"+lines[bad[b]]);
}

_{（此答案根据CC0和WTFPL授权。）}

Answer 3

小心 - 换行符是该值的一部分。它不是PCB，而是P\nCB。

但是，为什么不能只使用string.split(',')？如果需要，您可以浏览列表并转换为整数或删除填充的引号。

逐行拆分CSV字符串，跳过引号之间包含的换行符

3 个答案: