使用 Commons CSV 解析 CSV - 引号内的引号导致 IOException

Question

我正在使用 Commons CSV 来解析与电视节目相关的 CSV 内容。其中一个节目的节目名称包含双引号；

116,6,2,29 九月 10,""JJ"（60 分钟）","http://www.tvmaze.com/episodes/4855/criminal-minds-6x02-jj"

节目名是 "JJ"（60 分钟），已经用双引号引起来了。这是抛出一个 IOException java.io.IOException: (line 1) invalid char between encapsulated token and delimiter.

    ArrayList<String> allElements = new ArrayList<String>();
    CSVFormat csvFormat = CSVFormat.DEFAULT;
    CSVParser csvFileParser = new CSVParser(new StringReader(line), csvFormat);

    List<CSVRecord> csvRecords = null;

    csvRecords = csvFileParser.getRecords();

    for (CSVRecord record : csvRecords) {
        int length = record.size();
        for (int x = 0; x < length; x++) {
            allElements.add(record.get(x));
        }
    }

    csvFileParser.close();
    return allElements;

CSVFormat.DEFAULT 已经设置 withQuote('"')

我认为此 CSV 的格式不正确，因为“"JJ"（60 分钟）”应该是“"JJ"”（60 分钟）——但是有没有办法获取公共文件CSV 来处理这个问题，还是我需要手动修复这个条目？

其他信息：其他节目名称在 CSV 条目中包含空格和逗号，并放在双引号内。

Answer 1

我认为在同一个标记中同时使用引号和空格会使解析器感到困惑。试试这个：

CSVFormat csvFormat = CSVFormat.DEFAULT.withQuote('"').withQuote(' ');

这应该可以解决问题。

例子

对于您的输入行：

String line = "116,6,2,29 Sep 10,\"\"JJ\" (60 min)\",\"http://www.tvmaze.com/episodes/4855/criminal-minds-6x02-jj\"";

输出是（并且没有抛出异常）：

[116, 6, 2, 29 Sep 10, ""JJ" (60 min)", "http://www.tvmaze.com/episodes/4855/criminal-minds-6x02-jj"]

Answer 2

引用主要允许字段包含分隔符。如果字段中嵌入的引号未转义，则无法使用，因此使用引号没有任何意义。如果您的示例值为 "JJ", 60 Min，解析器如何知道逗号是字段的一部分？数据格式无法可靠地处理嵌入的逗号，因此如果您希望能够做到这一点，最好更改源以生成符合 RFC 标准的 csv 格式。

否则，看起来数据源只是用引号将非数字字段括起来，并用逗号分隔每个字段，因此解析器需要执行相反的操作。您可能应该将数据视为逗号分隔，并用 removeStart/removeEnd.

去除 leading/trailing 引号。

您可以使用 CSVFormat .withQuote(null)，或者忘记它而只使用 String .split(',')

Answer 3

这里的问题是引号没有正确转义。你的解析器不处理那个。尝试 univocity-parsers，因为这是 java 的唯一解析器，我知道它可以处理引用值中的未转义引号。它也比 Commons CSV 快 4 倍。试试这个代码：

//configure the parser to handle your situation
CsvParserSettings settings = new CsvParserSettings();
settings.setUnescapedQuoteHandling(STOP_AT_CLOSING_QUOTE);

//create the parser
CsvParser parser = new CsvParser(settings);

//parse your line
String[] out = parser.parseLine("116,6,2,29 Sep 10,\"\"JJ\" (60 min)\",\"http://www.tvmaze.com/episodes/4855/criminal-minds-6x02-jj\"");

for(String e : out){
    System.out.println(e);
}

这将打印：

116
6
2
29 Sep 10
"JJ" (60 min)
http://www.tvmaze.com/episodes/4855/criminal-minds-6x02-jj

希望对您有所帮助。

披露：我是这个库的作者，它是开源且免费的（Apache 2.0 许可）

Answer 4

您可以使用 withEscape('\\') 来忽略引号中的引号

CSVFormat csvFormat = CSVFormat.DEFAULT.withEscape('\\')

参考：https://commons.apache.org/proper/commons-csv/apidocs/org/apache/commons/csv/CSVFormat.html

Answer 5

无需特殊解析器：只需在双引号前加一个双引号即可：

116,6,2,29 Sep 10,"""JJ"" (60 min)",...

RFC 4180 中都有规定

   7.  If double-quotes are used to enclose fields, then a double-quote
   appearing inside a field must be escaped by preceding it with
   another double quote.  For example:

   "aaa","b""bb","ccc"

这已由 CSVFormat #DEFAULT 实施。

使用 Commons CSV 解析 CSV - 引号内的引号导致 IOException

CSV parsing with Commons CSV - Quotes within quotes causing IOException

java

csv

double-quotes

apache-commons-csv