Java: разделение запятой строки, но игнорирование запятых в кавычках

У меня строка такая же неопределенная:

foo,bar,c;qual="baz,blurb",d;junk="quux,syzygy"

который я хочу разбить по запятой, но мне нужно игнорировать запятые в кавычках. Как я могу это сделать? Похоже, что метод regexp терпит неудачу; Я предполагаю, что могу вручную сканировать и вводить другой режим, когда вижу цитату, но было бы неплохо использовать существовавшие ранее библиотеки. (edit: Я предполагаю, что я имел в виду библиотеки, которые уже являются частью JDK или уже являются частью обычно используемых библиотек, таких как Apache Commons.)

приведенная выше строка должна делиться на:

foo
bar
c;qual="baz,blurb"
d;junk="quux,syzygy"

note: это НЕ файл CSV, это единственная строка, содержащаяся в файле с большей общей структурой

Ответы

Ответ 1

Try:

public class Main { 
    public static void main(String[] args) {
        String line = "foo,bar,c;qual=\"baz,blurb\",d;junk=\"quux,syzygy\"";
        String[] tokens = line.split(",(?=(?:[^\"]*\"[^\"]*\")*[^\"]*$)", -1);
        for(String t : tokens) {
            System.out.println("> "+t);
        }
    }
}

Вывод:

> foo
> bar
> c;qual="baz,blurb"
> d;junk="quux,syzygy"

Другими словами: разделение на запятую только в том случае, если эта запятая имеет нуль или четное число котировок впереди.

Или, немного дружелюбнее для глаз:

public class Main { 
    public static void main(String[] args) {
        String line = "foo,bar,c;qual=\"baz,blurb\",d;junk=\"quux,syzygy\"";

        String otherThanQuote = " [^\"] ";
        String quotedString = String.format(" \" %s* \" ", otherThanQuote);
        String regex = String.format("(?x) "+ // enable comments, ignore white spaces
                ",                         "+ // match a comma
                "(?=                       "+ // start positive look ahead
                "  (?:                     "+ //   start non-capturing group 1
                "    %s*                   "+ //     match 'otherThanQuote' zero or more times
                "    %s                    "+ //     match 'quotedString'
                "  )*                      "+ //   end group 1 and repeat it zero or more times
                "  %s*                     "+ //   match 'otherThanQuote'
                "  $                       "+ // match the end of the string
                ")                         ", // stop positive look ahead
                otherThanQuote, quotedString, otherThanQuote);

        String[] tokens = line.split(regex, -1);
        for(String t : tokens) {
            System.out.println("> "+t);
        }
    }
}

который производит то же, что и в первом примере.

ИЗМЕНИТЬ

Как упоминалось @MikeFHay в комментариях:

Я предпочитаю использовать Guava Splitter, так как он имеет более низкие значения по умолчанию (см. обсуждение выше о пустых совпадениях, обрезанных String#split(), поэтому я сделал:
Splitter.on(Pattern.compile(",(?=(?:[^\"]*\"[^\"]*\")*[^\"]*$)"))

Ответ 2

В то время как мне нравятся регулярные выражения в целом, для такого рода токенизации, зависящей от состояния, я считаю, что простой парсер (который в этом случае намного проще, чем это может сделать звук), вероятно, является более чистым решением, в частности с относится к ремонтопригодности, например:

String input = "foo,bar,c;qual=\"baz,blurb\",d;junk=\"quux,syzygy\"";
List<String> result = new ArrayList<String>();
int start = 0;
boolean inQuotes = false;
for (int current = 0; current < input.length(); current++) {
    if (input.charAt(current) == '\"') inQuotes = !inQuotes; // toggle state
    boolean atLastChar = (current == input.length() - 1);
    if(atLastChar) result.add(input.substring(start));
    else if (input.charAt(current) == ',' && !inQuotes) {
        result.add(input.substring(start, current));
        start = current + 1;
    }
}

Если вы не заботитесь о сохранении запятых внутри кавычек, вы можете упростить этот подход (без обработки начального индекса, специального случая с последним символом), заменив запятые на кавычки чем-то другим, а затем разделив запятыми:

String input = "foo,bar,c;qual=\"baz,blurb\",d;junk=\"quux,syzygy\"";
StringBuilder builder = new StringBuilder(input);
boolean inQuotes = false;
for (int currentIndex = 0; currentIndex < builder.length(); currentIndex++) {
    char currentChar = builder.charAt(currentIndex);
    if (currentChar == '\"') inQuotes = !inQuotes; // toggle state
    if (currentChar == ',' && inQuotes) {
        builder.setCharAt(currentIndex, ';'); // or '♡', and replace later
    }
}
List<String> result = Arrays.asList(builder.toString().split(","));

Ответ 3

http://sourceforge.net/projects/javacsv/

https://github.com/pupi1985/JavaCSV-Reloaded (fork предыдущей библиотеки, которая позволит сгенерированным выводам иметь терминаторы строк Windows \r\n, если не работает Windows)

http://opencsv.sourceforge.net/

API CSV для Java

Java lib или приложение для преобразования CSV в файл XML?

Ответ 4

Я бы не посоветовал регулярный запрос от Барта, я нашел решение синтаксического анализа лучше в этом конкретном случае (как предложил Фабиан). Я пробовал решение regex и собственную реализацию синтаксического анализа. Я обнаружил, что:

Анализ намного быстрее, чем расщепление с регулярным выражением с обратными ссылками - в 20 раз быстрее для коротких строк, ~ 40 раз быстрее для длинных строк.
Regex не может найти пустую строку после последней запятой. Это было не в оригинальном вопросе, хотя это было моим требованием.

Мое решение и тест ниже.

String tested = "foo,bar,c;qual=\"baz,blurb\",d;junk=\"quux,syzygy\",";
long start = System.nanoTime();
String[] tokens = tested.split(",(?=([^\"]*\"[^\"]*\")*[^\"]*$)");
long timeWithSplitting = System.nanoTime() - start;

start = System.nanoTime(); 
List<String> tokensList = new ArrayList<String>();
boolean inQuotes = false;
StringBuilder b = new StringBuilder();
for (char c : tested.toCharArray()) {
    switch (c) {
    case ',':
        if (inQuotes) {
            b.append(c);
        } else {
            tokensList.add(b.toString());
            b = new StringBuilder();
        }
        break;
    case '\"':
        inQuotes = !inQuotes;
    default:
        b.append(c);
    break;
    }
}
tokensList.add(b.toString());
long timeWithParsing = System.nanoTime() - start;

System.out.println(Arrays.toString(tokens));
System.out.println(tokensList.toString());
System.out.printf("Time with splitting:\t%10d\n",timeWithSplitting);
System.out.printf("Time with parsing:\t%10d\n",timeWithParsing);

Конечно, вы можете изменить переключатель на else-ifs в этом фрагменте, если вам неловко с его уродством. Обратите внимание, что после переключения с разделителем отсутствует перерыв. StringBuilder был выбран вместо StringBuffer по дизайну, чтобы увеличить скорость, когда безопасность потоков не имеет значения.

Ответ 5

Попробуйте lookaround, например (?!\"),(?!\"). Это должно соответствовать ,, которые не окружены ".

Ответ 6

Вы находитесь в этой досадной граничной области, где регулярные выражения почти не будут делать (как было указано Бартом, побег из цитат усложнил бы жизнь), и все же полноразмерный парсер кажется излишним.

Если вам скоро понадобится большая сложность, я бы поискал библиотеку парсера. Например этот

Ответ 7

Я был нетерпелив и решил не ждать ответов... для справки не выглядит так сложно сделать что-то вроде этого (что работает для моего приложения, мне не нужно беспокоиться об экранированных кавычках, так как материал в кавычках ограничен несколькими ограниченными формами):

final static private Pattern splitSearchPattern = Pattern.compile("[\",]"); 
private List<String> splitByCommasNotInQuotes(String s) {
    if (s == null)
        return Collections.emptyList();

    List<String> list = new ArrayList<String>();
    Matcher m = splitSearchPattern.matcher(s);
    int pos = 0;
    boolean quoteMode = false;
    while (m.find())
    {
        String sep = m.group();
        if ("\"".equals(sep))
        {
            quoteMode = !quoteMode;
        }
        else if (!quoteMode && ",".equals(sep))
        {
            int toPos = m.start(); 
            list.add(s.substring(pos, toPos));
            pos = m.end();
        }
    }
    if (pos < s.length())
        list.add(s.substring(pos));
    return list;
}

(упражнение для читателя: продолжайте обрабатывать экранированные кавычки, ища обратные косые черты).

Ответ 8

Вместо того, чтобы использовать lookahead и другое сумасшедшее регулярное выражение, просто сначала вытащите кавычки. То есть для каждой группировки котировок замените эту группировку на __IDENTIFIER_1 или какой-либо другой индикатор и сопоставьте эту группировку с картой строки, строки.

После разделения на запятую замените все сопоставленные идентификаторы на исходные значения строк.

Ответ 9

Простейший подход состоит не в том, чтобы сопоставлять разделители, то есть запятые, со сложной дополнительной логикой, чтобы соответствовать тому, что на самом деле предназначено (данные, которые могут быть строкой в кавычках), просто чтобы исключить ложные разделители, а скорее сопоставить предполагаемые данные в первую очередь.

Шаблон состоит из двух альтернатив: строки в кавычках ("[^"]*" или ".*?") или всего до следующей запятой ([^,]+). Для поддержки пустых ячеек мы должны позволить пустому элементу, который не указан в кавычках, использовать следующую запятую, если таковая имеется, и использовать привязку \\G:

Pattern p = Pattern.compile("\\G\"(.*?)\",?|([^,]*),?");

Шаблон также содержит две группы захвата для получения: содержимое строк в кавычках или простое содержимое.

Затем, с Java 9, мы можем получить массив как

String[] a = p.matcher(input).results()
    .map(m -> m.group(m.start(1)<0? 2: 1))
    .toArray(String[]::new);

тогда как в старых версиях Java нужен цикл, подобный

for(Matcher m = p.matcher(input); m.find(); ) {
    String token = m.group(m.start(1)<0? 2: 1);
    System.out.println("found: "+token);
}

Добавление элементов в List или массив оставляется в качестве акциза для читателя.

Для Java 8 вы можете использовать реализацию results() этого ответа, чтобы сделать это подобно решению Java 9.

Для смешанного контента со встроенными строками, как в вопросе, вы можете просто использовать

Pattern p = Pattern.compile("\\G((\"(.*?)\"|[^,])*),?");

Но тогда строки хранятся в цитируемой форме.

Ответ 10

Я бы сделал что-то вроде этого:

boolean foundQuote = false;

if(charAtIndex(currentStringIndex) == '"')
{
   foundQuote = true;
}

if(foundQuote == true)
{
   //do nothing
}

else 

{
  string[] split = currentString.split(',');  
}