Ответ 1
Как определить маркер лексера для каждого допустимого символа идентификатора, а затем построить токен парсера в виде ряда из них?
beer: B E E R;
A : 'A'|'a';
B: 'B'|'b';
и др.
Скажем, что я хочу сопоставить "пиво", но не заботясь о чувствительности к регистру.
В настоящее время я определяю токен, чтобы быть ('b' | 'B' 'e' | 'E' 'e' | 'E' 'r' | 'R'), но у меня их много, и дон "действительно хочу справиться с" правдивостью "и" неточно-эндемидомиезитом ".
Как определить маркер лексера для каждого допустимого символа идентификатора, а затем построить токен парсера в виде ряда из них?
beer: B E E R;
A : 'A'|'a';
B: 'B'|'b';
и др.
Я хотел бы добавить к принятому ответу: готовый набор можно найти в нечувствительных к регистру антрл строительных блоках, а соответствующая часть, приведенная ниже для удобства
fragment A:('a'|'A');
fragment B:('b'|'B');
fragment C:('c'|'C');
fragment D:('d'|'D');
fragment E:('e'|'E');
fragment F:('f'|'F');
fragment G:('g'|'G');
fragment H:('h'|'H');
fragment I:('i'|'I');
fragment J:('j'|'J');
fragment K:('k'|'K');
fragment L:('l'|'L');
fragment M:('m'|'M');
fragment N:('n'|'N');
fragment O:('o'|'O');
fragment P:('p'|'P');
fragment Q:('q'|'Q');
fragment R:('r'|'R');
fragment S:('s'|'S');
fragment T:('t'|'T');
fragment U:('u'|'U');
fragment V:('v'|'V');
fragment W:('w'|'W');
fragment X:('x'|'X');
fragment Y:('y'|'Y');
fragment Z:('z'|'Z');
Итак, пример
HELLOWORLD : H E L L O W O R L D;
Определить нечувствительные к регистру токены с
BEER: [Bb] [Ee] [Ee] [Rr];
В ANTLR GitHub repo появилась новая страница документации: Нечувствительный к регистру Лексинг. Вы можете использовать два подхода:
Мое мнение, лучше использовать первый подход и иметь грамматику, которая описывает все правила. Но если вы используете хорошо известную грамматику, например, из Граммаров, написанных для ANTLR v4, то второй подход может быть более уместным.
Решение, которое я использовал в С#: используйте код ASCII для переноса символа в меньший регистр.
class CaseInsensitiveStream : Antlr4.Runtime.AntlrInputStream {
public CaseInsensitiveStream(string sExpr)
: base(sExpr) {
}
public override int La(int index) {
if(index == 0) return 0;
if(index < 0) index++;
int pdx = p + index - 1;
if(pdx < 0 || pdx >= n) return TokenConstants.Eof;
var x1 = data[pdx];
return (x1 >= 65 && x1 <= 90) ? (97 + x1 - 65) : x1;
}
}