如何在 ANTLR4 中发出令牌?
How to emit a token in ANTLR4?
这是我的 grammar.g4
:
FOO: 'x';
BAR: 'y'
{ /* here! */ };
我希望在输入包含 y
时发出标记 BAR
和 FOO
。我应该在 here!
部分写什么?请不要建议重写语法,这只是一个测试示例,我的实际情况要复杂得多。
这是一个快速演示:
grammar T;
@lexer::members {
private java.util.LinkedList<Token> tokens = new java.util.LinkedList<>();
@Override
public Token nextToken() {
return tokens.isEmpty() ? super.nextToken() : tokens.poll();
}
}
parse
: foo bar foo EOF
;
foo : FOO;
bar : BAR;
FOO : 'x';
BAR : 'y' {this.tokens.offer(new CommonToken(TLexer.FOO, "x"));};
SPACES : [ \t\r\n] -> skip;
测试:
TLexer lexer = new TLexer(CharStreams.fromString("x y"));
TParser parser = new TParser(new CommonTokenStream(lexer));
System.out.println(parser.parse().toStringTree(parser));
这将打印:
(parse (foo x) (bar y) (foo x) <EOF>)
这是我的 grammar.g4
:
FOO: 'x';
BAR: 'y'
{ /* here! */ };
我希望在输入包含 y
时发出标记 BAR
和 FOO
。我应该在 here!
部分写什么?请不要建议重写语法,这只是一个测试示例,我的实际情况要复杂得多。
这是一个快速演示:
grammar T;
@lexer::members {
private java.util.LinkedList<Token> tokens = new java.util.LinkedList<>();
@Override
public Token nextToken() {
return tokens.isEmpty() ? super.nextToken() : tokens.poll();
}
}
parse
: foo bar foo EOF
;
foo : FOO;
bar : BAR;
FOO : 'x';
BAR : 'y' {this.tokens.offer(new CommonToken(TLexer.FOO, "x"));};
SPACES : [ \t\r\n] -> skip;
测试:
TLexer lexer = new TLexer(CharStreams.fromString("x y"));
TParser parser = new TParser(new CommonTokenStream(lexer));
System.out.println(parser.parse().toStringTree(parser));
这将打印:
(parse (foo x) (bar y) (foo x) <EOF>)