背景
我正在尝试使用 AntlrWorks 编写一个简单的语法,用于测试一组值是否存在(或不存在)指定元素的布尔方程。我创建了一个组合的词法分析器/解析器语法,可以产生所需的 AST。我还编写了一个相应的树语法,它似乎可以工作(通过 AntlrWorks 的调试功能)。
问题
但是,当我尝试在测试程序中将两者连接在一起时(即同一个程序中的 lex、parse 和 tree parse),我会收到类似...
node from line 1:5 required (...)+ loop did not match anything at input 'and'
和
node from after line 1:8 mismatched tree node: UP expecting <DOWN>
作为一个健全性测试,我让测试程序toStringTree()
从生成的 AST 和toTokenTypeString()
生成的TreeNodeStream
.
我发现枚举TreeNodeStream
的令牌类型值与自动生成的树语法代码中的枚举令牌类型值不匹配。
例子
样本输入:
"true and false"
解析器提供的树的 toStringTree() 输出:
(and true false)
toTokenTypeString()
包含上述 AST 的 TreeNodeStream 的输出:19 2 22 20 3 8
该令牌流应该是AND <DOWN> 'true' 'false' <UP> NEWLINE
但是 TreeParser 将其视为CLOSEPAREN <DOWN> OR 'false' <UP> OPENPAREN
(基于查看节点令牌类型输出并根据树语法中定义的枚举检查它)并抛出错误
1:5 required (...)+ loop did not match anything at input 'and'
底线
为什么我的树解析器没有设置为正确识别我的 AST?
以下是我的来源。我很感激任何关于我必须犯的愚蠢错误的反馈:)
词法分析器/解析器语法
grammar INTc;
options {
output=AST;
ASTLabelType=CommonTree;
}
tokens {
OR='or';
AND='and';
NOT='not';
ALLIN='+';
PARTIN='^';
NOTIN='!';
SET;
OPENPAREN='(';
CLOSEPAREN=')';
OPENSET='{';
CLOSESET='}';
}
@header {
package INTc;
}
@lexer::header {
package INTc;
}
@members {
}
/**Begin Parser Rules*/
prog: stat+ ;
stat: expr
| NEWLINE
;
expr
: orExpr
;
orExpr returns [boolean value]
: a=andExpr(OR^ b=andExpr)*
;
andExpr returns [boolean value]
: a=notExpr (AND^ b=notExpr)*
;
notExpr returns [boolean value]
: a=atom
| '!' a=atom -> ^(NOT atom)
;
atom returns [boolean value]
: ALLIN OPENSET ((INT)(','INT)*) CLOSESET -> ^(ALLIN ^(SET INT+))
| PARTIN OPENSET ((INT)(','INT)*) CLOSESET -> ^(PARTIN ^(SET INT+))
| NOTIN OPENSET ((INT)(','INT)*) CLOSESET -> ^(NOTIN ^(SET INT+))
| TIMERANGE
| OPENPAREN! e=expr CLOSEPAREN!
| 'true'
| 'false'
;
/**Begin Lexer Rules*/
ID : ('a'..'z'|'A'..'Z'|'_') ('a'..'z'|'A'..'Z'|'0'..'9'|'_')* ;
DIGIT : ('0'..'9');
INT : DIGIT+ ;
NEWLINE : '\r'? '\n' ;
WS : ( ' ' | '\t' | '\r' | '\n') {$channel=HIDDEN;};
COMMENT
: '//' ~('\n'|'\r')* '\r'? '\n' {$channel=HIDDEN;}
| '/*' ( options {greedy=false;} : . )* '*/' {$channel=HIDDEN;}
;
树语法
tree grammar INTcWalker;
options {
tokenVocab=INTc;
ASTLabelType=CommonTree;
}
@header {
package INTc;
import java.util.ArrayList;
import java.util.Arrays;
}
@members {
ArrayList<String> intSet;
boolean isFit = false;
public boolean getResult() {
return isFit;
}
public void setINTSet(ArrayList newSet) {
intSet = newSet;
isFit = false;
}
public ArrayList getINTSET(){return intSet;}
}
prog
: stat+
;
stat
: expr {
isFit = $expr.value;
//System.out.println(isFit);
}
| NEWLINE {}
;
expr returns [boolean value]
: ^(OR a=expr b=expr){}
| ^(AND a=expr b=expr){}
| ^(NOT a=expr){}
| ^(ALLIN ^(SET INT+)){}
| ^(PARTIN ^(SET INT+)){}
| ^(NOTIN ^(SET INT+)){}
| 'true' {$value = true;}
| 'false' {$value = false;}
;
测试程序
public class setTest {
public static void main(String args[]) throws Exception {
INTcLexer lex = new INTcLexer(new ANTLRFileStream("input.txt"));
CommonTokenStream tokens = new CommonTokenStream(lex);
INTcParser parser = new INTcParser(tokens);
INTcParser.prog_return r = parser.prog();
CommonTree t = (CommonTree)r.getTree();
CommonTreeNodeStream nodes = new CommonTreeNodeStream(t);
INTcWalker evaluator = new INTcWalker(nodes);
System.out.println(t.toStringTree());
System.out.println(nodes.toTokenTypeString());
nodes.reset();
try {
evaluator.prog();
} catch (RecognitionException e) {
e.printStackTrace();
}
System.out.println(evaluator.getResult());
}
}