如何编写 PLY 语法来解析路径？

Question

我正在尝试使用 PLY 编写语法来解析文件中的路径。我运行转向减少冲突，我不确定如何更改语法来修复它。这是我要解析的文件示例。 path/filename 可以是任何可接受的 linux 路径。

file : ../../dir/filename.txt
file : filename.txt
file : filename

这是我写的语法。

header : ID COLON path

path : pathexpr filename

pathexpr : PERIOD PERIOD DIVIDE pathexpr
           | PERIOD DIVIDE pathexpr
           | ID DIVIDE pathexpr 
           |
filename : ID PERIOD ID
           | ID

这是我的代币。我正在使用 PLY 包含的 ctokens 库。只是为了节省我自己写的精力。

t_ID = r'[A-Za-z_][A-Za-z0-9_]*'
t_PERIOD = r'\.'
t_DIVIDE = r'/'
t_COLON = r':'

所以我认为 "filename" 规则中存在移位减少冲突，因为解析器不知道是将标记减少为 "ID" 还是移位为 "ID PERIOD ID"。我认为没有路径 ("filename") 的情况还有另一个问题，它将消耗 pathexpr 中的令牌而不是减少为空。

如何修改我的语法来处理这些情况？也许我需要更改我的令牌？

Answer 1

我认为您可能正在使用 PLY，而不是 pyparsing，查看那些 "t_xxx" 名称。但这里有一个 pyparsing 解决方案来解决你的问题，请参阅下面的有用评论：

"""
header : ID COLON path

path : pathexpr filename

pathexpr : PERIOD PERIOD DIVIDE pathexpr
           | PERIOD DIVIDE pathexpr
           | ID DIVIDE pathexpr 
           |
filename : ID PERIOD ID
           | ID 
"""

from pyparsing import *

ID = Word(alphanums)
PERIOD = Literal('.')
DIVIDE = Literal('/')
COLON = Literal(':') 

# move this to the top, so we can reference it in a negative
# lookahead while parsing the path
file_name = ID + Optional(PERIOD + ID)

# simple path_element - not sufficient, as it will consume 
# trailing ID that should really be part of the filename
path_element = PERIOD+PERIOD | PERIOD | ID

# more complex path_element - adds lookahead to avoid consuming
# filename as a part of the path
path_element = (~(file_name + WordEnd())) + (PERIOD+PERIOD | PERIOD | ID)

# use repetition for these kind of expressions, not recursion
path_expr = path_element + ZeroOrMore(DIVIDE + path_element)

# use Combine so that all the tokens will get returned as a
# contiguous string, not as separate path_elements and slashes
path = Combine(Optional(path_expr + DIVIDE) + file_name)

# define header - note the use of results names, which will allow
# you to access the separate fields by name instead of by position
# (similar to using named groups in regexp's)
header = ID("id") + COLON + path("path")

tests = """\
file: ../../dir/filename.txt
file: filename.txt
file: filename""".splitlines()

for t in tests:
    print t
    print header.parseString(t).dump()
    print

打印

file: ../../dir/filename.txt
['file', ':', '../../dir/filename.txt']
- id: file
- path: ../../dir/filename.txt

file: filename.txt
['file', ':', 'filename.txt']
- id: file
- path: filename.txt

file: filename
['file', ':', 'filename']
- id: file
- path: filename

Answer 2

简单的解决方案：使用左递归而不是右递归。

LR 解析器（如 PLY 和 yacc）更喜欢 左递归，因为它避免了扩展解析器堆栈。它通常也更接近表达式的语义——当你想要实际解释语言而不仅仅是识别它时，这很有用——而且它通常，就像在这种情况下，避免了左因子的需要。

在这种情况下，例如，每个路径段都需要通过在当前找到的目录中查找段目录来应用到前面的pathexpr。解析器操作很明确：在 $1 中查找 $2。您如何为正确的递归版本正确执行操作？

所以，一个简单的转换：

header   : ID COLON path

path     : pathexpr filename

pathexpr : pathexpr PERIOD PERIOD DIVIDE
         | pathexpr PERIOD DIVIDE
         | pathexpr ID DIVIDE
         |
filename : ID PERIOD ID
         | ID

Answer 3

我相信这个语法应该有效，它还有一个额外的优势，就是能够重新识别路径的各个部分，如扩展名、目录、驱动器等。我还没有制作解析器，只有这个语法。

fullfilepath : path SLASH filename
path : root
    | root SLASH directories
root : DRIVE
    | PERCENT WIN_DEF_DIR PERCENT
directories : directory
            | directory SLASH directories
directory : VALIDNAME
filename : VALIDNAME
        | VALIDNAME DOT EXTENSION

如何编写 PLY 语法来解析路径？

how to write a PLY grammar to parse paths?

parsing

grammar

yacc

ply

shift-reduce-conflict