使用Irony进行解析时,请包含空格

问题描述

我正在使用以下库编写解析器: https://www.nuget.org/packages/Irony

我当前的目标是解析一个包含纯文本行的文件。每行以空格或制表符开头。

这是我的语法课的样子:

NonTerminal program = new NonTerminal("program");
NonTerminal textStatement = new NonTerminal("textStatement");
NonTerminal textStatements = new NonTerminal("textStatements");

FreeTextLiteral text = new FreeTextLiteral("text","\r\n");

KeyTerm whitespace = ToTerm(" ","whitespace");
KeyTerm tab = ToTerm("  ","tab");
KeyTerm newline = ToTerm("\n","newline");

textStatement.Rule = ((whitespace | tab) + text + newline);
textStatements.Rule = MakePlusRule(textStatements,textStatement);

program.Rule = textStatements;
this.Root = program;

这是目标文件内容(不包括行):

----------------------
 test

----------------------

令人惊讶的是,这件事对我失败,并显示以下消息:

Column 1,Line 0:
Syntax error,expected: whitespace,tab

该语法似乎认配置为跳过空格和制表符。因此,它开始以“ t”字母进行解析,而跳过了第一个“”符号。 在大多数情况下,这很好,但不适用于此情况。我正在尝试编写类似python的语言,因此对空格的跟踪非常重要。

我不希望您为我写整个语法,只是建议一种通用方法。感谢您的任何帮助,谢谢!

UPD:我最终重写了2个这样的功能

    public override bool IsWhitespaceOrDelimiter(char ch)
    {
        if (ch == ' ' || ch == '\t')
            return false;
        return base.IsWhitespaceOrDelimiter(ch);
    }

    public override void Skipwhitespace(ISourceStream source)
    {
        while (!source.EOF())
        {
            switch (source.PreviewChar)
            {
                //case ' ':
                //case '\t':
                //    break;
                case '\r':
                case '\n':
                case '\v':
                    if (UsesNewLine) return;
                    break;
                default:
                    return;
            }
            source.PreviewPosition++;
        }
    }

解决方法

如果要在语法中将“空格”作为显式字符处理,则需要重写IsWhitespaceOrDelimiter方法,对于空格,返回false。和tab和其他字符相同