Fix ARROW operator
This commit is contained in:
@@ -12,6 +12,8 @@ from smnp.token.tools import defaultTokenizer, separated, regexPatternTokenizer
|
|||||||
from smnp.token.type import TokenType
|
from smnp.token.type import TokenType
|
||||||
|
|
||||||
tokenizers = (
|
tokenizers = (
|
||||||
|
defaultTokenizer(TokenType.ARROW),
|
||||||
|
|
||||||
# Double-character operators
|
# Double-character operators
|
||||||
relationOperatorTokenizer,
|
relationOperatorTokenizer,
|
||||||
defaultTokenizer(TokenType.DOUBLE_ASTERISK),
|
defaultTokenizer(TokenType.DOUBLE_ASTERISK),
|
||||||
@@ -27,7 +29,6 @@ tokenizers = (
|
|||||||
defaultTokenizer(TokenType.CLOSE_ANGLE),
|
defaultTokenizer(TokenType.CLOSE_ANGLE),
|
||||||
defaultTokenizer(TokenType.ASTERISK),
|
defaultTokenizer(TokenType.ASTERISK),
|
||||||
defaultTokenizer(TokenType.ASSIGN),
|
defaultTokenizer(TokenType.ASSIGN),
|
||||||
defaultTokenizer(TokenType.ARROW),
|
|
||||||
defaultTokenizer(TokenType.COMMA),
|
defaultTokenizer(TokenType.COMMA),
|
||||||
defaultTokenizer(TokenType.SLASH),
|
defaultTokenizer(TokenType.SLASH),
|
||||||
defaultTokenizer(TokenType.MINUS),
|
defaultTokenizer(TokenType.MINUS),
|
||||||
|
|||||||
Reference in New Issue
Block a user