使用 Python 開發一個 Python 解釋器

作者：佚名 2022-01-05 08:58:08

在本文中，我們將設計一個可以執行算術運算的解釋器。一起來看看吧。

計算機只能理解機器碼。歸根結底，編程語言只是一串文字，目的是為了讓人類更容易編寫他們想讓計算機做的事情。真正的魔法是由編譯器和解釋器完成，它們彌合了兩者之間的差距。解釋器逐行讀取代碼并將其轉換為機器碼。

在本文中，我們將設計一個可以執行算術運算的解釋器。

我們不會重新造輪子。文章將使用由 David M. Beazley 開發的詞法解析器 —— PLY（Python Lex-Yacc(https://github.com/dabeaz/ply)）。

PLY 可以通過以下方式下載：

$ pip install ply

我們將粗略地瀏覽一下創建解釋器所需的基礎知識。欲了解更多，請參閱這個 GitHub 倉庫(https://github.com/dabeaz/ply)。

標記（Token）

標記是為解釋器提供有意義信息的最小字符單位。標記包含一對名稱和屬性值。

讓我們從創建標記名稱列表開始。這是一個必要的步驟。

tokens = (  
    # 數據類型  
    "NUM",  
    "FLOAT",  
    # 算術運算  
    "PLUS",  
    "MINUS",  
    "MUL",  
    "DIV",  
    # 括號  
    "LPAREN",  
    "RPAREN",  
)

詞法分析器（Lexer）

將語句轉換為標記的過程稱為標記化或詞法分析。執行詞法分析的程序是詞法分析器。

# 標記的正則表達  
t_PLUS   = r"\+"  
t_MINUS  = r"\-"  
t_MUL    = r"\*"  
t_DIV    = r"/"  
t_LPAREN = r"\("  
t_RPAREN = r"\)"  
t_POW    = r"\^"  
# 忽略空格和制表符  
t_ignore = " \t"  
# 為每個規則添加動作  
def t_FLOAT(t):  
    r"""\d+\.\d+"""  
    t.value = float(t.value)  
    return t  
def t_NUM(t):  
    r"""\d+"""  
    t.value = int(t.value)  
    return t  
# 未定義規則字符的錯誤處理  
def t_error(t):  
    # 此處的 t.value 包含未標記的其余輸入  
    print(f"keyword not found: {t.value[0]}\nline {t.lineno}")  
    t.lexer.skip(1)  
# 如果遇到 \n 則將其設為新的一行  
def t_newline(t):  
    r"""\n+"""  
    t.lexer.lineno += t.value.count("\n")

為導入詞法分析器，我們將使用：

import ply.lex as lex

t_ 是一個特殊的前綴，表示定義標記的規則。每條詞法規則都是用正則表達式制作的，與 Python 中的 re 模塊兼容。正則表達式能夠根據規則掃描輸入并搜索符合的符號串。正則表達式定義的文法稱為正則文法。正則文法定義的語言則稱為正則語言。

定義好了規則，我們將構建詞法分析器。

data = 'a = 2 +(10 -8)/1.0'  
lexlexer = lex.lex()  
lexer.input(data)  
while tok := lexer.token():  
    print(tok)

為了傳遞輸入字符串，我們使用 lexer.input(data)。lexer.token() 將返回下一個 LexToken 實例，最后返回 None。根據上述規則，代碼 2 + ( 10 -8)/1.0 的標記將是：

紫色字符代表的是標記的名稱，其后是標記的具體內容。

巴科斯-諾爾范式（Backus-Naur Form，BNF）

大多數編程語言都可以用上下文無關文法來編寫。它比常規語言更復雜。對于上下文無關文法，我們用上下文無關語法，它是描述語言中所有可能語法的規則集。BNF 是一種定義語法的方式，它描述了編程語言的語法。讓我們看看例子：

symbol : alternative1 | alternative2 …

根據產生式，: 的左側被替換為右側的其中一個值替換。右側的值由 | 分隔（可理解為 symbol 定義為 alternative1 或 alternative2或…… 等等）。對于我們的這個算術解釋器，語法規格如下：

expression : expression '+' expression  
           | expression '-' expression  
           | expression '/' expression  
           | expression '*' expression  
           | expression '^' expression  
           | +expression  
           | -expression  
           | ( expression )  
           | NUM  
           | FLOAT

輸入的標記是諸如 NUM、FLOAT、+、-、*、/ 之類的符號，稱作終端（無法繼續分解或產生其他符號的字符）。一個表達式由終端和規則集組成，例如 expression 則稱為非終端。

解析器（Parser）

我們將使用 YACC（Yet Another Compiler Compiler）作為解析器生成器。導入模塊：import ply.yacc as yacc。

from operator import (add, sub, mul, truediv, pow)  
# 我們的解釋器支持的運算符列表  
ops = {  
    "+": add,  
    "-": sub,  
    "*": mul,  
    "/": truediv,  
    "^": pow,  
} 
def p_expression(p):  
    """expression : expression PLUS expression  
                  | expression MINUS expression  
                  | expression DIV expression  
                  | expression MUL expression  
                  | expression POW expression"""  
    if (p[2], p[3]) == ("/", 0):  
        # 如果除以 0，則將“INF”（無限）作為值  
        p[0] = float("INF")  
    else:  
        p[0] = ops[p[2]](p[1], p[3])  
def p_expression_uplus_or_expr(p):  
    """expression : PLUS expression %prec UPLUS  
                  | LPAREN expression RPAREN"""  
    p[0] = p[2]  
def p_expression_uminus(p):  
    """expression : MINUS expression %prec UMINUS"""  
    p[0] = -p[2]  
def p_expression_num(p):  
    """expression : NUM  
                  | FLOAT"""  
    p[0] = p[1]  
# 語法錯誤時的規則  
def p_error(p):  
    print(f"Syntax error in {p.value}")

在文檔字符串中，我們將添加適當的語法規范。p 列表中的的元素與語法符號一一對應，如下所示：

expression : expression PLUS expression  
p[0]         p[1]       p[2] p[3]

在上文中，%prec UPLUS 和 %prec UMINUS 是用來表示自定義運算的。%prec 即是 precedence 的縮寫。在符號中本來沒有 UPLUS 和 UMINUS 這個說法（在本文中這兩個自定義運算表示一元正號和符號，其實 UPLUS 和 UMINUS 只是個名字，想取什么就取什么）。之后，我們可以添加基于表達式的規則。YACC 允許為每個令牌分配優先級。我們可以使用以下方法設置它：

precedence = (  
    ("left", "PLUS", "MINUS"),  
    ("left", "MUL", "DIV"),  
    ("left", "POW"),  
    ("right", "UPLUS", "UMINUS")  
)

在優先級聲明中，標記按優先級從低到高的順序排列。PLUS 和 MINUS 優先級相同并且具有左結合性（運算從左至右執行）。MUL 和 DIV 的優先級高于 PLUS 和 MINUS，也具有左結合性。POW 亦是如此，不過優先級更高。UPLUS 和 UMINUS 則是具有右結合性（運算從右至左執行）。

要解析輸入我們將使用：

parser = yacc.yacc()  
result = parser.parse(data)  
print(result)

完整代碼如下：

#####################################  
# 引入模塊                           #  
#####################################  
from logging import (basicConfig, INFO, getLogger)  
from operator import (add, sub, mul, truediv, pow)  
import ply.lex as lex  
import ply.yacc as yacc  
# 我們的解釋器支持的運算符列表  
ops = {  
    "+": add,  
    "-": sub,  
    "*": mul,  
    "/": truediv,  
    "^": pow,  
}  
#####################################  
# 標記集                             #  
#####################################  
tokens = (  
    # 數據類型  
    "NUM",  
    "FLOAT",  
    # 算術運算  
    "PLUS",  
    "MINUS",  
    "MUL",  
    "DIV",  
    "POW",  
    # 括號  
    "LPAREN",  
    "RPAREN",  
)  
#####################################  
# 標記的正則表達式                    #  
#####################################  
t_PLUS   = r"\+"  
t_MINUS  = r"\-"  
t_MUL    = r"\*"  
t_DIV    = r"/"  
t_LPAREN = r"\("  
t_RPAREN = r"\)"  
t_POW    = r"\^"  
# 忽略空格和制表符  
t_ignore = " \t"  
# 為每個規則添加動作  
def t_FLOAT(t):  
    r"""\d+\.\d+"""  
    t.value = float(t.value)  
    return t  
def t_NUM(t):  
    r"""\d+"""  
    t.value = int(t.value)  
    return t  
# 未定義規則字符的錯誤處理  
def t_error(t):  
    # 此處的 t.value 包含未標記的其余輸入  
    print(f"keyword not found: {t.value[0]}\nline {t.lineno}")  
    t.lexer.skip(1)  
# 如果看到 \n 則將其設為新的一行 
 def t_newline(t):  
    r"""\n+"""  
    t.lexer.lineno += t.value.count("\n")  
#####################################  
# 設置符號優先級                      #  
#####################################  
precedence = (  
    ("left", "PLUS", "MINUS"),  
    ("left", "MUL", "DIV"),  
    ("left", "POW"),  
    ("right", "UPLUS", "UMINUS")  
)  
#####################################  
# 書寫 BNF 規則                      #  
#####################################  
def p_expression(p):  
    """expression : expression PLUS expression  
                  | expression MINUS expression  
                  | expression DIV expression  
                  | expression MUL expression  
                  | expression POW expression"""  
    if (p[2], p[3]) == ("/", 0):  
        # 如果除以 0，則將“INF”（無限）作為值  
        p[0] = float("INF")  
    else:  
        p[0] = ops[p[2]](p[1], p[3])  
def p_expression_uplus_or_expr(p):  
    """expression : PLUS expression %prec UPLUS  
                  | LPAREN expression RPAREN"""  
    p[0] = p[2]  
def p_expression_uminus(p):  
    """expression : MINUS expression %prec UMINUS"""  
    p[0] = -p[2]  
def p_expression_num(p):  
    """expression : NUM  
                  | FLOAT"""  
    p[0] = p[1]  
# 語法錯誤時的規則  
def p_error(p):  
    print(f"Syntax error in {p.value}") 
 #####################################  
# 主程式                             #  
#####################################  
if __name__ == "__main__":  
    basicConfig(level=INFO, filename="logs.txt") 
    lexlexer = lex.lex()  
    parser = yacc.yacc()  
    while True:  
        try:  
            result = parser.parse(  
                input(">>>"),  
                debug=getLogger())  
            print(result)  
        except AttributeError:  
            print("invalid syntax")

結論

由于這個話題的體積龐大，這篇文章并不能將事物完全的解釋清楚，但我希望你能很好地理解文中涵蓋的表層知識。

責任編輯：龐桂玉來源：馬哥Linux運維

Python 解釋器編程語言