精读《手写 SQL 编译器 - 文法介绍》

简介:

1 引言

文法用来描述语言的语法规则,所以不仅可以用在编程语言上,也可用在汉语、英语上。

2 精读

我们将一块语法规则称为 产生式,使用 “Left → Right” 表示任意产生式,用 “Left => Right” 表示产生式的推导过程,比如对于产生式:

E → i
E → E + E

我们进行推导时,可以这样表示:E => E + E => i + E => i + i + E => i + i + i

也有使用 Left : Right 表示产生式的例子,比如 ANTLR。BNF 范式通过 Left ::= Right 表示产生式。

举个例子,比如 SELECT * FROM table 可以被表达为:

S → SELECT * FROM table

当然这是最固定的语法,真实场景中,* 可能被替换为其他单词,而 table 不但可能有其他名字,还可能是个子表达式。

一般用大写的 S 表示文法的开头,称为开始符号。

终结符与非终结符

下面为了方便书写,使用 BNF 范式表示文法。

终结符就是语句的终结,读到它表示产生式分析结束,相反,非终结符就是一个新产生式的开始,比如:

<selectStatement> ::= SELECT <selectList> FROM <tableName>

<selectList> ::= <selectField> [ , <selectList> ]

<tableName> ::= <tableName> [ , <tableList> ]

所有 ::= 号左边的都是非终结符,所以 selectList 是非终结符,解析 selectStatement 时遇到了 selectList 将会进入 selectList 产生式,而解析到普通 SELECT 单词就不会继续解析。

对于有二义性的文法,可以通过 上下文相关文法 方式描述,也就是在产生式左侧补全条件,解决二义性:

aBc -> a1c | a2c
dBe -> d3e

一般产生式左侧都是非终结符,大写字母是非终结符,小写字母是终结符。

上面表示,非终结符 Bac 之间时,可以解析为 12,而在 de 之间时,解析为 3。但我们可以增加一个非终结符让产生式可读性更好:

B -> 1 | 2
C -> 3

这样就将上下文相关文法转换为了上下文无关文法。

上下文无关文法

根据是否依赖上下文,文法分为 上下文相关文法上下文无关文法,一般来说 上下文相关文法 都可以转换为一堆 上下文无关文法 来处理,而用程序处理 上下文无关文法 相对轻松。

SQL 的文法就是上下文相关文法,在正式介绍 SQL 文法之前,举一个简单的例子,比如我们描述等号(=)的文法:

SELECT
  CASE
    WHEN bee = 'red' THEN 'ANGRY'
    ELSE 'NEUTRAL'
  END AS BeeState
FROM bees;

SELECT * from bees WHERE bee = 'red';

上面两个 SQL 中,等号前后的关键字取决于当前是在 CASE WHEN 语句里,还是在 WHERE 语句里,所以我们认为等号所在位置的文法是上下文相关的。

但是当我们将文法粒度变细,将 CASE WHENWHERE 区块分别交由两块文法解决,将等号这个通用的表达式抽离出来,就可以不关心上下文了,这种方式称为 上下文无关文法

附上一个 mysql 上下文无关文法集合

左推导与右推导

上面提到的推导符号 => 在实际运行过程中,显然有两种方向左和右:

E + E => ?

从最左边的 E 开始分析,称为左推导,对语法解析来说是自顶向下的方式,常用方法是递归下降。

从最右边的 E 开始分析,称为右推导,对语法解析来说是自底向上的方式,常用方法是移进、规约。

右推导过程比左推导过程复杂,所以如果考虑手写,最好使用左推导的方式。

左推导的分支预测

比如 select <selectList>selectList 产生式,它可以表示为:

<SelectList> ::= <SelectList> , <SelectField>
               | <SelectField>

由于它可以展开:SelectList => SelectList , a => SelectList , b, a => c, b, a。

但程序执行时,读到这里会进入死循环,因为 SelectList 可以被无限展开,这就是左递归问题。

消除左递归

消除左递归一般通过转化为右递归的方式,因为左递归完全不消耗 Token,而右递归可以通过消耗 Token 的方式跳出死循环。

Token 见上一期精读 精读《手写 SQL 编译器 - 词法分析》

<SelectList> ::= <SelectField> <G>

<G> ::= , <SelectList>
      | null

这其实是一个通用处理,可以抽象出来:

E → E + F
E → F
E → FG
G → + FG
G → null

不过我们也不难发现,通过通用方式消除左递归后的文法更难以阅读,这是因为用死循环的方式解释问题更容易让人理解,但会导致机器崩溃。

笔者建议此处不要生硬的套公式,在套了公式后,再对产生式做一些修饰,让其更具有语义:

<SelectList> ::= <SelectField>
               | , <SelectList>

提取左公因式

即便是上下文无关的文法,通过递归下降方式,许多时候也必须从左向右超前查看 K 个字符才能确定使用哪个产生式,这种文法称为 LL(k)。

但如果每次超前查看的内容都有许多字符相同,会导致第二次开始的超前查看重复解析字符串,影响性能。最理想的情况是,每次超前查看都不会对已确定的字符重复查看,解决方法是提取左公因式。

设想如下的 sql 文法:

<Field> ::= <Text> as <Text>
          | <Text> as<String>
          | <Text> <Text>
          | <Text>

其实 Text 本身也是比较复杂的产生式,最坏的情况需要对 Text 连续匹配六遍。我们将 Text 公因式提取出来就可以仅匹配一遍,因为无论是何种 Field 产生式,都必定先遇到 Text:

<Field> ::= <Text> <F>

<F> ::= <G>
      | <Text>

<G> ::= as <H>

<H> ::= <space> <Text>
      | <String>

和消除左递归一样,提取左公因式也会降低文法的可读性,需要进行人为修复。不过提取左公因式的修复没办法在文法中处理,在后面的 “函数式” 处理环节是有办法处理的,敬请期待。

结合优先级

对 SQL 的文法来说不存在优先级的概念,所以从某种程度来说,SQL 的语法复杂度还不如基本的加减乘除。

3 总结

在实现语法解析前,需要使用文法描述 SQL 的语法,文法描述就是语法分析的主干业务代码。

下一篇将介绍语法分析相关知识,帮助你一步步打造自己的 SQL 编译器。

4 更多讨论

讨论地址是:精读《手写 SQL 编译器 - 文法介绍》 · Issue #94 · dt-fe/weekly

如果你想参与讨论,请点击这里,每周都有新的主题,周末或周一发布。

相关文章
|
8月前
|
SQL 存储 缓存
关于数据仓库的Hive的Hive架构的Driver的SQL的解析器、编译器、执行器、优化器
数据仓库是一个面向分析的数据存储系统,其中包含了大量的历史数据,可以用于数据分析和报表生成。Hive是一个开源的数据仓库系统,基于Hadoop平台,可以存储和处理大规模的数据。在Hive中,SQL语句被解析器解析成抽象语法树(AST),然后编译器将其转换成物理执行计划,包括执行器和优化器的参与。本文将介绍Hive中SQL解析器、编译器、执行器和优化器的作用和原理。
276 0
|
SQL 存储 NoSQL
淘宝数据库OceanBase SQL编译器部分 源码阅读--Schema模式
淘宝数据库OceanBase SQL编译器部分 源码阅读--Schema模式 什么是Database,什么是Schema,什么是Table,什么是列,什么是行,什么是User?我们可以可以把Database看作是一个大仓库,仓库分了很多很多的房间,Schema就是其中的房间,一个Schema代表一个房间,Table可以看作是每个Schema中的柜子,行和列就是柜子
1836 0
|
SQL 数据库 OceanBase
淘宝数据库OceanBase SQL编译器部分 源码阅读--生成物理查询计划
SQL编译解析三部曲分为:构建语法树,制定逻辑计划,生成物理执行计划。前两个步骤请参见我的博客&lt;&lt;淘宝数据库OceanBase SQL编译器部分 源码阅读--解析SQL语法树&gt;&gt;和&lt;&lt;淘宝数据库OceanBase SQL编译器部分 源码阅读--生成逻辑计划&gt;&gt;.这篇博客主要研究第三步,生成物理查询计划。 一、 什么是
1733 0
|
SQL 存储 数据库
淘宝数据库OceanBase SQL编译器部分 源码阅读--生成逻辑计划
淘宝数据库OceanBase SQL编译器部分 源码阅读--生成逻辑计划 SQL编译解析三部曲分为:构建语法树,生成逻辑计划,指定物理执行计划。第一步骤,在我的上一篇博客淘宝数据库OceanBase SQL编译器部分 源码阅读--解析SQL语法树里做了介绍,这篇博客主要研究第二步,生成逻辑计划。 一、 什么是逻辑计划? 我们已经知道,语法树就是一个树状的结
1439 0
|
SQL 关系型数据库 数据库
淘宝数据库OceanBase SQL编译器部分 源码阅读--解析SQL语法树
OceanBase是阿里巴巴集团自主研发的可扩展的关系型数据库,实现了跨行跨表的事务,支持数千亿条记录、数百TB数据上的SQL操作。在阿里巴巴集团下,OceanBase数据库支持了多个重要业务的数据存储,包括收藏夹、直通车报表、天猫评价等。截止到2013年4月份,OceanBase线上业务的数据量已经超过一千亿条。 看起来挺厉害的,今天我们来研究下它的源代码。关于
2982 0
|
7天前
|
SQL 人工智能 算法
【SQL server】玩转SQL server数据库:第二章 关系数据库
【SQL server】玩转SQL server数据库:第二章 关系数据库
45 10
|
1月前
|
SQL 数据库 数据安全/隐私保护
Sql Server数据库Sa密码如何修改
Sql Server数据库Sa密码如何修改
|
17天前
|
SQL
启动mysq异常The server quit without updating PID file [FAILED]sql/data/***.pi根本解决方案
启动mysq异常The server quit without updating PID file [FAILED]sql/data/***.pi根本解决方案
15 0
|
7天前
|
SQL 算法 数据库
【SQL server】玩转SQL server数据库:第三章 关系数据库标准语言SQL(二)数据查询
【SQL server】玩转SQL server数据库:第三章 关系数据库标准语言SQL(二)数据查询
62 6