8.1. 尾递归
虽然 Lean 的 do-记法允许使用传统的循环语法,例如 for 和 while,
但这些结构在幕后会被翻译为递归函数的调用。在大多数编程语言中,
递归函数相对于循环有一个关键缺点:循环不消耗堆栈空间,
而递归函数消耗与递归调用次数成正比的栈空间。栈空间通常是有限的,
通常有必要将以递归函数自然表达的算法,重写为用显式可变堆来分配栈的循环。
在函数式编程中,情况通常相反。以可变循环自然表达的程序可能会消耗栈空间, 而将它们重写为递归函数可以使它们快速运行。这是函数式编程语言的一个关键方面: 尾调用消除(Tail-call Elimination)。尾调用是从一个函数到另一个函数的调用, 可以编译成一个普通的跳转,替换当前的栈帧而非压入一个新的栈帧, 而尾调用消除就是实现此转换的过程。
尾调用消除不仅仅是一种可选的优化。它的存在是编写高效函数式代码的基础部分。 为了使其有效,它必须是可靠的。程序员必须能够可靠地识别尾调用, 并且他们必须相信编译器会消除它们。
函数 NonTail.sum 将 Nat 列表的内容加起来:
def NonTail.sum : List Nat → Nat
| [] => 0
| x :: xs => x + sum xs
将此函数应用于列表 [1, 2, 3] 会产生以下求值步骤:
NonTail.sum [1, 2, 3]1 + (NonTail.sum [2, 3])1 + (2 + (NonTail.sum [3]))1 + (2 + (3 + (NonTail.sum [])))1 + (2 + (3 + 0))1 + (2 + 3)1 + 56
在求值步骤中,括号表示对 NonTail.sum 的递归调用。换句话说,要加起来这三个数字,
程序必须首先检查列表是否非空。要将列表的头部(1)加到列表尾部的和上,
首先需要计算列表尾部的和:
1 + (NonTail.sum [2, 3])
但是要计算列表尾部的和,程序必须检查它是否为空。
它不是——尾部本身是一个列表,头部为 2。
结果步骤正在等待 NonTail.sum [3] 的返回:
1 + (2 + (NonTail.sum [3]))
运行时调用栈的重点在于跟踪值 1、2 和 3,以及一个指令将它们加到递归调用的结果上。
随着递归调用的完成,控制权返回到进行调用的栈帧,因此执行每一步加法。
存储列表的头部和添加它们的指令不是免费的;它占用的空间与列表的长度成正比。
函数 Tail.sum 也将 Nat 列表的内容加起来:
def Tail.sumHelper (soFar : Nat) : List Nat → Nat
| [] => soFar
| x :: xs => sumHelper (x + soFar) xs
def Tail.sum (xs : List Nat) : Nat :=
Tail.sumHelper 0 xs
将其应用于列表 [1, 2, 3] 会产生以下求值步骤:
Tail.sum [1, 2, 3]Tail.sumHelper 0 [1, 2, 3]Tail.sumHelper (0 + 1) [2, 3]Tail.sumHelper 1 [2, 3]Tail.sumHelper (1 + 2) [3]Tail.sumHelper 3 [3]Tail.sumHelper (3 + 3) []Tail.sumHelper 6 []6
内部辅助函数递归地调用自身,但它的调用方式使得在计算最终结果时不需要记住任何东西。
当 Tail.sumHelper 到达其基本情况时,控制权可以直接返回给 Tail.sum,
因为 Tail.sumHelper 的中间调用只是简单地返回其递归调用的结果,未做修改。
换句话说,对于 Tail.sumHelper 的每次递归调用,都可以重用单个栈帧。
尾调用消除正是这种栈帧的重用,而 Tail.sumHelper 被称为 尾递归函数(Tail-recursive Function)。
Tail.sumHelper 的第一个参数包含了所有否则需要在调用栈中跟踪的信息——即目前为止遇到的数字之和。
在每次递归调用中,此参数都会更新为新信息,而不是向调用栈添加新信息。
像 soFar 这样替换调用栈信息的参数称为 累加器(Accumulator)。
在撰写本文时,在作者的计算机上,当传递一个包含 216,856 或更多条目的列表时,NonTail.sum 会因栈溢出而崩溃。
另一方面,Tail.sum 可以对包含 100,000,000 个元素的列表求和而不会发生栈溢出。
因为在运行 Tail.sum 时不需要压入新的栈帧,所以它完全等同于一个带有保存当前列表的可变变量的 while 循环。
在每次递归调用时,栈上的函数参数只是简单地替换为列表的下一个节点。
8.1.1. 尾位置与非尾位置
Tail.sumHelper 是尾递归的原因是递归调用处于 尾位置(Tail Position)。
通俗地说,当调用者不需要以任何方式修改返回值,而只是直接返回它时,函数调用就处于尾位置。
更正式地说,可以为表达式明确定义尾位置。
如果 match 表达式处于尾位置,那么它的每个分支也处于尾位置。
一旦 match 选择了一个分支,控制权就会立即转移到该分支。
同样,如果 if 表达式本身处于尾位置,那么它的两个分支也都处于尾位置。
最后,如果 let 表达式处于尾位置,那么它的主体也是如此。
所有其他位置都不在尾位置。
函数或构造函数的参数不在尾位置,因为求值必须跟踪将应用于参数值的函数或构造函数。
内部函数的主体不在尾位置,因为控制权甚至可能不会传递给它:函数主体直到函数被调用时才会被求值。
同样,函数类型的主体也不在尾位置。
要在 (x : α) → E 中对 E 求值,必须跟踪结果类型必须包裹在 (x : α) → ... 中。
在 NonTail.sum 中,递归调用不在尾位置,因为它是 + 的参数。
在 Tail.sumHelper 中,递归调用处于尾位置,因为它紧跟在模式匹配之下,而模式匹配本身就是函数的主体。
在撰写本文时,Lean 仅消除递归函数中的直接尾调用。
这意味着在 f 的定义中对 f 的尾调用将被消除,但对其他函数 g 的尾调用则不会。
虽然消除对其他函数的尾调用以节省栈帧当然是可能的,但这在 Lean 中尚未实现。
8.1.2. 反转列表
函数 NonTail.reverse 通过将每个子列表的头部追加到结果的末尾来反转列表:
def NonTail.reverse : List α → List α
| [] => []
| x :: xs => reverse xs ++ [x]
使用它来反转 [1, 2, 3] 会产生以下步骤序列:
NonTail.reverse [1, 2, 3](NonTail.reverse [2, 3]) ++ [1]((NonTail.reverse [3]) ++ [2]) ++ [1](((NonTail.reverse []) ++ [3]) ++ [2]) ++ [1](([] ++ [3]) ++ [2]) ++ [1]([3] ++ [2]) ++ [1][3, 2] ++ [1][3, 2, 1]
尾递归版本在每一步都在累加器上使用 x :: · 而不是 · ++ [x]:
def Tail.reverseHelper (soFar : List α) : List α → List α
| [] => soFar
| x :: xs => reverseHelper (x :: soFar) xs
def Tail.reverse (xs : List α) : List α :=
Tail.reverseHelper [] xs
这是因为在使用 NonTail.reverse 进行计算时,每个栈帧中保存的上下文是从基本情况开始应用的。
每个“记住”的上下文片段都按后进先出的顺序执行。
另一方面,传递累加器的版本从列表的第一个条目开始修改累加器,而不是从原始的基本情况开始,正如在归约步骤系列中看到的那样:
Tail.reverse [1, 2, 3]Tail.reverseHelper [] [1, 2, 3]Tail.reverseHelper [1] [2, 3]Tail.reverseHelper [2, 1] [3]Tail.reverseHelper [3, 2, 1] [][3, 2, 1]换句话说,非尾递归版本从基本情况开始,从右到左通过列表修改递归结果。 列表中的条目按先进先出的顺序影响累加器。 带有累加器的尾递归版本从列表的头部开始,从左到右通过列表修改初始累加器值。
因为加法是可交换的,所以在 Tail.sum 中不需要做任何事情来解决这个问题。
追加列表不是可交换的,因此必须小心找到一个在相反方向运行时具有相同效果的操作。
在 NonTail.reverse 中,在递归结果之后追加 [x] 类似于在以相反顺序构建结果时将 x 添加到列表的开头。
8.1.3. 多重递归调用
在 BinTree.mirror 的定义中,有两个递归调用:
def BinTree.mirror : BinTree α → BinTree α
| .leaf => .leaf
| .branch l x r => .branch (mirror r) x (mirror l)
就像命令式语言通常会对 reverse 和 sum 等函数使用 while 循环一样,它们通常会对这种遍历使用递归函数。
这个函数不能直接使用传递累加器风格重写为尾递归,至少不能使用本书中介绍的技术。
通常,如果每个递归步骤需要多个递归调用,那么将很难使用传递累加器风格。
这种困难类似于将递归函数重写为使用循环和显式数据结构的困难,并且增加了让 Lean 确信函数终止的复杂性。
然而,正如在 BinTree.mirror 中一样,多个递归调用通常表示数据结构具有一个包含自身多个递归出现的构造函数。
在这些情况下,结构的深度通常与其整体大小成对数关系,这使得栈和堆之间的权衡不那么明显。
有一些系统的方法可以使这些函数成为尾递归,例如使用 延续传递风格(Continuation-passing Style) 和 去函数化(Defunctionalization),但它们超出了本书的范围。
8.1.4. 练习
将以下每个非尾递归函数翻译为传递累加器的尾递归函数:
def NonTail.length : List α → Nat
| [] => 0
| _ :: xs => NonTail.length xs + 1def NonTail.factorial : Nat → Nat
| 0 => 1
| n + 1 => factorial n * (n + 1)
NonTail.filter 的翻译应产生一个通过尾递归占用恒定栈空间的程序,并且时间与输入列表的长度成线性关系。
相对于原始版本,常数因子的开销是可以接受的:
def NonTail.filter (p : α → Bool) : List α → List α
| [] => []
| x :: xs =>
if p x then
x :: filter p xs
else
filter p xs