Lec 9循环优化(Loop Optimizations)
Lec 09 循环优化(Loop Optimizations)
参考:循环是优化重点——"90% 的执行时间花在 10% 的代码(多在循环)里"
TL;DR
- 自然循环可由「回边的目标支配源点」识别,循环前置头为安全外提计算提供唯一入口。
- 循环不变式外提、归纳变量简化和强度削弱把重复且昂贵的计算移出热路径或替换为更便宜的操作。
- 变换的合法性取决于支配、定义到达、别名、异常和溢出语义;「在循环中不变」并不自动意味「可以外提」。
1. 为什么优化循环
大量计算发生在循环中。本讲学两类优化:循环不变式外提 (loop-invariant code motion) 与 归纳变量消除 (induction variable elimination)。前提是先识别循环。
2. 什么是循环(Defining Loops)
直觉上循环是:单一入口的头节点 (loop header)——所有迭代都经过它;加上至少一条回到头节点的回边 (back edge)。异常情形:两条回边两个循环共用一头(编译器合并为一个循环);无头节点则无循环。
2.1 支配关系(Dominators)
定义(支配 / 直接支配)
节点 支配 (dominate) 节点 ,当且仅当从起始节点到 的所有路径都经过 。若 都支配 ,则二者间必有支配关系( 支配 或反之)。 的直接支配者 (immediate dominator) 是从起点到 任意路径上的最后一个支配者。
支配树 (dominator tree):节点即 CFG 节点,从 到 有边当 直接支配 ,根为起始节点。
支配者计算(数据流式不动点算法):
D(n0) = {n0}
for n ≠ n0: D(n) = N // 初始化为全集
while D 变化:
for n ≠ n0: D(n) = {n} ∪ ⋂_{p∈pred(n)} D(p)
算法完成:单调收缩、有限格保证不动点。条件" 支配 ⟺ 支配 的所有前驱(或 )"提示了上面的交集形式。
2.2 用回边定义循环
定义(回边与自然循环)
回边 (back edge) 是头支配尾的边 (即 支配 )。由回边 确定的循环 = 、 加上"所有不经过 就能到达 的节点"(即 与 之间的全部节点); 是循环头。
循环构造算法(从 反向扩展前驱直到 ):
loop(d, n):
loop = {d}; stack = ∅; insert(n)
while stack 非空:
m = pop; for p ∈ pred(m): insert(p)
insert(m): if m ∉ loop: loop ∪= {m}; push m
嵌套循环:两循环若不同头,则一个内嵌于另一个、或互不相交;同头则通常并起来当一个循环处理。
2.3 循环前置头(Preheader)
许多优化要在循环前插入代码——为此在循环前放一个特殊节点 loop preheader 来承载这些代码。
3. 循环不变式外提(Loop-Invariant Code Motion)
定义(循环不变语句)
一条语句是不变的 (invariant),若其操作数满足:① 是常量;或 ② 所有到达定义都在循环外;或 ③ 恰有一个到达定义,且该定义来自一条不变语句。出口节点 (exit node) 是有后继在循环外的节点。
检测算法(不动点迭代,反复加入新发现的不变语句直到无变化):先标记操作数为常量或到达定义全在循环外的语句,再迭代加入"恰一个到达定义来自不变语句"的语句。
定义
定理(外提语句 s: x = y+z 到前置头的条件)
-
支配循环的所有出口节点(否则循环后某使用可能读到错误值);替代条件: 中 的定义到达不了循环外的任何使用(但外提可能增加运行时间)。
-
循环中没有其他语句给 赋值(否则赋值顺序可能被打乱)。
-
循环中对 的使用不被 以外的定义到达(否则可能改变使用读到的值)。
前置头中语句顺序须保留原程序的数据依赖(按算法发现顺序即可)。
4. 归纳变量(Induction Variables)
定义(基本 / 派生归纳变量)
-
基本归纳变量 (base IV):循环内唯一赋值形如 ( 常量或循环不变),三元组 。
-
派生归纳变量 (derived IV):值是某基本归纳变量的线性函数,循环内 ,三元组 (即 ,属 的家族)。数组下标
a[i]产生的p = a + 4*i极常见。 :::
三套算法:检测归纳变量、对派生归纳变量做强度削弱、消除多余归纳变量。
4.1 检测算法
扫描循环找出所有基本归纳变量
do:
找 k = j*b(j 是 IV<i,c,d>):令 k 为 IV<i, c*b, d*b>
找 k = j±b(j 是 IV<i,c,d>):令 k 为 IV<i, c, b±d>
until 无新归纳变量4.2 强度削弱(Strength Reduction)
对每个派生归纳变量 (三元组 ):新建变量 ;把 替换为 ;在每条 之后紧插 ( 为常量);在前置头插入 。
例题(用加法替代乘法)
原: i=0; while(i<10){ i=i+1; p=4*i; use(p); }
削弱后: i=0; p=0; while(i<10){ i=i+1; p=p+4; use(p); } // 4*i 的乘法 → p+=4 的加法4.3 消除多余归纳变量(Elimination)
定理(归纳变量消除)
选一个基本归纳变量 ,其用途只有"终止条件 "和"赋值 ";选其家族的派生归纳变量 ();把终止条件改写为 。 因为 ,故 。
接上例:消去 i,循环变为 p=0; while(p<40){ p=p+4; use(p); }。
我的理解
循环是优化收益的放大器,也是语义风险的放大器。实现时应把「可以移」与「值得移」分开:前者由依赖和异常语义决定,后者还要看运行频率和目标机成本。
5. 循环识别与经典优化小结
- 识别循环:先算支配者(不动点交集)与支配树,找回边(头支配尾),自然循环 = 头 + 尾 + 之间节点;前置头承载外提代码。
- 循环不变式外提:检测不变语句(操作数常量/定义在外/来自不变语句),满足支配出口 + 唯一定义 + 不被其他定义干扰三条件后提到前置头。
- 归纳变量:基本()与派生();检测 → 强度削弱(乘改加)→ 消除多余者(改写终止条件)。
- 这些优化收益大,正因为时间集中在循环。