s|llvm/Support/Visibility.h|llvm/Support/Compiler.h|
[oota-llvm.git] / lib / Transforms / Utils / SimplifyCFG.cpp
1 //===- SimplifyCFG.cpp - Code to perform CFG simplification ---------------===//
2 //
3 //                     The LLVM Compiler Infrastructure
4 //
5 // This file was developed by the LLVM research group and is distributed under
6 // the University of Illinois Open Source License. See LICENSE.TXT for details.
7 //
8 //===----------------------------------------------------------------------===//
9 //
10 // Peephole optimize the CFG.
11 //
12 //===----------------------------------------------------------------------===//
13
14 #define DEBUG_TYPE "simplifycfg"
15 #include "llvm/Transforms/Utils/Local.h"
16 #include "llvm/Constants.h"
17 #include "llvm/Instructions.h"
18 #include "llvm/Type.h"
19 #include "llvm/Support/CFG.h"
20 #include "llvm/Support/Debug.h"
21 #include "llvm/Transforms/Utils/BasicBlockUtils.h"
22 #include <algorithm>
23 #include <functional>
24 #include <set>
25 #include <map>
26 #include <iostream>
27 using namespace llvm;
28
29 /// SafeToMergeTerminators - Return true if it is safe to merge these two
30 /// terminator instructions together.
31 ///
32 static bool SafeToMergeTerminators(TerminatorInst *SI1, TerminatorInst *SI2) {
33   if (SI1 == SI2) return false;  // Can't merge with self!
34   
35   // It is not safe to merge these two switch instructions if they have a common
36   // successor, and if that successor has a PHI node, and if *that* PHI node has
37   // conflicting incoming values from the two switch blocks.
38   BasicBlock *SI1BB = SI1->getParent();
39   BasicBlock *SI2BB = SI2->getParent();
40   std::set<BasicBlock*> SI1Succs(succ_begin(SI1BB), succ_end(SI1BB));
41   
42   for (succ_iterator I = succ_begin(SI2BB), E = succ_end(SI2BB); I != E; ++I)
43     if (SI1Succs.count(*I))
44       for (BasicBlock::iterator BBI = (*I)->begin();
45            isa<PHINode>(BBI); ++BBI) {
46         PHINode *PN = cast<PHINode>(BBI);
47         if (PN->getIncomingValueForBlock(SI1BB) !=
48             PN->getIncomingValueForBlock(SI2BB))
49           return false;
50       }
51         
52   return true;
53 }
54
55 /// AddPredecessorToBlock - Update PHI nodes in Succ to indicate that there will
56 /// now be entries in it from the 'NewPred' block.  The values that will be
57 /// flowing into the PHI nodes will be the same as those coming in from
58 /// ExistPred, an existing predecessor of Succ.
59 static void AddPredecessorToBlock(BasicBlock *Succ, BasicBlock *NewPred,
60                                   BasicBlock *ExistPred) {
61   assert(std::find(succ_begin(ExistPred), succ_end(ExistPred), Succ) !=
62          succ_end(ExistPred) && "ExistPred is not a predecessor of Succ!");
63   if (!isa<PHINode>(Succ->begin())) return; // Quick exit if nothing to do
64   
65   for (BasicBlock::iterator I = Succ->begin(); isa<PHINode>(I); ++I) {
66     PHINode *PN = cast<PHINode>(I);
67     Value *V = PN->getIncomingValueForBlock(ExistPred);
68     PN->addIncoming(V, NewPred);
69   }
70 }
71
72 // CanPropagatePredecessorsForPHIs - Return true if we can fold BB, an
73 // almost-empty BB ending in an unconditional branch to Succ, into succ.
74 //
75 // Assumption: Succ is the single successor for BB.
76 //
77 static bool CanPropagatePredecessorsForPHIs(BasicBlock *BB, BasicBlock *Succ) {
78   assert(*succ_begin(BB) == Succ && "Succ is not successor of BB!");
79
80   // Check to see if one of the predecessors of BB is already a predecessor of
81   // Succ.  If so, we cannot do the transformation if there are any PHI nodes
82   // with incompatible values coming in from the two edges!
83   //
84   if (isa<PHINode>(Succ->front())) {
85     std::set<BasicBlock*> BBPreds(pred_begin(BB), pred_end(BB));
86     for (pred_iterator PI = pred_begin(Succ), PE = pred_end(Succ);
87          PI != PE; ++PI)
88       if (std::find(BBPreds.begin(), BBPreds.end(), *PI) != BBPreds.end()) {
89         // Loop over all of the PHI nodes checking to see if there are
90         // incompatible values coming in.
91         for (BasicBlock::iterator I = Succ->begin(); isa<PHINode>(I); ++I) {
92           PHINode *PN = cast<PHINode>(I);
93           // Loop up the entries in the PHI node for BB and for *PI if the
94           // values coming in are non-equal, we cannot merge these two blocks
95           // (instead we should insert a conditional move or something, then
96           // merge the blocks).
97           if (PN->getIncomingValueForBlock(BB) !=
98               PN->getIncomingValueForBlock(*PI))
99             return false;  // Values are not equal...
100         }
101       }
102   }
103     
104   // Finally, if BB has PHI nodes that are used by things other than the PHIs in
105   // Succ and Succ has predecessors that are not Succ and not Pred, we cannot
106   // fold these blocks, as we don't know whether BB dominates Succ or not to
107   // update the PHI nodes correctly.
108   if (!isa<PHINode>(BB->begin()) || Succ->getSinglePredecessor()) return true;
109
110   // If the predecessors of Succ are only BB and Succ itself, we can handle this.
111   bool IsSafe = true;
112   for (pred_iterator PI = pred_begin(Succ), E = pred_end(Succ); PI != E; ++PI)
113     if (*PI != Succ && *PI != BB) {
114       IsSafe = false;
115       break;
116     }
117   if (IsSafe) return true;
118   
119   // If the PHI nodes in BB are only used by instructions in Succ, we are ok if
120   // BB and Succ have no common predecessors.
121   for (BasicBlock::iterator I = BB->begin(); isa<PHINode>(I); ++I) {
122     PHINode *PN = cast<PHINode>(I);
123     for (Value::use_iterator UI = PN->use_begin(), E = PN->use_end(); UI != E;
124          ++UI)
125       if (cast<Instruction>(*UI)->getParent() != Succ)
126         return false;
127   }
128   
129   // Scan the predecessor sets of BB and Succ, making sure there are no common
130   // predecessors.  Common predecessors would cause us to build a phi node with
131   // differing incoming values, which is not legal.
132   std::set<BasicBlock*> BBPreds(pred_begin(BB), pred_end(BB));
133   for (pred_iterator PI = pred_begin(Succ), E = pred_end(Succ); PI != E; ++PI)
134     if (BBPreds.count(*PI))
135       return false;
136     
137   return true;
138 }
139
140 /// TryToSimplifyUncondBranchFromEmptyBlock - BB contains an unconditional
141 /// branch to Succ, and contains no instructions other than PHI nodes and the
142 /// branch.  If possible, eliminate BB.
143 static bool TryToSimplifyUncondBranchFromEmptyBlock(BasicBlock *BB,
144                                                     BasicBlock *Succ) {
145   // If our successor has PHI nodes, then we need to update them to include
146   // entries for BB's predecessors, not for BB itself.  Be careful though,
147   // if this transformation fails (returns true) then we cannot do this
148   // transformation!
149   //
150   if (!CanPropagatePredecessorsForPHIs(BB, Succ)) return false;
151   
152   DEBUG(std::cerr << "Killing Trivial BB: \n" << *BB);
153   
154   if (isa<PHINode>(Succ->begin())) {
155     // If there is more than one pred of succ, and there are PHI nodes in
156     // the successor, then we need to add incoming edges for the PHI nodes
157     //
158     const std::vector<BasicBlock*> BBPreds(pred_begin(BB), pred_end(BB));
159     
160     // Loop over all of the PHI nodes in the successor of BB.
161     for (BasicBlock::iterator I = Succ->begin(); isa<PHINode>(I); ++I) {
162       PHINode *PN = cast<PHINode>(I);
163       Value *OldVal = PN->removeIncomingValue(BB, false);
164       assert(OldVal && "No entry in PHI for Pred BB!");
165       
166       // If this incoming value is one of the PHI nodes in BB, the new entries
167       // in the PHI node are the entries from the old PHI.
168       if (isa<PHINode>(OldVal) && cast<PHINode>(OldVal)->getParent() == BB) {
169         PHINode *OldValPN = cast<PHINode>(OldVal);
170         for (unsigned i = 0, e = OldValPN->getNumIncomingValues(); i != e; ++i)
171           PN->addIncoming(OldValPN->getIncomingValue(i),
172                           OldValPN->getIncomingBlock(i));
173       } else {
174         for (std::vector<BasicBlock*>::const_iterator PredI = BBPreds.begin(),
175              End = BBPreds.end(); PredI != End; ++PredI) {
176           // Add an incoming value for each of the new incoming values...
177           PN->addIncoming(OldVal, *PredI);
178         }
179       }
180     }
181   }
182   
183   if (isa<PHINode>(&BB->front())) {
184     std::vector<BasicBlock*>
185     OldSuccPreds(pred_begin(Succ), pred_end(Succ));
186     
187     // Move all PHI nodes in BB to Succ if they are alive, otherwise
188     // delete them.
189     while (PHINode *PN = dyn_cast<PHINode>(&BB->front()))
190       if (PN->use_empty()) {
191         // Just remove the dead phi.  This happens if Succ's PHIs were the only
192         // users of the PHI nodes.
193         PN->eraseFromParent();
194       } else {
195         // The instruction is alive, so this means that Succ must have
196         // *ONLY* had BB as a predecessor, and the PHI node is still valid
197         // now.  Simply move it into Succ, because we know that BB
198         // strictly dominated Succ.
199         Succ->getInstList().splice(Succ->begin(),
200                                    BB->getInstList(), BB->begin());
201         
202         // We need to add new entries for the PHI node to account for
203         // predecessors of Succ that the PHI node does not take into
204         // account.  At this point, since we know that BB dominated succ,
205         // this means that we should any newly added incoming edges should
206         // use the PHI node as the value for these edges, because they are
207         // loop back edges.
208         for (unsigned i = 0, e = OldSuccPreds.size(); i != e; ++i)
209           if (OldSuccPreds[i] != BB)
210             PN->addIncoming(PN, OldSuccPreds[i]);
211       }
212   }
213     
214   // Everything that jumped to BB now goes to Succ.
215   std::string OldName = BB->getName();
216   BB->replaceAllUsesWith(Succ);
217   BB->eraseFromParent();              // Delete the old basic block.
218   
219   if (!OldName.empty() && !Succ->hasName())  // Transfer name if we can
220     Succ->setName(OldName);
221   return true;
222 }
223
224 /// GetIfCondition - Given a basic block (BB) with two predecessors (and
225 /// presumably PHI nodes in it), check to see if the merge at this block is due
226 /// to an "if condition".  If so, return the boolean condition that determines
227 /// which entry into BB will be taken.  Also, return by references the block
228 /// that will be entered from if the condition is true, and the block that will
229 /// be entered if the condition is false.
230 ///
231 ///
232 static Value *GetIfCondition(BasicBlock *BB,
233                              BasicBlock *&IfTrue, BasicBlock *&IfFalse) {
234   assert(std::distance(pred_begin(BB), pred_end(BB)) == 2 &&
235          "Function can only handle blocks with 2 predecessors!");
236   BasicBlock *Pred1 = *pred_begin(BB);
237   BasicBlock *Pred2 = *++pred_begin(BB);
238
239   // We can only handle branches.  Other control flow will be lowered to
240   // branches if possible anyway.
241   if (!isa<BranchInst>(Pred1->getTerminator()) ||
242       !isa<BranchInst>(Pred2->getTerminator()))
243     return 0;
244   BranchInst *Pred1Br = cast<BranchInst>(Pred1->getTerminator());
245   BranchInst *Pred2Br = cast<BranchInst>(Pred2->getTerminator());
246
247   // Eliminate code duplication by ensuring that Pred1Br is conditional if
248   // either are.
249   if (Pred2Br->isConditional()) {
250     // If both branches are conditional, we don't have an "if statement".  In
251     // reality, we could transform this case, but since the condition will be
252     // required anyway, we stand no chance of eliminating it, so the xform is
253     // probably not profitable.
254     if (Pred1Br->isConditional())
255       return 0;
256
257     std::swap(Pred1, Pred2);
258     std::swap(Pred1Br, Pred2Br);
259   }
260
261   if (Pred1Br->isConditional()) {
262     // If we found a conditional branch predecessor, make sure that it branches
263     // to BB and Pred2Br.  If it doesn't, this isn't an "if statement".
264     if (Pred1Br->getSuccessor(0) == BB &&
265         Pred1Br->getSuccessor(1) == Pred2) {
266       IfTrue = Pred1;
267       IfFalse = Pred2;
268     } else if (Pred1Br->getSuccessor(0) == Pred2 &&
269                Pred1Br->getSuccessor(1) == BB) {
270       IfTrue = Pred2;
271       IfFalse = Pred1;
272     } else {
273       // We know that one arm of the conditional goes to BB, so the other must
274       // go somewhere unrelated, and this must not be an "if statement".
275       return 0;
276     }
277
278     // The only thing we have to watch out for here is to make sure that Pred2
279     // doesn't have incoming edges from other blocks.  If it does, the condition
280     // doesn't dominate BB.
281     if (++pred_begin(Pred2) != pred_end(Pred2))
282       return 0;
283
284     return Pred1Br->getCondition();
285   }
286
287   // Ok, if we got here, both predecessors end with an unconditional branch to
288   // BB.  Don't panic!  If both blocks only have a single (identical)
289   // predecessor, and THAT is a conditional branch, then we're all ok!
290   if (pred_begin(Pred1) == pred_end(Pred1) ||
291       ++pred_begin(Pred1) != pred_end(Pred1) ||
292       pred_begin(Pred2) == pred_end(Pred2) ||
293       ++pred_begin(Pred2) != pred_end(Pred2) ||
294       *pred_begin(Pred1) != *pred_begin(Pred2))
295     return 0;
296
297   // Otherwise, if this is a conditional branch, then we can use it!
298   BasicBlock *CommonPred = *pred_begin(Pred1);
299   if (BranchInst *BI = dyn_cast<BranchInst>(CommonPred->getTerminator())) {
300     assert(BI->isConditional() && "Two successors but not conditional?");
301     if (BI->getSuccessor(0) == Pred1) {
302       IfTrue = Pred1;
303       IfFalse = Pred2;
304     } else {
305       IfTrue = Pred2;
306       IfFalse = Pred1;
307     }
308     return BI->getCondition();
309   }
310   return 0;
311 }
312
313
314 // If we have a merge point of an "if condition" as accepted above, return true
315 // if the specified value dominates the block.  We don't handle the true
316 // generality of domination here, just a special case which works well enough
317 // for us.
318 //
319 // If AggressiveInsts is non-null, and if V does not dominate BB, we check to
320 // see if V (which must be an instruction) is cheap to compute and is
321 // non-trapping.  If both are true, the instruction is inserted into the set and
322 // true is returned.
323 static bool DominatesMergePoint(Value *V, BasicBlock *BB,
324                                 std::set<Instruction*> *AggressiveInsts) {
325   Instruction *I = dyn_cast<Instruction>(V);
326   if (!I) return true;    // Non-instructions all dominate instructions.
327   BasicBlock *PBB = I->getParent();
328
329   // We don't want to allow weird loops that might have the "if condition" in
330   // the bottom of this block.
331   if (PBB == BB) return false;
332
333   // If this instruction is defined in a block that contains an unconditional
334   // branch to BB, then it must be in the 'conditional' part of the "if
335   // statement".
336   if (BranchInst *BI = dyn_cast<BranchInst>(PBB->getTerminator()))
337     if (BI->isUnconditional() && BI->getSuccessor(0) == BB) {
338       if (!AggressiveInsts) return false;
339       // Okay, it looks like the instruction IS in the "condition".  Check to
340       // see if its a cheap instruction to unconditionally compute, and if it
341       // only uses stuff defined outside of the condition.  If so, hoist it out.
342       switch (I->getOpcode()) {
343       default: return false;  // Cannot hoist this out safely.
344       case Instruction::Load:
345         // We can hoist loads that are non-volatile and obviously cannot trap.
346         if (cast<LoadInst>(I)->isVolatile())
347           return false;
348         if (!isa<AllocaInst>(I->getOperand(0)) &&
349             !isa<Constant>(I->getOperand(0)))
350           return false;
351
352         // Finally, we have to check to make sure there are no instructions
353         // before the load in its basic block, as we are going to hoist the loop
354         // out to its predecessor.
355         if (PBB->begin() != BasicBlock::iterator(I))
356           return false;
357         break;
358       case Instruction::Add:
359       case Instruction::Sub:
360       case Instruction::And:
361       case Instruction::Or:
362       case Instruction::Xor:
363       case Instruction::Shl:
364       case Instruction::Shr:
365       case Instruction::SetEQ:
366       case Instruction::SetNE:
367       case Instruction::SetLT:
368       case Instruction::SetGT:
369       case Instruction::SetLE:
370       case Instruction::SetGE:
371         break;   // These are all cheap and non-trapping instructions.
372       }
373
374       // Okay, we can only really hoist these out if their operands are not
375       // defined in the conditional region.
376       for (unsigned i = 0, e = I->getNumOperands(); i != e; ++i)
377         if (!DominatesMergePoint(I->getOperand(i), BB, 0))
378           return false;
379       // Okay, it's safe to do this!  Remember this instruction.
380       AggressiveInsts->insert(I);
381     }
382
383   return true;
384 }
385
386 // GatherConstantSetEQs - Given a potentially 'or'd together collection of seteq
387 // instructions that compare a value against a constant, return the value being
388 // compared, and stick the constant into the Values vector.
389 static Value *GatherConstantSetEQs(Value *V, std::vector<ConstantInt*> &Values){
390   if (Instruction *Inst = dyn_cast<Instruction>(V))
391     if (Inst->getOpcode() == Instruction::SetEQ) {
392       if (ConstantInt *C = dyn_cast<ConstantInt>(Inst->getOperand(1))) {
393         Values.push_back(C);
394         return Inst->getOperand(0);
395       } else if (ConstantInt *C = dyn_cast<ConstantInt>(Inst->getOperand(0))) {
396         Values.push_back(C);
397         return Inst->getOperand(1);
398       }
399     } else if (Inst->getOpcode() == Instruction::Or) {
400       if (Value *LHS = GatherConstantSetEQs(Inst->getOperand(0), Values))
401         if (Value *RHS = GatherConstantSetEQs(Inst->getOperand(1), Values))
402           if (LHS == RHS)
403             return LHS;
404     }
405   return 0;
406 }
407
408 // GatherConstantSetNEs - Given a potentially 'and'd together collection of
409 // setne instructions that compare a value against a constant, return the value
410 // being compared, and stick the constant into the Values vector.
411 static Value *GatherConstantSetNEs(Value *V, std::vector<ConstantInt*> &Values){
412   if (Instruction *Inst = dyn_cast<Instruction>(V))
413     if (Inst->getOpcode() == Instruction::SetNE) {
414       if (ConstantInt *C = dyn_cast<ConstantInt>(Inst->getOperand(1))) {
415         Values.push_back(C);
416         return Inst->getOperand(0);
417       } else if (ConstantInt *C = dyn_cast<ConstantInt>(Inst->getOperand(0))) {
418         Values.push_back(C);
419         return Inst->getOperand(1);
420       }
421     } else if (Inst->getOpcode() == Instruction::Cast) {
422       // Cast of X to bool is really a comparison against zero.
423       assert(Inst->getType() == Type::BoolTy && "Can only handle bool values!");
424       Values.push_back(ConstantInt::get(Inst->getOperand(0)->getType(), 0));
425       return Inst->getOperand(0);
426     } else if (Inst->getOpcode() == Instruction::And) {
427       if (Value *LHS = GatherConstantSetNEs(Inst->getOperand(0), Values))
428         if (Value *RHS = GatherConstantSetNEs(Inst->getOperand(1), Values))
429           if (LHS == RHS)
430             return LHS;
431     }
432   return 0;
433 }
434
435
436
437 /// GatherValueComparisons - If the specified Cond is an 'and' or 'or' of a
438 /// bunch of comparisons of one value against constants, return the value and
439 /// the constants being compared.
440 static bool GatherValueComparisons(Instruction *Cond, Value *&CompVal,
441                                    std::vector<ConstantInt*> &Values) {
442   if (Cond->getOpcode() == Instruction::Or) {
443     CompVal = GatherConstantSetEQs(Cond, Values);
444
445     // Return true to indicate that the condition is true if the CompVal is
446     // equal to one of the constants.
447     return true;
448   } else if (Cond->getOpcode() == Instruction::And) {
449     CompVal = GatherConstantSetNEs(Cond, Values);
450
451     // Return false to indicate that the condition is false if the CompVal is
452     // equal to one of the constants.
453     return false;
454   }
455   return false;
456 }
457
458 /// ErasePossiblyDeadInstructionTree - If the specified instruction is dead and
459 /// has no side effects, nuke it.  If it uses any instructions that become dead
460 /// because the instruction is now gone, nuke them too.
461 static void ErasePossiblyDeadInstructionTree(Instruction *I) {
462   if (!isInstructionTriviallyDead(I)) return;
463   
464   std::vector<Instruction*> InstrsToInspect;
465   InstrsToInspect.push_back(I);
466
467   while (!InstrsToInspect.empty()) {
468     I = InstrsToInspect.back();
469     InstrsToInspect.pop_back();
470
471     if (!isInstructionTriviallyDead(I)) continue;
472
473     // If I is in the work list multiple times, remove previous instances.
474     for (unsigned i = 0, e = InstrsToInspect.size(); i != e; ++i)
475       if (InstrsToInspect[i] == I) {
476         InstrsToInspect.erase(InstrsToInspect.begin()+i);
477         --i, --e;
478       }
479
480     // Add operands of dead instruction to worklist.
481     for (unsigned i = 0, e = I->getNumOperands(); i != e; ++i)
482       if (Instruction *OpI = dyn_cast<Instruction>(I->getOperand(i)))
483         InstrsToInspect.push_back(OpI);
484
485     // Remove dead instruction.
486     I->eraseFromParent();
487   }
488 }
489
490 // isValueEqualityComparison - Return true if the specified terminator checks to
491 // see if a value is equal to constant integer value.
492 static Value *isValueEqualityComparison(TerminatorInst *TI) {
493   if (SwitchInst *SI = dyn_cast<SwitchInst>(TI)) {
494     // Do not permit merging of large switch instructions into their
495     // predecessors unless there is only one predecessor.
496     if (SI->getNumSuccessors() * std::distance(pred_begin(SI->getParent()),
497                                                pred_end(SI->getParent())) > 128)
498       return 0;
499
500     return SI->getCondition();
501   }
502   if (BranchInst *BI = dyn_cast<BranchInst>(TI))
503     if (BI->isConditional() && BI->getCondition()->hasOneUse())
504       if (SetCondInst *SCI = dyn_cast<SetCondInst>(BI->getCondition()))
505         if ((SCI->getOpcode() == Instruction::SetEQ ||
506              SCI->getOpcode() == Instruction::SetNE) &&
507             isa<ConstantInt>(SCI->getOperand(1)))
508           return SCI->getOperand(0);
509   return 0;
510 }
511
512 // Given a value comparison instruction, decode all of the 'cases' that it
513 // represents and return the 'default' block.
514 static BasicBlock *
515 GetValueEqualityComparisonCases(TerminatorInst *TI,
516                                 std::vector<std::pair<ConstantInt*,
517                                                       BasicBlock*> > &Cases) {
518   if (SwitchInst *SI = dyn_cast<SwitchInst>(TI)) {
519     Cases.reserve(SI->getNumCases());
520     for (unsigned i = 1, e = SI->getNumCases(); i != e; ++i)
521       Cases.push_back(std::make_pair(SI->getCaseValue(i), SI->getSuccessor(i)));
522     return SI->getDefaultDest();
523   }
524
525   BranchInst *BI = cast<BranchInst>(TI);
526   SetCondInst *SCI = cast<SetCondInst>(BI->getCondition());
527   Cases.push_back(std::make_pair(cast<ConstantInt>(SCI->getOperand(1)),
528                                  BI->getSuccessor(SCI->getOpcode() ==
529                                                         Instruction::SetNE)));
530   return BI->getSuccessor(SCI->getOpcode() == Instruction::SetEQ);
531 }
532
533
534 // EliminateBlockCases - Given an vector of bb/value pairs, remove any entries
535 // in the list that match the specified block.
536 static void EliminateBlockCases(BasicBlock *BB,
537                std::vector<std::pair<ConstantInt*, BasicBlock*> > &Cases) {
538   for (unsigned i = 0, e = Cases.size(); i != e; ++i)
539     if (Cases[i].second == BB) {
540       Cases.erase(Cases.begin()+i);
541       --i; --e;
542     }
543 }
544
545 // ValuesOverlap - Return true if there are any keys in C1 that exist in C2 as
546 // well.
547 static bool
548 ValuesOverlap(std::vector<std::pair<ConstantInt*, BasicBlock*> > &C1,
549               std::vector<std::pair<ConstantInt*, BasicBlock*> > &C2) {
550   std::vector<std::pair<ConstantInt*, BasicBlock*> > *V1 = &C1, *V2 = &C2;
551
552   // Make V1 be smaller than V2.
553   if (V1->size() > V2->size())
554     std::swap(V1, V2);
555
556   if (V1->size() == 0) return false;
557   if (V1->size() == 1) {
558     // Just scan V2.
559     ConstantInt *TheVal = (*V1)[0].first;
560     for (unsigned i = 0, e = V2->size(); i != e; ++i)
561       if (TheVal == (*V2)[i].first)
562         return true;
563   }
564
565   // Otherwise, just sort both lists and compare element by element.
566   std::sort(V1->begin(), V1->end());
567   std::sort(V2->begin(), V2->end());
568   unsigned i1 = 0, i2 = 0, e1 = V1->size(), e2 = V2->size();
569   while (i1 != e1 && i2 != e2) {
570     if ((*V1)[i1].first == (*V2)[i2].first)
571       return true;
572     if ((*V1)[i1].first < (*V2)[i2].first)
573       ++i1;
574     else
575       ++i2;
576   }
577   return false;
578 }
579
580 // SimplifyEqualityComparisonWithOnlyPredecessor - If TI is known to be a
581 // terminator instruction and its block is known to only have a single
582 // predecessor block, check to see if that predecessor is also a value
583 // comparison with the same value, and if that comparison determines the outcome
584 // of this comparison.  If so, simplify TI.  This does a very limited form of
585 // jump threading.
586 static bool SimplifyEqualityComparisonWithOnlyPredecessor(TerminatorInst *TI,
587                                                           BasicBlock *Pred) {
588   Value *PredVal = isValueEqualityComparison(Pred->getTerminator());
589   if (!PredVal) return false;  // Not a value comparison in predecessor.
590
591   Value *ThisVal = isValueEqualityComparison(TI);
592   assert(ThisVal && "This isn't a value comparison!!");
593   if (ThisVal != PredVal) return false;  // Different predicates.
594
595   // Find out information about when control will move from Pred to TI's block.
596   std::vector<std::pair<ConstantInt*, BasicBlock*> > PredCases;
597   BasicBlock *PredDef = GetValueEqualityComparisonCases(Pred->getTerminator(),
598                                                         PredCases);
599   EliminateBlockCases(PredDef, PredCases);  // Remove default from cases.
600
601   // Find information about how control leaves this block.
602   std::vector<std::pair<ConstantInt*, BasicBlock*> > ThisCases;
603   BasicBlock *ThisDef = GetValueEqualityComparisonCases(TI, ThisCases);
604   EliminateBlockCases(ThisDef, ThisCases);  // Remove default from cases.
605
606   // If TI's block is the default block from Pred's comparison, potentially
607   // simplify TI based on this knowledge.
608   if (PredDef == TI->getParent()) {
609     // If we are here, we know that the value is none of those cases listed in
610     // PredCases.  If there are any cases in ThisCases that are in PredCases, we
611     // can simplify TI.
612     if (ValuesOverlap(PredCases, ThisCases)) {
613       if (BranchInst *BTI = dyn_cast<BranchInst>(TI)) {
614         // Okay, one of the successors of this condbr is dead.  Convert it to a
615         // uncond br.
616         assert(ThisCases.size() == 1 && "Branch can only have one case!");
617         Value *Cond = BTI->getCondition();
618         // Insert the new branch.
619         Instruction *NI = new BranchInst(ThisDef, TI);
620
621         // Remove PHI node entries for the dead edge.
622         ThisCases[0].second->removePredecessor(TI->getParent());
623
624         DEBUG(std::cerr << "Threading pred instr: " << *Pred->getTerminator()
625               << "Through successor TI: " << *TI << "Leaving: " << *NI << "\n");
626
627         TI->eraseFromParent();   // Nuke the old one.
628         // If condition is now dead, nuke it.
629         if (Instruction *CondI = dyn_cast<Instruction>(Cond))
630           ErasePossiblyDeadInstructionTree(CondI);
631         return true;
632
633       } else {
634         SwitchInst *SI = cast<SwitchInst>(TI);
635         // Okay, TI has cases that are statically dead, prune them away.
636         std::set<Constant*> DeadCases;
637         for (unsigned i = 0, e = PredCases.size(); i != e; ++i)
638           DeadCases.insert(PredCases[i].first);
639
640         DEBUG(std::cerr << "Threading pred instr: " << *Pred->getTerminator()
641                   << "Through successor TI: " << *TI);
642
643         for (unsigned i = SI->getNumCases()-1; i != 0; --i)
644           if (DeadCases.count(SI->getCaseValue(i))) {
645             SI->getSuccessor(i)->removePredecessor(TI->getParent());
646             SI->removeCase(i);
647           }
648
649         DEBUG(std::cerr << "Leaving: " << *TI << "\n");
650         return true;
651       }
652     }
653
654   } else {
655     // Otherwise, TI's block must correspond to some matched value.  Find out
656     // which value (or set of values) this is.
657     ConstantInt *TIV = 0;
658     BasicBlock *TIBB = TI->getParent();
659     for (unsigned i = 0, e = PredCases.size(); i != e; ++i)
660       if (PredCases[i].second == TIBB)
661         if (TIV == 0)
662           TIV = PredCases[i].first;
663         else
664           return false;  // Cannot handle multiple values coming to this block.
665     assert(TIV && "No edge from pred to succ?");
666
667     // Okay, we found the one constant that our value can be if we get into TI's
668     // BB.  Find out which successor will unconditionally be branched to.
669     BasicBlock *TheRealDest = 0;
670     for (unsigned i = 0, e = ThisCases.size(); i != e; ++i)
671       if (ThisCases[i].first == TIV) {
672         TheRealDest = ThisCases[i].second;
673         break;
674       }
675
676     // If not handled by any explicit cases, it is handled by the default case.
677     if (TheRealDest == 0) TheRealDest = ThisDef;
678
679     // Remove PHI node entries for dead edges.
680     BasicBlock *CheckEdge = TheRealDest;
681     for (succ_iterator SI = succ_begin(TIBB), e = succ_end(TIBB); SI != e; ++SI)
682       if (*SI != CheckEdge)
683         (*SI)->removePredecessor(TIBB);
684       else
685         CheckEdge = 0;
686
687     // Insert the new branch.
688     Instruction *NI = new BranchInst(TheRealDest, TI);
689
690     DEBUG(std::cerr << "Threading pred instr: " << *Pred->getTerminator()
691           << "Through successor TI: " << *TI << "Leaving: " << *NI << "\n");
692     Instruction *Cond = 0;
693     if (BranchInst *BI = dyn_cast<BranchInst>(TI))
694       Cond = dyn_cast<Instruction>(BI->getCondition());
695     TI->eraseFromParent();   // Nuke the old one.
696
697     if (Cond) ErasePossiblyDeadInstructionTree(Cond);
698     return true;
699   }
700   return false;
701 }
702
703 // FoldValueComparisonIntoPredecessors - The specified terminator is a value
704 // equality comparison instruction (either a switch or a branch on "X == c").
705 // See if any of the predecessors of the terminator block are value comparisons
706 // on the same value.  If so, and if safe to do so, fold them together.
707 static bool FoldValueComparisonIntoPredecessors(TerminatorInst *TI) {
708   BasicBlock *BB = TI->getParent();
709   Value *CV = isValueEqualityComparison(TI);  // CondVal
710   assert(CV && "Not a comparison?");
711   bool Changed = false;
712
713   std::vector<BasicBlock*> Preds(pred_begin(BB), pred_end(BB));
714   while (!Preds.empty()) {
715     BasicBlock *Pred = Preds.back();
716     Preds.pop_back();
717
718     // See if the predecessor is a comparison with the same value.
719     TerminatorInst *PTI = Pred->getTerminator();
720     Value *PCV = isValueEqualityComparison(PTI);  // PredCondVal
721
722     if (PCV == CV && SafeToMergeTerminators(TI, PTI)) {
723       // Figure out which 'cases' to copy from SI to PSI.
724       std::vector<std::pair<ConstantInt*, BasicBlock*> > BBCases;
725       BasicBlock *BBDefault = GetValueEqualityComparisonCases(TI, BBCases);
726
727       std::vector<std::pair<ConstantInt*, BasicBlock*> > PredCases;
728       BasicBlock *PredDefault = GetValueEqualityComparisonCases(PTI, PredCases);
729
730       // Based on whether the default edge from PTI goes to BB or not, fill in
731       // PredCases and PredDefault with the new switch cases we would like to
732       // build.
733       std::vector<BasicBlock*> NewSuccessors;
734
735       if (PredDefault == BB) {
736         // If this is the default destination from PTI, only the edges in TI
737         // that don't occur in PTI, or that branch to BB will be activated.
738         std::set<ConstantInt*> PTIHandled;
739         for (unsigned i = 0, e = PredCases.size(); i != e; ++i)
740           if (PredCases[i].second != BB)
741             PTIHandled.insert(PredCases[i].first);
742           else {
743             // The default destination is BB, we don't need explicit targets.
744             std::swap(PredCases[i], PredCases.back());
745             PredCases.pop_back();
746             --i; --e;
747           }
748
749         // Reconstruct the new switch statement we will be building.
750         if (PredDefault != BBDefault) {
751           PredDefault->removePredecessor(Pred);
752           PredDefault = BBDefault;
753           NewSuccessors.push_back(BBDefault);
754         }
755         for (unsigned i = 0, e = BBCases.size(); i != e; ++i)
756           if (!PTIHandled.count(BBCases[i].first) &&
757               BBCases[i].second != BBDefault) {
758             PredCases.push_back(BBCases[i]);
759             NewSuccessors.push_back(BBCases[i].second);
760           }
761
762       } else {
763         // If this is not the default destination from PSI, only the edges
764         // in SI that occur in PSI with a destination of BB will be
765         // activated.
766         std::set<ConstantInt*> PTIHandled;
767         for (unsigned i = 0, e = PredCases.size(); i != e; ++i)
768           if (PredCases[i].second == BB) {
769             PTIHandled.insert(PredCases[i].first);
770             std::swap(PredCases[i], PredCases.back());
771             PredCases.pop_back();
772             --i; --e;
773           }
774
775         // Okay, now we know which constants were sent to BB from the
776         // predecessor.  Figure out where they will all go now.
777         for (unsigned i = 0, e = BBCases.size(); i != e; ++i)
778           if (PTIHandled.count(BBCases[i].first)) {
779             // If this is one we are capable of getting...
780             PredCases.push_back(BBCases[i]);
781             NewSuccessors.push_back(BBCases[i].second);
782             PTIHandled.erase(BBCases[i].first);// This constant is taken care of
783           }
784
785         // If there are any constants vectored to BB that TI doesn't handle,
786         // they must go to the default destination of TI.
787         for (std::set<ConstantInt*>::iterator I = PTIHandled.begin(),
788                E = PTIHandled.end(); I != E; ++I) {
789           PredCases.push_back(std::make_pair(*I, BBDefault));
790           NewSuccessors.push_back(BBDefault);
791         }
792       }
793
794       // Okay, at this point, we know which new successor Pred will get.  Make
795       // sure we update the number of entries in the PHI nodes for these
796       // successors.
797       for (unsigned i = 0, e = NewSuccessors.size(); i != e; ++i)
798         AddPredecessorToBlock(NewSuccessors[i], Pred, BB);
799
800       // Now that the successors are updated, create the new Switch instruction.
801       SwitchInst *NewSI = new SwitchInst(CV, PredDefault, PredCases.size(),PTI);
802       for (unsigned i = 0, e = PredCases.size(); i != e; ++i)
803         NewSI->addCase(PredCases[i].first, PredCases[i].second);
804
805       Instruction *DeadCond = 0;
806       if (BranchInst *BI = dyn_cast<BranchInst>(PTI))
807         // If PTI is a branch, remember the condition.
808         DeadCond = dyn_cast<Instruction>(BI->getCondition());
809       Pred->getInstList().erase(PTI);
810
811       // If the condition is dead now, remove the instruction tree.
812       if (DeadCond) ErasePossiblyDeadInstructionTree(DeadCond);
813
814       // Okay, last check.  If BB is still a successor of PSI, then we must
815       // have an infinite loop case.  If so, add an infinitely looping block
816       // to handle the case to preserve the behavior of the code.
817       BasicBlock *InfLoopBlock = 0;
818       for (unsigned i = 0, e = NewSI->getNumSuccessors(); i != e; ++i)
819         if (NewSI->getSuccessor(i) == BB) {
820           if (InfLoopBlock == 0) {
821             // Insert it at the end of the loop, because it's either code,
822             // or it won't matter if it's hot. :)
823             InfLoopBlock = new BasicBlock("infloop", BB->getParent());
824             new BranchInst(InfLoopBlock, InfLoopBlock);
825           }
826           NewSI->setSuccessor(i, InfLoopBlock);
827         }
828
829       Changed = true;
830     }
831   }
832   return Changed;
833 }
834
835 /// HoistThenElseCodeToIf - Given a conditional branch that goes to BB1 and
836 /// BB2, hoist any common code in the two blocks up into the branch block.  The
837 /// caller of this function guarantees that BI's block dominates BB1 and BB2.
838 static bool HoistThenElseCodeToIf(BranchInst *BI) {
839   // This does very trivial matching, with limited scanning, to find identical
840   // instructions in the two blocks.  In particular, we don't want to get into
841   // O(M*N) situations here where M and N are the sizes of BB1 and BB2.  As
842   // such, we currently just scan for obviously identical instructions in an
843   // identical order.
844   BasicBlock *BB1 = BI->getSuccessor(0);  // The true destination.
845   BasicBlock *BB2 = BI->getSuccessor(1);  // The false destination
846
847   Instruction *I1 = BB1->begin(), *I2 = BB2->begin();
848   if (I1->getOpcode() != I2->getOpcode() || !I1->isIdenticalTo(I2) ||
849       isa<PHINode>(I1))
850     return false;
851
852   // If we get here, we can hoist at least one instruction.
853   BasicBlock *BIParent = BI->getParent();
854
855   do {
856     // If we are hoisting the terminator instruction, don't move one (making a
857     // broken BB), instead clone it, and remove BI.
858     if (isa<TerminatorInst>(I1))
859       goto HoistTerminator;
860
861     // For a normal instruction, we just move one to right before the branch,
862     // then replace all uses of the other with the first.  Finally, we remove
863     // the now redundant second instruction.
864     BIParent->getInstList().splice(BI, BB1->getInstList(), I1);
865     if (!I2->use_empty())
866       I2->replaceAllUsesWith(I1);
867     BB2->getInstList().erase(I2);
868
869     I1 = BB1->begin();
870     I2 = BB2->begin();
871   } while (I1->getOpcode() == I2->getOpcode() && I1->isIdenticalTo(I2));
872
873   return true;
874
875 HoistTerminator:
876   // Okay, it is safe to hoist the terminator.
877   Instruction *NT = I1->clone();
878   BIParent->getInstList().insert(BI, NT);
879   if (NT->getType() != Type::VoidTy) {
880     I1->replaceAllUsesWith(NT);
881     I2->replaceAllUsesWith(NT);
882     NT->setName(I1->getName());
883   }
884
885   // Hoisting one of the terminators from our successor is a great thing.
886   // Unfortunately, the successors of the if/else blocks may have PHI nodes in
887   // them.  If they do, all PHI entries for BB1/BB2 must agree for all PHI
888   // nodes, so we insert select instruction to compute the final result.
889   std::map<std::pair<Value*,Value*>, SelectInst*> InsertedSelects;
890   for (succ_iterator SI = succ_begin(BB1), E = succ_end(BB1); SI != E; ++SI) {
891     PHINode *PN;
892     for (BasicBlock::iterator BBI = SI->begin();
893          (PN = dyn_cast<PHINode>(BBI)); ++BBI) {
894       Value *BB1V = PN->getIncomingValueForBlock(BB1);
895       Value *BB2V = PN->getIncomingValueForBlock(BB2);
896       if (BB1V != BB2V) {
897         // These values do not agree.  Insert a select instruction before NT
898         // that determines the right value.
899         SelectInst *&SI = InsertedSelects[std::make_pair(BB1V, BB2V)];
900         if (SI == 0)
901           SI = new SelectInst(BI->getCondition(), BB1V, BB2V,
902                               BB1V->getName()+"."+BB2V->getName(), NT);
903         // Make the PHI node use the select for all incoming values for BB1/BB2
904         for (unsigned i = 0, e = PN->getNumIncomingValues(); i != e; ++i)
905           if (PN->getIncomingBlock(i) == BB1 || PN->getIncomingBlock(i) == BB2)
906             PN->setIncomingValue(i, SI);
907       }
908     }
909   }
910
911   // Update any PHI nodes in our new successors.
912   for (succ_iterator SI = succ_begin(BB1), E = succ_end(BB1); SI != E; ++SI)
913     AddPredecessorToBlock(*SI, BIParent, BB1);
914
915   BI->eraseFromParent();
916   return true;
917 }
918
919 /// BlockIsSimpleEnoughToThreadThrough - Return true if we can thread a branch
920 /// across this block.
921 static bool BlockIsSimpleEnoughToThreadThrough(BasicBlock *BB) {
922   BranchInst *BI = cast<BranchInst>(BB->getTerminator());
923   unsigned Size = 0;
924   
925   // If this basic block contains anything other than a PHI (which controls the
926   // branch) and branch itself, bail out.  FIXME: improve this in the future.
927   for (BasicBlock::iterator BBI = BB->begin(); &*BBI != BI; ++BBI, ++Size) {
928     if (Size > 10) return false;  // Don't clone large BB's.
929     
930     // We can only support instructions that are do not define values that are
931     // live outside of the current basic block.
932     for (Value::use_iterator UI = BBI->use_begin(), E = BBI->use_end();
933          UI != E; ++UI) {
934       Instruction *U = cast<Instruction>(*UI);
935       if (U->getParent() != BB || isa<PHINode>(U)) return false;
936     }
937     
938     // Looks ok, continue checking.
939   }
940
941   return true;
942 }
943
944 /// FoldCondBranchOnPHI - If we have a conditional branch on a PHI node value
945 /// that is defined in the same block as the branch and if any PHI entries are
946 /// constants, thread edges corresponding to that entry to be branches to their
947 /// ultimate destination.
948 static bool FoldCondBranchOnPHI(BranchInst *BI) {
949   BasicBlock *BB = BI->getParent();
950   PHINode *PN = dyn_cast<PHINode>(BI->getCondition());
951   // NOTE: we currently cannot transform this case if the PHI node is used
952   // outside of the block.
953   if (!PN || PN->getParent() != BB || !PN->hasOneUse())
954     return false;
955   
956   // Degenerate case of a single entry PHI.
957   if (PN->getNumIncomingValues() == 1) {
958     if (PN->getIncomingValue(0) != PN)
959       PN->replaceAllUsesWith(PN->getIncomingValue(0));
960     else
961       PN->replaceAllUsesWith(UndefValue::get(PN->getType()));
962     PN->eraseFromParent();
963     return true;    
964   }
965
966   // Now we know that this block has multiple preds and two succs.
967   if (!BlockIsSimpleEnoughToThreadThrough(BB)) return false;
968   
969   // Okay, this is a simple enough basic block.  See if any phi values are
970   // constants.
971   for (unsigned i = 0, e = PN->getNumIncomingValues(); i != e; ++i)
972     if (ConstantBool *CB = dyn_cast<ConstantBool>(PN->getIncomingValue(i))) {
973       // Okay, we now know that all edges from PredBB should be revectored to
974       // branch to RealDest.
975       BasicBlock *PredBB = PN->getIncomingBlock(i);
976       BasicBlock *RealDest = BI->getSuccessor(!CB->getValue());
977       
978       if (RealDest == BB) continue;  // Skip self loops.
979       
980       // The dest block might have PHI nodes, other predecessors and other
981       // difficult cases.  Instead of being smart about this, just insert a new
982       // block that jumps to the destination block, effectively splitting
983       // the edge we are about to create.
984       BasicBlock *EdgeBB = new BasicBlock(RealDest->getName()+".critedge",
985                                           RealDest->getParent(), RealDest);
986       new BranchInst(RealDest, EdgeBB);
987       PHINode *PN;
988       for (BasicBlock::iterator BBI = RealDest->begin();
989            (PN = dyn_cast<PHINode>(BBI)); ++BBI) {
990         Value *V = PN->getIncomingValueForBlock(BB);
991         PN->addIncoming(V, EdgeBB);
992       }
993
994       // BB may have instructions that are being threaded over.  Clone these
995       // instructions into EdgeBB.  We know that there will be no uses of the
996       // cloned instructions outside of EdgeBB.
997       BasicBlock::iterator InsertPt = EdgeBB->begin();
998       std::map<Value*, Value*> TranslateMap;  // Track translated values.
999       for (BasicBlock::iterator BBI = BB->begin(); &*BBI != BI; ++BBI) {
1000         if (PHINode *PN = dyn_cast<PHINode>(BBI)) {
1001           TranslateMap[PN] = PN->getIncomingValueForBlock(PredBB);
1002         } else {
1003           // Clone the instruction.
1004           Instruction *N = BBI->clone();
1005           if (BBI->hasName()) N->setName(BBI->getName()+".c");
1006           
1007           // Update operands due to translation.
1008           for (unsigned i = 0, e = N->getNumOperands(); i != e; ++i) {
1009             std::map<Value*, Value*>::iterator PI =
1010               TranslateMap.find(N->getOperand(i));
1011             if (PI != TranslateMap.end())
1012               N->setOperand(i, PI->second);
1013           }
1014           
1015           // Check for trivial simplification.
1016           if (Constant *C = ConstantFoldInstruction(N)) {
1017             TranslateMap[BBI] = C;
1018             delete N;   // Constant folded away, don't need actual inst
1019           } else {
1020             // Insert the new instruction into its new home.
1021             EdgeBB->getInstList().insert(InsertPt, N);
1022             if (!BBI->use_empty())
1023               TranslateMap[BBI] = N;
1024           }
1025         }
1026       }
1027
1028       // Loop over all of the edges from PredBB to BB, changing them to branch
1029       // to EdgeBB instead.
1030       TerminatorInst *PredBBTI = PredBB->getTerminator();
1031       for (unsigned i = 0, e = PredBBTI->getNumSuccessors(); i != e; ++i)
1032         if (PredBBTI->getSuccessor(i) == BB) {
1033           BB->removePredecessor(PredBB);
1034           PredBBTI->setSuccessor(i, EdgeBB);
1035         }
1036       
1037       // Recurse, simplifying any other constants.
1038       return FoldCondBranchOnPHI(BI) | true;
1039     }
1040
1041   return false;
1042 }
1043
1044 /// FoldTwoEntryPHINode - Given a BB that starts with the specified two-entry
1045 /// PHI node, see if we can eliminate it.
1046 static bool FoldTwoEntryPHINode(PHINode *PN) {
1047   // Ok, this is a two entry PHI node.  Check to see if this is a simple "if
1048   // statement", which has a very simple dominance structure.  Basically, we
1049   // are trying to find the condition that is being branched on, which
1050   // subsequently causes this merge to happen.  We really want control
1051   // dependence information for this check, but simplifycfg can't keep it up
1052   // to date, and this catches most of the cases we care about anyway.
1053   //
1054   BasicBlock *BB = PN->getParent();
1055   BasicBlock *IfTrue, *IfFalse;
1056   Value *IfCond = GetIfCondition(BB, IfTrue, IfFalse);
1057   if (!IfCond) return false;
1058   
1059   DEBUG(std::cerr << "FOUND IF CONDITION!  " << *IfCond << "  T: "
1060         << IfTrue->getName() << "  F: " << IfFalse->getName() << "\n");
1061   
1062   // Loop over the PHI's seeing if we can promote them all to select
1063   // instructions.  While we are at it, keep track of the instructions
1064   // that need to be moved to the dominating block.
1065   std::set<Instruction*> AggressiveInsts;
1066   
1067   BasicBlock::iterator AfterPHIIt = BB->begin();
1068   while (isa<PHINode>(AfterPHIIt)) {
1069     PHINode *PN = cast<PHINode>(AfterPHIIt++);
1070     if (PN->getIncomingValue(0) == PN->getIncomingValue(1)) {
1071       if (PN->getIncomingValue(0) != PN)
1072         PN->replaceAllUsesWith(PN->getIncomingValue(0));
1073       else
1074         PN->replaceAllUsesWith(UndefValue::get(PN->getType()));
1075     } else if (!DominatesMergePoint(PN->getIncomingValue(0), BB,
1076                                     &AggressiveInsts) ||
1077                !DominatesMergePoint(PN->getIncomingValue(1), BB,
1078                                     &AggressiveInsts)) {
1079       return false;
1080     }
1081   }
1082   
1083   // If we all PHI nodes are promotable, check to make sure that all
1084   // instructions in the predecessor blocks can be promoted as well.  If
1085   // not, we won't be able to get rid of the control flow, so it's not
1086   // worth promoting to select instructions.
1087   BasicBlock *DomBlock = 0, *IfBlock1 = 0, *IfBlock2 = 0;
1088   PN = cast<PHINode>(BB->begin());
1089   BasicBlock *Pred = PN->getIncomingBlock(0);
1090   if (cast<BranchInst>(Pred->getTerminator())->isUnconditional()) {
1091     IfBlock1 = Pred;
1092     DomBlock = *pred_begin(Pred);
1093     for (BasicBlock::iterator I = Pred->begin();
1094          !isa<TerminatorInst>(I); ++I)
1095       if (!AggressiveInsts.count(I)) {
1096         // This is not an aggressive instruction that we can promote.
1097         // Because of this, we won't be able to get rid of the control
1098         // flow, so the xform is not worth it.
1099         return false;
1100       }
1101   }
1102     
1103   Pred = PN->getIncomingBlock(1);
1104   if (cast<BranchInst>(Pred->getTerminator())->isUnconditional()) {
1105     IfBlock2 = Pred;
1106     DomBlock = *pred_begin(Pred);
1107     for (BasicBlock::iterator I = Pred->begin();
1108          !isa<TerminatorInst>(I); ++I)
1109       if (!AggressiveInsts.count(I)) {
1110         // This is not an aggressive instruction that we can promote.
1111         // Because of this, we won't be able to get rid of the control
1112         // flow, so the xform is not worth it.
1113         return false;
1114       }
1115   }
1116       
1117   // If we can still promote the PHI nodes after this gauntlet of tests,
1118   // do all of the PHI's now.
1119
1120   // Move all 'aggressive' instructions, which are defined in the
1121   // conditional parts of the if's up to the dominating block.
1122   if (IfBlock1) {
1123     DomBlock->getInstList().splice(DomBlock->getTerminator(),
1124                                    IfBlock1->getInstList(),
1125                                    IfBlock1->begin(),
1126                                    IfBlock1->getTerminator());
1127   }
1128   if (IfBlock2) {
1129     DomBlock->getInstList().splice(DomBlock->getTerminator(),
1130                                    IfBlock2->getInstList(),
1131                                    IfBlock2->begin(),
1132                                    IfBlock2->getTerminator());
1133   }
1134   
1135   while (PHINode *PN = dyn_cast<PHINode>(BB->begin())) {
1136     // Change the PHI node into a select instruction.
1137     Value *TrueVal =
1138       PN->getIncomingValue(PN->getIncomingBlock(0) == IfFalse);
1139     Value *FalseVal =
1140       PN->getIncomingValue(PN->getIncomingBlock(0) == IfTrue);
1141     
1142     std::string Name = PN->getName(); PN->setName("");
1143     PN->replaceAllUsesWith(new SelectInst(IfCond, TrueVal, FalseVal,
1144                                           Name, AfterPHIIt));
1145     BB->getInstList().erase(PN);
1146   }
1147   return true;
1148 }
1149
1150 namespace {
1151   /// ConstantIntOrdering - This class implements a stable ordering of constant
1152   /// integers that does not depend on their address.  This is important for
1153   /// applications that sort ConstantInt's to ensure uniqueness.
1154   struct ConstantIntOrdering {
1155     bool operator()(const ConstantInt *LHS, const ConstantInt *RHS) const {
1156       return LHS->getRawValue() < RHS->getRawValue();
1157     }
1158   };
1159 }
1160
1161 // SimplifyCFG - This function is used to do simplification of a CFG.  For
1162 // example, it adjusts branches to branches to eliminate the extra hop, it
1163 // eliminates unreachable basic blocks, and does other "peephole" optimization
1164 // of the CFG.  It returns true if a modification was made.
1165 //
1166 // WARNING:  The entry node of a function may not be simplified.
1167 //
1168 bool llvm::SimplifyCFG(BasicBlock *BB) {
1169   bool Changed = false;
1170   Function *M = BB->getParent();
1171
1172   assert(BB && BB->getParent() && "Block not embedded in function!");
1173   assert(BB->getTerminator() && "Degenerate basic block encountered!");
1174   assert(&BB->getParent()->front() != BB && "Can't Simplify entry block!");
1175
1176   // Remove basic blocks that have no predecessors... which are unreachable.
1177   if (pred_begin(BB) == pred_end(BB) ||
1178       *pred_begin(BB) == BB && ++pred_begin(BB) == pred_end(BB)) {
1179     DEBUG(std::cerr << "Removing BB: \n" << *BB);
1180
1181     // Loop through all of our successors and make sure they know that one
1182     // of their predecessors is going away.
1183     for (succ_iterator SI = succ_begin(BB), E = succ_end(BB); SI != E; ++SI)
1184       SI->removePredecessor(BB);
1185
1186     while (!BB->empty()) {
1187       Instruction &I = BB->back();
1188       // If this instruction is used, replace uses with an arbitrary
1189       // value.  Because control flow can't get here, we don't care
1190       // what we replace the value with.  Note that since this block is
1191       // unreachable, and all values contained within it must dominate their
1192       // uses, that all uses will eventually be removed.
1193       if (!I.use_empty())
1194         // Make all users of this instruction use undef instead
1195         I.replaceAllUsesWith(UndefValue::get(I.getType()));
1196
1197       // Remove the instruction from the basic block
1198       BB->getInstList().pop_back();
1199     }
1200     M->getBasicBlockList().erase(BB);
1201     return true;
1202   }
1203
1204   // Check to see if we can constant propagate this terminator instruction
1205   // away...
1206   Changed |= ConstantFoldTerminator(BB);
1207
1208   // If this is a returning block with only PHI nodes in it, fold the return
1209   // instruction into any unconditional branch predecessors.
1210   //
1211   // If any predecessor is a conditional branch that just selects among
1212   // different return values, fold the replace the branch/return with a select
1213   // and return.
1214   if (ReturnInst *RI = dyn_cast<ReturnInst>(BB->getTerminator())) {
1215     BasicBlock::iterator BBI = BB->getTerminator();
1216     if (BBI == BB->begin() || isa<PHINode>(--BBI)) {
1217       // Find predecessors that end with branches.
1218       std::vector<BasicBlock*> UncondBranchPreds;
1219       std::vector<BranchInst*> CondBranchPreds;
1220       for (pred_iterator PI = pred_begin(BB), E = pred_end(BB); PI != E; ++PI) {
1221         TerminatorInst *PTI = (*PI)->getTerminator();
1222         if (BranchInst *BI = dyn_cast<BranchInst>(PTI))
1223           if (BI->isUnconditional())
1224             UncondBranchPreds.push_back(*PI);
1225           else
1226             CondBranchPreds.push_back(BI);
1227       }
1228
1229       // If we found some, do the transformation!
1230       if (!UncondBranchPreds.empty()) {
1231         while (!UncondBranchPreds.empty()) {
1232           BasicBlock *Pred = UncondBranchPreds.back();
1233           DEBUG(std::cerr << "FOLDING: " << *BB
1234                           << "INTO UNCOND BRANCH PRED: " << *Pred);
1235           UncondBranchPreds.pop_back();
1236           Instruction *UncondBranch = Pred->getTerminator();
1237           // Clone the return and add it to the end of the predecessor.
1238           Instruction *NewRet = RI->clone();
1239           Pred->getInstList().push_back(NewRet);
1240
1241           // If the return instruction returns a value, and if the value was a
1242           // PHI node in "BB", propagate the right value into the return.
1243           if (NewRet->getNumOperands() == 1)
1244             if (PHINode *PN = dyn_cast<PHINode>(NewRet->getOperand(0)))
1245               if (PN->getParent() == BB)
1246                 NewRet->setOperand(0, PN->getIncomingValueForBlock(Pred));
1247           // Update any PHI nodes in the returning block to realize that we no
1248           // longer branch to them.
1249           BB->removePredecessor(Pred);
1250           Pred->getInstList().erase(UncondBranch);
1251         }
1252
1253         // If we eliminated all predecessors of the block, delete the block now.
1254         if (pred_begin(BB) == pred_end(BB))
1255           // We know there are no successors, so just nuke the block.
1256           M->getBasicBlockList().erase(BB);
1257
1258         return true;
1259       }
1260
1261       // Check out all of the conditional branches going to this return
1262       // instruction.  If any of them just select between returns, change the
1263       // branch itself into a select/return pair.
1264       while (!CondBranchPreds.empty()) {
1265         BranchInst *BI = CondBranchPreds.back();
1266         CondBranchPreds.pop_back();
1267         BasicBlock *TrueSucc = BI->getSuccessor(0);
1268         BasicBlock *FalseSucc = BI->getSuccessor(1);
1269         BasicBlock *OtherSucc = TrueSucc == BB ? FalseSucc : TrueSucc;
1270
1271         // Check to see if the non-BB successor is also a return block.
1272         if (isa<ReturnInst>(OtherSucc->getTerminator())) {
1273           // Check to see if there are only PHI instructions in this block.
1274           BasicBlock::iterator OSI = OtherSucc->getTerminator();
1275           if (OSI == OtherSucc->begin() || isa<PHINode>(--OSI)) {
1276             // Okay, we found a branch that is going to two return nodes.  If
1277             // there is no return value for this function, just change the
1278             // branch into a return.
1279             if (RI->getNumOperands() == 0) {
1280               TrueSucc->removePredecessor(BI->getParent());
1281               FalseSucc->removePredecessor(BI->getParent());
1282               new ReturnInst(0, BI);
1283               BI->getParent()->getInstList().erase(BI);
1284               return true;
1285             }
1286
1287             // Otherwise, figure out what the true and false return values are
1288             // so we can insert a new select instruction.
1289             Value *TrueValue = TrueSucc->getTerminator()->getOperand(0);
1290             Value *FalseValue = FalseSucc->getTerminator()->getOperand(0);
1291
1292             // Unwrap any PHI nodes in the return blocks.
1293             if (PHINode *TVPN = dyn_cast<PHINode>(TrueValue))
1294               if (TVPN->getParent() == TrueSucc)
1295                 TrueValue = TVPN->getIncomingValueForBlock(BI->getParent());
1296             if (PHINode *FVPN = dyn_cast<PHINode>(FalseValue))
1297               if (FVPN->getParent() == FalseSucc)
1298                 FalseValue = FVPN->getIncomingValueForBlock(BI->getParent());
1299
1300             TrueSucc->removePredecessor(BI->getParent());
1301             FalseSucc->removePredecessor(BI->getParent());
1302
1303             // Insert a new select instruction.
1304             Value *NewRetVal;
1305             Value *BrCond = BI->getCondition();
1306             if (TrueValue != FalseValue)
1307               NewRetVal = new SelectInst(BrCond, TrueValue,
1308                                          FalseValue, "retval", BI);
1309             else
1310               NewRetVal = TrueValue;
1311             
1312             DEBUG(std::cerr << "\nCHANGING BRANCH TO TWO RETURNS INTO SELECT:"
1313                   << "\n  " << *BI << "Select = " << *NewRetVal
1314                   << "TRUEBLOCK: " << *TrueSucc << "FALSEBLOCK: "<< *FalseSucc);
1315
1316             new ReturnInst(NewRetVal, BI);
1317             BI->eraseFromParent();
1318             if (Instruction *BrCondI = dyn_cast<Instruction>(BrCond))
1319               if (isInstructionTriviallyDead(BrCondI))
1320                 BrCondI->eraseFromParent();
1321             return true;
1322           }
1323         }
1324       }
1325     }
1326   } else if (UnwindInst *UI = dyn_cast<UnwindInst>(BB->begin())) {
1327     // Check to see if the first instruction in this block is just an unwind.
1328     // If so, replace any invoke instructions which use this as an exception
1329     // destination with call instructions, and any unconditional branch
1330     // predecessor with an unwind.
1331     //
1332     std::vector<BasicBlock*> Preds(pred_begin(BB), pred_end(BB));
1333     while (!Preds.empty()) {
1334       BasicBlock *Pred = Preds.back();
1335       if (BranchInst *BI = dyn_cast<BranchInst>(Pred->getTerminator())) {
1336         if (BI->isUnconditional()) {
1337           Pred->getInstList().pop_back();  // nuke uncond branch
1338           new UnwindInst(Pred);            // Use unwind.
1339           Changed = true;
1340         }
1341       } else if (InvokeInst *II = dyn_cast<InvokeInst>(Pred->getTerminator()))
1342         if (II->getUnwindDest() == BB) {
1343           // Insert a new branch instruction before the invoke, because this
1344           // is now a fall through...
1345           BranchInst *BI = new BranchInst(II->getNormalDest(), II);
1346           Pred->getInstList().remove(II);   // Take out of symbol table
1347
1348           // Insert the call now...
1349           std::vector<Value*> Args(II->op_begin()+3, II->op_end());
1350           CallInst *CI = new CallInst(II->getCalledValue(), Args,
1351                                       II->getName(), BI);
1352           CI->setCallingConv(II->getCallingConv());
1353           // If the invoke produced a value, the Call now does instead
1354           II->replaceAllUsesWith(CI);
1355           delete II;
1356           Changed = true;
1357         }
1358
1359       Preds.pop_back();
1360     }
1361
1362     // If this block is now dead, remove it.
1363     if (pred_begin(BB) == pred_end(BB)) {
1364       // We know there are no successors, so just nuke the block.
1365       M->getBasicBlockList().erase(BB);
1366       return true;
1367     }
1368
1369   } else if (SwitchInst *SI = dyn_cast<SwitchInst>(BB->getTerminator())) {
1370     if (isValueEqualityComparison(SI)) {
1371       // If we only have one predecessor, and if it is a branch on this value,
1372       // see if that predecessor totally determines the outcome of this switch.
1373       if (BasicBlock *OnlyPred = BB->getSinglePredecessor())
1374         if (SimplifyEqualityComparisonWithOnlyPredecessor(SI, OnlyPred))
1375           return SimplifyCFG(BB) || 1;
1376
1377       // If the block only contains the switch, see if we can fold the block
1378       // away into any preds.
1379       if (SI == &BB->front())
1380         if (FoldValueComparisonIntoPredecessors(SI))
1381           return SimplifyCFG(BB) || 1;
1382     }
1383   } else if (BranchInst *BI = dyn_cast<BranchInst>(BB->getTerminator())) {
1384     if (BI->isUnconditional()) {
1385       BasicBlock::iterator BBI = BB->begin();  // Skip over phi nodes...
1386       while (isa<PHINode>(*BBI)) ++BBI;
1387
1388       BasicBlock *Succ = BI->getSuccessor(0);
1389       if (BBI->isTerminator() &&  // Terminator is the only non-phi instruction!
1390           Succ != BB)             // Don't hurt infinite loops!
1391         if (TryToSimplifyUncondBranchFromEmptyBlock(BB, Succ))
1392           return 1;
1393       
1394     } else {  // Conditional branch
1395       if (Value *CompVal = isValueEqualityComparison(BI)) {
1396         // If we only have one predecessor, and if it is a branch on this value,
1397         // see if that predecessor totally determines the outcome of this
1398         // switch.
1399         if (BasicBlock *OnlyPred = BB->getSinglePredecessor())
1400           if (SimplifyEqualityComparisonWithOnlyPredecessor(BI, OnlyPred))
1401             return SimplifyCFG(BB) || 1;
1402
1403         // This block must be empty, except for the setcond inst, if it exists.
1404         BasicBlock::iterator I = BB->begin();
1405         if (&*I == BI ||
1406             (&*I == cast<Instruction>(BI->getCondition()) &&
1407              &*++I == BI))
1408           if (FoldValueComparisonIntoPredecessors(BI))
1409             return SimplifyCFG(BB) | true;
1410       }
1411       
1412       // If this is a branch on a phi node in the current block, thread control
1413       // through this block if any PHI node entries are constants.
1414       if (PHINode *PN = dyn_cast<PHINode>(BI->getCondition()))
1415         if (PN->getParent() == BI->getParent())
1416           if (FoldCondBranchOnPHI(BI))
1417             return SimplifyCFG(BB) | true;
1418
1419       // If this basic block is ONLY a setcc and a branch, and if a predecessor
1420       // branches to us and one of our successors, fold the setcc into the
1421       // predecessor and use logical operations to pick the right destination.
1422       BasicBlock *TrueDest  = BI->getSuccessor(0);
1423       BasicBlock *FalseDest = BI->getSuccessor(1);
1424       if (BinaryOperator *Cond = dyn_cast<BinaryOperator>(BI->getCondition()))
1425         if (Cond->getParent() == BB && &BB->front() == Cond &&
1426             Cond->getNext() == BI && Cond->hasOneUse() &&
1427             TrueDest != BB && FalseDest != BB)
1428           for (pred_iterator PI = pred_begin(BB), E = pred_end(BB); PI!=E; ++PI)
1429             if (BranchInst *PBI = dyn_cast<BranchInst>((*PI)->getTerminator()))
1430               if (PBI->isConditional() && SafeToMergeTerminators(BI, PBI)) {
1431                 BasicBlock *PredBlock = *PI;
1432                 if (PBI->getSuccessor(0) == FalseDest ||
1433                     PBI->getSuccessor(1) == TrueDest) {
1434                   // Invert the predecessors condition test (xor it with true),
1435                   // which allows us to write this code once.
1436                   Value *NewCond =
1437                     BinaryOperator::createNot(PBI->getCondition(),
1438                                     PBI->getCondition()->getName()+".not", PBI);
1439                   PBI->setCondition(NewCond);
1440                   BasicBlock *OldTrue = PBI->getSuccessor(0);
1441                   BasicBlock *OldFalse = PBI->getSuccessor(1);
1442                   PBI->setSuccessor(0, OldFalse);
1443                   PBI->setSuccessor(1, OldTrue);
1444                 }
1445
1446                 if ((PBI->getSuccessor(0) == TrueDest && FalseDest != BB) ||
1447                     (PBI->getSuccessor(1) == FalseDest && TrueDest != BB)) {
1448                   // Clone Cond into the predecessor basic block, and or/and the
1449                   // two conditions together.
1450                   Instruction *New = Cond->clone();
1451                   New->setName(Cond->getName());
1452                   Cond->setName(Cond->getName()+".old");
1453                   PredBlock->getInstList().insert(PBI, New);
1454                   Instruction::BinaryOps Opcode =
1455                     PBI->getSuccessor(0) == TrueDest ?
1456                     Instruction::Or : Instruction::And;
1457                   Value *NewCond =
1458                     BinaryOperator::create(Opcode, PBI->getCondition(),
1459                                            New, "bothcond", PBI);
1460                   PBI->setCondition(NewCond);
1461                   if (PBI->getSuccessor(0) == BB) {
1462                     AddPredecessorToBlock(TrueDest, PredBlock, BB);
1463                     PBI->setSuccessor(0, TrueDest);
1464                   }
1465                   if (PBI->getSuccessor(1) == BB) {
1466                     AddPredecessorToBlock(FalseDest, PredBlock, BB);
1467                     PBI->setSuccessor(1, FalseDest);
1468                   }
1469                   return SimplifyCFG(BB) | 1;
1470                 }
1471               }
1472
1473       // Scan predessor blocks for conditional branchs.
1474       for (pred_iterator PI = pred_begin(BB), E = pred_end(BB); PI != E; ++PI)
1475         if (BranchInst *PBI = dyn_cast<BranchInst>((*PI)->getTerminator()))
1476           if (PBI != BI && PBI->isConditional()) {
1477               
1478             // If this block ends with a branch instruction, and if there is a
1479             // predecessor that ends on a branch of the same condition, make this 
1480             // conditional branch redundant.
1481             if (PBI->getCondition() == BI->getCondition() &&
1482                 PBI->getSuccessor(0) != PBI->getSuccessor(1)) {
1483               // Okay, the outcome of this conditional branch is statically
1484               // knowable.  If this block had a single pred, handle specially.
1485               if (BB->getSinglePredecessor()) {
1486                 // Turn this into a branch on constant.
1487                 bool CondIsTrue = PBI->getSuccessor(0) == BB;
1488                 BI->setCondition(ConstantBool::get(CondIsTrue));
1489                 return SimplifyCFG(BB);  // Nuke the branch on constant.
1490               }
1491               
1492               // Otherwise, if there are multiple predecessors, insert a PHI that
1493               // merges in the constant and simplify the block result.
1494               if (BlockIsSimpleEnoughToThreadThrough(BB)) {
1495                 PHINode *NewPN = new PHINode(Type::BoolTy,
1496                                              BI->getCondition()->getName()+".pr",
1497                                              BB->begin());
1498                 for (PI = pred_begin(BB), E = pred_end(BB); PI != E; ++PI)
1499                   if ((PBI = dyn_cast<BranchInst>((*PI)->getTerminator())) &&
1500                       PBI != BI && PBI->isConditional() &&
1501                       PBI->getCondition() == BI->getCondition() &&
1502                       PBI->getSuccessor(0) != PBI->getSuccessor(1)) {
1503                     bool CondIsTrue = PBI->getSuccessor(0) == BB;
1504                     NewPN->addIncoming(ConstantBool::get(CondIsTrue), *PI);
1505                   } else {
1506                     NewPN->addIncoming(BI->getCondition(), *PI);
1507                   }
1508                 
1509                 BI->setCondition(NewPN);
1510                 // This will thread the branch.
1511                 return SimplifyCFG(BB) | true;
1512               }
1513             }
1514             
1515             // If this is a conditional branch in an empty block, and if any
1516             // predecessors is a conditional branch to one of our destinations,
1517             // fold the conditions into logical ops and one cond br.
1518             if (&BB->front() == BI) {
1519               int PBIOp, BIOp;
1520               if (PBI->getSuccessor(0) == BI->getSuccessor(0)) {
1521                 PBIOp = BIOp = 0;
1522               } else if (PBI->getSuccessor(0) == BI->getSuccessor(1)) {
1523                 PBIOp = 0; BIOp = 1;
1524               } else if (PBI->getSuccessor(1) == BI->getSuccessor(0)) {
1525                 PBIOp = 1; BIOp = 0;
1526               } else if (PBI->getSuccessor(1) == BI->getSuccessor(1)) {
1527                 PBIOp = BIOp = 1;
1528               } else {
1529                 PBIOp = BIOp = -1;
1530               }
1531               
1532               // Check to make sure that the other destination of this branch
1533               // isn't BB itself.  If so, this is an infinite loop that will
1534               // keep getting unwound.
1535               if (PBIOp != -1 && PBI->getSuccessor(PBIOp) == BB)
1536                 PBIOp = BIOp = -1;
1537
1538               // Finally, if everything is ok, fold the branches to logical ops.
1539               if (PBIOp != -1) {
1540                 BasicBlock *CommonDest = PBI->getSuccessor(PBIOp);
1541                 BasicBlock *OtherDest  = BI->getSuccessor(BIOp ^ 1);
1542
1543                 // If OtherDest *is* BB, then this is a basic block with just
1544                 // a conditional branch in it, where one edge (OtherDesg) goes
1545                 // back to the block.  We know that the program doesn't get
1546                 // stuck in the infinite loop, so the condition must be such
1547                 // that OtherDest isn't branched through. Forward to CommonDest,
1548                 // and avoid an infinite loop at optimizer time.
1549                 if (OtherDest == BB)
1550                   OtherDest = CommonDest;
1551                 
1552                 DEBUG(std::cerr << "FOLDING BRs:" << *PBI->getParent()
1553                                 << "AND: " << *BI->getParent());
1554                                 
1555                 // BI may have other predecessors.  Because of this, we leave
1556                 // it alone, but modify PBI.
1557                 
1558                 // Make sure we get to CommonDest on True&True directions.
1559                 Value *PBICond = PBI->getCondition();
1560                 if (PBIOp)
1561                   PBICond = BinaryOperator::createNot(PBICond,
1562                                                       PBICond->getName()+".not",
1563                                                       PBI);
1564                 Value *BICond = BI->getCondition();
1565                 if (BIOp)
1566                   BICond = BinaryOperator::createNot(BICond,
1567                                                      BICond->getName()+".not",
1568                                                      PBI);
1569                 // Merge the conditions.
1570                 Value *Cond =
1571                   BinaryOperator::createOr(PBICond, BICond, "brmerge", PBI);
1572                 
1573                 // Modify PBI to branch on the new condition to the new dests.
1574                 PBI->setCondition(Cond);
1575                 PBI->setSuccessor(0, CommonDest);
1576                 PBI->setSuccessor(1, OtherDest);
1577
1578                 // OtherDest may have phi nodes.  If so, add an entry from PBI's
1579                 // block that are identical to the entries for BI's block.
1580                 PHINode *PN;
1581                 for (BasicBlock::iterator II = OtherDest->begin();
1582                      (PN = dyn_cast<PHINode>(II)); ++II) {
1583                   Value *V = PN->getIncomingValueForBlock(BB);
1584                   PN->addIncoming(V, PBI->getParent());
1585                 }
1586                 
1587                 // We know that the CommonDest already had an edge from PBI to
1588                 // it.  If it has PHIs though, the PHIs may have different
1589                 // entries for BB and PBI's BB.  If so, insert a select to make
1590                 // them agree.
1591                 for (BasicBlock::iterator II = CommonDest->begin();
1592                      (PN = dyn_cast<PHINode>(II)); ++II) {
1593                   Value * BIV = PN->getIncomingValueForBlock(BB);
1594                   unsigned PBBIdx = PN->getBasicBlockIndex(PBI->getParent());
1595                   Value *PBIV = PN->getIncomingValue(PBBIdx);
1596                   if (BIV != PBIV) {
1597                     // Insert a select in PBI to pick the right value.
1598                     Value *NV = new SelectInst(PBICond, PBIV, BIV,
1599                                                PBIV->getName()+".mux", PBI);
1600                     PN->setIncomingValue(PBBIdx, NV);
1601                   }
1602                 }
1603
1604                 DEBUG(std::cerr << "INTO: " << *PBI->getParent());
1605
1606                 // This basic block is probably dead.  We know it has at least
1607                 // one fewer predecessor.
1608                 return SimplifyCFG(BB) | true;
1609               }
1610             }
1611           }
1612     }
1613   } else if (isa<UnreachableInst>(BB->getTerminator())) {
1614     // If there are any instructions immediately before the unreachable that can
1615     // be removed, do so.
1616     Instruction *Unreachable = BB->getTerminator();
1617     while (Unreachable != BB->begin()) {
1618       BasicBlock::iterator BBI = Unreachable;
1619       --BBI;
1620       if (isa<CallInst>(BBI)) break;
1621       // Delete this instruction
1622       BB->getInstList().erase(BBI);
1623       Changed = true;
1624     }
1625
1626     // If the unreachable instruction is the first in the block, take a gander
1627     // at all of the predecessors of this instruction, and simplify them.
1628     if (&BB->front() == Unreachable) {
1629       std::vector<BasicBlock*> Preds(pred_begin(BB), pred_end(BB));
1630       for (unsigned i = 0, e = Preds.size(); i != e; ++i) {
1631         TerminatorInst *TI = Preds[i]->getTerminator();
1632
1633         if (BranchInst *BI = dyn_cast<BranchInst>(TI)) {
1634           if (BI->isUnconditional()) {
1635             if (BI->getSuccessor(0) == BB) {
1636               new UnreachableInst(TI);
1637               TI->eraseFromParent();
1638               Changed = true;
1639             }
1640           } else {
1641             if (BI->getSuccessor(0) == BB) {
1642               new BranchInst(BI->getSuccessor(1), BI);
1643               BI->eraseFromParent();
1644             } else if (BI->getSuccessor(1) == BB) {
1645               new BranchInst(BI->getSuccessor(0), BI);
1646               BI->eraseFromParent();
1647               Changed = true;
1648             }
1649           }
1650         } else if (SwitchInst *SI = dyn_cast<SwitchInst>(TI)) {
1651           for (unsigned i = 1, e = SI->getNumCases(); i != e; ++i)
1652             if (SI->getSuccessor(i) == BB) {
1653               BB->removePredecessor(SI->getParent());
1654               SI->removeCase(i);
1655               --i; --e;
1656               Changed = true;
1657             }
1658           // If the default value is unreachable, figure out the most popular
1659           // destination and make it the default.
1660           if (SI->getSuccessor(0) == BB) {
1661             std::map<BasicBlock*, unsigned> Popularity;
1662             for (unsigned i = 1, e = SI->getNumCases(); i != e; ++i)
1663               Popularity[SI->getSuccessor(i)]++;
1664
1665             // Find the most popular block.
1666             unsigned MaxPop = 0;
1667             BasicBlock *MaxBlock = 0;
1668             for (std::map<BasicBlock*, unsigned>::iterator
1669                    I = Popularity.begin(), E = Popularity.end(); I != E; ++I) {
1670               if (I->second > MaxPop) {
1671                 MaxPop = I->second;
1672                 MaxBlock = I->first;
1673               }
1674             }
1675             if (MaxBlock) {
1676               // Make this the new default, allowing us to delete any explicit
1677               // edges to it.
1678               SI->setSuccessor(0, MaxBlock);
1679               Changed = true;
1680
1681               // If MaxBlock has phinodes in it, remove MaxPop-1 entries from
1682               // it.
1683               if (isa<PHINode>(MaxBlock->begin()))
1684                 for (unsigned i = 0; i != MaxPop-1; ++i)
1685                   MaxBlock->removePredecessor(SI->getParent());
1686
1687               for (unsigned i = 1, e = SI->getNumCases(); i != e; ++i)
1688                 if (SI->getSuccessor(i) == MaxBlock) {
1689                   SI->removeCase(i);
1690                   --i; --e;
1691                 }
1692             }
1693           }
1694         } else if (InvokeInst *II = dyn_cast<InvokeInst>(TI)) {
1695           if (II->getUnwindDest() == BB) {
1696             // Convert the invoke to a call instruction.  This would be a good
1697             // place to note that the call does not throw though.
1698             BranchInst *BI = new BranchInst(II->getNormalDest(), II);
1699             II->removeFromParent();   // Take out of symbol table
1700
1701             // Insert the call now...
1702             std::vector<Value*> Args(II->op_begin()+3, II->op_end());
1703             CallInst *CI = new CallInst(II->getCalledValue(), Args,
1704                                         II->getName(), BI);
1705             CI->setCallingConv(II->getCallingConv());
1706             // If the invoke produced a value, the Call does now instead.
1707             II->replaceAllUsesWith(CI);
1708             delete II;
1709             Changed = true;
1710           }
1711         }
1712       }
1713
1714       // If this block is now dead, remove it.
1715       if (pred_begin(BB) == pred_end(BB)) {
1716         // We know there are no successors, so just nuke the block.
1717         M->getBasicBlockList().erase(BB);
1718         return true;
1719       }
1720     }
1721   }
1722
1723   // Merge basic blocks into their predecessor if there is only one distinct
1724   // pred, and if there is only one distinct successor of the predecessor, and
1725   // if there are no PHI nodes.
1726   //
1727   pred_iterator PI(pred_begin(BB)), PE(pred_end(BB));
1728   BasicBlock *OnlyPred = *PI++;
1729   for (; PI != PE; ++PI)  // Search all predecessors, see if they are all same
1730     if (*PI != OnlyPred) {
1731       OnlyPred = 0;       // There are multiple different predecessors...
1732       break;
1733     }
1734
1735   BasicBlock *OnlySucc = 0;
1736   if (OnlyPred && OnlyPred != BB &&    // Don't break self loops
1737       OnlyPred->getTerminator()->getOpcode() != Instruction::Invoke) {
1738     // Check to see if there is only one distinct successor...
1739     succ_iterator SI(succ_begin(OnlyPred)), SE(succ_end(OnlyPred));
1740     OnlySucc = BB;
1741     for (; SI != SE; ++SI)
1742       if (*SI != OnlySucc) {
1743         OnlySucc = 0;     // There are multiple distinct successors!
1744         break;
1745       }
1746   }
1747
1748   if (OnlySucc) {
1749     DEBUG(std::cerr << "Merging: " << *BB << "into: " << *OnlyPred);
1750     TerminatorInst *Term = OnlyPred->getTerminator();
1751
1752     // Resolve any PHI nodes at the start of the block.  They are all
1753     // guaranteed to have exactly one entry if they exist, unless there are
1754     // multiple duplicate (but guaranteed to be equal) entries for the
1755     // incoming edges.  This occurs when there are multiple edges from
1756     // OnlyPred to OnlySucc.
1757     //
1758     while (PHINode *PN = dyn_cast<PHINode>(&BB->front())) {
1759       PN->replaceAllUsesWith(PN->getIncomingValue(0));
1760       BB->getInstList().pop_front();  // Delete the phi node...
1761     }
1762
1763     // Delete the unconditional branch from the predecessor...
1764     OnlyPred->getInstList().pop_back();
1765
1766     // Move all definitions in the successor to the predecessor...
1767     OnlyPred->getInstList().splice(OnlyPred->end(), BB->getInstList());
1768
1769     // Make all PHI nodes that referred to BB now refer to Pred as their
1770     // source...
1771     BB->replaceAllUsesWith(OnlyPred);
1772
1773     std::string OldName = BB->getName();
1774
1775     // Erase basic block from the function...
1776     M->getBasicBlockList().erase(BB);
1777
1778     // Inherit predecessors name if it exists...
1779     if (!OldName.empty() && !OnlyPred->hasName())
1780       OnlyPred->setName(OldName);
1781
1782     return true;
1783   }
1784
1785   // Otherwise, if this block only has a single predecessor, and if that block
1786   // is a conditional branch, see if we can hoist any code from this block up
1787   // into our predecessor.
1788   if (OnlyPred)
1789     if (BranchInst *BI = dyn_cast<BranchInst>(OnlyPred->getTerminator()))
1790       if (BI->isConditional()) {
1791         // Get the other block.
1792         BasicBlock *OtherBB = BI->getSuccessor(BI->getSuccessor(0) == BB);
1793         PI = pred_begin(OtherBB);
1794         ++PI;
1795         if (PI == pred_end(OtherBB)) {
1796           // We have a conditional branch to two blocks that are only reachable
1797           // from the condbr.  We know that the condbr dominates the two blocks,
1798           // so see if there is any identical code in the "then" and "else"
1799           // blocks.  If so, we can hoist it up to the branching block.
1800           Changed |= HoistThenElseCodeToIf(BI);
1801         }
1802       }
1803
1804   for (pred_iterator PI = pred_begin(BB), E = pred_end(BB); PI != E; ++PI)
1805     if (BranchInst *BI = dyn_cast<BranchInst>((*PI)->getTerminator()))
1806       // Change br (X == 0 | X == 1), T, F into a switch instruction.
1807       if (BI->isConditional() && isa<Instruction>(BI->getCondition())) {
1808         Instruction *Cond = cast<Instruction>(BI->getCondition());
1809         // If this is a bunch of seteq's or'd together, or if it's a bunch of
1810         // 'setne's and'ed together, collect them.
1811         Value *CompVal = 0;
1812         std::vector<ConstantInt*> Values;
1813         bool TrueWhenEqual = GatherValueComparisons(Cond, CompVal, Values);
1814         if (CompVal && CompVal->getType()->isInteger()) {
1815           // There might be duplicate constants in the list, which the switch
1816           // instruction can't handle, remove them now.
1817           std::sort(Values.begin(), Values.end(), ConstantIntOrdering());
1818           Values.erase(std::unique(Values.begin(), Values.end()), Values.end());
1819
1820           // Figure out which block is which destination.
1821           BasicBlock *DefaultBB = BI->getSuccessor(1);
1822           BasicBlock *EdgeBB    = BI->getSuccessor(0);
1823           if (!TrueWhenEqual) std::swap(DefaultBB, EdgeBB);
1824
1825           // Create the new switch instruction now.
1826           SwitchInst *New = new SwitchInst(CompVal, DefaultBB,Values.size(),BI);
1827
1828           // Add all of the 'cases' to the switch instruction.
1829           for (unsigned i = 0, e = Values.size(); i != e; ++i)
1830             New->addCase(Values[i], EdgeBB);
1831
1832           // We added edges from PI to the EdgeBB.  As such, if there were any
1833           // PHI nodes in EdgeBB, they need entries to be added corresponding to
1834           // the number of edges added.
1835           for (BasicBlock::iterator BBI = EdgeBB->begin();
1836                isa<PHINode>(BBI); ++BBI) {
1837             PHINode *PN = cast<PHINode>(BBI);
1838             Value *InVal = PN->getIncomingValueForBlock(*PI);
1839             for (unsigned i = 0, e = Values.size()-1; i != e; ++i)
1840               PN->addIncoming(InVal, *PI);
1841           }
1842
1843           // Erase the old branch instruction.
1844           (*PI)->getInstList().erase(BI);
1845
1846           // Erase the potentially condition tree that was used to computed the
1847           // branch condition.
1848           ErasePossiblyDeadInstructionTree(Cond);
1849           return true;
1850         }
1851       }
1852
1853   // If there is a trivial two-entry PHI node in this basic block, and we can
1854   // eliminate it, do so now.
1855   if (PHINode *PN = dyn_cast<PHINode>(BB->begin()))
1856     if (PN->getNumIncomingValues() == 2)
1857       Changed |= FoldTwoEntryPHINode(PN); 
1858
1859   return Changed;
1860 }