lib/CodeGen/SelectionDAG/LegalizeTypes.h

   1 //===-- LegalizeTypes.h - Definition of the DAG Type Legalizer class ------===//
   2 //
   3 //                     The LLVM Compiler Infrastructure
   4 //
   5 // This file is distributed under the University of Illinois Open Source
   6 // License. See LICENSE.TXT for details.
   7 //
   8 //===----------------------------------------------------------------------===//
   9 //
  10 // This file defines the DAGTypeLegalizer class.  This is a private interface
  11 // shared between the code that implements the SelectionDAG::LegalizeTypes
  12 // method.
  13 //
  14 //===----------------------------------------------------------------------===//
  15
  16 #ifndef SELECTIONDAG_LEGALIZETYPES_H
  17 #define SELECTIONDAG_LEGALIZETYPES_H
  18
  19 #define DEBUG_TYPE "legalize-types"
  20 #include "llvm/CodeGen/SelectionDAG.h"
  21 #include "llvm/Target/TargetLowering.h"
  22 #include "llvm/ADT/DenseMap.h"
  23 #include "llvm/Support/Compiler.h"
  24 #include "llvm/Support/Debug.h"
  25
  26 namespace llvm {
  27
  28 //===----------------------------------------------------------------------===//
  29 /// DAGTypeLegalizer - This takes an arbitrary SelectionDAG as input and
  30 /// hacks on it until the target machine can handle it.  This involves
  31 /// eliminating value sizes the machine cannot handle (promoting small sizes to
  32 /// large sizes or splitting up large values into small values) as well as
  33 /// eliminating operations the machine cannot handle.
  34 ///
  35 /// This code also does a small amount of optimization and recognition of idioms
  36 /// as part of its processing.  For example, if a target does not support a
  37 /// 'setcc' instruction efficiently, but does support 'brcc' instruction, this
  38 /// will attempt merge setcc and brc instructions into brcc's.
  39 ///
  40 class VISIBILITY_HIDDEN DAGTypeLegalizer {
  41   TargetLowering &TLI;
  42   SelectionDAG &DAG;
  43
  44   // NodeIDFlags - This pass uses the NodeID on the SDNodes to hold information
  45   // about the state of the node.  The enum has all the values.
  46   enum NodeIDFlags {
  47     /// ReadyToProcess - All operands have been processed, so this node is ready
  48     /// to be handled.
  49     ReadyToProcess = 0,
  50
  51     /// NewNode - This is a new node that was created in the process of
  52     /// legalizing some other node.
  53     NewNode = -1,
  54
  55     /// Processed - This is a node that has already been processed.
  56     Processed = -2
  57
  58     // 1+ - This is a node which has this many unlegalized operands.
  59   };
  60
  61   enum LegalizeAction {
  62     Legal,      // The target natively supports this type.
  63     Promote,    // This type should be executed in a larger type.
  64     Expand      // This type should be split into two types of half the size.
  65   };
  66
  67   /// ValueTypeActions - This is a bitvector that contains two bits for each
  68   /// simple value type, where the two bits correspond to the LegalizeAction
  69   /// enum.  This can be queried with "getTypeAction(VT)".
  70   TargetLowering::ValueTypeActionImpl ValueTypeActions;
  71
  72   /// getTypeAction - Return how we should legalize values of this type, either
  73   /// it is already legal or we need to expand it into multiple registers of
  74   /// smaller integer type, or we need to promote it to a larger type.
  75   LegalizeAction getTypeAction(MVT::ValueType VT) const {
  76     return (LegalizeAction)ValueTypeActions.getTypeAction(VT);
  77   }
  78
  79   /// isTypeLegal - Return true if this type is legal on this target.
  80   ///
  81   bool isTypeLegal(MVT::ValueType VT) const {
  82     return getTypeAction(VT) == Legal;
  83   }
  84
  85   /// PromotedNodes - For nodes that are below legal width, this map indicates
  86   /// what promoted value to use.
  87   DenseMap<SDOperand, SDOperand> PromotedNodes;
  88
  89   /// ExpandedNodes - For nodes that need to be expanded this map indicates
  90   /// which operands are the expanded version of the input.
  91   DenseMap<SDOperand, std::pair<SDOperand, SDOperand> > ExpandedNodes;
  92
  93   /// ScalarizedNodes - For nodes that are <1 x ty>, this map indicates the
  94   /// scalar value of type 'ty' to use.
  95   DenseMap<SDOperand, SDOperand> ScalarizedNodes;
  96
  97   /// SplitNodes - For nodes that need to be split this map indicates
  98   /// which operands are the expanded version of the input.
  99   DenseMap<SDOperand, std::pair<SDOperand, SDOperand> > SplitNodes;
 100
 101   /// ReplacedNodes - For nodes that have been replaced with another,
 102   /// indicates the replacement node to use.
 103   DenseMap<SDOperand, SDOperand> ReplacedNodes;
 104
 105   /// Worklist - This defines a worklist of nodes to process.  In order to be
 106   /// pushed onto this worklist, all operands of a node must have already been
 107   /// processed.
 108   SmallVector<SDNode*, 128> Worklist;
 109
 110 public:
 111   explicit DAGTypeLegalizer(SelectionDAG &dag)
 112     : TLI(dag.getTargetLoweringInfo()), DAG(dag),
 113     ValueTypeActions(TLI.getValueTypeActions()) {
 114     assert(MVT::LAST_VALUETYPE <= 32 &&
 115            "Too many value types for ValueTypeActions to hold!");
 116   }
 117
 118   void run();
 119
 120 private:
 121   void MarkNewNodes(SDNode *N);
 122
 123   void ReplaceValueWith(SDOperand From, SDOperand To);
 124   void ReplaceNodeWith(SDNode *From, SDNode *To);
 125
 126   void RemapNode(SDOperand &N);
 127
 128   // Common routines.
 129   SDOperand CreateStackStoreLoad(SDOperand Op, MVT::ValueType DestVT);
 130   SDOperand HandleMemIntrinsic(SDNode *N);
 131   void SplitOp(SDOperand Op, SDOperand &Lo, SDOperand &Hi);
 132
 133   //===--------------------------------------------------------------------===//
 134   // Promotion Support: LegalizeTypesPromote.cpp
 135   //===--------------------------------------------------------------------===//
 136
 137   SDOperand GetPromotedOp(SDOperand Op) {
 138     SDOperand &PromotedOp = PromotedNodes[Op];
 139     RemapNode(PromotedOp);
 140     assert(PromotedOp.Val && "Operand wasn't promoted?");
 141     return PromotedOp;
 142   }
 143   void SetPromotedOp(SDOperand Op, SDOperand Result);
 144
 145   /// GetPromotedZExtOp - Get a promoted operand and zero extend it to the final
 146   /// size.
 147   SDOperand GetPromotedZExtOp(SDOperand Op) {
 148     MVT::ValueType OldVT = Op.getValueType();
 149     Op = GetPromotedOp(Op);
 150     return DAG.getZeroExtendInReg(Op, OldVT);
 151   }
 152
 153   // Result Promotion.
 154   void PromoteResult(SDNode *N, unsigned ResNo);
 155   SDOperand PromoteResult_UNDEF(SDNode *N);
 156   SDOperand PromoteResult_Constant(SDNode *N);
 157   SDOperand PromoteResult_TRUNCATE(SDNode *N);
 158   SDOperand PromoteResult_INT_EXTEND(SDNode *N);
 159   SDOperand PromoteResult_FP_ROUND(SDNode *N);
 160   SDOperand PromoteResult_FP_TO_XINT(SDNode *N);
 161   SDOperand PromoteResult_SETCC(SDNode *N);
 162   SDOperand PromoteResult_LOAD(LoadSDNode *N);
 163   SDOperand PromoteResult_SimpleIntBinOp(SDNode *N);
 164   SDOperand PromoteResult_SDIV(SDNode *N);
 165   SDOperand PromoteResult_UDIV(SDNode *N);
 166   SDOperand PromoteResult_SHL(SDNode *N);
 167   SDOperand PromoteResult_SRA(SDNode *N);
 168   SDOperand PromoteResult_SRL(SDNode *N);
 169   SDOperand PromoteResult_SELECT   (SDNode *N);
 170   SDOperand PromoteResult_SELECT_CC(SDNode *N);
 171
 172   // Operand Promotion.
 173   bool PromoteOperand(SDNode *N, unsigned OperandNo);
 174   SDOperand PromoteOperand_ANY_EXTEND(SDNode *N);
 175   SDOperand PromoteOperand_ZERO_EXTEND(SDNode *N);
 176   SDOperand PromoteOperand_SIGN_EXTEND(SDNode *N);
 177   SDOperand PromoteOperand_TRUNCATE(SDNode *N);
 178   SDOperand PromoteOperand_FP_EXTEND(SDNode *N);
 179   SDOperand PromoteOperand_FP_ROUND(SDNode *N);
 180   SDOperand PromoteOperand_INT_TO_FP(SDNode *N);
 181   SDOperand PromoteOperand_SELECT(SDNode *N, unsigned OpNo);
 182   SDOperand PromoteOperand_BRCOND(SDNode *N, unsigned OpNo);
 183   SDOperand PromoteOperand_BR_CC(SDNode *N, unsigned OpNo);
 184   SDOperand PromoteOperand_SETCC(SDNode *N, unsigned OpNo);
 185   SDOperand PromoteOperand_STORE(StoreSDNode *N, unsigned OpNo);
 186
 187   void PromoteSetCCOperands(SDOperand &LHS,SDOperand &RHS, ISD::CondCode Code);
 188
 189   //===--------------------------------------------------------------------===//
 190   // Expansion Support: LegalizeTypesExpand.cpp
 191   //===--------------------------------------------------------------------===//
 192
 193   void GetExpandedOp(SDOperand Op, SDOperand &Lo, SDOperand &Hi);
 194   void SetExpandedOp(SDOperand Op, SDOperand Lo, SDOperand Hi);
 195
 196   // Result Expansion.
 197   void ExpandResult(SDNode *N, unsigned ResNo);
 198   void ExpandResult_UNDEF      (SDNode *N, SDOperand &Lo, SDOperand &Hi);
 199   void ExpandResult_Constant   (SDNode *N, SDOperand &Lo, SDOperand &Hi);
 200   void ExpandResult_BUILD_PAIR (SDNode *N, SDOperand &Lo, SDOperand &Hi);
 201   void ExpandResult_MERGE_VALUES(SDNode *N, SDOperand &Lo, SDOperand &Hi);
 202   void ExpandResult_ANY_EXTEND (SDNode *N, SDOperand &Lo, SDOperand &Hi);
 203   void ExpandResult_ZERO_EXTEND(SDNode *N, SDOperand &Lo, SDOperand &Hi);
 204   void ExpandResult_SIGN_EXTEND(SDNode *N, SDOperand &Lo, SDOperand &Hi);
 205   void ExpandResult_BIT_CONVERT(SDNode *N, SDOperand &Lo, SDOperand &Hi);
 206   void ExpandResult_SIGN_EXTEND_INREG(SDNode *N, SDOperand &Lo, SDOperand &Hi);
 207   void ExpandResult_LOAD       (LoadSDNode *N, SDOperand &Lo, SDOperand &Hi);
 208
 209   void ExpandResult_Logical    (SDNode *N, SDOperand &Lo, SDOperand &Hi);
 210   void ExpandResult_BSWAP      (SDNode *N, SDOperand &Lo, SDOperand &Hi);
 211   void ExpandResult_ADDSUB     (SDNode *N, SDOperand &Lo, SDOperand &Hi);
 212   void ExpandResult_ADDSUBC    (SDNode *N, SDOperand &Lo, SDOperand &Hi);
 213   void ExpandResult_ADDSUBE    (SDNode *N, SDOperand &Lo, SDOperand &Hi);
 214   void ExpandResult_SELECT     (SDNode *N, SDOperand &Lo, SDOperand &Hi);
 215   void ExpandResult_SELECT_CC  (SDNode *N, SDOperand &Lo, SDOperand &Hi);
 216   void ExpandResult_MUL        (SDNode *N, SDOperand &Lo, SDOperand &Hi);
 217   void ExpandResult_Shift      (SDNode *N, SDOperand &Lo, SDOperand &Hi);
 218
 219   void ExpandShiftByConstant(SDNode *N, unsigned Amt,
 220                              SDOperand &Lo, SDOperand &Hi);
 221   bool ExpandShiftWithKnownAmountBit(SDNode *N, SDOperand &Lo, SDOperand &Hi);
 222
 223   // Operand Expansion.
 224   bool ExpandOperand(SDNode *N, unsigned OperandNo);
 225   SDOperand ExpandOperand_TRUNCATE(SDNode *N);
 226   SDOperand ExpandOperand_BIT_CONVERT(SDNode *N);
 227   SDOperand ExpandOperand_UINT_TO_FP(SDOperand Source, MVT::ValueType DestTy);
 228   SDOperand ExpandOperand_SINT_TO_FP(SDOperand Source, MVT::ValueType DestTy);
 229   SDOperand ExpandOperand_EXTRACT_ELEMENT(SDNode *N);
 230   SDOperand ExpandOperand_SETCC(SDNode *N);
 231   SDOperand ExpandOperand_STORE(StoreSDNode *N, unsigned OpNo);
 232
 233   void ExpandSetCCOperands(SDOperand &NewLHS, SDOperand &NewRHS,
 234                            ISD::CondCode &CCCode);
 235
 236   //===--------------------------------------------------------------------===//
 237   // Scalarization Support: LegalizeTypesScalarize.cpp
 238   //===--------------------------------------------------------------------===//
 239
 240   SDOperand GetScalarizedOp(SDOperand Op) {
 241     SDOperand &ScalarOp = ScalarizedNodes[Op];
 242     RemapNode(ScalarOp);
 243     assert(ScalarOp.Val && "Operand wasn't scalarized?");
 244     return ScalarOp;
 245   }
 246   void SetScalarizedOp(SDOperand Op, SDOperand Result);
 247
 248   // Result Vector Scalarization: <1 x ty> -> ty.
 249   void ScalarizeResult(SDNode *N, unsigned OpNo);
 250   SDOperand ScalarizeRes_UNDEF(SDNode *N);
 251   SDOperand ScalarizeRes_LOAD(LoadSDNode *N);
 252   SDOperand ScalarizeRes_BinOp(SDNode *N);
 253   SDOperand ScalarizeRes_UnaryOp(SDNode *N);
 254   SDOperand ScalarizeRes_FPOWI(SDNode *N);
 255   SDOperand ScalarizeRes_VECTOR_SHUFFLE(SDNode *N);
 256   SDOperand ScalarizeRes_BIT_CONVERT(SDNode *N);
 257   SDOperand ScalarizeRes_SELECT(SDNode *N);
 258
 259   // Operand Vector Scalarization: <1 x ty> -> ty.
 260   bool ScalarizeOperand(SDNode *N, unsigned OpNo);
 261   SDOperand ScalarizeOp_EXTRACT_VECTOR_ELT(SDNode *N, unsigned OpNo);
 262
 263   //===--------------------------------------------------------------------===//
 264   // Vector Splitting Support: LegalizeTypesSplit.cpp
 265   //===--------------------------------------------------------------------===//
 266
 267   void GetSplitOp(SDOperand Op, SDOperand &Lo, SDOperand &Hi);
 268   void SetSplitOp(SDOperand Op, SDOperand Lo, SDOperand Hi);
 269
 270   // Result Vector Splitting: <128 x ty> -> 2 x <64 x ty>.
 271   void SplitResult(SDNode *N, unsigned OpNo);
 272
 273   void SplitRes_UNDEF(SDNode *N, SDOperand &Lo, SDOperand &Hi);
 274   void SplitRes_LOAD(LoadSDNode *N, SDOperand &Lo, SDOperand &Hi);
 275   void SplitRes_BUILD_PAIR(SDNode *N, SDOperand &Lo, SDOperand &Hi);
 276   void SplitRes_INSERT_VECTOR_ELT(SDNode *N, SDOperand &Lo, SDOperand &Hi);
 277   void SplitRes_VECTOR_SHUFFLE(SDNode *N, SDOperand &Lo, SDOperand &Hi);
 278
 279   void SplitRes_BUILD_VECTOR(SDNode *N, SDOperand &Lo, SDOperand &Hi);
 280   void SplitRes_CONCAT_VECTORS(SDNode *N, SDOperand &Lo, SDOperand &Hi);
 281   void SplitRes_BIT_CONVERT(SDNode *N, SDOperand &Lo, SDOperand &Hi);
 282   void SplitRes_UnOp(SDNode *N, SDOperand &Lo, SDOperand &Hi);
 283   void SplitRes_BinOp(SDNode *N, SDOperand &Lo, SDOperand &Hi);
 284   void SplitRes_FPOWI(SDNode *N, SDOperand &Lo, SDOperand &Hi);
 285   void SplitRes_SELECT(SDNode *N, SDOperand &Lo, SDOperand &Hi);
 286
 287   // Operand Vector Scalarization: <128 x ty> -> 2 x <64 x ty>.
 288   bool SplitOperand(SDNode *N, unsigned OpNo);
 289
 290   SDOperand SplitOp_STORE(StoreSDNode *N, unsigned OpNo);
 291   SDOperand SplitOp_RET(SDNode *N, unsigned OpNo);
 292 };
 293
 294 } // end namespace llvm.
 295
 296 #endif