Remove more non-DebugLoc versions of getNode.
[oota-llvm.git] / lib / Target / Alpha / AlphaISelLowering.cpp
1 //===-- AlphaISelLowering.cpp - Alpha DAG Lowering Implementation ---------===//
2 //
3 //                     The LLVM Compiler Infrastructure
4 //
5 // This file is distributed under the University of Illinois Open Source
6 // License. See LICENSE.TXT for details.
7 //
8 //===----------------------------------------------------------------------===//
9 //
10 // This file implements the AlphaISelLowering class.
11 //
12 //===----------------------------------------------------------------------===//
13
14 #include "AlphaISelLowering.h"
15 #include "AlphaTargetMachine.h"
16 #include "llvm/CodeGen/MachineFrameInfo.h"
17 #include "llvm/CodeGen/MachineFunction.h"
18 #include "llvm/CodeGen/MachineInstrBuilder.h"
19 #include "llvm/CodeGen/MachineRegisterInfo.h"
20 #include "llvm/CodeGen/SelectionDAG.h"
21 #include "llvm/CodeGen/MachineRegisterInfo.h"
22 #include "llvm/Constants.h"
23 #include "llvm/Function.h"
24 #include "llvm/Module.h"
25 #include "llvm/Intrinsics.h"
26 #include "llvm/Support/CommandLine.h"
27 using namespace llvm;
28
29 /// AddLiveIn - This helper function adds the specified physical register to the
30 /// MachineFunction as a live in value.  It also creates a corresponding virtual
31 /// register for it.
32 static unsigned AddLiveIn(MachineFunction &MF, unsigned PReg,
33                           TargetRegisterClass *RC) {
34   assert(RC->contains(PReg) && "Not the correct regclass!");
35   unsigned VReg = MF.getRegInfo().createVirtualRegister(RC);
36   MF.getRegInfo().addLiveIn(PReg, VReg);
37   return VReg;
38 }
39
40 AlphaTargetLowering::AlphaTargetLowering(TargetMachine &TM) : TargetLowering(TM) {
41   // Set up the TargetLowering object.
42   //I am having problems with shr n ubyte 1
43   setShiftAmountType(MVT::i64);
44   setBooleanContents(ZeroOrOneBooleanContent);
45   
46   setUsesGlobalOffsetTable(true);
47   
48   addRegisterClass(MVT::i64, Alpha::GPRCRegisterClass);
49   addRegisterClass(MVT::f64, Alpha::F8RCRegisterClass);
50   addRegisterClass(MVT::f32, Alpha::F4RCRegisterClass);
51
52   // We want to custom lower some of our intrinsics.
53   setOperationAction(ISD::INTRINSIC_WO_CHAIN, MVT::Other, Custom);
54
55   setLoadExtAction(ISD::EXTLOAD, MVT::i1,  Promote);
56   setLoadExtAction(ISD::EXTLOAD, MVT::f32, Expand);
57   
58   setLoadExtAction(ISD::ZEXTLOAD, MVT::i1,  Promote);
59   setLoadExtAction(ISD::ZEXTLOAD, MVT::i32, Expand);
60   
61   setLoadExtAction(ISD::SEXTLOAD, MVT::i1,  Promote);
62   setLoadExtAction(ISD::SEXTLOAD, MVT::i8,  Expand);
63   setLoadExtAction(ISD::SEXTLOAD, MVT::i16, Expand);
64
65   //  setOperationAction(ISD::BRIND,        MVT::Other,   Expand);
66   setOperationAction(ISD::BR_JT,        MVT::Other, Expand);
67   setOperationAction(ISD::BR_CC,        MVT::Other, Expand);
68   setOperationAction(ISD::SELECT_CC,    MVT::Other, Expand);  
69
70   setOperationAction(ISD::SIGN_EXTEND_INREG, MVT::i1, Expand);
71
72   setOperationAction(ISD::FREM, MVT::f32, Expand);
73   setOperationAction(ISD::FREM, MVT::f64, Expand);
74   
75   setOperationAction(ISD::UINT_TO_FP, MVT::i64, Expand);
76   setOperationAction(ISD::SINT_TO_FP, MVT::i64, Custom);
77   setOperationAction(ISD::FP_TO_UINT, MVT::i64, Expand);
78   setOperationAction(ISD::FP_TO_SINT, MVT::i64, Custom);
79
80   if (!TM.getSubtarget<AlphaSubtarget>().hasCT()) {
81     setOperationAction(ISD::CTPOP    , MVT::i64  , Expand);
82     setOperationAction(ISD::CTTZ     , MVT::i64  , Expand);
83     setOperationAction(ISD::CTLZ     , MVT::i64  , Expand);
84   }
85   setOperationAction(ISD::BSWAP    , MVT::i64, Expand);
86   setOperationAction(ISD::ROTL     , MVT::i64, Expand);
87   setOperationAction(ISD::ROTR     , MVT::i64, Expand);
88   
89   setOperationAction(ISD::SREM     , MVT::i64, Custom);
90   setOperationAction(ISD::UREM     , MVT::i64, Custom);
91   setOperationAction(ISD::SDIV     , MVT::i64, Custom);
92   setOperationAction(ISD::UDIV     , MVT::i64, Custom);
93
94   setOperationAction(ISD::ADDC     , MVT::i64, Expand);
95   setOperationAction(ISD::ADDE     , MVT::i64, Expand);
96   setOperationAction(ISD::SUBC     , MVT::i64, Expand);
97   setOperationAction(ISD::SUBE     , MVT::i64, Expand);
98
99   setOperationAction(ISD::UMUL_LOHI, MVT::i64, Expand);
100   setOperationAction(ISD::SMUL_LOHI, MVT::i64, Expand);
101
102
103   // We don't support sin/cos/sqrt/pow
104   setOperationAction(ISD::FSIN , MVT::f64, Expand);
105   setOperationAction(ISD::FCOS , MVT::f64, Expand);
106   setOperationAction(ISD::FSIN , MVT::f32, Expand);
107   setOperationAction(ISD::FCOS , MVT::f32, Expand);
108
109   setOperationAction(ISD::FSQRT, MVT::f64, Expand);
110   setOperationAction(ISD::FSQRT, MVT::f32, Expand);
111
112   setOperationAction(ISD::FPOW , MVT::f32, Expand);
113   setOperationAction(ISD::FPOW , MVT::f64, Expand);
114
115   setOperationAction(ISD::SETCC, MVT::f32, Promote);
116
117   setOperationAction(ISD::BIT_CONVERT, MVT::f32, Promote);
118
119   // We don't have line number support yet.
120   setOperationAction(ISD::DBG_STOPPOINT, MVT::Other, Expand);
121   setOperationAction(ISD::DEBUG_LOC, MVT::Other, Expand);
122   setOperationAction(ISD::DBG_LABEL, MVT::Other, Expand);
123   setOperationAction(ISD::EH_LABEL, MVT::Other, Expand);
124
125   // Not implemented yet.
126   setOperationAction(ISD::STACKSAVE, MVT::Other, Expand); 
127   setOperationAction(ISD::STACKRESTORE, MVT::Other, Expand);
128   setOperationAction(ISD::DYNAMIC_STACKALLOC, MVT::i64, Expand);
129
130   // We want to legalize GlobalAddress and ConstantPool and
131   // ExternalSymbols nodes into the appropriate instructions to
132   // materialize the address.
133   setOperationAction(ISD::GlobalAddress,  MVT::i64, Custom);
134   setOperationAction(ISD::ConstantPool,   MVT::i64, Custom);
135   setOperationAction(ISD::ExternalSymbol, MVT::i64, Custom);
136   setOperationAction(ISD::GlobalTLSAddress, MVT::i64, Custom);
137
138   setOperationAction(ISD::VASTART, MVT::Other, Custom);
139   setOperationAction(ISD::VAEND,   MVT::Other, Expand);
140   setOperationAction(ISD::VACOPY,  MVT::Other, Custom);
141   setOperationAction(ISD::VAARG,   MVT::Other, Custom);
142   setOperationAction(ISD::VAARG,   MVT::i32,   Custom);
143
144   setOperationAction(ISD::RET,     MVT::Other, Custom);
145
146   setOperationAction(ISD::JumpTable, MVT::i64, Custom);
147   setOperationAction(ISD::JumpTable, MVT::i32, Custom);
148
149   setStackPointerRegisterToSaveRestore(Alpha::R30);
150
151   addLegalFPImmediate(APFloat(+0.0)); //F31
152   addLegalFPImmediate(APFloat(+0.0f)); //F31
153   addLegalFPImmediate(APFloat(-0.0)); //-F31
154   addLegalFPImmediate(APFloat(-0.0f)); //-F31
155
156   setJumpBufSize(272);
157   setJumpBufAlignment(16);
158
159   computeRegisterProperties();
160 }
161
162 MVT AlphaTargetLowering::getSetCCResultType(MVT VT) const {
163   return MVT::i64;
164 }
165
166 const char *AlphaTargetLowering::getTargetNodeName(unsigned Opcode) const {
167   switch (Opcode) {
168   default: return 0;
169   case AlphaISD::CVTQT_: return "Alpha::CVTQT_";
170   case AlphaISD::CVTQS_: return "Alpha::CVTQS_";
171   case AlphaISD::CVTTQ_: return "Alpha::CVTTQ_";
172   case AlphaISD::GPRelHi: return "Alpha::GPRelHi";
173   case AlphaISD::GPRelLo: return "Alpha::GPRelLo";
174   case AlphaISD::RelLit: return "Alpha::RelLit";
175   case AlphaISD::GlobalRetAddr: return "Alpha::GlobalRetAddr";
176   case AlphaISD::CALL:   return "Alpha::CALL";
177   case AlphaISD::DivCall: return "Alpha::DivCall";
178   case AlphaISD::RET_FLAG: return "Alpha::RET_FLAG";
179   case AlphaISD::COND_BRANCH_I: return "Alpha::COND_BRANCH_I";
180   case AlphaISD::COND_BRANCH_F: return "Alpha::COND_BRANCH_F";
181   }
182 }
183
184 static SDValue LowerJumpTable(SDValue Op, SelectionDAG &DAG) {
185   MVT PtrVT = Op.getValueType();
186   JumpTableSDNode *JT = cast<JumpTableSDNode>(Op);
187   SDValue JTI = DAG.getTargetJumpTable(JT->getIndex(), PtrVT);
188   SDValue Zero = DAG.getConstant(0, PtrVT);
189   // FIXME there isn't really any debug info here
190   DebugLoc dl = Op.getDebugLoc();
191   
192   SDValue Hi = DAG.getNode(AlphaISD::GPRelHi,  dl, MVT::i64, JTI,
193                              DAG.getNode(ISD::GLOBAL_OFFSET_TABLE, MVT::i64));
194   SDValue Lo = DAG.getNode(AlphaISD::GPRelLo, dl, MVT::i64, JTI, Hi);
195   return Lo;
196 }
197
198 //http://www.cs.arizona.edu/computer.help/policy/DIGITAL_unix/
199 //AA-PY8AC-TET1_html/callCH3.html#BLOCK21
200
201 //For now, just use variable size stack frame format
202
203 //In a standard call, the first six items are passed in registers $16
204 //- $21 and/or registers $f16 - $f21. (See Section 4.1.2 for details
205 //of argument-to-register correspondence.) The remaining items are
206 //collected in a memory argument list that is a naturally aligned
207 //array of quadwords. In a standard call, this list, if present, must
208 //be passed at 0(SP).
209 //7 ... n         0(SP) ... (n-7)*8(SP)
210
211 // //#define FP    $15
212 // //#define RA    $26
213 // //#define PV    $27
214 // //#define GP    $29
215 // //#define SP    $30
216
217 static SDValue LowerFORMAL_ARGUMENTS(SDValue Op, SelectionDAG &DAG,
218                                        int &VarArgsBase,
219                                        int &VarArgsOffset) {
220   MachineFunction &MF = DAG.getMachineFunction();
221   MachineFrameInfo *MFI = MF.getFrameInfo();
222   std::vector<SDValue> ArgValues;
223   SDValue Root = Op.getOperand(0);
224   DebugLoc dl = Op.getDebugLoc();
225
226   AddLiveIn(MF, Alpha::R29, &Alpha::GPRCRegClass); //GP
227   AddLiveIn(MF, Alpha::R26, &Alpha::GPRCRegClass); //RA
228
229   unsigned args_int[] = {
230     Alpha::R16, Alpha::R17, Alpha::R18, Alpha::R19, Alpha::R20, Alpha::R21};
231   unsigned args_float[] = {
232     Alpha::F16, Alpha::F17, Alpha::F18, Alpha::F19, Alpha::F20, Alpha::F21};
233   
234   for (unsigned ArgNo = 0, e = Op.getNode()->getNumValues()-1; ArgNo != e; ++ArgNo) {
235     SDValue argt;
236     MVT ObjectVT = Op.getValue(ArgNo).getValueType();
237     SDValue ArgVal;
238
239     if (ArgNo  < 6) {
240       switch (ObjectVT.getSimpleVT()) {
241       default:
242         assert(false && "Invalid value type!");
243       case MVT::f64:
244         args_float[ArgNo] = AddLiveIn(MF, args_float[ArgNo], 
245                                       &Alpha::F8RCRegClass);
246         ArgVal = DAG.getCopyFromReg(Root, dl, args_float[ArgNo], ObjectVT);
247         break;
248       case MVT::f32:
249         args_float[ArgNo] = AddLiveIn(MF, args_float[ArgNo], 
250                                       &Alpha::F4RCRegClass);
251         ArgVal = DAG.getCopyFromReg(Root, dl, args_float[ArgNo], ObjectVT);
252         break;
253       case MVT::i64:
254         args_int[ArgNo] = AddLiveIn(MF, args_int[ArgNo], 
255                                     &Alpha::GPRCRegClass);
256         ArgVal = DAG.getCopyFromReg(Root, dl, args_int[ArgNo], MVT::i64);
257         break;
258       }
259     } else { //more args
260       // Create the frame index object for this incoming parameter...
261       int FI = MFI->CreateFixedObject(8, 8 * (ArgNo - 6));
262
263       // Create the SelectionDAG nodes corresponding to a load
264       //from this parameter
265       SDValue FIN = DAG.getFrameIndex(FI, MVT::i64);
266       ArgVal = DAG.getLoad(ObjectVT, dl, Root, FIN, NULL, 0);
267     }
268     ArgValues.push_back(ArgVal);
269   }
270
271   // If the functions takes variable number of arguments, copy all regs to stack
272   bool isVarArg = cast<ConstantSDNode>(Op.getOperand(2))->getZExtValue() != 0;
273   if (isVarArg) {
274     VarArgsOffset = (Op.getNode()->getNumValues()-1) * 8;
275     std::vector<SDValue> LS;
276     for (int i = 0; i < 6; ++i) {
277       if (TargetRegisterInfo::isPhysicalRegister(args_int[i]))
278         args_int[i] = AddLiveIn(MF, args_int[i], &Alpha::GPRCRegClass);
279       SDValue argt = DAG.getCopyFromReg(Root, dl, args_int[i], MVT::i64);
280       int FI = MFI->CreateFixedObject(8, -8 * (6 - i));
281       if (i == 0) VarArgsBase = FI;
282       SDValue SDFI = DAG.getFrameIndex(FI, MVT::i64);
283       LS.push_back(DAG.getStore(Root, dl, argt, SDFI, NULL, 0));
284
285       if (TargetRegisterInfo::isPhysicalRegister(args_float[i]))
286         args_float[i] = AddLiveIn(MF, args_float[i], &Alpha::F8RCRegClass);
287       argt = DAG.getCopyFromReg(Root, dl, args_float[i], MVT::f64);
288       FI = MFI->CreateFixedObject(8, - 8 * (12 - i));
289       SDFI = DAG.getFrameIndex(FI, MVT::i64);
290       LS.push_back(DAG.getStore(Root, dl, argt, SDFI, NULL, 0));
291     }
292
293     //Set up a token factor with all the stack traffic
294     Root = DAG.getNode(ISD::TokenFactor, dl, MVT::Other, &LS[0], LS.size());
295   }
296
297   ArgValues.push_back(Root);
298
299   // Return the new list of results.
300   return DAG.getNode(ISD::MERGE_VALUES, dl, Op.getNode()->getVTList(),
301                      &ArgValues[0], ArgValues.size());
302 }
303
304 static SDValue LowerRET(SDValue Op, SelectionDAG &DAG) {
305   DebugLoc dl = Op.getDebugLoc();
306   SDValue Copy = DAG.getCopyToReg(Op.getOperand(0), dl, Alpha::R26, 
307                                     DAG.getNode(AlphaISD::GlobalRetAddr, 
308                                                 MVT::i64),
309                                     SDValue());
310   switch (Op.getNumOperands()) {
311   default:
312     assert(0 && "Do not know how to return this many arguments!");
313     abort();
314   case 1: 
315     break;
316     //return SDValue(); // ret void is legal
317   case 3: {
318     MVT ArgVT = Op.getOperand(1).getValueType();
319     unsigned ArgReg;
320     if (ArgVT.isInteger())
321       ArgReg = Alpha::R0;
322     else {
323       assert(ArgVT.isFloatingPoint());
324       ArgReg = Alpha::F0;
325     }
326     Copy = DAG.getCopyToReg(Copy, dl, ArgReg, 
327                             Op.getOperand(1), Copy.getValue(1));
328     if (DAG.getMachineFunction().getRegInfo().liveout_empty())
329       DAG.getMachineFunction().getRegInfo().addLiveOut(ArgReg);
330     break;
331   }
332   case 5: {
333     MVT ArgVT = Op.getOperand(1).getValueType();
334     unsigned ArgReg1, ArgReg2;
335     if (ArgVT.isInteger()) {
336       ArgReg1 = Alpha::R0;
337       ArgReg2 = Alpha::R1;
338     } else {
339       assert(ArgVT.isFloatingPoint());
340       ArgReg1 = Alpha::F0;
341       ArgReg2 = Alpha::F1;
342     }
343     Copy = DAG.getCopyToReg(Copy, dl, ArgReg1, 
344                             Op.getOperand(1), Copy.getValue(1));
345     if (std::find(DAG.getMachineFunction().getRegInfo().liveout_begin(), 
346                   DAG.getMachineFunction().getRegInfo().liveout_end(), ArgReg1)
347         == DAG.getMachineFunction().getRegInfo().liveout_end())
348       DAG.getMachineFunction().getRegInfo().addLiveOut(ArgReg1);
349     Copy = DAG.getCopyToReg(Copy, dl, ArgReg2, 
350                             Op.getOperand(3), Copy.getValue(1));
351     if (std::find(DAG.getMachineFunction().getRegInfo().liveout_begin(), 
352                    DAG.getMachineFunction().getRegInfo().liveout_end(), ArgReg2)
353         == DAG.getMachineFunction().getRegInfo().liveout_end())
354       DAG.getMachineFunction().getRegInfo().addLiveOut(ArgReg2);
355     break;
356   }
357   }
358   return DAG.getNode(AlphaISD::RET_FLAG, dl, 
359                      MVT::Other, Copy, Copy.getValue(1));
360 }
361
362 std::pair<SDValue, SDValue>
363 AlphaTargetLowering::LowerCallTo(SDValue Chain, const Type *RetTy, 
364                                  bool RetSExt, bool RetZExt, bool isVarArg,
365                                  bool isInreg, unsigned CallingConv, 
366                                  bool isTailCall, SDValue Callee, 
367                                  ArgListTy &Args, SelectionDAG &DAG,
368                                  DebugLoc dl) {
369   int NumBytes = 0;
370   if (Args.size() > 6)
371     NumBytes = (Args.size() - 6) * 8;
372
373   Chain = DAG.getCALLSEQ_START(Chain, DAG.getIntPtrConstant(NumBytes, true));
374   std::vector<SDValue> args_to_use;
375   for (unsigned i = 0, e = Args.size(); i != e; ++i)
376   {
377     switch (getValueType(Args[i].Ty).getSimpleVT()) {
378     default: assert(0 && "Unexpected ValueType for argument!");
379     case MVT::i1:
380     case MVT::i8:
381     case MVT::i16:
382     case MVT::i32:
383       // Promote the integer to 64 bits.  If the input type is signed use a
384       // sign extend, otherwise use a zero extend.
385       if (Args[i].isSExt)
386         Args[i].Node = DAG.getNode(ISD::SIGN_EXTEND, dl, 
387                                    MVT::i64, Args[i].Node);
388       else if (Args[i].isZExt)
389         Args[i].Node = DAG.getNode(ISD::ZERO_EXTEND, dl,
390                                    MVT::i64, Args[i].Node);
391       else
392         Args[i].Node = DAG.getNode(ISD::ANY_EXTEND, dl, MVT::i64, Args[i].Node);
393       break;
394     case MVT::i64:
395     case MVT::f64:
396     case MVT::f32:
397       break;
398     }
399     args_to_use.push_back(Args[i].Node);
400   }
401
402   std::vector<MVT> RetVals;
403   MVT RetTyVT = getValueType(RetTy);
404   MVT ActualRetTyVT = RetTyVT;
405   if (RetTyVT.getSimpleVT() >= MVT::i1 && RetTyVT.getSimpleVT() <= MVT::i32)
406     ActualRetTyVT = MVT::i64;
407
408   if (RetTyVT != MVT::isVoid)
409     RetVals.push_back(ActualRetTyVT);
410   RetVals.push_back(MVT::Other);
411
412   std::vector<SDValue> Ops;
413   Ops.push_back(Chain);
414   Ops.push_back(Callee);
415   Ops.insert(Ops.end(), args_to_use.begin(), args_to_use.end());
416   SDValue TheCall = DAG.getNode(AlphaISD::CALL, dl, 
417                                 RetVals, &Ops[0], Ops.size());
418   Chain = TheCall.getValue(RetTyVT != MVT::isVoid);
419   Chain = DAG.getCALLSEQ_END(Chain, DAG.getIntPtrConstant(NumBytes, true),
420                              DAG.getIntPtrConstant(0, true), SDValue());
421   SDValue RetVal = TheCall;
422
423   if (RetTyVT != ActualRetTyVT) {
424     ISD::NodeType AssertKind = ISD::DELETED_NODE;
425     if (RetSExt)
426       AssertKind = ISD::AssertSext;
427     else if (RetZExt)
428       AssertKind = ISD::AssertZext;
429
430     if (AssertKind != ISD::DELETED_NODE)
431       RetVal = DAG.getNode(AssertKind, dl, MVT::i64, RetVal,
432                            DAG.getValueType(RetTyVT));
433
434     RetVal = DAG.getNode(ISD::TRUNCATE, dl, RetTyVT, RetVal);
435   }
436
437   return std::make_pair(RetVal, Chain);
438 }
439
440 void AlphaTargetLowering::LowerVAARG(SDNode *N, SDValue &Chain,
441                                      SDValue &DataPtr, SelectionDAG &DAG) {
442   Chain = N->getOperand(0);
443   SDValue VAListP = N->getOperand(1);
444   const Value *VAListS = cast<SrcValueSDNode>(N->getOperand(2))->getValue();
445   DebugLoc dl = N->getDebugLoc();
446
447   SDValue Base = DAG.getLoad(MVT::i64, dl, Chain, VAListP, VAListS, 0);
448   SDValue Tmp = DAG.getNode(ISD::ADD, dl, MVT::i64, VAListP,
449                               DAG.getConstant(8, MVT::i64));
450   SDValue Offset = DAG.getExtLoad(ISD::SEXTLOAD, dl, MVT::i64, Base.getValue(1),
451                                     Tmp, NULL, 0, MVT::i32);
452   DataPtr = DAG.getNode(ISD::ADD, dl, MVT::i64, Base, Offset);
453   if (N->getValueType(0).isFloatingPoint())
454   {
455     //if fp && Offset < 6*8, then subtract 6*8 from DataPtr
456     SDValue FPDataPtr = DAG.getNode(ISD::SUB, dl, MVT::i64, DataPtr,
457                                       DAG.getConstant(8*6, MVT::i64));
458     SDValue CC = DAG.getSetCC(dl, MVT::i64, Offset,
459                                 DAG.getConstant(8*6, MVT::i64), ISD::SETLT);
460     DataPtr = DAG.getNode(ISD::SELECT, dl, MVT::i64, CC, FPDataPtr, DataPtr);
461   }
462
463   SDValue NewOffset = DAG.getNode(ISD::ADD, dl, MVT::i64, Offset,
464                                     DAG.getConstant(8, MVT::i64));
465   Chain = DAG.getTruncStore(Offset.getValue(1), dl, NewOffset, Tmp, NULL, 0,
466                             MVT::i32);
467 }
468
469 /// LowerOperation - Provide custom lowering hooks for some operations.
470 ///
471 SDValue AlphaTargetLowering::LowerOperation(SDValue Op, SelectionDAG &DAG) {
472   DebugLoc dl = Op.getNode()->getDebugLoc();
473   switch (Op.getOpcode()) {
474   default: assert(0 && "Wasn't expecting to be able to lower this!");
475   case ISD::FORMAL_ARGUMENTS: return LowerFORMAL_ARGUMENTS(Op, DAG, 
476                                                            VarArgsBase,
477                                                            VarArgsOffset);
478
479   case ISD::RET: return LowerRET(Op,DAG);
480   case ISD::JumpTable: return LowerJumpTable(Op, DAG);
481
482   case ISD::INTRINSIC_WO_CHAIN: {
483     unsigned IntNo = cast<ConstantSDNode>(Op.getOperand(0))->getZExtValue();
484     switch (IntNo) {
485     default: break;    // Don't custom lower most intrinsics.
486     case Intrinsic::alpha_umulh:
487       return DAG.getNode(ISD::MULHU, dl, MVT::i64, 
488                          Op.getOperand(1), Op.getOperand(2));
489     }
490   }
491
492   case ISD::SINT_TO_FP: {
493     assert(Op.getOperand(0).getValueType() == MVT::i64 &&
494            "Unhandled SINT_TO_FP type in custom expander!");
495     SDValue LD;
496     bool isDouble = Op.getValueType() == MVT::f64;
497     LD = DAG.getNode(ISD::BIT_CONVERT, dl, MVT::f64, Op.getOperand(0));
498     SDValue FP = DAG.getNode(isDouble?AlphaISD::CVTQT_:AlphaISD::CVTQS_, dl,
499                                isDouble?MVT::f64:MVT::f32, LD);
500     return FP;
501   }
502   case ISD::FP_TO_SINT: {
503     bool isDouble = Op.getOperand(0).getValueType() == MVT::f64;
504     SDValue src = Op.getOperand(0);
505
506     if (!isDouble) //Promote
507       src = DAG.getNode(ISD::FP_EXTEND, dl, MVT::f64, src);
508     
509     src = DAG.getNode(AlphaISD::CVTTQ_, dl, MVT::f64, src);
510
511     return DAG.getNode(ISD::BIT_CONVERT, dl, MVT::i64, src);
512   }
513   case ISD::ConstantPool: {
514     ConstantPoolSDNode *CP = cast<ConstantPoolSDNode>(Op);
515     Constant *C = CP->getConstVal();
516     SDValue CPI = DAG.getTargetConstantPool(C, MVT::i64, CP->getAlignment());
517     // FIXME there isn't really any debug info here
518     
519     SDValue Hi = DAG.getNode(AlphaISD::GPRelHi,  dl, MVT::i64, CPI,
520                                DAG.getNode(ISD::GLOBAL_OFFSET_TABLE, MVT::i64));
521     SDValue Lo = DAG.getNode(AlphaISD::GPRelLo, dl, MVT::i64, CPI, Hi);
522     return Lo;
523   }
524   case ISD::GlobalTLSAddress:
525     assert(0 && "TLS not implemented for Alpha.");
526   case ISD::GlobalAddress: {
527     GlobalAddressSDNode *GSDN = cast<GlobalAddressSDNode>(Op);
528     GlobalValue *GV = GSDN->getGlobal();
529     SDValue GA = DAG.getTargetGlobalAddress(GV, MVT::i64, GSDN->getOffset());
530     // FIXME there isn't really any debug info here
531
532     //    if (!GV->hasWeakLinkage() && !GV->isDeclaration() && !GV->hasLinkOnceLinkage()) {
533     if (GV->hasLocalLinkage()) {
534       SDValue Hi = DAG.getNode(AlphaISD::GPRelHi,  dl, MVT::i64, GA,
535                                 DAG.getNode(ISD::GLOBAL_OFFSET_TABLE, MVT::i64));
536       SDValue Lo = DAG.getNode(AlphaISD::GPRelLo, dl, MVT::i64, GA, Hi);
537       return Lo;
538     } else
539       return DAG.getNode(AlphaISD::RelLit, dl, MVT::i64, GA, 
540                          DAG.getNode(ISD::GLOBAL_OFFSET_TABLE, MVT::i64));
541   }
542   case ISD::ExternalSymbol: {
543     return DAG.getNode(AlphaISD::RelLit, dl, MVT::i64, 
544                        DAG.getTargetExternalSymbol(cast<ExternalSymbolSDNode>(Op)
545                                                    ->getSymbol(), MVT::i64),
546                        DAG.getNode(ISD::GLOBAL_OFFSET_TABLE, MVT::i64));
547   }
548
549   case ISD::UREM:
550   case ISD::SREM:
551     //Expand only on constant case
552     if (Op.getOperand(1).getOpcode() == ISD::Constant) {
553       MVT VT = Op.getNode()->getValueType(0);
554       SDValue Tmp1 = Op.getNode()->getOpcode() == ISD::UREM ?
555         BuildUDIV(Op.getNode(), DAG, NULL) :
556         BuildSDIV(Op.getNode(), DAG, NULL);
557       Tmp1 = DAG.getNode(ISD::MUL, dl, VT, Tmp1, Op.getOperand(1));
558       Tmp1 = DAG.getNode(ISD::SUB, dl, VT, Op.getOperand(0), Tmp1);
559       return Tmp1;
560     }
561     //fall through
562   case ISD::SDIV:
563   case ISD::UDIV:
564     if (Op.getValueType().isInteger()) {
565       if (Op.getOperand(1).getOpcode() == ISD::Constant)
566         return Op.getOpcode() == ISD::SDIV ? BuildSDIV(Op.getNode(), DAG, NULL) 
567           : BuildUDIV(Op.getNode(), DAG, NULL);
568       const char* opstr = 0;
569       switch (Op.getOpcode()) {
570       case ISD::UREM: opstr = "__remqu"; break;
571       case ISD::SREM: opstr = "__remq";  break;
572       case ISD::UDIV: opstr = "__divqu"; break;
573       case ISD::SDIV: opstr = "__divq";  break;
574       }
575       SDValue Tmp1 = Op.getOperand(0),
576         Tmp2 = Op.getOperand(1),
577         Addr = DAG.getExternalSymbol(opstr, MVT::i64);
578       return DAG.getNode(AlphaISD::DivCall, dl, MVT::i64, Addr, Tmp1, Tmp2);
579     }
580     break;
581
582   case ISD::VAARG: {
583     SDValue Chain, DataPtr;
584     LowerVAARG(Op.getNode(), Chain, DataPtr, DAG);
585
586     SDValue Result;
587     if (Op.getValueType() == MVT::i32)
588       Result = DAG.getExtLoad(ISD::SEXTLOAD, dl, MVT::i64, Chain, DataPtr,
589                               NULL, 0, MVT::i32);
590     else
591       Result = DAG.getLoad(Op.getValueType(), dl, Chain, DataPtr, NULL, 0);
592     return Result;
593   }
594   case ISD::VACOPY: {
595     SDValue Chain = Op.getOperand(0);
596     SDValue DestP = Op.getOperand(1);
597     SDValue SrcP = Op.getOperand(2);
598     const Value *DestS = cast<SrcValueSDNode>(Op.getOperand(3))->getValue();
599     const Value *SrcS = cast<SrcValueSDNode>(Op.getOperand(4))->getValue();
600     
601     SDValue Val = DAG.getLoad(getPointerTy(), dl, Chain, SrcP, SrcS, 0);
602     SDValue Result = DAG.getStore(Val.getValue(1), dl, Val, DestP, DestS, 0);
603     SDValue NP = DAG.getNode(ISD::ADD, dl, MVT::i64, SrcP, 
604                                DAG.getConstant(8, MVT::i64));
605     Val = DAG.getExtLoad(ISD::SEXTLOAD, dl, MVT::i64, Result, 
606                          NP, NULL,0, MVT::i32);
607     SDValue NPD = DAG.getNode(ISD::ADD, dl, MVT::i64, DestP,
608                                 DAG.getConstant(8, MVT::i64));
609     return DAG.getTruncStore(Val.getValue(1), dl, Val, NPD, NULL, 0, MVT::i32);
610   }
611   case ISD::VASTART: {
612     SDValue Chain = Op.getOperand(0);
613     SDValue VAListP = Op.getOperand(1);
614     const Value *VAListS = cast<SrcValueSDNode>(Op.getOperand(2))->getValue();
615     
616     // vastart stores the address of the VarArgsBase and VarArgsOffset
617     SDValue FR  = DAG.getFrameIndex(VarArgsBase, MVT::i64);
618     SDValue S1  = DAG.getStore(Chain, dl, FR, VAListP, VAListS, 0);
619     SDValue SA2 = DAG.getNode(ISD::ADD, dl, MVT::i64, VAListP,
620                                 DAG.getConstant(8, MVT::i64));
621     return DAG.getTruncStore(S1, dl, DAG.getConstant(VarArgsOffset, MVT::i64),
622                              SA2, NULL, 0, MVT::i32);
623   }
624   case ISD::RETURNADDR:        
625     return DAG.getNode(AlphaISD::GlobalRetAddr, MVT::i64);
626       //FIXME: implement
627   case ISD::FRAMEADDR:          break;
628   }
629   
630   return SDValue();
631 }
632
633 void AlphaTargetLowering::ReplaceNodeResults(SDNode *N,
634                                              SmallVectorImpl<SDValue>&Results,
635                                              SelectionDAG &DAG) {
636   DebugLoc dl = N->getDebugLoc();
637   assert(N->getValueType(0) == MVT::i32 &&
638          N->getOpcode() == ISD::VAARG &&
639          "Unknown node to custom promote!");
640
641   SDValue Chain, DataPtr;
642   LowerVAARG(N, Chain, DataPtr, DAG);
643   SDValue Res = DAG.getLoad(N->getValueType(0), dl, Chain, DataPtr, NULL, 0);
644   Results.push_back(Res);
645   Results.push_back(SDValue(Res.getNode(), 1));
646 }
647
648
649 //Inline Asm
650
651 /// getConstraintType - Given a constraint letter, return the type of
652 /// constraint it is for this target.
653 AlphaTargetLowering::ConstraintType 
654 AlphaTargetLowering::getConstraintType(const std::string &Constraint) const {
655   if (Constraint.size() == 1) {
656     switch (Constraint[0]) {
657     default: break;
658     case 'f':
659     case 'r':
660       return C_RegisterClass;
661     }
662   }
663   return TargetLowering::getConstraintType(Constraint);
664 }
665
666 std::vector<unsigned> AlphaTargetLowering::
667 getRegClassForInlineAsmConstraint(const std::string &Constraint,
668                                   MVT VT) const {
669   if (Constraint.size() == 1) {
670     switch (Constraint[0]) {
671     default: break;  // Unknown constriant letter
672     case 'f': 
673       return make_vector<unsigned>(Alpha::F0 , Alpha::F1 , Alpha::F2 ,
674                                    Alpha::F3 , Alpha::F4 , Alpha::F5 ,
675                                    Alpha::F6 , Alpha::F7 , Alpha::F8 , 
676                                    Alpha::F9 , Alpha::F10, Alpha::F11, 
677                                    Alpha::F12, Alpha::F13, Alpha::F14, 
678                                    Alpha::F15, Alpha::F16, Alpha::F17, 
679                                    Alpha::F18, Alpha::F19, Alpha::F20, 
680                                    Alpha::F21, Alpha::F22, Alpha::F23, 
681                                    Alpha::F24, Alpha::F25, Alpha::F26, 
682                                    Alpha::F27, Alpha::F28, Alpha::F29, 
683                                    Alpha::F30, Alpha::F31, 0);
684     case 'r': 
685       return make_vector<unsigned>(Alpha::R0 , Alpha::R1 , Alpha::R2 , 
686                                    Alpha::R3 , Alpha::R4 , Alpha::R5 , 
687                                    Alpha::R6 , Alpha::R7 , Alpha::R8 , 
688                                    Alpha::R9 , Alpha::R10, Alpha::R11, 
689                                    Alpha::R12, Alpha::R13, Alpha::R14, 
690                                    Alpha::R15, Alpha::R16, Alpha::R17, 
691                                    Alpha::R18, Alpha::R19, Alpha::R20, 
692                                    Alpha::R21, Alpha::R22, Alpha::R23, 
693                                    Alpha::R24, Alpha::R25, Alpha::R26, 
694                                    Alpha::R27, Alpha::R28, Alpha::R29, 
695                                    Alpha::R30, Alpha::R31, 0);
696     }
697   }
698   
699   return std::vector<unsigned>();
700 }
701 //===----------------------------------------------------------------------===//
702 //  Other Lowering Code
703 //===----------------------------------------------------------------------===//
704
705 MachineBasicBlock *
706 AlphaTargetLowering::EmitInstrWithCustomInserter(MachineInstr *MI,
707                                                  MachineBasicBlock *BB) {
708   const TargetInstrInfo *TII = getTargetMachine().getInstrInfo();
709   assert((MI->getOpcode() == Alpha::CAS32 ||
710           MI->getOpcode() == Alpha::CAS64 ||
711           MI->getOpcode() == Alpha::LAS32 ||
712           MI->getOpcode() == Alpha::LAS64 ||
713           MI->getOpcode() == Alpha::SWAP32 ||
714           MI->getOpcode() == Alpha::SWAP64) &&
715          "Unexpected instr type to insert");
716
717   bool is32 = MI->getOpcode() == Alpha::CAS32 || 
718     MI->getOpcode() == Alpha::LAS32 ||
719     MI->getOpcode() == Alpha::SWAP32;
720   
721   //Load locked store conditional for atomic ops take on the same form
722   //start:
723   //ll
724   //do stuff (maybe branch to exit)
725   //sc
726   //test sc and maybe branck to start
727   //exit:
728   const BasicBlock *LLVM_BB = BB->getBasicBlock();
729   MachineFunction::iterator It = BB;
730   ++It;
731   
732   MachineBasicBlock *thisMBB = BB;
733   MachineFunction *F = BB->getParent();
734   MachineBasicBlock *llscMBB = F->CreateMachineBasicBlock(LLVM_BB);
735   MachineBasicBlock *sinkMBB = F->CreateMachineBasicBlock(LLVM_BB);
736
737   sinkMBB->transferSuccessors(thisMBB);
738
739   F->insert(It, llscMBB);
740   F->insert(It, sinkMBB);
741
742   BuildMI(thisMBB, TII->get(Alpha::BR)).addMBB(llscMBB);
743   
744   unsigned reg_res = MI->getOperand(0).getReg(),
745     reg_ptr = MI->getOperand(1).getReg(),
746     reg_v2 = MI->getOperand(2).getReg(),
747     reg_store = F->getRegInfo().createVirtualRegister(&Alpha::GPRCRegClass);
748
749   BuildMI(llscMBB, TII->get(is32 ? Alpha::LDL_L : Alpha::LDQ_L), 
750           reg_res).addImm(0).addReg(reg_ptr);
751   switch (MI->getOpcode()) {
752   case Alpha::CAS32:
753   case Alpha::CAS64: {
754     unsigned reg_cmp 
755       = F->getRegInfo().createVirtualRegister(&Alpha::GPRCRegClass);
756     BuildMI(llscMBB, TII->get(Alpha::CMPEQ), reg_cmp)
757       .addReg(reg_v2).addReg(reg_res);
758     BuildMI(llscMBB, TII->get(Alpha::BEQ))
759       .addImm(0).addReg(reg_cmp).addMBB(sinkMBB);
760     BuildMI(llscMBB, TII->get(Alpha::BISr), reg_store)
761       .addReg(Alpha::R31).addReg(MI->getOperand(3).getReg());
762     break;
763   }
764   case Alpha::LAS32:
765   case Alpha::LAS64: {
766     BuildMI(llscMBB, TII->get(is32 ? Alpha::ADDLr : Alpha::ADDQr), reg_store)
767       .addReg(reg_res).addReg(reg_v2);
768     break;
769   }
770   case Alpha::SWAP32:
771   case Alpha::SWAP64: {
772     BuildMI(llscMBB, TII->get(Alpha::BISr), reg_store)
773       .addReg(reg_v2).addReg(reg_v2);
774     break;
775   }
776   }
777   BuildMI(llscMBB, TII->get(is32 ? Alpha::STL_C : Alpha::STQ_C), reg_store)
778     .addReg(reg_store).addImm(0).addReg(reg_ptr);
779   BuildMI(llscMBB, TII->get(Alpha::BEQ))
780     .addImm(0).addReg(reg_store).addMBB(llscMBB);
781   BuildMI(llscMBB, TII->get(Alpha::BR)).addMBB(sinkMBB);
782
783   thisMBB->addSuccessor(llscMBB);
784   llscMBB->addSuccessor(llscMBB);
785   llscMBB->addSuccessor(sinkMBB);
786   F->DeleteMachineInstr(MI);   // The pseudo instruction is gone now.
787
788   return sinkMBB;
789 }
790
791 bool
792 AlphaTargetLowering::isOffsetFoldingLegal(const GlobalAddressSDNode *GA) const {
793   // The Alpha target isn't yet aware of offsets.
794   return false;
795 }