Fix typo.
[oota-llvm.git] / lib / Target / X86 / AsmParser / X86AsmParser.cpp
1 //===-- X86AsmParser.cpp - Parse X86 assembly to MCInst instructions ------===//
2 //
3 //                     The LLVM Compiler Infrastructure
4 //
5 // This file is distributed under the University of Illinois Open Source
6 // License. See LICENSE.TXT for details.
7 //
8 //===----------------------------------------------------------------------===//
9
10 #include "MCTargetDesc/X86BaseInfo.h"
11 #include "llvm/MC/MCTargetAsmParser.h"
12 #include "llvm/MC/MCStreamer.h"
13 #include "llvm/MC/MCExpr.h"
14 #include "llvm/MC/MCInst.h"
15 #include "llvm/MC/MCRegisterInfo.h"
16 #include "llvm/MC/MCSubtargetInfo.h"
17 #include "llvm/MC/MCParser/MCAsmLexer.h"
18 #include "llvm/MC/MCParser/MCAsmParser.h"
19 #include "llvm/MC/MCParser/MCParsedAsmOperand.h"
20 #include "llvm/ADT/OwningPtr.h"
21 #include "llvm/ADT/SmallString.h"
22 #include "llvm/ADT/SmallVector.h"
23 #include "llvm/ADT/StringSwitch.h"
24 #include "llvm/ADT/Twine.h"
25 #include "llvm/Support/SourceMgr.h"
26 #include "llvm/Support/TargetRegistry.h"
27 #include "llvm/Support/raw_ostream.h"
28
29 using namespace llvm;
30
31 namespace {
32 struct X86Operand;
33
34 class X86AsmParser : public MCTargetAsmParser {
35   MCSubtargetInfo &STI;
36   MCAsmParser &Parser;
37
38 private:
39   MCAsmParser &getParser() const { return Parser; }
40
41   MCAsmLexer &getLexer() const { return Parser.getLexer(); }
42
43   bool Error(SMLoc L, const Twine &Msg,
44              ArrayRef<SMRange> Ranges = ArrayRef<SMRange>()) {
45     return Parser.Error(L, Msg, Ranges);
46   }
47
48   X86Operand *ErrorOperand(SMLoc Loc, StringRef Msg) {
49     Error(Loc, Msg);
50     return 0;
51   }
52
53   X86Operand *ParseOperand();
54   X86Operand *ParseATTOperand();
55   X86Operand *ParseIntelOperand();
56   X86Operand *ParseIntelMemOperand();
57   X86Operand *ParseIntelBracExpression(unsigned SegReg, unsigned Size);
58   X86Operand *ParseMemOperand(unsigned SegReg, SMLoc StartLoc);
59
60   bool ParseDirectiveWord(unsigned Size, SMLoc L);
61   bool ParseDirectiveCode(StringRef IDVal, SMLoc L);
62
63   bool processInstruction(MCInst &Inst,
64                           const SmallVectorImpl<MCParsedAsmOperand*> &Ops);
65
66   bool MatchAndEmitInstruction(SMLoc IDLoc,
67                                SmallVectorImpl<MCParsedAsmOperand*> &Operands,
68                                MCStreamer &Out);
69
70   /// isSrcOp - Returns true if operand is either (%rsi) or %ds:%(rsi)
71   /// in 64bit mode or (%edi) or %es:(%edi) in 32bit mode.
72   bool isSrcOp(X86Operand &Op);
73
74   /// isDstOp - Returns true if operand is either %es:(%rdi) in 64bit mode
75   /// or %es:(%edi) in 32bit mode.
76   bool isDstOp(X86Operand &Op);
77
78   bool is64BitMode() const {
79     // FIXME: Can tablegen auto-generate this?
80     return (STI.getFeatureBits() & X86::Mode64Bit) != 0;
81   }
82   void SwitchMode() {
83     unsigned FB = ComputeAvailableFeatures(STI.ToggleFeature(X86::Mode64Bit));
84     setAvailableFeatures(FB);
85   }
86
87   /// @name Auto-generated Matcher Functions
88   /// {
89
90 #define GET_ASSEMBLER_HEADER
91 #include "X86GenAsmMatcher.inc"
92
93   /// }
94
95 public:
96   X86AsmParser(MCSubtargetInfo &sti, MCAsmParser &parser)
97     : MCTargetAsmParser(), STI(sti), Parser(parser) {
98
99     // Initialize the set of available features.
100     setAvailableFeatures(ComputeAvailableFeatures(STI.getFeatureBits()));
101   }
102   virtual bool ParseRegister(unsigned &RegNo, SMLoc &StartLoc, SMLoc &EndLoc);
103
104   virtual bool ParseInstruction(StringRef Name, SMLoc NameLoc,
105                                 SmallVectorImpl<MCParsedAsmOperand*> &Operands);
106
107   virtual bool ParseDirective(AsmToken DirectiveID);
108 };
109 } // end anonymous namespace
110
111 /// @name Auto-generated Match Functions
112 /// {
113
114 static unsigned MatchRegisterName(StringRef Name);
115
116 /// }
117
118 static  bool isImmSExti16i8Value(uint64_t Value) {
119   return ((                                  Value <= 0x000000000000007FULL)||
120           (0x000000000000FF80ULL <= Value && Value <= 0x000000000000FFFFULL)||
121           (0xFFFFFFFFFFFFFF80ULL <= Value && Value <= 0xFFFFFFFFFFFFFFFFULL));
122 }
123
124 static bool isImmSExti32i8Value(uint64_t Value) {
125   return ((                                  Value <= 0x000000000000007FULL)||
126           (0x00000000FFFFFF80ULL <= Value && Value <= 0x00000000FFFFFFFFULL)||
127           (0xFFFFFFFFFFFFFF80ULL <= Value && Value <= 0xFFFFFFFFFFFFFFFFULL));
128 }
129
130 static bool isImmZExtu32u8Value(uint64_t Value) {
131     return (Value <= 0x00000000000000FFULL);
132 }
133
134 static bool isImmSExti64i8Value(uint64_t Value) {
135   return ((                                  Value <= 0x000000000000007FULL)||
136           (0xFFFFFFFFFFFFFF80ULL <= Value && Value <= 0xFFFFFFFFFFFFFFFFULL));
137 }
138
139 static bool isImmSExti64i32Value(uint64_t Value) {
140   return ((                                  Value <= 0x000000007FFFFFFFULL)||
141           (0xFFFFFFFF80000000ULL <= Value && Value <= 0xFFFFFFFFFFFFFFFFULL));
142 }
143 namespace {
144
145 /// X86Operand - Instances of this class represent a parsed X86 machine
146 /// instruction.
147 struct X86Operand : public MCParsedAsmOperand {
148   enum KindTy {
149     Token,
150     Register,
151     Immediate,
152     Memory
153   } Kind;
154
155   SMLoc StartLoc, EndLoc;
156
157   union {
158     struct {
159       const char *Data;
160       unsigned Length;
161     } Tok;
162
163     struct {
164       unsigned RegNo;
165     } Reg;
166
167     struct {
168       const MCExpr *Val;
169     } Imm;
170
171     struct {
172       unsigned SegReg;
173       const MCExpr *Disp;
174       unsigned BaseReg;
175       unsigned IndexReg;
176       unsigned Scale;
177       unsigned Size;
178     } Mem;
179   };
180
181   X86Operand(KindTy K, SMLoc Start, SMLoc End)
182     : Kind(K), StartLoc(Start), EndLoc(End) {}
183
184   /// getStartLoc - Get the location of the first token of this operand.
185   SMLoc getStartLoc() const { return StartLoc; }
186   /// getEndLoc - Get the location of the last token of this operand.
187   SMLoc getEndLoc() const { return EndLoc; }
188   
189   SMRange getLocRange() const { return SMRange(StartLoc, EndLoc); }
190
191   virtual void print(raw_ostream &OS) const {}
192
193   StringRef getToken() const {
194     assert(Kind == Token && "Invalid access!");
195     return StringRef(Tok.Data, Tok.Length);
196   }
197   void setTokenValue(StringRef Value) {
198     assert(Kind == Token && "Invalid access!");
199     Tok.Data = Value.data();
200     Tok.Length = Value.size();
201   }
202
203   unsigned getReg() const {
204     assert(Kind == Register && "Invalid access!");
205     return Reg.RegNo;
206   }
207
208   const MCExpr *getImm() const {
209     assert(Kind == Immediate && "Invalid access!");
210     return Imm.Val;
211   }
212
213   const MCExpr *getMemDisp() const {
214     assert(Kind == Memory && "Invalid access!");
215     return Mem.Disp;
216   }
217   unsigned getMemSegReg() const {
218     assert(Kind == Memory && "Invalid access!");
219     return Mem.SegReg;
220   }
221   unsigned getMemBaseReg() const {
222     assert(Kind == Memory && "Invalid access!");
223     return Mem.BaseReg;
224   }
225   unsigned getMemIndexReg() const {
226     assert(Kind == Memory && "Invalid access!");
227     return Mem.IndexReg;
228   }
229   unsigned getMemScale() const {
230     assert(Kind == Memory && "Invalid access!");
231     return Mem.Scale;
232   }
233
234   bool isToken() const {return Kind == Token; }
235
236   bool isImm() const { return Kind == Immediate; }
237
238   bool isImmSExti16i8() const {
239     if (!isImm())
240       return false;
241
242     // If this isn't a constant expr, just assume it fits and let relaxation
243     // handle it.
244     const MCConstantExpr *CE = dyn_cast<MCConstantExpr>(getImm());
245     if (!CE)
246       return true;
247
248     // Otherwise, check the value is in a range that makes sense for this
249     // extension.
250     return isImmSExti16i8Value(CE->getValue());
251   }
252   bool isImmSExti32i8() const {
253     if (!isImm())
254       return false;
255
256     // If this isn't a constant expr, just assume it fits and let relaxation
257     // handle it.
258     const MCConstantExpr *CE = dyn_cast<MCConstantExpr>(getImm());
259     if (!CE)
260       return true;
261
262     // Otherwise, check the value is in a range that makes sense for this
263     // extension.
264     return isImmSExti32i8Value(CE->getValue());
265   }
266   bool isImmZExtu32u8() const {
267     if (!isImm())
268       return false;
269
270     // If this isn't a constant expr, just assume it fits and let relaxation
271     // handle it.
272     const MCConstantExpr *CE = dyn_cast<MCConstantExpr>(getImm());
273     if (!CE)
274       return true;
275
276     // Otherwise, check the value is in a range that makes sense for this
277     // extension.
278     return isImmZExtu32u8Value(CE->getValue());
279   }
280   bool isImmSExti64i8() const {
281     if (!isImm())
282       return false;
283
284     // If this isn't a constant expr, just assume it fits and let relaxation
285     // handle it.
286     const MCConstantExpr *CE = dyn_cast<MCConstantExpr>(getImm());
287     if (!CE)
288       return true;
289
290     // Otherwise, check the value is in a range that makes sense for this
291     // extension.
292     return isImmSExti64i8Value(CE->getValue());
293   }
294   bool isImmSExti64i32() const {
295     if (!isImm())
296       return false;
297
298     // If this isn't a constant expr, just assume it fits and let relaxation
299     // handle it.
300     const MCConstantExpr *CE = dyn_cast<MCConstantExpr>(getImm());
301     if (!CE)
302       return true;
303
304     // Otherwise, check the value is in a range that makes sense for this
305     // extension.
306     return isImmSExti64i32Value(CE->getValue());
307   }
308
309   bool isMem() const { return Kind == Memory; }
310   bool isMem8() const { 
311     return Kind == Memory && (!Mem.Size || Mem.Size == 8);
312   }
313   bool isMem16() const { 
314     return Kind == Memory && (!Mem.Size || Mem.Size == 16);
315   }
316   bool isMem32() const { 
317     return Kind == Memory && (!Mem.Size || Mem.Size == 32);
318   }
319   bool isMem64() const { 
320     return Kind == Memory && (!Mem.Size || Mem.Size == 64);
321   }
322   bool isMem80() const { 
323     return Kind == Memory && (!Mem.Size || Mem.Size == 80);
324   }
325   bool isMem128() const { 
326     return Kind == Memory && (!Mem.Size || Mem.Size == 128);
327   }
328   bool isMem256() const { 
329     return Kind == Memory && (!Mem.Size || Mem.Size == 256);
330   }
331
332   bool isAbsMem() const {
333     return Kind == Memory && !getMemSegReg() && !getMemBaseReg() &&
334       !getMemIndexReg() && getMemScale() == 1;
335   }
336
337   bool isReg() const { return Kind == Register; }
338
339   void addExpr(MCInst &Inst, const MCExpr *Expr) const {
340     // Add as immediates when possible.
341     if (const MCConstantExpr *CE = dyn_cast<MCConstantExpr>(Expr))
342       Inst.addOperand(MCOperand::CreateImm(CE->getValue()));
343     else
344       Inst.addOperand(MCOperand::CreateExpr(Expr));
345   }
346
347   void addRegOperands(MCInst &Inst, unsigned N) const {
348     assert(N == 1 && "Invalid number of operands!");
349     Inst.addOperand(MCOperand::CreateReg(getReg()));
350   }
351
352   void addImmOperands(MCInst &Inst, unsigned N) const {
353     assert(N == 1 && "Invalid number of operands!");
354     addExpr(Inst, getImm());
355   }
356
357   void addMem8Operands(MCInst &Inst, unsigned N) const { 
358     addMemOperands(Inst, N); 
359   }
360   void addMem16Operands(MCInst &Inst, unsigned N) const { 
361     addMemOperands(Inst, N); 
362   }
363   void addMem32Operands(MCInst &Inst, unsigned N) const { 
364     addMemOperands(Inst, N); 
365   }
366   void addMem64Operands(MCInst &Inst, unsigned N) const { 
367     addMemOperands(Inst, N); 
368   }
369   void addMem80Operands(MCInst &Inst, unsigned N) const { 
370     addMemOperands(Inst, N); 
371   }
372   void addMem128Operands(MCInst &Inst, unsigned N) const { 
373     addMemOperands(Inst, N); 
374   }
375   void addMem256Operands(MCInst &Inst, unsigned N) const { 
376     addMemOperands(Inst, N); 
377   }
378
379   void addMemOperands(MCInst &Inst, unsigned N) const {
380     assert((N == 5) && "Invalid number of operands!");
381     Inst.addOperand(MCOperand::CreateReg(getMemBaseReg()));
382     Inst.addOperand(MCOperand::CreateImm(getMemScale()));
383     Inst.addOperand(MCOperand::CreateReg(getMemIndexReg()));
384     addExpr(Inst, getMemDisp());
385     Inst.addOperand(MCOperand::CreateReg(getMemSegReg()));
386   }
387
388   void addAbsMemOperands(MCInst &Inst, unsigned N) const {
389     assert((N == 1) && "Invalid number of operands!");
390     Inst.addOperand(MCOperand::CreateExpr(getMemDisp()));
391   }
392
393   static X86Operand *CreateToken(StringRef Str, SMLoc Loc) {
394     SMLoc EndLoc = SMLoc::getFromPointer(Loc.getPointer() + Str.size() - 1);
395     X86Operand *Res = new X86Operand(Token, Loc, EndLoc);
396     Res->Tok.Data = Str.data();
397     Res->Tok.Length = Str.size();
398     return Res;
399   }
400
401   static X86Operand *CreateReg(unsigned RegNo, SMLoc StartLoc, SMLoc EndLoc) {
402     X86Operand *Res = new X86Operand(Register, StartLoc, EndLoc);
403     Res->Reg.RegNo = RegNo;
404     return Res;
405   }
406
407   static X86Operand *CreateImm(const MCExpr *Val, SMLoc StartLoc, SMLoc EndLoc){
408     X86Operand *Res = new X86Operand(Immediate, StartLoc, EndLoc);
409     Res->Imm.Val = Val;
410     return Res;
411   }
412
413   /// Create an absolute memory operand.
414   static X86Operand *CreateMem(const MCExpr *Disp, SMLoc StartLoc,
415                                SMLoc EndLoc, unsigned Size = 0) {
416     X86Operand *Res = new X86Operand(Memory, StartLoc, EndLoc);
417     Res->Mem.SegReg   = 0;
418     Res->Mem.Disp     = Disp;
419     Res->Mem.BaseReg  = 0;
420     Res->Mem.IndexReg = 0;
421     Res->Mem.Scale    = 1;
422     Res->Mem.Size     = Size;
423     return Res;
424   }
425
426   /// Create a generalized memory operand.
427   static X86Operand *CreateMem(unsigned SegReg, const MCExpr *Disp,
428                                unsigned BaseReg, unsigned IndexReg,
429                                unsigned Scale, SMLoc StartLoc, SMLoc EndLoc,
430                                unsigned Size = 0) {
431     // We should never just have a displacement, that should be parsed as an
432     // absolute memory operand.
433     assert((SegReg || BaseReg || IndexReg) && "Invalid memory operand!");
434
435     // The scale should always be one of {1,2,4,8}.
436     assert(((Scale == 1 || Scale == 2 || Scale == 4 || Scale == 8)) &&
437            "Invalid scale!");
438     X86Operand *Res = new X86Operand(Memory, StartLoc, EndLoc);
439     Res->Mem.SegReg   = SegReg;
440     Res->Mem.Disp     = Disp;
441     Res->Mem.BaseReg  = BaseReg;
442     Res->Mem.IndexReg = IndexReg;
443     Res->Mem.Scale    = Scale;
444     Res->Mem.Size     = Size;
445     return Res;
446   }
447 };
448
449 } // end anonymous namespace.
450
451 bool X86AsmParser::isSrcOp(X86Operand &Op) {
452   unsigned basereg = is64BitMode() ? X86::RSI : X86::ESI;
453
454   return (Op.isMem() &&
455     (Op.Mem.SegReg == 0 || Op.Mem.SegReg == X86::DS) &&
456     isa<MCConstantExpr>(Op.Mem.Disp) &&
457     cast<MCConstantExpr>(Op.Mem.Disp)->getValue() == 0 &&
458     Op.Mem.BaseReg == basereg && Op.Mem.IndexReg == 0);
459 }
460
461 bool X86AsmParser::isDstOp(X86Operand &Op) {
462   unsigned basereg = is64BitMode() ? X86::RDI : X86::EDI;
463
464   return Op.isMem() && Op.Mem.SegReg == X86::ES &&
465     isa<MCConstantExpr>(Op.Mem.Disp) &&
466     cast<MCConstantExpr>(Op.Mem.Disp)->getValue() == 0 &&
467     Op.Mem.BaseReg == basereg && Op.Mem.IndexReg == 0;
468 }
469
470 bool X86AsmParser::ParseRegister(unsigned &RegNo,
471                                  SMLoc &StartLoc, SMLoc &EndLoc) {
472   RegNo = 0;
473   bool IntelSyntax = getParser().getAssemblerDialect();
474   if (!IntelSyntax) {
475     const AsmToken &TokPercent = Parser.getTok();
476     assert(TokPercent.is(AsmToken::Percent) && "Invalid token kind!");
477     StartLoc = TokPercent.getLoc();
478     Parser.Lex(); // Eat percent token.
479   }
480
481   const AsmToken &Tok = Parser.getTok();
482   if (Tok.isNot(AsmToken::Identifier)) {
483     if (IntelSyntax) return true;
484     return Error(StartLoc, "invalid register name",
485                  SMRange(StartLoc, Tok.getEndLoc()));
486   }
487
488   RegNo = MatchRegisterName(Tok.getString());
489
490   // If the match failed, try the register name as lowercase.
491   if (RegNo == 0)
492     RegNo = MatchRegisterName(Tok.getString().lower());
493
494   if (!is64BitMode()) {
495     // FIXME: This should be done using Requires<In32BitMode> and
496     // Requires<In64BitMode> so "eiz" usage in 64-bit instructions can be also
497     // checked.
498     // FIXME: Check AH, CH, DH, BH cannot be used in an instruction requiring a
499     // REX prefix.
500     if (RegNo == X86::RIZ ||
501         X86MCRegisterClasses[X86::GR64RegClassID].contains(RegNo) ||
502         X86II::isX86_64NonExtLowByteReg(RegNo) ||
503         X86II::isX86_64ExtendedReg(RegNo))
504       return Error(StartLoc, "register %"
505                    + Tok.getString() + " is only available in 64-bit mode",
506                    SMRange(StartLoc, Tok.getEndLoc()));
507   }
508
509   // Parse "%st" as "%st(0)" and "%st(1)", which is multiple tokens.
510   if (RegNo == 0 && (Tok.getString() == "st" || Tok.getString() == "ST")) {
511     RegNo = X86::ST0;
512     EndLoc = Tok.getLoc();
513     Parser.Lex(); // Eat 'st'
514
515     // Check to see if we have '(4)' after %st.
516     if (getLexer().isNot(AsmToken::LParen))
517       return false;
518     // Lex the paren.
519     getParser().Lex();
520
521     const AsmToken &IntTok = Parser.getTok();
522     if (IntTok.isNot(AsmToken::Integer))
523       return Error(IntTok.getLoc(), "expected stack index");
524     switch (IntTok.getIntVal()) {
525     case 0: RegNo = X86::ST0; break;
526     case 1: RegNo = X86::ST1; break;
527     case 2: RegNo = X86::ST2; break;
528     case 3: RegNo = X86::ST3; break;
529     case 4: RegNo = X86::ST4; break;
530     case 5: RegNo = X86::ST5; break;
531     case 6: RegNo = X86::ST6; break;
532     case 7: RegNo = X86::ST7; break;
533     default: return Error(IntTok.getLoc(), "invalid stack index");
534     }
535
536     if (getParser().Lex().isNot(AsmToken::RParen))
537       return Error(Parser.getTok().getLoc(), "expected ')'");
538
539     EndLoc = Tok.getLoc();
540     Parser.Lex(); // Eat ')'
541     return false;
542   }
543
544   // If this is "db[0-7]", match it as an alias
545   // for dr[0-7].
546   if (RegNo == 0 && Tok.getString().size() == 3 &&
547       Tok.getString().startswith("db")) {
548     switch (Tok.getString()[2]) {
549     case '0': RegNo = X86::DR0; break;
550     case '1': RegNo = X86::DR1; break;
551     case '2': RegNo = X86::DR2; break;
552     case '3': RegNo = X86::DR3; break;
553     case '4': RegNo = X86::DR4; break;
554     case '5': RegNo = X86::DR5; break;
555     case '6': RegNo = X86::DR6; break;
556     case '7': RegNo = X86::DR7; break;
557     }
558
559     if (RegNo != 0) {
560       EndLoc = Tok.getLoc();
561       Parser.Lex(); // Eat it.
562       return false;
563     }
564   }
565
566   if (RegNo == 0) {
567     if (IntelSyntax) return true;
568     return Error(StartLoc, "invalid register name",
569                  SMRange(StartLoc, Tok.getEndLoc()));
570   }
571
572   EndLoc = Tok.getEndLoc();
573   Parser.Lex(); // Eat identifier token.
574   return false;
575 }
576
577 X86Operand *X86AsmParser::ParseOperand() {
578   if (getParser().getAssemblerDialect())
579     return ParseIntelOperand();
580   return ParseATTOperand();
581 }
582
583 /// getIntelMemOperandSize - Return intel memory operand size.
584 static unsigned getIntelMemOperandSize(StringRef OpStr) {
585   unsigned Size = 0;
586   if (OpStr == "BYTE") Size = 8;
587   if (OpStr == "WORD") Size = 16;
588   if (OpStr == "DWORD") Size = 32;
589   if (OpStr == "QWORD") Size = 64;
590   if (OpStr == "XWORD") Size = 80;
591   if (OpStr == "XMMWORD") Size = 128;
592   if (OpStr == "YMMWORD") Size = 256;
593   return Size;
594 }
595
596 X86Operand *X86AsmParser::ParseIntelBracExpression(unsigned SegReg,
597                                                    unsigned Size) {
598   unsigned BaseReg = 0, IndexReg = 0, Scale = 1;
599   SMLoc Start = Parser.getTok().getLoc(), End;
600
601   const MCExpr *Disp = MCConstantExpr::Create(0, getParser().getContext());
602   // Parse [ BaseReg + Scale*IndexReg + Disp ] or [ symbol ]
603
604   // Eat '['
605   if (getLexer().isNot(AsmToken::LBrac))
606     return ErrorOperand(Start, "Expected '[' token!");
607   Parser.Lex();
608   
609   if (getLexer().is(AsmToken::Identifier)) {
610     // Parse BaseReg
611     if (ParseRegister(BaseReg, Start, End)) {
612       // Handle '[' 'symbol' ']'
613       const MCExpr *Disp = MCConstantExpr::Create(0, getParser().getContext());
614       if (getParser().ParseExpression(Disp, End)) return 0;
615       if (getLexer().isNot(AsmToken::RBrac))
616         return ErrorOperand(Start, "Expected ']' token!");
617       Parser.Lex();
618       return X86Operand::CreateMem(Disp, Start, End, Size);
619     }
620   } else if (getLexer().is(AsmToken::Integer)) {
621       int64_t Val = Parser.getTok().getIntVal();
622       Parser.Lex();
623       SMLoc Loc = Parser.getTok().getLoc();
624       if (getLexer().is(AsmToken::RBrac)) {
625         // Handle '[' number ']'
626         Parser.Lex();
627         return X86Operand::CreateMem(MCConstantExpr::Create(Val, getContext()),
628                                      Start, End, Size);
629       } else if (getLexer().is(AsmToken::Star)) {
630         // Handle '[' Scale*IndexReg ']'
631         Parser.Lex();
632         SMLoc IdxRegLoc = Parser.getTok().getLoc();
633         if (ParseRegister(IndexReg, IdxRegLoc, End))
634           return ErrorOperand(IdxRegLoc, "Expected register");
635         Scale = Val;
636       } else
637         return ErrorOperand(Loc, "Unepxeted token");
638   }
639
640   if (getLexer().is(AsmToken::Plus) || getLexer().is(AsmToken::Minus)) {
641     bool isPlus = getLexer().is(AsmToken::Plus);
642     Parser.Lex();
643     SMLoc PlusLoc = Parser.getTok().getLoc();
644     if (getLexer().is(AsmToken::Integer)) {
645       int64_t Val = Parser.getTok().getIntVal();
646       Parser.Lex();
647       if (getLexer().is(AsmToken::Star)) {
648         Parser.Lex();
649         SMLoc IdxRegLoc = Parser.getTok().getLoc();
650         if (ParseRegister(IndexReg, IdxRegLoc, End))
651           return ErrorOperand(IdxRegLoc, "Expected register");
652         Scale = Val;
653       } else if (getLexer().is(AsmToken::RBrac)) {
654         const MCExpr *ValExpr = MCConstantExpr::Create(Val, getContext());
655         Disp = isPlus ? ValExpr : MCConstantExpr::Create(0-Val, getContext());
656       } else
657         return ErrorOperand(PlusLoc, "unexpected token after +");
658     } else if (getLexer().is(AsmToken::Identifier)) {
659       // This could be an index register or a displacement expression.
660       End = Parser.getTok().getLoc();
661       if (!IndexReg)
662         ParseRegister(IndexReg, Start, End);
663       else if (getParser().ParseExpression(Disp, End)) return 0;        
664     }
665   }
666
667   if (getLexer().isNot(AsmToken::RBrac))
668     if (getParser().ParseExpression(Disp, End)) return 0;
669
670   End = Parser.getTok().getLoc();
671   if (getLexer().isNot(AsmToken::RBrac))
672     return ErrorOperand(End, "expected ']' token!");
673   Parser.Lex();
674   End = Parser.getTok().getLoc();
675
676   // handle [-42]
677   if (!BaseReg && !IndexReg)
678     return X86Operand::CreateMem(Disp, Start, End, Size);
679
680   return X86Operand::CreateMem(SegReg, Disp, BaseReg, IndexReg, Scale,
681                                Start, End, Size);
682 }
683
684 /// ParseIntelMemOperand - Parse intel style memory operand.
685 X86Operand *X86AsmParser::ParseIntelMemOperand() {
686   const AsmToken &Tok = Parser.getTok();
687   SMLoc Start = Parser.getTok().getLoc(), End;
688   unsigned SegReg = 0;
689
690   unsigned Size = getIntelMemOperandSize(Tok.getString());
691   if (Size) {
692     Parser.Lex();
693     assert (Tok.getString() == "PTR" && "Unexpected token!");
694     Parser.Lex();
695   }
696
697   if (getLexer().is(AsmToken::LBrac))
698     return ParseIntelBracExpression(SegReg, Size);
699
700   if (!ParseRegister(SegReg, Start, End)) {
701     // Handel SegReg : [ ... ]
702     if (getLexer().isNot(AsmToken::Colon))
703       return ErrorOperand(Start, "Expected ':' token!");
704     Parser.Lex(); // Eat :
705     if (getLexer().isNot(AsmToken::LBrac))
706       return ErrorOperand(Start, "Expected '[' token!");
707     return ParseIntelBracExpression(SegReg, Size);
708   }
709
710   const MCExpr *Disp = MCConstantExpr::Create(0, getParser().getContext());
711   if (getParser().ParseExpression(Disp, End)) return 0;
712   return X86Operand::CreateMem(Disp, Start, End, Size);
713 }
714
715 X86Operand *X86AsmParser::ParseIntelOperand() {
716   SMLoc Start = Parser.getTok().getLoc(), End;
717
718   // immediate.
719   if (getLexer().is(AsmToken::Integer) || getLexer().is(AsmToken::Real) ||
720       getLexer().is(AsmToken::Minus)) {
721     const MCExpr *Val;
722     if (!getParser().ParseExpression(Val, End)) {
723       End = Parser.getTok().getLoc();
724       return X86Operand::CreateImm(Val, Start, End);
725     }
726   }
727
728   // register
729   unsigned RegNo = 0;
730   if (!ParseRegister(RegNo, Start, End)) {
731     End = Parser.getTok().getLoc();
732     return X86Operand::CreateReg(RegNo, Start, End);
733   }
734
735   // mem operand
736   return ParseIntelMemOperand();
737 }
738
739 X86Operand *X86AsmParser::ParseATTOperand() {
740   switch (getLexer().getKind()) {
741   default:
742     // Parse a memory operand with no segment register.
743     return ParseMemOperand(0, Parser.getTok().getLoc());
744   case AsmToken::Percent: {
745     // Read the register.
746     unsigned RegNo;
747     SMLoc Start, End;
748     if (ParseRegister(RegNo, Start, End)) return 0;
749     if (RegNo == X86::EIZ || RegNo == X86::RIZ) {
750       Error(Start, "%eiz and %riz can only be used as index registers",
751             SMRange(Start, End));
752       return 0;
753     }
754
755     // If this is a segment register followed by a ':', then this is the start
756     // of a memory reference, otherwise this is a normal register reference.
757     if (getLexer().isNot(AsmToken::Colon))
758       return X86Operand::CreateReg(RegNo, Start, End);
759
760
761     getParser().Lex(); // Eat the colon.
762     return ParseMemOperand(RegNo, Start);
763   }
764   case AsmToken::Dollar: {
765     // $42 -> immediate.
766     SMLoc Start = Parser.getTok().getLoc(), End;
767     Parser.Lex();
768     const MCExpr *Val;
769     if (getParser().ParseExpression(Val, End))
770       return 0;
771     return X86Operand::CreateImm(Val, Start, End);
772   }
773   }
774 }
775
776 /// ParseMemOperand: segment: disp(basereg, indexreg, scale).  The '%ds:' prefix
777 /// has already been parsed if present.
778 X86Operand *X86AsmParser::ParseMemOperand(unsigned SegReg, SMLoc MemStart) {
779
780   // We have to disambiguate a parenthesized expression "(4+5)" from the start
781   // of a memory operand with a missing displacement "(%ebx)" or "(,%eax)".  The
782   // only way to do this without lookahead is to eat the '(' and see what is
783   // after it.
784   const MCExpr *Disp = MCConstantExpr::Create(0, getParser().getContext());
785   if (getLexer().isNot(AsmToken::LParen)) {
786     SMLoc ExprEnd;
787     if (getParser().ParseExpression(Disp, ExprEnd)) return 0;
788
789     // After parsing the base expression we could either have a parenthesized
790     // memory address or not.  If not, return now.  If so, eat the (.
791     if (getLexer().isNot(AsmToken::LParen)) {
792       // Unless we have a segment register, treat this as an immediate.
793       if (SegReg == 0)
794         return X86Operand::CreateMem(Disp, MemStart, ExprEnd);
795       return X86Operand::CreateMem(SegReg, Disp, 0, 0, 1, MemStart, ExprEnd);
796     }
797
798     // Eat the '('.
799     Parser.Lex();
800   } else {
801     // Okay, we have a '('.  We don't know if this is an expression or not, but
802     // so we have to eat the ( to see beyond it.
803     SMLoc LParenLoc = Parser.getTok().getLoc();
804     Parser.Lex(); // Eat the '('.
805
806     if (getLexer().is(AsmToken::Percent) || getLexer().is(AsmToken::Comma)) {
807       // Nothing to do here, fall into the code below with the '(' part of the
808       // memory operand consumed.
809     } else {
810       SMLoc ExprEnd;
811
812       // It must be an parenthesized expression, parse it now.
813       if (getParser().ParseParenExpression(Disp, ExprEnd))
814         return 0;
815
816       // After parsing the base expression we could either have a parenthesized
817       // memory address or not.  If not, return now.  If so, eat the (.
818       if (getLexer().isNot(AsmToken::LParen)) {
819         // Unless we have a segment register, treat this as an immediate.
820         if (SegReg == 0)
821           return X86Operand::CreateMem(Disp, LParenLoc, ExprEnd);
822         return X86Operand::CreateMem(SegReg, Disp, 0, 0, 1, MemStart, ExprEnd);
823       }
824
825       // Eat the '('.
826       Parser.Lex();
827     }
828   }
829
830   // If we reached here, then we just ate the ( of the memory operand.  Process
831   // the rest of the memory operand.
832   unsigned BaseReg = 0, IndexReg = 0, Scale = 1;
833
834   if (getLexer().is(AsmToken::Percent)) {
835     SMLoc StartLoc, EndLoc;
836     if (ParseRegister(BaseReg, StartLoc, EndLoc)) return 0;
837     if (BaseReg == X86::EIZ || BaseReg == X86::RIZ) {
838       Error(StartLoc, "eiz and riz can only be used as index registers",
839             SMRange(StartLoc, EndLoc));
840       return 0;
841     }
842   }
843
844   if (getLexer().is(AsmToken::Comma)) {
845     Parser.Lex(); // Eat the comma.
846
847     // Following the comma we should have either an index register, or a scale
848     // value. We don't support the later form, but we want to parse it
849     // correctly.
850     //
851     // Not that even though it would be completely consistent to support syntax
852     // like "1(%eax,,1)", the assembler doesn't. Use "eiz" or "riz" for this.
853     if (getLexer().is(AsmToken::Percent)) {
854       SMLoc L;
855       if (ParseRegister(IndexReg, L, L)) return 0;
856
857       if (getLexer().isNot(AsmToken::RParen)) {
858         // Parse the scale amount:
859         //  ::= ',' [scale-expression]
860         if (getLexer().isNot(AsmToken::Comma)) {
861           Error(Parser.getTok().getLoc(),
862                 "expected comma in scale expression");
863           return 0;
864         }
865         Parser.Lex(); // Eat the comma.
866
867         if (getLexer().isNot(AsmToken::RParen)) {
868           SMLoc Loc = Parser.getTok().getLoc();
869
870           int64_t ScaleVal;
871           if (getParser().ParseAbsoluteExpression(ScaleVal))
872             return 0;
873
874           // Validate the scale amount.
875           if (ScaleVal != 1 && ScaleVal != 2 && ScaleVal != 4 && ScaleVal != 8){
876             Error(Loc, "scale factor in address must be 1, 2, 4 or 8");
877             return 0;
878           }
879           Scale = (unsigned)ScaleVal;
880         }
881       }
882     } else if (getLexer().isNot(AsmToken::RParen)) {
883       // A scale amount without an index is ignored.
884       // index.
885       SMLoc Loc = Parser.getTok().getLoc();
886
887       int64_t Value;
888       if (getParser().ParseAbsoluteExpression(Value))
889         return 0;
890
891       if (Value != 1)
892         Warning(Loc, "scale factor without index register is ignored");
893       Scale = 1;
894     }
895   }
896
897   // Ok, we've eaten the memory operand, verify we have a ')' and eat it too.
898   if (getLexer().isNot(AsmToken::RParen)) {
899     Error(Parser.getTok().getLoc(), "unexpected token in memory operand");
900     return 0;
901   }
902   SMLoc MemEnd = Parser.getTok().getLoc();
903   Parser.Lex(); // Eat the ')'.
904
905   return X86Operand::CreateMem(SegReg, Disp, BaseReg, IndexReg, Scale,
906                                MemStart, MemEnd);
907 }
908
909 bool X86AsmParser::
910 ParseInstruction(StringRef Name, SMLoc NameLoc,
911                  SmallVectorImpl<MCParsedAsmOperand*> &Operands) {
912   StringRef PatchedName = Name;
913
914   // FIXME: Hack to recognize setneb as setne.
915   if (PatchedName.startswith("set") && PatchedName.endswith("b") &&
916       PatchedName != "setb" && PatchedName != "setnb")
917     PatchedName = PatchedName.substr(0, Name.size()-1);
918   
919   // FIXME: Hack to recognize cmp<comparison code>{ss,sd,ps,pd}.
920   const MCExpr *ExtraImmOp = 0;
921   if ((PatchedName.startswith("cmp") || PatchedName.startswith("vcmp")) &&
922       (PatchedName.endswith("ss") || PatchedName.endswith("sd") ||
923        PatchedName.endswith("ps") || PatchedName.endswith("pd"))) {
924     bool IsVCMP = PatchedName.startswith("vcmp");
925     unsigned SSECCIdx = IsVCMP ? 4 : 3;
926     unsigned SSEComparisonCode = StringSwitch<unsigned>(
927       PatchedName.slice(SSECCIdx, PatchedName.size() - 2))
928       .Case("eq",          0)
929       .Case("lt",          1)
930       .Case("le",          2)
931       .Case("unord",       3)
932       .Case("neq",         4)
933       .Case("nlt",         5)
934       .Case("nle",         6)
935       .Case("ord",         7)
936       .Case("eq_uq",       8)
937       .Case("nge",         9)
938       .Case("ngt",      0x0A)
939       .Case("false",    0x0B)
940       .Case("neq_oq",   0x0C)
941       .Case("ge",       0x0D)
942       .Case("gt",       0x0E)
943       .Case("true",     0x0F)
944       .Case("eq_os",    0x10)
945       .Case("lt_oq",    0x11)
946       .Case("le_oq",    0x12)
947       .Case("unord_s",  0x13)
948       .Case("neq_us",   0x14)
949       .Case("nlt_uq",   0x15)
950       .Case("nle_uq",   0x16)
951       .Case("ord_s",    0x17)
952       .Case("eq_us",    0x18)
953       .Case("nge_uq",   0x19)
954       .Case("ngt_uq",   0x1A)
955       .Case("false_os", 0x1B)
956       .Case("neq_os",   0x1C)
957       .Case("ge_oq",    0x1D)
958       .Case("gt_oq",    0x1E)
959       .Case("true_us",  0x1F)
960       .Default(~0U);
961     if (SSEComparisonCode != ~0U) {
962       ExtraImmOp = MCConstantExpr::Create(SSEComparisonCode,
963                                           getParser().getContext());
964       if (PatchedName.endswith("ss")) {
965         PatchedName = IsVCMP ? "vcmpss" : "cmpss";
966       } else if (PatchedName.endswith("sd")) {
967         PatchedName = IsVCMP ? "vcmpsd" : "cmpsd";
968       } else if (PatchedName.endswith("ps")) {
969         PatchedName = IsVCMP ? "vcmpps" : "cmpps";
970       } else {
971         assert(PatchedName.endswith("pd") && "Unexpected mnemonic!");
972         PatchedName = IsVCMP ? "vcmppd" : "cmppd";
973       }
974     }
975   }
976
977   Operands.push_back(X86Operand::CreateToken(PatchedName, NameLoc));
978
979   if (ExtraImmOp)
980     Operands.push_back(X86Operand::CreateImm(ExtraImmOp, NameLoc, NameLoc));
981
982
983   // Determine whether this is an instruction prefix.
984   bool isPrefix =
985     Name == "lock" || Name == "rep" ||
986     Name == "repe" || Name == "repz" ||
987     Name == "repne" || Name == "repnz" ||
988     Name == "rex64" || Name == "data16";
989
990
991   // This does the actual operand parsing.  Don't parse any more if we have a
992   // prefix juxtaposed with an operation like "lock incl 4(%rax)", because we
993   // just want to parse the "lock" as the first instruction and the "incl" as
994   // the next one.
995   if (getLexer().isNot(AsmToken::EndOfStatement) && !isPrefix) {
996
997     // Parse '*' modifier.
998     if (getLexer().is(AsmToken::Star)) {
999       SMLoc Loc = Parser.getTok().getLoc();
1000       Operands.push_back(X86Operand::CreateToken("*", Loc));
1001       Parser.Lex(); // Eat the star.
1002     }
1003
1004     // Read the first operand.
1005     if (X86Operand *Op = ParseOperand())
1006       Operands.push_back(Op);
1007     else {
1008       Parser.EatToEndOfStatement();
1009       return true;
1010     }
1011
1012     while (getLexer().is(AsmToken::Comma)) {
1013       Parser.Lex();  // Eat the comma.
1014
1015       // Parse and remember the operand.
1016       if (X86Operand *Op = ParseOperand())
1017         Operands.push_back(Op);
1018       else {
1019         Parser.EatToEndOfStatement();
1020         return true;
1021       }
1022     }
1023
1024     if (getLexer().isNot(AsmToken::EndOfStatement)) {
1025       SMLoc Loc = getLexer().getLoc();
1026       Parser.EatToEndOfStatement();
1027       return Error(Loc, "unexpected token in argument list");
1028     }
1029   }
1030
1031   if (getLexer().is(AsmToken::EndOfStatement))
1032     Parser.Lex(); // Consume the EndOfStatement
1033   else if (isPrefix && getLexer().is(AsmToken::Slash))
1034     Parser.Lex(); // Consume the prefix separator Slash
1035
1036   // This is a terrible hack to handle "out[bwl]? %al, (%dx)" ->
1037   // "outb %al, %dx".  Out doesn't take a memory form, but this is a widely
1038   // documented form in various unofficial manuals, so a lot of code uses it.
1039   if ((Name == "outb" || Name == "outw" || Name == "outl" || Name == "out") &&
1040       Operands.size() == 3) {
1041     X86Operand &Op = *(X86Operand*)Operands.back();
1042     if (Op.isMem() && Op.Mem.SegReg == 0 &&
1043         isa<MCConstantExpr>(Op.Mem.Disp) &&
1044         cast<MCConstantExpr>(Op.Mem.Disp)->getValue() == 0 &&
1045         Op.Mem.BaseReg == MatchRegisterName("dx") && Op.Mem.IndexReg == 0) {
1046       SMLoc Loc = Op.getEndLoc();
1047       Operands.back() = X86Operand::CreateReg(Op.Mem.BaseReg, Loc, Loc);
1048       delete &Op;
1049     }
1050   }
1051   // Same hack for "in[bwl]? (%dx), %al" -> "inb %dx, %al".
1052   if ((Name == "inb" || Name == "inw" || Name == "inl" || Name == "in") &&
1053       Operands.size() == 3) {
1054     X86Operand &Op = *(X86Operand*)Operands.begin()[1];
1055     if (Op.isMem() && Op.Mem.SegReg == 0 &&
1056         isa<MCConstantExpr>(Op.Mem.Disp) &&
1057         cast<MCConstantExpr>(Op.Mem.Disp)->getValue() == 0 &&
1058         Op.Mem.BaseReg == MatchRegisterName("dx") && Op.Mem.IndexReg == 0) {
1059       SMLoc Loc = Op.getEndLoc();
1060       Operands.begin()[1] = X86Operand::CreateReg(Op.Mem.BaseReg, Loc, Loc);
1061       delete &Op;
1062     }
1063   }
1064   // Transform "ins[bwl] %dx, %es:(%edi)" into "ins[bwl]"
1065   if (Name.startswith("ins") && Operands.size() == 3 &&
1066       (Name == "insb" || Name == "insw" || Name == "insl")) {
1067     X86Operand &Op = *(X86Operand*)Operands.begin()[1];
1068     X86Operand &Op2 = *(X86Operand*)Operands.begin()[2];
1069     if (Op.isReg() && Op.getReg() == X86::DX && isDstOp(Op2)) {
1070       Operands.pop_back();
1071       Operands.pop_back();
1072       delete &Op;
1073       delete &Op2;
1074     }
1075   }
1076
1077   // Transform "outs[bwl] %ds:(%esi), %dx" into "out[bwl]"
1078   if (Name.startswith("outs") && Operands.size() == 3 &&
1079       (Name == "outsb" || Name == "outsw" || Name == "outsl")) {
1080     X86Operand &Op = *(X86Operand*)Operands.begin()[1];
1081     X86Operand &Op2 = *(X86Operand*)Operands.begin()[2];
1082     if (isSrcOp(Op) && Op2.isReg() && Op2.getReg() == X86::DX) {
1083       Operands.pop_back();
1084       Operands.pop_back();
1085       delete &Op;
1086       delete &Op2;
1087     }
1088   }
1089
1090   // Transform "movs[bwl] %ds:(%esi), %es:(%edi)" into "movs[bwl]"
1091   if (Name.startswith("movs") && Operands.size() == 3 &&
1092       (Name == "movsb" || Name == "movsw" || Name == "movsl" ||
1093        (is64BitMode() && Name == "movsq"))) {
1094     X86Operand &Op = *(X86Operand*)Operands.begin()[1];
1095     X86Operand &Op2 = *(X86Operand*)Operands.begin()[2];
1096     if (isSrcOp(Op) && isDstOp(Op2)) {
1097       Operands.pop_back();
1098       Operands.pop_back();
1099       delete &Op;
1100       delete &Op2;
1101     }
1102   }
1103   // Transform "lods[bwl] %ds:(%esi),{%al,%ax,%eax,%rax}" into "lods[bwl]"
1104   if (Name.startswith("lods") && Operands.size() == 3 &&
1105       (Name == "lods" || Name == "lodsb" || Name == "lodsw" ||
1106        Name == "lodsl" || (is64BitMode() && Name == "lodsq"))) {
1107     X86Operand *Op1 = static_cast<X86Operand*>(Operands[1]);
1108     X86Operand *Op2 = static_cast<X86Operand*>(Operands[2]);
1109     if (isSrcOp(*Op1) && Op2->isReg()) {
1110       const char *ins;
1111       unsigned reg = Op2->getReg();
1112       bool isLods = Name == "lods";
1113       if (reg == X86::AL && (isLods || Name == "lodsb"))
1114         ins = "lodsb";
1115       else if (reg == X86::AX && (isLods || Name == "lodsw"))
1116         ins = "lodsw";
1117       else if (reg == X86::EAX && (isLods || Name == "lodsl"))
1118         ins = "lodsl";
1119       else if (reg == X86::RAX && (isLods || Name == "lodsq"))
1120         ins = "lodsq";
1121       else
1122         ins = NULL;
1123       if (ins != NULL) {
1124         Operands.pop_back();
1125         Operands.pop_back();
1126         delete Op1;
1127         delete Op2;
1128         if (Name != ins)
1129           static_cast<X86Operand*>(Operands[0])->setTokenValue(ins);
1130       }
1131     }
1132   }
1133   // Transform "stos[bwl] {%al,%ax,%eax,%rax},%es:(%edi)" into "stos[bwl]"
1134   if (Name.startswith("stos") && Operands.size() == 3 &&
1135       (Name == "stos" || Name == "stosb" || Name == "stosw" ||
1136        Name == "stosl" || (is64BitMode() && Name == "stosq"))) {
1137     X86Operand *Op1 = static_cast<X86Operand*>(Operands[1]);
1138     X86Operand *Op2 = static_cast<X86Operand*>(Operands[2]);
1139     if (isDstOp(*Op2) && Op1->isReg()) {
1140       const char *ins;
1141       unsigned reg = Op1->getReg();
1142       bool isStos = Name == "stos";
1143       if (reg == X86::AL && (isStos || Name == "stosb"))
1144         ins = "stosb";
1145       else if (reg == X86::AX && (isStos || Name == "stosw"))
1146         ins = "stosw";
1147       else if (reg == X86::EAX && (isStos || Name == "stosl"))
1148         ins = "stosl";
1149       else if (reg == X86::RAX && (isStos || Name == "stosq"))
1150         ins = "stosq";
1151       else
1152         ins = NULL;
1153       if (ins != NULL) {
1154         Operands.pop_back();
1155         Operands.pop_back();
1156         delete Op1;
1157         delete Op2;
1158         if (Name != ins)
1159           static_cast<X86Operand*>(Operands[0])->setTokenValue(ins);
1160       }
1161     }
1162   }
1163
1164   // FIXME: Hack to handle recognize s{hr,ar,hl} $1, <op>.  Canonicalize to
1165   // "shift <op>".
1166   if ((Name.startswith("shr") || Name.startswith("sar") ||
1167        Name.startswith("shl") || Name.startswith("sal") ||
1168        Name.startswith("rcl") || Name.startswith("rcr") ||
1169        Name.startswith("rol") || Name.startswith("ror")) &&
1170       Operands.size() == 3) {
1171     X86Operand *Op1 = static_cast<X86Operand*>(Operands[1]);
1172     if (Op1->isImm() && isa<MCConstantExpr>(Op1->getImm()) &&
1173         cast<MCConstantExpr>(Op1->getImm())->getValue() == 1) {
1174       delete Operands[1];
1175       Operands.erase(Operands.begin() + 1);
1176     }
1177   }
1178   
1179   // Transforms "int $3" into "int3" as a size optimization.  We can't write an
1180   // instalias with an immediate operand yet.
1181   if (Name == "int" && Operands.size() == 2) {
1182     X86Operand *Op1 = static_cast<X86Operand*>(Operands[1]);
1183     if (Op1->isImm() && isa<MCConstantExpr>(Op1->getImm()) &&
1184         cast<MCConstantExpr>(Op1->getImm())->getValue() == 3) {
1185       delete Operands[1];
1186       Operands.erase(Operands.begin() + 1);
1187       static_cast<X86Operand*>(Operands[0])->setTokenValue("int3");
1188     }
1189   }
1190
1191   return false;
1192 }
1193
1194 bool X86AsmParser::
1195 processInstruction(MCInst &Inst,
1196                    const SmallVectorImpl<MCParsedAsmOperand*> &Ops) {
1197   switch (Inst.getOpcode()) {
1198   default: return false;
1199   case X86::AND16i16: {
1200     if (!Inst.getOperand(0).isImm() ||
1201         !isImmSExti16i8Value(Inst.getOperand(0).getImm()))
1202       return false;
1203
1204     MCInst TmpInst;
1205     TmpInst.setOpcode(X86::AND16ri8);
1206     TmpInst.addOperand(MCOperand::CreateReg(X86::AX));
1207     TmpInst.addOperand(MCOperand::CreateReg(X86::AX));
1208     TmpInst.addOperand(Inst.getOperand(0));
1209     Inst = TmpInst;
1210     return true;
1211   }
1212   case X86::AND32i32: {
1213     if (!Inst.getOperand(0).isImm() ||
1214         !isImmSExti32i8Value(Inst.getOperand(0).getImm()))
1215       return false;
1216
1217     MCInst TmpInst;
1218     TmpInst.setOpcode(X86::AND32ri8);
1219     TmpInst.addOperand(MCOperand::CreateReg(X86::EAX));
1220     TmpInst.addOperand(MCOperand::CreateReg(X86::EAX));
1221     TmpInst.addOperand(Inst.getOperand(0));
1222     Inst = TmpInst;
1223     return true;
1224   }
1225   case X86::AND64i32: {
1226     if (!Inst.getOperand(0).isImm() ||
1227         !isImmSExti64i8Value(Inst.getOperand(0).getImm()))
1228       return false;
1229
1230     MCInst TmpInst;
1231     TmpInst.setOpcode(X86::AND64ri8);
1232     TmpInst.addOperand(MCOperand::CreateReg(X86::RAX));
1233     TmpInst.addOperand(MCOperand::CreateReg(X86::RAX));
1234     TmpInst.addOperand(Inst.getOperand(0));
1235     Inst = TmpInst;
1236     return true;
1237   }
1238   case X86::XOR16i16: {
1239     if (!Inst.getOperand(0).isImm() ||
1240         !isImmSExti16i8Value(Inst.getOperand(0).getImm()))
1241       return false;
1242
1243     MCInst TmpInst;
1244     TmpInst.setOpcode(X86::XOR16ri8);
1245     TmpInst.addOperand(MCOperand::CreateReg(X86::AX));
1246     TmpInst.addOperand(MCOperand::CreateReg(X86::AX));
1247     TmpInst.addOperand(Inst.getOperand(0));
1248     Inst = TmpInst;
1249     return true;
1250   }
1251   case X86::XOR32i32: {
1252     if (!Inst.getOperand(0).isImm() ||
1253         !isImmSExti32i8Value(Inst.getOperand(0).getImm()))
1254       return false;
1255
1256     MCInst TmpInst;
1257     TmpInst.setOpcode(X86::XOR32ri8);
1258     TmpInst.addOperand(MCOperand::CreateReg(X86::EAX));
1259     TmpInst.addOperand(MCOperand::CreateReg(X86::EAX));
1260     TmpInst.addOperand(Inst.getOperand(0));
1261     Inst = TmpInst;
1262     return true;
1263   }
1264   case X86::XOR64i32: {
1265     if (!Inst.getOperand(0).isImm() ||
1266         !isImmSExti64i8Value(Inst.getOperand(0).getImm()))
1267       return false;
1268
1269     MCInst TmpInst;
1270     TmpInst.setOpcode(X86::XOR64ri8);
1271     TmpInst.addOperand(MCOperand::CreateReg(X86::RAX));
1272     TmpInst.addOperand(MCOperand::CreateReg(X86::RAX));
1273     TmpInst.addOperand(Inst.getOperand(0));
1274     Inst = TmpInst;
1275     return true;
1276   }
1277   case X86::OR16i16: {
1278     if (!Inst.getOperand(0).isImm() ||
1279         !isImmSExti16i8Value(Inst.getOperand(0).getImm()))
1280       return false;
1281
1282     MCInst TmpInst;
1283     TmpInst.setOpcode(X86::OR16ri8);
1284     TmpInst.addOperand(MCOperand::CreateReg(X86::AX));
1285     TmpInst.addOperand(MCOperand::CreateReg(X86::AX));
1286     TmpInst.addOperand(Inst.getOperand(0));
1287     Inst = TmpInst;
1288     return true;
1289   }
1290   case X86::OR32i32: {
1291     if (!Inst.getOperand(0).isImm() ||
1292         !isImmSExti32i8Value(Inst.getOperand(0).getImm()))
1293       return false;
1294
1295     MCInst TmpInst;
1296     TmpInst.setOpcode(X86::OR32ri8);
1297     TmpInst.addOperand(MCOperand::CreateReg(X86::EAX));
1298     TmpInst.addOperand(MCOperand::CreateReg(X86::EAX));
1299     TmpInst.addOperand(Inst.getOperand(0));
1300     Inst = TmpInst;
1301     return true;
1302   }
1303   case X86::OR64i32: {
1304     if (!Inst.getOperand(0).isImm() ||
1305         !isImmSExti64i8Value(Inst.getOperand(0).getImm()))
1306       return false;
1307
1308     MCInst TmpInst;
1309     TmpInst.setOpcode(X86::OR64ri8);
1310     TmpInst.addOperand(MCOperand::CreateReg(X86::RAX));
1311     TmpInst.addOperand(MCOperand::CreateReg(X86::RAX));
1312     TmpInst.addOperand(Inst.getOperand(0));
1313     Inst = TmpInst;
1314     return true;
1315   }
1316   case X86::CMP16i16: {
1317     if (!Inst.getOperand(0).isImm() ||
1318         !isImmSExti16i8Value(Inst.getOperand(0).getImm()))
1319       return false;
1320
1321     MCInst TmpInst;
1322     TmpInst.setOpcode(X86::CMP16ri8);
1323     TmpInst.addOperand(MCOperand::CreateReg(X86::AX));
1324     TmpInst.addOperand(Inst.getOperand(0));
1325     Inst = TmpInst;
1326     return true;
1327   }
1328   case X86::CMP32i32: {
1329     if (!Inst.getOperand(0).isImm() ||
1330         !isImmSExti32i8Value(Inst.getOperand(0).getImm()))
1331       return false;
1332
1333     MCInst TmpInst;
1334     TmpInst.setOpcode(X86::CMP32ri8);
1335     TmpInst.addOperand(MCOperand::CreateReg(X86::EAX));
1336     TmpInst.addOperand(Inst.getOperand(0));
1337     Inst = TmpInst;
1338     return true;
1339   }
1340   case X86::CMP64i32: {
1341     if (!Inst.getOperand(0).isImm() ||
1342         !isImmSExti64i8Value(Inst.getOperand(0).getImm()))
1343       return false;
1344
1345     MCInst TmpInst;
1346     TmpInst.setOpcode(X86::CMP64ri8);
1347     TmpInst.addOperand(MCOperand::CreateReg(X86::RAX));
1348     TmpInst.addOperand(Inst.getOperand(0));
1349     Inst = TmpInst;
1350     return true;
1351   }
1352   case X86::ADD16i16: {
1353     if (!Inst.getOperand(0).isImm() ||
1354         !isImmSExti16i8Value(Inst.getOperand(0).getImm()))
1355       return false;
1356
1357     MCInst TmpInst;
1358     TmpInst.setOpcode(X86::ADD16ri8);
1359     TmpInst.addOperand(MCOperand::CreateReg(X86::AX));
1360     TmpInst.addOperand(MCOperand::CreateReg(X86::AX));
1361     TmpInst.addOperand(Inst.getOperand(0));
1362     Inst = TmpInst;
1363     return true;
1364   }
1365   case X86::ADD32i32: {
1366     if (!Inst.getOperand(0).isImm() ||
1367         !isImmSExti32i8Value(Inst.getOperand(0).getImm()))
1368       return false;
1369
1370     MCInst TmpInst;
1371     TmpInst.setOpcode(X86::ADD32ri8);
1372     TmpInst.addOperand(MCOperand::CreateReg(X86::EAX));
1373     TmpInst.addOperand(MCOperand::CreateReg(X86::EAX));
1374     TmpInst.addOperand(Inst.getOperand(0));
1375     Inst = TmpInst;
1376     return true;
1377   }
1378   case X86::ADD64i32: {
1379     if (!Inst.getOperand(0).isImm() ||
1380         !isImmSExti64i8Value(Inst.getOperand(0).getImm()))
1381       return false;
1382
1383     MCInst TmpInst;
1384     TmpInst.setOpcode(X86::ADD64ri8);
1385     TmpInst.addOperand(MCOperand::CreateReg(X86::RAX));
1386     TmpInst.addOperand(MCOperand::CreateReg(X86::RAX));
1387     TmpInst.addOperand(Inst.getOperand(0));
1388     Inst = TmpInst;
1389     return true;
1390   }
1391   case X86::SUB16i16: {
1392     if (!Inst.getOperand(0).isImm() ||
1393         !isImmSExti16i8Value(Inst.getOperand(0).getImm()))
1394       return false;
1395
1396     MCInst TmpInst;
1397     TmpInst.setOpcode(X86::SUB16ri8);
1398     TmpInst.addOperand(MCOperand::CreateReg(X86::AX));
1399     TmpInst.addOperand(MCOperand::CreateReg(X86::AX));
1400     TmpInst.addOperand(Inst.getOperand(0));
1401     Inst = TmpInst;
1402     return true;
1403   }
1404   case X86::SUB32i32: {
1405     if (!Inst.getOperand(0).isImm() ||
1406         !isImmSExti32i8Value(Inst.getOperand(0).getImm()))
1407       return false;
1408
1409     MCInst TmpInst;
1410     TmpInst.setOpcode(X86::SUB32ri8);
1411     TmpInst.addOperand(MCOperand::CreateReg(X86::EAX));
1412     TmpInst.addOperand(MCOperand::CreateReg(X86::EAX));
1413     TmpInst.addOperand(Inst.getOperand(0));
1414     Inst = TmpInst;
1415     return true;
1416   }
1417   case X86::SUB64i32: {
1418     if (!Inst.getOperand(0).isImm() ||
1419         !isImmSExti64i8Value(Inst.getOperand(0).getImm()))
1420       return false;
1421
1422     MCInst TmpInst;
1423     TmpInst.setOpcode(X86::SUB64ri8);
1424     TmpInst.addOperand(MCOperand::CreateReg(X86::RAX));
1425     TmpInst.addOperand(MCOperand::CreateReg(X86::RAX));
1426     TmpInst.addOperand(Inst.getOperand(0));
1427     Inst = TmpInst;
1428     return true;
1429   }
1430   }
1431   return false;
1432 }
1433
1434 bool X86AsmParser::
1435 MatchAndEmitInstruction(SMLoc IDLoc,
1436                         SmallVectorImpl<MCParsedAsmOperand*> &Operands,
1437                         MCStreamer &Out) {
1438   assert(!Operands.empty() && "Unexpect empty operand list!");
1439   X86Operand *Op = static_cast<X86Operand*>(Operands[0]);
1440   assert(Op->isToken() && "Leading operand should always be a mnemonic!");
1441
1442   // First, handle aliases that expand to multiple instructions.
1443   // FIXME: This should be replaced with a real .td file alias mechanism.
1444   // Also, MatchInstructionImpl should do actually *do* the EmitInstruction
1445   // call.
1446   if (Op->getToken() == "fstsw" || Op->getToken() == "fstcw" ||
1447       Op->getToken() == "fstsww" || Op->getToken() == "fstcww" ||
1448       Op->getToken() == "finit" || Op->getToken() == "fsave" ||
1449       Op->getToken() == "fstenv" || Op->getToken() == "fclex") {
1450     MCInst Inst;
1451     Inst.setOpcode(X86::WAIT);
1452     Out.EmitInstruction(Inst);
1453
1454     const char *Repl =
1455       StringSwitch<const char*>(Op->getToken())
1456         .Case("finit",  "fninit")
1457         .Case("fsave",  "fnsave")
1458         .Case("fstcw",  "fnstcw")
1459         .Case("fstcww",  "fnstcw")
1460         .Case("fstenv", "fnstenv")
1461         .Case("fstsw",  "fnstsw")
1462         .Case("fstsww", "fnstsw")
1463         .Case("fclex",  "fnclex")
1464         .Default(0);
1465     assert(Repl && "Unknown wait-prefixed instruction");
1466     delete Operands[0];
1467     Operands[0] = X86Operand::CreateToken(Repl, IDLoc);
1468   }
1469
1470   bool WasOriginallyInvalidOperand = false;
1471   unsigned OrigErrorInfo;
1472   MCInst Inst;
1473
1474   // First, try a direct match.
1475   switch (MatchInstructionImpl(Operands, Inst, OrigErrorInfo, 
1476                                getParser().getAssemblerDialect())) {
1477   default: break;
1478   case Match_Success:
1479     // Some instructions need post-processing to, for example, tweak which
1480     // encoding is selected. Loop on it while changes happen so the
1481     // individual transformations can chain off each other. 
1482     while (processInstruction(Inst, Operands))
1483       ;
1484
1485     Out.EmitInstruction(Inst);
1486     return false;
1487   case Match_MissingFeature:
1488     Error(IDLoc, "instruction requires a CPU feature not currently enabled");
1489     return true;
1490   case Match_ConversionFail:
1491     return Error(IDLoc, "unable to convert operands to instruction");
1492   case Match_InvalidOperand:
1493     WasOriginallyInvalidOperand = true;
1494     break;
1495   case Match_MnemonicFail:
1496     break;
1497   }
1498
1499   // FIXME: Ideally, we would only attempt suffix matches for things which are
1500   // valid prefixes, and we could just infer the right unambiguous
1501   // type. However, that requires substantially more matcher support than the
1502   // following hack.
1503
1504   // Change the operand to point to a temporary token.
1505   StringRef Base = Op->getToken();
1506   SmallString<16> Tmp;
1507   Tmp += Base;
1508   Tmp += ' ';
1509   Op->setTokenValue(Tmp.str());
1510
1511   // If this instruction starts with an 'f', then it is a floating point stack
1512   // instruction.  These come in up to three forms for 32-bit, 64-bit, and
1513   // 80-bit floating point, which use the suffixes s,l,t respectively.
1514   //
1515   // Otherwise, we assume that this may be an integer instruction, which comes
1516   // in 8/16/32/64-bit forms using the b,w,l,q suffixes respectively.
1517   const char *Suffixes = Base[0] != 'f' ? "bwlq" : "slt\0";
1518   
1519   // Check for the various suffix matches.
1520   Tmp[Base.size()] = Suffixes[0];
1521   unsigned ErrorInfoIgnore;
1522   unsigned Match1, Match2, Match3, Match4;
1523   
1524   Match1 = MatchInstructionImpl(Operands, Inst, ErrorInfoIgnore);
1525   Tmp[Base.size()] = Suffixes[1];
1526   Match2 = MatchInstructionImpl(Operands, Inst, ErrorInfoIgnore);
1527   Tmp[Base.size()] = Suffixes[2];
1528   Match3 = MatchInstructionImpl(Operands, Inst, ErrorInfoIgnore);
1529   Tmp[Base.size()] = Suffixes[3];
1530   Match4 = MatchInstructionImpl(Operands, Inst, ErrorInfoIgnore);
1531
1532   // Restore the old token.
1533   Op->setTokenValue(Base);
1534
1535   // If exactly one matched, then we treat that as a successful match (and the
1536   // instruction will already have been filled in correctly, since the failing
1537   // matches won't have modified it).
1538   unsigned NumSuccessfulMatches =
1539     (Match1 == Match_Success) + (Match2 == Match_Success) +
1540     (Match3 == Match_Success) + (Match4 == Match_Success);
1541   if (NumSuccessfulMatches == 1) {
1542     Out.EmitInstruction(Inst);
1543     return false;
1544   }
1545
1546   // Otherwise, the match failed, try to produce a decent error message.
1547
1548   // If we had multiple suffix matches, then identify this as an ambiguous
1549   // match.
1550   if (NumSuccessfulMatches > 1) {
1551     char MatchChars[4];
1552     unsigned NumMatches = 0;
1553     if (Match1 == Match_Success) MatchChars[NumMatches++] = Suffixes[0];
1554     if (Match2 == Match_Success) MatchChars[NumMatches++] = Suffixes[1];
1555     if (Match3 == Match_Success) MatchChars[NumMatches++] = Suffixes[2];
1556     if (Match4 == Match_Success) MatchChars[NumMatches++] = Suffixes[3];
1557
1558     SmallString<126> Msg;
1559     raw_svector_ostream OS(Msg);
1560     OS << "ambiguous instructions require an explicit suffix (could be ";
1561     for (unsigned i = 0; i != NumMatches; ++i) {
1562       if (i != 0)
1563         OS << ", ";
1564       if (i + 1 == NumMatches)
1565         OS << "or ";
1566       OS << "'" << Base << MatchChars[i] << "'";
1567     }
1568     OS << ")";
1569     Error(IDLoc, OS.str());
1570     return true;
1571   }
1572
1573   // Okay, we know that none of the variants matched successfully.
1574
1575   // If all of the instructions reported an invalid mnemonic, then the original
1576   // mnemonic was invalid.
1577   if ((Match1 == Match_MnemonicFail) && (Match2 == Match_MnemonicFail) &&
1578       (Match3 == Match_MnemonicFail) && (Match4 == Match_MnemonicFail)) {
1579     if (!WasOriginallyInvalidOperand) {
1580       return Error(IDLoc, "invalid instruction mnemonic '" + Base + "'",
1581                    Op->getLocRange());
1582     }
1583
1584     // Recover location info for the operand if we know which was the problem.
1585     if (OrigErrorInfo != ~0U) {
1586       if (OrigErrorInfo >= Operands.size())
1587         return Error(IDLoc, "too few operands for instruction");
1588
1589       X86Operand *Operand = (X86Operand*)Operands[OrigErrorInfo];
1590       if (Operand->getStartLoc().isValid()) {
1591         SMRange OperandRange = Operand->getLocRange();
1592         return Error(Operand->getStartLoc(), "invalid operand for instruction",
1593                      OperandRange);
1594       }
1595     }
1596
1597     return Error(IDLoc, "invalid operand for instruction");
1598   }
1599
1600   // If one instruction matched with a missing feature, report this as a
1601   // missing feature.
1602   if ((Match1 == Match_MissingFeature) + (Match2 == Match_MissingFeature) +
1603       (Match3 == Match_MissingFeature) + (Match4 == Match_MissingFeature) == 1){
1604     Error(IDLoc, "instruction requires a CPU feature not currently enabled");
1605     return true;
1606   }
1607
1608   // If one instruction matched with an invalid operand, report this as an
1609   // operand failure.
1610   if ((Match1 == Match_InvalidOperand) + (Match2 == Match_InvalidOperand) +
1611       (Match3 == Match_InvalidOperand) + (Match4 == Match_InvalidOperand) == 1){
1612     Error(IDLoc, "invalid operand for instruction");
1613     return true;
1614   }
1615
1616   // If all of these were an outright failure, report it in a useless way.
1617   Error(IDLoc, "unknown use of instruction mnemonic without a size suffix");
1618   return true;
1619 }
1620
1621
1622 bool X86AsmParser::ParseDirective(AsmToken DirectiveID) {
1623   StringRef IDVal = DirectiveID.getIdentifier();
1624   if (IDVal == ".word")
1625     return ParseDirectiveWord(2, DirectiveID.getLoc());
1626   else if (IDVal.startswith(".code"))
1627     return ParseDirectiveCode(IDVal, DirectiveID.getLoc());
1628   return true;
1629 }
1630
1631 /// ParseDirectiveWord
1632 ///  ::= .word [ expression (, expression)* ]
1633 bool X86AsmParser::ParseDirectiveWord(unsigned Size, SMLoc L) {
1634   if (getLexer().isNot(AsmToken::EndOfStatement)) {
1635     for (;;) {
1636       const MCExpr *Value;
1637       if (getParser().ParseExpression(Value))
1638         return true;
1639       
1640       getParser().getStreamer().EmitValue(Value, Size, 0 /*addrspace*/);
1641       
1642       if (getLexer().is(AsmToken::EndOfStatement))
1643         break;
1644       
1645       // FIXME: Improve diagnostic.
1646       if (getLexer().isNot(AsmToken::Comma))
1647         return Error(L, "unexpected token in directive");
1648       Parser.Lex();
1649     }
1650   }
1651   
1652   Parser.Lex();
1653   return false;
1654 }
1655
1656 /// ParseDirectiveCode
1657 ///  ::= .code32 | .code64
1658 bool X86AsmParser::ParseDirectiveCode(StringRef IDVal, SMLoc L) {
1659   if (IDVal == ".code32") {
1660     Parser.Lex();
1661     if (is64BitMode()) {
1662       SwitchMode();
1663       getParser().getStreamer().EmitAssemblerFlag(MCAF_Code32);
1664     }
1665   } else if (IDVal == ".code64") {
1666     Parser.Lex();
1667     if (!is64BitMode()) {
1668       SwitchMode();
1669       getParser().getStreamer().EmitAssemblerFlag(MCAF_Code64);
1670     }
1671   } else {
1672     return Error(L, "unexpected directive " + IDVal);
1673   }
1674
1675   return false;
1676 }
1677
1678
1679 extern "C" void LLVMInitializeX86AsmLexer();
1680
1681 // Force static initialization.
1682 extern "C" void LLVMInitializeX86AsmParser() {
1683   RegisterMCAsmParser<X86AsmParser> X(TheX86_32Target);
1684   RegisterMCAsmParser<X86AsmParser> Y(TheX86_64Target);
1685   LLVMInitializeX86AsmLexer();
1686 }
1687
1688 #define GET_REGISTER_MATCHER
1689 #define GET_MATCHER_IMPLEMENTATION
1690 #include "X86GenAsmMatcher.inc"