arch/arm64/kernel/entry.S

   1 /*
   2  * Low-level exception handling code
   3  *
   4  * Copyright (C) 2012 ARM Ltd.
   5  * Authors:     Catalin Marinas <catalin.marinas@arm.com>
   6  *              Will Deacon <will.deacon@arm.com>
   7  *
   8  * This program is free software; you can redistribute it and/or modify
   9  * it under the terms of the GNU General Public License version 2 as
  10  * published by the Free Software Foundation.
  11  *
  12  * This program is distributed in the hope that it will be useful,
  13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
  14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
  15  * GNU General Public License for more details.
  16  *
  17  * You should have received a copy of the GNU General Public License
  18  * along with this program.  If not, see <http://www.gnu.org/licenses/>.
  19  */
  20
  21 #include <linux/init.h>
  22 #include <linux/linkage.h>
  23
  24 #include <asm/alternative.h>
  25 #include <asm/assembler.h>
  26 #include <asm/asm-offsets.h>
  27 #include <asm/cpufeature.h>
  28 #include <asm/errno.h>
  29 #include <asm/esr.h>
  30 #include <asm/irq.h>
  31 #include <asm/memory.h>
  32 #include <asm/thread_info.h>
  33 #include <asm/asm-uaccess.h>
  34 #include <asm/unistd.h>
  35
  36 /*
  37  * Context tracking subsystem.  Used to instrument transitions
  38  * between user and kernel mode.
  39  */
  40         .macro ct_user_exit, syscall = 0
  41 #ifdef CONFIG_CONTEXT_TRACKING
  42         bl      context_tracking_user_exit
  43         .if \syscall == 1
  44         /*
  45          * Save/restore needed during syscalls.  Restore syscall arguments from
  46          * the values already saved on stack during kernel_entry.
  47          */
  48         ldp     x0, x1, [sp]
  49         ldp     x2, x3, [sp, #S_X2]
  50         ldp     x4, x5, [sp, #S_X4]
  51         ldp     x6, x7, [sp, #S_X6]
  52         .endif
  53 #endif
  54         .endm
  55
  56         .macro ct_user_enter
  57 #ifdef CONFIG_CONTEXT_TRACKING
  58         bl      context_tracking_user_enter
  59 #endif
  60         .endm
  61
  62 /*
  63  * Bad Abort numbers
  64  *-----------------
  65  */
  66 #define BAD_SYNC        0
  67 #define BAD_IRQ         1
  68 #define BAD_FIQ         2
  69 #define BAD_ERROR       3
  70
  71         .macro  kernel_entry, el, regsize = 64
  72         sub     sp, sp, #S_FRAME_SIZE
  73         .if     \regsize == 32
  74         mov     w0, w0                          // zero upper 32 bits of x0
  75         .endif
  76         stp     x0, x1, [sp, #16 * 0]
  77         stp     x2, x3, [sp, #16 * 1]
  78         stp     x4, x5, [sp, #16 * 2]
  79         stp     x6, x7, [sp, #16 * 3]
  80         stp     x8, x9, [sp, #16 * 4]
  81         stp     x10, x11, [sp, #16 * 5]
  82         stp     x12, x13, [sp, #16 * 6]
  83         stp     x14, x15, [sp, #16 * 7]
  84         stp     x16, x17, [sp, #16 * 8]
  85         stp     x18, x19, [sp, #16 * 9]
  86         stp     x20, x21, [sp, #16 * 10]
  87         stp     x22, x23, [sp, #16 * 11]
  88         stp     x24, x25, [sp, #16 * 12]
  89         stp     x26, x27, [sp, #16 * 13]
  90         stp     x28, x29, [sp, #16 * 14]
  91
  92         .if     \el == 0
  93         mrs     x21, sp_el0
  94         mov     tsk, sp
  95         and     tsk, tsk, #~(THREAD_SIZE - 1)   // Ensure MDSCR_EL1.SS is clear,
  96         ldr     x19, [tsk, #TI_FLAGS]           // since we can unmask debug
  97         disable_step_tsk x19, x20               // exceptions when scheduling.
  98
  99         mov     x29, xzr                        // fp pointed to user-space
 100         .else
 101         add     x21, sp, #S_FRAME_SIZE
 102         get_thread_info tsk
 103         /* Save the task's original addr_limit and set USER_DS (TASK_SIZE_64) */
 104         ldr     x20, [tsk, #TI_ADDR_LIMIT]
 105         str     x20, [sp, #S_ORIG_ADDR_LIMIT]
 106         mov     x20, #TASK_SIZE_64
 107         str     x20, [tsk, #TI_ADDR_LIMIT]
 108         .endif /* \el == 0 */
 109         mrs     x22, elr_el1
 110         mrs     x23, spsr_el1
 111         stp     lr, x21, [sp, #S_LR]
 112         stp     x22, x23, [sp, #S_PC]
 113
 114         /*
 115          * Set syscallno to -1 by default (overridden later if real syscall).
 116          */
 117         .if     \el == 0
 118         mvn     x21, xzr
 119         str     x21, [sp, #S_SYSCALLNO]
 120         .endif
 121
 122         /*
 123          * Set sp_el0 to current thread_info.
 124          */
 125         .if     \el == 0
 126         msr     sp_el0, tsk
 127         .endif
 128
 129         /*
 130          * Registers that may be useful after this macro is invoked:
 131          *
 132          * x21 - aborted SP
 133          * x22 - aborted PC
 134          * x23 - aborted PSTATE
 135         */
 136         .endm
 137
 138         .macro  kernel_exit, el
 139         .if     \el != 0
 140         /* Restore the task's original addr_limit. */
 141         ldr     x20, [sp, #S_ORIG_ADDR_LIMIT]
 142         str     x20, [tsk, #TI_ADDR_LIMIT]
 143         .endif
 144
 145         ldp     x21, x22, [sp, #S_PC]           // load ELR, SPSR
 146         .if     \el == 0
 147         ct_user_enter
 148         ldr     x23, [sp, #S_SP]                // load return stack pointer
 149         msr     sp_el0, x23
 150 #ifdef CONFIG_ARM64_ERRATUM_845719
 151 alternative_if_not ARM64_WORKAROUND_845719
 152         nop
 153         nop
 154 #ifdef CONFIG_PID_IN_CONTEXTIDR
 155         nop
 156 #endif
 157 alternative_else
 158         tbz     x22, #4, 1f
 159 #ifdef CONFIG_PID_IN_CONTEXTIDR
 160         mrs     x29, contextidr_el1
 161         msr     contextidr_el1, x29
 162 #else
 163         msr contextidr_el1, xzr
 164 #endif
 165 1:
 166 alternative_endif
 167 #endif
 168         .endif
 169         msr     elr_el1, x21                    // set up the return data
 170         msr     spsr_el1, x22
 171         ldp     x0, x1, [sp, #16 * 0]
 172         ldp     x2, x3, [sp, #16 * 1]
 173         ldp     x4, x5, [sp, #16 * 2]
 174         ldp     x6, x7, [sp, #16 * 3]
 175         ldp     x8, x9, [sp, #16 * 4]
 176         ldp     x10, x11, [sp, #16 * 5]
 177         ldp     x12, x13, [sp, #16 * 6]
 178         ldp     x14, x15, [sp, #16 * 7]
 179         ldp     x16, x17, [sp, #16 * 8]
 180         ldp     x18, x19, [sp, #16 * 9]
 181         ldp     x20, x21, [sp, #16 * 10]
 182         ldp     x22, x23, [sp, #16 * 11]
 183         ldp     x24, x25, [sp, #16 * 12]
 184         ldp     x26, x27, [sp, #16 * 13]
 185         ldp     x28, x29, [sp, #16 * 14]
 186         ldr     lr, [sp, #S_LR]
 187         add     sp, sp, #S_FRAME_SIZE           // restore sp
 188         eret                                    // return to kernel
 189         .endm
 190
 191         .macro  get_thread_info, rd
 192         mrs     \rd, sp_el0
 193         .endm
 194
 195         .macro  irq_stack_entry
 196         mov     x19, sp                 // preserve the original sp
 197
 198         /*
 199          * Compare sp with the current thread_info, if the top
 200          * ~(THREAD_SIZE - 1) bits match, we are on a task stack, and
 201          * should switch to the irq stack.
 202          */
 203         and     x25, x19, #~(THREAD_SIZE - 1)
 204         cmp     x25, tsk
 205         b.ne    9998f
 206
 207         this_cpu_ptr irq_stack, x25, x26
 208         mov     x26, #IRQ_STACK_START_SP
 209         add     x26, x25, x26
 210
 211         /* switch to the irq stack */
 212         mov     sp, x26
 213
 214         /*
 215          * Add a dummy stack frame, this non-standard format is fixed up
 216          * by unwind_frame()
 217          */
 218         stp     x29, x19, [sp, #-16]!
 219         mov     x29, sp
 220
 221 9998:
 222         .endm
 223
 224         /*
 225          * x19 should be preserved between irq_stack_entry and
 226          * irq_stack_exit.
 227          */
 228         .macro  irq_stack_exit
 229         mov     sp, x19
 230         .endm
 231
 232 /*
 233  * These are the registers used in the syscall handler, and allow us to
 234  * have in theory up to 7 arguments to a function - x0 to x6.
 235  *
 236  * x7 is reserved for the system call number in 32-bit mode.
 237  */
 238 sc_nr   .req    x25             // number of system calls
 239 scno    .req    x26             // syscall number
 240 stbl    .req    x27             // syscall table pointer
 241 tsk     .req    x28             // current thread_info
 242
 243 /*
 244  * Interrupt handling.
 245  */
 246         .macro  irq_handler
 247         ldr_l   x1, handle_arch_irq
 248         mov     x0, sp
 249         irq_stack_entry
 250         blr     x1
 251         irq_stack_exit
 252         .endm
 253
 254         .text
 255
 256 /*
 257  * Exception vectors.
 258  */
 259         .pushsection ".entry.text", "ax"
 260
 261         .align  11
 262 ENTRY(vectors)
 263         ventry  el1_sync_invalid                // Synchronous EL1t
 264         ventry  el1_irq_invalid                 // IRQ EL1t
 265         ventry  el1_fiq_invalid                 // FIQ EL1t
 266         ventry  el1_error_invalid               // Error EL1t
 267
 268         ventry  el1_sync                        // Synchronous EL1h
 269         ventry  el1_irq                         // IRQ EL1h
 270         ventry  el1_fiq_invalid                 // FIQ EL1h
 271         ventry  el1_error_invalid               // Error EL1h
 272
 273         ventry  el0_sync                        // Synchronous 64-bit EL0
 274         ventry  el0_irq                         // IRQ 64-bit EL0
 275         ventry  el0_fiq_invalid                 // FIQ 64-bit EL0
 276         ventry  el0_error_invalid               // Error 64-bit EL0
 277
 278 #ifdef CONFIG_COMPAT
 279         ventry  el0_sync_compat                 // Synchronous 32-bit EL0
 280         ventry  el0_irq_compat                  // IRQ 32-bit EL0
 281         ventry  el0_fiq_invalid_compat          // FIQ 32-bit EL0
 282         ventry  el0_error_invalid_compat        // Error 32-bit EL0
 283 #else
 284         ventry  el0_sync_invalid                // Synchronous 32-bit EL0
 285         ventry  el0_irq_invalid                 // IRQ 32-bit EL0
 286         ventry  el0_fiq_invalid                 // FIQ 32-bit EL0
 287         ventry  el0_error_invalid               // Error 32-bit EL0
 288 #endif
 289 END(vectors)
 290
 291 /*
 292  * Invalid mode handlers
 293  */
 294         .macro  inv_entry, el, reason, regsize = 64
 295         kernel_entry el, \regsize
 296         mov     x0, sp
 297         mov     x1, #\reason
 298         mrs     x2, esr_el1
 299         b       bad_mode
 300         .endm
 301
 302 el0_sync_invalid:
 303         inv_entry 0, BAD_SYNC
 304 ENDPROC(el0_sync_invalid)
 305
 306 el0_irq_invalid:
 307         inv_entry 0, BAD_IRQ
 308 ENDPROC(el0_irq_invalid)
 309
 310 el0_fiq_invalid:
 311         inv_entry 0, BAD_FIQ
 312 ENDPROC(el0_fiq_invalid)
 313
 314 el0_error_invalid:
 315         inv_entry 0, BAD_ERROR
 316 ENDPROC(el0_error_invalid)
 317
 318 #ifdef CONFIG_COMPAT
 319 el0_fiq_invalid_compat:
 320         inv_entry 0, BAD_FIQ, 32
 321 ENDPROC(el0_fiq_invalid_compat)
 322
 323 el0_error_invalid_compat:
 324         inv_entry 0, BAD_ERROR, 32
 325 ENDPROC(el0_error_invalid_compat)
 326 #endif
 327
 328 el1_sync_invalid:
 329         inv_entry 1, BAD_SYNC
 330 ENDPROC(el1_sync_invalid)
 331
 332 el1_irq_invalid:
 333         inv_entry 1, BAD_IRQ
 334 ENDPROC(el1_irq_invalid)
 335
 336 el1_fiq_invalid:
 337         inv_entry 1, BAD_FIQ
 338 ENDPROC(el1_fiq_invalid)
 339
 340 el1_error_invalid:
 341         inv_entry 1, BAD_ERROR
 342 ENDPROC(el1_error_invalid)
 343
 344 /*
 345  * EL1 mode handlers.
 346  */
 347         .align  6
 348 el1_sync:
 349         kernel_entry 1
 350         mrs     x1, esr_el1                     // read the syndrome register
 351         lsr     x24, x1, #ESR_ELx_EC_SHIFT      // exception class
 352         cmp     x24, #ESR_ELx_EC_DABT_CUR       // data abort in EL1
 353         b.eq    el1_da
 354         cmp     x24, #ESR_ELx_EC_SYS64          // configurable trap
 355         b.eq    el1_undef
 356         cmp     x24, #ESR_ELx_EC_SP_ALIGN       // stack alignment exception
 357         b.eq    el1_sp_pc
 358         cmp     x24, #ESR_ELx_EC_PC_ALIGN       // pc alignment exception
 359         b.eq    el1_sp_pc
 360         cmp     x24, #ESR_ELx_EC_UNKNOWN        // unknown exception in EL1
 361         b.eq    el1_undef
 362         cmp     x24, #ESR_ELx_EC_BREAKPT_CUR    // debug exception in EL1
 363         b.ge    el1_dbg
 364         b       el1_inv
 365 el1_da:
 366         /*
 367          * Data abort handling
 368          */
 369         mrs     x3, far_el1
 370         enable_dbg
 371         // re-enable interrupts if they were enabled in the aborted context
 372         tbnz    x23, #7, 1f                     // PSR_I_BIT
 373         enable_irq
 374 1:
 375         clear_address_tag x0, x3
 376         mov     x2, sp                          // struct pt_regs
 377         bl      do_mem_abort
 378
 379         // disable interrupts before pulling preserved data off the stack
 380         disable_irq
 381         kernel_exit 1
 382 el1_sp_pc:
 383         /*
 384          * Stack or PC alignment exception handling
 385          */
 386         mrs     x0, far_el1
 387         enable_dbg
 388         mov     x2, sp
 389         b       do_sp_pc_abort
 390 el1_undef:
 391         /*
 392          * Undefined instruction
 393          */
 394         enable_dbg
 395         mov     x0, sp
 396         b       do_undefinstr
 397 el1_dbg:
 398         /*
 399          * Debug exception handling
 400          */
 401         cmp     x24, #ESR_ELx_EC_BRK64          // if BRK64
 402         cinc    x24, x24, eq                    // set bit '0'
 403         tbz     x24, #0, el1_inv                // EL1 only
 404         mrs     x0, far_el1
 405         mov     x2, sp                          // struct pt_regs
 406         bl      do_debug_exception
 407         kernel_exit 1
 408 el1_inv:
 409         // TODO: add support for undefined instructions in kernel mode
 410         enable_dbg
 411         mov     x0, sp
 412         mov     x2, x1
 413         mov     x1, #BAD_SYNC
 414         b       bad_mode
 415 ENDPROC(el1_sync)
 416
 417         .align  6
 418 el1_irq:
 419         kernel_entry 1
 420         enable_dbg
 421 #ifdef CONFIG_TRACE_IRQFLAGS
 422         bl      trace_hardirqs_off
 423 #endif
 424
 425         get_thread_info tsk
 426         irq_handler
 427
 428 #ifdef CONFIG_PREEMPT
 429         ldr     w24, [tsk, #TI_PREEMPT]         // get preempt count
 430         cbnz    w24, 1f                         // preempt count != 0
 431         ldr     x0, [tsk, #TI_FLAGS]            // get flags
 432         tbz     x0, #TIF_NEED_RESCHED, 1f       // needs rescheduling?
 433         bl      el1_preempt
 434 1:
 435 #endif
 436 #ifdef CONFIG_TRACE_IRQFLAGS
 437         bl      trace_hardirqs_on
 438 #endif
 439         kernel_exit 1
 440 ENDPROC(el1_irq)
 441
 442 #ifdef CONFIG_PREEMPT
 443 el1_preempt:
 444         mov     x24, lr
 445 1:      bl      preempt_schedule_irq            // irq en/disable is done inside
 446         ldr     x0, [tsk, #TI_FLAGS]            // get new tasks TI_FLAGS
 447         tbnz    x0, #TIF_NEED_RESCHED, 1b       // needs rescheduling?
 448         ret     x24
 449 #endif
 450
 451 /*
 452  * EL0 mode handlers.
 453  */
 454         .align  6
 455 el0_sync:
 456         kernel_entry 0
 457         mrs     x25, esr_el1                    // read the syndrome register
 458         lsr     x24, x25, #ESR_ELx_EC_SHIFT     // exception class
 459         cmp     x24, #ESR_ELx_EC_SVC64          // SVC in 64-bit state
 460         b.eq    el0_svc
 461         cmp     x24, #ESR_ELx_EC_DABT_LOW       // data abort in EL0
 462         b.eq    el0_da
 463         cmp     x24, #ESR_ELx_EC_IABT_LOW       // instruction abort in EL0
 464         b.eq    el0_ia
 465         cmp     x24, #ESR_ELx_EC_FP_ASIMD       // FP/ASIMD access
 466         b.eq    el0_fpsimd_acc
 467         cmp     x24, #ESR_ELx_EC_FP_EXC64       // FP/ASIMD exception
 468         b.eq    el0_fpsimd_exc
 469         cmp     x24, #ESR_ELx_EC_SYS64          // configurable trap
 470         b.eq    el0_undef
 471         cmp     x24, #ESR_ELx_EC_SP_ALIGN       // stack alignment exception
 472         b.eq    el0_sp_pc
 473         cmp     x24, #ESR_ELx_EC_PC_ALIGN       // pc alignment exception
 474         b.eq    el0_sp_pc
 475         cmp     x24, #ESR_ELx_EC_UNKNOWN        // unknown exception in EL0
 476         b.eq    el0_undef
 477         cmp     x24, #ESR_ELx_EC_BREAKPT_LOW    // debug exception in EL0
 478         b.ge    el0_dbg
 479         b       el0_inv
 480
 481 #ifdef CONFIG_COMPAT
 482         .align  6
 483 el0_sync_compat:
 484         kernel_entry 0, 32
 485         mrs     x25, esr_el1                    // read the syndrome register
 486         lsr     x24, x25, #ESR_ELx_EC_SHIFT     // exception class
 487         cmp     x24, #ESR_ELx_EC_SVC32          // SVC in 32-bit state
 488         b.eq    el0_svc_compat
 489         cmp     x24, #ESR_ELx_EC_DABT_LOW       // data abort in EL0
 490         b.eq    el0_da
 491         cmp     x24, #ESR_ELx_EC_IABT_LOW       // instruction abort in EL0
 492         b.eq    el0_ia
 493         cmp     x24, #ESR_ELx_EC_FP_ASIMD       // FP/ASIMD access
 494         b.eq    el0_fpsimd_acc
 495         cmp     x24, #ESR_ELx_EC_FP_EXC32       // FP/ASIMD exception
 496         b.eq    el0_fpsimd_exc
 497         cmp     x24, #ESR_ELx_EC_PC_ALIGN       // pc alignment exception
 498         b.eq    el0_sp_pc
 499         cmp     x24, #ESR_ELx_EC_UNKNOWN        // unknown exception in EL0
 500         b.eq    el0_undef
 501         cmp     x24, #ESR_ELx_EC_CP15_32        // CP15 MRC/MCR trap
 502         b.eq    el0_undef
 503         cmp     x24, #ESR_ELx_EC_CP15_64        // CP15 MRRC/MCRR trap
 504         b.eq    el0_undef
 505         cmp     x24, #ESR_ELx_EC_CP14_MR        // CP14 MRC/MCR trap
 506         b.eq    el0_undef
 507         cmp     x24, #ESR_ELx_EC_CP14_LS        // CP14 LDC/STC trap
 508         b.eq    el0_undef
 509         cmp     x24, #ESR_ELx_EC_CP14_64        // CP14 MRRC/MCRR trap
 510         b.eq    el0_undef
 511         cmp     x24, #ESR_ELx_EC_BREAKPT_LOW    // debug exception in EL0
 512         b.ge    el0_dbg
 513         b       el0_inv
 514 el0_svc_compat:
 515         /*
 516          * AArch32 syscall handling
 517          */
 518         adrp    stbl, compat_sys_call_table     // load compat syscall table pointer
 519         uxtw    scno, w7                        // syscall number in w7 (r7)
 520         mov     sc_nr, #__NR_compat_syscalls
 521         b       el0_svc_naked
 522
 523         .align  6
 524 el0_irq_compat:
 525         kernel_entry 0, 32
 526         b       el0_irq_naked
 527 #endif
 528
 529 el0_da:
 530         /*
 531          * Data abort handling
 532          */
 533         mrs     x26, far_el1
 534         // enable interrupts before calling the main handler
 535         enable_dbg_and_irq
 536         ct_user_exit
 537         clear_address_tag x0, x26
 538         mov     x1, x25
 539         mov     x2, sp
 540         bl      do_mem_abort
 541         b       ret_to_user
 542 el0_ia:
 543         /*
 544          * Instruction abort handling
 545          */
 546         mrs     x26, far_el1
 547         // enable interrupts before calling the main handler
 548         enable_dbg_and_irq
 549         ct_user_exit
 550         mov     x0, x26
 551         orr     x1, x25, #1 << 24               // use reserved ISS bit for instruction aborts
 552         mov     x2, sp
 553         bl      do_mem_abort
 554         b       ret_to_user
 555 el0_fpsimd_acc:
 556         /*
 557          * Floating Point or Advanced SIMD access
 558          */
 559         enable_dbg
 560         ct_user_exit
 561         mov     x0, x25
 562         mov     x1, sp
 563         bl      do_fpsimd_acc
 564         b       ret_to_user
 565 el0_fpsimd_exc:
 566         /*
 567          * Floating Point or Advanced SIMD exception
 568          */
 569         enable_dbg
 570         ct_user_exit
 571         mov     x0, x25
 572         mov     x1, sp
 573         bl      do_fpsimd_exc
 574         b       ret_to_user
 575 el0_sp_pc:
 576         /*
 577          * Stack or PC alignment exception handling
 578          */
 579         mrs     x26, far_el1
 580         // enable interrupts before calling the main handler
 581         enable_dbg_and_irq
 582         ct_user_exit
 583         mov     x0, x26
 584         mov     x1, x25
 585         mov     x2, sp
 586         bl      do_sp_pc_abort
 587         b       ret_to_user
 588 el0_undef:
 589         /*
 590          * Undefined instruction
 591          */
 592         // enable interrupts before calling the main handler
 593         enable_dbg_and_irq
 594         ct_user_exit
 595         mov     x0, sp
 596         bl      do_undefinstr
 597         b       ret_to_user
 598 el0_dbg:
 599         /*
 600          * Debug exception handling
 601          */
 602         tbnz    x24, #0, el0_inv                // EL0 only
 603         mrs     x0, far_el1
 604         mov     x1, x25
 605         mov     x2, sp
 606         bl      do_debug_exception
 607         enable_dbg
 608         ct_user_exit
 609         b       ret_to_user
 610 el0_inv:
 611         enable_dbg
 612         ct_user_exit
 613         mov     x0, sp
 614         mov     x1, #BAD_SYNC
 615         mov     x2, x25
 616         bl      bad_el0_sync
 617         b       ret_to_user
 618 ENDPROC(el0_sync)
 619
 620         .align  6
 621 el0_irq:
 622         kernel_entry 0
 623 el0_irq_naked:
 624         enable_dbg
 625 #ifdef CONFIG_TRACE_IRQFLAGS
 626         bl      trace_hardirqs_off
 627 #endif
 628
 629         ct_user_exit
 630         irq_handler
 631
 632 #ifdef CONFIG_TRACE_IRQFLAGS
 633         bl      trace_hardirqs_on
 634 #endif
 635         b       ret_to_user
 636 ENDPROC(el0_irq)
 637
 638 /*
 639  * Register switch for AArch64. The callee-saved registers need to be saved
 640  * and restored. On entry:
 641  *   x0 = previous task_struct (must be preserved across the switch)
 642  *   x1 = next task_struct
 643  * Previous and next are guaranteed not to be the same.
 644  *
 645  */
 646 ENTRY(cpu_switch_to)
 647         mov     x10, #THREAD_CPU_CONTEXT
 648         add     x8, x0, x10
 649         mov     x9, sp
 650         stp     x19, x20, [x8], #16             // store callee-saved registers
 651         stp     x21, x22, [x8], #16
 652         stp     x23, x24, [x8], #16
 653         stp     x25, x26, [x8], #16
 654         stp     x27, x28, [x8], #16
 655         stp     x29, x9, [x8], #16
 656         str     lr, [x8]
 657         add     x8, x1, x10
 658         ldp     x19, x20, [x8], #16             // restore callee-saved registers
 659         ldp     x21, x22, [x8], #16
 660         ldp     x23, x24, [x8], #16
 661         ldp     x25, x26, [x8], #16
 662         ldp     x27, x28, [x8], #16
 663         ldp     x29, x9, [x8], #16
 664         ldr     lr, [x8]
 665         mov     sp, x9
 666         and     x9, x9, #~(THREAD_SIZE - 1)
 667         msr     sp_el0, x9
 668         ret
 669 ENDPROC(cpu_switch_to)
 670
 671 /*
 672  * This is the fast syscall return path.  We do as little as possible here,
 673  * and this includes saving x0 back into the kernel stack.
 674  */
 675 ret_fast_syscall:
 676         disable_irq                             // disable interrupts
 677         str     x0, [sp, #S_X0]                 // returned x0
 678         ldr     x1, [tsk, #TI_FLAGS]            // re-check for syscall tracing
 679         and     x2, x1, #_TIF_SYSCALL_WORK
 680         cbnz    x2, ret_fast_syscall_trace
 681         and     x2, x1, #_TIF_WORK_MASK
 682         cbnz    x2, work_pending
 683         enable_step_tsk x1, x2
 684         kernel_exit 0
 685 ret_fast_syscall_trace:
 686         enable_irq                              // enable interrupts
 687         b       __sys_trace_return_skipped      // we already saved x0
 688
 689 /*
 690  * Ok, we need to do extra processing, enter the slow path.
 691  */
 692 work_pending:
 693         tbnz    x1, #TIF_NEED_RESCHED, work_resched
 694         /* TIF_SIGPENDING, TIF_NOTIFY_RESUME or TIF_FOREIGN_FPSTATE case */
 695         mov     x0, sp                          // 'regs'
 696         enable_irq                              // enable interrupts for do_notify_resume()
 697         bl      do_notify_resume
 698         b       ret_to_user
 699 work_resched:
 700 #ifdef CONFIG_TRACE_IRQFLAGS
 701         bl      trace_hardirqs_off              // the IRQs are off here, inform the tracing code
 702 #endif
 703         bl      schedule
 704
 705 /*
 706  * "slow" syscall return path.
 707  */
 708 ret_to_user:
 709         disable_irq                             // disable interrupts
 710         ldr     x1, [tsk, #TI_FLAGS]
 711         and     x2, x1, #_TIF_WORK_MASK
 712         cbnz    x2, work_pending
 713         enable_step_tsk x1, x2
 714         kernel_exit 0
 715 ENDPROC(ret_to_user)
 716
 717 /*
 718  * This is how we return from a fork.
 719  */
 720 ENTRY(ret_from_fork)
 721         bl      schedule_tail
 722         cbz     x19, 1f                         // not a kernel thread
 723         mov     x0, x20
 724         blr     x19
 725 1:      get_thread_info tsk
 726         b       ret_to_user
 727 ENDPROC(ret_from_fork)
 728
 729 /*
 730  * SVC handler.
 731  */
 732         .align  6
 733 el0_svc:
 734         adrp    stbl, sys_call_table            // load syscall table pointer
 735         uxtw    scno, w8                        // syscall number in w8
 736         mov     sc_nr, #__NR_syscalls
 737 el0_svc_naked:                                  // compat entry point
 738         stp     x0, scno, [sp, #S_ORIG_X0]      // save the original x0 and syscall number
 739         enable_dbg_and_irq
 740         ct_user_exit 1
 741
 742         ldr     x16, [tsk, #TI_FLAGS]           // check for syscall hooks
 743         tst     x16, #_TIF_SYSCALL_WORK
 744         b.ne    __sys_trace
 745         cmp     scno, sc_nr                     // check upper syscall limit
 746         b.hs    ni_sys
 747         ldr     x16, [stbl, scno, lsl #3]       // address in the syscall table
 748         blr     x16                             // call sys_* routine
 749         b       ret_fast_syscall
 750 ni_sys:
 751         mov     x0, sp
 752         bl      do_ni_syscall
 753         b       ret_fast_syscall
 754 ENDPROC(el0_svc)
 755
 756         /*
 757          * This is the really slow path.  We're going to be doing context
 758          * switches, and waiting for our parent to respond.
 759          */
 760 __sys_trace:
 761         mov     w0, #-1                         // set default errno for
 762         cmp     scno, x0                        // user-issued syscall(-1)
 763         b.ne    1f
 764         mov     x0, #-ENOSYS
 765         str     x0, [sp, #S_X0]
 766 1:      mov     x0, sp
 767         bl      syscall_trace_enter
 768         cmp     w0, #-1                         // skip the syscall?
 769         b.eq    __sys_trace_return_skipped
 770         uxtw    scno, w0                        // syscall number (possibly new)
 771         mov     x1, sp                          // pointer to regs
 772         cmp     scno, sc_nr                     // check upper syscall limit
 773         b.hs    __ni_sys_trace
 774         ldp     x0, x1, [sp]                    // restore the syscall args
 775         ldp     x2, x3, [sp, #S_X2]
 776         ldp     x4, x5, [sp, #S_X4]
 777         ldp     x6, x7, [sp, #S_X6]
 778         ldr     x16, [stbl, scno, lsl #3]       // address in the syscall table
 779         blr     x16                             // call sys_* routine
 780
 781 __sys_trace_return:
 782         str     x0, [sp, #S_X0]                 // save returned x0
 783 __sys_trace_return_skipped:
 784         mov     x0, sp
 785         bl      syscall_trace_exit
 786         b       ret_to_user
 787
 788 __ni_sys_trace:
 789         mov     x0, sp
 790         bl      do_ni_syscall
 791         b       __sys_trace_return
 792
 793         .popsection                             // .entry.text
 794
 795 /*
 796  * Special system call wrappers.
 797  */
 798 ENTRY(sys_rt_sigreturn_wrapper)
 799         mov     x0, sp
 800         b       sys_rt_sigreturn
 801 ENDPROC(sys_rt_sigreturn_wrapper)