arch/arm/mm/fault.c

   1 /*
   2  *  linux/arch/arm/mm/fault.c
   3  *
   4  *  Copyright (C) 1995  Linus Torvalds
   5  *  Modifications for ARM processor (c) 1995-2004 Russell King
   6  *
   7  * This program is free software; you can redistribute it and/or modify
   8  * it under the terms of the GNU General Public License version 2 as
   9  * published by the Free Software Foundation.
  10  */
  11 #include <linux/module.h>
  12 #include <linux/signal.h>
  13 #include <linux/mm.h>
  14 #include <linux/hardirq.h>
  15 #include <linux/init.h>
  16 #include <linux/kprobes.h>
  17 #include <linux/uaccess.h>
  18 #include <linux/page-flags.h>
  19 #include <linux/sched.h>
  20 #include <linux/highmem.h>
  21 #include <linux/perf_event.h>
  22
  23 #include <asm/system.h>
  24 #include <asm/pgtable.h>
  25 #include <asm/tlbflush.h>
  26
  27 #include "fault.h"
  28
  29 /*
  30  * Fault status register encodings.  We steal bit 31 for our own purposes.
  31  */
  32 #define FSR_LNX_PF              (1 << 31)
  33 #define FSR_WRITE               (1 << 11)
  34 #define FSR_FS4                 (1 << 10)
  35 #define FSR_FS3_0               (15)
  36
  37 static inline int fsr_fs(unsigned int fsr)
  38 {
  39         return (fsr & FSR_FS3_0) | (fsr & FSR_FS4) >> 6;
  40 }
  41
  42 #ifdef CONFIG_MMU
  43
  44 #ifdef CONFIG_KPROBES
  45 static inline int notify_page_fault(struct pt_regs *regs, unsigned int fsr)
  46 {
  47         int ret = 0;
  48
  49         if (!user_mode(regs)) {
  50                 /* kprobe_running() needs smp_processor_id() */
  51                 preempt_disable();
  52                 if (kprobe_running() && kprobe_fault_handler(regs, fsr))
  53                         ret = 1;
  54                 preempt_enable();
  55         }
  56
  57         return ret;
  58 }
  59 #else
  60 static inline int notify_page_fault(struct pt_regs *regs, unsigned int fsr)
  61 {
  62         return 0;
  63 }
  64 #endif
  65
  66 /*
  67  * This is useful to dump out the page tables associated with
  68  * 'addr' in mm 'mm'.
  69  */
  70 void show_pte(struct mm_struct *mm, unsigned long addr)
  71 {
  72         pgd_t *pgd;
  73
  74         if (!mm)
  75                 mm = &init_mm;
  76
  77         printk(KERN_ALERT "pgd = %p\n", mm->pgd);
  78         pgd = pgd_offset(mm, addr);
  79         printk(KERN_ALERT "[%08lx] *pgd=%08llx",
  80                         addr, (long long)pgd_val(*pgd));
  81
  82         do {
  83                 pud_t *pud;
  84                 pmd_t *pmd;
  85                 pte_t *pte;
  86
  87                 if (pgd_none(*pgd))
  88                         break;
  89
  90                 if (pgd_bad(*pgd)) {
  91                         printk("(bad)");
  92                         break;
  93                 }
  94
  95                 pud = pud_offset(pgd, addr);
  96                 if (PTRS_PER_PUD != 1)
  97                         printk(", *pud=%08lx", pud_val(*pud));
  98
  99                 if (pud_none(*pud))
 100                         break;
 101
 102                 if (pud_bad(*pud)) {
 103                         printk("(bad)");
 104                         break;
 105                 }
 106
 107                 pmd = pmd_offset(pud, addr);
 108                 if (PTRS_PER_PMD != 1)
 109                         printk(", *pmd=%08llx", (long long)pmd_val(*pmd));
 110
 111                 if (pmd_none(*pmd))
 112                         break;
 113
 114                 if (pmd_bad(*pmd)) {
 115                         printk("(bad)");
 116                         break;
 117                 }
 118
 119                 /* We must not map this if we have highmem enabled */
 120                 if (PageHighMem(pfn_to_page(pmd_val(*pmd) >> PAGE_SHIFT)))
 121                         break;
 122
 123                 pte = pte_offset_map(pmd, addr);
 124                 printk(", *pte=%08llx", (long long)pte_val(*pte));
 125                 printk(", *ppte=%08llx",
 126                        (long long)pte_val(pte[PTE_HWTABLE_PTRS]));
 127                 pte_unmap(pte);
 128         } while(0);
 129
 130         printk("\n");
 131 }
 132 #else                                   /* CONFIG_MMU */
 133 void show_pte(struct mm_struct *mm, unsigned long addr)
 134 { }
 135 #endif                                  /* CONFIG_MMU */
 136
 137 /*
 138  * Oops.  The kernel tried to access some page that wasn't present.
 139  */
 140 static void
 141 __do_kernel_fault(struct mm_struct *mm, unsigned long addr, unsigned int fsr,
 142                   struct pt_regs *regs)
 143 {
 144         /*
 145          * Are we prepared to handle this kernel fault?
 146          */
 147         if (fixup_exception(regs))
 148                 return;
 149
 150         /*
 151          * No handler, we'll have to terminate things with extreme prejudice.
 152          */
 153         bust_spinlocks(1);
 154         printk(KERN_ALERT
 155                 "Unable to handle kernel %s at virtual address %08lx\n",
 156                 (addr < PAGE_SIZE) ? "NULL pointer dereference" :
 157                 "paging request", addr);
 158
 159         show_pte(mm, addr);
 160         die("Oops", regs, fsr);
 161         bust_spinlocks(0);
 162         do_exit(SIGKILL);
 163 }
 164
 165 /*
 166  * Something tried to access memory that isn't in our memory map..
 167  * User mode accesses just cause a SIGSEGV
 168  */
 169 static void
 170 __do_user_fault(struct task_struct *tsk, unsigned long addr,
 171                 unsigned int fsr, unsigned int sig, int code,
 172                 struct pt_regs *regs)
 173 {
 174         struct siginfo si;
 175
 176 #ifdef CONFIG_DEBUG_USER
 177         if (user_debug & UDBG_SEGV) {
 178                 printk(KERN_DEBUG "%s: unhandled page fault (%d) at 0x%08lx, code 0x%03x\n",
 179                        tsk->comm, sig, addr, fsr);
 180                 show_pte(tsk->mm, addr);
 181                 show_regs(regs);
 182         }
 183 #endif
 184
 185         tsk->thread.address = addr;
 186         tsk->thread.error_code = fsr;
 187         tsk->thread.trap_no = 14;
 188         si.si_signo = sig;
 189         si.si_errno = 0;
 190         si.si_code = code;
 191         si.si_addr = (void __user *)addr;
 192         force_sig_info(sig, &si, tsk);
 193 }
 194
 195 void do_bad_area(unsigned long addr, unsigned int fsr, struct pt_regs *regs)
 196 {
 197         struct task_struct *tsk = current;
 198         struct mm_struct *mm = tsk->active_mm;
 199
 200         /*
 201          * If we are in kernel mode at this point, we
 202          * have no context to handle this fault with.
 203          */
 204         if (user_mode(regs))
 205                 __do_user_fault(tsk, addr, fsr, SIGSEGV, SEGV_MAPERR, regs);
 206         else
 207                 __do_kernel_fault(mm, addr, fsr, regs);
 208 }
 209
 210 #ifdef CONFIG_MMU
 211 #define VM_FAULT_BADMAP         0x010000
 212 #define VM_FAULT_BADACCESS      0x020000
 213
 214 /*
 215  * Check that the permissions on the VMA allow for the fault which occurred.
 216  * If we encountered a write fault, we must have write permission, otherwise
 217  * we allow any permission.
 218  */
 219 static inline bool access_error(unsigned int fsr, struct vm_area_struct *vma)
 220 {
 221         unsigned int mask = VM_READ | VM_WRITE | VM_EXEC;
 222
 223         if (fsr & FSR_WRITE)
 224                 mask = VM_WRITE;
 225         if (fsr & FSR_LNX_PF)
 226                 mask = VM_EXEC;
 227
 228         return vma->vm_flags & mask ? false : true;
 229 }
 230
 231 static int __kprobes
 232 __do_page_fault(struct mm_struct *mm, unsigned long addr, unsigned int fsr,
 233                 struct task_struct *tsk)
 234 {
 235         struct vm_area_struct *vma;
 236         int fault;
 237
 238         vma = find_vma(mm, addr);
 239         fault = VM_FAULT_BADMAP;
 240         if (unlikely(!vma))
 241                 goto out;
 242         if (unlikely(vma->vm_start > addr))
 243                 goto check_stack;
 244
 245         /*
 246          * Ok, we have a good vm_area for this
 247          * memory access, so we can handle it.
 248          */
 249 good_area:
 250         if (access_error(fsr, vma)) {
 251                 fault = VM_FAULT_BADACCESS;
 252                 goto out;
 253         }
 254
 255         /*
 256          * If for any reason at all we couldn't handle the fault, make
 257          * sure we exit gracefully rather than endlessly redo the fault.
 258          */
 259         fault = handle_mm_fault(mm, vma, addr & PAGE_MASK, (fsr & FSR_WRITE) ? FAULT_FLAG_WRITE : 0);
 260         if (unlikely(fault & VM_FAULT_ERROR))
 261                 return fault;
 262         if (fault & VM_FAULT_MAJOR)
 263                 tsk->maj_flt++;
 264         else
 265                 tsk->min_flt++;
 266         return fault;
 267
 268 check_stack:
 269         /* Don't allow expansion below FIRST_USER_ADDRESS */
 270         if (vma->vm_flags & VM_GROWSDOWN &&
 271             addr >= FIRST_USER_ADDRESS && !expand_stack(vma, addr))
 272                 goto good_area;
 273 out:
 274         return fault;
 275 }
 276
 277 static int __kprobes
 278 do_page_fault(unsigned long addr, unsigned int fsr, struct pt_regs *regs)
 279 {
 280         struct task_struct *tsk;
 281         struct mm_struct *mm;
 282         int fault, sig, code;
 283
 284         if (notify_page_fault(regs, fsr))
 285                 return 0;
 286
 287         tsk = current;
 288         mm  = tsk->mm;
 289
 290         /*
 291          * If we're in an interrupt or have no user
 292          * context, we must not take the fault..
 293          */
 294         if (in_atomic() || !mm)
 295                 goto no_context;
 296
 297         /*
 298          * As per x86, we may deadlock here.  However, since the kernel only
 299          * validly references user space from well defined areas of the code,
 300          * we can bug out early if this is from code which shouldn't.
 301          */
 302         if (!down_read_trylock(&mm->mmap_sem)) {
 303                 if (!user_mode(regs) && !search_exception_tables(regs->ARM_pc))
 304                         goto no_context;
 305                 down_read(&mm->mmap_sem);
 306         } else {
 307                 /*
 308                  * The above down_read_trylock() might have succeeded in
 309                  * which case, we'll have missed the might_sleep() from
 310                  * down_read()
 311                  */
 312                 might_sleep();
 313 #ifdef CONFIG_DEBUG_VM
 314                 if (!user_mode(regs) &&
 315                     !search_exception_tables(regs->ARM_pc))
 316                         goto no_context;
 317 #endif
 318         }
 319
 320         fault = __do_page_fault(mm, addr, fsr, tsk);
 321         up_read(&mm->mmap_sem);
 322
 323         perf_sw_event(PERF_COUNT_SW_PAGE_FAULTS, 1, 0, regs, addr);
 324         if (fault & VM_FAULT_MAJOR)
 325                 perf_sw_event(PERF_COUNT_SW_PAGE_FAULTS_MAJ, 1, 0, regs, addr);
 326         else if (fault & VM_FAULT_MINOR)
 327                 perf_sw_event(PERF_COUNT_SW_PAGE_FAULTS_MIN, 1, 0, regs, addr);
 328
 329         /*
 330          * Handle the "normal" case first - VM_FAULT_MAJOR / VM_FAULT_MINOR
 331          */
 332         if (likely(!(fault & (VM_FAULT_ERROR | VM_FAULT_BADMAP | VM_FAULT_BADACCESS))))
 333                 return 0;
 334
 335         if (fault & VM_FAULT_OOM) {
 336                 /*
 337                  * We ran out of memory, call the OOM killer, and return to
 338                  * userspace (which will retry the fault, or kill us if we
 339                  * got oom-killed)
 340                  */
 341                 pagefault_out_of_memory();
 342                 return 0;
 343         }
 344
 345         /*
 346          * If we are in kernel mode at this point, we
 347          * have no context to handle this fault with.
 348          */
 349         if (!user_mode(regs))
 350                 goto no_context;
 351
 352         if (fault & VM_FAULT_SIGBUS) {
 353                 /*
 354                  * We had some memory, but were unable to
 355                  * successfully fix up this page fault.
 356                  */
 357                 sig = SIGBUS;
 358                 code = BUS_ADRERR;
 359         } else {
 360                 /*
 361                  * Something tried to access memory that
 362                  * isn't in our memory map..
 363                  */
 364                 sig = SIGSEGV;
 365                 code = fault == VM_FAULT_BADACCESS ?
 366                         SEGV_ACCERR : SEGV_MAPERR;
 367         }
 368
 369         __do_user_fault(tsk, addr, fsr, sig, code, regs);
 370         return 0;
 371
 372 no_context:
 373         __do_kernel_fault(mm, addr, fsr, regs);
 374         return 0;
 375 }
 376 #else                                   /* CONFIG_MMU */
 377 static int
 378 do_page_fault(unsigned long addr, unsigned int fsr, struct pt_regs *regs)
 379 {
 380         return 0;
 381 }
 382 #endif                                  /* CONFIG_MMU */
 383
 384 /*
 385  * First Level Translation Fault Handler
 386  *
 387  * We enter here because the first level page table doesn't contain
 388  * a valid entry for the address.
 389  *
 390  * If the address is in kernel space (>= TASK_SIZE), then we are
 391  * probably faulting in the vmalloc() area.
 392  *
 393  * If the init_task's first level page tables contains the relevant
 394  * entry, we copy the it to this task.  If not, we send the process
 395  * a signal, fixup the exception, or oops the kernel.
 396  *
 397  * NOTE! We MUST NOT take any locks for this case. We may be in an
 398  * interrupt or a critical region, and should only copy the information
 399  * from the master page table, nothing more.
 400  */
 401 #ifdef CONFIG_MMU
 402 static int __kprobes
 403 do_translation_fault(unsigned long addr, unsigned int fsr,
 404                      struct pt_regs *regs)
 405 {
 406         unsigned int index;
 407         pgd_t *pgd, *pgd_k;
 408         pud_t *pud, *pud_k;
 409         pmd_t *pmd, *pmd_k;
 410
 411         if (addr < TASK_SIZE)
 412                 return do_page_fault(addr, fsr, regs);
 413
 414         if (user_mode(regs))
 415                 goto bad_area;
 416
 417         index = pgd_index(addr);
 418
 419         /*
 420          * FIXME: CP15 C1 is write only on ARMv3 architectures.
 421          */
 422         pgd = cpu_get_pgd() + index;
 423         pgd_k = init_mm.pgd + index;
 424
 425         if (pgd_none(*pgd_k))
 426                 goto bad_area;
 427         if (!pgd_present(*pgd))
 428                 set_pgd(pgd, *pgd_k);
 429
 430         pud = pud_offset(pgd, addr);
 431         pud_k = pud_offset(pgd_k, addr);
 432
 433         if (pud_none(*pud_k))
 434                 goto bad_area;
 435         if (!pud_present(*pud))
 436                 set_pud(pud, *pud_k);
 437
 438         pmd = pmd_offset(pud, addr);
 439         pmd_k = pmd_offset(pud_k, addr);
 440
 441         /*
 442          * On ARM one Linux PGD entry contains two hardware entries (see page
 443          * tables layout in pgtable.h). We normally guarantee that we always
 444          * fill both L1 entries. But create_mapping() doesn't follow the rule.
 445          * It can create inidividual L1 entries, so here we have to call
 446          * pmd_none() check for the entry really corresponded to address, not
 447          * for the first of pair.
 448          */
 449         index = (addr >> SECTION_SHIFT) & 1;
 450         if (pmd_none(pmd_k[index]))
 451                 goto bad_area;
 452
 453         copy_pmd(pmd, pmd_k);
 454         return 0;
 455
 456 bad_area:
 457         do_bad_area(addr, fsr, regs);
 458         return 0;
 459 }
 460 #else                                   /* CONFIG_MMU */
 461 static int
 462 do_translation_fault(unsigned long addr, unsigned int fsr,
 463                      struct pt_regs *regs)
 464 {
 465         return 0;
 466 }
 467 #endif                                  /* CONFIG_MMU */
 468
 469 /*
 470  * Some section permission faults need to be handled gracefully.
 471  * They can happen due to a __{get,put}_user during an oops.
 472  */
 473 static int
 474 do_sect_fault(unsigned long addr, unsigned int fsr, struct pt_regs *regs)
 475 {
 476         do_bad_area(addr, fsr, regs);
 477         return 0;
 478 }
 479
 480 /*
 481  * This abort handler always returns "fault".
 482  */
 483 static int
 484 do_bad(unsigned long addr, unsigned int fsr, struct pt_regs *regs)
 485 {
 486         return 1;
 487 }
 488
 489 static struct fsr_info {
 490         int     (*fn)(unsigned long addr, unsigned int fsr, struct pt_regs *regs);
 491         int     sig;
 492         int     code;
 493         const char *name;
 494 } fsr_info[] = {
 495         /*
 496          * The following are the standard ARMv3 and ARMv4 aborts.  ARMv5
 497          * defines these to be "precise" aborts.
 498          */
 499         { do_bad,               SIGSEGV, 0,             "vector exception"                 },
 500         { do_bad,               SIGBUS,  BUS_ADRALN,    "alignment exception"              },
 501         { do_bad,               SIGKILL, 0,             "terminal exception"               },
 502         { do_bad,               SIGBUS,  BUS_ADRALN,    "alignment exception"              },
 503         { do_bad,               SIGBUS,  0,             "external abort on linefetch"      },
 504         { do_translation_fault, SIGSEGV, SEGV_MAPERR,   "section translation fault"        },
 505         { do_bad,               SIGBUS,  0,             "external abort on linefetch"      },
 506         { do_page_fault,        SIGSEGV, SEGV_MAPERR,   "page translation fault"           },
 507         { do_bad,               SIGBUS,  0,             "external abort on non-linefetch"  },
 508         { do_bad,               SIGSEGV, SEGV_ACCERR,   "section domain fault"             },
 509         { do_bad,               SIGBUS,  0,             "external abort on non-linefetch"  },
 510         { do_bad,               SIGSEGV, SEGV_ACCERR,   "page domain fault"                },
 511         { do_bad,               SIGBUS,  0,             "external abort on translation"    },
 512         { do_sect_fault,        SIGSEGV, SEGV_ACCERR,   "section permission fault"         },
 513         { do_bad,               SIGBUS,  0,             "external abort on translation"    },
 514         { do_page_fault,        SIGSEGV, SEGV_ACCERR,   "page permission fault"            },
 515         /*
 516          * The following are "imprecise" aborts, which are signalled by bit
 517          * 10 of the FSR, and may not be recoverable.  These are only
 518          * supported if the CPU abort handler supports bit 10.
 519          */
 520         { do_bad,               SIGBUS,  0,             "unknown 16"                       },
 521         { do_bad,               SIGBUS,  0,             "unknown 17"                       },
 522         { do_bad,               SIGBUS,  0,             "unknown 18"                       },
 523         { do_bad,               SIGBUS,  0,             "unknown 19"                       },
 524         { do_bad,               SIGBUS,  0,             "lock abort"                       }, /* xscale */
 525         { do_bad,               SIGBUS,  0,             "unknown 21"                       },
 526         { do_bad,               SIGBUS,  BUS_OBJERR,    "imprecise external abort"         }, /* xscale */
 527         { do_bad,               SIGBUS,  0,             "unknown 23"                       },
 528         { do_bad,               SIGBUS,  0,             "dcache parity error"              }, /* xscale */
 529         { do_bad,               SIGBUS,  0,             "unknown 25"                       },
 530         { do_bad,               SIGBUS,  0,             "unknown 26"                       },
 531         { do_bad,               SIGBUS,  0,             "unknown 27"                       },
 532         { do_bad,               SIGBUS,  0,             "unknown 28"                       },
 533         { do_bad,               SIGBUS,  0,             "unknown 29"                       },
 534         { do_bad,               SIGBUS,  0,             "unknown 30"                       },
 535         { do_bad,               SIGBUS,  0,             "unknown 31"                       }
 536 };
 537
 538 void __init
 539 hook_fault_code(int nr, int (*fn)(unsigned long, unsigned int, struct pt_regs *),
 540                 int sig, int code, const char *name)
 541 {
 542         if (nr < 0 || nr >= ARRAY_SIZE(fsr_info))
 543                 BUG();
 544
 545         fsr_info[nr].fn   = fn;
 546         fsr_info[nr].sig  = sig;
 547         fsr_info[nr].code = code;
 548         fsr_info[nr].name = name;
 549 }
 550
 551 /*
 552  * Dispatch a data abort to the relevant handler.
 553  */
 554 asmlinkage void __exception
 555 do_DataAbort(unsigned long addr, unsigned int fsr, struct pt_regs *regs)
 556 {
 557         const struct fsr_info *inf = fsr_info + fsr_fs(fsr);
 558         struct siginfo info;
 559
 560         if (!inf->fn(addr, fsr & ~FSR_LNX_PF, regs))
 561                 return;
 562
 563         printk(KERN_ALERT "Unhandled fault: %s (0x%03x) at 0x%08lx\n",
 564                 inf->name, fsr, addr);
 565
 566         info.si_signo = inf->sig;
 567         info.si_errno = 0;
 568         info.si_code  = inf->code;
 569         info.si_addr  = (void __user *)addr;
 570         arm_notify_die("", regs, &info, fsr, 0);
 571 }
 572
 573
 574 static struct fsr_info ifsr_info[] = {
 575         { do_bad,               SIGBUS,  0,             "unknown 0"                        },
 576         { do_bad,               SIGBUS,  0,             "unknown 1"                        },
 577         { do_bad,               SIGBUS,  0,             "debug event"                      },
 578         { do_bad,               SIGSEGV, SEGV_ACCERR,   "section access flag fault"        },
 579         { do_bad,               SIGBUS,  0,             "unknown 4"                        },
 580         { do_translation_fault, SIGSEGV, SEGV_MAPERR,   "section translation fault"        },
 581         { do_bad,               SIGSEGV, SEGV_ACCERR,   "page access flag fault"           },
 582         { do_page_fault,        SIGSEGV, SEGV_MAPERR,   "page translation fault"           },
 583         { do_bad,               SIGBUS,  0,             "external abort on non-linefetch"  },
 584         { do_bad,               SIGSEGV, SEGV_ACCERR,   "section domain fault"             },
 585         { do_bad,               SIGBUS,  0,             "unknown 10"                       },
 586         { do_bad,               SIGSEGV, SEGV_ACCERR,   "page domain fault"                },
 587         { do_bad,               SIGBUS,  0,             "external abort on translation"    },
 588         { do_sect_fault,        SIGSEGV, SEGV_ACCERR,   "section permission fault"         },
 589         { do_bad,               SIGBUS,  0,             "external abort on translation"    },
 590         { do_page_fault,        SIGSEGV, SEGV_ACCERR,   "page permission fault"            },
 591         { do_bad,               SIGBUS,  0,             "unknown 16"                       },
 592         { do_bad,               SIGBUS,  0,             "unknown 17"                       },
 593         { do_bad,               SIGBUS,  0,             "unknown 18"                       },
 594         { do_bad,               SIGBUS,  0,             "unknown 19"                       },
 595         { do_bad,               SIGBUS,  0,             "unknown 20"                       },
 596         { do_bad,               SIGBUS,  0,             "unknown 21"                       },
 597         { do_bad,               SIGBUS,  0,             "unknown 22"                       },
 598         { do_bad,               SIGBUS,  0,             "unknown 23"                       },
 599         { do_bad,               SIGBUS,  0,             "unknown 24"                       },
 600         { do_bad,               SIGBUS,  0,             "unknown 25"                       },
 601         { do_bad,               SIGBUS,  0,             "unknown 26"                       },
 602         { do_bad,               SIGBUS,  0,             "unknown 27"                       },
 603         { do_bad,               SIGBUS,  0,             "unknown 28"                       },
 604         { do_bad,               SIGBUS,  0,             "unknown 29"                       },
 605         { do_bad,               SIGBUS,  0,             "unknown 30"                       },
 606         { do_bad,               SIGBUS,  0,             "unknown 31"                       },
 607 };
 608
 609 void __init
 610 hook_ifault_code(int nr, int (*fn)(unsigned long, unsigned int, struct pt_regs *),
 611                  int sig, int code, const char *name)
 612 {
 613         if (nr < 0 || nr >= ARRAY_SIZE(ifsr_info))
 614                 BUG();
 615
 616         ifsr_info[nr].fn   = fn;
 617         ifsr_info[nr].sig  = sig;
 618         ifsr_info[nr].code = code;
 619         ifsr_info[nr].name = name;
 620 }
 621
 622 asmlinkage void __exception
 623 do_PrefetchAbort(unsigned long addr, unsigned int ifsr, struct pt_regs *regs)
 624 {
 625         const struct fsr_info *inf = ifsr_info + fsr_fs(ifsr);
 626         struct siginfo info;
 627
 628         if (!inf->fn(addr, ifsr | FSR_LNX_PF, regs))
 629                 return;
 630
 631         printk(KERN_ALERT "Unhandled prefetch abort: %s (0x%03x) at 0x%08lx\n",
 632                 inf->name, ifsr, addr);
 633
 634         info.si_signo = inf->sig;
 635         info.si_errno = 0;
 636         info.si_code  = inf->code;
 637         info.si_addr  = (void __user *)addr;
 638         arm_notify_die("", regs, &info, ifsr, 0);
 639 }
 640
 641 static int __init exceptions_init(void)
 642 {
 643         if (cpu_architecture() >= CPU_ARCH_ARMv6) {
 644                 hook_fault_code(4, do_translation_fault, SIGSEGV, SEGV_MAPERR,
 645                                 "I-cache maintenance fault");
 646         }
 647
 648         if (cpu_architecture() >= CPU_ARCH_ARMv7) {
 649                 /*
 650                  * TODO: Access flag faults introduced in ARMv6K.
 651                  * Runtime check for 'K' extension is needed
 652                  */
 653                 hook_fault_code(3, do_bad, SIGSEGV, SEGV_MAPERR,
 654                                 "section access flag fault");
 655                 hook_fault_code(6, do_bad, SIGSEGV, SEGV_MAPERR,
 656                                 "section access flag fault");
 657         }
 658
 659         return 0;
 660 }
 661
 662 arch_initcall(exceptions_init);