powerpc/mm: Increase the slice range to 64TB
[firefly-linux-kernel-4.4.55.git] / arch / powerpc / include / asm / page_64.h
1 #ifndef _ASM_POWERPC_PAGE_64_H
2 #define _ASM_POWERPC_PAGE_64_H
3
4 /*
5  * Copyright (C) 2001 PPC64 Team, IBM Corp
6  *
7  * This program is free software; you can redistribute it and/or
8  * modify it under the terms of the GNU General Public License
9  * as published by the Free Software Foundation; either version
10  * 2 of the License, or (at your option) any later version.
11  */
12
13 /*
14  * We always define HW_PAGE_SHIFT to 12 as use of 64K pages remains Linux
15  * specific, every notion of page number shared with the firmware, TCEs,
16  * iommu, etc... still uses a page size of 4K.
17  */
18 #define HW_PAGE_SHIFT           12
19 #define HW_PAGE_SIZE            (ASM_CONST(1) << HW_PAGE_SHIFT)
20 #define HW_PAGE_MASK            (~(HW_PAGE_SIZE-1))
21
22 /*
23  * PAGE_FACTOR is the number of bits factor between PAGE_SHIFT and
24  * HW_PAGE_SHIFT, that is 4K pages.
25  */
26 #define PAGE_FACTOR             (PAGE_SHIFT - HW_PAGE_SHIFT)
27
28 /* Segment size; normal 256M segments */
29 #define SID_SHIFT               28
30 #define SID_MASK                ASM_CONST(0xfffffffff)
31 #define ESID_MASK               0xfffffffff0000000UL
32 #define GET_ESID(x)             (((x) >> SID_SHIFT) & SID_MASK)
33
34 /* 1T segments */
35 #define SID_SHIFT_1T            40
36 #define SID_MASK_1T             0xffffffUL
37 #define ESID_MASK_1T            0xffffff0000000000UL
38 #define GET_ESID_1T(x)          (((x) >> SID_SHIFT_1T) & SID_MASK_1T)
39
40 #ifndef __ASSEMBLY__
41 #include <asm/cache.h>
42
43 typedef unsigned long pte_basic_t;
44
45 static __inline__ void clear_page(void *addr)
46 {
47         unsigned long lines, line_size;
48
49         line_size = ppc64_caches.dline_size;
50         lines = ppc64_caches.dlines_per_page;
51
52         __asm__ __volatile__(
53         "mtctr  %1      # clear_page\n\
54 1:      dcbz    0,%0\n\
55         add     %0,%0,%3\n\
56         bdnz+   1b"
57         : "=r" (addr)
58         : "r" (lines), "0" (addr), "r" (line_size)
59         : "ctr", "memory");
60 }
61
62 extern void copy_page(void *to, void *from);
63
64 /* Log 2 of page table size */
65 extern u64 ppc64_pft_size;
66
67 #endif /* __ASSEMBLY__ */
68
69 #ifdef CONFIG_PPC_MM_SLICES
70
71 #define SLICE_LOW_SHIFT         28
72 #define SLICE_HIGH_SHIFT        40
73
74 #define SLICE_LOW_TOP           (0x100000000ul)
75 #define SLICE_NUM_LOW           (SLICE_LOW_TOP >> SLICE_LOW_SHIFT)
76 #define SLICE_NUM_HIGH          (PGTABLE_RANGE >> SLICE_HIGH_SHIFT)
77
78 #define GET_LOW_SLICE_INDEX(addr)       ((addr) >> SLICE_LOW_SHIFT)
79 #define GET_HIGH_SLICE_INDEX(addr)      ((addr) >> SLICE_HIGH_SHIFT)
80
81 #ifndef __ASSEMBLY__
82
83 struct slice_mask {
84         u16 low_slices;
85         /*
86          * This should be derived out of PGTABLE_RANGE. For the current
87          * max 64TB, u64 should be ok.
88          */
89         u64 high_slices;
90 };
91
92 struct mm_struct;
93
94 extern unsigned long slice_get_unmapped_area(unsigned long addr,
95                                              unsigned long len,
96                                              unsigned long flags,
97                                              unsigned int psize,
98                                              int topdown,
99                                              int use_cache);
100
101 extern unsigned int get_slice_psize(struct mm_struct *mm,
102                                     unsigned long addr);
103
104 extern void slice_init_context(struct mm_struct *mm, unsigned int psize);
105 extern void slice_set_user_psize(struct mm_struct *mm, unsigned int psize);
106 extern void slice_set_range_psize(struct mm_struct *mm, unsigned long start,
107                                   unsigned long len, unsigned int psize);
108
109 #define slice_mm_new_context(mm)        ((mm)->context.id == MMU_NO_CONTEXT)
110
111 #endif /* __ASSEMBLY__ */
112 #else
113 #define slice_init()
114 #ifdef CONFIG_PPC_STD_MMU_64
115 #define get_slice_psize(mm, addr)       ((mm)->context.user_psize)
116 #define slice_set_user_psize(mm, psize)         \
117 do {                                            \
118         (mm)->context.user_psize = (psize);     \
119         (mm)->context.sllp = SLB_VSID_USER | mmu_psize_defs[(psize)].sllp; \
120 } while (0)
121 #else /* CONFIG_PPC_STD_MMU_64 */
122 #ifdef CONFIG_PPC_64K_PAGES
123 #define get_slice_psize(mm, addr)       MMU_PAGE_64K
124 #else /* CONFIG_PPC_64K_PAGES */
125 #define get_slice_psize(mm, addr)       MMU_PAGE_4K
126 #endif /* !CONFIG_PPC_64K_PAGES */
127 #define slice_set_user_psize(mm, psize) do { BUG(); } while(0)
128 #endif /* !CONFIG_PPC_STD_MMU_64 */
129
130 #define slice_set_range_psize(mm, start, len, psize)    \
131         slice_set_user_psize((mm), (psize))
132 #define slice_mm_new_context(mm)        1
133 #endif /* CONFIG_PPC_MM_SLICES */
134
135 #ifdef CONFIG_HUGETLB_PAGE
136
137 #ifdef CONFIG_PPC_MM_SLICES
138 #define HAVE_ARCH_HUGETLB_UNMAPPED_AREA
139 #endif
140
141 #endif /* !CONFIG_HUGETLB_PAGE */
142
143 #define VM_DATA_DEFAULT_FLAGS \
144         (is_32bit_task() ? \
145          VM_DATA_DEFAULT_FLAGS32 : VM_DATA_DEFAULT_FLAGS64)
146
147 /*
148  * This is the default if a program doesn't have a PT_GNU_STACK
149  * program header entry. The PPC64 ELF ABI has a non executable stack
150  * stack by default, so in the absence of a PT_GNU_STACK program header
151  * we turn execute permission off.
152  */
153 #define VM_STACK_DEFAULT_FLAGS32        (VM_READ | VM_WRITE | VM_EXEC | \
154                                          VM_MAYREAD | VM_MAYWRITE | VM_MAYEXEC)
155
156 #define VM_STACK_DEFAULT_FLAGS64        (VM_READ | VM_WRITE | \
157                                          VM_MAYREAD | VM_MAYWRITE | VM_MAYEXEC)
158
159 #define VM_STACK_DEFAULT_FLAGS \
160         (is_32bit_task() ? \
161          VM_STACK_DEFAULT_FLAGS32 : VM_STACK_DEFAULT_FLAGS64)
162
163 #include <asm-generic/getorder.h>
164
165 #endif /* _ASM_POWERPC_PAGE_64_H */