GNU Linux-libre 4.9.330-gnu1
[releases.git] / arch / arm64 / include / asm / mmu.h
1 /*
2  * Copyright (C) 2012 ARM Ltd.
3  *
4  * This program is free software; you can redistribute it and/or modify
5  * it under the terms of the GNU General Public License version 2 as
6  * published by the Free Software Foundation.
7  *
8  * This program is distributed in the hope that it will be useful,
9  * but WITHOUT ANY WARRANTY; without even the implied warranty of
10  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
11  * GNU General Public License for more details.
12  *
13  * You should have received a copy of the GNU General Public License
14  * along with this program.  If not, see <http://www.gnu.org/licenses/>.
15  */
16 #ifndef __ASM_MMU_H
17 #define __ASM_MMU_H
18
19 #define USER_ASID_FLAG  (UL(1) << 48)
20
21 #ifndef __ASSEMBLY__
22
23 #include <linux/percpu.h>
24
25 typedef struct {
26         atomic64_t      id;
27         void            *vdso;
28 } mm_context_t;
29
30 /*
31  * This macro is only used by the TLBI code, which cannot race with an
32  * ASID change and therefore doesn't need to reload the counter using
33  * atomic64_read.
34  */
35 #define ASID(mm)        ((mm)->context.id.counter & 0xffff)
36
37 static __always_inline bool arm64_kernel_unmapped_at_el0(void)
38 {
39         return IS_ENABLED(CONFIG_UNMAP_KERNEL_AT_EL0) &&
40                cpus_have_const_cap(ARM64_UNMAP_KERNEL_AT_EL0);
41 }
42
43 typedef void (*bp_hardening_cb_t)(void);
44
45 struct bp_hardening_data {
46         int                     hyp_vectors_slot;
47         bp_hardening_cb_t       fn;
48
49         /*
50          * template_start is only used by the BHB mitigation to identify the
51          * hyp_vectors_slot sequence.
52          */
53         const char *template_start;
54 };
55
56 #ifdef CONFIG_HARDEN_BRANCH_PREDICTOR
57 extern char __bp_harden_hyp_vecs_start[], __bp_harden_hyp_vecs_end[];
58
59 DECLARE_PER_CPU_READ_MOSTLY(struct bp_hardening_data, bp_hardening_data);
60
61 static inline struct bp_hardening_data *arm64_get_bp_hardening_data(void)
62 {
63         return this_cpu_ptr(&bp_hardening_data);
64 }
65
66 static inline void arm64_apply_bp_hardening(void)
67 {
68         struct bp_hardening_data *d;
69
70         if (!cpus_have_cap(ARM64_HARDEN_BRANCH_PREDICTOR))
71                 return;
72
73         d = arm64_get_bp_hardening_data();
74         if (d->fn)
75                 d->fn();
76 }
77 #else
78 static inline struct bp_hardening_data *arm64_get_bp_hardening_data(void)
79 {
80         return NULL;
81 }
82
83 static inline void arm64_apply_bp_hardening(void)       { }
84 #endif  /* CONFIG_HARDEN_BRANCH_PREDICTOR */
85
86 extern void paging_init(void);
87 extern void bootmem_init(void);
88 extern void __iomem *early_io_map(phys_addr_t phys, unsigned long virt);
89 extern void init_mem_pgprot(void);
90 extern void create_pgd_mapping(struct mm_struct *mm, phys_addr_t phys,
91                                unsigned long virt, phys_addr_t size,
92                                pgprot_t prot, bool allow_block_mappings);
93 extern void *fixmap_remap_fdt(phys_addr_t dt_phys, int *size, pgprot_t prot);
94
95 #endif  /* !__ASSEMBLY__ */
96 #endif