arch/powerpc/include/asm/mmu_context.h

   1 #ifndef __ASM_POWERPC_MMU_CONTEXT_H
   2 #define __ASM_POWERPC_MMU_CONTEXT_H
   3 #ifdef __KERNEL__
   4
   5 #include <linux/kernel.h>
   6 #include <linux/mm.h>
   7 #include <linux/sched.h>
   8 #include <linux/spinlock.h>
   9 #include <asm/mmu.h>
  10 #include <asm/cputable.h>
  11 #include <asm/cputhreads.h>
  12
  13 /*
  14  * Most if the context management is out of line
  15  */
  16 extern int init_new_context(struct task_struct *tsk, struct mm_struct *mm);
  17 extern void destroy_context(struct mm_struct *mm);
  18 #ifdef CONFIG_SPAPR_TCE_IOMMU
  19 struct mm_iommu_table_group_mem_t;
  20
  21 extern int isolate_lru_page(struct page *page); /* from internal.h */
  22 extern bool mm_iommu_preregistered(struct mm_struct *mm);
  23 extern long mm_iommu_get(struct mm_struct *mm,
  24                 unsigned long ua, unsigned long entries,
  25                 struct mm_iommu_table_group_mem_t **pmem);
  26 extern long mm_iommu_put(struct mm_struct *mm,
  27                 struct mm_iommu_table_group_mem_t *mem);
  28 extern void mm_iommu_init(struct mm_struct *mm);
  29 extern void mm_iommu_cleanup(struct mm_struct *mm);
  30 extern struct mm_iommu_table_group_mem_t *mm_iommu_lookup(struct mm_struct *mm,
  31                 unsigned long ua, unsigned long size);
  32 extern struct mm_iommu_table_group_mem_t *mm_iommu_find(struct mm_struct *mm,
  33                 unsigned long ua, unsigned long entries);
  34 extern long mm_iommu_ua_to_hpa(struct mm_iommu_table_group_mem_t *mem,
  35                 unsigned long ua, unsigned long *hpa);
  36 extern long mm_iommu_mapped_inc(struct mm_iommu_table_group_mem_t *mem);
  37 extern void mm_iommu_mapped_dec(struct mm_iommu_table_group_mem_t *mem);
  38 #endif
  39 extern void switch_slb(struct task_struct *tsk, struct mm_struct *mm);
  40 extern void set_context(unsigned long id, pgd_t *pgd);
  41
  42 #ifdef CONFIG_PPC_BOOK3S_64
  43 extern void radix__switch_mmu_context(struct mm_struct *prev,
  44                                      struct mm_struct *next);
  45 static inline void switch_mmu_context(struct mm_struct *prev,
  46                                       struct mm_struct *next,
  47                                       struct task_struct *tsk)
  48 {
  49         if (radix_enabled())
  50                 return radix__switch_mmu_context(prev, next);
  51         return switch_slb(tsk, next);
  52 }
  53
  54 extern int __init_new_context(void);
  55 extern void __destroy_context(int context_id);
  56 static inline void mmu_context_init(void) { }
  57 #else
  58 extern void switch_mmu_context(struct mm_struct *prev, struct mm_struct *next,
  59                                struct task_struct *tsk);
  60 extern unsigned long __init_new_context(void);
  61 extern void __destroy_context(unsigned long context_id);
  62 extern void mmu_context_init(void);
  63 #endif
  64
  65 extern void switch_cop(struct mm_struct *next);
  66 extern int use_cop(unsigned long acop, struct mm_struct *mm);
  67 extern void drop_cop(unsigned long acop, struct mm_struct *mm);
  68
  69 /*
  70  * switch_mm is the entry point called from the architecture independent
  71  * code in kernel/sched/core.c
  72  */
  73 static inline void switch_mm_irqs_off(struct mm_struct *prev,
  74                                       struct mm_struct *next,
  75                                       struct task_struct *tsk)
  76 {
  77         /* Mark this context has been used on the new CPU */
  78         if (!cpumask_test_cpu(smp_processor_id(), mm_cpumask(next))) {
  79                 cpumask_set_cpu(smp_processor_id(), mm_cpumask(next));
  80
  81                 /*
  82                  * This full barrier orders the store to the cpumask above vs
  83                  * a subsequent operation which allows this CPU to begin loading
  84                  * translations for next.
  85                  *
  86                  * When using the radix MMU that operation is the load of the
  87                  * MMU context id, which is then moved to SPRN_PID.
  88                  *
  89                  * For the hash MMU it is either the first load from slb_cache
  90                  * in switch_slb(), and/or the store of paca->mm_ctx_id in
  91                  * copy_mm_to_paca().
  92                  *
  93                  * On the read side the barrier is in pte_xchg(), which orders
  94                  * the store to the PTE vs the load of mm_cpumask.
  95                  */
  96                 smp_mb();
  97         }
  98
  99         /* 32-bit keeps track of the current PGDIR in the thread struct */
 100 #ifdef CONFIG_PPC32
 101         tsk->thread.pgdir = next->pgd;
 102 #endif /* CONFIG_PPC32 */
 103
 104         /* 64-bit Book3E keeps track of current PGD in the PACA */
 105 #ifdef CONFIG_PPC_BOOK3E_64
 106         get_paca()->pgd = next->pgd;
 107 #endif
 108         /* Nothing else to do if we aren't actually switching */
 109         if (prev == next)
 110                 return;
 111
 112 #ifdef CONFIG_PPC_ICSWX
 113         /* Switch coprocessor context only if prev or next uses a coprocessor */
 114         if (prev->context.acop || next->context.acop)
 115                 switch_cop(next);
 116 #endif /* CONFIG_PPC_ICSWX */
 117
 118         /* We must stop all altivec streams before changing the HW
 119          * context
 120          */
 121 #ifdef CONFIG_ALTIVEC
 122         if (cpu_has_feature(CPU_FTR_ALTIVEC))
 123                 asm volatile ("dssall");
 124 #endif /* CONFIG_ALTIVEC */
 125         /*
 126          * The actual HW switching method differs between the various
 127          * sub architectures. Out of line for now
 128          */
 129         switch_mmu_context(prev, next, tsk);
 130 }
 131
 132 static inline void switch_mm(struct mm_struct *prev, struct mm_struct *next,
 133                              struct task_struct *tsk)
 134 {
 135         unsigned long flags;
 136
 137         local_irq_save(flags);
 138         switch_mm_irqs_off(prev, next, tsk);
 139         local_irq_restore(flags);
 140 }
 141 #define switch_mm_irqs_off switch_mm_irqs_off
 142
 143
 144 #define deactivate_mm(tsk,mm)   do { } while (0)
 145
 146 /*
 147  * After we have set current->mm to a new value, this activates
 148  * the context for the new mm so we see the new mappings.
 149  */
 150 static inline void activate_mm(struct mm_struct *prev, struct mm_struct *next)
 151 {
 152         unsigned long flags;
 153
 154         local_irq_save(flags);
 155         switch_mm(prev, next, current);
 156         local_irq_restore(flags);
 157 }
 158
 159 /* We don't currently use enter_lazy_tlb() for anything */
 160 static inline void enter_lazy_tlb(struct mm_struct *mm,
 161                                   struct task_struct *tsk)
 162 {
 163         /* 64-bit Book3E keeps track of current PGD in the PACA */
 164 #ifdef CONFIG_PPC_BOOK3E_64
 165         get_paca()->pgd = NULL;
 166 #endif
 167 }
 168
 169 static inline void arch_dup_mmap(struct mm_struct *oldmm,
 170                                  struct mm_struct *mm)
 171 {
 172 }
 173
 174 static inline void arch_exit_mmap(struct mm_struct *mm)
 175 {
 176 }
 177
 178 static inline void arch_unmap(struct mm_struct *mm,
 179                               struct vm_area_struct *vma,
 180                               unsigned long start, unsigned long end)
 181 {
 182         if (start <= mm->context.vdso_base && mm->context.vdso_base < end)
 183                 mm->context.vdso_base = 0;
 184 }
 185
 186 static inline void arch_bprm_mm_init(struct mm_struct *mm,
 187                                      struct vm_area_struct *vma)
 188 {
 189 }
 190
 191 static inline bool arch_vma_access_permitted(struct vm_area_struct *vma,
 192                 bool write, bool execute, bool foreign)
 193 {
 194         /* by default, allow everything */
 195         return true;
 196 }
 197
 198 static inline bool arch_pte_access_permitted(pte_t pte, bool write)
 199 {
 200         /* by default, allow everything */
 201         return true;
 202 }
 203 #endif /* __KERNEL__ */
 204 #endif /* __ASM_POWERPC_MMU_CONTEXT_H */