kernel/ptrace.c

   1 /*
   2  * linux/kernel/ptrace.c
   3  *
   4  * (C) Copyright 1999 Linus Torvalds
   5  *
   6  * Common interfaces for "ptrace()" which we do not want
   7  * to continually duplicate across every architecture.
   8  */
   9
  10 #include <linux/capability.h>
  11 #include <linux/export.h>
  12 #include <linux/sched.h>
  13 #include <linux/sched/mm.h>
  14 #include <linux/sched/coredump.h>
  15 #include <linux/sched/task.h>
  16 #include <linux/errno.h>
  17 #include <linux/mm.h>
  18 #include <linux/highmem.h>
  19 #include <linux/pagemap.h>
  20 #include <linux/ptrace.h>
  21 #include <linux/security.h>
  22 #include <linux/signal.h>
  23 #include <linux/uio.h>
  24 #include <linux/audit.h>
  25 #include <linux/pid_namespace.h>
  26 #include <linux/syscalls.h>
  27 #include <linux/uaccess.h>
  28 #include <linux/regset.h>
  29 #include <linux/hw_breakpoint.h>
  30 #include <linux/cn_proc.h>
  31 #include <linux/compat.h>
  32 #include <linux/sched/signal.h>
  33
  34 /*
  35  * Access another process' address space via ptrace.
  36  * Source/target buffer must be kernel space,
  37  * Do not walk the page table directly, use get_user_pages
  38  */
  39 int ptrace_access_vm(struct task_struct *tsk, unsigned long addr,
  40                      void *buf, int len, unsigned int gup_flags)
  41 {
  42         struct mm_struct *mm;
  43         int ret;
  44
  45         mm = get_task_mm(tsk);
  46         if (!mm)
  47                 return 0;
  48
  49         if (!tsk->ptrace ||
  50             (current != tsk->parent) ||
  51             ((get_dumpable(mm) != SUID_DUMP_USER) &&
  52              !ptracer_capable(tsk, mm->user_ns))) {
  53                 mmput(mm);
  54                 return 0;
  55         }
  56
  57         ret = __access_remote_vm(tsk, mm, addr, buf, len, gup_flags);
  58         mmput(mm);
  59
  60         return ret;
  61 }
  62
  63
  64 void __ptrace_link(struct task_struct *child, struct task_struct *new_parent,
  65                    const struct cred *ptracer_cred)
  66 {
  67         BUG_ON(!list_empty(&child->ptrace_entry));
  68         list_add(&child->ptrace_entry, &new_parent->ptraced);
  69         child->parent = new_parent;
  70         child->ptracer_cred = get_cred(ptracer_cred);
  71 }
  72
  73 /*
  74  * ptrace a task: make the debugger its new parent and
  75  * move it to the ptrace list.
  76  *
  77  * Must be called with the tasklist lock write-held.
  78  */
  79 static void ptrace_link(struct task_struct *child, struct task_struct *new_parent)
  80 {
  81         __ptrace_link(child, new_parent, current_cred());
  82 }
  83
  84 /**
  85  * __ptrace_unlink - unlink ptracee and restore its execution state
  86  * @child: ptracee to be unlinked
  87  *
  88  * Remove @child from the ptrace list, move it back to the original parent,
  89  * and restore the execution state so that it conforms to the group stop
  90  * state.
  91  *
  92  * Unlinking can happen via two paths - explicit PTRACE_DETACH or ptracer
  93  * exiting.  For PTRACE_DETACH, unless the ptracee has been killed between
  94  * ptrace_check_attach() and here, it's guaranteed to be in TASK_TRACED.
  95  * If the ptracer is exiting, the ptracee can be in any state.
  96  *
  97  * After detach, the ptracee should be in a state which conforms to the
  98  * group stop.  If the group is stopped or in the process of stopping, the
  99  * ptracee should be put into TASK_STOPPED; otherwise, it should be woken
 100  * up from TASK_TRACED.
 101  *
 102  * If the ptracee is in TASK_TRACED and needs to be moved to TASK_STOPPED,
 103  * it goes through TRACED -> RUNNING -> STOPPED transition which is similar
 104  * to but in the opposite direction of what happens while attaching to a
 105  * stopped task.  However, in this direction, the intermediate RUNNING
 106  * state is not hidden even from the current ptracer and if it immediately
 107  * re-attaches and performs a WNOHANG wait(2), it may fail.
 108  *
 109  * CONTEXT:
 110  * write_lock_irq(tasklist_lock)
 111  */
 112 void __ptrace_unlink(struct task_struct *child)
 113 {
 114         const struct cred *old_cred;
 115         BUG_ON(!child->ptrace);
 116
 117         clear_tsk_thread_flag(child, TIF_SYSCALL_TRACE);
 118
 119         child->parent = child->real_parent;
 120         list_del_init(&child->ptrace_entry);
 121         old_cred = child->ptracer_cred;
 122         child->ptracer_cred = NULL;
 123         put_cred(old_cred);
 124
 125         spin_lock(&child->sighand->siglock);
 126         child->ptrace = 0;
 127         /*
 128          * Clear all pending traps and TRAPPING.  TRAPPING should be
 129          * cleared regardless of JOBCTL_STOP_PENDING.  Do it explicitly.
 130          */
 131         task_clear_jobctl_pending(child, JOBCTL_TRAP_MASK);
 132         task_clear_jobctl_trapping(child);
 133
 134         /*
 135          * Reinstate JOBCTL_STOP_PENDING if group stop is in effect and
 136          * @child isn't dead.
 137          */
 138         if (!(child->flags & PF_EXITING) &&
 139             (child->signal->flags & SIGNAL_STOP_STOPPED ||
 140              child->signal->group_stop_count)) {
 141                 child->jobctl |= JOBCTL_STOP_PENDING;
 142
 143                 /*
 144                  * This is only possible if this thread was cloned by the
 145                  * traced task running in the stopped group, set the signal
 146                  * for the future reports.
 147                  * FIXME: we should change ptrace_init_task() to handle this
 148                  * case.
 149                  */
 150                 if (!(child->jobctl & JOBCTL_STOP_SIGMASK))
 151                         child->jobctl |= SIGSTOP;
 152         }
 153
 154         /*
 155          * If transition to TASK_STOPPED is pending or in TASK_TRACED, kick
 156          * @child in the butt.  Note that @resume should be used iff @child
 157          * is in TASK_TRACED; otherwise, we might unduly disrupt
 158          * TASK_KILLABLE sleeps.
 159          */
 160         if (child->jobctl & JOBCTL_STOP_PENDING || task_is_traced(child))
 161                 ptrace_signal_wake_up(child, true);
 162
 163         spin_unlock(&child->sighand->siglock);
 164 }
 165
 166 static bool looks_like_a_spurious_pid(struct task_struct *task)
 167 {
 168         if (task->exit_code != ((PTRACE_EVENT_EXEC << 8) | SIGTRAP))
 169                 return false;
 170
 171         if (task_pid_vnr(task) == task->ptrace_message)
 172                 return false;
 173         /*
 174          * The tracee changed its pid but the PTRACE_EVENT_EXEC event
 175          * was not wait()'ed, most probably debugger targets the old
 176          * leader which was destroyed in de_thread().
 177          */
 178         return true;
 179 }
 180
 181 /* Ensure that nothing can wake it up, even SIGKILL */
 182 static bool ptrace_freeze_traced(struct task_struct *task)
 183 {
 184         bool ret = false;
 185
 186         /* Lockless, nobody but us can set this flag */
 187         if (task->jobctl & JOBCTL_LISTENING)
 188                 return ret;
 189
 190         spin_lock_irq(&task->sighand->siglock);
 191         if (task_is_traced(task) && !looks_like_a_spurious_pid(task) &&
 192             !__fatal_signal_pending(task)) {
 193                 task->state = __TASK_TRACED;
 194                 ret = true;
 195         }
 196         spin_unlock_irq(&task->sighand->siglock);
 197
 198         return ret;
 199 }
 200
 201 static void ptrace_unfreeze_traced(struct task_struct *task)
 202 {
 203         if (task->state != __TASK_TRACED)
 204                 return;
 205
 206         WARN_ON(!task->ptrace || task->parent != current);
 207
 208         /*
 209          * PTRACE_LISTEN can allow ptrace_trap_notify to wake us up remotely.
 210          * Recheck state under the lock to close this race.
 211          */
 212         spin_lock_irq(&task->sighand->siglock);
 213         if (task->state == __TASK_TRACED) {
 214                 if (__fatal_signal_pending(task))
 215                         wake_up_state(task, __TASK_TRACED);
 216                 else
 217                         task->state = TASK_TRACED;
 218         }
 219         spin_unlock_irq(&task->sighand->siglock);
 220 }
 221
 222 /**
 223  * ptrace_check_attach - check whether ptracee is ready for ptrace operation
 224  * @child: ptracee to check for
 225  * @ignore_state: don't check whether @child is currently %TASK_TRACED
 226  *
 227  * Check whether @child is being ptraced by %current and ready for further
 228  * ptrace operations.  If @ignore_state is %false, @child also should be in
 229  * %TASK_TRACED state and on return the child is guaranteed to be traced
 230  * and not executing.  If @ignore_state is %true, @child can be in any
 231  * state.
 232  *
 233  * CONTEXT:
 234  * Grabs and releases tasklist_lock and @child->sighand->siglock.
 235  *
 236  * RETURNS:
 237  * 0 on success, -ESRCH if %child is not ready.
 238  */
 239 static int ptrace_check_attach(struct task_struct *child, bool ignore_state)
 240 {
 241         int ret = -ESRCH;
 242
 243         /*
 244          * We take the read lock around doing both checks to close a
 245          * possible race where someone else was tracing our child and
 246          * detached between these two checks.  After this locked check,
 247          * we are sure that this is our traced child and that can only
 248          * be changed by us so it's not changing right after this.
 249          */
 250         read_lock(&tasklist_lock);
 251         if (child->ptrace && child->parent == current) {
 252                 WARN_ON(child->state == __TASK_TRACED);
 253                 /*
 254                  * child->sighand can't be NULL, release_task()
 255                  * does ptrace_unlink() before __exit_signal().
 256                  */
 257                 if (ignore_state || ptrace_freeze_traced(child))
 258                         ret = 0;
 259         }
 260         read_unlock(&tasklist_lock);
 261
 262         if (!ret && !ignore_state) {
 263                 if (!wait_task_inactive(child, __TASK_TRACED)) {
 264                         /*
 265                          * This can only happen if may_ptrace_stop() fails and
 266                          * ptrace_stop() changes ->state back to TASK_RUNNING,
 267                          * so we should not worry about leaking __TASK_TRACED.
 268                          */
 269                         WARN_ON(child->state == __TASK_TRACED);
 270                         ret = -ESRCH;
 271                 }
 272         }
 273
 274         return ret;
 275 }
 276
 277 static bool ptrace_has_cap(const struct cred *cred, struct user_namespace *ns,
 278                            unsigned int mode)
 279 {
 280         int ret;
 281
 282         if (mode & PTRACE_MODE_NOAUDIT)
 283                 ret = security_capable(cred, ns, CAP_SYS_PTRACE);
 284         else
 285                 ret = security_capable(cred, ns, CAP_SYS_PTRACE);
 286
 287         return ret == 0;
 288 }
 289
 290 /* Returns 0 on success, -errno on denial. */
 291 static int __ptrace_may_access(struct task_struct *task, unsigned int mode)
 292 {
 293         const struct cred *cred = current_cred(), *tcred;
 294         struct mm_struct *mm;
 295         kuid_t caller_uid;
 296         kgid_t caller_gid;
 297
 298         if (!(mode & PTRACE_MODE_FSCREDS) == !(mode & PTRACE_MODE_REALCREDS)) {
 299                 WARN(1, "denying ptrace access check without PTRACE_MODE_*CREDS\n");
 300                 return -EPERM;
 301         }
 302
 303         /* May we inspect the given task?
 304          * This check is used both for attaching with ptrace
 305          * and for allowing access to sensitive information in /proc.
 306          *
 307          * ptrace_attach denies several cases that /proc allows
 308          * because setting up the necessary parent/child relationship
 309          * or halting the specified task is impossible.
 310          */
 311
 312         /* Don't let security modules deny introspection */
 313         if (same_thread_group(task, current))
 314                 return 0;
 315         rcu_read_lock();
 316         if (mode & PTRACE_MODE_FSCREDS) {
 317                 caller_uid = cred->fsuid;
 318                 caller_gid = cred->fsgid;
 319         } else {
 320                 /*
 321                  * Using the euid would make more sense here, but something
 322                  * in userland might rely on the old behavior, and this
 323                  * shouldn't be a security problem since
 324                  * PTRACE_MODE_REALCREDS implies that the caller explicitly
 325                  * used a syscall that requests access to another process
 326                  * (and not a filesystem syscall to procfs).
 327                  */
 328                 caller_uid = cred->uid;
 329                 caller_gid = cred->gid;
 330         }
 331         tcred = __task_cred(task);
 332         if (uid_eq(caller_uid, tcred->euid) &&
 333             uid_eq(caller_uid, tcred->suid) &&
 334             uid_eq(caller_uid, tcred->uid)  &&
 335             gid_eq(caller_gid, tcred->egid) &&
 336             gid_eq(caller_gid, tcred->sgid) &&
 337             gid_eq(caller_gid, tcred->gid))
 338                 goto ok;
 339         if (ptrace_has_cap(cred, tcred->user_ns, mode))
 340                 goto ok;
 341         rcu_read_unlock();
 342         return -EPERM;
 343 ok:
 344         rcu_read_unlock();
 345         /*
 346          * If a task drops privileges and becomes nondumpable (through a syscall
 347          * like setresuid()) while we are trying to access it, we must ensure
 348          * that the dumpability is read after the credentials; otherwise,
 349          * we may be able to attach to a task that we shouldn't be able to
 350          * attach to (as if the task had dropped privileges without becoming
 351          * nondumpable).
 352          * Pairs with a write barrier in commit_creds().
 353          */
 354         smp_rmb();
 355         mm = task->mm;
 356         if (mm &&
 357             ((get_dumpable(mm) != SUID_DUMP_USER) &&
 358              !ptrace_has_cap(cred, mm->user_ns, mode)))
 359             return -EPERM;
 360
 361         return security_ptrace_access_check(task, mode);
 362 }
 363
 364 bool ptrace_may_access(struct task_struct *task, unsigned int mode)
 365 {
 366         int err;
 367         task_lock(task);
 368         err = __ptrace_may_access(task, mode);
 369         task_unlock(task);
 370         return !err;
 371 }
 372
 373 static int ptrace_attach(struct task_struct *task, long request,
 374                          unsigned long addr,
 375                          unsigned long flags)
 376 {
 377         bool seize = (request == PTRACE_SEIZE);
 378         int retval;
 379
 380         retval = -EIO;
 381         if (seize) {
 382                 if (addr != 0)
 383                         goto out;
 384                 if (flags & ~(unsigned long)PTRACE_O_MASK)
 385                         goto out;
 386                 flags = PT_PTRACED | PT_SEIZED | (flags << PT_OPT_FLAG_SHIFT);
 387         } else {
 388                 flags = PT_PTRACED;
 389         }
 390
 391         audit_ptrace(task);
 392
 393         retval = -EPERM;
 394         if (unlikely(task->flags & PF_KTHREAD))
 395                 goto out;
 396         if (same_thread_group(task, current))
 397                 goto out;
 398
 399         /*
 400          * Protect exec's credential calculations against our interference;
 401          * SUID, SGID and LSM creds get determined differently
 402          * under ptrace.
 403          */
 404         retval = -ERESTARTNOINTR;
 405         if (mutex_lock_interruptible(&task->signal->cred_guard_mutex))
 406                 goto out;
 407
 408         task_lock(task);
 409         retval = __ptrace_may_access(task, PTRACE_MODE_ATTACH_REALCREDS);
 410         task_unlock(task);
 411         if (retval)
 412                 goto unlock_creds;
 413
 414         write_lock_irq(&tasklist_lock);
 415         retval = -EPERM;
 416         if (unlikely(task->exit_state))
 417                 goto unlock_tasklist;
 418         if (task->ptrace)
 419                 goto unlock_tasklist;
 420
 421         if (seize)
 422                 flags |= PT_SEIZED;
 423         task->ptrace = flags;
 424
 425         ptrace_link(task, current);
 426
 427         /* SEIZE doesn't trap tracee on attach */
 428         if (!seize)
 429                 send_sig_info(SIGSTOP, SEND_SIG_FORCED, task);
 430
 431         spin_lock(&task->sighand->siglock);
 432
 433         /*
 434          * If the task is already STOPPED, set JOBCTL_TRAP_STOP and
 435          * TRAPPING, and kick it so that it transits to TRACED.  TRAPPING
 436          * will be cleared if the child completes the transition or any
 437          * event which clears the group stop states happens.  We'll wait
 438          * for the transition to complete before returning from this
 439          * function.
 440          *
 441          * This hides STOPPED -> RUNNING -> TRACED transition from the
 442          * attaching thread but a different thread in the same group can
 443          * still observe the transient RUNNING state.  IOW, if another
 444          * thread's WNOHANG wait(2) on the stopped tracee races against
 445          * ATTACH, the wait(2) may fail due to the transient RUNNING.
 446          *
 447          * The following task_is_stopped() test is safe as both transitions
 448          * in and out of STOPPED are protected by siglock.
 449          */
 450         if (task_is_stopped(task) &&
 451             task_set_jobctl_pending(task, JOBCTL_TRAP_STOP | JOBCTL_TRAPPING))
 452                 signal_wake_up_state(task, __TASK_STOPPED);
 453
 454         spin_unlock(&task->sighand->siglock);
 455
 456         retval = 0;
 457 unlock_tasklist:
 458         write_unlock_irq(&tasklist_lock);
 459 unlock_creds:
 460         mutex_unlock(&task->signal->cred_guard_mutex);
 461 out:
 462         if (!retval) {
 463                 /*
 464                  * We do not bother to change retval or clear JOBCTL_TRAPPING
 465                  * if wait_on_bit() was interrupted by SIGKILL. The tracer will
 466                  * not return to user-mode, it will exit and clear this bit in
 467                  * __ptrace_unlink() if it wasn't already cleared by the tracee;
 468                  * and until then nobody can ptrace this task.
 469                  */
 470                 wait_on_bit(&task->jobctl, JOBCTL_TRAPPING_BIT, TASK_KILLABLE);
 471                 proc_ptrace_connector(task, PTRACE_ATTACH);
 472         }
 473
 474         return retval;
 475 }
 476
 477 /**
 478  * ptrace_traceme  --  helper for PTRACE_TRACEME
 479  *
 480  * Performs checks and sets PT_PTRACED.
 481  * Should be used by all ptrace implementations for PTRACE_TRACEME.
 482  */
 483 static int ptrace_traceme(void)
 484 {
 485         int ret = -EPERM;
 486
 487         write_lock_irq(&tasklist_lock);
 488         /* Are we already being traced? */
 489         if (!current->ptrace) {
 490                 ret = security_ptrace_traceme(current->parent);
 491                 /*
 492                  * Check PF_EXITING to ensure ->real_parent has not passed
 493                  * exit_ptrace(). Otherwise we don't report the error but
 494                  * pretend ->real_parent untraces us right after return.
 495                  */
 496                 if (!ret && !(current->real_parent->flags & PF_EXITING)) {
 497                         current->ptrace = PT_PTRACED;
 498                         ptrace_link(current, current->real_parent);
 499                 }
 500         }
 501         write_unlock_irq(&tasklist_lock);
 502
 503         return ret;
 504 }
 505
 506 /*
 507  * Called with irqs disabled, returns true if childs should reap themselves.
 508  */
 509 static int ignoring_children(struct sighand_struct *sigh)
 510 {
 511         int ret;
 512         spin_lock(&sigh->siglock);
 513         ret = (sigh->action[SIGCHLD-1].sa.sa_handler == SIG_IGN) ||
 514               (sigh->action[SIGCHLD-1].sa.sa_flags & SA_NOCLDWAIT);
 515         spin_unlock(&sigh->siglock);
 516         return ret;
 517 }
 518
 519 /*
 520  * Called with tasklist_lock held for writing.
 521  * Unlink a traced task, and clean it up if it was a traced zombie.
 522  * Return true if it needs to be reaped with release_task().
 523  * (We can't call release_task() here because we already hold tasklist_lock.)
 524  *
 525  * If it's a zombie, our attachedness prevented normal parent notification
 526  * or self-reaping.  Do notification now if it would have happened earlier.
 527  * If it should reap itself, return true.
 528  *
 529  * If it's our own child, there is no notification to do. But if our normal
 530  * children self-reap, then this child was prevented by ptrace and we must
 531  * reap it now, in that case we must also wake up sub-threads sleeping in
 532  * do_wait().
 533  */
 534 static bool __ptrace_detach(struct task_struct *tracer, struct task_struct *p)
 535 {
 536         bool dead;
 537
 538         __ptrace_unlink(p);
 539
 540         if (p->exit_state != EXIT_ZOMBIE)
 541                 return false;
 542
 543         dead = !thread_group_leader(p);
 544
 545         if (!dead && thread_group_empty(p)) {
 546                 if (!same_thread_group(p->real_parent, tracer))
 547                         dead = do_notify_parent(p, p->exit_signal);
 548                 else if (ignoring_children(tracer->sighand)) {
 549                         __wake_up_parent(p, tracer);
 550                         dead = true;
 551                 }
 552         }
 553         /* Mark it as in the process of being reaped. */
 554         if (dead)
 555                 p->exit_state = EXIT_DEAD;
 556         return dead;
 557 }
 558
 559 static int ptrace_detach(struct task_struct *child, unsigned int data)
 560 {
 561         if (!valid_signal(data))
 562                 return -EIO;
 563
 564         /* Architecture-specific hardware disable .. */
 565         ptrace_disable(child);
 566
 567         write_lock_irq(&tasklist_lock);
 568         /*
 569          * We rely on ptrace_freeze_traced(). It can't be killed and
 570          * untraced by another thread, it can't be a zombie.
 571          */
 572         WARN_ON(!child->ptrace || child->exit_state);
 573         /*
 574          * tasklist_lock avoids the race with wait_task_stopped(), see
 575          * the comment in ptrace_resume().
 576          */
 577         child->exit_code = data;
 578         __ptrace_detach(current, child);
 579         write_unlock_irq(&tasklist_lock);
 580
 581         proc_ptrace_connector(child, PTRACE_DETACH);
 582
 583         return 0;
 584 }
 585
 586 /*
 587  * Detach all tasks we were using ptrace on. Called with tasklist held
 588  * for writing.
 589  */
 590 void exit_ptrace(struct task_struct *tracer, struct list_head *dead)
 591 {
 592         struct task_struct *p, *n;
 593
 594         list_for_each_entry_safe(p, n, &tracer->ptraced, ptrace_entry) {
 595                 if (unlikely(p->ptrace & PT_EXITKILL))
 596                         send_sig_info(SIGKILL, SEND_SIG_FORCED, p);
 597
 598                 if (__ptrace_detach(tracer, p))
 599                         list_add(&p->ptrace_entry, dead);
 600         }
 601 }
 602
 603 int ptrace_readdata(struct task_struct *tsk, unsigned long src, char __user *dst, int len)
 604 {
 605         int copied = 0;
 606
 607         while (len > 0) {
 608                 char buf[128];
 609                 int this_len, retval;
 610
 611                 this_len = (len > sizeof(buf)) ? sizeof(buf) : len;
 612                 retval = ptrace_access_vm(tsk, src, buf, this_len, FOLL_FORCE);
 613
 614                 if (!retval) {
 615                         if (copied)
 616                                 break;
 617                         return -EIO;
 618                 }
 619                 if (copy_to_user(dst, buf, retval))
 620                         return -EFAULT;
 621                 copied += retval;
 622                 src += retval;
 623                 dst += retval;
 624                 len -= retval;
 625         }
 626         return copied;
 627 }
 628
 629 int ptrace_writedata(struct task_struct *tsk, char __user *src, unsigned long dst, int len)
 630 {
 631         int copied = 0;
 632
 633         while (len > 0) {
 634                 char buf[128];
 635                 int this_len, retval;
 636
 637                 this_len = (len > sizeof(buf)) ? sizeof(buf) : len;
 638                 if (copy_from_user(buf, src, this_len))
 639                         return -EFAULT;
 640                 retval = ptrace_access_vm(tsk, dst, buf, this_len,
 641                                 FOLL_FORCE | FOLL_WRITE);
 642                 if (!retval) {
 643                         if (copied)
 644                                 break;
 645                         return -EIO;
 646                 }
 647                 copied += retval;
 648                 src += retval;
 649                 dst += retval;
 650                 len -= retval;
 651         }
 652         return copied;
 653 }
 654
 655 static int ptrace_setoptions(struct task_struct *child, unsigned long data)
 656 {
 657         unsigned flags;
 658
 659         if (data & ~(unsigned long)PTRACE_O_MASK)
 660                 return -EINVAL;
 661
 662         if (unlikely(data & PTRACE_O_SUSPEND_SECCOMP)) {
 663                 if (!IS_ENABLED(CONFIG_CHECKPOINT_RESTORE) ||
 664                     !IS_ENABLED(CONFIG_SECCOMP))
 665                         return -EINVAL;
 666
 667                 if (!capable(CAP_SYS_ADMIN))
 668                         return -EPERM;
 669
 670                 if (seccomp_mode(&current->seccomp) != SECCOMP_MODE_DISABLED ||
 671                     current->ptrace & PT_SUSPEND_SECCOMP)
 672                         return -EPERM;
 673         }
 674
 675         /* Avoid intermediate state when all opts are cleared */
 676         flags = child->ptrace;
 677         flags &= ~(PTRACE_O_MASK << PT_OPT_FLAG_SHIFT);
 678         flags |= (data << PT_OPT_FLAG_SHIFT);
 679         child->ptrace = flags;
 680
 681         return 0;
 682 }
 683
 684 static int ptrace_getsiginfo(struct task_struct *child, siginfo_t *info)
 685 {
 686         unsigned long flags;
 687         int error = -ESRCH;
 688
 689         if (lock_task_sighand(child, &flags)) {
 690                 error = -EINVAL;
 691                 if (likely(child->last_siginfo != NULL)) {
 692                         *info = *child->last_siginfo;
 693                         error = 0;
 694                 }
 695                 unlock_task_sighand(child, &flags);
 696         }
 697         return error;
 698 }
 699
 700 static int ptrace_setsiginfo(struct task_struct *child, const siginfo_t *info)
 701 {
 702         unsigned long flags;
 703         int error = -ESRCH;
 704
 705         if (lock_task_sighand(child, &flags)) {
 706                 error = -EINVAL;
 707                 if (likely(child->last_siginfo != NULL)) {
 708                         *child->last_siginfo = *info;
 709                         error = 0;
 710                 }
 711                 unlock_task_sighand(child, &flags);
 712         }
 713         return error;
 714 }
 715
 716 static int ptrace_peek_siginfo(struct task_struct *child,
 717                                 unsigned long addr,
 718                                 unsigned long data)
 719 {
 720         struct ptrace_peeksiginfo_args arg;
 721         struct sigpending *pending;
 722         struct sigqueue *q;
 723         int ret, i;
 724
 725         ret = copy_from_user(&arg, (void __user *) addr,
 726                                 sizeof(struct ptrace_peeksiginfo_args));
 727         if (ret)
 728                 return -EFAULT;
 729
 730         if (arg.flags & ~PTRACE_PEEKSIGINFO_SHARED)
 731                 return -EINVAL; /* unknown flags */
 732
 733         if (arg.nr < 0)
 734                 return -EINVAL;
 735
 736         /* Ensure arg.off fits in an unsigned long */
 737         if (arg.off > ULONG_MAX)
 738                 return 0;
 739
 740         if (arg.flags & PTRACE_PEEKSIGINFO_SHARED)
 741                 pending = &child->signal->shared_pending;
 742         else
 743                 pending = &child->pending;
 744
 745         for (i = 0; i < arg.nr; ) {
 746                 siginfo_t info;
 747                 unsigned long off = arg.off + i;
 748                 bool found = false;
 749
 750                 spin_lock_irq(&child->sighand->siglock);
 751                 list_for_each_entry(q, &pending->list, list) {
 752                         if (!off--) {
 753                                 found = true;
 754                                 copy_siginfo(&info, &q->info);
 755                                 break;
 756                         }
 757                 }
 758                 spin_unlock_irq(&child->sighand->siglock);
 759
 760                 if (!found) /* beyond the end of the list */
 761                         break;
 762
 763 #ifdef CONFIG_COMPAT
 764                 if (unlikely(in_compat_syscall())) {
 765                         compat_siginfo_t __user *uinfo = compat_ptr(data);
 766
 767                         if (copy_siginfo_to_user32(uinfo, &info)) {
 768                                 ret = -EFAULT;
 769                                 break;
 770                         }
 771
 772                 } else
 773 #endif
 774                 {
 775                         siginfo_t __user *uinfo = (siginfo_t __user *) data;
 776
 777                         if (copy_siginfo_to_user(uinfo, &info)) {
 778                                 ret = -EFAULT;
 779                                 break;
 780                         }
 781                 }
 782
 783                 data += sizeof(siginfo_t);
 784                 i++;
 785
 786                 if (signal_pending(current))
 787                         break;
 788
 789                 cond_resched();
 790         }
 791
 792         if (i > 0)
 793                 return i;
 794
 795         return ret;
 796 }
 797
 798 #ifdef PTRACE_SINGLESTEP
 799 #define is_singlestep(request)          ((request) == PTRACE_SINGLESTEP)
 800 #else
 801 #define is_singlestep(request)          0
 802 #endif
 803
 804 #ifdef PTRACE_SINGLEBLOCK
 805 #define is_singleblock(request)         ((request) == PTRACE_SINGLEBLOCK)
 806 #else
 807 #define is_singleblock(request)         0
 808 #endif
 809
 810 #ifdef PTRACE_SYSEMU
 811 #define is_sysemu_singlestep(request)   ((request) == PTRACE_SYSEMU_SINGLESTEP)
 812 #else
 813 #define is_sysemu_singlestep(request)   0
 814 #endif
 815
 816 static int ptrace_resume(struct task_struct *child, long request,
 817                          unsigned long data)
 818 {
 819         bool need_siglock;
 820
 821         if (!valid_signal(data))
 822                 return -EIO;
 823
 824         if (request == PTRACE_SYSCALL)
 825                 set_tsk_thread_flag(child, TIF_SYSCALL_TRACE);
 826         else
 827                 clear_tsk_thread_flag(child, TIF_SYSCALL_TRACE);
 828
 829 #ifdef TIF_SYSCALL_EMU
 830         if (request == PTRACE_SYSEMU || request == PTRACE_SYSEMU_SINGLESTEP)
 831                 set_tsk_thread_flag(child, TIF_SYSCALL_EMU);
 832         else
 833                 clear_tsk_thread_flag(child, TIF_SYSCALL_EMU);
 834 #endif
 835
 836         if (is_singleblock(request)) {
 837                 if (unlikely(!arch_has_block_step()))
 838                         return -EIO;
 839                 user_enable_block_step(child);
 840         } else if (is_singlestep(request) || is_sysemu_singlestep(request)) {
 841                 if (unlikely(!arch_has_single_step()))
 842                         return -EIO;
 843                 user_enable_single_step(child);
 844         } else {
 845                 user_disable_single_step(child);
 846         }
 847
 848         /*
 849          * Change ->exit_code and ->state under siglock to avoid the race
 850          * with wait_task_stopped() in between; a non-zero ->exit_code will
 851          * wrongly look like another report from tracee.
 852          *
 853          * Note that we need siglock even if ->exit_code == data and/or this
 854          * status was not reported yet, the new status must not be cleared by
 855          * wait_task_stopped() after resume.
 856          *
 857          * If data == 0 we do not care if wait_task_stopped() reports the old
 858          * status and clears the code too; this can't race with the tracee, it
 859          * takes siglock after resume.
 860          */
 861         need_siglock = data && !thread_group_empty(current);
 862         if (need_siglock)
 863                 spin_lock_irq(&child->sighand->siglock);
 864         child->exit_code = data;
 865         wake_up_state(child, __TASK_TRACED);
 866         if (need_siglock)
 867                 spin_unlock_irq(&child->sighand->siglock);
 868
 869         return 0;
 870 }
 871
 872 #ifdef CONFIG_HAVE_ARCH_TRACEHOOK
 873
 874 static const struct user_regset *
 875 find_regset(const struct user_regset_view *view, unsigned int type)
 876 {
 877         const struct user_regset *regset;
 878         int n;
 879
 880         for (n = 0; n < view->n; ++n) {
 881                 regset = view->regsets + n;
 882                 if (regset->core_note_type == type)
 883                         return regset;
 884         }
 885
 886         return NULL;
 887 }
 888
 889 static int ptrace_regset(struct task_struct *task, int req, unsigned int type,
 890                          struct iovec *kiov)
 891 {
 892         const struct user_regset_view *view = task_user_regset_view(task);
 893         const struct user_regset *regset = find_regset(view, type);
 894         int regset_no;
 895
 896         if (!regset || (kiov->iov_len % regset->size) != 0)
 897                 return -EINVAL;
 898
 899         regset_no = regset - view->regsets;
 900         kiov->iov_len = min(kiov->iov_len,
 901                             (__kernel_size_t) (regset->n * regset->size));
 902
 903         if (req == PTRACE_GETREGSET)
 904                 return copy_regset_to_user(task, view, regset_no, 0,
 905                                            kiov->iov_len, kiov->iov_base);
 906         else
 907                 return copy_regset_from_user(task, view, regset_no, 0,
 908                                              kiov->iov_len, kiov->iov_base);
 909 }
 910
 911 /*
 912  * This is declared in linux/regset.h and defined in machine-dependent
 913  * code.  We put the export here, near the primary machine-neutral use,
 914  * to ensure no machine forgets it.
 915  */
 916 EXPORT_SYMBOL_GPL(task_user_regset_view);
 917 #endif
 918
 919 int ptrace_request(struct task_struct *child, long request,
 920                    unsigned long addr, unsigned long data)
 921 {
 922         bool seized = child->ptrace & PT_SEIZED;
 923         int ret = -EIO;
 924         siginfo_t siginfo, *si;
 925         void __user *datavp = (void __user *) data;
 926         unsigned long __user *datalp = datavp;
 927         unsigned long flags;
 928
 929         switch (request) {
 930         case PTRACE_PEEKTEXT:
 931         case PTRACE_PEEKDATA:
 932                 return generic_ptrace_peekdata(child, addr, data);
 933         case PTRACE_POKETEXT:
 934         case PTRACE_POKEDATA:
 935                 return generic_ptrace_pokedata(child, addr, data);
 936
 937 #ifdef PTRACE_OLDSETOPTIONS
 938         case PTRACE_OLDSETOPTIONS:
 939 #endif
 940         case PTRACE_SETOPTIONS:
 941                 ret = ptrace_setoptions(child, data);
 942                 break;
 943         case PTRACE_GETEVENTMSG:
 944                 ret = put_user(child->ptrace_message, datalp);
 945                 break;
 946
 947         case PTRACE_PEEKSIGINFO:
 948                 ret = ptrace_peek_siginfo(child, addr, data);
 949                 break;
 950
 951         case PTRACE_GETSIGINFO:
 952                 ret = ptrace_getsiginfo(child, &siginfo);
 953                 if (!ret)
 954                         ret = copy_siginfo_to_user(datavp, &siginfo);
 955                 break;
 956
 957         case PTRACE_SETSIGINFO:
 958                 if (copy_from_user(&siginfo, datavp, sizeof siginfo))
 959                         ret = -EFAULT;
 960                 else
 961                         ret = ptrace_setsiginfo(child, &siginfo);
 962                 break;
 963
 964         case PTRACE_GETSIGMASK: {
 965                 sigset_t *mask;
 966
 967                 if (addr != sizeof(sigset_t)) {
 968                         ret = -EINVAL;
 969                         break;
 970                 }
 971
 972                 if (test_tsk_restore_sigmask(child))
 973                         mask = &child->saved_sigmask;
 974                 else
 975                         mask = &child->blocked;
 976
 977                 if (copy_to_user(datavp, mask, sizeof(sigset_t)))
 978                         ret = -EFAULT;
 979                 else
 980                         ret = 0;
 981
 982                 break;
 983         }
 984
 985         case PTRACE_SETSIGMASK: {
 986                 sigset_t new_set;
 987
 988                 if (addr != sizeof(sigset_t)) {
 989                         ret = -EINVAL;
 990                         break;
 991                 }
 992
 993                 if (copy_from_user(&new_set, datavp, sizeof(sigset_t))) {
 994                         ret = -EFAULT;
 995                         break;
 996                 }
 997
 998                 sigdelsetmask(&new_set, sigmask(SIGKILL)|sigmask(SIGSTOP));
 999
1000                 /*
1001                  * Every thread does recalc_sigpending() after resume, so
1002                  * retarget_shared_pending() and recalc_sigpending() are not
1003                  * called here.
1004                  */
1005                 spin_lock_irq(&child->sighand->siglock);
1006                 child->blocked = new_set;
1007                 spin_unlock_irq(&child->sighand->siglock);
1008
1009                 clear_tsk_restore_sigmask(child);
1010
1011                 ret = 0;
1012                 break;
1013         }
1014
1015         case PTRACE_INTERRUPT:
1016                 /*
1017                  * Stop tracee without any side-effect on signal or job
1018                  * control.  At least one trap is guaranteed to happen
1019                  * after this request.  If @child is already trapped, the
1020                  * current trap is not disturbed and another trap will
1021                  * happen after the current trap is ended with PTRACE_CONT.
1022                  *
1023                  * The actual trap might not be PTRACE_EVENT_STOP trap but
1024                  * the pending condition is cleared regardless.
1025                  */
1026                 if (unlikely(!seized || !lock_task_sighand(child, &flags)))
1027                         break;
1028
1029                 /*
1030                  * INTERRUPT doesn't disturb existing trap sans one
1031                  * exception.  If ptracer issued LISTEN for the current
1032                  * STOP, this INTERRUPT should clear LISTEN and re-trap
1033                  * tracee into STOP.
1034                  */
1035                 if (likely(task_set_jobctl_pending(child, JOBCTL_TRAP_STOP)))
1036                         ptrace_signal_wake_up(child, child->jobctl & JOBCTL_LISTENING);
1037
1038                 unlock_task_sighand(child, &flags);
1039                 ret = 0;
1040                 break;
1041
1042         case PTRACE_LISTEN:
1043                 /*
1044                  * Listen for events.  Tracee must be in STOP.  It's not
1045                  * resumed per-se but is not considered to be in TRACED by
1046                  * wait(2) or ptrace(2).  If an async event (e.g. group
1047                  * stop state change) happens, tracee will enter STOP trap
1048                  * again.  Alternatively, ptracer can issue INTERRUPT to
1049                  * finish listening and re-trap tracee into STOP.
1050                  */
1051                 if (unlikely(!seized || !lock_task_sighand(child, &flags)))
1052                         break;
1053
1054                 si = child->last_siginfo;
1055                 if (likely(si && (si->si_code >> 8) == PTRACE_EVENT_STOP)) {
1056                         child->jobctl |= JOBCTL_LISTENING;
1057                         /*
1058                          * If NOTIFY is set, it means event happened between
1059                          * start of this trap and now.  Trigger re-trap.
1060                          */
1061                         if (child->jobctl & JOBCTL_TRAP_NOTIFY)
1062                                 ptrace_signal_wake_up(child, true);
1063                         ret = 0;
1064                 }
1065                 unlock_task_sighand(child, &flags);
1066                 break;
1067
1068         case PTRACE_DETACH:      /* detach a process that was attached. */
1069                 ret = ptrace_detach(child, data);
1070                 break;
1071
1072 #ifdef CONFIG_BINFMT_ELF_FDPIC
1073         case PTRACE_GETFDPIC: {
1074                 struct mm_struct *mm = get_task_mm(child);
1075                 unsigned long tmp = 0;
1076
1077                 ret = -ESRCH;
1078                 if (!mm)
1079                         break;
1080
1081                 switch (addr) {
1082                 case PTRACE_GETFDPIC_EXEC:
1083                         tmp = mm->context.exec_fdpic_loadmap;
1084                         break;
1085                 case PTRACE_GETFDPIC_INTERP:
1086                         tmp = mm->context.interp_fdpic_loadmap;
1087                         break;
1088                 default:
1089                         break;
1090                 }
1091                 mmput(mm);
1092
1093                 ret = put_user(tmp, datalp);
1094                 break;
1095         }
1096 #endif
1097
1098 #ifdef PTRACE_SINGLESTEP
1099         case PTRACE_SINGLESTEP:
1100 #endif
1101 #ifdef PTRACE_SINGLEBLOCK
1102         case PTRACE_SINGLEBLOCK:
1103 #endif
1104 #ifdef PTRACE_SYSEMU
1105         case PTRACE_SYSEMU:
1106         case PTRACE_SYSEMU_SINGLESTEP:
1107 #endif
1108         case PTRACE_SYSCALL:
1109         case PTRACE_CONT:
1110                 return ptrace_resume(child, request, data);
1111
1112         case PTRACE_KILL:
1113                 if (child->exit_state)  /* already dead */
1114                         return 0;
1115                 return ptrace_resume(child, request, SIGKILL);
1116
1117 #ifdef CONFIG_HAVE_ARCH_TRACEHOOK
1118         case PTRACE_GETREGSET:
1119         case PTRACE_SETREGSET: {
1120                 struct iovec kiov;
1121                 struct iovec __user *uiov = datavp;
1122
1123                 if (!access_ok(VERIFY_WRITE, uiov, sizeof(*uiov)))
1124                         return -EFAULT;
1125
1126                 if (__get_user(kiov.iov_base, &uiov->iov_base) ||
1127                     __get_user(kiov.iov_len, &uiov->iov_len))
1128                         return -EFAULT;
1129
1130                 ret = ptrace_regset(child, request, addr, &kiov);
1131                 if (!ret)
1132                         ret = __put_user(kiov.iov_len, &uiov->iov_len);
1133                 break;
1134         }
1135 #endif
1136
1137         case PTRACE_SECCOMP_GET_FILTER:
1138                 ret = seccomp_get_filter(child, addr, datavp);
1139                 break;
1140
1141         default:
1142                 break;
1143         }
1144
1145         return ret;
1146 }
1147
1148 static struct task_struct *ptrace_get_task_struct(pid_t pid)
1149 {
1150         struct task_struct *child;
1151
1152         rcu_read_lock();
1153         child = find_task_by_vpid(pid);
1154         if (child)
1155                 get_task_struct(child);
1156         rcu_read_unlock();
1157
1158         if (!child)
1159                 return ERR_PTR(-ESRCH);
1160         return child;
1161 }
1162
1163 #ifndef arch_ptrace_attach
1164 #define arch_ptrace_attach(child)       do { } while (0)
1165 #endif
1166
1167 SYSCALL_DEFINE4(ptrace, long, request, long, pid, unsigned long, addr,
1168                 unsigned long, data)
1169 {
1170         struct task_struct *child;
1171         long ret;
1172
1173         if (request == PTRACE_TRACEME) {
1174                 ret = ptrace_traceme();
1175                 if (!ret)
1176                         arch_ptrace_attach(current);
1177                 goto out;
1178         }
1179
1180         child = ptrace_get_task_struct(pid);
1181         if (IS_ERR(child)) {
1182                 ret = PTR_ERR(child);
1183                 goto out;
1184         }
1185
1186         if (request == PTRACE_ATTACH || request == PTRACE_SEIZE) {
1187                 ret = ptrace_attach(child, request, addr, data);
1188                 /*
1189                  * Some architectures need to do book-keeping after
1190                  * a ptrace attach.
1191                  */
1192                 if (!ret)
1193                         arch_ptrace_attach(child);
1194                 goto out_put_task_struct;
1195         }
1196
1197         ret = ptrace_check_attach(child, request == PTRACE_KILL ||
1198                                   request == PTRACE_INTERRUPT);
1199         if (ret < 0)
1200                 goto out_put_task_struct;
1201
1202         ret = arch_ptrace(child, request, addr, data);
1203         if (ret || request != PTRACE_DETACH)
1204                 ptrace_unfreeze_traced(child);
1205
1206  out_put_task_struct:
1207         put_task_struct(child);
1208  out:
1209         return ret;
1210 }
1211
1212 int generic_ptrace_peekdata(struct task_struct *tsk, unsigned long addr,
1213                             unsigned long data)
1214 {
1215         unsigned long tmp;
1216         int copied;
1217
1218         copied = ptrace_access_vm(tsk, addr, &tmp, sizeof(tmp), FOLL_FORCE);
1219         if (copied != sizeof(tmp))
1220                 return -EIO;
1221         return put_user(tmp, (unsigned long __user *)data);
1222 }
1223
1224 int generic_ptrace_pokedata(struct task_struct *tsk, unsigned long addr,
1225                             unsigned long data)
1226 {
1227         int copied;
1228
1229         copied = ptrace_access_vm(tsk, addr, &data, sizeof(data),
1230                         FOLL_FORCE | FOLL_WRITE);
1231         return (copied == sizeof(data)) ? 0 : -EIO;
1232 }
1233
1234 #if defined CONFIG_COMPAT
1235
1236 int compat_ptrace_request(struct task_struct *child, compat_long_t request,
1237                           compat_ulong_t addr, compat_ulong_t data)
1238 {
1239         compat_ulong_t __user *datap = compat_ptr(data);
1240         compat_ulong_t word;
1241         siginfo_t siginfo;
1242         int ret;
1243
1244         switch (request) {
1245         case PTRACE_PEEKTEXT:
1246         case PTRACE_PEEKDATA:
1247                 ret = ptrace_access_vm(child, addr, &word, sizeof(word),
1248                                 FOLL_FORCE);
1249                 if (ret != sizeof(word))
1250                         ret = -EIO;
1251                 else
1252                         ret = put_user(word, datap);
1253                 break;
1254
1255         case PTRACE_POKETEXT:
1256         case PTRACE_POKEDATA:
1257                 ret = ptrace_access_vm(child, addr, &data, sizeof(data),
1258                                 FOLL_FORCE | FOLL_WRITE);
1259                 ret = (ret != sizeof(data) ? -EIO : 0);
1260                 break;
1261
1262         case PTRACE_GETEVENTMSG:
1263                 ret = put_user((compat_ulong_t) child->ptrace_message, datap);
1264                 break;
1265
1266         case PTRACE_GETSIGINFO:
1267                 ret = ptrace_getsiginfo(child, &siginfo);
1268                 if (!ret)
1269                         ret = copy_siginfo_to_user32(
1270                                 (struct compat_siginfo __user *) datap,
1271                                 &siginfo);
1272                 break;
1273
1274         case PTRACE_SETSIGINFO:
1275                 memset(&siginfo, 0, sizeof siginfo);
1276                 if (copy_siginfo_from_user32(
1277                             &siginfo, (struct compat_siginfo __user *) datap))
1278                         ret = -EFAULT;
1279                 else
1280                         ret = ptrace_setsiginfo(child, &siginfo);
1281                 break;
1282 #ifdef CONFIG_HAVE_ARCH_TRACEHOOK
1283         case PTRACE_GETREGSET:
1284         case PTRACE_SETREGSET:
1285         {
1286                 struct iovec kiov;
1287                 struct compat_iovec __user *uiov =
1288                         (struct compat_iovec __user *) datap;
1289                 compat_uptr_t ptr;
1290                 compat_size_t len;
1291
1292                 if (!access_ok(VERIFY_WRITE, uiov, sizeof(*uiov)))
1293                         return -EFAULT;
1294
1295                 if (__get_user(ptr, &uiov->iov_base) ||
1296                     __get_user(len, &uiov->iov_len))
1297                         return -EFAULT;
1298
1299                 kiov.iov_base = compat_ptr(ptr);
1300                 kiov.iov_len = len;
1301
1302                 ret = ptrace_regset(child, request, addr, &kiov);
1303                 if (!ret)
1304                         ret = __put_user(kiov.iov_len, &uiov->iov_len);
1305                 break;
1306         }
1307 #endif
1308
1309         default:
1310                 ret = ptrace_request(child, request, addr, data);
1311         }
1312
1313         return ret;
1314 }
1315
1316 COMPAT_SYSCALL_DEFINE4(ptrace, compat_long_t, request, compat_long_t, pid,
1317                        compat_long_t, addr, compat_long_t, data)
1318 {
1319         struct task_struct *child;
1320         long ret;
1321
1322         if (request == PTRACE_TRACEME) {
1323                 ret = ptrace_traceme();
1324                 goto out;
1325         }
1326
1327         child = ptrace_get_task_struct(pid);
1328         if (IS_ERR(child)) {
1329                 ret = PTR_ERR(child);
1330                 goto out;
1331         }
1332
1333         if (request == PTRACE_ATTACH || request == PTRACE_SEIZE) {
1334                 ret = ptrace_attach(child, request, addr, data);
1335                 /*
1336                  * Some architectures need to do book-keeping after
1337                  * a ptrace attach.
1338                  */
1339                 if (!ret)
1340                         arch_ptrace_attach(child);
1341                 goto out_put_task_struct;
1342         }
1343
1344         ret = ptrace_check_attach(child, request == PTRACE_KILL ||
1345                                   request == PTRACE_INTERRUPT);
1346         if (!ret) {
1347                 ret = compat_arch_ptrace(child, request, addr, data);
1348                 if (ret || request != PTRACE_DETACH)
1349                         ptrace_unfreeze_traced(child);
1350         }
1351
1352  out_put_task_struct:
1353         put_task_struct(child);
1354  out:
1355         return ret;
1356 }
1357 #endif  /* CONFIG_COMPAT */