fs/nfs/callback_xdr.c

   1 // SPDX-License-Identifier: GPL-2.0
   2 /*
   3  * linux/fs/nfs/callback_xdr.c
   4  *
   5  * Copyright (C) 2004 Trond Myklebust
   6  *
   7  * NFSv4 callback encode/decode procedures
   8  */
   9 #include <linux/kernel.h>
  10 #include <linux/sunrpc/svc.h>
  11 #include <linux/nfs4.h>
  12 #include <linux/nfs_fs.h>
  13 #include <linux/ratelimit.h>
  14 #include <linux/printk.h>
  15 #include <linux/slab.h>
  16 #include <linux/sunrpc/bc_xprt.h>
  17 #include "nfs4_fs.h"
  18 #include "callback.h"
  19 #include "internal.h"
  20 #include "nfs4session.h"
  21
  22 #define CB_OP_TAGLEN_MAXSZ              (512)
  23 #define CB_OP_HDR_RES_MAXSZ             (2 * 4) // opcode, status
  24 #define CB_OP_GETATTR_BITMAP_MAXSZ      (4 * 4) // bitmap length, 3 bitmaps
  25 #define CB_OP_GETATTR_RES_MAXSZ         (CB_OP_HDR_RES_MAXSZ + \
  26                                          CB_OP_GETATTR_BITMAP_MAXSZ + \
  27                                          /* change, size, ctime, mtime */\
  28                                          (2 + 2 + 3 + 3) * 4)
  29 #define CB_OP_RECALL_RES_MAXSZ          (CB_OP_HDR_RES_MAXSZ)
  30
  31 #if defined(CONFIG_NFS_V4_1)
  32 #define CB_OP_LAYOUTRECALL_RES_MAXSZ    (CB_OP_HDR_RES_MAXSZ)
  33 #define CB_OP_DEVICENOTIFY_RES_MAXSZ    (CB_OP_HDR_RES_MAXSZ)
  34 #define CB_OP_SEQUENCE_RES_MAXSZ        (CB_OP_HDR_RES_MAXSZ + \
  35                                          NFS4_MAX_SESSIONID_LEN + \
  36                                          (1 + 3) * 4) // seqid, 3 slotids
  37 #define CB_OP_RECALLANY_RES_MAXSZ       (CB_OP_HDR_RES_MAXSZ)
  38 #define CB_OP_RECALLSLOT_RES_MAXSZ      (CB_OP_HDR_RES_MAXSZ)
  39 #define CB_OP_NOTIFY_LOCK_RES_MAXSZ     (CB_OP_HDR_RES_MAXSZ)
  40 #endif /* CONFIG_NFS_V4_1 */
  41
  42 #define NFSDBG_FACILITY NFSDBG_CALLBACK
  43
  44 /* Internal error code */
  45 #define NFS4ERR_RESOURCE_HDR    11050
  46
  47 struct callback_op {
  48         __be32 (*process_op)(void *, void *, struct cb_process_state *);
  49         __be32 (*decode_args)(struct svc_rqst *, struct xdr_stream *, void *);
  50         __be32 (*encode_res)(struct svc_rqst *, struct xdr_stream *,
  51                         const void *);
  52         long res_maxsize;
  53 };
  54
  55 static struct callback_op callback_ops[];
  56
  57 static __be32 nfs4_callback_null(struct svc_rqst *rqstp)
  58 {
  59         return htonl(NFS4_OK);
  60 }
  61
  62 static int nfs4_decode_void(struct svc_rqst *rqstp, __be32 *p)
  63 {
  64         return xdr_argsize_check(rqstp, p);
  65 }
  66
  67 static int nfs4_encode_void(struct svc_rqst *rqstp, __be32 *p)
  68 {
  69         return xdr_ressize_check(rqstp, p);
  70 }
  71
  72 static __be32 *read_buf(struct xdr_stream *xdr, size_t nbytes)
  73 {
  74         __be32 *p;
  75
  76         p = xdr_inline_decode(xdr, nbytes);
  77         if (unlikely(p == NULL))
  78                 printk(KERN_WARNING "NFS: NFSv4 callback reply buffer overflowed!\n");
  79         return p;
  80 }
  81
  82 static __be32 decode_string(struct xdr_stream *xdr, unsigned int *len,
  83                 const char **str, size_t maxlen)
  84 {
  85         ssize_t err;
  86
  87         err = xdr_stream_decode_opaque_inline(xdr, (void **)str, maxlen);
  88         if (err < 0)
  89                 return cpu_to_be32(NFS4ERR_RESOURCE);
  90         *len = err;
  91         return 0;
  92 }
  93
  94 static __be32 decode_fh(struct xdr_stream *xdr, struct nfs_fh *fh)
  95 {
  96         __be32 *p;
  97
  98         p = read_buf(xdr, 4);
  99         if (unlikely(p == NULL))
 100                 return htonl(NFS4ERR_RESOURCE);
 101         fh->size = ntohl(*p);
 102         if (fh->size > NFS4_FHSIZE)
 103                 return htonl(NFS4ERR_BADHANDLE);
 104         p = read_buf(xdr, fh->size);
 105         if (unlikely(p == NULL))
 106                 return htonl(NFS4ERR_RESOURCE);
 107         memcpy(&fh->data[0], p, fh->size);
 108         memset(&fh->data[fh->size], 0, sizeof(fh->data) - fh->size);
 109         return 0;
 110 }
 111
 112 static __be32 decode_bitmap(struct xdr_stream *xdr, uint32_t *bitmap)
 113 {
 114         __be32 *p;
 115         unsigned int attrlen;
 116
 117         p = read_buf(xdr, 4);
 118         if (unlikely(p == NULL))
 119                 return htonl(NFS4ERR_RESOURCE);
 120         attrlen = ntohl(*p);
 121         p = read_buf(xdr, attrlen << 2);
 122         if (unlikely(p == NULL))
 123                 return htonl(NFS4ERR_RESOURCE);
 124         if (likely(attrlen > 0))
 125                 bitmap[0] = ntohl(*p++);
 126         if (attrlen > 1)
 127                 bitmap[1] = ntohl(*p);
 128         return 0;
 129 }
 130
 131 static __be32 decode_stateid(struct xdr_stream *xdr, nfs4_stateid *stateid)
 132 {
 133         __be32 *p;
 134
 135         p = read_buf(xdr, NFS4_STATEID_SIZE);
 136         if (unlikely(p == NULL))
 137                 return htonl(NFS4ERR_RESOURCE);
 138         memcpy(stateid->data, p, NFS4_STATEID_SIZE);
 139         return 0;
 140 }
 141
 142 static __be32 decode_delegation_stateid(struct xdr_stream *xdr, nfs4_stateid *stateid)
 143 {
 144         stateid->type = NFS4_DELEGATION_STATEID_TYPE;
 145         return decode_stateid(xdr, stateid);
 146 }
 147
 148 static __be32 decode_compound_hdr_arg(struct xdr_stream *xdr, struct cb_compound_hdr_arg *hdr)
 149 {
 150         __be32 *p;
 151         __be32 status;
 152
 153         status = decode_string(xdr, &hdr->taglen, &hdr->tag, CB_OP_TAGLEN_MAXSZ);
 154         if (unlikely(status != 0))
 155                 return status;
 156         p = read_buf(xdr, 12);
 157         if (unlikely(p == NULL))
 158                 return htonl(NFS4ERR_RESOURCE);
 159         hdr->minorversion = ntohl(*p++);
 160         /* Check for minor version support */
 161         if (hdr->minorversion <= NFS4_MAX_MINOR_VERSION) {
 162                 hdr->cb_ident = ntohl(*p++); /* ignored by v4.1 and v4.2 */
 163         } else {
 164                 pr_warn_ratelimited("NFS: %s: NFSv4 server callback with "
 165                         "illegal minor version %u!\n",
 166                         __func__, hdr->minorversion);
 167                 return htonl(NFS4ERR_MINOR_VERS_MISMATCH);
 168         }
 169         hdr->nops = ntohl(*p);
 170         return 0;
 171 }
 172
 173 static __be32 decode_op_hdr(struct xdr_stream *xdr, unsigned int *op)
 174 {
 175         __be32 *p;
 176         p = read_buf(xdr, 4);
 177         if (unlikely(p == NULL))
 178                 return htonl(NFS4ERR_RESOURCE_HDR);
 179         *op = ntohl(*p);
 180         return 0;
 181 }
 182
 183 static __be32 decode_getattr_args(struct svc_rqst *rqstp,
 184                 struct xdr_stream *xdr, void *argp)
 185 {
 186         struct cb_getattrargs *args = argp;
 187         __be32 status;
 188
 189         status = decode_fh(xdr, &args->fh);
 190         if (unlikely(status != 0))
 191                 return status;
 192         return decode_bitmap(xdr, args->bitmap);
 193 }
 194
 195 static __be32 decode_recall_args(struct svc_rqst *rqstp,
 196                 struct xdr_stream *xdr, void *argp)
 197 {
 198         struct cb_recallargs *args = argp;
 199         __be32 *p;
 200         __be32 status;
 201
 202         status = decode_delegation_stateid(xdr, &args->stateid);
 203         if (unlikely(status != 0))
 204                 return status;
 205         p = read_buf(xdr, 4);
 206         if (unlikely(p == NULL))
 207                 return htonl(NFS4ERR_RESOURCE);
 208         args->truncate = ntohl(*p);
 209         return decode_fh(xdr, &args->fh);
 210 }
 211
 212 #if defined(CONFIG_NFS_V4_1)
 213 static __be32 decode_layout_stateid(struct xdr_stream *xdr, nfs4_stateid *stateid)
 214 {
 215         stateid->type = NFS4_LAYOUT_STATEID_TYPE;
 216         return decode_stateid(xdr, stateid);
 217 }
 218
 219 static __be32 decode_layoutrecall_args(struct svc_rqst *rqstp,
 220                                        struct xdr_stream *xdr, void *argp)
 221 {
 222         struct cb_layoutrecallargs *args = argp;
 223         __be32 *p;
 224         __be32 status = 0;
 225         uint32_t iomode;
 226
 227         p = read_buf(xdr, 4 * sizeof(uint32_t));
 228         if (unlikely(p == NULL))
 229                 return htonl(NFS4ERR_BADXDR);
 230
 231         args->cbl_layout_type = ntohl(*p++);
 232         /* Depite the spec's xdr, iomode really belongs in the FILE switch,
 233          * as it is unusable and ignored with the other types.
 234          */
 235         iomode = ntohl(*p++);
 236         args->cbl_layoutchanged = ntohl(*p++);
 237         args->cbl_recall_type = ntohl(*p++);
 238
 239         if (args->cbl_recall_type == RETURN_FILE) {
 240                 args->cbl_range.iomode = iomode;
 241                 status = decode_fh(xdr, &args->cbl_fh);
 242                 if (unlikely(status != 0))
 243                         return status;
 244
 245                 p = read_buf(xdr, 2 * sizeof(uint64_t));
 246                 if (unlikely(p == NULL))
 247                         return htonl(NFS4ERR_BADXDR);
 248                 p = xdr_decode_hyper(p, &args->cbl_range.offset);
 249                 p = xdr_decode_hyper(p, &args->cbl_range.length);
 250                 return decode_layout_stateid(xdr, &args->cbl_stateid);
 251         } else if (args->cbl_recall_type == RETURN_FSID) {
 252                 p = read_buf(xdr, 2 * sizeof(uint64_t));
 253                 if (unlikely(p == NULL))
 254                         return htonl(NFS4ERR_BADXDR);
 255                 p = xdr_decode_hyper(p, &args->cbl_fsid.major);
 256                 p = xdr_decode_hyper(p, &args->cbl_fsid.minor);
 257         } else if (args->cbl_recall_type != RETURN_ALL)
 258                 return htonl(NFS4ERR_BADXDR);
 259         return 0;
 260 }
 261
 262 static
 263 __be32 decode_devicenotify_args(struct svc_rqst *rqstp,
 264                                 struct xdr_stream *xdr,
 265                                 void *argp)
 266 {
 267         struct cb_devicenotifyargs *args = argp;
 268         uint32_t tmp, n, i;
 269         __be32 *p;
 270         __be32 status = 0;
 271
 272         /* Num of device notifications */
 273         p = read_buf(xdr, sizeof(uint32_t));
 274         if (unlikely(p == NULL)) {
 275                 status = htonl(NFS4ERR_BADXDR);
 276                 goto out;
 277         }
 278         n = ntohl(*p++);
 279         if (n == 0)
 280                 goto out;
 281
 282         args->devs = kmalloc_array(n, sizeof(*args->devs), GFP_KERNEL);
 283         if (!args->devs) {
 284                 status = htonl(NFS4ERR_DELAY);
 285                 goto out;
 286         }
 287
 288         /* Decode each dev notification */
 289         for (i = 0; i < n; i++) {
 290                 struct cb_devicenotifyitem *dev = &args->devs[i];
 291
 292                 p = read_buf(xdr, (4 * sizeof(uint32_t)) + NFS4_DEVICEID4_SIZE);
 293                 if (unlikely(p == NULL)) {
 294                         status = htonl(NFS4ERR_BADXDR);
 295                         goto err;
 296                 }
 297
 298                 tmp = ntohl(*p++);      /* bitmap size */
 299                 if (tmp != 1) {
 300                         status = htonl(NFS4ERR_INVAL);
 301                         goto err;
 302                 }
 303                 dev->cbd_notify_type = ntohl(*p++);
 304                 if (dev->cbd_notify_type != NOTIFY_DEVICEID4_CHANGE &&
 305                     dev->cbd_notify_type != NOTIFY_DEVICEID4_DELETE) {
 306                         status = htonl(NFS4ERR_INVAL);
 307                         goto err;
 308                 }
 309
 310                 tmp = ntohl(*p++);      /* opaque size */
 311                 if (((dev->cbd_notify_type == NOTIFY_DEVICEID4_CHANGE) &&
 312                      (tmp != NFS4_DEVICEID4_SIZE + 8)) ||
 313                     ((dev->cbd_notify_type == NOTIFY_DEVICEID4_DELETE) &&
 314                      (tmp != NFS4_DEVICEID4_SIZE + 4))) {
 315                         status = htonl(NFS4ERR_INVAL);
 316                         goto err;
 317                 }
 318                 dev->cbd_layout_type = ntohl(*p++);
 319                 memcpy(dev->cbd_dev_id.data, p, NFS4_DEVICEID4_SIZE);
 320                 p += XDR_QUADLEN(NFS4_DEVICEID4_SIZE);
 321
 322                 if (dev->cbd_layout_type == NOTIFY_DEVICEID4_CHANGE) {
 323                         p = read_buf(xdr, sizeof(uint32_t));
 324                         if (unlikely(p == NULL)) {
 325                                 status = htonl(NFS4ERR_BADXDR);
 326                                 goto err;
 327                         }
 328                         dev->cbd_immediate = ntohl(*p++);
 329                 } else {
 330                         dev->cbd_immediate = 0;
 331                 }
 332
 333                 dprintk("%s: type %d layout 0x%x immediate %d\n",
 334                         __func__, dev->cbd_notify_type, dev->cbd_layout_type,
 335                         dev->cbd_immediate);
 336         }
 337         args->ndevs = n;
 338         dprintk("%s: ndevs %d\n", __func__, args->ndevs);
 339         return 0;
 340 err:
 341         kfree(args->devs);
 342 out:
 343         args->devs = NULL;
 344         args->ndevs = 0;
 345         dprintk("%s: status %d ndevs %d\n",
 346                 __func__, ntohl(status), args->ndevs);
 347         return status;
 348 }
 349
 350 static __be32 decode_sessionid(struct xdr_stream *xdr,
 351                                  struct nfs4_sessionid *sid)
 352 {
 353         __be32 *p;
 354
 355         p = read_buf(xdr, NFS4_MAX_SESSIONID_LEN);
 356         if (unlikely(p == NULL))
 357                 return htonl(NFS4ERR_RESOURCE);
 358
 359         memcpy(sid->data, p, NFS4_MAX_SESSIONID_LEN);
 360         return 0;
 361 }
 362
 363 static __be32 decode_rc_list(struct xdr_stream *xdr,
 364                                struct referring_call_list *rc_list)
 365 {
 366         __be32 *p;
 367         int i;
 368         __be32 status;
 369
 370         status = decode_sessionid(xdr, &rc_list->rcl_sessionid);
 371         if (status)
 372                 goto out;
 373
 374         status = htonl(NFS4ERR_RESOURCE);
 375         p = read_buf(xdr, sizeof(uint32_t));
 376         if (unlikely(p == NULL))
 377                 goto out;
 378
 379         rc_list->rcl_nrefcalls = ntohl(*p++);
 380         if (rc_list->rcl_nrefcalls) {
 381                 p = read_buf(xdr,
 382                              rc_list->rcl_nrefcalls * 2 * sizeof(uint32_t));
 383                 if (unlikely(p == NULL))
 384                         goto out;
 385                 rc_list->rcl_refcalls = kmalloc_array(rc_list->rcl_nrefcalls,
 386                                                 sizeof(*rc_list->rcl_refcalls),
 387                                                 GFP_KERNEL);
 388                 if (unlikely(rc_list->rcl_refcalls == NULL))
 389                         goto out;
 390                 for (i = 0; i < rc_list->rcl_nrefcalls; i++) {
 391                         rc_list->rcl_refcalls[i].rc_sequenceid = ntohl(*p++);
 392                         rc_list->rcl_refcalls[i].rc_slotid = ntohl(*p++);
 393                 }
 394         }
 395         status = 0;
 396
 397 out:
 398         return status;
 399 }
 400
 401 static __be32 decode_cb_sequence_args(struct svc_rqst *rqstp,
 402                                         struct xdr_stream *xdr,
 403                                         void *argp)
 404 {
 405         struct cb_sequenceargs *args = argp;
 406         __be32 *p;
 407         int i;
 408         __be32 status;
 409
 410         status = decode_sessionid(xdr, &args->csa_sessionid);
 411         if (status)
 412                 return status;
 413
 414         p = read_buf(xdr, 5 * sizeof(uint32_t));
 415         if (unlikely(p == NULL))
 416                 return htonl(NFS4ERR_RESOURCE);
 417
 418         args->csa_addr = svc_addr(rqstp);
 419         args->csa_sequenceid = ntohl(*p++);
 420         args->csa_slotid = ntohl(*p++);
 421         args->csa_highestslotid = ntohl(*p++);
 422         args->csa_cachethis = ntohl(*p++);
 423         args->csa_nrclists = ntohl(*p++);
 424         args->csa_rclists = NULL;
 425         if (args->csa_nrclists) {
 426                 args->csa_rclists = kmalloc_array(args->csa_nrclists,
 427                                                   sizeof(*args->csa_rclists),
 428                                                   GFP_KERNEL);
 429                 if (unlikely(args->csa_rclists == NULL))
 430                         return htonl(NFS4ERR_RESOURCE);
 431
 432                 for (i = 0; i < args->csa_nrclists; i++) {
 433                         status = decode_rc_list(xdr, &args->csa_rclists[i]);
 434                         if (status) {
 435                                 args->csa_nrclists = i;
 436                                 goto out_free;
 437                         }
 438                 }
 439         }
 440         return 0;
 441
 442 out_free:
 443         for (i = 0; i < args->csa_nrclists; i++)
 444                 kfree(args->csa_rclists[i].rcl_refcalls);
 445         kfree(args->csa_rclists);
 446         return status;
 447 }
 448
 449 static __be32 decode_recallany_args(struct svc_rqst *rqstp,
 450                                       struct xdr_stream *xdr,
 451                                       void *argp)
 452 {
 453         struct cb_recallanyargs *args = argp;
 454         uint32_t bitmap[2];
 455         __be32 *p, status;
 456
 457         p = read_buf(xdr, 4);
 458         if (unlikely(p == NULL))
 459                 return htonl(NFS4ERR_BADXDR);
 460         args->craa_objs_to_keep = ntohl(*p++);
 461         status = decode_bitmap(xdr, bitmap);
 462         if (unlikely(status))
 463                 return status;
 464         args->craa_type_mask = bitmap[0];
 465
 466         return 0;
 467 }
 468
 469 static __be32 decode_recallslot_args(struct svc_rqst *rqstp,
 470                                         struct xdr_stream *xdr,
 471                                         void *argp)
 472 {
 473         struct cb_recallslotargs *args = argp;
 474         __be32 *p;
 475
 476         p = read_buf(xdr, 4);
 477         if (unlikely(p == NULL))
 478                 return htonl(NFS4ERR_BADXDR);
 479         args->crsa_target_highest_slotid = ntohl(*p++);
 480         return 0;
 481 }
 482
 483 static __be32 decode_lockowner(struct xdr_stream *xdr, struct cb_notify_lock_args *args)
 484 {
 485         __be32          *p;
 486         unsigned int    len;
 487
 488         p = read_buf(xdr, 12);
 489         if (unlikely(p == NULL))
 490                 return htonl(NFS4ERR_BADXDR);
 491
 492         p = xdr_decode_hyper(p, &args->cbnl_owner.clientid);
 493         len = be32_to_cpu(*p);
 494
 495         p = read_buf(xdr, len);
 496         if (unlikely(p == NULL))
 497                 return htonl(NFS4ERR_BADXDR);
 498
 499         /* Only try to decode if the length is right */
 500         if (len == 20) {
 501                 p += 2; /* skip "lock id:" */
 502                 args->cbnl_owner.s_dev = be32_to_cpu(*p++);
 503                 xdr_decode_hyper(p, &args->cbnl_owner.id);
 504                 args->cbnl_valid = true;
 505         } else {
 506                 args->cbnl_owner.s_dev = 0;
 507                 args->cbnl_owner.id = 0;
 508                 args->cbnl_valid = false;
 509         }
 510         return 0;
 511 }
 512
 513 static __be32 decode_notify_lock_args(struct svc_rqst *rqstp,
 514                 struct xdr_stream *xdr, void *argp)
 515 {
 516         struct cb_notify_lock_args *args = argp;
 517         __be32 status;
 518
 519         status = decode_fh(xdr, &args->cbnl_fh);
 520         if (unlikely(status != 0))
 521                 return status;
 522         return decode_lockowner(xdr, args);
 523 }
 524
 525 #endif /* CONFIG_NFS_V4_1 */
 526
 527 static __be32 encode_string(struct xdr_stream *xdr, unsigned int len, const char *str)
 528 {
 529         if (unlikely(xdr_stream_encode_opaque(xdr, str, len) < 0))
 530                 return cpu_to_be32(NFS4ERR_RESOURCE);
 531         return 0;
 532 }
 533
 534 #define CB_SUPPORTED_ATTR0 (FATTR4_WORD0_CHANGE|FATTR4_WORD0_SIZE)
 535 #define CB_SUPPORTED_ATTR1 (FATTR4_WORD1_TIME_METADATA|FATTR4_WORD1_TIME_MODIFY)
 536 static __be32 encode_attr_bitmap(struct xdr_stream *xdr, const uint32_t *bitmap, __be32 **savep)
 537 {
 538         __be32 bm[2];
 539         __be32 *p;
 540
 541         bm[0] = htonl(bitmap[0] & CB_SUPPORTED_ATTR0);
 542         bm[1] = htonl(bitmap[1] & CB_SUPPORTED_ATTR1);
 543         if (bm[1] != 0) {
 544                 p = xdr_reserve_space(xdr, 16);
 545                 if (unlikely(p == NULL))
 546                         return htonl(NFS4ERR_RESOURCE);
 547                 *p++ = htonl(2);
 548                 *p++ = bm[0];
 549                 *p++ = bm[1];
 550         } else if (bm[0] != 0) {
 551                 p = xdr_reserve_space(xdr, 12);
 552                 if (unlikely(p == NULL))
 553                         return htonl(NFS4ERR_RESOURCE);
 554                 *p++ = htonl(1);
 555                 *p++ = bm[0];
 556         } else {
 557                 p = xdr_reserve_space(xdr, 8);
 558                 if (unlikely(p == NULL))
 559                         return htonl(NFS4ERR_RESOURCE);
 560                 *p++ = htonl(0);
 561         }
 562         *savep = p;
 563         return 0;
 564 }
 565
 566 static __be32 encode_attr_change(struct xdr_stream *xdr, const uint32_t *bitmap, uint64_t change)
 567 {
 568         __be32 *p;
 569
 570         if (!(bitmap[0] & FATTR4_WORD0_CHANGE))
 571                 return 0;
 572         p = xdr_reserve_space(xdr, 8);
 573         if (unlikely(!p))
 574                 return htonl(NFS4ERR_RESOURCE);
 575         p = xdr_encode_hyper(p, change);
 576         return 0;
 577 }
 578
 579 static __be32 encode_attr_size(struct xdr_stream *xdr, const uint32_t *bitmap, uint64_t size)
 580 {
 581         __be32 *p;
 582
 583         if (!(bitmap[0] & FATTR4_WORD0_SIZE))
 584                 return 0;
 585         p = xdr_reserve_space(xdr, 8);
 586         if (unlikely(!p))
 587                 return htonl(NFS4ERR_RESOURCE);
 588         p = xdr_encode_hyper(p, size);
 589         return 0;
 590 }
 591
 592 static __be32 encode_attr_time(struct xdr_stream *xdr, const struct timespec *time)
 593 {
 594         __be32 *p;
 595
 596         p = xdr_reserve_space(xdr, 12);
 597         if (unlikely(!p))
 598                 return htonl(NFS4ERR_RESOURCE);
 599         p = xdr_encode_hyper(p, time->tv_sec);
 600         *p = htonl(time->tv_nsec);
 601         return 0;
 602 }
 603
 604 static __be32 encode_attr_ctime(struct xdr_stream *xdr, const uint32_t *bitmap, const struct timespec *time)
 605 {
 606         if (!(bitmap[1] & FATTR4_WORD1_TIME_METADATA))
 607                 return 0;
 608         return encode_attr_time(xdr,time);
 609 }
 610
 611 static __be32 encode_attr_mtime(struct xdr_stream *xdr, const uint32_t *bitmap, const struct timespec *time)
 612 {
 613         if (!(bitmap[1] & FATTR4_WORD1_TIME_MODIFY))
 614                 return 0;
 615         return encode_attr_time(xdr,time);
 616 }
 617
 618 static __be32 encode_compound_hdr_res(struct xdr_stream *xdr, struct cb_compound_hdr_res *hdr)
 619 {
 620         __be32 status;
 621
 622         hdr->status = xdr_reserve_space(xdr, 4);
 623         if (unlikely(hdr->status == NULL))
 624                 return htonl(NFS4ERR_RESOURCE);
 625         status = encode_string(xdr, hdr->taglen, hdr->tag);
 626         if (unlikely(status != 0))
 627                 return status;
 628         hdr->nops = xdr_reserve_space(xdr, 4);
 629         if (unlikely(hdr->nops == NULL))
 630                 return htonl(NFS4ERR_RESOURCE);
 631         return 0;
 632 }
 633
 634 static __be32 encode_op_hdr(struct xdr_stream *xdr, uint32_t op, __be32 res)
 635 {
 636         __be32 *p;
 637
 638         p = xdr_reserve_space(xdr, 8);
 639         if (unlikely(p == NULL))
 640                 return htonl(NFS4ERR_RESOURCE_HDR);
 641         *p++ = htonl(op);
 642         *p = res;
 643         return 0;
 644 }
 645
 646 static __be32 encode_getattr_res(struct svc_rqst *rqstp, struct xdr_stream *xdr,
 647                 const void *resp)
 648 {
 649         const struct cb_getattrres *res = resp;
 650         __be32 *savep = NULL;
 651         __be32 status = res->status;
 652
 653         if (unlikely(status != 0))
 654                 goto out;
 655         status = encode_attr_bitmap(xdr, res->bitmap, &savep);
 656         if (unlikely(status != 0))
 657                 goto out;
 658         status = encode_attr_change(xdr, res->bitmap, res->change_attr);
 659         if (unlikely(status != 0))
 660                 goto out;
 661         status = encode_attr_size(xdr, res->bitmap, res->size);
 662         if (unlikely(status != 0))
 663                 goto out;
 664         status = encode_attr_ctime(xdr, res->bitmap, &res->ctime);
 665         if (unlikely(status != 0))
 666                 goto out;
 667         status = encode_attr_mtime(xdr, res->bitmap, &res->mtime);
 668         *savep = htonl((unsigned int)((char *)xdr->p - (char *)(savep+1)));
 669 out:
 670         return status;
 671 }
 672
 673 #if defined(CONFIG_NFS_V4_1)
 674
 675 static __be32 encode_sessionid(struct xdr_stream *xdr,
 676                                  const struct nfs4_sessionid *sid)
 677 {
 678         __be32 *p;
 679
 680         p = xdr_reserve_space(xdr, NFS4_MAX_SESSIONID_LEN);
 681         if (unlikely(p == NULL))
 682                 return htonl(NFS4ERR_RESOURCE);
 683
 684         memcpy(p, sid, NFS4_MAX_SESSIONID_LEN);
 685         return 0;
 686 }
 687
 688 static __be32 encode_cb_sequence_res(struct svc_rqst *rqstp,
 689                                        struct xdr_stream *xdr,
 690                                        const void *resp)
 691 {
 692         const struct cb_sequenceres *res = resp;
 693         __be32 *p;
 694         __be32 status = res->csr_status;
 695
 696         if (unlikely(status != 0))
 697                 return status;
 698
 699         status = encode_sessionid(xdr, &res->csr_sessionid);
 700         if (status)
 701                 return status;
 702
 703         p = xdr_reserve_space(xdr, 4 * sizeof(uint32_t));
 704         if (unlikely(p == NULL))
 705                 return htonl(NFS4ERR_RESOURCE);
 706
 707         *p++ = htonl(res->csr_sequenceid);
 708         *p++ = htonl(res->csr_slotid);
 709         *p++ = htonl(res->csr_highestslotid);
 710         *p++ = htonl(res->csr_target_highestslotid);
 711         return 0;
 712 }
 713
 714 static __be32
 715 preprocess_nfs41_op(int nop, unsigned int op_nr, struct callback_op **op)
 716 {
 717         if (op_nr == OP_CB_SEQUENCE) {
 718                 if (nop != 0)
 719                         return htonl(NFS4ERR_SEQUENCE_POS);
 720         } else {
 721                 if (nop == 0)
 722                         return htonl(NFS4ERR_OP_NOT_IN_SESSION);
 723         }
 724
 725         switch (op_nr) {
 726         case OP_CB_GETATTR:
 727         case OP_CB_RECALL:
 728         case OP_CB_SEQUENCE:
 729         case OP_CB_RECALL_ANY:
 730         case OP_CB_RECALL_SLOT:
 731         case OP_CB_LAYOUTRECALL:
 732         case OP_CB_NOTIFY_DEVICEID:
 733         case OP_CB_NOTIFY_LOCK:
 734                 *op = &callback_ops[op_nr];
 735                 break;
 736
 737         case OP_CB_NOTIFY:
 738         case OP_CB_PUSH_DELEG:
 739         case OP_CB_RECALLABLE_OBJ_AVAIL:
 740         case OP_CB_WANTS_CANCELLED:
 741                 return htonl(NFS4ERR_NOTSUPP);
 742
 743         default:
 744                 return htonl(NFS4ERR_OP_ILLEGAL);
 745         }
 746
 747         return htonl(NFS_OK);
 748 }
 749
 750 static void nfs4_callback_free_slot(struct nfs4_session *session,
 751                 struct nfs4_slot *slot)
 752 {
 753         struct nfs4_slot_table *tbl = &session->bc_slot_table;
 754
 755         spin_lock(&tbl->slot_tbl_lock);
 756         /*
 757          * Let the state manager know callback processing done.
 758          * A single slot, so highest used slotid is either 0 or -1
 759          */
 760         nfs4_free_slot(tbl, slot);
 761         spin_unlock(&tbl->slot_tbl_lock);
 762 }
 763
 764 static void nfs4_cb_free_slot(struct cb_process_state *cps)
 765 {
 766         if (cps->slot) {
 767                 nfs4_callback_free_slot(cps->clp->cl_session, cps->slot);
 768                 cps->slot = NULL;
 769         }
 770 }
 771
 772 #else /* CONFIG_NFS_V4_1 */
 773
 774 static __be32
 775 preprocess_nfs41_op(int nop, unsigned int op_nr, struct callback_op **op)
 776 {
 777         return htonl(NFS4ERR_MINOR_VERS_MISMATCH);
 778 }
 779
 780 static void nfs4_cb_free_slot(struct cb_process_state *cps)
 781 {
 782 }
 783 #endif /* CONFIG_NFS_V4_1 */
 784
 785 #ifdef CONFIG_NFS_V4_2
 786 static __be32
 787 preprocess_nfs42_op(int nop, unsigned int op_nr, struct callback_op **op)
 788 {
 789         __be32 status = preprocess_nfs41_op(nop, op_nr, op);
 790         if (status != htonl(NFS4ERR_OP_ILLEGAL))
 791                 return status;
 792
 793         if (op_nr == OP_CB_OFFLOAD)
 794                 return htonl(NFS4ERR_NOTSUPP);
 795         return htonl(NFS4ERR_OP_ILLEGAL);
 796 }
 797 #else /* CONFIG_NFS_V4_2 */
 798 static __be32
 799 preprocess_nfs42_op(int nop, unsigned int op_nr, struct callback_op **op)
 800 {
 801         return htonl(NFS4ERR_MINOR_VERS_MISMATCH);
 802 }
 803 #endif /* CONFIG_NFS_V4_2 */
 804
 805 static __be32
 806 preprocess_nfs4_op(unsigned int op_nr, struct callback_op **op)
 807 {
 808         switch (op_nr) {
 809         case OP_CB_GETATTR:
 810         case OP_CB_RECALL:
 811                 *op = &callback_ops[op_nr];
 812                 break;
 813         default:
 814                 return htonl(NFS4ERR_OP_ILLEGAL);
 815         }
 816
 817         return htonl(NFS_OK);
 818 }
 819
 820 static __be32 process_op(int nop, struct svc_rqst *rqstp,
 821                 struct xdr_stream *xdr_in, void *argp,
 822                 struct xdr_stream *xdr_out, void *resp,
 823                 struct cb_process_state *cps)
 824 {
 825         struct callback_op *op = &callback_ops[0];
 826         unsigned int op_nr;
 827         __be32 status;
 828         long maxlen;
 829         __be32 res;
 830
 831         status = decode_op_hdr(xdr_in, &op_nr);
 832         if (unlikely(status))
 833                 return status;
 834
 835         switch (cps->minorversion) {
 836         case 0:
 837                 status = preprocess_nfs4_op(op_nr, &op);
 838                 break;
 839         case 1:
 840                 status = preprocess_nfs41_op(nop, op_nr, &op);
 841                 break;
 842         case 2:
 843                 status = preprocess_nfs42_op(nop, op_nr, &op);
 844                 break;
 845         default:
 846                 status = htonl(NFS4ERR_MINOR_VERS_MISMATCH);
 847         }
 848
 849         if (status == htonl(NFS4ERR_OP_ILLEGAL))
 850                 op_nr = OP_CB_ILLEGAL;
 851         if (status)
 852                 goto encode_hdr;
 853
 854         if (cps->drc_status) {
 855                 status = cps->drc_status;
 856                 goto encode_hdr;
 857         }
 858
 859         maxlen = xdr_out->end - xdr_out->p;
 860         if (maxlen > 0 && maxlen < PAGE_SIZE) {
 861                 status = op->decode_args(rqstp, xdr_in, argp);
 862                 if (likely(status == 0))
 863                         status = op->process_op(argp, resp, cps);
 864         } else
 865                 status = htonl(NFS4ERR_RESOURCE);
 866
 867 encode_hdr:
 868         res = encode_op_hdr(xdr_out, op_nr, status);
 869         if (unlikely(res))
 870                 return res;
 871         if (op->encode_res != NULL && status == 0)
 872                 status = op->encode_res(rqstp, xdr_out, resp);
 873         return status;
 874 }
 875
 876 /*
 877  * Decode, process and encode a COMPOUND
 878  */
 879 static __be32 nfs4_callback_compound(struct svc_rqst *rqstp)
 880 {
 881         struct cb_compound_hdr_arg hdr_arg = { 0 };
 882         struct cb_compound_hdr_res hdr_res = { NULL };
 883         struct xdr_stream xdr_in, xdr_out;
 884         __be32 *p, status;
 885         struct cb_process_state cps = {
 886                 .drc_status = 0,
 887                 .clp = NULL,
 888                 .net = SVC_NET(rqstp),
 889         };
 890         unsigned int nops = 0;
 891
 892         xdr_init_decode(&xdr_in, &rqstp->rq_arg, rqstp->rq_arg.head[0].iov_base);
 893
 894         p = (__be32*)((char *)rqstp->rq_res.head[0].iov_base + rqstp->rq_res.head[0].iov_len);
 895         xdr_init_encode(&xdr_out, &rqstp->rq_res, p);
 896
 897         status = decode_compound_hdr_arg(&xdr_in, &hdr_arg);
 898         if (status == htonl(NFS4ERR_RESOURCE))
 899                 return rpc_garbage_args;
 900
 901         if (hdr_arg.minorversion == 0) {
 902                 cps.clp = nfs4_find_client_ident(SVC_NET(rqstp), hdr_arg.cb_ident);
 903                 if (!cps.clp || !check_gss_callback_principal(cps.clp, rqstp)) {
 904                         if (cps.clp)
 905                                 nfs_put_client(cps.clp);
 906                         goto out_invalidcred;
 907                 }
 908         }
 909
 910         cps.minorversion = hdr_arg.minorversion;
 911         hdr_res.taglen = hdr_arg.taglen;
 912         hdr_res.tag = hdr_arg.tag;
 913         if (encode_compound_hdr_res(&xdr_out, &hdr_res) != 0) {
 914                 if (cps.clp)
 915                         nfs_put_client(cps.clp);
 916                 return rpc_system_err;
 917         }
 918         while (status == 0 && nops != hdr_arg.nops) {
 919                 status = process_op(nops, rqstp, &xdr_in,
 920                                     rqstp->rq_argp, &xdr_out, rqstp->rq_resp,
 921                                     &cps);
 922                 nops++;
 923         }
 924
 925         /* Buffer overflow in decode_ops_hdr or encode_ops_hdr. Return
 926         * resource error in cb_compound status without returning op */
 927         if (unlikely(status == htonl(NFS4ERR_RESOURCE_HDR))) {
 928                 status = htonl(NFS4ERR_RESOURCE);
 929                 nops--;
 930         }
 931
 932         *hdr_res.status = status;
 933         *hdr_res.nops = htonl(nops);
 934         nfs4_cb_free_slot(&cps);
 935         nfs_put_client(cps.clp);
 936         return rpc_success;
 937
 938 out_invalidcred:
 939         pr_warn_ratelimited("NFS: NFSv4 callback contains invalid cred\n");
 940         return rpc_autherr_badcred;
 941 }
 942
 943 /*
 944  * Define NFS4 callback COMPOUND ops.
 945  */
 946 static struct callback_op callback_ops[] = {
 947         [0] = {
 948                 .res_maxsize = CB_OP_HDR_RES_MAXSZ,
 949         },
 950         [OP_CB_GETATTR] = {
 951                 .process_op = nfs4_callback_getattr,
 952                 .decode_args = decode_getattr_args,
 953                 .encode_res = encode_getattr_res,
 954                 .res_maxsize = CB_OP_GETATTR_RES_MAXSZ,
 955         },
 956         [OP_CB_RECALL] = {
 957                 .process_op = nfs4_callback_recall,
 958                 .decode_args = decode_recall_args,
 959                 .res_maxsize = CB_OP_RECALL_RES_MAXSZ,
 960         },
 961 #if defined(CONFIG_NFS_V4_1)
 962         [OP_CB_LAYOUTRECALL] = {
 963                 .process_op = nfs4_callback_layoutrecall,
 964                 .decode_args = decode_layoutrecall_args,
 965                 .res_maxsize = CB_OP_LAYOUTRECALL_RES_MAXSZ,
 966         },
 967         [OP_CB_NOTIFY_DEVICEID] = {
 968                 .process_op = nfs4_callback_devicenotify,
 969                 .decode_args = decode_devicenotify_args,
 970                 .res_maxsize = CB_OP_DEVICENOTIFY_RES_MAXSZ,
 971         },
 972         [OP_CB_SEQUENCE] = {
 973                 .process_op = nfs4_callback_sequence,
 974                 .decode_args = decode_cb_sequence_args,
 975                 .encode_res = encode_cb_sequence_res,
 976                 .res_maxsize = CB_OP_SEQUENCE_RES_MAXSZ,
 977         },
 978         [OP_CB_RECALL_ANY] = {
 979                 .process_op = nfs4_callback_recallany,
 980                 .decode_args = decode_recallany_args,
 981                 .res_maxsize = CB_OP_RECALLANY_RES_MAXSZ,
 982         },
 983         [OP_CB_RECALL_SLOT] = {
 984                 .process_op = nfs4_callback_recallslot,
 985                 .decode_args = decode_recallslot_args,
 986                 .res_maxsize = CB_OP_RECALLSLOT_RES_MAXSZ,
 987         },
 988         [OP_CB_NOTIFY_LOCK] = {
 989                 .process_op = nfs4_callback_notify_lock,
 990                 .decode_args = decode_notify_lock_args,
 991                 .res_maxsize = CB_OP_NOTIFY_LOCK_RES_MAXSZ,
 992         },
 993 #endif /* CONFIG_NFS_V4_1 */
 994 };
 995
 996 /*
 997  * Define NFS4 callback procedures
 998  */
 999 static const struct svc_procedure nfs4_callback_procedures1[] = {
1000         [CB_NULL] = {
1001                 .pc_func = nfs4_callback_null,
1002                 .pc_decode = nfs4_decode_void,
1003                 .pc_encode = nfs4_encode_void,
1004                 .pc_xdrressize = 1,
1005         },
1006         [CB_COMPOUND] = {
1007                 .pc_func = nfs4_callback_compound,
1008                 .pc_encode = nfs4_encode_void,
1009                 .pc_argsize = 256,
1010                 .pc_ressize = 256,
1011                 .pc_xdrressize = NFS4_CALLBACK_BUFSIZE,
1012         }
1013 };
1014
1015 static unsigned int nfs4_callback_count1[ARRAY_SIZE(nfs4_callback_procedures1)];
1016 const struct svc_version nfs4_callback_version1 = {
1017         .vs_vers = 1,
1018         .vs_nproc = ARRAY_SIZE(nfs4_callback_procedures1),
1019         .vs_proc = nfs4_callback_procedures1,
1020         .vs_count = nfs4_callback_count1,
1021         .vs_xdrsize = NFS4_CALLBACK_XDRSIZE,
1022         .vs_dispatch = NULL,
1023         .vs_hidden = true,
1024         .vs_need_cong_ctrl = true,
1025 };
1026
1027 static unsigned int nfs4_callback_count4[ARRAY_SIZE(nfs4_callback_procedures1)];
1028 const struct svc_version nfs4_callback_version4 = {
1029         .vs_vers = 4,
1030         .vs_nproc = ARRAY_SIZE(nfs4_callback_procedures1),
1031         .vs_proc = nfs4_callback_procedures1,
1032         .vs_count = nfs4_callback_count4,
1033         .vs_xdrsize = NFS4_CALLBACK_XDRSIZE,
1034         .vs_dispatch = NULL,
1035         .vs_hidden = true,
1036         .vs_need_cong_ctrl = true,
1037 };