drivers/infiniband/hw/mlx5/mr.c

   1 /*
   2  * Copyright (c) 2013-2015, Mellanox Technologies. All rights reserved.
   3  *
   4  * This software is available to you under a choice of one of two
   5  * licenses.  You may choose to be licensed under the terms of the GNU
   6  * General Public License (GPL) Version 2, available from the file
   7  * COPYING in the main directory of this source tree, or the
   8  * OpenIB.org BSD license below:
   9  *
  10  *     Redistribution and use in source and binary forms, with or
  11  *     without modification, are permitted provided that the following
  12  *     conditions are met:
  13  *
  14  *      - Redistributions of source code must retain the above
  15  *        copyright notice, this list of conditions and the following
  16  *        disclaimer.
  17  *
  18  *      - Redistributions in binary form must reproduce the above
  19  *        copyright notice, this list of conditions and the following
  20  *        disclaimer in the documentation and/or other materials
  21  *        provided with the distribution.
  22  *
  23  * THE SOFTWARE IS PROVIDED "AS IS", WITHOUT WARRANTY OF ANY KIND,
  24  * EXPRESS OR IMPLIED, INCLUDING BUT NOT LIMITED TO THE WARRANTIES OF
  25  * MERCHANTABILITY, FITNESS FOR A PARTICULAR PURPOSE AND
  26  * NONINFRINGEMENT. IN NO EVENT SHALL THE AUTHORS OR COPYRIGHT HOLDERS
  27  * BE LIABLE FOR ANY CLAIM, DAMAGES OR OTHER LIABILITY, WHETHER IN AN
  28  * ACTION OF CONTRACT, TORT OR OTHERWISE, ARISING FROM, OUT OF OR IN
  29  * CONNECTION WITH THE SOFTWARE OR THE USE OR OTHER DEALINGS IN THE
  30  * SOFTWARE.
  31  */
  32
  33
  34 #include <linux/kref.h>
  35 #include <linux/random.h>
  36 #include <linux/debugfs.h>
  37 #include <linux/export.h>
  38 #include <linux/delay.h>
  39 #include <rdma/ib_umem.h>
  40 #include <rdma/ib_umem_odp.h>
  41 #include <rdma/ib_verbs.h>
  42 #include "mlx5_ib.h"
  43
  44 enum {
  45         MAX_PENDING_REG_MR = 8,
  46 };
  47
  48 #define MLX5_UMR_ALIGN 2048
  49 #ifdef CONFIG_INFINIBAND_ON_DEMAND_PAGING
  50 static __be64 mlx5_ib_update_mtt_emergency_buffer[
  51                 MLX5_UMR_MTT_MIN_CHUNK_SIZE/sizeof(__be64)]
  52         __aligned(MLX5_UMR_ALIGN);
  53 static DEFINE_MUTEX(mlx5_ib_update_mtt_emergency_buffer_mutex);
  54 #endif
  55
  56 static int clean_mr(struct mlx5_ib_mr *mr);
  57
  58 static int destroy_mkey(struct mlx5_ib_dev *dev, struct mlx5_ib_mr *mr)
  59 {
  60         int err = mlx5_core_destroy_mkey(dev->mdev, &mr->mmr);
  61
  62 #ifdef CONFIG_INFINIBAND_ON_DEMAND_PAGING
  63         /* Wait until all page fault handlers using the mr complete. */
  64         synchronize_srcu(&dev->mr_srcu);
  65 #endif
  66
  67         return err;
  68 }
  69
  70 static int order2idx(struct mlx5_ib_dev *dev, int order)
  71 {
  72         struct mlx5_mr_cache *cache = &dev->cache;
  73
  74         if (order < cache->ent[0].order)
  75                 return 0;
  76         else
  77                 return order - cache->ent[0].order;
  78 }
  79
  80 static void reg_mr_callback(int status, void *context)
  81 {
  82         struct mlx5_ib_mr *mr = context;
  83         struct mlx5_ib_dev *dev = mr->dev;
  84         struct mlx5_mr_cache *cache = &dev->cache;
  85         int c = order2idx(dev, mr->order);
  86         struct mlx5_cache_ent *ent = &cache->ent[c];
  87         u8 key;
  88         unsigned long flags;
  89         struct mlx5_mr_table *table = &dev->mdev->priv.mr_table;
  90         int err;
  91
  92         spin_lock_irqsave(&ent->lock, flags);
  93         ent->pending--;
  94         spin_unlock_irqrestore(&ent->lock, flags);
  95         if (status) {
  96                 mlx5_ib_warn(dev, "async reg mr failed. status %d\n", status);
  97                 kfree(mr);
  98                 dev->fill_delay = 1;
  99                 mod_timer(&dev->delay_timer, jiffies + HZ);
 100                 return;
 101         }
 102
 103         if (mr->out.hdr.status) {
 104                 mlx5_ib_warn(dev, "failed - status %d, syndorme 0x%x\n",
 105                              mr->out.hdr.status,
 106                              be32_to_cpu(mr->out.hdr.syndrome));
 107                 kfree(mr);
 108                 dev->fill_delay = 1;
 109                 mod_timer(&dev->delay_timer, jiffies + HZ);
 110                 return;
 111         }
 112
 113         spin_lock_irqsave(&dev->mdev->priv.mkey_lock, flags);
 114         key = dev->mdev->priv.mkey_key++;
 115         spin_unlock_irqrestore(&dev->mdev->priv.mkey_lock, flags);
 116         mr->mmr.key = mlx5_idx_to_mkey(be32_to_cpu(mr->out.mkey) & 0xffffff) | key;
 117
 118         cache->last_add = jiffies;
 119
 120         spin_lock_irqsave(&ent->lock, flags);
 121         list_add_tail(&mr->list, &ent->head);
 122         ent->cur++;
 123         ent->size++;
 124         spin_unlock_irqrestore(&ent->lock, flags);
 125
 126         write_lock_irqsave(&table->lock, flags);
 127         err = radix_tree_insert(&table->tree, mlx5_base_mkey(mr->mmr.key),
 128                                 &mr->mmr);
 129         if (err)
 130                 pr_err("Error inserting to mr tree. 0x%x\n", -err);
 131         write_unlock_irqrestore(&table->lock, flags);
 132 }
 133
 134 static int add_keys(struct mlx5_ib_dev *dev, int c, int num)
 135 {
 136         struct mlx5_mr_cache *cache = &dev->cache;
 137         struct mlx5_cache_ent *ent = &cache->ent[c];
 138         struct mlx5_create_mkey_mbox_in *in;
 139         struct mlx5_ib_mr *mr;
 140         int npages = 1 << ent->order;
 141         int err = 0;
 142         int i;
 143
 144         in = kzalloc(sizeof(*in), GFP_KERNEL);
 145         if (!in)
 146                 return -ENOMEM;
 147
 148         for (i = 0; i < num; i++) {
 149                 if (ent->pending >= MAX_PENDING_REG_MR) {
 150                         err = -EAGAIN;
 151                         break;
 152                 }
 153
 154                 mr = kzalloc(sizeof(*mr), GFP_KERNEL);
 155                 if (!mr) {
 156                         err = -ENOMEM;
 157                         break;
 158                 }
 159                 mr->order = ent->order;
 160                 mr->umred = 1;
 161                 mr->dev = dev;
 162                 in->seg.status = MLX5_MKEY_STATUS_FREE;
 163                 in->seg.xlt_oct_size = cpu_to_be32((npages + 1) / 2);
 164                 in->seg.qpn_mkey7_0 = cpu_to_be32(0xffffff << 8);
 165                 in->seg.flags = MLX5_ACCESS_MODE_MTT | MLX5_PERM_UMR_EN;
 166                 in->seg.log2_page_size = 12;
 167
 168                 spin_lock_irq(&ent->lock);
 169                 ent->pending++;
 170                 spin_unlock_irq(&ent->lock);
 171                 err = mlx5_core_create_mkey(dev->mdev, &mr->mmr, in,
 172                                             sizeof(*in), reg_mr_callback,
 173                                             mr, &mr->out);
 174                 if (err) {
 175                         spin_lock_irq(&ent->lock);
 176                         ent->pending--;
 177                         spin_unlock_irq(&ent->lock);
 178                         mlx5_ib_warn(dev, "create mkey failed %d\n", err);
 179                         kfree(mr);
 180                         break;
 181                 }
 182         }
 183
 184         kfree(in);
 185         return err;
 186 }
 187
 188 static void remove_keys(struct mlx5_ib_dev *dev, int c, int num)
 189 {
 190         struct mlx5_mr_cache *cache = &dev->cache;
 191         struct mlx5_cache_ent *ent = &cache->ent[c];
 192         struct mlx5_ib_mr *mr;
 193         int err;
 194         int i;
 195
 196         for (i = 0; i < num; i++) {
 197                 spin_lock_irq(&ent->lock);
 198                 if (list_empty(&ent->head)) {
 199                         spin_unlock_irq(&ent->lock);
 200                         return;
 201                 }
 202                 mr = list_first_entry(&ent->head, struct mlx5_ib_mr, list);
 203                 list_del(&mr->list);
 204                 ent->cur--;
 205                 ent->size--;
 206                 spin_unlock_irq(&ent->lock);
 207                 err = destroy_mkey(dev, mr);
 208                 if (err)
 209                         mlx5_ib_warn(dev, "failed destroy mkey\n");
 210                 else
 211                         kfree(mr);
 212         }
 213 }
 214
 215 static ssize_t size_write(struct file *filp, const char __user *buf,
 216                           size_t count, loff_t *pos)
 217 {
 218         struct mlx5_cache_ent *ent = filp->private_data;
 219         struct mlx5_ib_dev *dev = ent->dev;
 220         char lbuf[20];
 221         u32 var;
 222         int err;
 223         int c;
 224
 225         if (copy_from_user(lbuf, buf, sizeof(lbuf)))
 226                 return -EFAULT;
 227
 228         c = order2idx(dev, ent->order);
 229         lbuf[sizeof(lbuf) - 1] = 0;
 230
 231         if (sscanf(lbuf, "%u", &var) != 1)
 232                 return -EINVAL;
 233
 234         if (var < ent->limit)
 235                 return -EINVAL;
 236
 237         if (var > ent->size) {
 238                 do {
 239                         err = add_keys(dev, c, var - ent->size);
 240                         if (err && err != -EAGAIN)
 241                                 return err;
 242
 243                         usleep_range(3000, 5000);
 244                 } while (err);
 245         } else if (var < ent->size) {
 246                 remove_keys(dev, c, ent->size - var);
 247         }
 248
 249         return count;
 250 }
 251
 252 static ssize_t size_read(struct file *filp, char __user *buf, size_t count,
 253                          loff_t *pos)
 254 {
 255         struct mlx5_cache_ent *ent = filp->private_data;
 256         char lbuf[20];
 257         int err;
 258
 259         if (*pos)
 260                 return 0;
 261
 262         err = snprintf(lbuf, sizeof(lbuf), "%d\n", ent->size);
 263         if (err < 0)
 264                 return err;
 265
 266         if (copy_to_user(buf, lbuf, err))
 267                 return -EFAULT;
 268
 269         *pos += err;
 270
 271         return err;
 272 }
 273
 274 static const struct file_operations size_fops = {
 275         .owner  = THIS_MODULE,
 276         .open   = simple_open,
 277         .write  = size_write,
 278         .read   = size_read,
 279 };
 280
 281 static ssize_t limit_write(struct file *filp, const char __user *buf,
 282                            size_t count, loff_t *pos)
 283 {
 284         struct mlx5_cache_ent *ent = filp->private_data;
 285         struct mlx5_ib_dev *dev = ent->dev;
 286         char lbuf[20];
 287         u32 var;
 288         int err;
 289         int c;
 290
 291         if (copy_from_user(lbuf, buf, sizeof(lbuf)))
 292                 return -EFAULT;
 293
 294         c = order2idx(dev, ent->order);
 295         lbuf[sizeof(lbuf) - 1] = 0;
 296
 297         if (sscanf(lbuf, "%u", &var) != 1)
 298                 return -EINVAL;
 299
 300         if (var > ent->size)
 301                 return -EINVAL;
 302
 303         ent->limit = var;
 304
 305         if (ent->cur < ent->limit) {
 306                 err = add_keys(dev, c, 2 * ent->limit - ent->cur);
 307                 if (err)
 308                         return err;
 309         }
 310
 311         return count;
 312 }
 313
 314 static ssize_t limit_read(struct file *filp, char __user *buf, size_t count,
 315                           loff_t *pos)
 316 {
 317         struct mlx5_cache_ent *ent = filp->private_data;
 318         char lbuf[20];
 319         int err;
 320
 321         if (*pos)
 322                 return 0;
 323
 324         err = snprintf(lbuf, sizeof(lbuf), "%d\n", ent->limit);
 325         if (err < 0)
 326                 return err;
 327
 328         if (copy_to_user(buf, lbuf, err))
 329                 return -EFAULT;
 330
 331         *pos += err;
 332
 333         return err;
 334 }
 335
 336 static const struct file_operations limit_fops = {
 337         .owner  = THIS_MODULE,
 338         .open   = simple_open,
 339         .write  = limit_write,
 340         .read   = limit_read,
 341 };
 342
 343 static int someone_adding(struct mlx5_mr_cache *cache)
 344 {
 345         int i;
 346
 347         for (i = 0; i < MAX_MR_CACHE_ENTRIES; i++) {
 348                 if (cache->ent[i].cur < cache->ent[i].limit)
 349                         return 1;
 350         }
 351
 352         return 0;
 353 }
 354
 355 static void __cache_work_func(struct mlx5_cache_ent *ent)
 356 {
 357         struct mlx5_ib_dev *dev = ent->dev;
 358         struct mlx5_mr_cache *cache = &dev->cache;
 359         int i = order2idx(dev, ent->order);
 360         int err;
 361
 362         if (cache->stopped)
 363                 return;
 364
 365         ent = &dev->cache.ent[i];
 366         if (ent->cur < 2 * ent->limit && !dev->fill_delay) {
 367                 err = add_keys(dev, i, 1);
 368                 if (ent->cur < 2 * ent->limit) {
 369                         if (err == -EAGAIN) {
 370                                 mlx5_ib_dbg(dev, "returned eagain, order %d\n",
 371                                             i + 2);
 372                                 queue_delayed_work(cache->wq, &ent->dwork,
 373                                                    msecs_to_jiffies(3));
 374                         } else if (err) {
 375                                 mlx5_ib_warn(dev, "command failed order %d, err %d\n",
 376                                              i + 2, err);
 377                                 queue_delayed_work(cache->wq, &ent->dwork,
 378                                                    msecs_to_jiffies(1000));
 379                         } else {
 380                                 queue_work(cache->wq, &ent->work);
 381                         }
 382                 }
 383         } else if (ent->cur > 2 * ent->limit) {
 384                 /*
 385                  * The remove_keys() logic is performed as garbage collection
 386                  * task. Such task is intended to be run when no other active
 387                  * processes are running.
 388                  *
 389                  * The need_resched() will return TRUE if there are user tasks
 390                  * to be activated in near future.
 391                  *
 392                  * In such case, we don't execute remove_keys() and postpone
 393                  * the garbage collection work to try to run in next cycle,
 394                  * in order to free CPU resources to other tasks.
 395                  */
 396                 if (!need_resched() && !someone_adding(cache) &&
 397                     time_after(jiffies, cache->last_add + 300 * HZ)) {
 398                         remove_keys(dev, i, 1);
 399                         if (ent->cur > ent->limit)
 400                                 queue_work(cache->wq, &ent->work);
 401                 } else {
 402                         queue_delayed_work(cache->wq, &ent->dwork, 300 * HZ);
 403                 }
 404         }
 405 }
 406
 407 static void delayed_cache_work_func(struct work_struct *work)
 408 {
 409         struct mlx5_cache_ent *ent;
 410
 411         ent = container_of(work, struct mlx5_cache_ent, dwork.work);
 412         __cache_work_func(ent);
 413 }
 414
 415 static void cache_work_func(struct work_struct *work)
 416 {
 417         struct mlx5_cache_ent *ent;
 418
 419         ent = container_of(work, struct mlx5_cache_ent, work);
 420         __cache_work_func(ent);
 421 }
 422
 423 static struct mlx5_ib_mr *alloc_cached_mr(struct mlx5_ib_dev *dev, int order)
 424 {
 425         struct mlx5_mr_cache *cache = &dev->cache;
 426         struct mlx5_ib_mr *mr = NULL;
 427         struct mlx5_cache_ent *ent;
 428         int c;
 429         int i;
 430
 431         c = order2idx(dev, order);
 432         if (c < 0 || c >= MAX_MR_CACHE_ENTRIES) {
 433                 mlx5_ib_warn(dev, "order %d, cache index %d\n", order, c);
 434                 return NULL;
 435         }
 436
 437         for (i = c; i < MAX_MR_CACHE_ENTRIES; i++) {
 438                 ent = &cache->ent[i];
 439
 440                 mlx5_ib_dbg(dev, "order %d, cache index %d\n", ent->order, i);
 441
 442                 spin_lock_irq(&ent->lock);
 443                 if (!list_empty(&ent->head)) {
 444                         mr = list_first_entry(&ent->head, struct mlx5_ib_mr,
 445                                               list);
 446                         list_del(&mr->list);
 447                         ent->cur--;
 448                         spin_unlock_irq(&ent->lock);
 449                         if (ent->cur < ent->limit)
 450                                 queue_work(cache->wq, &ent->work);
 451                         break;
 452                 }
 453                 spin_unlock_irq(&ent->lock);
 454
 455                 queue_work(cache->wq, &ent->work);
 456         }
 457
 458         if (!mr)
 459                 cache->ent[c].miss++;
 460
 461         return mr;
 462 }
 463
 464 static void free_cached_mr(struct mlx5_ib_dev *dev, struct mlx5_ib_mr *mr)
 465 {
 466         struct mlx5_mr_cache *cache = &dev->cache;
 467         struct mlx5_cache_ent *ent;
 468         int shrink = 0;
 469         int c;
 470
 471         c = order2idx(dev, mr->order);
 472         if (c < 0 || c >= MAX_MR_CACHE_ENTRIES) {
 473                 mlx5_ib_warn(dev, "order %d, cache index %d\n", mr->order, c);
 474                 return;
 475         }
 476         ent = &cache->ent[c];
 477         spin_lock_irq(&ent->lock);
 478         list_add_tail(&mr->list, &ent->head);
 479         ent->cur++;
 480         if (ent->cur > 2 * ent->limit)
 481                 shrink = 1;
 482         spin_unlock_irq(&ent->lock);
 483
 484         if (shrink)
 485                 queue_work(cache->wq, &ent->work);
 486 }
 487
 488 static void clean_keys(struct mlx5_ib_dev *dev, int c)
 489 {
 490         struct mlx5_mr_cache *cache = &dev->cache;
 491         struct mlx5_cache_ent *ent = &cache->ent[c];
 492         struct mlx5_ib_mr *mr;
 493         int err;
 494
 495         cancel_delayed_work(&ent->dwork);
 496         while (1) {
 497                 spin_lock_irq(&ent->lock);
 498                 if (list_empty(&ent->head)) {
 499                         spin_unlock_irq(&ent->lock);
 500                         return;
 501                 }
 502                 mr = list_first_entry(&ent->head, struct mlx5_ib_mr, list);
 503                 list_del(&mr->list);
 504                 ent->cur--;
 505                 ent->size--;
 506                 spin_unlock_irq(&ent->lock);
 507                 err = destroy_mkey(dev, mr);
 508                 if (err)
 509                         mlx5_ib_warn(dev, "failed destroy mkey\n");
 510                 else
 511                         kfree(mr);
 512         }
 513 }
 514
 515 static int mlx5_mr_cache_debugfs_init(struct mlx5_ib_dev *dev)
 516 {
 517         struct mlx5_mr_cache *cache = &dev->cache;
 518         struct mlx5_cache_ent *ent;
 519         int i;
 520
 521         if (!mlx5_debugfs_root)
 522                 return 0;
 523
 524         cache->root = debugfs_create_dir("mr_cache", dev->mdev->priv.dbg_root);
 525         if (!cache->root)
 526                 return -ENOMEM;
 527
 528         for (i = 0; i < MAX_MR_CACHE_ENTRIES; i++) {
 529                 ent = &cache->ent[i];
 530                 sprintf(ent->name, "%d", ent->order);
 531                 ent->dir = debugfs_create_dir(ent->name,  cache->root);
 532                 if (!ent->dir)
 533                         return -ENOMEM;
 534
 535                 ent->fsize = debugfs_create_file("size", 0600, ent->dir, ent,
 536                                                  &size_fops);
 537                 if (!ent->fsize)
 538                         return -ENOMEM;
 539
 540                 ent->flimit = debugfs_create_file("limit", 0600, ent->dir, ent,
 541                                                   &limit_fops);
 542                 if (!ent->flimit)
 543                         return -ENOMEM;
 544
 545                 ent->fcur = debugfs_create_u32("cur", 0400, ent->dir,
 546                                                &ent->cur);
 547                 if (!ent->fcur)
 548                         return -ENOMEM;
 549
 550                 ent->fmiss = debugfs_create_u32("miss", 0600, ent->dir,
 551                                                 &ent->miss);
 552                 if (!ent->fmiss)
 553                         return -ENOMEM;
 554         }
 555
 556         return 0;
 557 }
 558
 559 static void mlx5_mr_cache_debugfs_cleanup(struct mlx5_ib_dev *dev)
 560 {
 561         if (!mlx5_debugfs_root)
 562                 return;
 563
 564         debugfs_remove_recursive(dev->cache.root);
 565 }
 566
 567 static void delay_time_func(unsigned long ctx)
 568 {
 569         struct mlx5_ib_dev *dev = (struct mlx5_ib_dev *)ctx;
 570
 571         dev->fill_delay = 0;
 572 }
 573
 574 int mlx5_mr_cache_init(struct mlx5_ib_dev *dev)
 575 {
 576         struct mlx5_mr_cache *cache = &dev->cache;
 577         struct mlx5_cache_ent *ent;
 578         int limit;
 579         int err;
 580         int i;
 581
 582         cache->wq = create_singlethread_workqueue("mkey_cache");
 583         if (!cache->wq) {
 584                 mlx5_ib_warn(dev, "failed to create work queue\n");
 585                 return -ENOMEM;
 586         }
 587
 588         setup_timer(&dev->delay_timer, delay_time_func, (unsigned long)dev);
 589         for (i = 0; i < MAX_MR_CACHE_ENTRIES; i++) {
 590                 INIT_LIST_HEAD(&cache->ent[i].head);
 591                 spin_lock_init(&cache->ent[i].lock);
 592
 593                 ent = &cache->ent[i];
 594                 INIT_LIST_HEAD(&ent->head);
 595                 spin_lock_init(&ent->lock);
 596                 ent->order = i + 2;
 597                 ent->dev = dev;
 598
 599                 if (dev->mdev->profile->mask & MLX5_PROF_MASK_MR_CACHE)
 600                         limit = dev->mdev->profile->mr_cache[i].limit;
 601                 else
 602                         limit = 0;
 603
 604                 INIT_WORK(&ent->work, cache_work_func);
 605                 INIT_DELAYED_WORK(&ent->dwork, delayed_cache_work_func);
 606                 ent->limit = limit;
 607                 queue_work(cache->wq, &ent->work);
 608         }
 609
 610         err = mlx5_mr_cache_debugfs_init(dev);
 611         if (err)
 612                 mlx5_ib_warn(dev, "cache debugfs failure\n");
 613
 614         return 0;
 615 }
 616
 617 static void wait_for_async_commands(struct mlx5_ib_dev *dev)
 618 {
 619         struct mlx5_mr_cache *cache = &dev->cache;
 620         struct mlx5_cache_ent *ent;
 621         int total = 0;
 622         int i;
 623         int j;
 624
 625         for (i = 0; i < MAX_MR_CACHE_ENTRIES; i++) {
 626                 ent = &cache->ent[i];
 627                 for (j = 0 ; j < 1000; j++) {
 628                         if (!ent->pending)
 629                                 break;
 630                         msleep(50);
 631                 }
 632         }
 633         for (i = 0; i < MAX_MR_CACHE_ENTRIES; i++) {
 634                 ent = &cache->ent[i];
 635                 total += ent->pending;
 636         }
 637
 638         if (total)
 639                 mlx5_ib_warn(dev, "aborted while there are %d pending mr requests\n", total);
 640         else
 641                 mlx5_ib_warn(dev, "done with all pending requests\n");
 642 }
 643
 644 int mlx5_mr_cache_cleanup(struct mlx5_ib_dev *dev)
 645 {
 646         int i;
 647
 648         dev->cache.stopped = 1;
 649         flush_workqueue(dev->cache.wq);
 650
 651         mlx5_mr_cache_debugfs_cleanup(dev);
 652
 653         for (i = 0; i < MAX_MR_CACHE_ENTRIES; i++)
 654                 clean_keys(dev, i);
 655
 656         destroy_workqueue(dev->cache.wq);
 657         wait_for_async_commands(dev);
 658         del_timer_sync(&dev->delay_timer);
 659
 660         return 0;
 661 }
 662
 663 struct ib_mr *mlx5_ib_get_dma_mr(struct ib_pd *pd, int acc)
 664 {
 665         struct mlx5_ib_dev *dev = to_mdev(pd->device);
 666         struct mlx5_core_dev *mdev = dev->mdev;
 667         struct mlx5_create_mkey_mbox_in *in;
 668         struct mlx5_mkey_seg *seg;
 669         struct mlx5_ib_mr *mr;
 670         int err;
 671
 672         mr = kzalloc(sizeof(*mr), GFP_KERNEL);
 673         if (!mr)
 674                 return ERR_PTR(-ENOMEM);
 675
 676         in = kzalloc(sizeof(*in), GFP_KERNEL);
 677         if (!in) {
 678                 err = -ENOMEM;
 679                 goto err_free;
 680         }
 681
 682         seg = &in->seg;
 683         seg->flags = convert_access(acc) | MLX5_ACCESS_MODE_PA;
 684         seg->flags_pd = cpu_to_be32(to_mpd(pd)->pdn | MLX5_MKEY_LEN64);
 685         seg->qpn_mkey7_0 = cpu_to_be32(0xffffff << 8);
 686         seg->start_addr = 0;
 687
 688         err = mlx5_core_create_mkey(mdev, &mr->mmr, in, sizeof(*in), NULL, NULL,
 689                                     NULL);
 690         if (err)
 691                 goto err_in;
 692
 693         kfree(in);
 694         mr->ibmr.lkey = mr->mmr.key;
 695         mr->ibmr.rkey = mr->mmr.key;
 696         mr->umem = NULL;
 697
 698         return &mr->ibmr;
 699
 700 err_in:
 701         kfree(in);
 702
 703 err_free:
 704         kfree(mr);
 705
 706         return ERR_PTR(err);
 707 }
 708
 709 static int get_octo_len(u64 addr, u64 len, int page_size)
 710 {
 711         u64 offset;
 712         int npages;
 713
 714         offset = addr & (page_size - 1);
 715         npages = ALIGN(len + offset, page_size) >> ilog2(page_size);
 716         return (npages + 1) / 2;
 717 }
 718
 719 static int use_umr(int order)
 720 {
 721         return order <= MLX5_MAX_UMR_SHIFT;
 722 }
 723
 724 static void prep_umr_reg_wqe(struct ib_pd *pd, struct ib_send_wr *wr,
 725                              struct ib_sge *sg, u64 dma, int n, u32 key,
 726                              int page_shift, u64 virt_addr, u64 len,
 727                              int access_flags)
 728 {
 729         struct mlx5_ib_dev *dev = to_mdev(pd->device);
 730         struct mlx5_umr_wr *umrwr = umr_wr(wr);
 731
 732         sg->addr = dma;
 733         sg->length = ALIGN(sizeof(u64) * n, 64);
 734         sg->lkey = dev->umrc.pd->local_dma_lkey;
 735
 736         wr->next = NULL;
 737         wr->send_flags = 0;
 738         wr->sg_list = sg;
 739         if (n)
 740                 wr->num_sge = 1;
 741         else
 742                 wr->num_sge = 0;
 743
 744         wr->opcode = MLX5_IB_WR_UMR;
 745
 746         umrwr->npages = n;
 747         umrwr->page_shift = page_shift;
 748         umrwr->mkey = key;
 749         umrwr->target.virt_addr = virt_addr;
 750         umrwr->length = len;
 751         umrwr->access_flags = access_flags;
 752         umrwr->pd = pd;
 753 }
 754
 755 static void prep_umr_unreg_wqe(struct mlx5_ib_dev *dev,
 756                                struct ib_send_wr *wr, u32 key)
 757 {
 758         struct mlx5_umr_wr *umrwr = umr_wr(wr);
 759
 760         wr->send_flags = MLX5_IB_SEND_UMR_UNREG | MLX5_IB_SEND_UMR_FAIL_IF_FREE;
 761         wr->opcode = MLX5_IB_WR_UMR;
 762         umrwr->mkey = key;
 763 }
 764
 765 void mlx5_umr_cq_handler(struct ib_cq *cq, void *cq_context)
 766 {
 767         struct mlx5_ib_umr_context *context;
 768         struct ib_wc wc;
 769         int err;
 770
 771         while (1) {
 772                 err = ib_poll_cq(cq, 1, &wc);
 773                 if (err < 0) {
 774                         pr_warn("poll cq error %d\n", err);
 775                         return;
 776                 }
 777                 if (err == 0)
 778                         break;
 779
 780                 context = (struct mlx5_ib_umr_context *) (unsigned long) wc.wr_id;
 781                 context->status = wc.status;
 782                 complete(&context->done);
 783         }
 784         ib_req_notify_cq(cq, IB_CQ_NEXT_COMP);
 785 }
 786
 787 static struct mlx5_ib_mr *reg_umr(struct ib_pd *pd, struct ib_umem *umem,
 788                                   u64 virt_addr, u64 len, int npages,
 789                                   int page_shift, int order, int access_flags)
 790 {
 791         struct mlx5_ib_dev *dev = to_mdev(pd->device);
 792         struct device *ddev = dev->ib_dev.dma_device;
 793         struct umr_common *umrc = &dev->umrc;
 794         struct mlx5_ib_umr_context umr_context;
 795         struct mlx5_umr_wr umrwr = {};
 796         struct ib_send_wr *bad;
 797         struct mlx5_ib_mr *mr;
 798         struct ib_sge sg;
 799         int size;
 800         __be64 *mr_pas;
 801         __be64 *pas;
 802         dma_addr_t dma;
 803         int err = 0;
 804         int i;
 805
 806         for (i = 0; i < 1; i++) {
 807                 mr = alloc_cached_mr(dev, order);
 808                 if (mr)
 809                         break;
 810
 811                 err = add_keys(dev, order2idx(dev, order), 1);
 812                 if (err && err != -EAGAIN) {
 813                         mlx5_ib_warn(dev, "add_keys failed, err %d\n", err);
 814                         break;
 815                 }
 816         }
 817
 818         if (!mr)
 819                 return ERR_PTR(-EAGAIN);
 820
 821         /* UMR copies MTTs in units of MLX5_UMR_MTT_ALIGNMENT bytes.
 822          * To avoid copying garbage after the pas array, we allocate
 823          * a little more. */
 824         size = ALIGN(sizeof(u64) * npages, MLX5_UMR_MTT_ALIGNMENT);
 825         mr_pas = kmalloc(size + MLX5_UMR_ALIGN - 1, GFP_KERNEL);
 826         if (!mr_pas) {
 827                 err = -ENOMEM;
 828                 goto free_mr;
 829         }
 830
 831         pas = PTR_ALIGN(mr_pas, MLX5_UMR_ALIGN);
 832         mlx5_ib_populate_pas(dev, umem, page_shift, pas, MLX5_IB_MTT_PRESENT);
 833         /* Clear padding after the actual pages. */
 834         memset(pas + npages, 0, size - npages * sizeof(u64));
 835
 836         dma = dma_map_single(ddev, pas, size, DMA_TO_DEVICE);
 837         if (dma_mapping_error(ddev, dma)) {
 838                 err = -ENOMEM;
 839                 goto free_pas;
 840         }
 841
 842         umrwr.wr.wr_id = (u64)(unsigned long)&umr_context;
 843         prep_umr_reg_wqe(pd, &umrwr.wr, &sg, dma, npages, mr->mmr.key,
 844                          page_shift, virt_addr, len, access_flags);
 845
 846         mlx5_ib_init_umr_context(&umr_context);
 847         down(&umrc->sem);
 848         err = ib_post_send(umrc->qp, &umrwr.wr, &bad);
 849         if (err) {
 850                 mlx5_ib_warn(dev, "post send failed, err %d\n", err);
 851                 goto unmap_dma;
 852         } else {
 853                 wait_for_completion(&umr_context.done);
 854                 if (umr_context.status != IB_WC_SUCCESS) {
 855                         mlx5_ib_warn(dev, "reg umr failed\n");
 856                         err = -EFAULT;
 857                 }
 858         }
 859
 860         mr->mmr.iova = virt_addr;
 861         mr->mmr.size = len;
 862         mr->mmr.pd = to_mpd(pd)->pdn;
 863
 864         mr->live = 1;
 865
 866 unmap_dma:
 867         up(&umrc->sem);
 868         dma_unmap_single(ddev, dma, size, DMA_TO_DEVICE);
 869
 870 free_pas:
 871         kfree(mr_pas);
 872
 873 free_mr:
 874         if (err) {
 875                 free_cached_mr(dev, mr);
 876                 return ERR_PTR(err);
 877         }
 878
 879         return mr;
 880 }
 881
 882 #ifdef CONFIG_INFINIBAND_ON_DEMAND_PAGING
 883 int mlx5_ib_update_mtt(struct mlx5_ib_mr *mr, u64 start_page_index, int npages,
 884                        int zap)
 885 {
 886         struct mlx5_ib_dev *dev = mr->dev;
 887         struct device *ddev = dev->ib_dev.dma_device;
 888         struct umr_common *umrc = &dev->umrc;
 889         struct mlx5_ib_umr_context umr_context;
 890         struct ib_umem *umem = mr->umem;
 891         int size;
 892         __be64 *pas;
 893         dma_addr_t dma;
 894         struct ib_send_wr *bad;
 895         struct mlx5_umr_wr wr;
 896         struct ib_sge sg;
 897         int err = 0;
 898         const int page_index_alignment = MLX5_UMR_MTT_ALIGNMENT / sizeof(u64);
 899         const int page_index_mask = page_index_alignment - 1;
 900         size_t pages_mapped = 0;
 901         size_t pages_to_map = 0;
 902         size_t pages_iter = 0;
 903         int use_emergency_buf = 0;
 904
 905         /* UMR copies MTTs in units of MLX5_UMR_MTT_ALIGNMENT bytes,
 906          * so we need to align the offset and length accordingly */
 907         if (start_page_index & page_index_mask) {
 908                 npages += start_page_index & page_index_mask;
 909                 start_page_index &= ~page_index_mask;
 910         }
 911
 912         pages_to_map = ALIGN(npages, page_index_alignment);
 913
 914         if (start_page_index + pages_to_map > MLX5_MAX_UMR_PAGES)
 915                 return -EINVAL;
 916
 917         size = sizeof(u64) * pages_to_map;
 918         size = min_t(int, PAGE_SIZE, size);
 919         /* We allocate with GFP_ATOMIC to avoid recursion into page-reclaim
 920          * code, when we are called from an invalidation. The pas buffer must
 921          * be 2k-aligned for Connect-IB. */
 922         pas = (__be64 *)get_zeroed_page(GFP_ATOMIC);
 923         if (!pas) {
 924                 mlx5_ib_warn(dev, "unable to allocate memory during MTT update, falling back to slower chunked mechanism.\n");
 925                 pas = mlx5_ib_update_mtt_emergency_buffer;
 926                 size = MLX5_UMR_MTT_MIN_CHUNK_SIZE;
 927                 use_emergency_buf = 1;
 928                 mutex_lock(&mlx5_ib_update_mtt_emergency_buffer_mutex);
 929                 memset(pas, 0, size);
 930         }
 931         pages_iter = size / sizeof(u64);
 932         dma = dma_map_single(ddev, pas, size, DMA_TO_DEVICE);
 933         if (dma_mapping_error(ddev, dma)) {
 934                 mlx5_ib_err(dev, "unable to map DMA during MTT update.\n");
 935                 err = -ENOMEM;
 936                 goto free_pas;
 937         }
 938
 939         for (pages_mapped = 0;
 940              pages_mapped < pages_to_map && !err;
 941              pages_mapped += pages_iter, start_page_index += pages_iter) {
 942                 dma_sync_single_for_cpu(ddev, dma, size, DMA_TO_DEVICE);
 943
 944                 npages = min_t(size_t,
 945                                pages_iter,
 946                                ib_umem_num_pages(umem) - start_page_index);
 947
 948                 if (!zap) {
 949                         __mlx5_ib_populate_pas(dev, umem, PAGE_SHIFT,
 950                                                start_page_index, npages, pas,
 951                                                MLX5_IB_MTT_PRESENT);
 952                         /* Clear padding after the pages brought from the
 953                          * umem. */
 954                         memset(pas + npages, 0, size - npages * sizeof(u64));
 955                 }
 956
 957                 dma_sync_single_for_device(ddev, dma, size, DMA_TO_DEVICE);
 958
 959                 memset(&wr, 0, sizeof(wr));
 960                 wr.wr.wr_id = (u64)(unsigned long)&umr_context;
 961
 962                 sg.addr = dma;
 963                 sg.length = ALIGN(npages * sizeof(u64),
 964                                 MLX5_UMR_MTT_ALIGNMENT);
 965                 sg.lkey = dev->umrc.pd->local_dma_lkey;
 966
 967                 wr.wr.send_flags = MLX5_IB_SEND_UMR_FAIL_IF_FREE |
 968                                 MLX5_IB_SEND_UMR_UPDATE_MTT;
 969                 wr.wr.sg_list = &sg;
 970                 wr.wr.num_sge = 1;
 971                 wr.wr.opcode = MLX5_IB_WR_UMR;
 972                 wr.npages = sg.length / sizeof(u64);
 973                 wr.page_shift = PAGE_SHIFT;
 974                 wr.mkey = mr->mmr.key;
 975                 wr.target.offset = start_page_index;
 976
 977                 mlx5_ib_init_umr_context(&umr_context);
 978                 down(&umrc->sem);
 979                 err = ib_post_send(umrc->qp, &wr.wr, &bad);
 980                 if (err) {
 981                         mlx5_ib_err(dev, "UMR post send failed, err %d\n", err);
 982                 } else {
 983                         wait_for_completion(&umr_context.done);
 984                         if (umr_context.status != IB_WC_SUCCESS) {
 985                                 mlx5_ib_err(dev, "UMR completion failed, code %d\n",
 986                                             umr_context.status);
 987                                 err = -EFAULT;
 988                         }
 989                 }
 990                 up(&umrc->sem);
 991         }
 992         dma_unmap_single(ddev, dma, size, DMA_TO_DEVICE);
 993
 994 free_pas:
 995         if (!use_emergency_buf)
 996                 free_page((unsigned long)pas);
 997         else
 998                 mutex_unlock(&mlx5_ib_update_mtt_emergency_buffer_mutex);
 999
1000         return err;
1001 }
1002 #endif
1003
1004 static struct mlx5_ib_mr *reg_create(struct ib_pd *pd, u64 virt_addr,
1005                                      u64 length, struct ib_umem *umem,
1006                                      int npages, int page_shift,
1007                                      int access_flags)
1008 {
1009         struct mlx5_ib_dev *dev = to_mdev(pd->device);
1010         struct mlx5_create_mkey_mbox_in *in;
1011         struct mlx5_ib_mr *mr;
1012         int inlen;
1013         int err;
1014         bool pg_cap = !!(MLX5_CAP_GEN(dev->mdev, pg));
1015
1016         mr = kzalloc(sizeof(*mr), GFP_KERNEL);
1017         if (!mr)
1018                 return ERR_PTR(-ENOMEM);
1019
1020         inlen = sizeof(*in) + sizeof(*in->pas) * ((npages + 1) / 2) * 2;
1021         in = mlx5_vzalloc(inlen);
1022         if (!in) {
1023                 err = -ENOMEM;
1024                 goto err_1;
1025         }
1026         mlx5_ib_populate_pas(dev, umem, page_shift, in->pas,
1027                              pg_cap ? MLX5_IB_MTT_PRESENT : 0);
1028
1029         /* The MLX5_MKEY_INBOX_PG_ACCESS bit allows setting the access flags
1030          * in the page list submitted with the command. */
1031         in->flags = pg_cap ? cpu_to_be32(MLX5_MKEY_INBOX_PG_ACCESS) : 0;
1032         in->seg.flags = convert_access(access_flags) |
1033                 MLX5_ACCESS_MODE_MTT;
1034         in->seg.flags_pd = cpu_to_be32(to_mpd(pd)->pdn);
1035         in->seg.start_addr = cpu_to_be64(virt_addr);
1036         in->seg.len = cpu_to_be64(length);
1037         in->seg.bsfs_octo_size = 0;
1038         in->seg.xlt_oct_size = cpu_to_be32(get_octo_len(virt_addr, length, 1 << page_shift));
1039         in->seg.log2_page_size = page_shift;
1040         in->seg.qpn_mkey7_0 = cpu_to_be32(0xffffff << 8);
1041         in->xlat_oct_act_size = cpu_to_be32(get_octo_len(virt_addr, length,
1042                                                          1 << page_shift));
1043         err = mlx5_core_create_mkey(dev->mdev, &mr->mmr, in, inlen, NULL,
1044                                     NULL, NULL);
1045         if (err) {
1046                 mlx5_ib_warn(dev, "create mkey failed\n");
1047                 goto err_2;
1048         }
1049         mr->umem = umem;
1050         mr->dev = dev;
1051         mr->live = 1;
1052         kvfree(in);
1053
1054         mlx5_ib_dbg(dev, "mkey = 0x%x\n", mr->mmr.key);
1055
1056         return mr;
1057
1058 err_2:
1059         kvfree(in);
1060
1061 err_1:
1062         kfree(mr);
1063
1064         return ERR_PTR(err);
1065 }
1066
1067 struct ib_mr *mlx5_ib_reg_user_mr(struct ib_pd *pd, u64 start, u64 length,
1068                                   u64 virt_addr, int access_flags,
1069                                   struct ib_udata *udata)
1070 {
1071         struct mlx5_ib_dev *dev = to_mdev(pd->device);
1072         struct mlx5_ib_mr *mr = NULL;
1073         struct ib_umem *umem;
1074         int page_shift;
1075         int npages;
1076         int ncont;
1077         int order;
1078         int err;
1079
1080         mlx5_ib_dbg(dev, "start 0x%llx, virt_addr 0x%llx, length 0x%llx, access_flags 0x%x\n",
1081                     start, virt_addr, length, access_flags);
1082         umem = ib_umem_get(pd->uobject->context, start, length, access_flags,
1083                            0);
1084         if (IS_ERR(umem)) {
1085                 mlx5_ib_dbg(dev, "umem get failed (%ld)\n", PTR_ERR(umem));
1086                 return (void *)umem;
1087         }
1088
1089         mlx5_ib_cont_pages(umem, start, &npages, &page_shift, &ncont, &order);
1090         if (!npages) {
1091                 mlx5_ib_warn(dev, "avoid zero region\n");
1092                 err = -EINVAL;
1093                 goto error;
1094         }
1095
1096         mlx5_ib_dbg(dev, "npages %d, ncont %d, order %d, page_shift %d\n",
1097                     npages, ncont, order, page_shift);
1098
1099         if (use_umr(order)) {
1100                 mr = reg_umr(pd, umem, virt_addr, length, ncont, page_shift,
1101                              order, access_flags);
1102                 if (PTR_ERR(mr) == -EAGAIN) {
1103                         mlx5_ib_dbg(dev, "cache empty for order %d", order);
1104                         mr = NULL;
1105                 }
1106         } else if (access_flags & IB_ACCESS_ON_DEMAND) {
1107                 err = -EINVAL;
1108                 pr_err("Got MR registration for ODP MR > 512MB, not supported for Connect-IB");
1109                 goto error;
1110         }
1111
1112         if (!mr)
1113                 mr = reg_create(pd, virt_addr, length, umem, ncont, page_shift,
1114                                 access_flags);
1115
1116         if (IS_ERR(mr)) {
1117                 err = PTR_ERR(mr);
1118                 goto error;
1119         }
1120
1121         mlx5_ib_dbg(dev, "mkey 0x%x\n", mr->mmr.key);
1122
1123         mr->umem = umem;
1124         mr->npages = npages;
1125         atomic_add(npages, &dev->mdev->priv.reg_pages);
1126         mr->ibmr.lkey = mr->mmr.key;
1127         mr->ibmr.rkey = mr->mmr.key;
1128
1129 #ifdef CONFIG_INFINIBAND_ON_DEMAND_PAGING
1130         if (umem->odp_data) {
1131                 /*
1132                  * This barrier prevents the compiler from moving the
1133                  * setting of umem->odp_data->private to point to our
1134                  * MR, before reg_umr finished, to ensure that the MR
1135                  * initialization have finished before starting to
1136                  * handle invalidations.
1137                  */
1138                 smp_wmb();
1139                 mr->umem->odp_data->private = mr;
1140                 /*
1141                  * Make sure we will see the new
1142                  * umem->odp_data->private value in the invalidation
1143                  * routines, before we can get page faults on the
1144                  * MR. Page faults can happen once we put the MR in
1145                  * the tree, below this line. Without the barrier,
1146                  * there can be a fault handling and an invalidation
1147                  * before umem->odp_data->private == mr is visible to
1148                  * the invalidation handler.
1149                  */
1150                 smp_wmb();
1151         }
1152 #endif
1153
1154         return &mr->ibmr;
1155
1156 error:
1157         ib_umem_release(umem);
1158         return ERR_PTR(err);
1159 }
1160
1161 static int unreg_umr(struct mlx5_ib_dev *dev, struct mlx5_ib_mr *mr)
1162 {
1163         struct umr_common *umrc = &dev->umrc;
1164         struct mlx5_ib_umr_context umr_context;
1165         struct mlx5_umr_wr umrwr = {};
1166         struct ib_send_wr *bad;
1167         int err;
1168
1169         umrwr.wr.wr_id = (u64)(unsigned long)&umr_context;
1170         prep_umr_unreg_wqe(dev, &umrwr.wr, mr->mmr.key);
1171
1172         mlx5_ib_init_umr_context(&umr_context);
1173         down(&umrc->sem);
1174         err = ib_post_send(umrc->qp, &umrwr.wr, &bad);
1175         if (err) {
1176                 up(&umrc->sem);
1177                 mlx5_ib_dbg(dev, "err %d\n", err);
1178                 goto error;
1179         } else {
1180                 wait_for_completion(&umr_context.done);
1181                 up(&umrc->sem);
1182         }
1183         if (umr_context.status != IB_WC_SUCCESS) {
1184                 mlx5_ib_warn(dev, "unreg umr failed\n");
1185                 err = -EFAULT;
1186                 goto error;
1187         }
1188         return 0;
1189
1190 error:
1191         return err;
1192 }
1193
1194 static int
1195 mlx5_alloc_priv_descs(struct ib_device *device,
1196                       struct mlx5_ib_mr *mr,
1197                       int ndescs,
1198                       int desc_size)
1199 {
1200         int size = ndescs * desc_size;
1201         int add_size;
1202         int ret;
1203
1204         add_size = max_t(int, MLX5_UMR_ALIGN - ARCH_KMALLOC_MINALIGN, 0);
1205
1206         mr->descs_alloc = kzalloc(size + add_size, GFP_KERNEL);
1207         if (!mr->descs_alloc)
1208                 return -ENOMEM;
1209
1210         mr->descs = PTR_ALIGN(mr->descs_alloc, MLX5_UMR_ALIGN);
1211
1212         mr->desc_map = dma_map_single(device->dma_device, mr->descs,
1213                                       size, DMA_TO_DEVICE);
1214         if (dma_mapping_error(device->dma_device, mr->desc_map)) {
1215                 ret = -ENOMEM;
1216                 goto err;
1217         }
1218
1219         return 0;
1220 err:
1221         kfree(mr->descs_alloc);
1222
1223         return ret;
1224 }
1225
1226 static void
1227 mlx5_free_priv_descs(struct mlx5_ib_mr *mr)
1228 {
1229         if (mr->descs) {
1230                 struct ib_device *device = mr->ibmr.device;
1231                 int size = mr->max_descs * mr->desc_size;
1232
1233                 dma_unmap_single(device->dma_device, mr->desc_map,
1234                                  size, DMA_TO_DEVICE);
1235                 kfree(mr->descs_alloc);
1236                 mr->descs = NULL;
1237         }
1238 }
1239
1240 static int clean_mr(struct mlx5_ib_mr *mr)
1241 {
1242         struct mlx5_ib_dev *dev = to_mdev(mr->ibmr.device);
1243         int umred = mr->umred;
1244         int err;
1245
1246         if (mr->sig) {
1247                 if (mlx5_core_destroy_psv(dev->mdev,
1248                                           mr->sig->psv_memory.psv_idx))
1249                         mlx5_ib_warn(dev, "failed to destroy mem psv %d\n",
1250                                      mr->sig->psv_memory.psv_idx);
1251                 if (mlx5_core_destroy_psv(dev->mdev,
1252                                           mr->sig->psv_wire.psv_idx))
1253                         mlx5_ib_warn(dev, "failed to destroy wire psv %d\n",
1254                                      mr->sig->psv_wire.psv_idx);
1255                 kfree(mr->sig);
1256                 mr->sig = NULL;
1257         }
1258
1259         mlx5_free_priv_descs(mr);
1260
1261         if (!umred) {
1262                 err = destroy_mkey(dev, mr);
1263                 if (err) {
1264                         mlx5_ib_warn(dev, "failed to destroy mkey 0x%x (%d)\n",
1265                                      mr->mmr.key, err);
1266                         return err;
1267                 }
1268         } else {
1269                 err = unreg_umr(dev, mr);
1270                 if (err) {
1271                         mlx5_ib_warn(dev, "failed unregister\n");
1272                         return err;
1273                 }
1274                 free_cached_mr(dev, mr);
1275         }
1276
1277         if (!umred)
1278                 kfree(mr);
1279
1280         return 0;
1281 }
1282
1283 int mlx5_ib_dereg_mr(struct ib_mr *ibmr)
1284 {
1285         struct mlx5_ib_dev *dev = to_mdev(ibmr->device);
1286         struct mlx5_ib_mr *mr = to_mmr(ibmr);
1287         int npages = mr->npages;
1288         struct ib_umem *umem = mr->umem;
1289
1290 #ifdef CONFIG_INFINIBAND_ON_DEMAND_PAGING
1291         if (umem && umem->odp_data) {
1292                 /* Prevent new page faults from succeeding */
1293                 mr->live = 0;
1294                 /* Wait for all running page-fault handlers to finish. */
1295                 synchronize_srcu(&dev->mr_srcu);
1296                 /* Destroy all page mappings */
1297                 mlx5_ib_invalidate_range(umem, ib_umem_start(umem),
1298                                          ib_umem_end(umem));
1299                 /*
1300                  * We kill the umem before the MR for ODP,
1301                  * so that there will not be any invalidations in
1302                  * flight, looking at the *mr struct.
1303                  */
1304                 ib_umem_release(umem);
1305                 atomic_sub(npages, &dev->mdev->priv.reg_pages);
1306
1307                 /* Avoid double-freeing the umem. */
1308                 umem = NULL;
1309         }
1310 #endif
1311
1312         clean_mr(mr);
1313
1314         if (umem) {
1315                 ib_umem_release(umem);
1316                 atomic_sub(npages, &dev->mdev->priv.reg_pages);
1317         }
1318
1319         return 0;
1320 }
1321
1322 struct ib_mr *mlx5_ib_alloc_mr(struct ib_pd *pd,
1323                                enum ib_mr_type mr_type,
1324                                u32 max_num_sg)
1325 {
1326         struct mlx5_ib_dev *dev = to_mdev(pd->device);
1327         struct mlx5_create_mkey_mbox_in *in;
1328         struct mlx5_ib_mr *mr;
1329         int access_mode, err;
1330         int ndescs = roundup(max_num_sg, 4);
1331
1332         mr = kzalloc(sizeof(*mr), GFP_KERNEL);
1333         if (!mr)
1334                 return ERR_PTR(-ENOMEM);
1335
1336         in = kzalloc(sizeof(*in), GFP_KERNEL);
1337         if (!in) {
1338                 err = -ENOMEM;
1339                 goto err_free;
1340         }
1341
1342         in->seg.status = MLX5_MKEY_STATUS_FREE;
1343         in->seg.xlt_oct_size = cpu_to_be32(ndescs);
1344         in->seg.qpn_mkey7_0 = cpu_to_be32(0xffffff << 8);
1345         in->seg.flags_pd = cpu_to_be32(to_mpd(pd)->pdn);
1346
1347         if (mr_type == IB_MR_TYPE_MEM_REG) {
1348                 access_mode = MLX5_ACCESS_MODE_MTT;
1349                 in->seg.log2_page_size = PAGE_SHIFT;
1350
1351                 err = mlx5_alloc_priv_descs(pd->device, mr,
1352                                             ndescs, sizeof(u64));
1353                 if (err)
1354                         goto err_free_in;
1355
1356                 mr->desc_size = sizeof(u64);
1357                 mr->max_descs = ndescs;
1358         } else if (mr_type == IB_MR_TYPE_SIGNATURE) {
1359                 u32 psv_index[2];
1360
1361                 in->seg.flags_pd = cpu_to_be32(be32_to_cpu(in->seg.flags_pd) |
1362                                                            MLX5_MKEY_BSF_EN);
1363                 in->seg.bsfs_octo_size = cpu_to_be32(MLX5_MKEY_BSF_OCTO_SIZE);
1364                 mr->sig = kzalloc(sizeof(*mr->sig), GFP_KERNEL);
1365                 if (!mr->sig) {
1366                         err = -ENOMEM;
1367                         goto err_free_in;
1368                 }
1369
1370                 /* create mem & wire PSVs */
1371                 err = mlx5_core_create_psv(dev->mdev, to_mpd(pd)->pdn,
1372                                            2, psv_index);
1373                 if (err)
1374                         goto err_free_sig;
1375
1376                 access_mode = MLX5_ACCESS_MODE_KLM;
1377                 mr->sig->psv_memory.psv_idx = psv_index[0];
1378                 mr->sig->psv_wire.psv_idx = psv_index[1];
1379
1380                 mr->sig->sig_status_checked = true;
1381                 mr->sig->sig_err_exists = false;
1382                 /* Next UMR, Arm SIGERR */
1383                 ++mr->sig->sigerr_count;
1384         } else {
1385                 mlx5_ib_warn(dev, "Invalid mr type %d\n", mr_type);
1386                 err = -EINVAL;
1387                 goto err_free_in;
1388         }
1389
1390         in->seg.flags = MLX5_PERM_UMR_EN | access_mode;
1391         err = mlx5_core_create_mkey(dev->mdev, &mr->mmr, in, sizeof(*in),
1392                                     NULL, NULL, NULL);
1393         if (err)
1394                 goto err_destroy_psv;
1395
1396         mr->ibmr.lkey = mr->mmr.key;
1397         mr->ibmr.rkey = mr->mmr.key;
1398         mr->umem = NULL;
1399         kfree(in);
1400
1401         return &mr->ibmr;
1402
1403 err_destroy_psv:
1404         if (mr->sig) {
1405                 if (mlx5_core_destroy_psv(dev->mdev,
1406                                           mr->sig->psv_memory.psv_idx))
1407                         mlx5_ib_warn(dev, "failed to destroy mem psv %d\n",
1408                                      mr->sig->psv_memory.psv_idx);
1409                 if (mlx5_core_destroy_psv(dev->mdev,
1410                                           mr->sig->psv_wire.psv_idx))
1411                         mlx5_ib_warn(dev, "failed to destroy wire psv %d\n",
1412                                      mr->sig->psv_wire.psv_idx);
1413         }
1414         mlx5_free_priv_descs(mr);
1415 err_free_sig:
1416         kfree(mr->sig);
1417 err_free_in:
1418         kfree(in);
1419 err_free:
1420         kfree(mr);
1421         return ERR_PTR(err);
1422 }
1423
1424 int mlx5_ib_check_mr_status(struct ib_mr *ibmr, u32 check_mask,
1425                             struct ib_mr_status *mr_status)
1426 {
1427         struct mlx5_ib_mr *mmr = to_mmr(ibmr);
1428         int ret = 0;
1429
1430         if (check_mask & ~IB_MR_CHECK_SIG_STATUS) {
1431                 pr_err("Invalid status check mask\n");
1432                 ret = -EINVAL;
1433                 goto done;
1434         }
1435
1436         mr_status->fail_status = 0;
1437         if (check_mask & IB_MR_CHECK_SIG_STATUS) {
1438                 if (!mmr->sig) {
1439                         ret = -EINVAL;
1440                         pr_err("signature status check requested on a non-signature enabled MR\n");
1441                         goto done;
1442                 }
1443
1444                 mmr->sig->sig_status_checked = true;
1445                 if (!mmr->sig->sig_err_exists)
1446                         goto done;
1447
1448                 if (ibmr->lkey == mmr->sig->err_item.key)
1449                         memcpy(&mr_status->sig_err, &mmr->sig->err_item,
1450                                sizeof(mr_status->sig_err));
1451                 else {
1452                         mr_status->sig_err.err_type = IB_SIG_BAD_GUARD;
1453                         mr_status->sig_err.sig_err_offset = 0;
1454                         mr_status->sig_err.key = mmr->sig->err_item.key;
1455                 }
1456
1457                 mmr->sig->sig_err_exists = false;
1458                 mr_status->fail_status |= IB_MR_CHECK_SIG_STATUS;
1459         }
1460
1461 done:
1462         return ret;
1463 }
1464
1465 static int mlx5_set_page(struct ib_mr *ibmr, u64 addr)
1466 {
1467         struct mlx5_ib_mr *mr = to_mmr(ibmr);
1468         __be64 *descs;
1469
1470         if (unlikely(mr->ndescs == mr->max_descs))
1471                 return -ENOMEM;
1472
1473         descs = mr->descs;
1474         descs[mr->ndescs++] = cpu_to_be64(addr | MLX5_EN_RD | MLX5_EN_WR);
1475
1476         return 0;
1477 }
1478
1479 int mlx5_ib_map_mr_sg(struct ib_mr *ibmr,
1480                       struct scatterlist *sg,
1481                       int sg_nents)
1482 {
1483         struct mlx5_ib_mr *mr = to_mmr(ibmr);
1484         int n;
1485
1486         mr->ndescs = 0;
1487
1488         ib_dma_sync_single_for_cpu(ibmr->device, mr->desc_map,
1489                                    mr->desc_size * mr->max_descs,
1490                                    DMA_TO_DEVICE);
1491
1492         n = ib_sg_to_pages(ibmr, sg, sg_nents, mlx5_set_page);
1493
1494         ib_dma_sync_single_for_device(ibmr->device, mr->desc_map,
1495                                       mr->desc_size * mr->max_descs,
1496                                       DMA_TO_DEVICE);
1497
1498         return n;
1499 }