drivers/pci/setup-res.c

   1 /*
   2  *      drivers/pci/setup-res.c
   3  *
   4  * Extruded from code written by
   5  *      Dave Rusling (david.rusling@reo.mts.dec.com)
   6  *      David Mosberger (davidm@cs.arizona.edu)
   7  *      David Miller (davem@redhat.com)
   8  *
   9  * Support routines for initializing a PCI subsystem.
  10  */
  11
  12 /* fixed for multiple pci buses, 1999 Andrea Arcangeli <andrea@suse.de> */
  13
  14 /*
  15  * Nov 2000, Ivan Kokshaysky <ink@jurassic.park.msu.ru>
  16  *           Resource sorting
  17  */
  18
  19 #include <linux/kernel.h>
  20 #include <linux/export.h>
  21 #include <linux/pci.h>
  22 #include <linux/errno.h>
  23 #include <linux/ioport.h>
  24 #include <linux/cache.h>
  25 #include <linux/slab.h>
  26 #include "pci.h"
  27
  28 static void pci_std_update_resource(struct pci_dev *dev, int resno)
  29 {
  30         struct pci_bus_region region;
  31         bool disable;
  32         u16 cmd;
  33         u32 new, check, mask;
  34         int reg;
  35         struct resource *res = dev->resource + resno;
  36
  37         /* Per SR-IOV spec 3.4.1.11, VF BARs are RO zero */
  38         if (dev->is_virtfn)
  39                 return;
  40
  41         /*
  42          * Ignore resources for unimplemented BARs and unused resource slots
  43          * for 64 bit BARs.
  44          */
  45         if (!res->flags)
  46                 return;
  47
  48         if (res->flags & IORESOURCE_UNSET)
  49                 return;
  50
  51         /*
  52          * Ignore non-moveable resources.  This might be legacy resources for
  53          * which no functional BAR register exists or another important
  54          * system resource we shouldn't move around.
  55          */
  56         if (res->flags & IORESOURCE_PCI_FIXED)
  57                 return;
  58
  59         pcibios_resource_to_bus(dev->bus, &region, res);
  60         new = region.start;
  61
  62         if (res->flags & IORESOURCE_IO) {
  63                 mask = (u32)PCI_BASE_ADDRESS_IO_MASK;
  64                 new |= res->flags & ~PCI_BASE_ADDRESS_IO_MASK;
  65         } else if (resno == PCI_ROM_RESOURCE) {
  66                 mask = PCI_ROM_ADDRESS_MASK;
  67         } else {
  68                 mask = (u32)PCI_BASE_ADDRESS_MEM_MASK;
  69                 new |= res->flags & ~PCI_BASE_ADDRESS_MEM_MASK;
  70         }
  71
  72         if (resno < PCI_ROM_RESOURCE) {
  73                 reg = PCI_BASE_ADDRESS_0 + 4 * resno;
  74         } else if (resno == PCI_ROM_RESOURCE) {
  75
  76                 /*
  77                  * Apparently some Matrox devices have ROM BARs that read
  78                  * as zero when disabled, so don't update ROM BARs unless
  79                  * they're enabled.  See https://lkml.org/lkml/2005/8/30/138.
  80                  */
  81                 if (!(res->flags & IORESOURCE_ROM_ENABLE))
  82                         return;
  83
  84                 reg = dev->rom_base_reg;
  85                 new |= PCI_ROM_ADDRESS_ENABLE;
  86         } else
  87                 return;
  88
  89         /*
  90          * We can't update a 64-bit BAR atomically, so when possible,
  91          * disable decoding so that a half-updated BAR won't conflict
  92          * with another device.
  93          */
  94         disable = (res->flags & IORESOURCE_MEM_64) && !dev->mmio_always_on;
  95         if (disable) {
  96                 pci_read_config_word(dev, PCI_COMMAND, &cmd);
  97                 pci_write_config_word(dev, PCI_COMMAND,
  98                                       cmd & ~PCI_COMMAND_MEMORY);
  99         }
 100
 101         pci_write_config_dword(dev, reg, new);
 102         pci_read_config_dword(dev, reg, &check);
 103
 104         if ((new ^ check) & mask) {
 105                 dev_err(&dev->dev, "BAR %d: error updating (%#08x != %#08x)\n",
 106                         resno, new, check);
 107         }
 108
 109         if (res->flags & IORESOURCE_MEM_64) {
 110                 new = region.start >> 16 >> 16;
 111                 pci_write_config_dword(dev, reg + 4, new);
 112                 pci_read_config_dword(dev, reg + 4, &check);
 113                 if (check != new) {
 114                         dev_err(&dev->dev, "BAR %d: error updating (high %#08x != %#08x)\n",
 115                                 resno, new, check);
 116                 }
 117         }
 118
 119         if (disable)
 120                 pci_write_config_word(dev, PCI_COMMAND, cmd);
 121 }
 122
 123 void pci_update_resource(struct pci_dev *dev, int resno)
 124 {
 125         if (resno <= PCI_ROM_RESOURCE)
 126                 pci_std_update_resource(dev, resno);
 127 #ifdef CONFIG_PCI_IOV
 128         else if (resno >= PCI_IOV_RESOURCES && resno <= PCI_IOV_RESOURCE_END)
 129                 pci_iov_update_resource(dev, resno);
 130 #endif
 131 }
 132
 133 int pci_claim_resource(struct pci_dev *dev, int resource)
 134 {
 135         struct resource *res = &dev->resource[resource];
 136         struct resource *root, *conflict;
 137
 138         if (res->flags & IORESOURCE_UNSET) {
 139                 dev_info(&dev->dev, "can't claim BAR %d %pR: no address assigned\n",
 140                          resource, res);
 141                 return -EINVAL;
 142         }
 143
 144         /*
 145          * If we have a shadow copy in RAM, the PCI device doesn't respond
 146          * to the shadow range, so we don't need to claim it, and upstream
 147          * bridges don't need to route the range to the device.
 148          */
 149         if (res->flags & IORESOURCE_ROM_SHADOW)
 150                 return 0;
 151
 152         root = pci_find_parent_resource(dev, res);
 153         if (!root) {
 154                 dev_info(&dev->dev, "can't claim BAR %d %pR: no compatible bridge window\n",
 155                          resource, res);
 156                 res->flags |= IORESOURCE_UNSET;
 157                 return -EINVAL;
 158         }
 159
 160         conflict = request_resource_conflict(root, res);
 161         if (conflict) {
 162                 dev_info(&dev->dev, "can't claim BAR %d %pR: address conflict with %s %pR\n",
 163                          resource, res, conflict->name, conflict);
 164                 res->flags |= IORESOURCE_UNSET;
 165                 return -EBUSY;
 166         }
 167
 168         return 0;
 169 }
 170 EXPORT_SYMBOL(pci_claim_resource);
 171
 172 void pci_disable_bridge_window(struct pci_dev *dev)
 173 {
 174         dev_info(&dev->dev, "disabling bridge mem windows\n");
 175
 176         /* MMIO Base/Limit */
 177         pci_write_config_dword(dev, PCI_MEMORY_BASE, 0x0000fff0);
 178
 179         /* Prefetchable MMIO Base/Limit */
 180         pci_write_config_dword(dev, PCI_PREF_LIMIT_UPPER32, 0);
 181         pci_write_config_dword(dev, PCI_PREF_MEMORY_BASE, 0x0000fff0);
 182         pci_write_config_dword(dev, PCI_PREF_BASE_UPPER32, 0xffffffff);
 183 }
 184
 185 /*
 186  * Generic function that returns a value indicating that the device's
 187  * original BIOS BAR address was not saved and so is not available for
 188  * reinstatement.
 189  *
 190  * Can be over-ridden by architecture specific code that implements
 191  * reinstatement functionality rather than leaving it disabled when
 192  * normal allocation attempts fail.
 193  */
 194 resource_size_t __weak pcibios_retrieve_fw_addr(struct pci_dev *dev, int idx)
 195 {
 196         return 0;
 197 }
 198
 199 static int pci_revert_fw_address(struct resource *res, struct pci_dev *dev,
 200                 int resno, resource_size_t size)
 201 {
 202         struct resource *root, *conflict;
 203         resource_size_t fw_addr, start, end;
 204
 205         fw_addr = pcibios_retrieve_fw_addr(dev, resno);
 206         if (!fw_addr)
 207                 return -ENOMEM;
 208
 209         start = res->start;
 210         end = res->end;
 211         res->start = fw_addr;
 212         res->end = res->start + size - 1;
 213         res->flags &= ~IORESOURCE_UNSET;
 214
 215         root = pci_find_parent_resource(dev, res);
 216         if (!root) {
 217                 /*
 218                  * If dev is behind a bridge, accesses will only reach it
 219                  * if res is inside the relevant bridge window.
 220                  */
 221                 if (pci_upstream_bridge(dev))
 222                         return -ENXIO;
 223
 224                 /*
 225                  * On the root bus, assume the host bridge will forward
 226                  * everything.
 227                  */
 228                 if (res->flags & IORESOURCE_IO)
 229                         root = &ioport_resource;
 230                 else
 231                         root = &iomem_resource;
 232         }
 233
 234         dev_info(&dev->dev, "BAR %d: trying firmware assignment %pR\n",
 235                  resno, res);
 236         conflict = request_resource_conflict(root, res);
 237         if (conflict) {
 238                 dev_info(&dev->dev, "BAR %d: %pR conflicts with %s %pR\n",
 239                          resno, res, conflict->name, conflict);
 240                 res->start = start;
 241                 res->end = end;
 242                 res->flags |= IORESOURCE_UNSET;
 243                 return -EBUSY;
 244         }
 245         return 0;
 246 }
 247
 248 static int __pci_assign_resource(struct pci_bus *bus, struct pci_dev *dev,
 249                 int resno, resource_size_t size, resource_size_t align)
 250 {
 251         struct resource *res = dev->resource + resno;
 252         resource_size_t min;
 253         int ret;
 254
 255         min = (res->flags & IORESOURCE_IO) ? PCIBIOS_MIN_IO : PCIBIOS_MIN_MEM;
 256
 257         /*
 258          * First, try exact prefetching match.  Even if a 64-bit
 259          * prefetchable bridge window is below 4GB, we can't put a 32-bit
 260          * prefetchable resource in it because pbus_size_mem() assumes a
 261          * 64-bit window will contain no 32-bit resources.  If we assign
 262          * things differently than they were sized, not everything will fit.
 263          */
 264         ret = pci_bus_alloc_resource(bus, res, size, align, min,
 265                                      IORESOURCE_PREFETCH | IORESOURCE_MEM_64,
 266                                      pcibios_align_resource, dev);
 267         if (ret == 0)
 268                 return 0;
 269
 270         /*
 271          * If the prefetchable window is only 32 bits wide, we can put
 272          * 64-bit prefetchable resources in it.
 273          */
 274         if ((res->flags & (IORESOURCE_PREFETCH | IORESOURCE_MEM_64)) ==
 275              (IORESOURCE_PREFETCH | IORESOURCE_MEM_64)) {
 276                 ret = pci_bus_alloc_resource(bus, res, size, align, min,
 277                                              IORESOURCE_PREFETCH,
 278                                              pcibios_align_resource, dev);
 279                 if (ret == 0)
 280                         return 0;
 281         }
 282
 283         /*
 284          * If we didn't find a better match, we can put any memory resource
 285          * in a non-prefetchable window.  If this resource is 32 bits and
 286          * non-prefetchable, the first call already tried the only possibility
 287          * so we don't need to try again.
 288          */
 289         if (res->flags & (IORESOURCE_PREFETCH | IORESOURCE_MEM_64))
 290                 ret = pci_bus_alloc_resource(bus, res, size, align, min, 0,
 291                                              pcibios_align_resource, dev);
 292
 293         return ret;
 294 }
 295
 296 static int _pci_assign_resource(struct pci_dev *dev, int resno,
 297                                 resource_size_t size, resource_size_t min_align)
 298 {
 299         struct pci_bus *bus;
 300         int ret;
 301
 302         bus = dev->bus;
 303         while ((ret = __pci_assign_resource(bus, dev, resno, size, min_align))) {
 304                 if (!bus->parent || !bus->self->transparent)
 305                         break;
 306                 bus = bus->parent;
 307         }
 308
 309         return ret;
 310 }
 311
 312 int pci_assign_resource(struct pci_dev *dev, int resno)
 313 {
 314         struct resource *res = dev->resource + resno;
 315         resource_size_t align, size;
 316         int ret;
 317
 318         if (res->flags & IORESOURCE_PCI_FIXED)
 319                 return 0;
 320
 321         res->flags |= IORESOURCE_UNSET;
 322         align = pci_resource_alignment(dev, res);
 323         if (!align) {
 324                 dev_info(&dev->dev, "BAR %d: can't assign %pR (bogus alignment)\n",
 325                          resno, res);
 326                 return -EINVAL;
 327         }
 328
 329         size = resource_size(res);
 330         ret = _pci_assign_resource(dev, resno, size, align);
 331
 332         /*
 333          * If we failed to assign anything, let's try the address
 334          * where firmware left it.  That at least has a chance of
 335          * working, which is better than just leaving it disabled.
 336          */
 337         if (ret < 0) {
 338                 dev_info(&dev->dev, "BAR %d: no space for %pR\n", resno, res);
 339                 ret = pci_revert_fw_address(res, dev, resno, size);
 340         }
 341
 342         if (ret < 0) {
 343                 dev_info(&dev->dev, "BAR %d: failed to assign %pR\n", resno,
 344                          res);
 345                 return ret;
 346         }
 347
 348         res->flags &= ~IORESOURCE_UNSET;
 349         res->flags &= ~IORESOURCE_STARTALIGN;
 350         dev_info(&dev->dev, "BAR %d: assigned %pR\n", resno, res);
 351         if (resno < PCI_BRIDGE_RESOURCES)
 352                 pci_update_resource(dev, resno);
 353
 354         return 0;
 355 }
 356 EXPORT_SYMBOL(pci_assign_resource);
 357
 358 int pci_reassign_resource(struct pci_dev *dev, int resno, resource_size_t addsize,
 359                         resource_size_t min_align)
 360 {
 361         struct resource *res = dev->resource + resno;
 362         unsigned long flags;
 363         resource_size_t new_size;
 364         int ret;
 365
 366         if (res->flags & IORESOURCE_PCI_FIXED)
 367                 return 0;
 368
 369         flags = res->flags;
 370         res->flags |= IORESOURCE_UNSET;
 371         if (!res->parent) {
 372                 dev_info(&dev->dev, "BAR %d: can't reassign an unassigned resource %pR\n",
 373                          resno, res);
 374                 return -EINVAL;
 375         }
 376
 377         /* already aligned with min_align */
 378         new_size = resource_size(res) + addsize;
 379         ret = _pci_assign_resource(dev, resno, new_size, min_align);
 380         if (ret) {
 381                 res->flags = flags;
 382                 dev_info(&dev->dev, "BAR %d: %pR (failed to expand by %#llx)\n",
 383                          resno, res, (unsigned long long) addsize);
 384                 return ret;
 385         }
 386
 387         res->flags &= ~IORESOURCE_UNSET;
 388         res->flags &= ~IORESOURCE_STARTALIGN;
 389         dev_info(&dev->dev, "BAR %d: reassigned %pR (expanded by %#llx)\n",
 390                  resno, res, (unsigned long long) addsize);
 391         if (resno < PCI_BRIDGE_RESOURCES)
 392                 pci_update_resource(dev, resno);
 393
 394         return 0;
 395 }
 396
 397 int pci_enable_resources(struct pci_dev *dev, int mask)
 398 {
 399         u16 cmd, old_cmd;
 400         int i;
 401         struct resource *r;
 402
 403         pci_read_config_word(dev, PCI_COMMAND, &cmd);
 404         old_cmd = cmd;
 405
 406         for (i = 0; i < PCI_NUM_RESOURCES; i++) {
 407                 if (!(mask & (1 << i)))
 408                         continue;
 409
 410                 r = &dev->resource[i];
 411
 412                 if (!(r->flags & (IORESOURCE_IO | IORESOURCE_MEM)))
 413                         continue;
 414                 if ((i == PCI_ROM_RESOURCE) &&
 415                                 (!(r->flags & IORESOURCE_ROM_ENABLE)))
 416                         continue;
 417
 418                 if (r->flags & IORESOURCE_UNSET) {
 419                         dev_err(&dev->dev, "can't enable device: BAR %d %pR not assigned\n",
 420                                 i, r);
 421                         return -EINVAL;
 422                 }
 423
 424                 if (!r->parent) {
 425                         dev_err(&dev->dev, "can't enable device: BAR %d %pR not claimed\n",
 426                                 i, r);
 427                         return -EINVAL;
 428                 }
 429
 430                 if (r->flags & IORESOURCE_IO)
 431                         cmd |= PCI_COMMAND_IO;
 432                 if (r->flags & IORESOURCE_MEM)
 433                         cmd |= PCI_COMMAND_MEMORY;
 434         }
 435
 436         if (cmd != old_cmd) {
 437                 dev_info(&dev->dev, "enabling device (%04x -> %04x)\n",
 438                          old_cmd, cmd);
 439                 pci_write_config_word(dev, PCI_COMMAND, cmd);
 440         }
 441         return 0;
 442 }