arch/x86/kernel/acpi/boot.c

   1 /*
   2  *  boot.c - Architecture-Specific Low-Level ACPI Boot Support
   3  *
   4  *  Copyright (C) 2001, 2002 Paul Diefenbaugh <paul.s.diefenbaugh@intel.com>
   5  *  Copyright (C) 2001 Jun Nakajima <jun.nakajima@intel.com>
   6  *
   7  * ~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~
   8  *
   9  *  This program is free software; you can redistribute it and/or modify
  10  *  it under the terms of the GNU General Public License as published by
  11  *  the Free Software Foundation; either version 2 of the License, or
  12  *  (at your option) any later version.
  13  *
  14  *  This program is distributed in the hope that it will be useful,
  15  *  but WITHOUT ANY WARRANTY; without even the implied warranty of
  16  *  MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
  17  *  GNU General Public License for more details.
  18  *
  19  *  You should have received a copy of the GNU General Public License
  20  *  along with this program; if not, write to the Free Software
  21  *  Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307  USA
  22  *
  23  * ~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~
  24  */
  25
  26 #include <linux/init.h>
  27 #include <linux/acpi.h>
  28 #include <linux/acpi_pmtmr.h>
  29 #include <linux/efi.h>
  30 #include <linux/cpumask.h>
  31 #include <linux/export.h>
  32 #include <linux/dmi.h>
  33 #include <linux/irq.h>
  34 #include <linux/slab.h>
  35 #include <linux/bootmem.h>
  36 #include <linux/ioport.h>
  37 #include <linux/pci.h>
  38 #include <linux/efi-bgrt.h>
  39 #include <linux/serial_core.h>
  40
  41 #include <asm/e820/api.h>
  42 #include <asm/irqdomain.h>
  43 #include <asm/pci_x86.h>
  44 #include <asm/pgtable.h>
  45 #include <asm/io_apic.h>
  46 #include <asm/apic.h>
  47 #include <asm/io.h>
  48 #include <asm/mpspec.h>
  49 #include <asm/smp.h>
  50 #include <asm/i8259.h>
  51
  52 #include "sleep.h" /* To include x86_acpi_suspend_lowlevel */
  53 static int __initdata acpi_force = 0;
  54 int acpi_disabled;
  55 EXPORT_SYMBOL(acpi_disabled);
  56
  57 #ifdef  CONFIG_X86_64
  58 # include <asm/proto.h>
  59 #endif                          /* X86 */
  60
  61 #define PREFIX                  "ACPI: "
  62
  63 int acpi_noirq;                         /* skip ACPI IRQ initialization */
  64 int acpi_pci_disabled;          /* skip ACPI PCI scan and IRQ initialization */
  65 EXPORT_SYMBOL(acpi_pci_disabled);
  66
  67 int acpi_lapic;
  68 int acpi_ioapic;
  69 int acpi_strict;
  70 int acpi_disable_cmcff;
  71
  72 /* ACPI SCI override configuration */
  73 u8 acpi_sci_flags __initdata;
  74 u32 acpi_sci_override_gsi __initdata = INVALID_ACPI_IRQ;
  75 int acpi_skip_timer_override __initdata;
  76 int acpi_use_timer_override __initdata;
  77 int acpi_fix_pin2_polarity __initdata;
  78
  79 #ifdef CONFIG_X86_LOCAL_APIC
  80 static u64 acpi_lapic_addr __initdata = APIC_DEFAULT_PHYS_BASE;
  81 #endif
  82
  83 #ifdef CONFIG_X86_IO_APIC
  84 /*
  85  * Locks related to IOAPIC hotplug
  86  * Hotplug side:
  87  *      ->device_hotplug_lock
  88  *              ->acpi_ioapic_lock
  89  *                      ->ioapic_lock
  90  * Interrupt mapping side:
  91  *      ->acpi_ioapic_lock
  92  *              ->ioapic_mutex
  93  *                      ->ioapic_lock
  94  */
  95 static DEFINE_MUTEX(acpi_ioapic_lock);
  96 #endif
  97
  98 /* --------------------------------------------------------------------------
  99                               Boot-time Configuration
 100    -------------------------------------------------------------------------- */
 101
 102 /*
 103  * The default interrupt routing model is PIC (8259).  This gets
 104  * overridden if IOAPICs are enumerated (below).
 105  */
 106 enum acpi_irq_model_id acpi_irq_model = ACPI_IRQ_MODEL_PIC;
 107
 108
 109 /*
 110  * ISA irqs by default are the first 16 gsis but can be
 111  * any gsi as specified by an interrupt source override.
 112  */
 113 static u32 isa_irq_to_gsi[NR_IRQS_LEGACY] __read_mostly = {
 114         0, 1, 2, 3, 4, 5, 6, 7, 8, 9, 10, 11, 12, 13, 14, 15
 115 };
 116
 117 /*
 118  * This is just a simple wrapper around early_memremap(),
 119  * with sanity checks for phys == 0 and size == 0.
 120  */
 121 void __init __iomem *__acpi_map_table(unsigned long phys, unsigned long size)
 122 {
 123
 124         if (!phys || !size)
 125                 return NULL;
 126
 127         return early_memremap(phys, size);
 128 }
 129
 130 void __init __acpi_unmap_table(void __iomem *map, unsigned long size)
 131 {
 132         if (!map || !size)
 133                 return;
 134
 135         early_memunmap(map, size);
 136 }
 137
 138 #ifdef CONFIG_X86_LOCAL_APIC
 139 static int __init acpi_parse_madt(struct acpi_table_header *table)
 140 {
 141         struct acpi_table_madt *madt = NULL;
 142
 143         if (!boot_cpu_has(X86_FEATURE_APIC))
 144                 return -EINVAL;
 145
 146         madt = (struct acpi_table_madt *)table;
 147         if (!madt) {
 148                 printk(KERN_WARNING PREFIX "Unable to map MADT\n");
 149                 return -ENODEV;
 150         }
 151
 152         if (madt->address) {
 153                 acpi_lapic_addr = (u64) madt->address;
 154
 155                 printk(KERN_DEBUG PREFIX "Local APIC address 0x%08x\n",
 156                        madt->address);
 157         }
 158
 159         default_acpi_madt_oem_check(madt->header.oem_id,
 160                                     madt->header.oem_table_id);
 161
 162         return 0;
 163 }
 164
 165 /**
 166  * acpi_register_lapic - register a local apic and generates a logic cpu number
 167  * @id: local apic id to register
 168  * @acpiid: ACPI id to register
 169  * @enabled: this cpu is enabled or not
 170  *
 171  * Returns the logic cpu number which maps to the local apic
 172  */
 173 static int acpi_register_lapic(int id, u32 acpiid, u8 enabled)
 174 {
 175         unsigned int ver = 0;
 176         int cpu;
 177
 178         if (id >= MAX_LOCAL_APIC) {
 179                 printk(KERN_INFO PREFIX "skipped apicid that is too big\n");
 180                 return -EINVAL;
 181         }
 182
 183         if (!enabled) {
 184                 ++disabled_cpus;
 185                 return -EINVAL;
 186         }
 187
 188         if (boot_cpu_physical_apicid != -1U)
 189                 ver = boot_cpu_apic_version;
 190
 191         cpu = generic_processor_info(id, ver);
 192         if (cpu >= 0)
 193                 early_per_cpu(x86_cpu_to_acpiid, cpu) = acpiid;
 194
 195         return cpu;
 196 }
 197
 198 static int __init
 199 acpi_parse_x2apic(struct acpi_subtable_header *header, const unsigned long end)
 200 {
 201         struct acpi_madt_local_x2apic *processor = NULL;
 202 #ifdef CONFIG_X86_X2APIC
 203         u32 apic_id;
 204         u8 enabled;
 205 #endif
 206
 207         processor = (struct acpi_madt_local_x2apic *)header;
 208
 209         if (BAD_MADT_ENTRY(processor, end))
 210                 return -EINVAL;
 211
 212         acpi_table_print_madt_entry(header);
 213
 214 #ifdef CONFIG_X86_X2APIC
 215         apic_id = processor->local_apic_id;
 216         enabled = processor->lapic_flags & ACPI_MADT_ENABLED;
 217
 218         /* Ignore invalid ID */
 219         if (apic_id == 0xffffffff)
 220                 return 0;
 221
 222         /*
 223          * We need to register disabled CPU as well to permit
 224          * counting disabled CPUs. This allows us to size
 225          * cpus_possible_map more accurately, to permit
 226          * to not preallocating memory for all NR_CPUS
 227          * when we use CPU hotplug.
 228          */
 229         if (!apic->apic_id_valid(apic_id)) {
 230                 if (enabled)
 231                         pr_warn(PREFIX "x2apic entry ignored\n");
 232                 return 0;
 233         }
 234
 235         acpi_register_lapic(apic_id, processor->uid, enabled);
 236 #else
 237         printk(KERN_WARNING PREFIX "x2apic entry ignored\n");
 238 #endif
 239
 240         return 0;
 241 }
 242
 243 static int __init
 244 acpi_parse_lapic(struct acpi_subtable_header * header, const unsigned long end)
 245 {
 246         struct acpi_madt_local_apic *processor = NULL;
 247
 248         processor = (struct acpi_madt_local_apic *)header;
 249
 250         if (BAD_MADT_ENTRY(processor, end))
 251                 return -EINVAL;
 252
 253         acpi_table_print_madt_entry(header);
 254
 255         /* Ignore invalid ID */
 256         if (processor->id == 0xff)
 257                 return 0;
 258
 259         /*
 260          * We need to register disabled CPU as well to permit
 261          * counting disabled CPUs. This allows us to size
 262          * cpus_possible_map more accurately, to permit
 263          * to not preallocating memory for all NR_CPUS
 264          * when we use CPU hotplug.
 265          */
 266         acpi_register_lapic(processor->id,      /* APIC ID */
 267                             processor->processor_id, /* ACPI ID */
 268                             processor->lapic_flags & ACPI_MADT_ENABLED);
 269
 270         return 0;
 271 }
 272
 273 static int __init
 274 acpi_parse_sapic(struct acpi_subtable_header *header, const unsigned long end)
 275 {
 276         struct acpi_madt_local_sapic *processor = NULL;
 277
 278         processor = (struct acpi_madt_local_sapic *)header;
 279
 280         if (BAD_MADT_ENTRY(processor, end))
 281                 return -EINVAL;
 282
 283         acpi_table_print_madt_entry(header);
 284
 285         acpi_register_lapic((processor->id << 8) | processor->eid,/* APIC ID */
 286                             processor->processor_id, /* ACPI ID */
 287                             processor->lapic_flags & ACPI_MADT_ENABLED);
 288
 289         return 0;
 290 }
 291
 292 static int __init
 293 acpi_parse_lapic_addr_ovr(struct acpi_subtable_header * header,
 294                           const unsigned long end)
 295 {
 296         struct acpi_madt_local_apic_override *lapic_addr_ovr = NULL;
 297
 298         lapic_addr_ovr = (struct acpi_madt_local_apic_override *)header;
 299
 300         if (BAD_MADT_ENTRY(lapic_addr_ovr, end))
 301                 return -EINVAL;
 302
 303         acpi_table_print_madt_entry(header);
 304
 305         acpi_lapic_addr = lapic_addr_ovr->address;
 306
 307         return 0;
 308 }
 309
 310 static int __init
 311 acpi_parse_x2apic_nmi(struct acpi_subtable_header *header,
 312                       const unsigned long end)
 313 {
 314         struct acpi_madt_local_x2apic_nmi *x2apic_nmi = NULL;
 315
 316         x2apic_nmi = (struct acpi_madt_local_x2apic_nmi *)header;
 317
 318         if (BAD_MADT_ENTRY(x2apic_nmi, end))
 319                 return -EINVAL;
 320
 321         acpi_table_print_madt_entry(header);
 322
 323         if (x2apic_nmi->lint != 1)
 324                 printk(KERN_WARNING PREFIX "NMI not connected to LINT 1!\n");
 325
 326         return 0;
 327 }
 328
 329 static int __init
 330 acpi_parse_lapic_nmi(struct acpi_subtable_header * header, const unsigned long end)
 331 {
 332         struct acpi_madt_local_apic_nmi *lapic_nmi = NULL;
 333
 334         lapic_nmi = (struct acpi_madt_local_apic_nmi *)header;
 335
 336         if (BAD_MADT_ENTRY(lapic_nmi, end))
 337                 return -EINVAL;
 338
 339         acpi_table_print_madt_entry(header);
 340
 341         if (lapic_nmi->lint != 1)
 342                 printk(KERN_WARNING PREFIX "NMI not connected to LINT 1!\n");
 343
 344         return 0;
 345 }
 346
 347 #endif                          /*CONFIG_X86_LOCAL_APIC */
 348
 349 #ifdef CONFIG_X86_IO_APIC
 350 #define MP_ISA_BUS              0
 351
 352 static int __init mp_register_ioapic_irq(u8 bus_irq, u8 polarity,
 353                                                 u8 trigger, u32 gsi);
 354
 355 static void __init mp_override_legacy_irq(u8 bus_irq, u8 polarity, u8 trigger,
 356                                           u32 gsi)
 357 {
 358         /*
 359          * Check bus_irq boundary.
 360          */
 361         if (bus_irq >= NR_IRQS_LEGACY) {
 362                 pr_warn("Invalid bus_irq %u for legacy override\n", bus_irq);
 363                 return;
 364         }
 365
 366         /*
 367          * TBD: This check is for faulty timer entries, where the override
 368          *      erroneously sets the trigger to level, resulting in a HUGE
 369          *      increase of timer interrupts!
 370          */
 371         if ((bus_irq == 0) && (trigger == 3))
 372                 trigger = 1;
 373
 374         if (mp_register_ioapic_irq(bus_irq, polarity, trigger, gsi) < 0)
 375                 return;
 376         /*
 377          * Reset default identity mapping if gsi is also an legacy IRQ,
 378          * otherwise there will be more than one entry with the same GSI
 379          * and acpi_isa_irq_to_gsi() may give wrong result.
 380          */
 381         if (gsi < nr_legacy_irqs() && isa_irq_to_gsi[gsi] == gsi)
 382                 isa_irq_to_gsi[gsi] = INVALID_ACPI_IRQ;
 383         isa_irq_to_gsi[bus_irq] = gsi;
 384 }
 385
 386 static int mp_config_acpi_gsi(struct device *dev, u32 gsi, int trigger,
 387                         int polarity)
 388 {
 389 #ifdef CONFIG_X86_MPPARSE
 390         struct mpc_intsrc mp_irq;
 391         struct pci_dev *pdev;
 392         unsigned char number;
 393         unsigned int devfn;
 394         int ioapic;
 395         u8 pin;
 396
 397         if (!acpi_ioapic)
 398                 return 0;
 399         if (!dev || !dev_is_pci(dev))
 400                 return 0;
 401
 402         pdev = to_pci_dev(dev);
 403         number = pdev->bus->number;
 404         devfn = pdev->devfn;
 405         pin = pdev->pin;
 406         /* print the entry should happen on mptable identically */
 407         mp_irq.type = MP_INTSRC;
 408         mp_irq.irqtype = mp_INT;
 409         mp_irq.irqflag = (trigger == ACPI_EDGE_SENSITIVE ? 4 : 0x0c) |
 410                                 (polarity == ACPI_ACTIVE_HIGH ? 1 : 3);
 411         mp_irq.srcbus = number;
 412         mp_irq.srcbusirq = (((devfn >> 3) & 0x1f) << 2) | ((pin - 1) & 3);
 413         ioapic = mp_find_ioapic(gsi);
 414         mp_irq.dstapic = mpc_ioapic_id(ioapic);
 415         mp_irq.dstirq = mp_find_ioapic_pin(ioapic, gsi);
 416
 417         mp_save_irq(&mp_irq);
 418 #endif
 419         return 0;
 420 }
 421
 422 static int __init mp_register_ioapic_irq(u8 bus_irq, u8 polarity,
 423                                                 u8 trigger, u32 gsi)
 424 {
 425         struct mpc_intsrc mp_irq;
 426         int ioapic, pin;
 427
 428         /* Convert 'gsi' to 'ioapic.pin'(INTIN#) */
 429         ioapic = mp_find_ioapic(gsi);
 430         if (ioapic < 0) {
 431                 pr_warn("Failed to find ioapic for gsi : %u\n", gsi);
 432                 return ioapic;
 433         }
 434
 435         pin = mp_find_ioapic_pin(ioapic, gsi);
 436
 437         mp_irq.type = MP_INTSRC;
 438         mp_irq.irqtype = mp_INT;
 439         mp_irq.irqflag = (trigger << 2) | polarity;
 440         mp_irq.srcbus = MP_ISA_BUS;
 441         mp_irq.srcbusirq = bus_irq;
 442         mp_irq.dstapic = mpc_ioapic_id(ioapic);
 443         mp_irq.dstirq = pin;
 444
 445         mp_save_irq(&mp_irq);
 446
 447         return 0;
 448 }
 449
 450 static int __init
 451 acpi_parse_ioapic(struct acpi_subtable_header * header, const unsigned long end)
 452 {
 453         struct acpi_madt_io_apic *ioapic = NULL;
 454         struct ioapic_domain_cfg cfg = {
 455                 .type = IOAPIC_DOMAIN_DYNAMIC,
 456                 .ops = &mp_ioapic_irqdomain_ops,
 457         };
 458
 459         ioapic = (struct acpi_madt_io_apic *)header;
 460
 461         if (BAD_MADT_ENTRY(ioapic, end))
 462                 return -EINVAL;
 463
 464         acpi_table_print_madt_entry(header);
 465
 466         /* Statically assign IRQ numbers for IOAPICs hosting legacy IRQs */
 467         if (ioapic->global_irq_base < nr_legacy_irqs())
 468                 cfg.type = IOAPIC_DOMAIN_LEGACY;
 469
 470         mp_register_ioapic(ioapic->id, ioapic->address, ioapic->global_irq_base,
 471                            &cfg);
 472
 473         return 0;
 474 }
 475
 476 /*
 477  * Parse Interrupt Source Override for the ACPI SCI
 478  */
 479 static void __init acpi_sci_ioapic_setup(u8 bus_irq, u16 polarity, u16 trigger, u32 gsi)
 480 {
 481         if (trigger == 0)       /* compatible SCI trigger is level */
 482                 trigger = 3;
 483
 484         if (polarity == 0)      /* compatible SCI polarity is low */
 485                 polarity = 3;
 486
 487         /* Command-line over-ride via acpi_sci= */
 488         if (acpi_sci_flags & ACPI_MADT_TRIGGER_MASK)
 489                 trigger = (acpi_sci_flags & ACPI_MADT_TRIGGER_MASK) >> 2;
 490
 491         if (acpi_sci_flags & ACPI_MADT_POLARITY_MASK)
 492                 polarity = acpi_sci_flags & ACPI_MADT_POLARITY_MASK;
 493
 494         if (bus_irq < NR_IRQS_LEGACY)
 495                 mp_override_legacy_irq(bus_irq, polarity, trigger, gsi);
 496         else
 497                 mp_register_ioapic_irq(bus_irq, polarity, trigger, gsi);
 498
 499         acpi_penalize_sci_irq(bus_irq, trigger, polarity);
 500
 501         /*
 502          * stash over-ride to indicate we've been here
 503          * and for later update of acpi_gbl_FADT
 504          */
 505         acpi_sci_override_gsi = gsi;
 506         return;
 507 }
 508
 509 static int __init
 510 acpi_parse_int_src_ovr(struct acpi_subtable_header * header,
 511                        const unsigned long end)
 512 {
 513         struct acpi_madt_interrupt_override *intsrc = NULL;
 514
 515         intsrc = (struct acpi_madt_interrupt_override *)header;
 516
 517         if (BAD_MADT_ENTRY(intsrc, end))
 518                 return -EINVAL;
 519
 520         acpi_table_print_madt_entry(header);
 521
 522         if (intsrc->source_irq == acpi_gbl_FADT.sci_interrupt) {
 523                 acpi_sci_ioapic_setup(intsrc->source_irq,
 524                                       intsrc->inti_flags & ACPI_MADT_POLARITY_MASK,
 525                                       (intsrc->inti_flags & ACPI_MADT_TRIGGER_MASK) >> 2,
 526                                       intsrc->global_irq);
 527                 return 0;
 528         }
 529
 530         if (intsrc->source_irq == 0) {
 531                 if (acpi_skip_timer_override) {
 532                         printk(PREFIX "BIOS IRQ0 override ignored.\n");
 533                         return 0;
 534                 }
 535
 536                 if ((intsrc->global_irq == 2) && acpi_fix_pin2_polarity
 537                         && (intsrc->inti_flags & ACPI_MADT_POLARITY_MASK)) {
 538                         intsrc->inti_flags &= ~ACPI_MADT_POLARITY_MASK;
 539                         printk(PREFIX "BIOS IRQ0 pin2 override: forcing polarity to high active.\n");
 540                 }
 541         }
 542
 543         mp_override_legacy_irq(intsrc->source_irq,
 544                                 intsrc->inti_flags & ACPI_MADT_POLARITY_MASK,
 545                                 (intsrc->inti_flags & ACPI_MADT_TRIGGER_MASK) >> 2,
 546                                 intsrc->global_irq);
 547
 548         return 0;
 549 }
 550
 551 static int __init
 552 acpi_parse_nmi_src(struct acpi_subtable_header * header, const unsigned long end)
 553 {
 554         struct acpi_madt_nmi_source *nmi_src = NULL;
 555
 556         nmi_src = (struct acpi_madt_nmi_source *)header;
 557
 558         if (BAD_MADT_ENTRY(nmi_src, end))
 559                 return -EINVAL;
 560
 561         acpi_table_print_madt_entry(header);
 562
 563         /* TBD: Support nimsrc entries? */
 564
 565         return 0;
 566 }
 567
 568 #endif                          /* CONFIG_X86_IO_APIC */
 569
 570 /*
 571  * acpi_pic_sci_set_trigger()
 572  *
 573  * use ELCR to set PIC-mode trigger type for SCI
 574  *
 575  * If a PIC-mode SCI is not recognized or gives spurious IRQ7's
 576  * it may require Edge Trigger -- use "acpi_sci=edge"
 577  *
 578  * Port 0x4d0-4d1 are ECLR1 and ECLR2, the Edge/Level Control Registers
 579  * for the 8259 PIC.  bit[n] = 1 means irq[n] is Level, otherwise Edge.
 580  * ECLR1 is IRQs 0-7 (IRQ 0, 1, 2 must be 0)
 581  * ECLR2 is IRQs 8-15 (IRQ 8, 13 must be 0)
 582  */
 583
 584 void __init acpi_pic_sci_set_trigger(unsigned int irq, u16 trigger)
 585 {
 586         unsigned int mask = 1 << irq;
 587         unsigned int old, new;
 588
 589         /* Real old ELCR mask */
 590         old = inb(0x4d0) | (inb(0x4d1) << 8);
 591
 592         /*
 593          * If we use ACPI to set PCI IRQs, then we should clear ELCR
 594          * since we will set it correctly as we enable the PCI irq
 595          * routing.
 596          */
 597         new = acpi_noirq ? old : 0;
 598
 599         /*
 600          * Update SCI information in the ELCR, it isn't in the PCI
 601          * routing tables..
 602          */
 603         switch (trigger) {
 604         case 1:         /* Edge - clear */
 605                 new &= ~mask;
 606                 break;
 607         case 3:         /* Level - set */
 608                 new |= mask;
 609                 break;
 610         }
 611
 612         if (old == new)
 613                 return;
 614
 615         printk(PREFIX "setting ELCR to %04x (from %04x)\n", new, old);
 616         outb(new, 0x4d0);
 617         outb(new >> 8, 0x4d1);
 618 }
 619
 620 int acpi_gsi_to_irq(u32 gsi, unsigned int *irqp)
 621 {
 622         int rc, irq, trigger, polarity;
 623
 624         if (acpi_irq_model == ACPI_IRQ_MODEL_PIC) {
 625                 *irqp = gsi;
 626                 return 0;
 627         }
 628
 629         rc = acpi_get_override_irq(gsi, &trigger, &polarity);
 630         if (rc)
 631                 return rc;
 632
 633         trigger = trigger ? ACPI_LEVEL_SENSITIVE : ACPI_EDGE_SENSITIVE;
 634         polarity = polarity ? ACPI_ACTIVE_LOW : ACPI_ACTIVE_HIGH;
 635         irq = acpi_register_gsi(NULL, gsi, trigger, polarity);
 636         if (irq < 0)
 637                 return irq;
 638
 639         *irqp = irq;
 640         return 0;
 641 }
 642 EXPORT_SYMBOL_GPL(acpi_gsi_to_irq);
 643
 644 int acpi_isa_irq_to_gsi(unsigned isa_irq, u32 *gsi)
 645 {
 646         if (isa_irq < nr_legacy_irqs() &&
 647             isa_irq_to_gsi[isa_irq] != INVALID_ACPI_IRQ) {
 648                 *gsi = isa_irq_to_gsi[isa_irq];
 649                 return 0;
 650         }
 651
 652         return -1;
 653 }
 654
 655 static int acpi_register_gsi_pic(struct device *dev, u32 gsi,
 656                                  int trigger, int polarity)
 657 {
 658 #ifdef CONFIG_PCI
 659         /*
 660          * Make sure all (legacy) PCI IRQs are set as level-triggered.
 661          */
 662         if (trigger == ACPI_LEVEL_SENSITIVE)
 663                 elcr_set_level_irq(gsi);
 664 #endif
 665
 666         return gsi;
 667 }
 668
 669 #ifdef CONFIG_X86_LOCAL_APIC
 670 static int acpi_register_gsi_ioapic(struct device *dev, u32 gsi,
 671                                     int trigger, int polarity)
 672 {
 673         int irq = gsi;
 674 #ifdef CONFIG_X86_IO_APIC
 675         int node;
 676         struct irq_alloc_info info;
 677
 678         node = dev ? dev_to_node(dev) : NUMA_NO_NODE;
 679         trigger = trigger == ACPI_EDGE_SENSITIVE ? 0 : 1;
 680         polarity = polarity == ACPI_ACTIVE_HIGH ? 0 : 1;
 681         ioapic_set_alloc_attr(&info, node, trigger, polarity);
 682
 683         mutex_lock(&acpi_ioapic_lock);
 684         irq = mp_map_gsi_to_irq(gsi, IOAPIC_MAP_ALLOC, &info);
 685         /* Don't set up the ACPI SCI because it's already set up */
 686         if (irq >= 0 && enable_update_mptable && gsi != acpi_gbl_FADT.sci_interrupt)
 687                 mp_config_acpi_gsi(dev, gsi, trigger, polarity);
 688         mutex_unlock(&acpi_ioapic_lock);
 689 #endif
 690
 691         return irq;
 692 }
 693
 694 static void acpi_unregister_gsi_ioapic(u32 gsi)
 695 {
 696 #ifdef CONFIG_X86_IO_APIC
 697         int irq;
 698
 699         mutex_lock(&acpi_ioapic_lock);
 700         irq = mp_map_gsi_to_irq(gsi, 0, NULL);
 701         if (irq > 0)
 702                 mp_unmap_irq(irq);
 703         mutex_unlock(&acpi_ioapic_lock);
 704 #endif
 705 }
 706 #endif
 707
 708 int (*__acpi_register_gsi)(struct device *dev, u32 gsi,
 709                            int trigger, int polarity) = acpi_register_gsi_pic;
 710 void (*__acpi_unregister_gsi)(u32 gsi) = NULL;
 711
 712 #ifdef CONFIG_ACPI_SLEEP
 713 int (*acpi_suspend_lowlevel)(void) = x86_acpi_suspend_lowlevel;
 714 #else
 715 int (*acpi_suspend_lowlevel)(void);
 716 #endif
 717
 718 /*
 719  * success: return IRQ number (>=0)
 720  * failure: return < 0
 721  */
 722 int acpi_register_gsi(struct device *dev, u32 gsi, int trigger, int polarity)
 723 {
 724         return __acpi_register_gsi(dev, gsi, trigger, polarity);
 725 }
 726 EXPORT_SYMBOL_GPL(acpi_register_gsi);
 727
 728 void acpi_unregister_gsi(u32 gsi)
 729 {
 730         if (__acpi_unregister_gsi)
 731                 __acpi_unregister_gsi(gsi);
 732 }
 733 EXPORT_SYMBOL_GPL(acpi_unregister_gsi);
 734
 735 #ifdef CONFIG_X86_LOCAL_APIC
 736 static void __init acpi_set_irq_model_ioapic(void)
 737 {
 738         acpi_irq_model = ACPI_IRQ_MODEL_IOAPIC;
 739         __acpi_register_gsi = acpi_register_gsi_ioapic;
 740         __acpi_unregister_gsi = acpi_unregister_gsi_ioapic;
 741         acpi_ioapic = 1;
 742 }
 743 #endif
 744
 745 /*
 746  *  ACPI based hotplug support for CPU
 747  */
 748 #ifdef CONFIG_ACPI_HOTPLUG_CPU
 749 #include <acpi/processor.h>
 750
 751 static int acpi_map_cpu2node(acpi_handle handle, int cpu, int physid)
 752 {
 753 #ifdef CONFIG_ACPI_NUMA
 754         int nid;
 755
 756         nid = acpi_get_node(handle);
 757         if (nid != NUMA_NO_NODE) {
 758                 set_apicid_to_node(physid, nid);
 759                 numa_set_node(cpu, nid);
 760         }
 761 #endif
 762         return 0;
 763 }
 764
 765 int acpi_map_cpu(acpi_handle handle, phys_cpuid_t physid, u32 acpi_id,
 766                  int *pcpu)
 767 {
 768         int cpu;
 769
 770         cpu = acpi_register_lapic(physid, acpi_id, ACPI_MADT_ENABLED);
 771         if (cpu < 0) {
 772                 pr_info(PREFIX "Unable to map lapic to logical cpu number\n");
 773                 return cpu;
 774         }
 775
 776         acpi_processor_set_pdc(handle);
 777         acpi_map_cpu2node(handle, cpu, physid);
 778
 779         *pcpu = cpu;
 780         return 0;
 781 }
 782 EXPORT_SYMBOL(acpi_map_cpu);
 783
 784 int acpi_unmap_cpu(int cpu)
 785 {
 786 #ifdef CONFIG_ACPI_NUMA
 787         set_apicid_to_node(per_cpu(x86_cpu_to_apicid, cpu), NUMA_NO_NODE);
 788 #endif
 789
 790         per_cpu(x86_cpu_to_apicid, cpu) = -1;
 791         set_cpu_present(cpu, false);
 792         num_processors--;
 793
 794         return (0);
 795 }
 796 EXPORT_SYMBOL(acpi_unmap_cpu);
 797 #endif                          /* CONFIG_ACPI_HOTPLUG_CPU */
 798
 799 int acpi_register_ioapic(acpi_handle handle, u64 phys_addr, u32 gsi_base)
 800 {
 801         int ret = -ENOSYS;
 802 #ifdef CONFIG_ACPI_HOTPLUG_IOAPIC
 803         int ioapic_id;
 804         u64 addr;
 805         struct ioapic_domain_cfg cfg = {
 806                 .type = IOAPIC_DOMAIN_DYNAMIC,
 807                 .ops = &mp_ioapic_irqdomain_ops,
 808         };
 809
 810         ioapic_id = acpi_get_ioapic_id(handle, gsi_base, &addr);
 811         if (ioapic_id < 0) {
 812                 unsigned long long uid;
 813                 acpi_status status;
 814
 815                 status = acpi_evaluate_integer(handle, METHOD_NAME__UID,
 816                                                NULL, &uid);
 817                 if (ACPI_FAILURE(status)) {
 818                         acpi_handle_warn(handle, "failed to get IOAPIC ID.\n");
 819                         return -EINVAL;
 820                 }
 821                 ioapic_id = (int)uid;
 822         }
 823
 824         mutex_lock(&acpi_ioapic_lock);
 825         ret  = mp_register_ioapic(ioapic_id, phys_addr, gsi_base, &cfg);
 826         mutex_unlock(&acpi_ioapic_lock);
 827 #endif
 828
 829         return ret;
 830 }
 831 EXPORT_SYMBOL(acpi_register_ioapic);
 832
 833 int acpi_unregister_ioapic(acpi_handle handle, u32 gsi_base)
 834 {
 835         int ret = -ENOSYS;
 836
 837 #ifdef CONFIG_ACPI_HOTPLUG_IOAPIC
 838         mutex_lock(&acpi_ioapic_lock);
 839         ret  = mp_unregister_ioapic(gsi_base);
 840         mutex_unlock(&acpi_ioapic_lock);
 841 #endif
 842
 843         return ret;
 844 }
 845 EXPORT_SYMBOL(acpi_unregister_ioapic);
 846
 847 /**
 848  * acpi_ioapic_registered - Check whether IOAPIC assoicatied with @gsi_base
 849  *                          has been registered
 850  * @handle:     ACPI handle of the IOAPIC deivce
 851  * @gsi_base:   GSI base associated with the IOAPIC
 852  *
 853  * Assume caller holds some type of lock to serialize acpi_ioapic_registered()
 854  * with acpi_register_ioapic()/acpi_unregister_ioapic().
 855  */
 856 int acpi_ioapic_registered(acpi_handle handle, u32 gsi_base)
 857 {
 858         int ret = 0;
 859
 860 #ifdef CONFIG_ACPI_HOTPLUG_IOAPIC
 861         mutex_lock(&acpi_ioapic_lock);
 862         ret  = mp_ioapic_registered(gsi_base);
 863         mutex_unlock(&acpi_ioapic_lock);
 864 #endif
 865
 866         return ret;
 867 }
 868
 869 static int __init acpi_parse_sbf(struct acpi_table_header *table)
 870 {
 871         struct acpi_table_boot *sb = (struct acpi_table_boot *)table;
 872
 873         sbf_port = sb->cmos_index;      /* Save CMOS port */
 874
 875         return 0;
 876 }
 877
 878 #ifdef CONFIG_HPET_TIMER
 879 #include <asm/hpet.h>
 880
 881 static struct resource *hpet_res __initdata;
 882
 883 static int __init acpi_parse_hpet(struct acpi_table_header *table)
 884 {
 885         struct acpi_table_hpet *hpet_tbl = (struct acpi_table_hpet *)table;
 886
 887         if (hpet_tbl->address.space_id != ACPI_SPACE_MEM) {
 888                 printk(KERN_WARNING PREFIX "HPET timers must be located in "
 889                        "memory.\n");
 890                 return -1;
 891         }
 892
 893         hpet_address = hpet_tbl->address.address;
 894         hpet_blockid = hpet_tbl->sequence;
 895
 896         /*
 897          * Some broken BIOSes advertise HPET at 0x0. We really do not
 898          * want to allocate a resource there.
 899          */
 900         if (!hpet_address) {
 901                 printk(KERN_WARNING PREFIX
 902                        "HPET id: %#x base: %#lx is invalid\n",
 903                        hpet_tbl->id, hpet_address);
 904                 return 0;
 905         }
 906 #ifdef CONFIG_X86_64
 907         /*
 908          * Some even more broken BIOSes advertise HPET at
 909          * 0xfed0000000000000 instead of 0xfed00000. Fix it up and add
 910          * some noise:
 911          */
 912         if (hpet_address == 0xfed0000000000000UL) {
 913                 if (!hpet_force_user) {
 914                         printk(KERN_WARNING PREFIX "HPET id: %#x "
 915                                "base: 0xfed0000000000000 is bogus\n "
 916                                "try hpet=force on the kernel command line to "
 917                                "fix it up to 0xfed00000.\n", hpet_tbl->id);
 918                         hpet_address = 0;
 919                         return 0;
 920                 }
 921                 printk(KERN_WARNING PREFIX
 922                        "HPET id: %#x base: 0xfed0000000000000 fixed up "
 923                        "to 0xfed00000.\n", hpet_tbl->id);
 924                 hpet_address >>= 32;
 925         }
 926 #endif
 927         printk(KERN_INFO PREFIX "HPET id: %#x base: %#lx\n",
 928                hpet_tbl->id, hpet_address);
 929
 930         /*
 931          * Allocate and initialize the HPET firmware resource for adding into
 932          * the resource tree during the lateinit timeframe.
 933          */
 934 #define HPET_RESOURCE_NAME_SIZE 9
 935         hpet_res = alloc_bootmem(sizeof(*hpet_res) + HPET_RESOURCE_NAME_SIZE);
 936
 937         hpet_res->name = (void *)&hpet_res[1];
 938         hpet_res->flags = IORESOURCE_MEM;
 939         snprintf((char *)hpet_res->name, HPET_RESOURCE_NAME_SIZE, "HPET %u",
 940                  hpet_tbl->sequence);
 941
 942         hpet_res->start = hpet_address;
 943         hpet_res->end = hpet_address + (1 * 1024) - 1;
 944
 945         return 0;
 946 }
 947
 948 /*
 949  * hpet_insert_resource inserts the HPET resources used into the resource
 950  * tree.
 951  */
 952 static __init int hpet_insert_resource(void)
 953 {
 954         if (!hpet_res)
 955                 return 1;
 956
 957         return insert_resource(&iomem_resource, hpet_res);
 958 }
 959
 960 late_initcall(hpet_insert_resource);
 961
 962 #else
 963 #define acpi_parse_hpet NULL
 964 #endif
 965
 966 static int __init acpi_parse_fadt(struct acpi_table_header *table)
 967 {
 968         if (!(acpi_gbl_FADT.boot_flags & ACPI_FADT_LEGACY_DEVICES)) {
 969                 pr_debug("ACPI: no legacy devices present\n");
 970                 x86_platform.legacy.devices.pnpbios = 0;
 971         }
 972
 973         if (acpi_gbl_FADT.header.revision >= FADT2_REVISION_ID &&
 974             !(acpi_gbl_FADT.boot_flags & ACPI_FADT_8042) &&
 975             x86_platform.legacy.i8042 != X86_LEGACY_I8042_PLATFORM_ABSENT) {
 976                 pr_debug("ACPI: i8042 controller is absent\n");
 977                 x86_platform.legacy.i8042 = X86_LEGACY_I8042_FIRMWARE_ABSENT;
 978         }
 979
 980         if (acpi_gbl_FADT.boot_flags & ACPI_FADT_NO_CMOS_RTC) {
 981                 pr_debug("ACPI: not registering RTC platform device\n");
 982                 x86_platform.legacy.rtc = 0;
 983         }
 984
 985         if (acpi_gbl_FADT.boot_flags & ACPI_FADT_NO_VGA) {
 986                 pr_debug("ACPI: probing for VGA not safe\n");
 987                 x86_platform.legacy.no_vga = 1;
 988         }
 989
 990 #ifdef CONFIG_X86_PM_TIMER
 991         /* detect the location of the ACPI PM Timer */
 992         if (acpi_gbl_FADT.header.revision >= FADT2_REVISION_ID) {
 993                 /* FADT rev. 2 */
 994                 if (acpi_gbl_FADT.xpm_timer_block.space_id !=
 995                     ACPI_ADR_SPACE_SYSTEM_IO)
 996                         return 0;
 997
 998                 pmtmr_ioport = acpi_gbl_FADT.xpm_timer_block.address;
 999                 /*
1000                  * "X" fields are optional extensions to the original V1.0
1001                  * fields, so we must selectively expand V1.0 fields if the
1002                  * corresponding X field is zero.
1003                  */
1004                 if (!pmtmr_ioport)
1005                         pmtmr_ioport = acpi_gbl_FADT.pm_timer_block;
1006         } else {
1007                 /* FADT rev. 1 */
1008                 pmtmr_ioport = acpi_gbl_FADT.pm_timer_block;
1009         }
1010         if (pmtmr_ioport)
1011                 printk(KERN_INFO PREFIX "PM-Timer IO Port: %#x\n",
1012                        pmtmr_ioport);
1013 #endif
1014         return 0;
1015 }
1016
1017 #ifdef  CONFIG_X86_LOCAL_APIC
1018 /*
1019  * Parse LAPIC entries in MADT
1020  * returns 0 on success, < 0 on error
1021  */
1022
1023 static int __init early_acpi_parse_madt_lapic_addr_ovr(void)
1024 {
1025         int count;
1026
1027         if (!boot_cpu_has(X86_FEATURE_APIC))
1028                 return -ENODEV;
1029
1030         /*
1031          * Note that the LAPIC address is obtained from the MADT (32-bit value)
1032          * and (optionally) overridden by a LAPIC_ADDR_OVR entry (64-bit value).
1033          */
1034
1035         count = acpi_table_parse_madt(ACPI_MADT_TYPE_LOCAL_APIC_OVERRIDE,
1036                                       acpi_parse_lapic_addr_ovr, 0);
1037         if (count < 0) {
1038                 printk(KERN_ERR PREFIX
1039                        "Error parsing LAPIC address override entry\n");
1040                 return count;
1041         }
1042
1043         register_lapic_address(acpi_lapic_addr);
1044
1045         return count;
1046 }
1047
1048 static int __init acpi_parse_madt_lapic_entries(void)
1049 {
1050         int count;
1051         int x2count = 0;
1052         int ret;
1053         struct acpi_subtable_proc madt_proc[2];
1054
1055         if (!boot_cpu_has(X86_FEATURE_APIC))
1056                 return -ENODEV;
1057
1058         count = acpi_table_parse_madt(ACPI_MADT_TYPE_LOCAL_SAPIC,
1059                                       acpi_parse_sapic, MAX_LOCAL_APIC);
1060
1061         if (!count) {
1062                 memset(madt_proc, 0, sizeof(madt_proc));
1063                 madt_proc[0].id = ACPI_MADT_TYPE_LOCAL_APIC;
1064                 madt_proc[0].handler = acpi_parse_lapic;
1065                 madt_proc[1].id = ACPI_MADT_TYPE_LOCAL_X2APIC;
1066                 madt_proc[1].handler = acpi_parse_x2apic;
1067                 ret = acpi_table_parse_entries_array(ACPI_SIG_MADT,
1068                                 sizeof(struct acpi_table_madt),
1069                                 madt_proc, ARRAY_SIZE(madt_proc), MAX_LOCAL_APIC);
1070                 if (ret < 0) {
1071                         printk(KERN_ERR PREFIX
1072                                         "Error parsing LAPIC/X2APIC entries\n");
1073                         return ret;
1074                 }
1075
1076                 count = madt_proc[0].count;
1077                 x2count = madt_proc[1].count;
1078         }
1079         if (!count && !x2count) {
1080                 printk(KERN_ERR PREFIX "No LAPIC entries present\n");
1081                 /* TBD: Cleanup to allow fallback to MPS */
1082                 return -ENODEV;
1083         } else if (count < 0 || x2count < 0) {
1084                 printk(KERN_ERR PREFIX "Error parsing LAPIC entry\n");
1085                 /* TBD: Cleanup to allow fallback to MPS */
1086                 return count;
1087         }
1088
1089         x2count = acpi_table_parse_madt(ACPI_MADT_TYPE_LOCAL_X2APIC_NMI,
1090                                         acpi_parse_x2apic_nmi, 0);
1091         count = acpi_table_parse_madt(ACPI_MADT_TYPE_LOCAL_APIC_NMI,
1092                                       acpi_parse_lapic_nmi, 0);
1093         if (count < 0 || x2count < 0) {
1094                 printk(KERN_ERR PREFIX "Error parsing LAPIC NMI entry\n");
1095                 /* TBD: Cleanup to allow fallback to MPS */
1096                 return count;
1097         }
1098         return 0;
1099 }
1100 #endif                          /* CONFIG_X86_LOCAL_APIC */
1101
1102 #ifdef  CONFIG_X86_IO_APIC
1103 static void __init mp_config_acpi_legacy_irqs(void)
1104 {
1105         int i;
1106         struct mpc_intsrc mp_irq;
1107
1108 #ifdef CONFIG_EISA
1109         /*
1110          * Fabricate the legacy ISA bus (bus #31).
1111          */
1112         mp_bus_id_to_type[MP_ISA_BUS] = MP_BUS_ISA;
1113 #endif
1114         set_bit(MP_ISA_BUS, mp_bus_not_pci);
1115         pr_debug("Bus #%d is ISA (nIRQs: %d)\n", MP_ISA_BUS, nr_legacy_irqs());
1116
1117         /*
1118          * Use the default configuration for the IRQs 0-15.  Unless
1119          * overridden by (MADT) interrupt source override entries.
1120          */
1121         for (i = 0; i < nr_legacy_irqs(); i++) {
1122                 int ioapic, pin;
1123                 unsigned int dstapic;
1124                 int idx;
1125                 u32 gsi;
1126
1127                 /* Locate the gsi that irq i maps to. */
1128                 if (acpi_isa_irq_to_gsi(i, &gsi))
1129                         continue;
1130
1131                 /*
1132                  * Locate the IOAPIC that manages the ISA IRQ.
1133                  */
1134                 ioapic = mp_find_ioapic(gsi);
1135                 if (ioapic < 0)
1136                         continue;
1137                 pin = mp_find_ioapic_pin(ioapic, gsi);
1138                 dstapic = mpc_ioapic_id(ioapic);
1139
1140                 for (idx = 0; idx < mp_irq_entries; idx++) {
1141                         struct mpc_intsrc *irq = mp_irqs + idx;
1142
1143                         /* Do we already have a mapping for this ISA IRQ? */
1144                         if (irq->srcbus == MP_ISA_BUS && irq->srcbusirq == i)
1145                                 break;
1146
1147                         /* Do we already have a mapping for this IOAPIC pin */
1148                         if (irq->dstapic == dstapic && irq->dstirq == pin)
1149                                 break;
1150                 }
1151
1152                 if (idx != mp_irq_entries) {
1153                         printk(KERN_DEBUG "ACPI: IRQ%d used by override.\n", i);
1154                         continue;       /* IRQ already used */
1155                 }
1156
1157                 mp_irq.type = MP_INTSRC;
1158                 mp_irq.irqflag = 0;     /* Conforming */
1159                 mp_irq.srcbus = MP_ISA_BUS;
1160                 mp_irq.dstapic = dstapic;
1161                 mp_irq.irqtype = mp_INT;
1162                 mp_irq.srcbusirq = i; /* Identity mapped */
1163                 mp_irq.dstirq = pin;
1164
1165                 mp_save_irq(&mp_irq);
1166         }
1167 }
1168
1169 /*
1170  * Parse IOAPIC related entries in MADT
1171  * returns 0 on success, < 0 on error
1172  */
1173 static int __init acpi_parse_madt_ioapic_entries(void)
1174 {
1175         int count;
1176
1177         /*
1178          * ACPI interpreter is required to complete interrupt setup,
1179          * so if it is off, don't enumerate the io-apics with ACPI.
1180          * If MPS is present, it will handle them,
1181          * otherwise the system will stay in PIC mode
1182          */
1183         if (acpi_disabled || acpi_noirq)
1184                 return -ENODEV;
1185
1186         if (!boot_cpu_has(X86_FEATURE_APIC))
1187                 return -ENODEV;
1188
1189         /*
1190          * if "noapic" boot option, don't look for IO-APICs
1191          */
1192         if (skip_ioapic_setup) {
1193                 printk(KERN_INFO PREFIX "Skipping IOAPIC probe "
1194                        "due to 'noapic' option.\n");
1195                 return -ENODEV;
1196         }
1197
1198         count = acpi_table_parse_madt(ACPI_MADT_TYPE_IO_APIC, acpi_parse_ioapic,
1199                                       MAX_IO_APICS);
1200         if (!count) {
1201                 printk(KERN_ERR PREFIX "No IOAPIC entries present\n");
1202                 return -ENODEV;
1203         } else if (count < 0) {
1204                 printk(KERN_ERR PREFIX "Error parsing IOAPIC entry\n");
1205                 return count;
1206         }
1207
1208         count = acpi_table_parse_madt(ACPI_MADT_TYPE_INTERRUPT_OVERRIDE,
1209                                       acpi_parse_int_src_ovr, nr_irqs);
1210         if (count < 0) {
1211                 printk(KERN_ERR PREFIX
1212                        "Error parsing interrupt source overrides entry\n");
1213                 /* TBD: Cleanup to allow fallback to MPS */
1214                 return count;
1215         }
1216
1217         /*
1218          * If BIOS did not supply an INT_SRC_OVR for the SCI
1219          * pretend we got one so we can set the SCI flags.
1220          * But ignore setting up SCI on hardware reduced platforms.
1221          */
1222         if (acpi_sci_override_gsi == INVALID_ACPI_IRQ && !acpi_gbl_reduced_hardware)
1223                 acpi_sci_ioapic_setup(acpi_gbl_FADT.sci_interrupt, 0, 0,
1224                                       acpi_gbl_FADT.sci_interrupt);
1225
1226         /* Fill in identity legacy mappings where no override */
1227         mp_config_acpi_legacy_irqs();
1228
1229         count = acpi_table_parse_madt(ACPI_MADT_TYPE_NMI_SOURCE,
1230                                       acpi_parse_nmi_src, nr_irqs);
1231         if (count < 0) {
1232                 printk(KERN_ERR PREFIX "Error parsing NMI SRC entry\n");
1233                 /* TBD: Cleanup to allow fallback to MPS */
1234                 return count;
1235         }
1236
1237         return 0;
1238 }
1239 #else
1240 static inline int acpi_parse_madt_ioapic_entries(void)
1241 {
1242         return -1;
1243 }
1244 #endif  /* !CONFIG_X86_IO_APIC */
1245
1246 static void __init early_acpi_process_madt(void)
1247 {
1248 #ifdef CONFIG_X86_LOCAL_APIC
1249         int error;
1250
1251         if (!acpi_table_parse(ACPI_SIG_MADT, acpi_parse_madt)) {
1252
1253                 /*
1254                  * Parse MADT LAPIC entries
1255                  */
1256                 error = early_acpi_parse_madt_lapic_addr_ovr();
1257                 if (!error) {
1258                         acpi_lapic = 1;
1259                         smp_found_config = 1;
1260                 }
1261                 if (error == -EINVAL) {
1262                         /*
1263                          * Dell Precision Workstation 410, 610 come here.
1264                          */
1265                         printk(KERN_ERR PREFIX
1266                                "Invalid BIOS MADT, disabling ACPI\n");
1267                         disable_acpi();
1268                 }
1269         }
1270 #endif
1271 }
1272
1273 static void __init acpi_process_madt(void)
1274 {
1275 #ifdef CONFIG_X86_LOCAL_APIC
1276         int error;
1277
1278         if (!acpi_table_parse(ACPI_SIG_MADT, acpi_parse_madt)) {
1279
1280                 /*
1281                  * Parse MADT LAPIC entries
1282                  */
1283                 error = acpi_parse_madt_lapic_entries();
1284                 if (!error) {
1285                         acpi_lapic = 1;
1286
1287                         /*
1288                          * Parse MADT IO-APIC entries
1289                          */
1290                         mutex_lock(&acpi_ioapic_lock);
1291                         error = acpi_parse_madt_ioapic_entries();
1292                         mutex_unlock(&acpi_ioapic_lock);
1293                         if (!error) {
1294                                 acpi_set_irq_model_ioapic();
1295
1296                                 smp_found_config = 1;
1297                         }
1298                 }
1299                 if (error == -EINVAL) {
1300                         /*
1301                          * Dell Precision Workstation 410, 610 come here.
1302                          */
1303                         printk(KERN_ERR PREFIX
1304                                "Invalid BIOS MADT, disabling ACPI\n");
1305                         disable_acpi();
1306                 }
1307         } else {
1308                 /*
1309                  * ACPI found no MADT, and so ACPI wants UP PIC mode.
1310                  * In the event an MPS table was found, forget it.
1311                  * Boot with "acpi=off" to use MPS on such a system.
1312                  */
1313                 if (smp_found_config) {
1314                         printk(KERN_WARNING PREFIX
1315                                 "No APIC-table, disabling MPS\n");
1316                         smp_found_config = 0;
1317                 }
1318         }
1319
1320         /*
1321          * ACPI supports both logical (e.g. Hyper-Threading) and physical
1322          * processors, where MPS only supports physical.
1323          */
1324         if (acpi_lapic && acpi_ioapic)
1325                 printk(KERN_INFO "Using ACPI (MADT) for SMP configuration "
1326                        "information\n");
1327         else if (acpi_lapic)
1328                 printk(KERN_INFO "Using ACPI for processor (LAPIC) "
1329                        "configuration information\n");
1330 #endif
1331         return;
1332 }
1333
1334 static int __init disable_acpi_irq(const struct dmi_system_id *d)
1335 {
1336         if (!acpi_force) {
1337                 printk(KERN_NOTICE "%s detected: force use of acpi=noirq\n",
1338                        d->ident);
1339                 acpi_noirq_set();
1340         }
1341         return 0;
1342 }
1343
1344 static int __init disable_acpi_pci(const struct dmi_system_id *d)
1345 {
1346         if (!acpi_force) {
1347                 printk(KERN_NOTICE "%s detected: force use of pci=noacpi\n",
1348                        d->ident);
1349                 acpi_disable_pci();
1350         }
1351         return 0;
1352 }
1353
1354 static int __init disable_acpi_xsdt(const struct dmi_system_id *d)
1355 {
1356         if (!acpi_force) {
1357                 pr_notice("%s detected: force use of acpi=rsdt\n", d->ident);
1358                 acpi_gbl_do_not_use_xsdt = TRUE;
1359         } else {
1360                 pr_notice("Warning: DMI blacklist says broken, but acpi XSDT forced\n");
1361         }
1362         return 0;
1363 }
1364
1365 static int __init dmi_disable_acpi(const struct dmi_system_id *d)
1366 {
1367         if (!acpi_force) {
1368                 printk(KERN_NOTICE "%s detected: acpi off\n", d->ident);
1369                 disable_acpi();
1370         } else {
1371                 printk(KERN_NOTICE
1372                        "Warning: DMI blacklist says broken, but acpi forced\n");
1373         }
1374         return 0;
1375 }
1376
1377 /*
1378  * Force ignoring BIOS IRQ0 override
1379  */
1380 static int __init dmi_ignore_irq0_timer_override(const struct dmi_system_id *d)
1381 {
1382         if (!acpi_skip_timer_override) {
1383                 pr_notice("%s detected: Ignoring BIOS IRQ0 override\n",
1384                         d->ident);
1385                 acpi_skip_timer_override = 1;
1386         }
1387         return 0;
1388 }
1389
1390 /*
1391  * ACPI offers an alternative platform interface model that removes
1392  * ACPI hardware requirements for platforms that do not implement
1393  * the PC Architecture.
1394  *
1395  * We initialize the Hardware-reduced ACPI model here:
1396  */
1397 void __init acpi_generic_reduced_hw_init(void)
1398 {
1399         /*
1400          * Override x86_init functions and bypass legacy PIC in
1401          * hardware reduced ACPI mode.
1402          */
1403         x86_init.timers.timer_init      = x86_init_noop;
1404         x86_init.irqs.pre_vector_init   = x86_init_noop;
1405         legacy_pic                      = &null_legacy_pic;
1406 }
1407
1408 static void __init acpi_reduced_hw_init(void)
1409 {
1410         if (acpi_gbl_reduced_hardware)
1411                 x86_init.acpi.reduced_hw_early_init();
1412 }
1413
1414 /*
1415  * If your system is blacklisted here, but you find that acpi=force
1416  * works for you, please contact linux-acpi@vger.kernel.org
1417  */
1418 static const struct dmi_system_id acpi_dmi_table[] __initconst = {
1419         /*
1420          * Boxes that need ACPI disabled
1421          */
1422         {
1423          .callback = dmi_disable_acpi,
1424          .ident = "IBM Thinkpad",
1425          .matches = {
1426                      DMI_MATCH(DMI_BOARD_VENDOR, "IBM"),
1427                      DMI_MATCH(DMI_BOARD_NAME, "2629H1G"),
1428                      },
1429          },
1430
1431         /*
1432          * Boxes that need ACPI PCI IRQ routing disabled
1433          */
1434         {
1435          .callback = disable_acpi_irq,
1436          .ident = "ASUS A7V",
1437          .matches = {
1438                      DMI_MATCH(DMI_BOARD_VENDOR, "ASUSTeK Computer INC"),
1439                      DMI_MATCH(DMI_BOARD_NAME, "<A7V>"),
1440                      /* newer BIOS, Revision 1011, does work */
1441                      DMI_MATCH(DMI_BIOS_VERSION,
1442                                "ASUS A7V ACPI BIOS Revision 1007"),
1443                      },
1444          },
1445         {
1446                 /*
1447                  * Latest BIOS for IBM 600E (1.16) has bad pcinum
1448                  * for LPC bridge, which is needed for the PCI
1449                  * interrupt links to work. DSDT fix is in bug 5966.
1450                  * 2645, 2646 model numbers are shared with 600/600E/600X
1451                  */
1452          .callback = disable_acpi_irq,
1453          .ident = "IBM Thinkpad 600 Series 2645",
1454          .matches = {
1455                      DMI_MATCH(DMI_BOARD_VENDOR, "IBM"),
1456                      DMI_MATCH(DMI_BOARD_NAME, "2645"),
1457                      },
1458          },
1459         {
1460          .callback = disable_acpi_irq,
1461          .ident = "IBM Thinkpad 600 Series 2646",
1462          .matches = {
1463                      DMI_MATCH(DMI_BOARD_VENDOR, "IBM"),
1464                      DMI_MATCH(DMI_BOARD_NAME, "2646"),
1465                      },
1466          },
1467         /*
1468          * Boxes that need ACPI PCI IRQ routing and PCI scan disabled
1469          */
1470         {                       /* _BBN 0 bug */
1471          .callback = disable_acpi_pci,
1472          .ident = "ASUS PR-DLS",
1473          .matches = {
1474                      DMI_MATCH(DMI_BOARD_VENDOR, "ASUSTeK Computer INC."),
1475                      DMI_MATCH(DMI_BOARD_NAME, "PR-DLS"),
1476                      DMI_MATCH(DMI_BIOS_VERSION,
1477                                "ASUS PR-DLS ACPI BIOS Revision 1010"),
1478                      DMI_MATCH(DMI_BIOS_DATE, "03/21/2003")
1479                      },
1480          },
1481         {
1482          .callback = disable_acpi_pci,
1483          .ident = "Acer TravelMate 36x Laptop",
1484          .matches = {
1485                      DMI_MATCH(DMI_SYS_VENDOR, "Acer"),
1486                      DMI_MATCH(DMI_PRODUCT_NAME, "TravelMate 360"),
1487                      },
1488          },
1489         /*
1490          * Boxes that need ACPI XSDT use disabled due to corrupted tables
1491          */
1492         {
1493          .callback = disable_acpi_xsdt,
1494          .ident = "Advantech DAC-BJ01",
1495          .matches = {
1496                      DMI_MATCH(DMI_SYS_VENDOR, "NEC"),
1497                      DMI_MATCH(DMI_PRODUCT_NAME, "Bearlake CRB Board"),
1498                      DMI_MATCH(DMI_BIOS_VERSION, "V1.12"),
1499                      DMI_MATCH(DMI_BIOS_DATE, "02/01/2011"),
1500                      },
1501          },
1502         {}
1503 };
1504
1505 /* second table for DMI checks that should run after early-quirks */
1506 static const struct dmi_system_id acpi_dmi_table_late[] __initconst = {
1507         /*
1508          * HP laptops which use a DSDT reporting as HP/SB400/10000,
1509          * which includes some code which overrides all temperature
1510          * trip points to 16C if the INTIN2 input of the I/O APIC
1511          * is enabled.  This input is incorrectly designated the
1512          * ISA IRQ 0 via an interrupt source override even though
1513          * it is wired to the output of the master 8259A and INTIN0
1514          * is not connected at all.  Force ignoring BIOS IRQ0
1515          * override in that cases.
1516          */
1517         {
1518          .callback = dmi_ignore_irq0_timer_override,
1519          .ident = "HP nx6115 laptop",
1520          .matches = {
1521                      DMI_MATCH(DMI_SYS_VENDOR, "Hewlett-Packard"),
1522                      DMI_MATCH(DMI_PRODUCT_NAME, "HP Compaq nx6115"),
1523                      },
1524          },
1525         {
1526          .callback = dmi_ignore_irq0_timer_override,
1527          .ident = "HP NX6125 laptop",
1528          .matches = {
1529                      DMI_MATCH(DMI_SYS_VENDOR, "Hewlett-Packard"),
1530                      DMI_MATCH(DMI_PRODUCT_NAME, "HP Compaq nx6125"),
1531                      },
1532          },
1533         {
1534          .callback = dmi_ignore_irq0_timer_override,
1535          .ident = "HP NX6325 laptop",
1536          .matches = {
1537                      DMI_MATCH(DMI_SYS_VENDOR, "Hewlett-Packard"),
1538                      DMI_MATCH(DMI_PRODUCT_NAME, "HP Compaq nx6325"),
1539                      },
1540          },
1541         {
1542          .callback = dmi_ignore_irq0_timer_override,
1543          .ident = "HP 6715b laptop",
1544          .matches = {
1545                      DMI_MATCH(DMI_SYS_VENDOR, "Hewlett-Packard"),
1546                      DMI_MATCH(DMI_PRODUCT_NAME, "HP Compaq 6715b"),
1547                      },
1548          },
1549         {
1550          .callback = dmi_ignore_irq0_timer_override,
1551          .ident = "FUJITSU SIEMENS",
1552          .matches = {
1553                      DMI_MATCH(DMI_SYS_VENDOR, "FUJITSU SIEMENS"),
1554                      DMI_MATCH(DMI_PRODUCT_NAME, "AMILO PRO V2030"),
1555                      },
1556          },
1557         {}
1558 };
1559
1560 /*
1561  * acpi_boot_table_init() and acpi_boot_init()
1562  *  called from setup_arch(), always.
1563  *      1. checksums all tables
1564  *      2. enumerates lapics
1565  *      3. enumerates io-apics
1566  *
1567  * acpi_table_init() is separate to allow reading SRAT without
1568  * other side effects.
1569  *
1570  * side effects of acpi_boot_init:
1571  *      acpi_lapic = 1 if LAPIC found
1572  *      acpi_ioapic = 1 if IOAPIC found
1573  *      if (acpi_lapic && acpi_ioapic) smp_found_config = 1;
1574  *      if acpi_blacklisted() acpi_disabled = 1;
1575  *      acpi_irq_model=...
1576  *      ...
1577  */
1578
1579 void __init acpi_boot_table_init(void)
1580 {
1581         dmi_check_system(acpi_dmi_table);
1582
1583         /*
1584          * If acpi_disabled, bail out
1585          */
1586         if (acpi_disabled)
1587                 return;
1588
1589         /*
1590          * Initialize the ACPI boot-time table parser.
1591          */
1592         if (acpi_locate_initial_tables())
1593                 disable_acpi();
1594         else
1595                 acpi_reserve_initial_tables();
1596 }
1597
1598 int __init early_acpi_boot_init(void)
1599 {
1600         if (acpi_disabled)
1601                 return 1;
1602
1603         acpi_table_init_complete();
1604
1605         acpi_table_parse(ACPI_SIG_BOOT, acpi_parse_sbf);
1606
1607         /*
1608          * blacklist may disable ACPI entirely
1609          */
1610         if (acpi_blacklisted()) {
1611                 if (acpi_force) {
1612                         printk(KERN_WARNING PREFIX "acpi=force override\n");
1613                 } else {
1614                         printk(KERN_WARNING PREFIX "Disabling ACPI support\n");
1615                         disable_acpi();
1616                         return 1;
1617                 }
1618         }
1619
1620         /*
1621          * Process the Multiple APIC Description Table (MADT), if present
1622          */
1623         early_acpi_process_madt();
1624
1625         /*
1626          * Hardware-reduced ACPI mode initialization:
1627          */
1628         acpi_reduced_hw_init();
1629
1630         return 0;
1631 }
1632
1633 int __init acpi_boot_init(void)
1634 {
1635         /* those are executed after early-quirks are executed */
1636         dmi_check_system(acpi_dmi_table_late);
1637
1638         /*
1639          * If acpi_disabled, bail out
1640          */
1641         if (acpi_disabled)
1642                 return 1;
1643
1644         acpi_table_parse(ACPI_SIG_BOOT, acpi_parse_sbf);
1645
1646         /*
1647          * set sci_int and PM timer address
1648          */
1649         acpi_table_parse(ACPI_SIG_FADT, acpi_parse_fadt);
1650
1651         /*
1652          * Process the Multiple APIC Description Table (MADT), if present
1653          */
1654         acpi_process_madt();
1655
1656         acpi_table_parse(ACPI_SIG_HPET, acpi_parse_hpet);
1657         if (IS_ENABLED(CONFIG_ACPI_BGRT))
1658                 acpi_table_parse(ACPI_SIG_BGRT, acpi_parse_bgrt);
1659
1660         if (!acpi_noirq)
1661                 x86_init.pci.init = pci_acpi_init;
1662
1663         /* Do not enable ACPI SPCR console by default */
1664         acpi_parse_spcr(earlycon_acpi_spcr_enable, false);
1665         return 0;
1666 }
1667
1668 static int __init parse_acpi(char *arg)
1669 {
1670         if (!arg)
1671                 return -EINVAL;
1672
1673         /* "acpi=off" disables both ACPI table parsing and interpreter */
1674         if (strcmp(arg, "off") == 0) {
1675                 disable_acpi();
1676         }
1677         /* acpi=force to over-ride black-list */
1678         else if (strcmp(arg, "force") == 0) {
1679                 acpi_force = 1;
1680                 acpi_disabled = 0;
1681         }
1682         /* acpi=strict disables out-of-spec workarounds */
1683         else if (strcmp(arg, "strict") == 0) {
1684                 acpi_strict = 1;
1685         }
1686         /* acpi=rsdt use RSDT instead of XSDT */
1687         else if (strcmp(arg, "rsdt") == 0) {
1688                 acpi_gbl_do_not_use_xsdt = TRUE;
1689         }
1690         /* "acpi=noirq" disables ACPI interrupt routing */
1691         else if (strcmp(arg, "noirq") == 0) {
1692                 acpi_noirq_set();
1693         }
1694         /* "acpi=copy_dsdt" copys DSDT */
1695         else if (strcmp(arg, "copy_dsdt") == 0) {
1696                 acpi_gbl_copy_dsdt_locally = 1;
1697         }
1698         /* "acpi=nocmcff" disables FF mode for corrected errors */
1699         else if (strcmp(arg, "nocmcff") == 0) {
1700                 acpi_disable_cmcff = 1;
1701         } else {
1702                 /* Core will printk when we return error. */
1703                 return -EINVAL;
1704         }
1705         return 0;
1706 }
1707 early_param("acpi", parse_acpi);
1708
1709 /* FIXME: Using pci= for an ACPI parameter is a travesty. */
1710 static int __init parse_pci(char *arg)
1711 {
1712         if (arg && strcmp(arg, "noacpi") == 0)
1713                 acpi_disable_pci();
1714         return 0;
1715 }
1716 early_param("pci", parse_pci);
1717
1718 int __init acpi_mps_check(void)
1719 {
1720 #if defined(CONFIG_X86_LOCAL_APIC) && !defined(CONFIG_X86_MPPARSE)
1721 /* mptable code is not built-in*/
1722         if (acpi_disabled || acpi_noirq) {
1723                 printk(KERN_WARNING "MPS support code is not built-in.\n"
1724                        "Using acpi=off or acpi=noirq or pci=noacpi "
1725                        "may have problem\n");
1726                 return 1;
1727         }
1728 #endif
1729         return 0;
1730 }
1731
1732 #ifdef CONFIG_X86_IO_APIC
1733 static int __init parse_acpi_skip_timer_override(char *arg)
1734 {
1735         acpi_skip_timer_override = 1;
1736         return 0;
1737 }
1738 early_param("acpi_skip_timer_override", parse_acpi_skip_timer_override);
1739
1740 static int __init parse_acpi_use_timer_override(char *arg)
1741 {
1742         acpi_use_timer_override = 1;
1743         return 0;
1744 }
1745 early_param("acpi_use_timer_override", parse_acpi_use_timer_override);
1746 #endif /* CONFIG_X86_IO_APIC */
1747
1748 static int __init setup_acpi_sci(char *s)
1749 {
1750         if (!s)
1751                 return -EINVAL;
1752         if (!strcmp(s, "edge"))
1753                 acpi_sci_flags =  ACPI_MADT_TRIGGER_EDGE |
1754                         (acpi_sci_flags & ~ACPI_MADT_TRIGGER_MASK);
1755         else if (!strcmp(s, "level"))
1756                 acpi_sci_flags = ACPI_MADT_TRIGGER_LEVEL |
1757                         (acpi_sci_flags & ~ACPI_MADT_TRIGGER_MASK);
1758         else if (!strcmp(s, "high"))
1759                 acpi_sci_flags = ACPI_MADT_POLARITY_ACTIVE_HIGH |
1760                         (acpi_sci_flags & ~ACPI_MADT_POLARITY_MASK);
1761         else if (!strcmp(s, "low"))
1762                 acpi_sci_flags = ACPI_MADT_POLARITY_ACTIVE_LOW |
1763                         (acpi_sci_flags & ~ACPI_MADT_POLARITY_MASK);
1764         else
1765                 return -EINVAL;
1766         return 0;
1767 }
1768 early_param("acpi_sci", setup_acpi_sci);
1769
1770 int __acpi_acquire_global_lock(unsigned int *lock)
1771 {
1772         unsigned int old, new, val;
1773         do {
1774                 old = *lock;
1775                 new = (((old & ~0x3) + 2) + ((old >> 1) & 0x1));
1776                 val = cmpxchg(lock, old, new);
1777         } while (unlikely (val != old));
1778         return ((new & 0x3) < 3) ? -1 : 0;
1779 }
1780
1781 int __acpi_release_global_lock(unsigned int *lock)
1782 {
1783         unsigned int old, new, val;
1784         do {
1785                 old = *lock;
1786                 new = old & ~0x3;
1787                 val = cmpxchg(lock, old, new);
1788         } while (unlikely (val != old));
1789         return old & 0x1;
1790 }
1791
1792 void __init arch_reserve_mem_area(acpi_physical_address addr, size_t size)
1793 {
1794         e820__range_add(addr, size, E820_TYPE_ACPI);
1795         e820__update_table_print();
1796 }