drivers/hwmon/coretemp.c

   1 /*
   2  * coretemp.c - Linux kernel module for hardware monitoring
   3  *
   4  * Copyright (C) 2007 Rudolf Marek <r.marek@assembler.cz>
   5  *
   6  * Inspired from many hwmon drivers
   7  *
   8  * This program is free software; you can redistribute it and/or modify
   9  * it under the terms of the GNU General Public License as published by
  10  * the Free Software Foundation; version 2 of the License.
  11  *
  12  * This program is distributed in the hope that it will be useful,
  13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
  14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
  15  * GNU General Public License for more details.
  16  *
  17  * You should have received a copy of the GNU General Public License
  18  * along with this program; if not, write to the Free Software
  19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA
  20  * 02110-1301 USA.
  21  */
  22
  23 #define pr_fmt(fmt) KBUILD_MODNAME ": " fmt
  24
  25 #include <linux/module.h>
  26 #include <linux/init.h>
  27 #include <linux/slab.h>
  28 #include <linux/jiffies.h>
  29 #include <linux/hwmon.h>
  30 #include <linux/sysfs.h>
  31 #include <linux/hwmon-sysfs.h>
  32 #include <linux/err.h>
  33 #include <linux/mutex.h>
  34 #include <linux/list.h>
  35 #include <linux/platform_device.h>
  36 #include <linux/cpu.h>
  37 #include <linux/smp.h>
  38 #include <linux/moduleparam.h>
  39 #include <linux/pci.h>
  40 #include <asm/msr.h>
  41 #include <asm/processor.h>
  42 #include <asm/cpu_device_id.h>
  43
  44 #define DRVNAME "coretemp"
  45
  46 /*
  47  * force_tjmax only matters when TjMax can't be read from the CPU itself.
  48  * When set, it replaces the driver's suboptimal heuristic.
  49  */
  50 static int force_tjmax;
  51 module_param_named(tjmax, force_tjmax, int, 0444);
  52 MODULE_PARM_DESC(tjmax, "TjMax value in degrees Celsius");
  53
  54 #define PKG_SYSFS_ATTR_NO       1       /* Sysfs attribute for package temp */
  55 #define BASE_SYSFS_ATTR_NO      2       /* Sysfs Base attr no for coretemp */
  56 #define NUM_REAL_CORES          128     /* Number of Real cores per cpu */
  57 #define CORETEMP_NAME_LENGTH    19      /* String Length of attrs */
  58 #define MAX_CORE_ATTRS          4       /* Maximum no of basic attrs */
  59 #define TOTAL_ATTRS             (MAX_CORE_ATTRS + 1)
  60 #define MAX_CORE_DATA           (NUM_REAL_CORES + BASE_SYSFS_ATTR_NO)
  61
  62 #define TO_CORE_ID(cpu)         (cpu_data(cpu).cpu_core_id)
  63 #define TO_ATTR_NO(cpu)         (TO_CORE_ID(cpu) + BASE_SYSFS_ATTR_NO)
  64
  65 #ifdef CONFIG_SMP
  66 #define for_each_sibling(i, cpu) \
  67         for_each_cpu(i, topology_sibling_cpumask(cpu))
  68 #else
  69 #define for_each_sibling(i, cpu)        for (i = 0; false; )
  70 #endif
  71
  72 /*
  73  * Per-Core Temperature Data
  74  * @last_updated: The time when the current temperature value was updated
  75  *              earlier (in jiffies).
  76  * @cpu_core_id: The CPU Core from which temperature values should be read
  77  *              This value is passed as "id" field to rdmsr/wrmsr functions.
  78  * @status_reg: One of IA32_THERM_STATUS or IA32_PACKAGE_THERM_STATUS,
  79  *              from where the temperature values should be read.
  80  * @attr_size:  Total number of pre-core attrs displayed in the sysfs.
  81  * @is_pkg_data: If this is 1, the temp_data holds pkgtemp data.
  82  *              Otherwise, temp_data holds coretemp data.
  83  * @valid: If this is 1, the current temperature is valid.
  84  */
  85 struct temp_data {
  86         int temp;
  87         int ttarget;
  88         int tjmax;
  89         unsigned long last_updated;
  90         unsigned int cpu;
  91         u32 cpu_core_id;
  92         u32 status_reg;
  93         int attr_size;
  94         bool is_pkg_data;
  95         bool valid;
  96         struct sensor_device_attribute sd_attrs[TOTAL_ATTRS];
  97         char attr_name[TOTAL_ATTRS][CORETEMP_NAME_LENGTH];
  98         struct attribute *attrs[TOTAL_ATTRS + 1];
  99         struct attribute_group attr_group;
 100         struct mutex update_lock;
 101 };
 102
 103 /* Platform Data per Physical CPU */
 104 struct platform_data {
 105         struct device           *hwmon_dev;
 106         u16                     pkg_id;
 107         struct cpumask          cpumask;
 108         struct temp_data        *core_data[MAX_CORE_DATA];
 109         struct device_attribute name_attr;
 110 };
 111
 112 /* Keep track of how many package pointers we allocated in init() */
 113 static int max_packages __read_mostly;
 114 /* Array of package pointers. Serialized by cpu hotplug lock */
 115 static struct platform_device **pkg_devices;
 116
 117 static ssize_t show_label(struct device *dev,
 118                                 struct device_attribute *devattr, char *buf)
 119 {
 120         struct sensor_device_attribute *attr = to_sensor_dev_attr(devattr);
 121         struct platform_data *pdata = dev_get_drvdata(dev);
 122         struct temp_data *tdata = pdata->core_data[attr->index];
 123
 124         if (tdata->is_pkg_data)
 125                 return sprintf(buf, "Package id %u\n", pdata->pkg_id);
 126
 127         return sprintf(buf, "Core %u\n", tdata->cpu_core_id);
 128 }
 129
 130 static ssize_t show_crit_alarm(struct device *dev,
 131                                 struct device_attribute *devattr, char *buf)
 132 {
 133         u32 eax, edx;
 134         struct sensor_device_attribute *attr = to_sensor_dev_attr(devattr);
 135         struct platform_data *pdata = dev_get_drvdata(dev);
 136         struct temp_data *tdata = pdata->core_data[attr->index];
 137
 138         mutex_lock(&tdata->update_lock);
 139         rdmsr_on_cpu(tdata->cpu, tdata->status_reg, &eax, &edx);
 140         mutex_unlock(&tdata->update_lock);
 141
 142         return sprintf(buf, "%d\n", (eax >> 5) & 1);
 143 }
 144
 145 static ssize_t show_tjmax(struct device *dev,
 146                         struct device_attribute *devattr, char *buf)
 147 {
 148         struct sensor_device_attribute *attr = to_sensor_dev_attr(devattr);
 149         struct platform_data *pdata = dev_get_drvdata(dev);
 150
 151         return sprintf(buf, "%d\n", pdata->core_data[attr->index]->tjmax);
 152 }
 153
 154 static ssize_t show_ttarget(struct device *dev,
 155                                 struct device_attribute *devattr, char *buf)
 156 {
 157         struct sensor_device_attribute *attr = to_sensor_dev_attr(devattr);
 158         struct platform_data *pdata = dev_get_drvdata(dev);
 159
 160         return sprintf(buf, "%d\n", pdata->core_data[attr->index]->ttarget);
 161 }
 162
 163 static ssize_t show_temp(struct device *dev,
 164                         struct device_attribute *devattr, char *buf)
 165 {
 166         u32 eax, edx;
 167         struct sensor_device_attribute *attr = to_sensor_dev_attr(devattr);
 168         struct platform_data *pdata = dev_get_drvdata(dev);
 169         struct temp_data *tdata = pdata->core_data[attr->index];
 170
 171         mutex_lock(&tdata->update_lock);
 172
 173         /* Check whether the time interval has elapsed */
 174         if (!tdata->valid || time_after(jiffies, tdata->last_updated + HZ)) {
 175                 rdmsr_on_cpu(tdata->cpu, tdata->status_reg, &eax, &edx);
 176                 /*
 177                  * Ignore the valid bit. In all observed cases the register
 178                  * value is either low or zero if the valid bit is 0.
 179                  * Return it instead of reporting an error which doesn't
 180                  * really help at all.
 181                  */
 182                 tdata->temp = tdata->tjmax - ((eax >> 16) & 0x7f) * 1000;
 183                 tdata->valid = 1;
 184                 tdata->last_updated = jiffies;
 185         }
 186
 187         mutex_unlock(&tdata->update_lock);
 188         return sprintf(buf, "%d\n", tdata->temp);
 189 }
 190
 191 struct tjmax_pci {
 192         unsigned int device;
 193         int tjmax;
 194 };
 195
 196 static const struct tjmax_pci tjmax_pci_table[] = {
 197         { 0x0708, 110000 },     /* CE41x0 (Sodaville ) */
 198         { 0x0c72, 102000 },     /* Atom S1240 (Centerton) */
 199         { 0x0c73, 95000 },      /* Atom S1220 (Centerton) */
 200         { 0x0c75, 95000 },      /* Atom S1260 (Centerton) */
 201 };
 202
 203 struct tjmax {
 204         char const *id;
 205         int tjmax;
 206 };
 207
 208 static const struct tjmax tjmax_table[] = {
 209         { "CPU  230", 100000 },         /* Model 0x1c, stepping 2       */
 210         { "CPU  330", 125000 },         /* Model 0x1c, stepping 2       */
 211 };
 212
 213 struct tjmax_model {
 214         u8 model;
 215         u8 mask;
 216         int tjmax;
 217 };
 218
 219 #define ANY 0xff
 220
 221 static const struct tjmax_model tjmax_model_table[] = {
 222         { 0x1c, 10, 100000 },   /* D4xx, K4xx, N4xx, D5xx, K5xx, N5xx */
 223         { 0x1c, ANY, 90000 },   /* Z5xx, N2xx, possibly others
 224                                  * Note: Also matches 230 and 330,
 225                                  * which are covered by tjmax_table
 226                                  */
 227         { 0x26, ANY, 90000 },   /* Atom Tunnel Creek (Exx), Lincroft (Z6xx)
 228                                  * Note: TjMax for E6xxT is 110C, but CPU type
 229                                  * is undetectable by software
 230                                  */
 231         { 0x27, ANY, 90000 },   /* Atom Medfield (Z2460) */
 232         { 0x35, ANY, 90000 },   /* Atom Clover Trail/Cloverview (Z27x0) */
 233         { 0x36, ANY, 100000 },  /* Atom Cedar Trail/Cedarview (N2xxx, D2xxx)
 234                                  * Also matches S12x0 (stepping 9), covered by
 235                                  * PCI table
 236                                  */
 237 };
 238
 239 static int adjust_tjmax(struct cpuinfo_x86 *c, u32 id, struct device *dev)
 240 {
 241         /* The 100C is default for both mobile and non mobile CPUs */
 242
 243         int tjmax = 100000;
 244         int tjmax_ee = 85000;
 245         int usemsr_ee = 1;
 246         int err;
 247         u32 eax, edx;
 248         int i;
 249         struct pci_dev *host_bridge = pci_get_bus_and_slot(0, PCI_DEVFN(0, 0));
 250
 251         /*
 252          * Explicit tjmax table entries override heuristics.
 253          * First try PCI host bridge IDs, followed by model ID strings
 254          * and model/stepping information.
 255          */
 256         if (host_bridge && host_bridge->vendor == PCI_VENDOR_ID_INTEL) {
 257                 for (i = 0; i < ARRAY_SIZE(tjmax_pci_table); i++) {
 258                         if (host_bridge->device == tjmax_pci_table[i].device) {
 259                                 pci_dev_put(host_bridge);
 260                                 return tjmax_pci_table[i].tjmax;
 261                         }
 262                 }
 263         }
 264         pci_dev_put(host_bridge);
 265
 266         for (i = 0; i < ARRAY_SIZE(tjmax_table); i++) {
 267                 if (strstr(c->x86_model_id, tjmax_table[i].id))
 268                         return tjmax_table[i].tjmax;
 269         }
 270
 271         for (i = 0; i < ARRAY_SIZE(tjmax_model_table); i++) {
 272                 const struct tjmax_model *tm = &tjmax_model_table[i];
 273                 if (c->x86_model == tm->model &&
 274                     (tm->mask == ANY || c->x86_stepping == tm->mask))
 275                         return tm->tjmax;
 276         }
 277
 278         /* Early chips have no MSR for TjMax */
 279
 280         if (c->x86_model == 0xf && c->x86_stepping < 4)
 281                 usemsr_ee = 0;
 282
 283         if (c->x86_model > 0xe && usemsr_ee) {
 284                 u8 platform_id;
 285
 286                 /*
 287                  * Now we can detect the mobile CPU using Intel provided table
 288                  * http://softwarecommunity.intel.com/Wiki/Mobility/720.htm
 289                  * For Core2 cores, check MSR 0x17, bit 28 1 = Mobile CPU
 290                  */
 291                 err = rdmsr_safe_on_cpu(id, 0x17, &eax, &edx);
 292                 if (err) {
 293                         dev_warn(dev,
 294                                  "Unable to access MSR 0x17, assuming desktop"
 295                                  " CPU\n");
 296                         usemsr_ee = 0;
 297                 } else if (c->x86_model < 0x17 && !(eax & 0x10000000)) {
 298                         /*
 299                          * Trust bit 28 up to Penryn, I could not find any
 300                          * documentation on that; if you happen to know
 301                          * someone at Intel please ask
 302                          */
 303                         usemsr_ee = 0;
 304                 } else {
 305                         /* Platform ID bits 52:50 (EDX starts at bit 32) */
 306                         platform_id = (edx >> 18) & 0x7;
 307
 308                         /*
 309                          * Mobile Penryn CPU seems to be platform ID 7 or 5
 310                          * (guesswork)
 311                          */
 312                         if (c->x86_model == 0x17 &&
 313                             (platform_id == 5 || platform_id == 7)) {
 314                                 /*
 315                                  * If MSR EE bit is set, set it to 90 degrees C,
 316                                  * otherwise 105 degrees C
 317                                  */
 318                                 tjmax_ee = 90000;
 319                                 tjmax = 105000;
 320                         }
 321                 }
 322         }
 323
 324         if (usemsr_ee) {
 325                 err = rdmsr_safe_on_cpu(id, 0xee, &eax, &edx);
 326                 if (err) {
 327                         dev_warn(dev,
 328                                  "Unable to access MSR 0xEE, for Tjmax, left"
 329                                  " at default\n");
 330                 } else if (eax & 0x40000000) {
 331                         tjmax = tjmax_ee;
 332                 }
 333         } else if (tjmax == 100000) {
 334                 /*
 335                  * If we don't use msr EE it means we are desktop CPU
 336                  * (with exeception of Atom)
 337                  */
 338                 dev_warn(dev, "Using relative temperature scale!\n");
 339         }
 340
 341         return tjmax;
 342 }
 343
 344 static bool cpu_has_tjmax(struct cpuinfo_x86 *c)
 345 {
 346         u8 model = c->x86_model;
 347
 348         return model > 0xe &&
 349                model != 0x1c &&
 350                model != 0x26 &&
 351                model != 0x27 &&
 352                model != 0x35 &&
 353                model != 0x36;
 354 }
 355
 356 static int get_tjmax(struct cpuinfo_x86 *c, u32 id, struct device *dev)
 357 {
 358         int err;
 359         u32 eax, edx;
 360         u32 val;
 361
 362         /*
 363          * A new feature of current Intel(R) processors, the
 364          * IA32_TEMPERATURE_TARGET contains the TjMax value
 365          */
 366         err = rdmsr_safe_on_cpu(id, MSR_IA32_TEMPERATURE_TARGET, &eax, &edx);
 367         if (err) {
 368                 if (cpu_has_tjmax(c))
 369                         dev_warn(dev, "Unable to read TjMax from CPU %u\n", id);
 370         } else {
 371                 val = (eax >> 16) & 0xff;
 372                 /*
 373                  * If the TjMax is not plausible, an assumption
 374                  * will be used
 375                  */
 376                 if (val) {
 377                         dev_dbg(dev, "TjMax is %d degrees C\n", val);
 378                         return val * 1000;
 379                 }
 380         }
 381
 382         if (force_tjmax) {
 383                 dev_notice(dev, "TjMax forced to %d degrees C by user\n",
 384                            force_tjmax);
 385                 return force_tjmax * 1000;
 386         }
 387
 388         /*
 389          * An assumption is made for early CPUs and unreadable MSR.
 390          * NOTE: the calculated value may not be correct.
 391          */
 392         return adjust_tjmax(c, id, dev);
 393 }
 394
 395 static int create_core_attrs(struct temp_data *tdata, struct device *dev,
 396                              int attr_no)
 397 {
 398         int i;
 399         static ssize_t (*const rd_ptr[TOTAL_ATTRS]) (struct device *dev,
 400                         struct device_attribute *devattr, char *buf) = {
 401                         show_label, show_crit_alarm, show_temp, show_tjmax,
 402                         show_ttarget };
 403         static const char *const suffixes[TOTAL_ATTRS] = {
 404                 "label", "crit_alarm", "input", "crit", "max"
 405         };
 406
 407         for (i = 0; i < tdata->attr_size; i++) {
 408                 snprintf(tdata->attr_name[i], CORETEMP_NAME_LENGTH,
 409                          "temp%d_%s", attr_no, suffixes[i]);
 410                 sysfs_attr_init(&tdata->sd_attrs[i].dev_attr.attr);
 411                 tdata->sd_attrs[i].dev_attr.attr.name = tdata->attr_name[i];
 412                 tdata->sd_attrs[i].dev_attr.attr.mode = S_IRUGO;
 413                 tdata->sd_attrs[i].dev_attr.show = rd_ptr[i];
 414                 tdata->sd_attrs[i].index = attr_no;
 415                 tdata->attrs[i] = &tdata->sd_attrs[i].dev_attr.attr;
 416         }
 417         tdata->attr_group.attrs = tdata->attrs;
 418         return sysfs_create_group(&dev->kobj, &tdata->attr_group);
 419 }
 420
 421
 422 static int chk_ucode_version(unsigned int cpu)
 423 {
 424         struct cpuinfo_x86 *c = &cpu_data(cpu);
 425
 426         /*
 427          * Check if we have problem with errata AE18 of Core processors:
 428          * Readings might stop update when processor visited too deep sleep,
 429          * fixed for stepping D0 (6EC).
 430          */
 431         if (c->x86_model == 0xe && c->x86_stepping < 0xc && c->microcode < 0x39) {
 432                 pr_err("Errata AE18 not fixed/*(DEBLOBBED)*/\n");
 433                 return -ENODEV;
 434         }
 435         return 0;
 436 }
 437
 438 static struct platform_device *coretemp_get_pdev(unsigned int cpu)
 439 {
 440         int pkgid = topology_logical_package_id(cpu);
 441
 442         if (pkgid >= 0 && pkgid < max_packages)
 443                 return pkg_devices[pkgid];
 444         return NULL;
 445 }
 446
 447 static struct temp_data *init_temp_data(unsigned int cpu, int pkg_flag)
 448 {
 449         struct temp_data *tdata;
 450
 451         tdata = kzalloc(sizeof(struct temp_data), GFP_KERNEL);
 452         if (!tdata)
 453                 return NULL;
 454
 455         tdata->status_reg = pkg_flag ? MSR_IA32_PACKAGE_THERM_STATUS :
 456                                                         MSR_IA32_THERM_STATUS;
 457         tdata->is_pkg_data = pkg_flag;
 458         tdata->cpu = cpu;
 459         tdata->cpu_core_id = TO_CORE_ID(cpu);
 460         tdata->attr_size = MAX_CORE_ATTRS;
 461         mutex_init(&tdata->update_lock);
 462         return tdata;
 463 }
 464
 465 static int create_core_data(struct platform_device *pdev, unsigned int cpu,
 466                             int pkg_flag)
 467 {
 468         struct temp_data *tdata;
 469         struct platform_data *pdata = platform_get_drvdata(pdev);
 470         struct cpuinfo_x86 *c = &cpu_data(cpu);
 471         u32 eax, edx;
 472         int err, attr_no;
 473
 474         /*
 475          * Find attr number for sysfs:
 476          * We map the attr number to core id of the CPU
 477          * The attr number is always core id + 2
 478          * The Pkgtemp will always show up as temp1_*, if available
 479          */
 480         attr_no = pkg_flag ? PKG_SYSFS_ATTR_NO : TO_ATTR_NO(cpu);
 481
 482         if (attr_no > MAX_CORE_DATA - 1)
 483                 return -ERANGE;
 484
 485         tdata = init_temp_data(cpu, pkg_flag);
 486         if (!tdata)
 487                 return -ENOMEM;
 488
 489         /* Test if we can access the status register */
 490         err = rdmsr_safe_on_cpu(cpu, tdata->status_reg, &eax, &edx);
 491         if (err)
 492                 goto exit_free;
 493
 494         /* We can access status register. Get Critical Temperature */
 495         tdata->tjmax = get_tjmax(c, cpu, &pdev->dev);
 496
 497         /*
 498          * Read the still undocumented bits 8:15 of IA32_TEMPERATURE_TARGET.
 499          * The target temperature is available on older CPUs but not in this
 500          * register. Atoms don't have the register at all.
 501          */
 502         if (c->x86_model > 0xe && c->x86_model != 0x1c) {
 503                 err = rdmsr_safe_on_cpu(cpu, MSR_IA32_TEMPERATURE_TARGET,
 504                                         &eax, &edx);
 505                 if (!err) {
 506                         tdata->ttarget
 507                           = tdata->tjmax - ((eax >> 8) & 0xff) * 1000;
 508                         tdata->attr_size++;
 509                 }
 510         }
 511
 512         pdata->core_data[attr_no] = tdata;
 513
 514         /* Create sysfs interfaces */
 515         err = create_core_attrs(tdata, pdata->hwmon_dev, attr_no);
 516         if (err)
 517                 goto exit_free;
 518
 519         return 0;
 520 exit_free:
 521         pdata->core_data[attr_no] = NULL;
 522         kfree(tdata);
 523         return err;
 524 }
 525
 526 static void
 527 coretemp_add_core(struct platform_device *pdev, unsigned int cpu, int pkg_flag)
 528 {
 529         if (create_core_data(pdev, cpu, pkg_flag))
 530                 dev_err(&pdev->dev, "Adding Core %u failed\n", cpu);
 531 }
 532
 533 static void coretemp_remove_core(struct platform_data *pdata, int indx)
 534 {
 535         struct temp_data *tdata = pdata->core_data[indx];
 536
 537         /* if we errored on add then this is already gone */
 538         if (!tdata)
 539                 return;
 540
 541         /* Remove the sysfs attributes */
 542         sysfs_remove_group(&pdata->hwmon_dev->kobj, &tdata->attr_group);
 543
 544         kfree(pdata->core_data[indx]);
 545         pdata->core_data[indx] = NULL;
 546 }
 547
 548 static int coretemp_probe(struct platform_device *pdev)
 549 {
 550         struct device *dev = &pdev->dev;
 551         struct platform_data *pdata;
 552
 553         /* Initialize the per-package data structures */
 554         pdata = devm_kzalloc(dev, sizeof(struct platform_data), GFP_KERNEL);
 555         if (!pdata)
 556                 return -ENOMEM;
 557
 558         pdata->pkg_id = pdev->id;
 559         platform_set_drvdata(pdev, pdata);
 560
 561         pdata->hwmon_dev = devm_hwmon_device_register_with_groups(dev, DRVNAME,
 562                                                                   pdata, NULL);
 563         return PTR_ERR_OR_ZERO(pdata->hwmon_dev);
 564 }
 565
 566 static int coretemp_remove(struct platform_device *pdev)
 567 {
 568         struct platform_data *pdata = platform_get_drvdata(pdev);
 569         int i;
 570
 571         for (i = MAX_CORE_DATA - 1; i >= 0; --i)
 572                 if (pdata->core_data[i])
 573                         coretemp_remove_core(pdata, i);
 574
 575         return 0;
 576 }
 577
 578 static struct platform_driver coretemp_driver = {
 579         .driver = {
 580                 .name = DRVNAME,
 581         },
 582         .probe = coretemp_probe,
 583         .remove = coretemp_remove,
 584 };
 585
 586 static struct platform_device *coretemp_device_add(unsigned int cpu)
 587 {
 588         int err, pkgid = topology_logical_package_id(cpu);
 589         struct platform_device *pdev;
 590
 591         if (pkgid < 0)
 592                 return ERR_PTR(-ENOMEM);
 593
 594         pdev = platform_device_alloc(DRVNAME, pkgid);
 595         if (!pdev)
 596                 return ERR_PTR(-ENOMEM);
 597
 598         err = platform_device_add(pdev);
 599         if (err) {
 600                 platform_device_put(pdev);
 601                 return ERR_PTR(err);
 602         }
 603
 604         pkg_devices[pkgid] = pdev;
 605         return pdev;
 606 }
 607
 608 static int coretemp_cpu_online(unsigned int cpu)
 609 {
 610         struct platform_device *pdev = coretemp_get_pdev(cpu);
 611         struct cpuinfo_x86 *c = &cpu_data(cpu);
 612         struct platform_data *pdata;
 613
 614         /*
 615          * Don't execute this on resume as the offline callback did
 616          * not get executed on suspend.
 617          */
 618         if (cpuhp_tasks_frozen)
 619                 return 0;
 620
 621         /*
 622          * CPUID.06H.EAX[0] indicates whether the CPU has thermal
 623          * sensors. We check this bit only, all the early CPUs
 624          * without thermal sensors will be filtered out.
 625          */
 626         if (!cpu_has(c, X86_FEATURE_DTHERM))
 627                 return -ENODEV;
 628
 629         if (!pdev) {
 630                 /* Check the microcode version of the CPU */
 631                 if (chk_ucode_version(cpu))
 632                         return -EINVAL;
 633
 634                 /*
 635                  * Alright, we have DTS support.
 636                  * We are bringing the _first_ core in this pkg
 637                  * online. So, initialize per-pkg data structures and
 638                  * then bring this core online.
 639                  */
 640                 pdev = coretemp_device_add(cpu);
 641                 if (IS_ERR(pdev))
 642                         return PTR_ERR(pdev);
 643
 644                 /*
 645                  * Check whether pkgtemp support is available.
 646                  * If so, add interfaces for pkgtemp.
 647                  */
 648                 if (cpu_has(c, X86_FEATURE_PTS))
 649                         coretemp_add_core(pdev, cpu, 1);
 650         }
 651
 652         pdata = platform_get_drvdata(pdev);
 653         /*
 654          * Check whether a thread sibling is already online. If not add the
 655          * interface for this CPU core.
 656          */
 657         if (!cpumask_intersects(&pdata->cpumask, topology_sibling_cpumask(cpu)))
 658                 coretemp_add_core(pdev, cpu, 0);
 659
 660         cpumask_set_cpu(cpu, &pdata->cpumask);
 661         return 0;
 662 }
 663
 664 static int coretemp_cpu_offline(unsigned int cpu)
 665 {
 666         struct platform_device *pdev = coretemp_get_pdev(cpu);
 667         struct platform_data *pd;
 668         struct temp_data *tdata;
 669         int indx, target;
 670
 671         /*
 672          * Don't execute this on suspend as the device remove locks
 673          * up the machine.
 674          */
 675         if (cpuhp_tasks_frozen)
 676                 return 0;
 677
 678         /* If the physical CPU device does not exist, just return */
 679         if (!pdev)
 680                 return 0;
 681
 682         /* The core id is too big, just return */
 683         indx = TO_ATTR_NO(cpu);
 684         if (indx > MAX_CORE_DATA - 1)
 685                 return 0;
 686
 687         pd = platform_get_drvdata(pdev);
 688         tdata = pd->core_data[indx];
 689
 690         cpumask_clear_cpu(cpu, &pd->cpumask);
 691
 692         /*
 693          * If this is the last thread sibling, remove the CPU core
 694          * interface, If there is still a sibling online, transfer the
 695          * target cpu of that core interface to it.
 696          */
 697         target = cpumask_any_and(&pd->cpumask, topology_sibling_cpumask(cpu));
 698         if (target >= nr_cpu_ids) {
 699                 coretemp_remove_core(pd, indx);
 700         } else if (tdata && tdata->cpu == cpu) {
 701                 mutex_lock(&tdata->update_lock);
 702                 tdata->cpu = target;
 703                 mutex_unlock(&tdata->update_lock);
 704         }
 705
 706         /*
 707          * If all cores in this pkg are offline, remove the device. This
 708          * will invoke the platform driver remove function, which cleans up
 709          * the rest.
 710          */
 711         if (cpumask_empty(&pd->cpumask)) {
 712                 pkg_devices[topology_logical_package_id(cpu)] = NULL;
 713                 platform_device_unregister(pdev);
 714                 return 0;
 715         }
 716
 717         /*
 718          * Check whether this core is the target for the package
 719          * interface. We need to assign it to some other cpu.
 720          */
 721         tdata = pd->core_data[PKG_SYSFS_ATTR_NO];
 722         if (tdata && tdata->cpu == cpu) {
 723                 target = cpumask_first(&pd->cpumask);
 724                 mutex_lock(&tdata->update_lock);
 725                 tdata->cpu = target;
 726                 mutex_unlock(&tdata->update_lock);
 727         }
 728         return 0;
 729 }
 730 static const struct x86_cpu_id __initconst coretemp_ids[] = {
 731         { X86_VENDOR_INTEL, X86_FAMILY_ANY, X86_MODEL_ANY, X86_FEATURE_DTHERM },
 732         {}
 733 };
 734 MODULE_DEVICE_TABLE(x86cpu, coretemp_ids);
 735
 736 static enum cpuhp_state coretemp_hp_online;
 737
 738 static int __init coretemp_init(void)
 739 {
 740         int err;
 741
 742         /*
 743          * CPUID.06H.EAX[0] indicates whether the CPU has thermal
 744          * sensors. We check this bit only, all the early CPUs
 745          * without thermal sensors will be filtered out.
 746          */
 747         if (!x86_match_cpu(coretemp_ids))
 748                 return -ENODEV;
 749
 750         max_packages = topology_max_packages();
 751         pkg_devices = kzalloc(max_packages * sizeof(struct platform_device *),
 752                               GFP_KERNEL);
 753         if (!pkg_devices)
 754                 return -ENOMEM;
 755
 756         err = platform_driver_register(&coretemp_driver);
 757         if (err)
 758                 return err;
 759
 760         err = cpuhp_setup_state(CPUHP_AP_ONLINE_DYN, "hwmon/coretemp:online",
 761                                 coretemp_cpu_online, coretemp_cpu_offline);
 762         if (err < 0)
 763                 goto outdrv;
 764         coretemp_hp_online = err;
 765         return 0;
 766
 767 outdrv:
 768         platform_driver_unregister(&coretemp_driver);
 769         kfree(pkg_devices);
 770         return err;
 771 }
 772 module_init(coretemp_init)
 773
 774 static void __exit coretemp_exit(void)
 775 {
 776         cpuhp_remove_state(coretemp_hp_online);
 777         platform_driver_unregister(&coretemp_driver);
 778         kfree(pkg_devices);
 779 }
 780 module_exit(coretemp_exit)
 781
 782 MODULE_AUTHOR("Rudolf Marek <r.marek@assembler.cz>");
 783 MODULE_DESCRIPTION("Intel Core temperature monitor");
 784 MODULE_LICENSE("GPL");