drivers/misc/mei/client.c

   1 /*
   2  *
   3  * Intel Management Engine Interface (Intel MEI) Linux driver
   4  * Copyright (c) 2003-2012, Intel Corporation.
   5  *
   6  * This program is free software; you can redistribute it and/or modify it
   7  * under the terms and conditions of the GNU General Public License,
   8  * version 2, as published by the Free Software Foundation.
   9  *
  10  * This program is distributed in the hope it will be useful, but WITHOUT
  11  * ANY WARRANTY; without even the implied warranty of MERCHANTABILITY or
  12  * FITNESS FOR A PARTICULAR PURPOSE.  See the GNU General Public License for
  13  * more details.
  14  *
  15  */
  16
  17 #include <linux/sched.h>
  18 #include <linux/wait.h>
  19 #include <linux/delay.h>
  20 #include <linux/slab.h>
  21 #include <linux/pm_runtime.h>
  22
  23 #include <linux/mei.h>
  24
  25 #include "mei_dev.h"
  26 #include "hbm.h"
  27 #include "client.h"
  28
  29 /**
  30  * mei_me_cl_init - initialize me client
  31  *
  32  * @me_cl: me client
  33  */
  34 void mei_me_cl_init(struct mei_me_client *me_cl)
  35 {
  36         INIT_LIST_HEAD(&me_cl->list);
  37         kref_init(&me_cl->refcnt);
  38 }
  39
  40 /**
  41  * mei_me_cl_get - increases me client refcount
  42  *
  43  * @me_cl: me client
  44  *
  45  * Locking: called under "dev->device_lock" lock
  46  *
  47  * Return: me client or NULL
  48  */
  49 struct mei_me_client *mei_me_cl_get(struct mei_me_client *me_cl)
  50 {
  51         if (me_cl && kref_get_unless_zero(&me_cl->refcnt))
  52                 return me_cl;
  53
  54         return NULL;
  55 }
  56
  57 /**
  58  * mei_me_cl_release - free me client
  59  *
  60  * Locking: called under "dev->device_lock" lock
  61  *
  62  * @ref: me_client refcount
  63  */
  64 static void mei_me_cl_release(struct kref *ref)
  65 {
  66         struct mei_me_client *me_cl =
  67                 container_of(ref, struct mei_me_client, refcnt);
  68
  69         kfree(me_cl);
  70 }
  71
  72 /**
  73  * mei_me_cl_put - decrease me client refcount and free client if necessary
  74  *
  75  * Locking: called under "dev->device_lock" lock
  76  *
  77  * @me_cl: me client
  78  */
  79 void mei_me_cl_put(struct mei_me_client *me_cl)
  80 {
  81         if (me_cl)
  82                 kref_put(&me_cl->refcnt, mei_me_cl_release);
  83 }
  84
  85 /**
  86  * __mei_me_cl_del  - delete me client from the list and decrease
  87  *     reference counter
  88  *
  89  * @dev: mei device
  90  * @me_cl: me client
  91  *
  92  * Locking: dev->me_clients_rwsem
  93  */
  94 static void __mei_me_cl_del(struct mei_device *dev, struct mei_me_client *me_cl)
  95 {
  96         if (!me_cl)
  97                 return;
  98
  99         list_del_init(&me_cl->list);
 100         mei_me_cl_put(me_cl);
 101 }
 102
 103 /**
 104  * mei_me_cl_del - delete me client from the list and decrease
 105  *     reference counter
 106  *
 107  * @dev: mei device
 108  * @me_cl: me client
 109  */
 110 void mei_me_cl_del(struct mei_device *dev, struct mei_me_client *me_cl)
 111 {
 112         down_write(&dev->me_clients_rwsem);
 113         __mei_me_cl_del(dev, me_cl);
 114         up_write(&dev->me_clients_rwsem);
 115 }
 116
 117 /**
 118  * mei_me_cl_add - add me client to the list
 119  *
 120  * @dev: mei device
 121  * @me_cl: me client
 122  */
 123 void mei_me_cl_add(struct mei_device *dev, struct mei_me_client *me_cl)
 124 {
 125         down_write(&dev->me_clients_rwsem);
 126         list_add(&me_cl->list, &dev->me_clients);
 127         up_write(&dev->me_clients_rwsem);
 128 }
 129
 130 /**
 131  * __mei_me_cl_by_uuid - locate me client by uuid
 132  *      increases ref count
 133  *
 134  * @dev: mei device
 135  * @uuid: me client uuid
 136  *
 137  * Return: me client or NULL if not found
 138  *
 139  * Locking: dev->me_clients_rwsem
 140  */
 141 static struct mei_me_client *__mei_me_cl_by_uuid(struct mei_device *dev,
 142                                         const uuid_le *uuid)
 143 {
 144         struct mei_me_client *me_cl;
 145         const uuid_le *pn;
 146
 147         WARN_ON(!rwsem_is_locked(&dev->me_clients_rwsem));
 148
 149         list_for_each_entry(me_cl, &dev->me_clients, list) {
 150                 pn = &me_cl->props.protocol_name;
 151                 if (uuid_le_cmp(*uuid, *pn) == 0)
 152                         return mei_me_cl_get(me_cl);
 153         }
 154
 155         return NULL;
 156 }
 157
 158 /**
 159  * mei_me_cl_by_uuid - locate me client by uuid
 160  *      increases ref count
 161  *
 162  * @dev: mei device
 163  * @uuid: me client uuid
 164  *
 165  * Return: me client or NULL if not found
 166  *
 167  * Locking: dev->me_clients_rwsem
 168  */
 169 struct mei_me_client *mei_me_cl_by_uuid(struct mei_device *dev,
 170                                         const uuid_le *uuid)
 171 {
 172         struct mei_me_client *me_cl;
 173
 174         down_read(&dev->me_clients_rwsem);
 175         me_cl = __mei_me_cl_by_uuid(dev, uuid);
 176         up_read(&dev->me_clients_rwsem);
 177
 178         return me_cl;
 179 }
 180
 181 /**
 182  * mei_me_cl_by_id - locate me client by client id
 183  *      increases ref count
 184  *
 185  * @dev: the device structure
 186  * @client_id: me client id
 187  *
 188  * Return: me client or NULL if not found
 189  *
 190  * Locking: dev->me_clients_rwsem
 191  */
 192 struct mei_me_client *mei_me_cl_by_id(struct mei_device *dev, u8 client_id)
 193 {
 194
 195         struct mei_me_client *__me_cl, *me_cl = NULL;
 196
 197         down_read(&dev->me_clients_rwsem);
 198         list_for_each_entry(__me_cl, &dev->me_clients, list) {
 199                 if (__me_cl->client_id == client_id) {
 200                         me_cl = mei_me_cl_get(__me_cl);
 201                         break;
 202                 }
 203         }
 204         up_read(&dev->me_clients_rwsem);
 205
 206         return me_cl;
 207 }
 208
 209 /**
 210  * __mei_me_cl_by_uuid_id - locate me client by client id and uuid
 211  *      increases ref count
 212  *
 213  * @dev: the device structure
 214  * @uuid: me client uuid
 215  * @client_id: me client id
 216  *
 217  * Return: me client or null if not found
 218  *
 219  * Locking: dev->me_clients_rwsem
 220  */
 221 static struct mei_me_client *__mei_me_cl_by_uuid_id(struct mei_device *dev,
 222                                            const uuid_le *uuid, u8 client_id)
 223 {
 224         struct mei_me_client *me_cl;
 225         const uuid_le *pn;
 226
 227         WARN_ON(!rwsem_is_locked(&dev->me_clients_rwsem));
 228
 229         list_for_each_entry(me_cl, &dev->me_clients, list) {
 230                 pn = &me_cl->props.protocol_name;
 231                 if (uuid_le_cmp(*uuid, *pn) == 0 &&
 232                     me_cl->client_id == client_id)
 233                         return mei_me_cl_get(me_cl);
 234         }
 235
 236         return NULL;
 237 }
 238
 239
 240 /**
 241  * mei_me_cl_by_uuid_id - locate me client by client id and uuid
 242  *      increases ref count
 243  *
 244  * @dev: the device structure
 245  * @uuid: me client uuid
 246  * @client_id: me client id
 247  *
 248  * Return: me client or null if not found
 249  */
 250 struct mei_me_client *mei_me_cl_by_uuid_id(struct mei_device *dev,
 251                                            const uuid_le *uuid, u8 client_id)
 252 {
 253         struct mei_me_client *me_cl;
 254
 255         down_read(&dev->me_clients_rwsem);
 256         me_cl = __mei_me_cl_by_uuid_id(dev, uuid, client_id);
 257         up_read(&dev->me_clients_rwsem);
 258
 259         return me_cl;
 260 }
 261
 262 /**
 263  * mei_me_cl_rm_by_uuid - remove all me clients matching uuid
 264  *
 265  * @dev: the device structure
 266  * @uuid: me client uuid
 267  *
 268  * Locking: called under "dev->device_lock" lock
 269  */
 270 void mei_me_cl_rm_by_uuid(struct mei_device *dev, const uuid_le *uuid)
 271 {
 272         struct mei_me_client *me_cl;
 273
 274         dev_dbg(dev->dev, "remove %pUl\n", uuid);
 275
 276         down_write(&dev->me_clients_rwsem);
 277         me_cl = __mei_me_cl_by_uuid(dev, uuid);
 278         __mei_me_cl_del(dev, me_cl);
 279         mei_me_cl_put(me_cl);
 280         up_write(&dev->me_clients_rwsem);
 281 }
 282
 283 /**
 284  * mei_me_cl_rm_by_uuid_id - remove all me clients matching client id
 285  *
 286  * @dev: the device structure
 287  * @uuid: me client uuid
 288  * @id: me client id
 289  *
 290  * Locking: called under "dev->device_lock" lock
 291  */
 292 void mei_me_cl_rm_by_uuid_id(struct mei_device *dev, const uuid_le *uuid, u8 id)
 293 {
 294         struct mei_me_client *me_cl;
 295
 296         dev_dbg(dev->dev, "remove %pUl %d\n", uuid, id);
 297
 298         down_write(&dev->me_clients_rwsem);
 299         me_cl = __mei_me_cl_by_uuid_id(dev, uuid, id);
 300         __mei_me_cl_del(dev, me_cl);
 301         mei_me_cl_put(me_cl);
 302         up_write(&dev->me_clients_rwsem);
 303 }
 304
 305 /**
 306  * mei_me_cl_rm_all - remove all me clients
 307  *
 308  * @dev: the device structure
 309  *
 310  * Locking: called under "dev->device_lock" lock
 311  */
 312 void mei_me_cl_rm_all(struct mei_device *dev)
 313 {
 314         struct mei_me_client *me_cl, *next;
 315
 316         down_write(&dev->me_clients_rwsem);
 317         list_for_each_entry_safe(me_cl, next, &dev->me_clients, list)
 318                 __mei_me_cl_del(dev, me_cl);
 319         up_write(&dev->me_clients_rwsem);
 320 }
 321
 322 /**
 323  * mei_cl_cmp_id - tells if the clients are the same
 324  *
 325  * @cl1: host client 1
 326  * @cl2: host client 2
 327  *
 328  * Return: true  - if the clients has same host and me ids
 329  *         false - otherwise
 330  */
 331 static inline bool mei_cl_cmp_id(const struct mei_cl *cl1,
 332                                 const struct mei_cl *cl2)
 333 {
 334         return cl1 && cl2 &&
 335                 (cl1->host_client_id == cl2->host_client_id) &&
 336                 (mei_cl_me_id(cl1) == mei_cl_me_id(cl2));
 337 }
 338
 339 /**
 340  * mei_io_cb_free - free mei_cb_private related memory
 341  *
 342  * @cb: mei callback struct
 343  */
 344 void mei_io_cb_free(struct mei_cl_cb *cb)
 345 {
 346         if (cb == NULL)
 347                 return;
 348
 349         list_del(&cb->list);
 350         kfree(cb->buf.data);
 351         kfree(cb);
 352 }
 353
 354 /**
 355  * mei_io_cb_init - allocate and initialize io callback
 356  *
 357  * @cl: mei client
 358  * @type: operation type
 359  * @fp: pointer to file structure
 360  *
 361  * Return: mei_cl_cb pointer or NULL;
 362  */
 363 struct mei_cl_cb *mei_io_cb_init(struct mei_cl *cl, enum mei_cb_file_ops type,
 364                                  struct file *fp)
 365 {
 366         struct mei_cl_cb *cb;
 367
 368         cb = kzalloc(sizeof(struct mei_cl_cb), GFP_KERNEL);
 369         if (!cb)
 370                 return NULL;
 371
 372         INIT_LIST_HEAD(&cb->list);
 373         cb->file_object = fp;
 374         cb->cl = cl;
 375         cb->buf_idx = 0;
 376         cb->fop_type = type;
 377         return cb;
 378 }
 379
 380 /**
 381  * __mei_io_list_flush - removes and frees cbs belonging to cl.
 382  *
 383  * @list:  an instance of our list structure
 384  * @cl:    host client, can be NULL for flushing the whole list
 385  * @free:  whether to free the cbs
 386  */
 387 static void __mei_io_list_flush(struct mei_cl_cb *list,
 388                                 struct mei_cl *cl, bool free)
 389 {
 390         struct mei_cl_cb *cb, *next;
 391
 392         /* enable removing everything if no cl is specified */
 393         list_for_each_entry_safe(cb, next, &list->list, list) {
 394                 if (!cl || mei_cl_cmp_id(cl, cb->cl)) {
 395                         list_del_init(&cb->list);
 396                         if (free)
 397                                 mei_io_cb_free(cb);
 398                 }
 399         }
 400 }
 401
 402 /**
 403  * mei_io_list_flush - removes list entry belonging to cl.
 404  *
 405  * @list:  An instance of our list structure
 406  * @cl: host client
 407  */
 408 void mei_io_list_flush(struct mei_cl_cb *list, struct mei_cl *cl)
 409 {
 410         __mei_io_list_flush(list, cl, false);
 411 }
 412
 413 /**
 414  * mei_io_list_free - removes cb belonging to cl and free them
 415  *
 416  * @list:  An instance of our list structure
 417  * @cl: host client
 418  */
 419 static inline void mei_io_list_free(struct mei_cl_cb *list, struct mei_cl *cl)
 420 {
 421         __mei_io_list_flush(list, cl, true);
 422 }
 423
 424 /**
 425  * mei_io_cb_alloc_buf - allocate callback buffer
 426  *
 427  * @cb: io callback structure
 428  * @length: size of the buffer
 429  *
 430  * Return: 0 on success
 431  *         -EINVAL if cb is NULL
 432  *         -ENOMEM if allocation failed
 433  */
 434 int mei_io_cb_alloc_buf(struct mei_cl_cb *cb, size_t length)
 435 {
 436         if (!cb)
 437                 return -EINVAL;
 438
 439         if (length == 0)
 440                 return 0;
 441
 442         cb->buf.data = kmalloc(length, GFP_KERNEL);
 443         if (!cb->buf.data)
 444                 return -ENOMEM;
 445         cb->buf.size = length;
 446         return 0;
 447 }
 448
 449 /**
 450  * mei_cl_alloc_cb - a convenient wrapper for allocating read cb
 451  *
 452  * @cl: host client
 453  * @length: size of the buffer
 454  * @type: operation type
 455  * @fp: associated file pointer (might be NULL)
 456  *
 457  * Return: cb on success and NULL on failure
 458  */
 459 struct mei_cl_cb *mei_cl_alloc_cb(struct mei_cl *cl, size_t length,
 460                                   enum mei_cb_file_ops type, struct file *fp)
 461 {
 462         struct mei_cl_cb *cb;
 463
 464         cb = mei_io_cb_init(cl, type, fp);
 465         if (!cb)
 466                 return NULL;
 467
 468         if (mei_io_cb_alloc_buf(cb, length)) {
 469                 mei_io_cb_free(cb);
 470                 return NULL;
 471         }
 472
 473         return cb;
 474 }
 475
 476 /**
 477  * mei_cl_read_cb - find this cl's callback in the read list
 478  *     for a specific file
 479  *
 480  * @cl: host client
 481  * @fp: file pointer (matching cb file object), may be NULL
 482  *
 483  * Return: cb on success, NULL if cb is not found
 484  */
 485 struct mei_cl_cb *mei_cl_read_cb(const struct mei_cl *cl, const struct file *fp)
 486 {
 487         struct mei_cl_cb *cb;
 488
 489         list_for_each_entry(cb, &cl->rd_completed, list)
 490                 if (!fp || fp == cb->file_object)
 491                         return cb;
 492
 493         return NULL;
 494 }
 495
 496 /**
 497  * mei_cl_read_cb_flush - free client's read pending and completed cbs
 498  *   for a specific file
 499  *
 500  * @cl: host client
 501  * @fp: file pointer (matching cb file object), may be NULL
 502  */
 503 void mei_cl_read_cb_flush(const struct mei_cl *cl, const struct file *fp)
 504 {
 505         struct mei_cl_cb *cb, *next;
 506
 507         list_for_each_entry_safe(cb, next, &cl->rd_completed, list)
 508                 if (!fp || fp == cb->file_object)
 509                         mei_io_cb_free(cb);
 510
 511
 512         list_for_each_entry_safe(cb, next, &cl->rd_pending, list)
 513                 if (!fp || fp == cb->file_object)
 514                         mei_io_cb_free(cb);
 515 }
 516
 517 /**
 518  * mei_cl_flush_queues - flushes queue lists belonging to cl.
 519  *
 520  * @cl: host client
 521  * @fp: file pointer (matching cb file object), may be NULL
 522  *
 523  * Return: 0 on success, -EINVAL if cl or cl->dev is NULL.
 524  */
 525 int mei_cl_flush_queues(struct mei_cl *cl, const struct file *fp)
 526 {
 527         struct mei_device *dev;
 528
 529         if (WARN_ON(!cl || !cl->dev))
 530                 return -EINVAL;
 531
 532         dev = cl->dev;
 533
 534         cl_dbg(dev, cl, "remove list entry belonging to cl\n");
 535         mei_io_list_free(&cl->dev->write_list, cl);
 536         mei_io_list_free(&cl->dev->write_waiting_list, cl);
 537         mei_io_list_flush(&cl->dev->ctrl_wr_list, cl);
 538         mei_io_list_flush(&cl->dev->ctrl_rd_list, cl);
 539         mei_io_list_flush(&cl->dev->amthif_cmd_list, cl);
 540         mei_io_list_flush(&cl->dev->amthif_rd_complete_list, cl);
 541
 542         mei_cl_read_cb_flush(cl, fp);
 543
 544         return 0;
 545 }
 546
 547
 548 /**
 549  * mei_cl_init - initializes cl.
 550  *
 551  * @cl: host client to be initialized
 552  * @dev: mei device
 553  */
 554 void mei_cl_init(struct mei_cl *cl, struct mei_device *dev)
 555 {
 556         memset(cl, 0, sizeof(struct mei_cl));
 557         init_waitqueue_head(&cl->wait);
 558         init_waitqueue_head(&cl->rx_wait);
 559         init_waitqueue_head(&cl->tx_wait);
 560         init_waitqueue_head(&cl->ev_wait);
 561         INIT_LIST_HEAD(&cl->rd_completed);
 562         INIT_LIST_HEAD(&cl->rd_pending);
 563         INIT_LIST_HEAD(&cl->link);
 564         cl->writing_state = MEI_IDLE;
 565         cl->state = MEI_FILE_INITIALIZING;
 566         cl->dev = dev;
 567 }
 568
 569 /**
 570  * mei_cl_allocate - allocates cl  structure and sets it up.
 571  *
 572  * @dev: mei device
 573  * Return:  The allocated file or NULL on failure
 574  */
 575 struct mei_cl *mei_cl_allocate(struct mei_device *dev)
 576 {
 577         struct mei_cl *cl;
 578
 579         cl = kmalloc(sizeof(struct mei_cl), GFP_KERNEL);
 580         if (!cl)
 581                 return NULL;
 582
 583         mei_cl_init(cl, dev);
 584
 585         return cl;
 586 }
 587
 588 /**
 589  * mei_cl_link - allocate host id in the host map
 590  *
 591  * @cl: host client
 592  * @id: fixed host id or MEI_HOST_CLIENT_ID_ANY (-1) for generic one
 593  *
 594  * Return: 0 on success
 595  *      -EINVAL on incorrect values
 596  *      -EMFILE if open count exceeded.
 597  */
 598 int mei_cl_link(struct mei_cl *cl, int id)
 599 {
 600         struct mei_device *dev;
 601         long open_handle_count;
 602
 603         if (WARN_ON(!cl || !cl->dev))
 604                 return -EINVAL;
 605
 606         dev = cl->dev;
 607
 608         /* If Id is not assigned get one*/
 609         if (id == MEI_HOST_CLIENT_ID_ANY)
 610                 id = find_first_zero_bit(dev->host_clients_map,
 611                                         MEI_CLIENTS_MAX);
 612
 613         if (id >= MEI_CLIENTS_MAX) {
 614                 dev_err(dev->dev, "id exceeded %d", MEI_CLIENTS_MAX);
 615                 return -EMFILE;
 616         }
 617
 618         open_handle_count = dev->open_handle_count + dev->iamthif_open_count;
 619         if (open_handle_count >= MEI_MAX_OPEN_HANDLE_COUNT) {
 620                 dev_err(dev->dev, "open_handle_count exceeded %d",
 621                         MEI_MAX_OPEN_HANDLE_COUNT);
 622                 return -EMFILE;
 623         }
 624
 625         dev->open_handle_count++;
 626
 627         cl->host_client_id = id;
 628         list_add_tail(&cl->link, &dev->file_list);
 629
 630         set_bit(id, dev->host_clients_map);
 631
 632         cl->state = MEI_FILE_INITIALIZING;
 633
 634         cl_dbg(dev, cl, "link cl\n");
 635         return 0;
 636 }
 637
 638 /**
 639  * mei_cl_unlink - remove host client from the list
 640  *
 641  * @cl: host client
 642  *
 643  * Return: always 0
 644  */
 645 int mei_cl_unlink(struct mei_cl *cl)
 646 {
 647         struct mei_device *dev;
 648
 649         /* don't shout on error exit path */
 650         if (!cl)
 651                 return 0;
 652
 653         /* wd and amthif might not be initialized */
 654         if (!cl->dev)
 655                 return 0;
 656
 657         dev = cl->dev;
 658
 659         cl_dbg(dev, cl, "unlink client");
 660
 661         if (dev->open_handle_count > 0)
 662                 dev->open_handle_count--;
 663
 664         /* never clear the 0 bit */
 665         if (cl->host_client_id)
 666                 clear_bit(cl->host_client_id, dev->host_clients_map);
 667
 668         list_del_init(&cl->link);
 669
 670         cl->state = MEI_FILE_INITIALIZING;
 671
 672         return 0;
 673 }
 674
 675
 676 void mei_host_client_init(struct work_struct *work)
 677 {
 678         struct mei_device *dev =
 679                 container_of(work, struct mei_device, init_work);
 680         struct mei_me_client *me_cl;
 681
 682         mutex_lock(&dev->device_lock);
 683
 684
 685         me_cl = mei_me_cl_by_uuid(dev, &mei_amthif_guid);
 686         if (me_cl)
 687                 mei_amthif_host_init(dev, me_cl);
 688         mei_me_cl_put(me_cl);
 689
 690         me_cl = mei_me_cl_by_uuid(dev, &mei_wd_guid);
 691         if (me_cl)
 692                 mei_wd_host_init(dev, me_cl);
 693         mei_me_cl_put(me_cl);
 694
 695         dev->dev_state = MEI_DEV_ENABLED;
 696         dev->reset_count = 0;
 697         mutex_unlock(&dev->device_lock);
 698
 699         mei_cl_bus_rescan(dev);
 700
 701         pm_runtime_mark_last_busy(dev->dev);
 702         dev_dbg(dev->dev, "rpm: autosuspend\n");
 703         pm_request_autosuspend(dev->dev);
 704 }
 705
 706 /**
 707  * mei_hbuf_acquire - try to acquire host buffer
 708  *
 709  * @dev: the device structure
 710  * Return: true if host buffer was acquired
 711  */
 712 bool mei_hbuf_acquire(struct mei_device *dev)
 713 {
 714         if (mei_pg_state(dev) == MEI_PG_ON ||
 715             mei_pg_in_transition(dev)) {
 716                 dev_dbg(dev->dev, "device is in pg\n");
 717                 return false;
 718         }
 719
 720         if (!dev->hbuf_is_ready) {
 721                 dev_dbg(dev->dev, "hbuf is not ready\n");
 722                 return false;
 723         }
 724
 725         dev->hbuf_is_ready = false;
 726
 727         return true;
 728 }
 729
 730 /**
 731  * mei_cl_set_disconnected - set disconnected state and clear
 732  *   associated states and resources
 733  *
 734  * @cl: host client
 735  */
 736 void mei_cl_set_disconnected(struct mei_cl *cl)
 737 {
 738         struct mei_device *dev = cl->dev;
 739
 740         if (cl->state == MEI_FILE_DISCONNECTED ||
 741             cl->state == MEI_FILE_INITIALIZING)
 742                 return;
 743
 744         cl->state = MEI_FILE_DISCONNECTED;
 745         mei_io_list_flush(&dev->ctrl_rd_list, cl);
 746         mei_io_list_flush(&dev->ctrl_wr_list, cl);
 747         cl->mei_flow_ctrl_creds = 0;
 748         cl->timer_count = 0;
 749
 750         if (!cl->me_cl)
 751                 return;
 752
 753         if (!WARN_ON(cl->me_cl->connect_count == 0))
 754                 cl->me_cl->connect_count--;
 755
 756         if (cl->me_cl->connect_count == 0)
 757                 cl->me_cl->mei_flow_ctrl_creds = 0;
 758
 759         mei_me_cl_put(cl->me_cl);
 760         cl->me_cl = NULL;
 761 }
 762
 763 static int mei_cl_set_connecting(struct mei_cl *cl, struct mei_me_client *me_cl)
 764 {
 765         if (!mei_me_cl_get(me_cl))
 766                 return -ENOENT;
 767
 768         /* only one connection is allowed for fixed address clients */
 769         if (me_cl->props.fixed_address) {
 770                 if (me_cl->connect_count) {
 771                         mei_me_cl_put(me_cl);
 772                         return -EBUSY;
 773                 }
 774         }
 775
 776         cl->me_cl = me_cl;
 777         cl->state = MEI_FILE_CONNECTING;
 778         cl->me_cl->connect_count++;
 779
 780         return 0;
 781 }
 782
 783 /*
 784  * mei_cl_send_disconnect - send disconnect request
 785  *
 786  * @cl: host client
 787  * @cb: callback block
 788  *
 789  * Return: 0, OK; otherwise, error.
 790  */
 791 static int mei_cl_send_disconnect(struct mei_cl *cl, struct mei_cl_cb *cb)
 792 {
 793         struct mei_device *dev;
 794         int ret;
 795
 796         dev = cl->dev;
 797
 798         ret = mei_hbm_cl_disconnect_req(dev, cl);
 799         cl->status = ret;
 800         if (ret) {
 801                 cl->state = MEI_FILE_DISCONNECT_REPLY;
 802                 return ret;
 803         }
 804
 805         list_move_tail(&cb->list, &dev->ctrl_rd_list.list);
 806         cl->timer_count = MEI_CONNECT_TIMEOUT;
 807
 808         return 0;
 809 }
 810
 811 /**
 812  * mei_cl_irq_disconnect - processes close related operation from
 813  *      interrupt thread context - send disconnect request
 814  *
 815  * @cl: client
 816  * @cb: callback block.
 817  * @cmpl_list: complete list.
 818  *
 819  * Return: 0, OK; otherwise, error.
 820  */
 821 int mei_cl_irq_disconnect(struct mei_cl *cl, struct mei_cl_cb *cb,
 822                             struct mei_cl_cb *cmpl_list)
 823 {
 824         struct mei_device *dev = cl->dev;
 825         u32 msg_slots;
 826         int slots;
 827         int ret;
 828
 829         msg_slots = mei_data2slots(sizeof(struct hbm_client_connect_request));
 830         slots = mei_hbuf_empty_slots(dev);
 831
 832         if (slots < msg_slots)
 833                 return -EMSGSIZE;
 834
 835         ret = mei_cl_send_disconnect(cl, cb);
 836         if (ret)
 837                 list_move_tail(&cb->list, &cmpl_list->list);
 838
 839         return ret;
 840 }
 841
 842 /**
 843  * __mei_cl_disconnect - disconnect host client from the me one
 844  *     internal function runtime pm has to be already acquired
 845  *
 846  * @cl: host client
 847  *
 848  * Return: 0 on success, <0 on failure.
 849  */
 850 static int __mei_cl_disconnect(struct mei_cl *cl)
 851 {
 852         struct mei_device *dev;
 853         struct mei_cl_cb *cb;
 854         int rets;
 855
 856         dev = cl->dev;
 857
 858         cl->state = MEI_FILE_DISCONNECTING;
 859
 860         cb = mei_io_cb_init(cl, MEI_FOP_DISCONNECT, NULL);
 861         rets = cb ? 0 : -ENOMEM;
 862         if (rets)
 863                 goto out;
 864
 865         cl_dbg(dev, cl, "add disconnect cb to control write list\n");
 866         list_add_tail(&cb->list, &dev->ctrl_wr_list.list);
 867
 868         if (mei_hbuf_acquire(dev)) {
 869                 rets = mei_cl_send_disconnect(cl, cb);
 870                 if (rets) {
 871                         cl_err(dev, cl, "failed to disconnect.\n");
 872                         goto out;
 873                 }
 874         }
 875
 876         mutex_unlock(&dev->device_lock);
 877         wait_event_timeout(cl->wait, cl->state == MEI_FILE_DISCONNECT_REPLY,
 878                            mei_secs_to_jiffies(MEI_CL_CONNECT_TIMEOUT));
 879         mutex_lock(&dev->device_lock);
 880
 881         rets = cl->status;
 882         if (cl->state != MEI_FILE_DISCONNECT_REPLY) {
 883                 cl_dbg(dev, cl, "timeout on disconnect from FW client.\n");
 884                 rets = -ETIME;
 885         }
 886
 887 out:
 888         /* we disconnect also on error */
 889         mei_cl_set_disconnected(cl);
 890         if (!rets)
 891                 cl_dbg(dev, cl, "successfully disconnected from FW client.\n");
 892
 893         mei_io_cb_free(cb);
 894         return rets;
 895 }
 896
 897 /**
 898  * mei_cl_disconnect - disconnect host client from the me one
 899  *
 900  * @cl: host client
 901  *
 902  * Locking: called under "dev->device_lock" lock
 903  *
 904  * Return: 0 on success, <0 on failure.
 905  */
 906 int mei_cl_disconnect(struct mei_cl *cl)
 907 {
 908         struct mei_device *dev;
 909         int rets;
 910
 911         if (WARN_ON(!cl || !cl->dev))
 912                 return -ENODEV;
 913
 914         dev = cl->dev;
 915
 916         cl_dbg(dev, cl, "disconnecting");
 917
 918         if (!mei_cl_is_connected(cl))
 919                 return 0;
 920
 921         if (mei_cl_is_fixed_address(cl)) {
 922                 mei_cl_set_disconnected(cl);
 923                 return 0;
 924         }
 925
 926         rets = pm_runtime_get(dev->dev);
 927         if (rets < 0 && rets != -EINPROGRESS) {
 928                 pm_runtime_put_noidle(dev->dev);
 929                 cl_err(dev, cl, "rpm: get failed %d\n", rets);
 930                 return rets;
 931         }
 932
 933         rets = __mei_cl_disconnect(cl);
 934
 935         cl_dbg(dev, cl, "rpm: autosuspend\n");
 936         pm_runtime_mark_last_busy(dev->dev);
 937         pm_runtime_put_autosuspend(dev->dev);
 938
 939         return rets;
 940 }
 941
 942
 943 /**
 944  * mei_cl_is_other_connecting - checks if other
 945  *    client with the same me client id is connecting
 946  *
 947  * @cl: private data of the file object
 948  *
 949  * Return: true if other client is connected, false - otherwise.
 950  */
 951 static bool mei_cl_is_other_connecting(struct mei_cl *cl)
 952 {
 953         struct mei_device *dev;
 954         struct mei_cl_cb *cb;
 955
 956         dev = cl->dev;
 957
 958         list_for_each_entry(cb, &dev->ctrl_rd_list.list, list) {
 959                 if (cb->fop_type == MEI_FOP_CONNECT &&
 960                     mei_cl_me_id(cl) == mei_cl_me_id(cb->cl))
 961                         return true;
 962         }
 963
 964         return false;
 965 }
 966
 967 /**
 968  * mei_cl_send_connect - send connect request
 969  *
 970  * @cl: host client
 971  * @cb: callback block
 972  *
 973  * Return: 0, OK; otherwise, error.
 974  */
 975 static int mei_cl_send_connect(struct mei_cl *cl, struct mei_cl_cb *cb)
 976 {
 977         struct mei_device *dev;
 978         int ret;
 979
 980         dev = cl->dev;
 981
 982         ret = mei_hbm_cl_connect_req(dev, cl);
 983         cl->status = ret;
 984         if (ret) {
 985                 cl->state = MEI_FILE_DISCONNECT_REPLY;
 986                 return ret;
 987         }
 988
 989         list_move_tail(&cb->list, &dev->ctrl_rd_list.list);
 990         cl->timer_count = MEI_CONNECT_TIMEOUT;
 991         return 0;
 992 }
 993
 994 /**
 995  * mei_cl_irq_connect - send connect request in irq_thread context
 996  *
 997  * @cl: host client
 998  * @cb: callback block
 999  * @cmpl_list: complete list
1000  *
1001  * Return: 0, OK; otherwise, error.
1002  */
1003 int mei_cl_irq_connect(struct mei_cl *cl, struct mei_cl_cb *cb,
1004                               struct mei_cl_cb *cmpl_list)
1005 {
1006         struct mei_device *dev = cl->dev;
1007         u32 msg_slots;
1008         int slots;
1009         int rets;
1010
1011         msg_slots = mei_data2slots(sizeof(struct hbm_client_connect_request));
1012         slots = mei_hbuf_empty_slots(dev);
1013
1014         if (mei_cl_is_other_connecting(cl))
1015                 return 0;
1016
1017         if (slots < msg_slots)
1018                 return -EMSGSIZE;
1019
1020         rets = mei_cl_send_connect(cl, cb);
1021         if (rets)
1022                 list_move_tail(&cb->list, &cmpl_list->list);
1023
1024         return rets;
1025 }
1026
1027 /**
1028  * mei_cl_connect - connect host client to the me one
1029  *
1030  * @cl: host client
1031  * @me_cl: me client
1032  * @file: pointer to file structure
1033  *
1034  * Locking: called under "dev->device_lock" lock
1035  *
1036  * Return: 0 on success, <0 on failure.
1037  */
1038 int mei_cl_connect(struct mei_cl *cl, struct mei_me_client *me_cl,
1039                    struct file *file)
1040 {
1041         struct mei_device *dev;
1042         struct mei_cl_cb *cb;
1043         int rets;
1044
1045         if (WARN_ON(!cl || !cl->dev || !me_cl))
1046                 return -ENODEV;
1047
1048         dev = cl->dev;
1049
1050         rets = mei_cl_set_connecting(cl, me_cl);
1051         if (rets)
1052                 return rets;
1053
1054         if (mei_cl_is_fixed_address(cl)) {
1055                 cl->state = MEI_FILE_CONNECTED;
1056                 return 0;
1057         }
1058
1059         rets = pm_runtime_get(dev->dev);
1060         if (rets < 0 && rets != -EINPROGRESS) {
1061                 pm_runtime_put_noidle(dev->dev);
1062                 cl_err(dev, cl, "rpm: get failed %d\n", rets);
1063                 goto nortpm;
1064         }
1065
1066         cb = mei_io_cb_init(cl, MEI_FOP_CONNECT, file);
1067         rets = cb ? 0 : -ENOMEM;
1068         if (rets)
1069                 goto out;
1070
1071         list_add_tail(&cb->list, &dev->ctrl_wr_list.list);
1072
1073         /* run hbuf acquire last so we don't have to undo */
1074         if (!mei_cl_is_other_connecting(cl) && mei_hbuf_acquire(dev)) {
1075                 rets = mei_cl_send_connect(cl, cb);
1076                 if (rets)
1077                         goto out;
1078         }
1079
1080         mutex_unlock(&dev->device_lock);
1081         wait_event_timeout(cl->wait,
1082                         (cl->state == MEI_FILE_CONNECTED ||
1083                          cl->state == MEI_FILE_DISCONNECT_REQUIRED ||
1084                          cl->state == MEI_FILE_DISCONNECT_REPLY),
1085                         mei_secs_to_jiffies(MEI_CL_CONNECT_TIMEOUT));
1086         mutex_lock(&dev->device_lock);
1087
1088         if (!mei_cl_is_connected(cl)) {
1089                 if (cl->state == MEI_FILE_DISCONNECT_REQUIRED) {
1090                         mei_io_list_flush(&dev->ctrl_rd_list, cl);
1091                         mei_io_list_flush(&dev->ctrl_wr_list, cl);
1092                          /* ignore disconnect return valuue;
1093                           * in case of failure reset will be invoked
1094                           */
1095                         __mei_cl_disconnect(cl);
1096                         rets = -EFAULT;
1097                         goto out;
1098                 }
1099
1100                 /* timeout or something went really wrong */
1101                 if (!cl->status)
1102                         cl->status = -EFAULT;
1103         }
1104
1105         rets = cl->status;
1106 out:
1107         cl_dbg(dev, cl, "rpm: autosuspend\n");
1108         pm_runtime_mark_last_busy(dev->dev);
1109         pm_runtime_put_autosuspend(dev->dev);
1110
1111         mei_io_cb_free(cb);
1112
1113 nortpm:
1114         if (!mei_cl_is_connected(cl))
1115                 mei_cl_set_disconnected(cl);
1116
1117         return rets;
1118 }
1119
1120 /**
1121  * mei_cl_alloc_linked - allocate and link host client
1122  *
1123  * @dev: the device structure
1124  * @id: fixed host id or MEI_HOST_CLIENT_ID_ANY (-1) for generic one
1125  *
1126  * Return: cl on success ERR_PTR on failure
1127  */
1128 struct mei_cl *mei_cl_alloc_linked(struct mei_device *dev, int id)
1129 {
1130         struct mei_cl *cl;
1131         int ret;
1132
1133         cl = mei_cl_allocate(dev);
1134         if (!cl) {
1135                 ret = -ENOMEM;
1136                 goto err;
1137         }
1138
1139         ret = mei_cl_link(cl, id);
1140         if (ret)
1141                 goto err;
1142
1143         return cl;
1144 err:
1145         kfree(cl);
1146         return ERR_PTR(ret);
1147 }
1148
1149
1150
1151 /**
1152  * mei_cl_flow_ctrl_creds - checks flow_control credits for cl.
1153  *
1154  * @cl: private data of the file object
1155  *
1156  * Return: 1 if mei_flow_ctrl_creds >0, 0 - otherwise.
1157  */
1158 int mei_cl_flow_ctrl_creds(struct mei_cl *cl)
1159 {
1160         int rets;
1161
1162         if (WARN_ON(!cl || !cl->me_cl))
1163                 return -EINVAL;
1164
1165         if (cl->mei_flow_ctrl_creds > 0)
1166                 return 1;
1167
1168         if (mei_cl_is_fixed_address(cl)) {
1169                 rets = mei_cl_read_start(cl, mei_cl_mtu(cl), NULL);
1170                 if (rets && rets != -EBUSY)
1171                         return rets;
1172                 return 1;
1173         }
1174
1175         if (mei_cl_is_single_recv_buf(cl)) {
1176                 if (cl->me_cl->mei_flow_ctrl_creds > 0)
1177                         return 1;
1178         }
1179         return 0;
1180 }
1181
1182 /**
1183  * mei_cl_flow_ctrl_reduce - reduces flow_control.
1184  *
1185  * @cl: private data of the file object
1186  *
1187  * Return:
1188  *      0 on success
1189  *      -EINVAL when ctrl credits are <= 0
1190  */
1191 int mei_cl_flow_ctrl_reduce(struct mei_cl *cl)
1192 {
1193         if (WARN_ON(!cl || !cl->me_cl))
1194                 return -EINVAL;
1195
1196         if (mei_cl_is_fixed_address(cl))
1197                 return 0;
1198
1199         if (mei_cl_is_single_recv_buf(cl)) {
1200                 if (WARN_ON(cl->me_cl->mei_flow_ctrl_creds <= 0))
1201                         return -EINVAL;
1202                 cl->me_cl->mei_flow_ctrl_creds--;
1203         } else {
1204                 if (WARN_ON(cl->mei_flow_ctrl_creds <= 0))
1205                         return -EINVAL;
1206                 cl->mei_flow_ctrl_creds--;
1207         }
1208         return 0;
1209 }
1210
1211 /**
1212  *  mei_cl_notify_fop2req - convert fop to proper request
1213  *
1214  * @fop: client notification start response command
1215  *
1216  * Return:  MEI_HBM_NOTIFICATION_START/STOP
1217  */
1218 u8 mei_cl_notify_fop2req(enum mei_cb_file_ops fop)
1219 {
1220         if (fop == MEI_FOP_NOTIFY_START)
1221                 return MEI_HBM_NOTIFICATION_START;
1222         else
1223                 return MEI_HBM_NOTIFICATION_STOP;
1224 }
1225
1226 /**
1227  *  mei_cl_notify_req2fop - convert notification request top file operation type
1228  *
1229  * @req: hbm notification request type
1230  *
1231  * Return:  MEI_FOP_NOTIFY_START/STOP
1232  */
1233 enum mei_cb_file_ops mei_cl_notify_req2fop(u8 req)
1234 {
1235         if (req == MEI_HBM_NOTIFICATION_START)
1236                 return MEI_FOP_NOTIFY_START;
1237         else
1238                 return MEI_FOP_NOTIFY_STOP;
1239 }
1240
1241 /**
1242  * mei_cl_irq_notify - send notification request in irq_thread context
1243  *
1244  * @cl: client
1245  * @cb: callback block.
1246  * @cmpl_list: complete list.
1247  *
1248  * Return: 0 on such and error otherwise.
1249  */
1250 int mei_cl_irq_notify(struct mei_cl *cl, struct mei_cl_cb *cb,
1251                       struct mei_cl_cb *cmpl_list)
1252 {
1253         struct mei_device *dev = cl->dev;
1254         u32 msg_slots;
1255         int slots;
1256         int ret;
1257         bool request;
1258
1259         msg_slots = mei_data2slots(sizeof(struct hbm_client_connect_request));
1260         slots = mei_hbuf_empty_slots(dev);
1261
1262         if (slots < msg_slots)
1263                 return -EMSGSIZE;
1264
1265         request = mei_cl_notify_fop2req(cb->fop_type);
1266         ret = mei_hbm_cl_notify_req(dev, cl, request);
1267         if (ret) {
1268                 cl->status = ret;
1269                 list_move_tail(&cb->list, &cmpl_list->list);
1270                 return ret;
1271         }
1272
1273         list_move_tail(&cb->list, &dev->ctrl_rd_list.list);
1274         return 0;
1275 }
1276
1277 /**
1278  * mei_cl_notify_request - send notification stop/start request
1279  *
1280  * @cl: host client
1281  * @file: associate request with file
1282  * @request: 1 for start or 0 for stop
1283  *
1284  * Locking: called under "dev->device_lock" lock
1285  *
1286  * Return: 0 on such and error otherwise.
1287  */
1288 int mei_cl_notify_request(struct mei_cl *cl, struct file *file, u8 request)
1289 {
1290         struct mei_device *dev;
1291         struct mei_cl_cb *cb;
1292         enum mei_cb_file_ops fop_type;
1293         int rets;
1294
1295         if (WARN_ON(!cl || !cl->dev))
1296                 return -ENODEV;
1297
1298         dev = cl->dev;
1299
1300         if (!dev->hbm_f_ev_supported) {
1301                 cl_dbg(dev, cl, "notifications not supported\n");
1302                 return -EOPNOTSUPP;
1303         }
1304
1305         if (!mei_cl_is_connected(cl))
1306                 return -ENODEV;
1307
1308         rets = pm_runtime_get(dev->dev);
1309         if (rets < 0 && rets != -EINPROGRESS) {
1310                 pm_runtime_put_noidle(dev->dev);
1311                 cl_err(dev, cl, "rpm: get failed %d\n", rets);
1312                 return rets;
1313         }
1314
1315         fop_type = mei_cl_notify_req2fop(request);
1316         cb = mei_io_cb_init(cl, fop_type, file);
1317         if (!cb) {
1318                 rets = -ENOMEM;
1319                 goto out;
1320         }
1321
1322         if (mei_hbuf_acquire(dev)) {
1323                 if (mei_hbm_cl_notify_req(dev, cl, request)) {
1324                         rets = -ENODEV;
1325                         goto out;
1326                 }
1327                 list_add_tail(&cb->list, &dev->ctrl_rd_list.list);
1328         } else {
1329                 list_add_tail(&cb->list, &dev->ctrl_wr_list.list);
1330         }
1331
1332         mutex_unlock(&dev->device_lock);
1333         wait_event_timeout(cl->wait, cl->notify_en == request,
1334                         mei_secs_to_jiffies(MEI_CL_CONNECT_TIMEOUT));
1335         mutex_lock(&dev->device_lock);
1336
1337         if (cl->notify_en != request) {
1338                 mei_io_list_flush(&dev->ctrl_rd_list, cl);
1339                 mei_io_list_flush(&dev->ctrl_wr_list, cl);
1340                 if (!cl->status)
1341                         cl->status = -EFAULT;
1342         }
1343
1344         rets = cl->status;
1345
1346 out:
1347         cl_dbg(dev, cl, "rpm: autosuspend\n");
1348         pm_runtime_mark_last_busy(dev->dev);
1349         pm_runtime_put_autosuspend(dev->dev);
1350
1351         mei_io_cb_free(cb);
1352         return rets;
1353 }
1354
1355 /**
1356  * mei_cl_notify - raise notification
1357  *
1358  * @cl: host client
1359  *
1360  * Locking: called under "dev->device_lock" lock
1361  */
1362 void mei_cl_notify(struct mei_cl *cl)
1363 {
1364         struct mei_device *dev;
1365
1366         if (!cl || !cl->dev)
1367                 return;
1368
1369         dev = cl->dev;
1370
1371         if (!cl->notify_en)
1372                 return;
1373
1374         cl_dbg(dev, cl, "notify event");
1375         cl->notify_ev = true;
1376         wake_up_interruptible_all(&cl->ev_wait);
1377
1378         if (cl->ev_async)
1379                 kill_fasync(&cl->ev_async, SIGIO, POLL_PRI);
1380
1381         mei_cl_bus_notify_event(cl);
1382 }
1383
1384 /**
1385  * mei_cl_notify_get - get or wait for notification event
1386  *
1387  * @cl: host client
1388  * @block: this request is blocking
1389  * @notify_ev: true if notification event was received
1390  *
1391  * Locking: called under "dev->device_lock" lock
1392  *
1393  * Return: 0 on such and error otherwise.
1394  */
1395 int mei_cl_notify_get(struct mei_cl *cl, bool block, bool *notify_ev)
1396 {
1397         struct mei_device *dev;
1398         int rets;
1399
1400         *notify_ev = false;
1401
1402         if (WARN_ON(!cl || !cl->dev))
1403                 return -ENODEV;
1404
1405         dev = cl->dev;
1406
1407         if (!mei_cl_is_connected(cl))
1408                 return -ENODEV;
1409
1410         if (cl->notify_ev)
1411                 goto out;
1412
1413         if (!block)
1414                 return -EAGAIN;
1415
1416         mutex_unlock(&dev->device_lock);
1417         rets = wait_event_interruptible(cl->ev_wait, cl->notify_ev);
1418         mutex_lock(&dev->device_lock);
1419
1420         if (rets < 0)
1421                 return rets;
1422
1423 out:
1424         *notify_ev = cl->notify_ev;
1425         cl->notify_ev = false;
1426         return 0;
1427 }
1428
1429 /**
1430  * mei_cl_read_start - the start read client message function.
1431  *
1432  * @cl: host client
1433  * @length: number of bytes to read
1434  * @fp: pointer to file structure
1435  *
1436  * Return: 0 on success, <0 on failure.
1437  */
1438 int mei_cl_read_start(struct mei_cl *cl, size_t length, struct file *fp)
1439 {
1440         struct mei_device *dev;
1441         struct mei_cl_cb *cb;
1442         int rets;
1443
1444         if (WARN_ON(!cl || !cl->dev))
1445                 return -ENODEV;
1446
1447         dev = cl->dev;
1448
1449         if (!mei_cl_is_connected(cl))
1450                 return -ENODEV;
1451
1452         /* HW currently supports only one pending read */
1453         if (!list_empty(&cl->rd_pending))
1454                 return -EBUSY;
1455
1456         if (!mei_me_cl_is_active(cl->me_cl)) {
1457                 cl_err(dev, cl, "no such me client\n");
1458                 return  -ENOTTY;
1459         }
1460
1461         /* always allocate at least client max message */
1462         length = max_t(size_t, length, mei_cl_mtu(cl));
1463         cb = mei_cl_alloc_cb(cl, length, MEI_FOP_READ, fp);
1464         if (!cb)
1465                 return -ENOMEM;
1466
1467         if (mei_cl_is_fixed_address(cl)) {
1468                 list_add_tail(&cb->list, &cl->rd_pending);
1469                 return 0;
1470         }
1471
1472         rets = pm_runtime_get(dev->dev);
1473         if (rets < 0 && rets != -EINPROGRESS) {
1474                 pm_runtime_put_noidle(dev->dev);
1475                 cl_err(dev, cl, "rpm: get failed %d\n", rets);
1476                 goto nortpm;
1477         }
1478
1479         if (mei_hbuf_acquire(dev)) {
1480                 rets = mei_hbm_cl_flow_control_req(dev, cl);
1481                 if (rets < 0)
1482                         goto out;
1483
1484                 list_add_tail(&cb->list, &cl->rd_pending);
1485         } else {
1486                 rets = 0;
1487                 list_add_tail(&cb->list, &dev->ctrl_wr_list.list);
1488         }
1489
1490 out:
1491         cl_dbg(dev, cl, "rpm: autosuspend\n");
1492         pm_runtime_mark_last_busy(dev->dev);
1493         pm_runtime_put_autosuspend(dev->dev);
1494 nortpm:
1495         if (rets)
1496                 mei_io_cb_free(cb);
1497
1498         return rets;
1499 }
1500
1501 /**
1502  * mei_cl_irq_write - write a message to device
1503  *      from the interrupt thread context
1504  *
1505  * @cl: client
1506  * @cb: callback block.
1507  * @cmpl_list: complete list.
1508  *
1509  * Return: 0, OK; otherwise error.
1510  */
1511 int mei_cl_irq_write(struct mei_cl *cl, struct mei_cl_cb *cb,
1512                      struct mei_cl_cb *cmpl_list)
1513 {
1514         struct mei_device *dev;
1515         struct mei_msg_data *buf;
1516         struct mei_msg_hdr mei_hdr;
1517         size_t len;
1518         u32 msg_slots;
1519         int slots;
1520         int rets;
1521         bool first_chunk;
1522
1523         if (WARN_ON(!cl || !cl->dev))
1524                 return -ENODEV;
1525
1526         dev = cl->dev;
1527
1528         buf = &cb->buf;
1529
1530         first_chunk = cb->buf_idx == 0;
1531
1532         rets = first_chunk ? mei_cl_flow_ctrl_creds(cl) : 1;
1533         if (rets < 0)
1534                 return rets;
1535
1536         if (rets == 0) {
1537                 cl_dbg(dev, cl, "No flow control credentials: not sending.\n");
1538                 return 0;
1539         }
1540
1541         slots = mei_hbuf_empty_slots(dev);
1542         len = buf->size - cb->buf_idx;
1543         msg_slots = mei_data2slots(len);
1544
1545         mei_hdr.host_addr = mei_cl_host_addr(cl);
1546         mei_hdr.me_addr = mei_cl_me_id(cl);
1547         mei_hdr.reserved = 0;
1548         mei_hdr.internal = cb->internal;
1549
1550         if (slots >= msg_slots) {
1551                 mei_hdr.length = len;
1552                 mei_hdr.msg_complete = 1;
1553         /* Split the message only if we can write the whole host buffer */
1554         } else if (slots == dev->hbuf_depth) {
1555                 msg_slots = slots;
1556                 len = (slots * sizeof(u32)) - sizeof(struct mei_msg_hdr);
1557                 mei_hdr.length = len;
1558                 mei_hdr.msg_complete = 0;
1559         } else {
1560                 /* wait for next time the host buffer is empty */
1561                 return 0;
1562         }
1563
1564         cl_dbg(dev, cl, "buf: size = %d idx = %lu\n",
1565                         cb->buf.size, cb->buf_idx);
1566
1567         rets = mei_write_message(dev, &mei_hdr, buf->data + cb->buf_idx);
1568         if (rets) {
1569                 cl->status = rets;
1570                 list_move_tail(&cb->list, &cmpl_list->list);
1571                 return rets;
1572         }
1573
1574         cl->status = 0;
1575         cl->writing_state = MEI_WRITING;
1576         cb->buf_idx += mei_hdr.length;
1577         cb->completed = mei_hdr.msg_complete == 1;
1578
1579         if (first_chunk) {
1580                 if (mei_cl_flow_ctrl_reduce(cl))
1581                         return -EIO;
1582         }
1583
1584         if (mei_hdr.msg_complete)
1585                 list_move_tail(&cb->list, &dev->write_waiting_list.list);
1586
1587         return 0;
1588 }
1589
1590 /**
1591  * mei_cl_write - submit a write cb to mei device
1592  *      assumes device_lock is locked
1593  *
1594  * @cl: host client
1595  * @cb: write callback with filled data
1596  * @blocking: block until completed
1597  *
1598  * Return: number of bytes sent on success, <0 on failure.
1599  */
1600 int mei_cl_write(struct mei_cl *cl, struct mei_cl_cb *cb, bool blocking)
1601 {
1602         struct mei_device *dev;
1603         struct mei_msg_data *buf;
1604         struct mei_msg_hdr mei_hdr;
1605         int size;
1606         int rets;
1607
1608
1609         if (WARN_ON(!cl || !cl->dev))
1610                 return -ENODEV;
1611
1612         if (WARN_ON(!cb))
1613                 return -EINVAL;
1614
1615         dev = cl->dev;
1616
1617         buf = &cb->buf;
1618         size = buf->size;
1619
1620         cl_dbg(dev, cl, "size=%d\n", size);
1621
1622         rets = pm_runtime_get(dev->dev);
1623         if (rets < 0 && rets != -EINPROGRESS) {
1624                 pm_runtime_put_noidle(dev->dev);
1625                 cl_err(dev, cl, "rpm: get failed %d\n", rets);
1626                 return rets;
1627         }
1628
1629         cb->buf_idx = 0;
1630         cl->writing_state = MEI_IDLE;
1631
1632         mei_hdr.host_addr = mei_cl_host_addr(cl);
1633         mei_hdr.me_addr = mei_cl_me_id(cl);
1634         mei_hdr.reserved = 0;
1635         mei_hdr.msg_complete = 0;
1636         mei_hdr.internal = cb->internal;
1637
1638         rets = mei_cl_flow_ctrl_creds(cl);
1639         if (rets < 0)
1640                 goto err;
1641
1642         if (rets == 0) {
1643                 cl_dbg(dev, cl, "No flow control credentials: not sending.\n");
1644                 rets = size;
1645                 goto out;
1646         }
1647         if (!mei_hbuf_acquire(dev)) {
1648                 cl_dbg(dev, cl, "Cannot acquire the host buffer: not sending.\n");
1649                 rets = size;
1650                 goto out;
1651         }
1652
1653         /* Check for a maximum length */
1654         if (size > mei_hbuf_max_len(dev)) {
1655                 mei_hdr.length = mei_hbuf_max_len(dev);
1656                 mei_hdr.msg_complete = 0;
1657         } else {
1658                 mei_hdr.length = size;
1659                 mei_hdr.msg_complete = 1;
1660         }
1661
1662         rets = mei_write_message(dev, &mei_hdr, buf->data);
1663         if (rets)
1664                 goto err;
1665
1666         rets = mei_cl_flow_ctrl_reduce(cl);
1667         if (rets)
1668                 goto err;
1669
1670         cl->writing_state = MEI_WRITING;
1671         cb->buf_idx = mei_hdr.length;
1672         cb->completed = mei_hdr.msg_complete == 1;
1673
1674 out:
1675         if (mei_hdr.msg_complete)
1676                 list_add_tail(&cb->list, &dev->write_waiting_list.list);
1677         else
1678                 list_add_tail(&cb->list, &dev->write_list.list);
1679
1680         cb = NULL;
1681         if (blocking && cl->writing_state != MEI_WRITE_COMPLETE) {
1682
1683                 mutex_unlock(&dev->device_lock);
1684                 rets = wait_event_interruptible(cl->tx_wait,
1685                                 cl->writing_state == MEI_WRITE_COMPLETE);
1686                 mutex_lock(&dev->device_lock);
1687                 /* wait_event_interruptible returns -ERESTARTSYS */
1688                 if (rets) {
1689                         if (signal_pending(current))
1690                                 rets = -EINTR;
1691                         goto err;
1692                 }
1693         }
1694
1695         rets = size;
1696 err:
1697         cl_dbg(dev, cl, "rpm: autosuspend\n");
1698         pm_runtime_mark_last_busy(dev->dev);
1699         pm_runtime_put_autosuspend(dev->dev);
1700
1701         return rets;
1702 }
1703
1704
1705 /**
1706  * mei_cl_complete - processes completed operation for a client
1707  *
1708  * @cl: private data of the file object.
1709  * @cb: callback block.
1710  */
1711 void mei_cl_complete(struct mei_cl *cl, struct mei_cl_cb *cb)
1712 {
1713         struct mei_device *dev = cl->dev;
1714
1715         switch (cb->fop_type) {
1716         case MEI_FOP_WRITE:
1717                 mei_io_cb_free(cb);
1718                 cl->writing_state = MEI_WRITE_COMPLETE;
1719                 if (waitqueue_active(&cl->tx_wait)) {
1720                         wake_up_interruptible(&cl->tx_wait);
1721                 } else {
1722                         pm_runtime_mark_last_busy(dev->dev);
1723                         pm_request_autosuspend(dev->dev);
1724                 }
1725                 break;
1726
1727         case MEI_FOP_READ:
1728                 list_add_tail(&cb->list, &cl->rd_completed);
1729                 if (waitqueue_active(&cl->rx_wait))
1730                         wake_up_interruptible_all(&cl->rx_wait);
1731                 else
1732                         mei_cl_bus_rx_event(cl);
1733                 break;
1734
1735         case MEI_FOP_CONNECT:
1736         case MEI_FOP_DISCONNECT:
1737         case MEI_FOP_NOTIFY_STOP:
1738         case MEI_FOP_NOTIFY_START:
1739                 if (waitqueue_active(&cl->wait))
1740                         wake_up(&cl->wait);
1741
1742                 break;
1743         case MEI_FOP_DISCONNECT_RSP:
1744                 mei_io_cb_free(cb);
1745                 mei_cl_set_disconnected(cl);
1746                 break;
1747         default:
1748                 BUG_ON(0);
1749         }
1750 }
1751
1752
1753 /**
1754  * mei_cl_all_disconnect - disconnect forcefully all connected clients
1755  *
1756  * @dev: mei device
1757  */
1758 void mei_cl_all_disconnect(struct mei_device *dev)
1759 {
1760         struct mei_cl *cl;
1761
1762         list_for_each_entry(cl, &dev->file_list, link)
1763                 mei_cl_set_disconnected(cl);
1764 }
1765
1766
1767 /**
1768  * mei_cl_all_wakeup  - wake up all readers and writers they can be interrupted
1769  *
1770  * @dev: mei device
1771  */
1772 void mei_cl_all_wakeup(struct mei_device *dev)
1773 {
1774         struct mei_cl *cl;
1775
1776         list_for_each_entry(cl, &dev->file_list, link) {
1777                 if (waitqueue_active(&cl->rx_wait)) {
1778                         cl_dbg(dev, cl, "Waking up reading client!\n");
1779                         wake_up_interruptible(&cl->rx_wait);
1780                 }
1781                 if (waitqueue_active(&cl->tx_wait)) {
1782                         cl_dbg(dev, cl, "Waking up writing client!\n");
1783                         wake_up_interruptible(&cl->tx_wait);
1784                 }
1785
1786                 /* synchronized under device mutex */
1787                 if (waitqueue_active(&cl->ev_wait)) {
1788                         cl_dbg(dev, cl, "Waking up waiting for event clients!\n");
1789                         wake_up_interruptible(&cl->ev_wait);
1790                 }
1791         }
1792 }
1793
1794 /**
1795  * mei_cl_all_write_clear - clear all pending writes
1796  *
1797  * @dev: mei device
1798  */
1799 void mei_cl_all_write_clear(struct mei_device *dev)
1800 {
1801         mei_io_list_free(&dev->write_list, NULL);
1802         mei_io_list_free(&dev->write_waiting_list, NULL);
1803 }
1804
1805