drivers/gpu/drm/drm_dp_mst_topology.c

   1 /*
   2  * Copyright © 2014 Red Hat
   3  *
   4  * Permission to use, copy, modify, distribute, and sell this software and its
   5  * documentation for any purpose is hereby granted without fee, provided that
   6  * the above copyright notice appear in all copies and that both that copyright
   7  * notice and this permission notice appear in supporting documentation, and
   8  * that the name of the copyright holders not be used in advertising or
   9  * publicity pertaining to distribution of the software without specific,
  10  * written prior permission.  The copyright holders make no representations
  11  * about the suitability of this software for any purpose.  It is provided "as
  12  * is" without express or implied warranty.
  13  *
  14  * THE COPYRIGHT HOLDERS DISCLAIM ALL WARRANTIES WITH REGARD TO THIS SOFTWARE,
  15  * INCLUDING ALL IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS, IN NO
  16  * EVENT SHALL THE COPYRIGHT HOLDERS BE LIABLE FOR ANY SPECIAL, INDIRECT OR
  17  * CONSEQUENTIAL DAMAGES OR ANY DAMAGES WHATSOEVER RESULTING FROM LOSS OF USE,
  18  * DATA OR PROFITS, WHETHER IN AN ACTION OF CONTRACT, NEGLIGENCE OR OTHER
  19  * TORTIOUS ACTION, ARISING OUT OF OR IN CONNECTION WITH THE USE OR PERFORMANCE
  20  * OF THIS SOFTWARE.
  21  */
  22
  23 #include <linux/kernel.h>
  24 #include <linux/delay.h>
  25 #include <linux/init.h>
  26 #include <linux/errno.h>
  27 #include <linux/sched.h>
  28 #include <linux/seq_file.h>
  29 #include <linux/i2c.h>
  30 #include <drm/drm_dp_mst_helper.h>
  31 #include <drm/drmP.h>
  32 #include <linux/iopoll.h>
  33
  34 #include <drm/drm_fixed.h>
  35 #include <drm/drm_atomic.h>
  36 #include <drm/drm_atomic_helper.h>
  37
  38 /**
  39  * DOC: dp mst helper
  40  *
  41  * These functions contain parts of the DisplayPort 1.2a MultiStream Transport
  42  * protocol. The helpers contain a topology manager and bandwidth manager.
  43  * The helpers encapsulate the sending and received of sideband msgs.
  44  */
  45 static bool dump_dp_payload_table(struct drm_dp_mst_topology_mgr *mgr,
  46                                   char *buf);
  47 static int test_calc_pbn_mode(void);
  48
  49 static void drm_dp_put_port(struct drm_dp_mst_port *port);
  50
  51 static int drm_dp_dpcd_write_payload(struct drm_dp_mst_topology_mgr *mgr,
  52                                      int id,
  53                                      struct drm_dp_payload *payload);
  54
  55 static int drm_dp_send_dpcd_write(struct drm_dp_mst_topology_mgr *mgr,
  56                                   struct drm_dp_mst_port *port,
  57                                   int offset, int size, u8 *bytes);
  58
  59 static void drm_dp_send_link_address(struct drm_dp_mst_topology_mgr *mgr,
  60                                      struct drm_dp_mst_branch *mstb);
  61 static int drm_dp_send_enum_path_resources(struct drm_dp_mst_topology_mgr *mgr,
  62                                            struct drm_dp_mst_branch *mstb,
  63                                            struct drm_dp_mst_port *port);
  64 static bool drm_dp_validate_guid(struct drm_dp_mst_topology_mgr *mgr,
  65                                  u8 *guid);
  66
  67 static int drm_dp_mst_register_i2c_bus(struct drm_dp_aux *aux);
  68 static void drm_dp_mst_unregister_i2c_bus(struct drm_dp_aux *aux);
  69 static void drm_dp_mst_kick_tx(struct drm_dp_mst_topology_mgr *mgr);
  70 /* sideband msg handling */
  71 static u8 drm_dp_msg_header_crc4(const uint8_t *data, size_t num_nibbles)
  72 {
  73         u8 bitmask = 0x80;
  74         u8 bitshift = 7;
  75         u8 array_index = 0;
  76         int number_of_bits = num_nibbles * 4;
  77         u8 remainder = 0;
  78
  79         while (number_of_bits != 0) {
  80                 number_of_bits--;
  81                 remainder <<= 1;
  82                 remainder |= (data[array_index] & bitmask) >> bitshift;
  83                 bitmask >>= 1;
  84                 bitshift--;
  85                 if (bitmask == 0) {
  86                         bitmask = 0x80;
  87                         bitshift = 7;
  88                         array_index++;
  89                 }
  90                 if ((remainder & 0x10) == 0x10)
  91                         remainder ^= 0x13;
  92         }
  93
  94         number_of_bits = 4;
  95         while (number_of_bits != 0) {
  96                 number_of_bits--;
  97                 remainder <<= 1;
  98                 if ((remainder & 0x10) != 0)
  99                         remainder ^= 0x13;
 100         }
 101
 102         return remainder;
 103 }
 104
 105 static u8 drm_dp_msg_data_crc4(const uint8_t *data, u8 number_of_bytes)
 106 {
 107         u8 bitmask = 0x80;
 108         u8 bitshift = 7;
 109         u8 array_index = 0;
 110         int number_of_bits = number_of_bytes * 8;
 111         u16 remainder = 0;
 112
 113         while (number_of_bits != 0) {
 114                 number_of_bits--;
 115                 remainder <<= 1;
 116                 remainder |= (data[array_index] & bitmask) >> bitshift;
 117                 bitmask >>= 1;
 118                 bitshift--;
 119                 if (bitmask == 0) {
 120                         bitmask = 0x80;
 121                         bitshift = 7;
 122                         array_index++;
 123                 }
 124                 if ((remainder & 0x100) == 0x100)
 125                         remainder ^= 0xd5;
 126         }
 127
 128         number_of_bits = 8;
 129         while (number_of_bits != 0) {
 130                 number_of_bits--;
 131                 remainder <<= 1;
 132                 if ((remainder & 0x100) != 0)
 133                         remainder ^= 0xd5;
 134         }
 135
 136         return remainder & 0xff;
 137 }
 138 static inline u8 drm_dp_calc_sb_hdr_size(struct drm_dp_sideband_msg_hdr *hdr)
 139 {
 140         u8 size = 3;
 141         size += (hdr->lct / 2);
 142         return size;
 143 }
 144
 145 static void drm_dp_encode_sideband_msg_hdr(struct drm_dp_sideband_msg_hdr *hdr,
 146                                            u8 *buf, int *len)
 147 {
 148         int idx = 0;
 149         int i;
 150         u8 crc4;
 151         buf[idx++] = ((hdr->lct & 0xf) << 4) | (hdr->lcr & 0xf);
 152         for (i = 0; i < (hdr->lct / 2); i++)
 153                 buf[idx++] = hdr->rad[i];
 154         buf[idx++] = (hdr->broadcast << 7) | (hdr->path_msg << 6) |
 155                 (hdr->msg_len & 0x3f);
 156         buf[idx++] = (hdr->somt << 7) | (hdr->eomt << 6) | (hdr->seqno << 4);
 157
 158         crc4 = drm_dp_msg_header_crc4(buf, (idx * 2) - 1);
 159         buf[idx - 1] |= (crc4 & 0xf);
 160
 161         *len = idx;
 162 }
 163
 164 static bool drm_dp_decode_sideband_msg_hdr(struct drm_dp_sideband_msg_hdr *hdr,
 165                                            u8 *buf, int buflen, u8 *hdrlen)
 166 {
 167         u8 crc4;
 168         u8 len;
 169         int i;
 170         u8 idx;
 171         if (buf[0] == 0)
 172                 return false;
 173         len = 3;
 174         len += ((buf[0] & 0xf0) >> 4) / 2;
 175         if (len > buflen)
 176                 return false;
 177         crc4 = drm_dp_msg_header_crc4(buf, (len * 2) - 1);
 178
 179         if ((crc4 & 0xf) != (buf[len - 1] & 0xf)) {
 180                 DRM_DEBUG_KMS("crc4 mismatch 0x%x 0x%x\n", crc4, buf[len - 1]);
 181                 return false;
 182         }
 183
 184         hdr->lct = (buf[0] & 0xf0) >> 4;
 185         hdr->lcr = (buf[0] & 0xf);
 186         idx = 1;
 187         for (i = 0; i < (hdr->lct / 2); i++)
 188                 hdr->rad[i] = buf[idx++];
 189         hdr->broadcast = (buf[idx] >> 7) & 0x1;
 190         hdr->path_msg = (buf[idx] >> 6) & 0x1;
 191         hdr->msg_len = buf[idx] & 0x3f;
 192         idx++;
 193         hdr->somt = (buf[idx] >> 7) & 0x1;
 194         hdr->eomt = (buf[idx] >> 6) & 0x1;
 195         hdr->seqno = (buf[idx] >> 4) & 0x1;
 196         idx++;
 197         *hdrlen = idx;
 198         return true;
 199 }
 200
 201 static void drm_dp_encode_sideband_req(struct drm_dp_sideband_msg_req_body *req,
 202                                        struct drm_dp_sideband_msg_tx *raw)
 203 {
 204         int idx = 0;
 205         int i;
 206         u8 *buf = raw->msg;
 207         buf[idx++] = req->req_type & 0x7f;
 208
 209         switch (req->req_type) {
 210         case DP_ENUM_PATH_RESOURCES:
 211                 buf[idx] = (req->u.port_num.port_number & 0xf) << 4;
 212                 idx++;
 213                 break;
 214         case DP_ALLOCATE_PAYLOAD:
 215                 buf[idx] = (req->u.allocate_payload.port_number & 0xf) << 4 |
 216                         (req->u.allocate_payload.number_sdp_streams & 0xf);
 217                 idx++;
 218                 buf[idx] = (req->u.allocate_payload.vcpi & 0x7f);
 219                 idx++;
 220                 buf[idx] = (req->u.allocate_payload.pbn >> 8);
 221                 idx++;
 222                 buf[idx] = (req->u.allocate_payload.pbn & 0xff);
 223                 idx++;
 224                 for (i = 0; i < req->u.allocate_payload.number_sdp_streams / 2; i++) {
 225                         buf[idx] = ((req->u.allocate_payload.sdp_stream_sink[i * 2] & 0xf) << 4) |
 226                                 (req->u.allocate_payload.sdp_stream_sink[i * 2 + 1] & 0xf);
 227                         idx++;
 228                 }
 229                 if (req->u.allocate_payload.number_sdp_streams & 1) {
 230                         i = req->u.allocate_payload.number_sdp_streams - 1;
 231                         buf[idx] = (req->u.allocate_payload.sdp_stream_sink[i] & 0xf) << 4;
 232                         idx++;
 233                 }
 234                 break;
 235         case DP_QUERY_PAYLOAD:
 236                 buf[idx] = (req->u.query_payload.port_number & 0xf) << 4;
 237                 idx++;
 238                 buf[idx] = (req->u.query_payload.vcpi & 0x7f);
 239                 idx++;
 240                 break;
 241         case DP_REMOTE_DPCD_READ:
 242                 buf[idx] = (req->u.dpcd_read.port_number & 0xf) << 4;
 243                 buf[idx] |= ((req->u.dpcd_read.dpcd_address & 0xf0000) >> 16) & 0xf;
 244                 idx++;
 245                 buf[idx] = (req->u.dpcd_read.dpcd_address & 0xff00) >> 8;
 246                 idx++;
 247                 buf[idx] = (req->u.dpcd_read.dpcd_address & 0xff);
 248                 idx++;
 249                 buf[idx] = (req->u.dpcd_read.num_bytes);
 250                 idx++;
 251                 break;
 252
 253         case DP_REMOTE_DPCD_WRITE:
 254                 buf[idx] = (req->u.dpcd_write.port_number & 0xf) << 4;
 255                 buf[idx] |= ((req->u.dpcd_write.dpcd_address & 0xf0000) >> 16) & 0xf;
 256                 idx++;
 257                 buf[idx] = (req->u.dpcd_write.dpcd_address & 0xff00) >> 8;
 258                 idx++;
 259                 buf[idx] = (req->u.dpcd_write.dpcd_address & 0xff);
 260                 idx++;
 261                 buf[idx] = (req->u.dpcd_write.num_bytes);
 262                 idx++;
 263                 memcpy(&buf[idx], req->u.dpcd_write.bytes, req->u.dpcd_write.num_bytes);
 264                 idx += req->u.dpcd_write.num_bytes;
 265                 break;
 266         case DP_REMOTE_I2C_READ:
 267                 buf[idx] = (req->u.i2c_read.port_number & 0xf) << 4;
 268                 buf[idx] |= (req->u.i2c_read.num_transactions & 0x3);
 269                 idx++;
 270                 for (i = 0; i < (req->u.i2c_read.num_transactions & 0x3); i++) {
 271                         buf[idx] = req->u.i2c_read.transactions[i].i2c_dev_id & 0x7f;
 272                         idx++;
 273                         buf[idx] = req->u.i2c_read.transactions[i].num_bytes;
 274                         idx++;
 275                         memcpy(&buf[idx], req->u.i2c_read.transactions[i].bytes, req->u.i2c_read.transactions[i].num_bytes);
 276                         idx += req->u.i2c_read.transactions[i].num_bytes;
 277
 278                         buf[idx] = (req->u.i2c_read.transactions[i].no_stop_bit & 0x1) << 4;
 279                         buf[idx] |= (req->u.i2c_read.transactions[i].i2c_transaction_delay & 0xf);
 280                         idx++;
 281                 }
 282                 buf[idx] = (req->u.i2c_read.read_i2c_device_id) & 0x7f;
 283                 idx++;
 284                 buf[idx] = (req->u.i2c_read.num_bytes_read);
 285                 idx++;
 286                 break;
 287
 288         case DP_REMOTE_I2C_WRITE:
 289                 buf[idx] = (req->u.i2c_write.port_number & 0xf) << 4;
 290                 idx++;
 291                 buf[idx] = (req->u.i2c_write.write_i2c_device_id) & 0x7f;
 292                 idx++;
 293                 buf[idx] = (req->u.i2c_write.num_bytes);
 294                 idx++;
 295                 memcpy(&buf[idx], req->u.i2c_write.bytes, req->u.i2c_write.num_bytes);
 296                 idx += req->u.i2c_write.num_bytes;
 297                 break;
 298         }
 299         raw->cur_len = idx;
 300 }
 301
 302 static void drm_dp_crc_sideband_chunk_req(u8 *msg, u8 len)
 303 {
 304         u8 crc4;
 305         crc4 = drm_dp_msg_data_crc4(msg, len);
 306         msg[len] = crc4;
 307 }
 308
 309 static void drm_dp_encode_sideband_reply(struct drm_dp_sideband_msg_reply_body *rep,
 310                                          struct drm_dp_sideband_msg_tx *raw)
 311 {
 312         int idx = 0;
 313         u8 *buf = raw->msg;
 314
 315         buf[idx++] = (rep->reply_type & 0x1) << 7 | (rep->req_type & 0x7f);
 316
 317         raw->cur_len = idx;
 318 }
 319
 320 /* this adds a chunk of msg to the builder to get the final msg */
 321 static bool drm_dp_sideband_msg_build(struct drm_dp_sideband_msg_rx *msg,
 322                                       u8 *replybuf, u8 replybuflen, bool hdr)
 323 {
 324         int ret;
 325         u8 crc4;
 326
 327         if (hdr) {
 328                 u8 hdrlen;
 329                 struct drm_dp_sideband_msg_hdr recv_hdr;
 330                 ret = drm_dp_decode_sideband_msg_hdr(&recv_hdr, replybuf, replybuflen, &hdrlen);
 331                 if (ret == false) {
 332                         print_hex_dump(KERN_DEBUG, "failed hdr", DUMP_PREFIX_NONE, 16, 1, replybuf, replybuflen, false);
 333                         return false;
 334                 }
 335
 336                 /*
 337                  * ignore out-of-order messages or messages that are part of a
 338                  * failed transaction
 339                  */
 340                 if (!recv_hdr.somt && !msg->have_somt)
 341                         return false;
 342
 343                 /* get length contained in this portion */
 344                 msg->curchunk_len = recv_hdr.msg_len;
 345                 msg->curchunk_hdrlen = hdrlen;
 346
 347                 /* we have already gotten an somt - don't bother parsing */
 348                 if (recv_hdr.somt && msg->have_somt)
 349                         return false;
 350
 351                 if (recv_hdr.somt) {
 352                         memcpy(&msg->initial_hdr, &recv_hdr, sizeof(struct drm_dp_sideband_msg_hdr));
 353                         msg->have_somt = true;
 354                 }
 355                 if (recv_hdr.eomt)
 356                         msg->have_eomt = true;
 357
 358                 /* copy the bytes for the remainder of this header chunk */
 359                 msg->curchunk_idx = min(msg->curchunk_len, (u8)(replybuflen - hdrlen));
 360                 memcpy(&msg->chunk[0], replybuf + hdrlen, msg->curchunk_idx);
 361         } else {
 362                 memcpy(&msg->chunk[msg->curchunk_idx], replybuf, replybuflen);
 363                 msg->curchunk_idx += replybuflen;
 364         }
 365
 366         if (msg->curchunk_idx >= msg->curchunk_len) {
 367                 /* do CRC */
 368                 crc4 = drm_dp_msg_data_crc4(msg->chunk, msg->curchunk_len - 1);
 369                 /* copy chunk into bigger msg */
 370                 memcpy(&msg->msg[msg->curlen], msg->chunk, msg->curchunk_len - 1);
 371                 msg->curlen += msg->curchunk_len - 1;
 372         }
 373         return true;
 374 }
 375
 376 static bool drm_dp_sideband_parse_link_address(struct drm_dp_sideband_msg_rx *raw,
 377                                                struct drm_dp_sideband_msg_reply_body *repmsg)
 378 {
 379         int idx = 1;
 380         int i;
 381         memcpy(repmsg->u.link_addr.guid, &raw->msg[idx], 16);
 382         idx += 16;
 383         repmsg->u.link_addr.nports = raw->msg[idx] & 0xf;
 384         idx++;
 385         if (idx > raw->curlen)
 386                 goto fail_len;
 387         for (i = 0; i < repmsg->u.link_addr.nports; i++) {
 388                 if (raw->msg[idx] & 0x80)
 389                         repmsg->u.link_addr.ports[i].input_port = 1;
 390
 391                 repmsg->u.link_addr.ports[i].peer_device_type = (raw->msg[idx] >> 4) & 0x7;
 392                 repmsg->u.link_addr.ports[i].port_number = (raw->msg[idx] & 0xf);
 393
 394                 idx++;
 395                 if (idx > raw->curlen)
 396                         goto fail_len;
 397                 repmsg->u.link_addr.ports[i].mcs = (raw->msg[idx] >> 7) & 0x1;
 398                 repmsg->u.link_addr.ports[i].ddps = (raw->msg[idx] >> 6) & 0x1;
 399                 if (repmsg->u.link_addr.ports[i].input_port == 0)
 400                         repmsg->u.link_addr.ports[i].legacy_device_plug_status = (raw->msg[idx] >> 5) & 0x1;
 401                 idx++;
 402                 if (idx > raw->curlen)
 403                         goto fail_len;
 404                 if (repmsg->u.link_addr.ports[i].input_port == 0) {
 405                         repmsg->u.link_addr.ports[i].dpcd_revision = (raw->msg[idx]);
 406                         idx++;
 407                         if (idx > raw->curlen)
 408                                 goto fail_len;
 409                         memcpy(repmsg->u.link_addr.ports[i].peer_guid, &raw->msg[idx], 16);
 410                         idx += 16;
 411                         if (idx > raw->curlen)
 412                                 goto fail_len;
 413                         repmsg->u.link_addr.ports[i].num_sdp_streams = (raw->msg[idx] >> 4) & 0xf;
 414                         repmsg->u.link_addr.ports[i].num_sdp_stream_sinks = (raw->msg[idx] & 0xf);
 415                         idx++;
 416
 417                 }
 418                 if (idx > raw->curlen)
 419                         goto fail_len;
 420         }
 421
 422         return true;
 423 fail_len:
 424         DRM_DEBUG_KMS("link address reply parse length fail %d %d\n", idx, raw->curlen);
 425         return false;
 426 }
 427
 428 static bool drm_dp_sideband_parse_remote_dpcd_read(struct drm_dp_sideband_msg_rx *raw,
 429                                                    struct drm_dp_sideband_msg_reply_body *repmsg)
 430 {
 431         int idx = 1;
 432         repmsg->u.remote_dpcd_read_ack.port_number = raw->msg[idx] & 0xf;
 433         idx++;
 434         if (idx > raw->curlen)
 435                 goto fail_len;
 436         repmsg->u.remote_dpcd_read_ack.num_bytes = raw->msg[idx];
 437         idx++;
 438         if (idx > raw->curlen)
 439                 goto fail_len;
 440
 441         memcpy(repmsg->u.remote_dpcd_read_ack.bytes, &raw->msg[idx], repmsg->u.remote_dpcd_read_ack.num_bytes);
 442         return true;
 443 fail_len:
 444         DRM_DEBUG_KMS("link address reply parse length fail %d %d\n", idx, raw->curlen);
 445         return false;
 446 }
 447
 448 static bool drm_dp_sideband_parse_remote_dpcd_write(struct drm_dp_sideband_msg_rx *raw,
 449                                                       struct drm_dp_sideband_msg_reply_body *repmsg)
 450 {
 451         int idx = 1;
 452         repmsg->u.remote_dpcd_write_ack.port_number = raw->msg[idx] & 0xf;
 453         idx++;
 454         if (idx > raw->curlen)
 455                 goto fail_len;
 456         return true;
 457 fail_len:
 458         DRM_DEBUG_KMS("parse length fail %d %d\n", idx, raw->curlen);
 459         return false;
 460 }
 461
 462 static bool drm_dp_sideband_parse_remote_i2c_read_ack(struct drm_dp_sideband_msg_rx *raw,
 463                                                       struct drm_dp_sideband_msg_reply_body *repmsg)
 464 {
 465         int idx = 1;
 466
 467         repmsg->u.remote_i2c_read_ack.port_number = (raw->msg[idx] & 0xf);
 468         idx++;
 469         if (idx > raw->curlen)
 470                 goto fail_len;
 471         repmsg->u.remote_i2c_read_ack.num_bytes = raw->msg[idx];
 472         idx++;
 473         /* TODO check */
 474         memcpy(repmsg->u.remote_i2c_read_ack.bytes, &raw->msg[idx], repmsg->u.remote_i2c_read_ack.num_bytes);
 475         return true;
 476 fail_len:
 477         DRM_DEBUG_KMS("remote i2c reply parse length fail %d %d\n", idx, raw->curlen);
 478         return false;
 479 }
 480
 481 static bool drm_dp_sideband_parse_enum_path_resources_ack(struct drm_dp_sideband_msg_rx *raw,
 482                                                           struct drm_dp_sideband_msg_reply_body *repmsg)
 483 {
 484         int idx = 1;
 485         repmsg->u.path_resources.port_number = (raw->msg[idx] >> 4) & 0xf;
 486         idx++;
 487         if (idx > raw->curlen)
 488                 goto fail_len;
 489         repmsg->u.path_resources.full_payload_bw_number = (raw->msg[idx] << 8) | (raw->msg[idx+1]);
 490         idx += 2;
 491         if (idx > raw->curlen)
 492                 goto fail_len;
 493         repmsg->u.path_resources.avail_payload_bw_number = (raw->msg[idx] << 8) | (raw->msg[idx+1]);
 494         idx += 2;
 495         if (idx > raw->curlen)
 496                 goto fail_len;
 497         return true;
 498 fail_len:
 499         DRM_DEBUG_KMS("enum resource parse length fail %d %d\n", idx, raw->curlen);
 500         return false;
 501 }
 502
 503 static bool drm_dp_sideband_parse_allocate_payload_ack(struct drm_dp_sideband_msg_rx *raw,
 504                                                           struct drm_dp_sideband_msg_reply_body *repmsg)
 505 {
 506         int idx = 1;
 507         repmsg->u.allocate_payload.port_number = (raw->msg[idx] >> 4) & 0xf;
 508         idx++;
 509         if (idx > raw->curlen)
 510                 goto fail_len;
 511         repmsg->u.allocate_payload.vcpi = raw->msg[idx];
 512         idx++;
 513         if (idx > raw->curlen)
 514                 goto fail_len;
 515         repmsg->u.allocate_payload.allocated_pbn = (raw->msg[idx] << 8) | (raw->msg[idx+1]);
 516         idx += 2;
 517         if (idx > raw->curlen)
 518                 goto fail_len;
 519         return true;
 520 fail_len:
 521         DRM_DEBUG_KMS("allocate payload parse length fail %d %d\n", idx, raw->curlen);
 522         return false;
 523 }
 524
 525 static bool drm_dp_sideband_parse_query_payload_ack(struct drm_dp_sideband_msg_rx *raw,
 526                                                     struct drm_dp_sideband_msg_reply_body *repmsg)
 527 {
 528         int idx = 1;
 529         repmsg->u.query_payload.port_number = (raw->msg[idx] >> 4) & 0xf;
 530         idx++;
 531         if (idx > raw->curlen)
 532                 goto fail_len;
 533         repmsg->u.query_payload.allocated_pbn = (raw->msg[idx] << 8) | (raw->msg[idx + 1]);
 534         idx += 2;
 535         if (idx > raw->curlen)
 536                 goto fail_len;
 537         return true;
 538 fail_len:
 539         DRM_DEBUG_KMS("query payload parse length fail %d %d\n", idx, raw->curlen);
 540         return false;
 541 }
 542
 543 static bool drm_dp_sideband_parse_reply(struct drm_dp_sideband_msg_rx *raw,
 544                                         struct drm_dp_sideband_msg_reply_body *msg)
 545 {
 546         memset(msg, 0, sizeof(*msg));
 547         msg->reply_type = (raw->msg[0] & 0x80) >> 7;
 548         msg->req_type = (raw->msg[0] & 0x7f);
 549
 550         if (msg->reply_type) {
 551                 memcpy(msg->u.nak.guid, &raw->msg[1], 16);
 552                 msg->u.nak.reason = raw->msg[17];
 553                 msg->u.nak.nak_data = raw->msg[18];
 554                 return false;
 555         }
 556
 557         switch (msg->req_type) {
 558         case DP_LINK_ADDRESS:
 559                 return drm_dp_sideband_parse_link_address(raw, msg);
 560         case DP_QUERY_PAYLOAD:
 561                 return drm_dp_sideband_parse_query_payload_ack(raw, msg);
 562         case DP_REMOTE_DPCD_READ:
 563                 return drm_dp_sideband_parse_remote_dpcd_read(raw, msg);
 564         case DP_REMOTE_DPCD_WRITE:
 565                 return drm_dp_sideband_parse_remote_dpcd_write(raw, msg);
 566         case DP_REMOTE_I2C_READ:
 567                 return drm_dp_sideband_parse_remote_i2c_read_ack(raw, msg);
 568         case DP_ENUM_PATH_RESOURCES:
 569                 return drm_dp_sideband_parse_enum_path_resources_ack(raw, msg);
 570         case DP_ALLOCATE_PAYLOAD:
 571                 return drm_dp_sideband_parse_allocate_payload_ack(raw, msg);
 572         default:
 573                 DRM_ERROR("Got unknown reply 0x%02x\n", msg->req_type);
 574                 return false;
 575         }
 576 }
 577
 578 static bool drm_dp_sideband_parse_connection_status_notify(struct drm_dp_sideband_msg_rx *raw,
 579                                                            struct drm_dp_sideband_msg_req_body *msg)
 580 {
 581         int idx = 1;
 582
 583         msg->u.conn_stat.port_number = (raw->msg[idx] & 0xf0) >> 4;
 584         idx++;
 585         if (idx > raw->curlen)
 586                 goto fail_len;
 587
 588         memcpy(msg->u.conn_stat.guid, &raw->msg[idx], 16);
 589         idx += 16;
 590         if (idx > raw->curlen)
 591                 goto fail_len;
 592
 593         msg->u.conn_stat.legacy_device_plug_status = (raw->msg[idx] >> 6) & 0x1;
 594         msg->u.conn_stat.displayport_device_plug_status = (raw->msg[idx] >> 5) & 0x1;
 595         msg->u.conn_stat.message_capability_status = (raw->msg[idx] >> 4) & 0x1;
 596         msg->u.conn_stat.input_port = (raw->msg[idx] >> 3) & 0x1;
 597         msg->u.conn_stat.peer_device_type = (raw->msg[idx] & 0x7);
 598         idx++;
 599         return true;
 600 fail_len:
 601         DRM_DEBUG_KMS("connection status reply parse length fail %d %d\n", idx, raw->curlen);
 602         return false;
 603 }
 604
 605 static bool drm_dp_sideband_parse_resource_status_notify(struct drm_dp_sideband_msg_rx *raw,
 606                                                            struct drm_dp_sideband_msg_req_body *msg)
 607 {
 608         int idx = 1;
 609
 610         msg->u.resource_stat.port_number = (raw->msg[idx] & 0xf0) >> 4;
 611         idx++;
 612         if (idx > raw->curlen)
 613                 goto fail_len;
 614
 615         memcpy(msg->u.resource_stat.guid, &raw->msg[idx], 16);
 616         idx += 16;
 617         if (idx > raw->curlen)
 618                 goto fail_len;
 619
 620         msg->u.resource_stat.available_pbn = (raw->msg[idx] << 8) | (raw->msg[idx + 1]);
 621         idx++;
 622         return true;
 623 fail_len:
 624         DRM_DEBUG_KMS("resource status reply parse length fail %d %d\n", idx, raw->curlen);
 625         return false;
 626 }
 627
 628 static bool drm_dp_sideband_parse_req(struct drm_dp_sideband_msg_rx *raw,
 629                                       struct drm_dp_sideband_msg_req_body *msg)
 630 {
 631         memset(msg, 0, sizeof(*msg));
 632         msg->req_type = (raw->msg[0] & 0x7f);
 633
 634         switch (msg->req_type) {
 635         case DP_CONNECTION_STATUS_NOTIFY:
 636                 return drm_dp_sideband_parse_connection_status_notify(raw, msg);
 637         case DP_RESOURCE_STATUS_NOTIFY:
 638                 return drm_dp_sideband_parse_resource_status_notify(raw, msg);
 639         default:
 640                 DRM_ERROR("Got unknown request 0x%02x\n", msg->req_type);
 641                 return false;
 642         }
 643 }
 644
 645 static int build_dpcd_write(struct drm_dp_sideband_msg_tx *msg, u8 port_num, u32 offset, u8 num_bytes, u8 *bytes)
 646 {
 647         struct drm_dp_sideband_msg_req_body req;
 648
 649         req.req_type = DP_REMOTE_DPCD_WRITE;
 650         req.u.dpcd_write.port_number = port_num;
 651         req.u.dpcd_write.dpcd_address = offset;
 652         req.u.dpcd_write.num_bytes = num_bytes;
 653         req.u.dpcd_write.bytes = bytes;
 654         drm_dp_encode_sideband_req(&req, msg);
 655
 656         return 0;
 657 }
 658
 659 static int build_link_address(struct drm_dp_sideband_msg_tx *msg)
 660 {
 661         struct drm_dp_sideband_msg_req_body req;
 662
 663         req.req_type = DP_LINK_ADDRESS;
 664         drm_dp_encode_sideband_req(&req, msg);
 665         return 0;
 666 }
 667
 668 static int build_enum_path_resources(struct drm_dp_sideband_msg_tx *msg, int port_num)
 669 {
 670         struct drm_dp_sideband_msg_req_body req;
 671
 672         req.req_type = DP_ENUM_PATH_RESOURCES;
 673         req.u.port_num.port_number = port_num;
 674         drm_dp_encode_sideband_req(&req, msg);
 675         msg->path_msg = true;
 676         return 0;
 677 }
 678
 679 static int build_allocate_payload(struct drm_dp_sideband_msg_tx *msg, int port_num,
 680                                   u8 vcpi, uint16_t pbn,
 681                                   u8 number_sdp_streams,
 682                                   u8 *sdp_stream_sink)
 683 {
 684         struct drm_dp_sideband_msg_req_body req;
 685         memset(&req, 0, sizeof(req));
 686         req.req_type = DP_ALLOCATE_PAYLOAD;
 687         req.u.allocate_payload.port_number = port_num;
 688         req.u.allocate_payload.vcpi = vcpi;
 689         req.u.allocate_payload.pbn = pbn;
 690         req.u.allocate_payload.number_sdp_streams = number_sdp_streams;
 691         memcpy(req.u.allocate_payload.sdp_stream_sink, sdp_stream_sink,
 692                    number_sdp_streams);
 693         drm_dp_encode_sideband_req(&req, msg);
 694         msg->path_msg = true;
 695         return 0;
 696 }
 697
 698 static int drm_dp_mst_assign_payload_id(struct drm_dp_mst_topology_mgr *mgr,
 699                                         struct drm_dp_vcpi *vcpi)
 700 {
 701         int ret, vcpi_ret;
 702
 703         mutex_lock(&mgr->payload_lock);
 704         ret = find_first_zero_bit(&mgr->payload_mask, mgr->max_payloads + 1);
 705         if (ret > mgr->max_payloads) {
 706                 ret = -EINVAL;
 707                 DRM_DEBUG_KMS("out of payload ids %d\n", ret);
 708                 goto out_unlock;
 709         }
 710
 711         vcpi_ret = find_first_zero_bit(&mgr->vcpi_mask, mgr->max_payloads + 1);
 712         if (vcpi_ret > mgr->max_payloads) {
 713                 ret = -EINVAL;
 714                 DRM_DEBUG_KMS("out of vcpi ids %d\n", ret);
 715                 goto out_unlock;
 716         }
 717
 718         set_bit(ret, &mgr->payload_mask);
 719         set_bit(vcpi_ret, &mgr->vcpi_mask);
 720         vcpi->vcpi = vcpi_ret + 1;
 721         mgr->proposed_vcpis[ret - 1] = vcpi;
 722 out_unlock:
 723         mutex_unlock(&mgr->payload_lock);
 724         return ret;
 725 }
 726
 727 static void drm_dp_mst_put_payload_id(struct drm_dp_mst_topology_mgr *mgr,
 728                                       int vcpi)
 729 {
 730         int i;
 731         if (vcpi == 0)
 732                 return;
 733
 734         mutex_lock(&mgr->payload_lock);
 735         DRM_DEBUG_KMS("putting payload %d\n", vcpi);
 736         clear_bit(vcpi - 1, &mgr->vcpi_mask);
 737
 738         for (i = 0; i < mgr->max_payloads; i++) {
 739                 if (mgr->proposed_vcpis[i])
 740                         if (mgr->proposed_vcpis[i]->vcpi == vcpi) {
 741                                 mgr->proposed_vcpis[i] = NULL;
 742                                 clear_bit(i + 1, &mgr->payload_mask);
 743                         }
 744         }
 745         mutex_unlock(&mgr->payload_lock);
 746 }
 747
 748 static bool check_txmsg_state(struct drm_dp_mst_topology_mgr *mgr,
 749                               struct drm_dp_sideband_msg_tx *txmsg)
 750 {
 751         unsigned int state;
 752
 753         /*
 754          * All updates to txmsg->state are protected by mgr->qlock, and the two
 755          * cases we check here are terminal states. For those the barriers
 756          * provided by the wake_up/wait_event pair are enough.
 757          */
 758         state = READ_ONCE(txmsg->state);
 759         return (state == DRM_DP_SIDEBAND_TX_RX ||
 760                 state == DRM_DP_SIDEBAND_TX_TIMEOUT);
 761 }
 762
 763 static int drm_dp_mst_wait_tx_reply(struct drm_dp_mst_branch *mstb,
 764                                     struct drm_dp_sideband_msg_tx *txmsg)
 765 {
 766         struct drm_dp_mst_topology_mgr *mgr = mstb->mgr;
 767         int ret;
 768
 769         ret = wait_event_timeout(mgr->tx_waitq,
 770                                  check_txmsg_state(mgr, txmsg),
 771                                  (4 * HZ));
 772         mutex_lock(&mstb->mgr->qlock);
 773         if (ret > 0) {
 774                 if (txmsg->state == DRM_DP_SIDEBAND_TX_TIMEOUT) {
 775                         ret = -EIO;
 776                         goto out;
 777                 }
 778         } else {
 779                 DRM_DEBUG_KMS("timedout msg send %p %d %d\n", txmsg, txmsg->state, txmsg->seqno);
 780
 781                 /* dump some state */
 782                 ret = -EIO;
 783
 784                 /* remove from q */
 785                 if (txmsg->state == DRM_DP_SIDEBAND_TX_QUEUED ||
 786                     txmsg->state == DRM_DP_SIDEBAND_TX_START_SEND) {
 787                         list_del(&txmsg->next);
 788                 }
 789
 790                 if (txmsg->state == DRM_DP_SIDEBAND_TX_START_SEND ||
 791                     txmsg->state == DRM_DP_SIDEBAND_TX_SENT) {
 792                         mstb->tx_slots[txmsg->seqno] = NULL;
 793                 }
 794         }
 795 out:
 796         mutex_unlock(&mgr->qlock);
 797
 798         return ret;
 799 }
 800
 801 static struct drm_dp_mst_branch *drm_dp_add_mst_branch_device(u8 lct, u8 *rad)
 802 {
 803         struct drm_dp_mst_branch *mstb;
 804
 805         mstb = kzalloc(sizeof(*mstb), GFP_KERNEL);
 806         if (!mstb)
 807                 return NULL;
 808
 809         mstb->lct = lct;
 810         if (lct > 1)
 811                 memcpy(mstb->rad, rad, lct / 2);
 812         INIT_LIST_HEAD(&mstb->ports);
 813         kref_init(&mstb->kref);
 814         return mstb;
 815 }
 816
 817 static void drm_dp_free_mst_port(struct kref *kref);
 818
 819 static void drm_dp_free_mst_branch_device(struct kref *kref)
 820 {
 821         struct drm_dp_mst_branch *mstb = container_of(kref, struct drm_dp_mst_branch, kref);
 822         if (mstb->port_parent) {
 823                 if (list_empty(&mstb->port_parent->next))
 824                         kref_put(&mstb->port_parent->kref, drm_dp_free_mst_port);
 825         }
 826         kfree(mstb);
 827 }
 828
 829 static void drm_dp_destroy_mst_branch_device(struct kref *kref)
 830 {
 831         struct drm_dp_mst_branch *mstb = container_of(kref, struct drm_dp_mst_branch, kref);
 832         struct drm_dp_mst_port *port, *tmp;
 833         bool wake_tx = false;
 834
 835         /*
 836          * init kref again to be used by ports to remove mst branch when it is
 837          * not needed anymore
 838          */
 839         kref_init(kref);
 840
 841         if (mstb->port_parent && list_empty(&mstb->port_parent->next))
 842                 kref_get(&mstb->port_parent->kref);
 843
 844         /*
 845          * destroy all ports - don't need lock
 846          * as there are no more references to the mst branch
 847          * device at this point.
 848          */
 849         list_for_each_entry_safe(port, tmp, &mstb->ports, next) {
 850                 list_del(&port->next);
 851                 drm_dp_put_port(port);
 852         }
 853
 854         /* drop any tx slots msg */
 855         mutex_lock(&mstb->mgr->qlock);
 856         if (mstb->tx_slots[0]) {
 857                 mstb->tx_slots[0]->state = DRM_DP_SIDEBAND_TX_TIMEOUT;
 858                 mstb->tx_slots[0] = NULL;
 859                 wake_tx = true;
 860         }
 861         if (mstb->tx_slots[1]) {
 862                 mstb->tx_slots[1]->state = DRM_DP_SIDEBAND_TX_TIMEOUT;
 863                 mstb->tx_slots[1] = NULL;
 864                 wake_tx = true;
 865         }
 866         mutex_unlock(&mstb->mgr->qlock);
 867
 868         if (wake_tx)
 869                 wake_up_all(&mstb->mgr->tx_waitq);
 870
 871         kref_put(kref, drm_dp_free_mst_branch_device);
 872 }
 873
 874 static void drm_dp_put_mst_branch_device(struct drm_dp_mst_branch *mstb)
 875 {
 876         kref_put(&mstb->kref, drm_dp_destroy_mst_branch_device);
 877 }
 878
 879
 880 static void drm_dp_port_teardown_pdt(struct drm_dp_mst_port *port, int old_pdt)
 881 {
 882         struct drm_dp_mst_branch *mstb;
 883
 884         switch (old_pdt) {
 885         case DP_PEER_DEVICE_DP_LEGACY_CONV:
 886         case DP_PEER_DEVICE_SST_SINK:
 887                 /* remove i2c over sideband */
 888                 drm_dp_mst_unregister_i2c_bus(&port->aux);
 889                 break;
 890         case DP_PEER_DEVICE_MST_BRANCHING:
 891                 mstb = port->mstb;
 892                 port->mstb = NULL;
 893                 drm_dp_put_mst_branch_device(mstb);
 894                 break;
 895         }
 896 }
 897
 898 static void drm_dp_destroy_port(struct kref *kref)
 899 {
 900         struct drm_dp_mst_port *port = container_of(kref, struct drm_dp_mst_port, kref);
 901         struct drm_dp_mst_topology_mgr *mgr = port->mgr;
 902
 903         if (!port->input) {
 904                 port->vcpi.num_slots = 0;
 905
 906                 kfree(port->cached_edid);
 907
 908                 /*
 909                  * The only time we don't have a connector
 910                  * on an output port is if the connector init
 911                  * fails.
 912                  */
 913                 if (port->connector) {
 914                         /* we can't destroy the connector here, as
 915                          * we might be holding the mode_config.mutex
 916                          * from an EDID retrieval */
 917
 918                         mutex_lock(&mgr->destroy_connector_lock);
 919                         kref_get(&port->parent->kref);
 920                         list_add(&port->next, &mgr->destroy_connector_list);
 921                         mutex_unlock(&mgr->destroy_connector_lock);
 922                         schedule_work(&mgr->destroy_connector_work);
 923                         return;
 924                 }
 925                 /* no need to clean up vcpi
 926                  * as if we have no connector we never setup a vcpi */
 927                 drm_dp_port_teardown_pdt(port, port->pdt);
 928                 port->pdt = DP_PEER_DEVICE_NONE;
 929         }
 930         kfree(port);
 931 }
 932
 933 static void drm_dp_put_port(struct drm_dp_mst_port *port)
 934 {
 935         kref_put(&port->kref, drm_dp_destroy_port);
 936 }
 937
 938 static struct drm_dp_mst_branch *drm_dp_mst_get_validated_mstb_ref_locked(struct drm_dp_mst_branch *mstb, struct drm_dp_mst_branch *to_find)
 939 {
 940         struct drm_dp_mst_port *port;
 941         struct drm_dp_mst_branch *rmstb;
 942         if (to_find == mstb) {
 943                 kref_get(&mstb->kref);
 944                 return mstb;
 945         }
 946         list_for_each_entry(port, &mstb->ports, next) {
 947                 if (port->mstb) {
 948                         rmstb = drm_dp_mst_get_validated_mstb_ref_locked(port->mstb, to_find);
 949                         if (rmstb)
 950                                 return rmstb;
 951                 }
 952         }
 953         return NULL;
 954 }
 955
 956 static struct drm_dp_mst_branch *drm_dp_get_validated_mstb_ref(struct drm_dp_mst_topology_mgr *mgr, struct drm_dp_mst_branch *mstb)
 957 {
 958         struct drm_dp_mst_branch *rmstb = NULL;
 959         mutex_lock(&mgr->lock);
 960         if (mgr->mst_primary)
 961                 rmstb = drm_dp_mst_get_validated_mstb_ref_locked(mgr->mst_primary, mstb);
 962         mutex_unlock(&mgr->lock);
 963         return rmstb;
 964 }
 965
 966 static struct drm_dp_mst_port *drm_dp_mst_get_port_ref_locked(struct drm_dp_mst_branch *mstb, struct drm_dp_mst_port *to_find)
 967 {
 968         struct drm_dp_mst_port *port, *mport;
 969
 970         list_for_each_entry(port, &mstb->ports, next) {
 971                 if (port == to_find) {
 972                         kref_get(&port->kref);
 973                         return port;
 974                 }
 975                 if (port->mstb) {
 976                         mport = drm_dp_mst_get_port_ref_locked(port->mstb, to_find);
 977                         if (mport)
 978                                 return mport;
 979                 }
 980         }
 981         return NULL;
 982 }
 983
 984 static struct drm_dp_mst_port *drm_dp_get_validated_port_ref(struct drm_dp_mst_topology_mgr *mgr, struct drm_dp_mst_port *port)
 985 {
 986         struct drm_dp_mst_port *rport = NULL;
 987         mutex_lock(&mgr->lock);
 988         if (mgr->mst_primary)
 989                 rport = drm_dp_mst_get_port_ref_locked(mgr->mst_primary, port);
 990         mutex_unlock(&mgr->lock);
 991         return rport;
 992 }
 993
 994 static struct drm_dp_mst_port *drm_dp_get_port(struct drm_dp_mst_branch *mstb, u8 port_num)
 995 {
 996         struct drm_dp_mst_port *port;
 997
 998         list_for_each_entry(port, &mstb->ports, next) {
 999                 if (port->port_num == port_num) {
1000                         kref_get(&port->kref);
1001                         return port;
1002                 }
1003         }
1004
1005         return NULL;
1006 }
1007
1008 /*
1009  * calculate a new RAD for this MST branch device
1010  * if parent has an LCT of 2 then it has 1 nibble of RAD,
1011  * if parent has an LCT of 3 then it has 2 nibbles of RAD,
1012  */
1013 static u8 drm_dp_calculate_rad(struct drm_dp_mst_port *port,
1014                                  u8 *rad)
1015 {
1016         int parent_lct = port->parent->lct;
1017         int shift = 4;
1018         int idx = (parent_lct - 1) / 2;
1019         if (parent_lct > 1) {
1020                 memcpy(rad, port->parent->rad, idx + 1);
1021                 shift = (parent_lct % 2) ? 4 : 0;
1022         } else
1023                 rad[0] = 0;
1024
1025         rad[idx] |= port->port_num << shift;
1026         return parent_lct + 1;
1027 }
1028
1029 /*
1030  * return sends link address for new mstb
1031  */
1032 static bool drm_dp_port_setup_pdt(struct drm_dp_mst_port *port)
1033 {
1034         int ret;
1035         u8 rad[6], lct;
1036         bool send_link = false;
1037         switch (port->pdt) {
1038         case DP_PEER_DEVICE_DP_LEGACY_CONV:
1039         case DP_PEER_DEVICE_SST_SINK:
1040                 /* add i2c over sideband */
1041                 ret = drm_dp_mst_register_i2c_bus(&port->aux);
1042                 break;
1043         case DP_PEER_DEVICE_MST_BRANCHING:
1044                 lct = drm_dp_calculate_rad(port, rad);
1045
1046                 port->mstb = drm_dp_add_mst_branch_device(lct, rad);
1047                 if (port->mstb) {
1048                         port->mstb->mgr = port->mgr;
1049                         port->mstb->port_parent = port;
1050
1051                         send_link = true;
1052                 }
1053                 break;
1054         }
1055         return send_link;
1056 }
1057
1058 static void drm_dp_check_mstb_guid(struct drm_dp_mst_branch *mstb, u8 *guid)
1059 {
1060         int ret;
1061
1062         memcpy(mstb->guid, guid, 16);
1063
1064         if (!drm_dp_validate_guid(mstb->mgr, mstb->guid)) {
1065                 if (mstb->port_parent) {
1066                         ret = drm_dp_send_dpcd_write(
1067                                         mstb->mgr,
1068                                         mstb->port_parent,
1069                                         DP_GUID,
1070                                         16,
1071                                         mstb->guid);
1072                 } else {
1073
1074                         ret = drm_dp_dpcd_write(
1075                                         mstb->mgr->aux,
1076                                         DP_GUID,
1077                                         mstb->guid,
1078                                         16);
1079                 }
1080         }
1081 }
1082
1083 static void build_mst_prop_path(const struct drm_dp_mst_branch *mstb,
1084                                 int pnum,
1085                                 char *proppath,
1086                                 size_t proppath_size)
1087 {
1088         int i;
1089         char temp[8];
1090         snprintf(proppath, proppath_size, "mst:%d", mstb->mgr->conn_base_id);
1091         for (i = 0; i < (mstb->lct - 1); i++) {
1092                 int shift = (i % 2) ? 0 : 4;
1093                 int port_num = (mstb->rad[i / 2] >> shift) & 0xf;
1094                 snprintf(temp, sizeof(temp), "-%d", port_num);
1095                 strlcat(proppath, temp, proppath_size);
1096         }
1097         snprintf(temp, sizeof(temp), "-%d", pnum);
1098         strlcat(proppath, temp, proppath_size);
1099 }
1100
1101 static void drm_dp_add_port(struct drm_dp_mst_branch *mstb,
1102                             struct drm_device *dev,
1103                             struct drm_dp_link_addr_reply_port *port_msg)
1104 {
1105         struct drm_dp_mst_port *port;
1106         bool ret;
1107         bool created = false;
1108         int old_pdt = 0;
1109         int old_ddps = 0;
1110         port = drm_dp_get_port(mstb, port_msg->port_number);
1111         if (!port) {
1112                 port = kzalloc(sizeof(*port), GFP_KERNEL);
1113                 if (!port)
1114                         return;
1115                 kref_init(&port->kref);
1116                 port->parent = mstb;
1117                 port->port_num = port_msg->port_number;
1118                 port->mgr = mstb->mgr;
1119                 port->aux.name = "DPMST";
1120                 port->aux.dev = dev->dev;
1121                 created = true;
1122         } else {
1123                 old_pdt = port->pdt;
1124                 old_ddps = port->ddps;
1125         }
1126
1127         port->pdt = port_msg->peer_device_type;
1128         port->input = port_msg->input_port;
1129         port->mcs = port_msg->mcs;
1130         port->ddps = port_msg->ddps;
1131         port->ldps = port_msg->legacy_device_plug_status;
1132         port->dpcd_rev = port_msg->dpcd_revision;
1133         port->num_sdp_streams = port_msg->num_sdp_streams;
1134         port->num_sdp_stream_sinks = port_msg->num_sdp_stream_sinks;
1135
1136         /* manage mstb port lists with mgr lock - take a reference
1137            for this list */
1138         if (created) {
1139                 mutex_lock(&mstb->mgr->lock);
1140                 kref_get(&port->kref);
1141                 list_add(&port->next, &mstb->ports);
1142                 mutex_unlock(&mstb->mgr->lock);
1143         }
1144
1145         if (old_ddps != port->ddps) {
1146                 if (port->ddps) {
1147                         if (!port->input)
1148                                 drm_dp_send_enum_path_resources(mstb->mgr, mstb, port);
1149                 } else {
1150                         port->available_pbn = 0;
1151                         }
1152         }
1153
1154         if (old_pdt != port->pdt && !port->input) {
1155                 drm_dp_port_teardown_pdt(port, old_pdt);
1156
1157                 ret = drm_dp_port_setup_pdt(port);
1158                 if (ret == true)
1159                         drm_dp_send_link_address(mstb->mgr, port->mstb);
1160         }
1161
1162         if (created && !port->input) {
1163                 char proppath[255];
1164
1165                 build_mst_prop_path(mstb, port->port_num, proppath, sizeof(proppath));
1166                 port->connector = (*mstb->mgr->cbs->add_connector)(mstb->mgr, port, proppath);
1167                 if (!port->connector) {
1168                         /* remove it from the port list */
1169                         mutex_lock(&mstb->mgr->lock);
1170                         list_del(&port->next);
1171                         mutex_unlock(&mstb->mgr->lock);
1172                         /* drop port list reference */
1173                         drm_dp_put_port(port);
1174                         goto out;
1175                 }
1176                 if ((port->pdt == DP_PEER_DEVICE_DP_LEGACY_CONV ||
1177                      port->pdt == DP_PEER_DEVICE_SST_SINK) &&
1178                     port->port_num >= DP_MST_LOGICAL_PORT_0) {
1179                         port->cached_edid = drm_get_edid(port->connector, &port->aux.ddc);
1180                         drm_mode_connector_set_tile_property(port->connector);
1181                 }
1182                 (*mstb->mgr->cbs->register_connector)(port->connector);
1183         }
1184
1185 out:
1186         /* put reference to this port */
1187         drm_dp_put_port(port);
1188 }
1189
1190 static void drm_dp_update_port(struct drm_dp_mst_branch *mstb,
1191                                struct drm_dp_connection_status_notify *conn_stat)
1192 {
1193         struct drm_dp_mst_port *port;
1194         int old_pdt;
1195         int old_ddps;
1196         bool dowork = false;
1197         port = drm_dp_get_port(mstb, conn_stat->port_number);
1198         if (!port)
1199                 return;
1200
1201         old_ddps = port->ddps;
1202         old_pdt = port->pdt;
1203         port->pdt = conn_stat->peer_device_type;
1204         port->mcs = conn_stat->message_capability_status;
1205         port->ldps = conn_stat->legacy_device_plug_status;
1206         port->ddps = conn_stat->displayport_device_plug_status;
1207
1208         if (old_ddps != port->ddps) {
1209                 if (port->ddps) {
1210                         dowork = true;
1211                 } else {
1212                         port->available_pbn = 0;
1213                 }
1214         }
1215         if (old_pdt != port->pdt && !port->input) {
1216                 drm_dp_port_teardown_pdt(port, old_pdt);
1217
1218                 if (drm_dp_port_setup_pdt(port))
1219                         dowork = true;
1220         }
1221
1222         drm_dp_put_port(port);
1223         if (dowork)
1224                 queue_work(system_long_wq, &mstb->mgr->work);
1225
1226 }
1227
1228 static struct drm_dp_mst_branch *drm_dp_get_mst_branch_device(struct drm_dp_mst_topology_mgr *mgr,
1229                                                                u8 lct, u8 *rad)
1230 {
1231         struct drm_dp_mst_branch *mstb;
1232         struct drm_dp_mst_port *port;
1233         int i;
1234         /* find the port by iterating down */
1235
1236         mutex_lock(&mgr->lock);
1237         mstb = mgr->mst_primary;
1238
1239         if (!mstb)
1240                 goto out;
1241
1242         for (i = 0; i < lct - 1; i++) {
1243                 int shift = (i % 2) ? 0 : 4;
1244                 int port_num = (rad[i / 2] >> shift) & 0xf;
1245
1246                 list_for_each_entry(port, &mstb->ports, next) {
1247                         if (port->port_num == port_num) {
1248                                 mstb = port->mstb;
1249                                 if (!mstb) {
1250                                         DRM_ERROR("failed to lookup MSTB with lct %d, rad %02x\n", lct, rad[0]);
1251                                         goto out;
1252                                 }
1253
1254                                 break;
1255                         }
1256                 }
1257         }
1258         kref_get(&mstb->kref);
1259 out:
1260         mutex_unlock(&mgr->lock);
1261         return mstb;
1262 }
1263
1264 static struct drm_dp_mst_branch *get_mst_branch_device_by_guid_helper(
1265         struct drm_dp_mst_branch *mstb,
1266         uint8_t *guid)
1267 {
1268         struct drm_dp_mst_branch *found_mstb;
1269         struct drm_dp_mst_port *port;
1270
1271         if (memcmp(mstb->guid, guid, 16) == 0)
1272                 return mstb;
1273
1274
1275         list_for_each_entry(port, &mstb->ports, next) {
1276                 if (!port->mstb)
1277                         continue;
1278
1279                 found_mstb = get_mst_branch_device_by_guid_helper(port->mstb, guid);
1280
1281                 if (found_mstb)
1282                         return found_mstb;
1283         }
1284
1285         return NULL;
1286 }
1287
1288 static struct drm_dp_mst_branch *drm_dp_get_mst_branch_device_by_guid(
1289         struct drm_dp_mst_topology_mgr *mgr,
1290         uint8_t *guid)
1291 {
1292         struct drm_dp_mst_branch *mstb;
1293
1294         /* find the port by iterating down */
1295         mutex_lock(&mgr->lock);
1296
1297         mstb = get_mst_branch_device_by_guid_helper(mgr->mst_primary, guid);
1298
1299         if (mstb)
1300                 kref_get(&mstb->kref);
1301
1302         mutex_unlock(&mgr->lock);
1303         return mstb;
1304 }
1305
1306 static void drm_dp_check_and_send_link_address(struct drm_dp_mst_topology_mgr *mgr,
1307                                                struct drm_dp_mst_branch *mstb)
1308 {
1309         struct drm_dp_mst_port *port;
1310         struct drm_dp_mst_branch *mstb_child;
1311         if (!mstb->link_address_sent)
1312                 drm_dp_send_link_address(mgr, mstb);
1313
1314         list_for_each_entry(port, &mstb->ports, next) {
1315                 if (port->input)
1316                         continue;
1317
1318                 if (!port->ddps)
1319                         continue;
1320
1321                 if (!port->available_pbn)
1322                         drm_dp_send_enum_path_resources(mgr, mstb, port);
1323
1324                 if (port->mstb) {
1325                         mstb_child = drm_dp_get_validated_mstb_ref(mgr, port->mstb);
1326                         if (mstb_child) {
1327                                 drm_dp_check_and_send_link_address(mgr, mstb_child);
1328                                 drm_dp_put_mst_branch_device(mstb_child);
1329                         }
1330                 }
1331         }
1332 }
1333
1334 static void drm_dp_mst_link_probe_work(struct work_struct *work)
1335 {
1336         struct drm_dp_mst_topology_mgr *mgr = container_of(work, struct drm_dp_mst_topology_mgr, work);
1337         struct drm_dp_mst_branch *mstb;
1338
1339         mutex_lock(&mgr->lock);
1340         mstb = mgr->mst_primary;
1341         if (mstb) {
1342                 kref_get(&mstb->kref);
1343         }
1344         mutex_unlock(&mgr->lock);
1345         if (mstb) {
1346                 drm_dp_check_and_send_link_address(mgr, mstb);
1347                 drm_dp_put_mst_branch_device(mstb);
1348         }
1349 }
1350
1351 static bool drm_dp_validate_guid(struct drm_dp_mst_topology_mgr *mgr,
1352                                  u8 *guid)
1353 {
1354         u64 salt;
1355
1356         if (memchr_inv(guid, 0, 16))
1357                 return true;
1358
1359         salt = get_jiffies_64();
1360
1361         memcpy(&guid[0], &salt, sizeof(u64));
1362         memcpy(&guid[8], &salt, sizeof(u64));
1363
1364         return false;
1365 }
1366
1367 #if 0
1368 static int build_dpcd_read(struct drm_dp_sideband_msg_tx *msg, u8 port_num, u32 offset, u8 num_bytes)
1369 {
1370         struct drm_dp_sideband_msg_req_body req;
1371
1372         req.req_type = DP_REMOTE_DPCD_READ;
1373         req.u.dpcd_read.port_number = port_num;
1374         req.u.dpcd_read.dpcd_address = offset;
1375         req.u.dpcd_read.num_bytes = num_bytes;
1376         drm_dp_encode_sideband_req(&req, msg);
1377
1378         return 0;
1379 }
1380 #endif
1381
1382 static int drm_dp_send_sideband_msg(struct drm_dp_mst_topology_mgr *mgr,
1383                                     bool up, u8 *msg, int len)
1384 {
1385         int ret;
1386         int regbase = up ? DP_SIDEBAND_MSG_UP_REP_BASE : DP_SIDEBAND_MSG_DOWN_REQ_BASE;
1387         int tosend, total, offset;
1388         int retries = 0;
1389
1390 retry:
1391         total = len;
1392         offset = 0;
1393         do {
1394                 tosend = min3(mgr->max_dpcd_transaction_bytes, 16, total);
1395
1396                 ret = drm_dp_dpcd_write(mgr->aux, regbase + offset,
1397                                         &msg[offset],
1398                                         tosend);
1399                 if (ret != tosend) {
1400                         if (ret == -EIO && retries < 5) {
1401                                 retries++;
1402                                 goto retry;
1403                         }
1404                         DRM_DEBUG_KMS("failed to dpcd write %d %d\n", tosend, ret);
1405
1406                         return -EIO;
1407                 }
1408                 offset += tosend;
1409                 total -= tosend;
1410         } while (total > 0);
1411         return 0;
1412 }
1413
1414 static int set_hdr_from_dst_qlock(struct drm_dp_sideband_msg_hdr *hdr,
1415                                   struct drm_dp_sideband_msg_tx *txmsg)
1416 {
1417         struct drm_dp_mst_branch *mstb = txmsg->dst;
1418         u8 req_type;
1419
1420         /* both msg slots are full */
1421         if (txmsg->seqno == -1) {
1422                 if (mstb->tx_slots[0] && mstb->tx_slots[1]) {
1423                         DRM_DEBUG_KMS("%s: failed to find slot\n", __func__);
1424                         return -EAGAIN;
1425                 }
1426                 if (mstb->tx_slots[0] == NULL && mstb->tx_slots[1] == NULL) {
1427                         txmsg->seqno = mstb->last_seqno;
1428                         mstb->last_seqno ^= 1;
1429                 } else if (mstb->tx_slots[0] == NULL)
1430                         txmsg->seqno = 0;
1431                 else
1432                         txmsg->seqno = 1;
1433                 mstb->tx_slots[txmsg->seqno] = txmsg;
1434         }
1435
1436         req_type = txmsg->msg[0] & 0x7f;
1437         if (req_type == DP_CONNECTION_STATUS_NOTIFY ||
1438                 req_type == DP_RESOURCE_STATUS_NOTIFY)
1439                 hdr->broadcast = 1;
1440         else
1441                 hdr->broadcast = 0;
1442         hdr->path_msg = txmsg->path_msg;
1443         hdr->lct = mstb->lct;
1444         hdr->lcr = mstb->lct - 1;
1445         if (mstb->lct > 1)
1446                 memcpy(hdr->rad, mstb->rad, mstb->lct / 2);
1447         hdr->seqno = txmsg->seqno;
1448         return 0;
1449 }
1450 /*
1451  * process a single block of the next message in the sideband queue
1452  */
1453 static int process_single_tx_qlock(struct drm_dp_mst_topology_mgr *mgr,
1454                                    struct drm_dp_sideband_msg_tx *txmsg,
1455                                    bool up)
1456 {
1457         u8 chunk[48];
1458         struct drm_dp_sideband_msg_hdr hdr;
1459         int len, space, idx, tosend;
1460         int ret;
1461
1462         memset(&hdr, 0, sizeof(struct drm_dp_sideband_msg_hdr));
1463
1464         if (txmsg->state == DRM_DP_SIDEBAND_TX_QUEUED) {
1465                 txmsg->seqno = -1;
1466                 txmsg->state = DRM_DP_SIDEBAND_TX_START_SEND;
1467         }
1468
1469         /* make hdr from dst mst - for replies use seqno
1470            otherwise assign one */
1471         ret = set_hdr_from_dst_qlock(&hdr, txmsg);
1472         if (ret < 0)
1473                 return ret;
1474
1475         /* amount left to send in this message */
1476         len = txmsg->cur_len - txmsg->cur_offset;
1477
1478         /* 48 - sideband msg size - 1 byte for data CRC, x header bytes */
1479         space = 48 - 1 - drm_dp_calc_sb_hdr_size(&hdr);
1480
1481         tosend = min(len, space);
1482         if (len == txmsg->cur_len)
1483                 hdr.somt = 1;
1484         if (space >= len)
1485                 hdr.eomt = 1;
1486
1487
1488         hdr.msg_len = tosend + 1;
1489         drm_dp_encode_sideband_msg_hdr(&hdr, chunk, &idx);
1490         memcpy(&chunk[idx], &txmsg->msg[txmsg->cur_offset], tosend);
1491         /* add crc at end */
1492         drm_dp_crc_sideband_chunk_req(&chunk[idx], tosend);
1493         idx += tosend + 1;
1494
1495         ret = drm_dp_send_sideband_msg(mgr, up, chunk, idx);
1496         if (ret) {
1497                 DRM_DEBUG_KMS("sideband msg failed to send\n");
1498                 return ret;
1499         }
1500
1501         txmsg->cur_offset += tosend;
1502         if (txmsg->cur_offset == txmsg->cur_len) {
1503                 txmsg->state = DRM_DP_SIDEBAND_TX_SENT;
1504                 return 1;
1505         }
1506         return 0;
1507 }
1508
1509 static void process_single_down_tx_qlock(struct drm_dp_mst_topology_mgr *mgr)
1510 {
1511         struct drm_dp_sideband_msg_tx *txmsg;
1512         int ret;
1513
1514         WARN_ON(!mutex_is_locked(&mgr->qlock));
1515
1516         /* construct a chunk from the first msg in the tx_msg queue */
1517         if (list_empty(&mgr->tx_msg_downq))
1518                 return;
1519
1520         txmsg = list_first_entry(&mgr->tx_msg_downq, struct drm_dp_sideband_msg_tx, next);
1521         ret = process_single_tx_qlock(mgr, txmsg, false);
1522         if (ret == 1) {
1523                 /* txmsg is sent it should be in the slots now */
1524                 list_del(&txmsg->next);
1525         } else if (ret) {
1526                 DRM_DEBUG_KMS("failed to send msg in q %d\n", ret);
1527                 list_del(&txmsg->next);
1528                 if (txmsg->seqno != -1)
1529                         txmsg->dst->tx_slots[txmsg->seqno] = NULL;
1530                 txmsg->state = DRM_DP_SIDEBAND_TX_TIMEOUT;
1531                 wake_up_all(&mgr->tx_waitq);
1532         }
1533 }
1534
1535 /* called holding qlock */
1536 static void process_single_up_tx_qlock(struct drm_dp_mst_topology_mgr *mgr,
1537                                        struct drm_dp_sideband_msg_tx *txmsg)
1538 {
1539         int ret;
1540
1541         /* construct a chunk from the first msg in the tx_msg queue */
1542         ret = process_single_tx_qlock(mgr, txmsg, true);
1543
1544         if (ret != 1)
1545                 DRM_DEBUG_KMS("failed to send msg in q %d\n", ret);
1546
1547         if (txmsg->seqno != -1) {
1548                 WARN_ON((unsigned int)txmsg->seqno >
1549                         ARRAY_SIZE(txmsg->dst->tx_slots));
1550                 txmsg->dst->tx_slots[txmsg->seqno] = NULL;
1551         }
1552 }
1553
1554 static void drm_dp_queue_down_tx(struct drm_dp_mst_topology_mgr *mgr,
1555                                  struct drm_dp_sideband_msg_tx *txmsg)
1556 {
1557         mutex_lock(&mgr->qlock);
1558         list_add_tail(&txmsg->next, &mgr->tx_msg_downq);
1559         if (list_is_singular(&mgr->tx_msg_downq))
1560                 process_single_down_tx_qlock(mgr);
1561         mutex_unlock(&mgr->qlock);
1562 }
1563
1564 static void drm_dp_send_link_address(struct drm_dp_mst_topology_mgr *mgr,
1565                                      struct drm_dp_mst_branch *mstb)
1566 {
1567         int len;
1568         struct drm_dp_sideband_msg_tx *txmsg;
1569         int ret;
1570
1571         txmsg = kzalloc(sizeof(*txmsg), GFP_KERNEL);
1572         if (!txmsg)
1573                 return;
1574
1575         txmsg->dst = mstb;
1576         len = build_link_address(txmsg);
1577
1578         mstb->link_address_sent = true;
1579         drm_dp_queue_down_tx(mgr, txmsg);
1580
1581         ret = drm_dp_mst_wait_tx_reply(mstb, txmsg);
1582         if (ret > 0) {
1583                 int i;
1584
1585                 if (txmsg->reply.reply_type == 1)
1586                         DRM_DEBUG_KMS("link address nak received\n");
1587                 else {
1588                         DRM_DEBUG_KMS("link address reply: %d\n", txmsg->reply.u.link_addr.nports);
1589                         for (i = 0; i < txmsg->reply.u.link_addr.nports; i++) {
1590                                 DRM_DEBUG_KMS("port %d: input %d, pdt: %d, pn: %d, dpcd_rev: %02x, mcs: %d, ddps: %d, ldps %d, sdp %d/%d\n", i,
1591                                        txmsg->reply.u.link_addr.ports[i].input_port,
1592                                        txmsg->reply.u.link_addr.ports[i].peer_device_type,
1593                                        txmsg->reply.u.link_addr.ports[i].port_number,
1594                                        txmsg->reply.u.link_addr.ports[i].dpcd_revision,
1595                                        txmsg->reply.u.link_addr.ports[i].mcs,
1596                                        txmsg->reply.u.link_addr.ports[i].ddps,
1597                                        txmsg->reply.u.link_addr.ports[i].legacy_device_plug_status,
1598                                        txmsg->reply.u.link_addr.ports[i].num_sdp_streams,
1599                                        txmsg->reply.u.link_addr.ports[i].num_sdp_stream_sinks);
1600                         }
1601
1602                         drm_dp_check_mstb_guid(mstb, txmsg->reply.u.link_addr.guid);
1603
1604                         for (i = 0; i < txmsg->reply.u.link_addr.nports; i++) {
1605                                 drm_dp_add_port(mstb, mgr->dev, &txmsg->reply.u.link_addr.ports[i]);
1606                         }
1607                         (*mgr->cbs->hotplug)(mgr);
1608                 }
1609         } else {
1610                 mstb->link_address_sent = false;
1611                 DRM_DEBUG_KMS("link address failed %d\n", ret);
1612         }
1613
1614         kfree(txmsg);
1615 }
1616
1617 static int drm_dp_send_enum_path_resources(struct drm_dp_mst_topology_mgr *mgr,
1618                                            struct drm_dp_mst_branch *mstb,
1619                                            struct drm_dp_mst_port *port)
1620 {
1621         int len;
1622         struct drm_dp_sideband_msg_tx *txmsg;
1623         int ret;
1624
1625         txmsg = kzalloc(sizeof(*txmsg), GFP_KERNEL);
1626         if (!txmsg)
1627                 return -ENOMEM;
1628
1629         txmsg->dst = mstb;
1630         len = build_enum_path_resources(txmsg, port->port_num);
1631
1632         drm_dp_queue_down_tx(mgr, txmsg);
1633
1634         ret = drm_dp_mst_wait_tx_reply(mstb, txmsg);
1635         if (ret > 0) {
1636                 if (txmsg->reply.reply_type == 1)
1637                         DRM_DEBUG_KMS("enum path resources nak received\n");
1638                 else {
1639                         if (port->port_num != txmsg->reply.u.path_resources.port_number)
1640                                 DRM_ERROR("got incorrect port in response\n");
1641                         DRM_DEBUG_KMS("enum path resources %d: %d %d\n", txmsg->reply.u.path_resources.port_number, txmsg->reply.u.path_resources.full_payload_bw_number,
1642                                txmsg->reply.u.path_resources.avail_payload_bw_number);
1643                         port->available_pbn = txmsg->reply.u.path_resources.avail_payload_bw_number;
1644                 }
1645         }
1646
1647         kfree(txmsg);
1648         return 0;
1649 }
1650
1651 static struct drm_dp_mst_port *drm_dp_get_last_connected_port_to_mstb(struct drm_dp_mst_branch *mstb)
1652 {
1653         if (!mstb->port_parent)
1654                 return NULL;
1655
1656         if (mstb->port_parent->mstb != mstb)
1657                 return mstb->port_parent;
1658
1659         return drm_dp_get_last_connected_port_to_mstb(mstb->port_parent->parent);
1660 }
1661
1662 static struct drm_dp_mst_branch *drm_dp_get_last_connected_port_and_mstb(struct drm_dp_mst_topology_mgr *mgr,
1663                                                                          struct drm_dp_mst_branch *mstb,
1664                                                                          int *port_num)
1665 {
1666         struct drm_dp_mst_branch *rmstb = NULL;
1667         struct drm_dp_mst_port *found_port;
1668         mutex_lock(&mgr->lock);
1669         if (mgr->mst_primary) {
1670                 found_port = drm_dp_get_last_connected_port_to_mstb(mstb);
1671
1672                 if (found_port) {
1673                         rmstb = found_port->parent;
1674                         kref_get(&rmstb->kref);
1675                         *port_num = found_port->port_num;
1676                 }
1677         }
1678         mutex_unlock(&mgr->lock);
1679         return rmstb;
1680 }
1681
1682 static int drm_dp_payload_send_msg(struct drm_dp_mst_topology_mgr *mgr,
1683                                    struct drm_dp_mst_port *port,
1684                                    int id,
1685                                    int pbn)
1686 {
1687         struct drm_dp_sideband_msg_tx *txmsg;
1688         struct drm_dp_mst_branch *mstb;
1689         int len, ret, port_num;
1690         u8 sinks[DRM_DP_MAX_SDP_STREAMS];
1691         int i;
1692
1693         port = drm_dp_get_validated_port_ref(mgr, port);
1694         if (!port)
1695                 return -EINVAL;
1696
1697         port_num = port->port_num;
1698         mstb = drm_dp_get_validated_mstb_ref(mgr, port->parent);
1699         if (!mstb) {
1700                 mstb = drm_dp_get_last_connected_port_and_mstb(mgr, port->parent, &port_num);
1701
1702                 if (!mstb) {
1703                         drm_dp_put_port(port);
1704                         return -EINVAL;
1705                 }
1706         }
1707
1708         txmsg = kzalloc(sizeof(*txmsg), GFP_KERNEL);
1709         if (!txmsg) {
1710                 ret = -ENOMEM;
1711                 goto fail_put;
1712         }
1713
1714         for (i = 0; i < port->num_sdp_streams; i++)
1715                 sinks[i] = i;
1716
1717         txmsg->dst = mstb;
1718         len = build_allocate_payload(txmsg, port_num,
1719                                      id,
1720                                      pbn, port->num_sdp_streams, sinks);
1721
1722         drm_dp_queue_down_tx(mgr, txmsg);
1723
1724         ret = drm_dp_mst_wait_tx_reply(mstb, txmsg);
1725         if (ret > 0) {
1726                 if (txmsg->reply.reply_type == 1) {
1727                         ret = -EINVAL;
1728                 } else
1729                         ret = 0;
1730         }
1731         kfree(txmsg);
1732 fail_put:
1733         drm_dp_put_mst_branch_device(mstb);
1734         drm_dp_put_port(port);
1735         return ret;
1736 }
1737
1738 static int drm_dp_create_payload_step1(struct drm_dp_mst_topology_mgr *mgr,
1739                                        int id,
1740                                        struct drm_dp_payload *payload)
1741 {
1742         int ret;
1743
1744         ret = drm_dp_dpcd_write_payload(mgr, id, payload);
1745         if (ret < 0) {
1746                 payload->payload_state = 0;
1747                 return ret;
1748         }
1749         payload->payload_state = DP_PAYLOAD_LOCAL;
1750         return 0;
1751 }
1752
1753 static int drm_dp_create_payload_step2(struct drm_dp_mst_topology_mgr *mgr,
1754                                        struct drm_dp_mst_port *port,
1755                                        int id,
1756                                        struct drm_dp_payload *payload)
1757 {
1758         int ret;
1759         ret = drm_dp_payload_send_msg(mgr, port, id, port->vcpi.pbn);
1760         if (ret < 0)
1761                 return ret;
1762         payload->payload_state = DP_PAYLOAD_REMOTE;
1763         return ret;
1764 }
1765
1766 static int drm_dp_destroy_payload_step1(struct drm_dp_mst_topology_mgr *mgr,
1767                                         struct drm_dp_mst_port *port,
1768                                         int id,
1769                                         struct drm_dp_payload *payload)
1770 {
1771         DRM_DEBUG_KMS("\n");
1772         /* its okay for these to fail */
1773         if (port) {
1774                 drm_dp_payload_send_msg(mgr, port, id, 0);
1775         }
1776
1777         drm_dp_dpcd_write_payload(mgr, id, payload);
1778         payload->payload_state = DP_PAYLOAD_DELETE_LOCAL;
1779         return 0;
1780 }
1781
1782 static int drm_dp_destroy_payload_step2(struct drm_dp_mst_topology_mgr *mgr,
1783                                         int id,
1784                                         struct drm_dp_payload *payload)
1785 {
1786         payload->payload_state = 0;
1787         return 0;
1788 }
1789
1790 /**
1791  * drm_dp_update_payload_part1() - Execute payload update part 1
1792  * @mgr: manager to use.
1793  *
1794  * This iterates over all proposed virtual channels, and tries to
1795  * allocate space in the link for them. For 0->slots transitions,
1796  * this step just writes the VCPI to the MST device. For slots->0
1797  * transitions, this writes the updated VCPIs and removes the
1798  * remote VC payloads.
1799  *
1800  * after calling this the driver should generate ACT and payload
1801  * packets.
1802  */
1803 int drm_dp_update_payload_part1(struct drm_dp_mst_topology_mgr *mgr)
1804 {
1805         int i, j;
1806         int cur_slots = 1;
1807         struct drm_dp_payload req_payload;
1808         struct drm_dp_mst_port *port;
1809
1810         mutex_lock(&mgr->payload_lock);
1811         for (i = 0; i < mgr->max_payloads; i++) {
1812                 /* solve the current payloads - compare to the hw ones
1813                    - update the hw view */
1814                 req_payload.start_slot = cur_slots;
1815                 if (mgr->proposed_vcpis[i]) {
1816                         port = container_of(mgr->proposed_vcpis[i], struct drm_dp_mst_port, vcpi);
1817                         port = drm_dp_get_validated_port_ref(mgr, port);
1818                         if (!port) {
1819                                 mutex_unlock(&mgr->payload_lock);
1820                                 return -EINVAL;
1821                         }
1822                         req_payload.num_slots = mgr->proposed_vcpis[i]->num_slots;
1823                         req_payload.vcpi = mgr->proposed_vcpis[i]->vcpi;
1824                 } else {
1825                         port = NULL;
1826                         req_payload.num_slots = 0;
1827                 }
1828
1829                 if (mgr->payloads[i].start_slot != req_payload.start_slot) {
1830                         mgr->payloads[i].start_slot = req_payload.start_slot;
1831                 }
1832                 /* work out what is required to happen with this payload */
1833                 if (mgr->payloads[i].num_slots != req_payload.num_slots) {
1834
1835                         /* need to push an update for this payload */
1836                         if (req_payload.num_slots) {
1837                                 drm_dp_create_payload_step1(mgr, mgr->proposed_vcpis[i]->vcpi, &req_payload);
1838                                 mgr->payloads[i].num_slots = req_payload.num_slots;
1839                                 mgr->payloads[i].vcpi = req_payload.vcpi;
1840                         } else if (mgr->payloads[i].num_slots) {
1841                                 mgr->payloads[i].num_slots = 0;
1842                                 drm_dp_destroy_payload_step1(mgr, port, mgr->payloads[i].vcpi, &mgr->payloads[i]);
1843                                 req_payload.payload_state = mgr->payloads[i].payload_state;
1844                                 mgr->payloads[i].start_slot = 0;
1845                         }
1846                         mgr->payloads[i].payload_state = req_payload.payload_state;
1847                 }
1848                 cur_slots += req_payload.num_slots;
1849
1850                 if (port)
1851                         drm_dp_put_port(port);
1852         }
1853
1854         for (i = 0; i < mgr->max_payloads; i++) {
1855                 if (mgr->payloads[i].payload_state == DP_PAYLOAD_DELETE_LOCAL) {
1856                         DRM_DEBUG_KMS("removing payload %d\n", i);
1857                         for (j = i; j < mgr->max_payloads - 1; j++) {
1858                                 memcpy(&mgr->payloads[j], &mgr->payloads[j + 1], sizeof(struct drm_dp_payload));
1859                                 mgr->proposed_vcpis[j] = mgr->proposed_vcpis[j + 1];
1860                                 if (mgr->proposed_vcpis[j] && mgr->proposed_vcpis[j]->num_slots) {
1861                                         set_bit(j + 1, &mgr->payload_mask);
1862                                 } else {
1863                                         clear_bit(j + 1, &mgr->payload_mask);
1864                                 }
1865                         }
1866                         memset(&mgr->payloads[mgr->max_payloads - 1], 0, sizeof(struct drm_dp_payload));
1867                         mgr->proposed_vcpis[mgr->max_payloads - 1] = NULL;
1868                         clear_bit(mgr->max_payloads, &mgr->payload_mask);
1869
1870                 }
1871         }
1872         mutex_unlock(&mgr->payload_lock);
1873
1874         return 0;
1875 }
1876 EXPORT_SYMBOL(drm_dp_update_payload_part1);
1877
1878 /**
1879  * drm_dp_update_payload_part2() - Execute payload update part 2
1880  * @mgr: manager to use.
1881  *
1882  * This iterates over all proposed virtual channels, and tries to
1883  * allocate space in the link for them. For 0->slots transitions,
1884  * this step writes the remote VC payload commands. For slots->0
1885  * this just resets some internal state.
1886  */
1887 int drm_dp_update_payload_part2(struct drm_dp_mst_topology_mgr *mgr)
1888 {
1889         struct drm_dp_mst_port *port;
1890         int i;
1891         int ret = 0;
1892         mutex_lock(&mgr->payload_lock);
1893         for (i = 0; i < mgr->max_payloads; i++) {
1894
1895                 if (!mgr->proposed_vcpis[i])
1896                         continue;
1897
1898                 port = container_of(mgr->proposed_vcpis[i], struct drm_dp_mst_port, vcpi);
1899
1900                 DRM_DEBUG_KMS("payload %d %d\n", i, mgr->payloads[i].payload_state);
1901                 if (mgr->payloads[i].payload_state == DP_PAYLOAD_LOCAL) {
1902                         ret = drm_dp_create_payload_step2(mgr, port, mgr->proposed_vcpis[i]->vcpi, &mgr->payloads[i]);
1903                 } else if (mgr->payloads[i].payload_state == DP_PAYLOAD_DELETE_LOCAL) {
1904                         ret = drm_dp_destroy_payload_step2(mgr, mgr->proposed_vcpis[i]->vcpi, &mgr->payloads[i]);
1905                 }
1906                 if (ret) {
1907                         mutex_unlock(&mgr->payload_lock);
1908                         return ret;
1909                 }
1910         }
1911         mutex_unlock(&mgr->payload_lock);
1912         return 0;
1913 }
1914 EXPORT_SYMBOL(drm_dp_update_payload_part2);
1915
1916 #if 0 /* unused as of yet */
1917 static int drm_dp_send_dpcd_read(struct drm_dp_mst_topology_mgr *mgr,
1918                                  struct drm_dp_mst_port *port,
1919                                  int offset, int size)
1920 {
1921         int len;
1922         struct drm_dp_sideband_msg_tx *txmsg;
1923
1924         txmsg = kzalloc(sizeof(*txmsg), GFP_KERNEL);
1925         if (!txmsg)
1926                 return -ENOMEM;
1927
1928         len = build_dpcd_read(txmsg, port->port_num, 0, 8);
1929         txmsg->dst = port->parent;
1930
1931         drm_dp_queue_down_tx(mgr, txmsg);
1932
1933         return 0;
1934 }
1935 #endif
1936
1937 static int drm_dp_send_dpcd_write(struct drm_dp_mst_topology_mgr *mgr,
1938                                   struct drm_dp_mst_port *port,
1939                                   int offset, int size, u8 *bytes)
1940 {
1941         int len;
1942         int ret;
1943         struct drm_dp_sideband_msg_tx *txmsg;
1944         struct drm_dp_mst_branch *mstb;
1945
1946         mstb = drm_dp_get_validated_mstb_ref(mgr, port->parent);
1947         if (!mstb)
1948                 return -EINVAL;
1949
1950         txmsg = kzalloc(sizeof(*txmsg), GFP_KERNEL);
1951         if (!txmsg) {
1952                 ret = -ENOMEM;
1953                 goto fail_put;
1954         }
1955
1956         len = build_dpcd_write(txmsg, port->port_num, offset, size, bytes);
1957         txmsg->dst = mstb;
1958
1959         drm_dp_queue_down_tx(mgr, txmsg);
1960
1961         ret = drm_dp_mst_wait_tx_reply(mstb, txmsg);
1962         if (ret > 0) {
1963                 if (txmsg->reply.reply_type == 1) {
1964                         ret = -EINVAL;
1965                 } else
1966                         ret = 0;
1967         }
1968         kfree(txmsg);
1969 fail_put:
1970         drm_dp_put_mst_branch_device(mstb);
1971         return ret;
1972 }
1973
1974 static int drm_dp_encode_up_ack_reply(struct drm_dp_sideband_msg_tx *msg, u8 req_type)
1975 {
1976         struct drm_dp_sideband_msg_reply_body reply;
1977
1978         reply.reply_type = 0;
1979         reply.req_type = req_type;
1980         drm_dp_encode_sideband_reply(&reply, msg);
1981         return 0;
1982 }
1983
1984 static int drm_dp_send_up_ack_reply(struct drm_dp_mst_topology_mgr *mgr,
1985                                     struct drm_dp_mst_branch *mstb,
1986                                     int req_type, int seqno, bool broadcast)
1987 {
1988         struct drm_dp_sideband_msg_tx *txmsg;
1989
1990         txmsg = kzalloc(sizeof(*txmsg), GFP_KERNEL);
1991         if (!txmsg)
1992                 return -ENOMEM;
1993
1994         txmsg->dst = mstb;
1995         txmsg->seqno = seqno;
1996         drm_dp_encode_up_ack_reply(txmsg, req_type);
1997
1998         mutex_lock(&mgr->qlock);
1999
2000         process_single_up_tx_qlock(mgr, txmsg);
2001
2002         mutex_unlock(&mgr->qlock);
2003
2004         kfree(txmsg);
2005         return 0;
2006 }
2007
2008 static bool drm_dp_get_vc_payload_bw(int dp_link_bw,
2009                                      int dp_link_count,
2010                                      int *out)
2011 {
2012         switch (dp_link_bw) {
2013         default:
2014                 DRM_DEBUG_KMS("invalid link bandwidth in DPCD: %x (link count: %d)\n",
2015                               dp_link_bw, dp_link_count);
2016                 return false;
2017
2018         case DP_LINK_BW_1_62:
2019                 *out = 3 * dp_link_count;
2020                 break;
2021         case DP_LINK_BW_2_7:
2022                 *out = 5 * dp_link_count;
2023                 break;
2024         case DP_LINK_BW_5_4:
2025                 *out = 10 * dp_link_count;
2026                 break;
2027         }
2028         return true;
2029 }
2030
2031 /**
2032  * drm_dp_mst_topology_mgr_set_mst() - Set the MST state for a topology manager
2033  * @mgr: manager to set state for
2034  * @mst_state: true to enable MST on this connector - false to disable.
2035  *
2036  * This is called by the driver when it detects an MST capable device plugged
2037  * into a DP MST capable port, or when a DP MST capable device is unplugged.
2038  */
2039 int drm_dp_mst_topology_mgr_set_mst(struct drm_dp_mst_topology_mgr *mgr, bool mst_state)
2040 {
2041         int ret = 0;
2042         struct drm_dp_mst_branch *mstb = NULL;
2043
2044         mutex_lock(&mgr->payload_lock);
2045         mutex_lock(&mgr->lock);
2046         if (mst_state == mgr->mst_state)
2047                 goto out_unlock;
2048
2049         mgr->mst_state = mst_state;
2050         /* set the device into MST mode */
2051         if (mst_state) {
2052                 WARN_ON(mgr->mst_primary);
2053
2054                 /* get dpcd info */
2055                 ret = drm_dp_dpcd_read(mgr->aux, DP_DPCD_REV, mgr->dpcd, DP_RECEIVER_CAP_SIZE);
2056                 if (ret != DP_RECEIVER_CAP_SIZE) {
2057                         DRM_DEBUG_KMS("failed to read DPCD\n");
2058                         goto out_unlock;
2059                 }
2060
2061                 if (!drm_dp_get_vc_payload_bw(mgr->dpcd[1],
2062                                               mgr->dpcd[2] & DP_MAX_LANE_COUNT_MASK,
2063                                               &mgr->pbn_div)) {
2064                         ret = -EINVAL;
2065                         goto out_unlock;
2066                 }
2067
2068                 /* add initial branch device at LCT 1 */
2069                 mstb = drm_dp_add_mst_branch_device(1, NULL);
2070                 if (mstb == NULL) {
2071                         ret = -ENOMEM;
2072                         goto out_unlock;
2073                 }
2074                 mstb->mgr = mgr;
2075
2076                 /* give this the main reference */
2077                 mgr->mst_primary = mstb;
2078                 kref_get(&mgr->mst_primary->kref);
2079
2080                 ret = drm_dp_dpcd_writeb(mgr->aux, DP_MSTM_CTRL,
2081                                                          DP_MST_EN | DP_UP_REQ_EN | DP_UPSTREAM_IS_SRC);
2082                 if (ret < 0) {
2083                         goto out_unlock;
2084                 }
2085
2086                 {
2087                         struct drm_dp_payload reset_pay;
2088                         reset_pay.start_slot = 0;
2089                         reset_pay.num_slots = 0x3f;
2090                         drm_dp_dpcd_write_payload(mgr, 0, &reset_pay);
2091                 }
2092
2093                 queue_work(system_long_wq, &mgr->work);
2094
2095                 ret = 0;
2096         } else {
2097                 /* disable MST on the device */
2098                 mstb = mgr->mst_primary;
2099                 mgr->mst_primary = NULL;
2100                 /* this can fail if the device is gone */
2101                 drm_dp_dpcd_writeb(mgr->aux, DP_MSTM_CTRL, 0);
2102                 ret = 0;
2103                 memset(mgr->payloads, 0,
2104                        mgr->max_payloads * sizeof(mgr->payloads[0]));
2105                 memset(mgr->proposed_vcpis, 0,
2106                        mgr->max_payloads * sizeof(mgr->proposed_vcpis[0]));
2107                 mgr->payload_mask = 0;
2108                 set_bit(0, &mgr->payload_mask);
2109                 mgr->vcpi_mask = 0;
2110         }
2111
2112 out_unlock:
2113         mutex_unlock(&mgr->lock);
2114         mutex_unlock(&mgr->payload_lock);
2115         if (mstb)
2116                 drm_dp_put_mst_branch_device(mstb);
2117         return ret;
2118
2119 }
2120 EXPORT_SYMBOL(drm_dp_mst_topology_mgr_set_mst);
2121
2122 /**
2123  * drm_dp_mst_topology_mgr_suspend() - suspend the MST manager
2124  * @mgr: manager to suspend
2125  *
2126  * This function tells the MST device that we can't handle UP messages
2127  * anymore. This should stop it from sending any since we are suspended.
2128  */
2129 void drm_dp_mst_topology_mgr_suspend(struct drm_dp_mst_topology_mgr *mgr)
2130 {
2131         mutex_lock(&mgr->lock);
2132         drm_dp_dpcd_writeb(mgr->aux, DP_MSTM_CTRL,
2133                            DP_MST_EN | DP_UPSTREAM_IS_SRC);
2134         mutex_unlock(&mgr->lock);
2135         flush_work(&mgr->work);
2136         flush_work(&mgr->destroy_connector_work);
2137 }
2138 EXPORT_SYMBOL(drm_dp_mst_topology_mgr_suspend);
2139
2140 /**
2141  * drm_dp_mst_topology_mgr_resume() - resume the MST manager
2142  * @mgr: manager to resume
2143  *
2144  * This will fetch DPCD and see if the device is still there,
2145  * if it is, it will rewrite the MSTM control bits, and return.
2146  *
2147  * if the device fails this returns -1, and the driver should do
2148  * a full MST reprobe, in case we were undocked.
2149  */
2150 int drm_dp_mst_topology_mgr_resume(struct drm_dp_mst_topology_mgr *mgr)
2151 {
2152         int ret = 0;
2153
2154         mutex_lock(&mgr->lock);
2155
2156         if (mgr->mst_primary) {
2157                 int sret;
2158                 u8 guid[16];
2159
2160                 sret = drm_dp_dpcd_read(mgr->aux, DP_DPCD_REV, mgr->dpcd, DP_RECEIVER_CAP_SIZE);
2161                 if (sret != DP_RECEIVER_CAP_SIZE) {
2162                         DRM_DEBUG_KMS("dpcd read failed - undocked during suspend?\n");
2163                         ret = -1;
2164                         goto out_unlock;
2165                 }
2166
2167                 ret = drm_dp_dpcd_writeb(mgr->aux, DP_MSTM_CTRL,
2168                                          DP_MST_EN | DP_UP_REQ_EN | DP_UPSTREAM_IS_SRC);
2169                 if (ret < 0) {
2170                         DRM_DEBUG_KMS("mst write failed - undocked during suspend?\n");
2171                         ret = -1;
2172                         goto out_unlock;
2173                 }
2174
2175                 /* Some hubs forget their guids after they resume */
2176                 sret = drm_dp_dpcd_read(mgr->aux, DP_GUID, guid, 16);
2177                 if (sret != 16) {
2178                         DRM_DEBUG_KMS("dpcd read failed - undocked during suspend?\n");
2179                         ret = -1;
2180                         goto out_unlock;
2181                 }
2182                 drm_dp_check_mstb_guid(mgr->mst_primary, guid);
2183
2184                 ret = 0;
2185         } else
2186                 ret = -1;
2187
2188 out_unlock:
2189         mutex_unlock(&mgr->lock);
2190         return ret;
2191 }
2192 EXPORT_SYMBOL(drm_dp_mst_topology_mgr_resume);
2193
2194 static bool drm_dp_get_one_sb_msg(struct drm_dp_mst_topology_mgr *mgr, bool up)
2195 {
2196         int len;
2197         u8 replyblock[32];
2198         int replylen, origlen, curreply;
2199         int ret;
2200         struct drm_dp_sideband_msg_rx *msg;
2201         int basereg = up ? DP_SIDEBAND_MSG_UP_REQ_BASE : DP_SIDEBAND_MSG_DOWN_REP_BASE;
2202         msg = up ? &mgr->up_req_recv : &mgr->down_rep_recv;
2203
2204         len = min(mgr->max_dpcd_transaction_bytes, 16);
2205         ret = drm_dp_dpcd_read(mgr->aux, basereg,
2206                                replyblock, len);
2207         if (ret != len) {
2208                 DRM_DEBUG_KMS("failed to read DPCD down rep %d %d\n", len, ret);
2209                 return false;
2210         }
2211         ret = drm_dp_sideband_msg_build(msg, replyblock, len, true);
2212         if (!ret) {
2213                 DRM_DEBUG_KMS("sideband msg build failed %d\n", replyblock[0]);
2214                 return false;
2215         }
2216         replylen = msg->curchunk_len + msg->curchunk_hdrlen;
2217
2218         origlen = replylen;
2219         replylen -= len;
2220         curreply = len;
2221         while (replylen > 0) {
2222                 len = min3(replylen, mgr->max_dpcd_transaction_bytes, 16);
2223                 ret = drm_dp_dpcd_read(mgr->aux, basereg + curreply,
2224                                     replyblock, len);
2225                 if (ret != len) {
2226                         DRM_DEBUG_KMS("failed to read a chunk (len %d, ret %d)\n",
2227                                       len, ret);
2228                         return false;
2229                 }
2230
2231                 ret = drm_dp_sideband_msg_build(msg, replyblock, len, false);
2232                 if (!ret) {
2233                         DRM_DEBUG_KMS("failed to build sideband msg\n");
2234                         return false;
2235                 }
2236
2237                 curreply += len;
2238                 replylen -= len;
2239         }
2240         return true;
2241 }
2242
2243 static int drm_dp_mst_handle_down_rep(struct drm_dp_mst_topology_mgr *mgr)
2244 {
2245         int ret = 0;
2246
2247         if (!drm_dp_get_one_sb_msg(mgr, false)) {
2248                 memset(&mgr->down_rep_recv, 0,
2249                        sizeof(struct drm_dp_sideband_msg_rx));
2250                 return 0;
2251         }
2252
2253         if (mgr->down_rep_recv.have_eomt) {
2254                 struct drm_dp_sideband_msg_tx *txmsg;
2255                 struct drm_dp_mst_branch *mstb;
2256                 int slot = -1;
2257                 mstb = drm_dp_get_mst_branch_device(mgr,
2258                                                     mgr->down_rep_recv.initial_hdr.lct,
2259                                                     mgr->down_rep_recv.initial_hdr.rad);
2260
2261                 if (!mstb) {
2262                         DRM_DEBUG_KMS("Got MST reply from unknown device %d\n", mgr->down_rep_recv.initial_hdr.lct);
2263                         memset(&mgr->down_rep_recv, 0, sizeof(struct drm_dp_sideband_msg_rx));
2264                         return 0;
2265                 }
2266
2267                 /* find the message */
2268                 slot = mgr->down_rep_recv.initial_hdr.seqno;
2269                 mutex_lock(&mgr->qlock);
2270                 txmsg = mstb->tx_slots[slot];
2271                 /* remove from slots */
2272                 mutex_unlock(&mgr->qlock);
2273
2274                 if (!txmsg) {
2275                         DRM_DEBUG_KMS("Got MST reply with no msg %p %d %d %02x %02x\n",
2276                                mstb,
2277                                mgr->down_rep_recv.initial_hdr.seqno,
2278                                mgr->down_rep_recv.initial_hdr.lct,
2279                                       mgr->down_rep_recv.initial_hdr.rad[0],
2280                                       mgr->down_rep_recv.msg[0]);
2281                         drm_dp_put_mst_branch_device(mstb);
2282                         memset(&mgr->down_rep_recv, 0, sizeof(struct drm_dp_sideband_msg_rx));
2283                         return 0;
2284                 }
2285
2286                 drm_dp_sideband_parse_reply(&mgr->down_rep_recv, &txmsg->reply);
2287                 if (txmsg->reply.reply_type == 1) {
2288                         DRM_DEBUG_KMS("Got NAK reply: req 0x%02x, reason 0x%02x, nak data 0x%02x\n", txmsg->reply.req_type, txmsg->reply.u.nak.reason, txmsg->reply.u.nak.nak_data);
2289                 }
2290
2291                 memset(&mgr->down_rep_recv, 0, sizeof(struct drm_dp_sideband_msg_rx));
2292                 drm_dp_put_mst_branch_device(mstb);
2293
2294                 mutex_lock(&mgr->qlock);
2295                 txmsg->state = DRM_DP_SIDEBAND_TX_RX;
2296                 mstb->tx_slots[slot] = NULL;
2297                 mutex_unlock(&mgr->qlock);
2298
2299                 wake_up_all(&mgr->tx_waitq);
2300         }
2301         return ret;
2302 }
2303
2304 static int drm_dp_mst_handle_up_req(struct drm_dp_mst_topology_mgr *mgr)
2305 {
2306         int ret = 0;
2307
2308         if (!drm_dp_get_one_sb_msg(mgr, true)) {
2309                 memset(&mgr->up_req_recv, 0,
2310                        sizeof(struct drm_dp_sideband_msg_rx));
2311                 return 0;
2312         }
2313
2314         if (mgr->up_req_recv.have_eomt) {
2315                 struct drm_dp_sideband_msg_req_body msg;
2316                 struct drm_dp_mst_branch *mstb = NULL;
2317                 bool seqno;
2318
2319                 if (!mgr->up_req_recv.initial_hdr.broadcast) {
2320                         mstb = drm_dp_get_mst_branch_device(mgr,
2321                                                             mgr->up_req_recv.initial_hdr.lct,
2322                                                             mgr->up_req_recv.initial_hdr.rad);
2323                         if (!mstb) {
2324                                 DRM_DEBUG_KMS("Got MST reply from unknown device %d\n", mgr->up_req_recv.initial_hdr.lct);
2325                                 memset(&mgr->up_req_recv, 0, sizeof(struct drm_dp_sideband_msg_rx));
2326                                 return 0;
2327                         }
2328                 }
2329
2330                 seqno = mgr->up_req_recv.initial_hdr.seqno;
2331                 drm_dp_sideband_parse_req(&mgr->up_req_recv, &msg);
2332
2333                 if (msg.req_type == DP_CONNECTION_STATUS_NOTIFY) {
2334                         drm_dp_send_up_ack_reply(mgr, mgr->mst_primary, msg.req_type, seqno, false);
2335
2336                         if (!mstb)
2337                                 mstb = drm_dp_get_mst_branch_device_by_guid(mgr, msg.u.conn_stat.guid);
2338
2339                         if (!mstb) {
2340                                 DRM_DEBUG_KMS("Got MST reply from unknown device %d\n", mgr->up_req_recv.initial_hdr.lct);
2341                                 memset(&mgr->up_req_recv, 0, sizeof(struct drm_dp_sideband_msg_rx));
2342                                 return 0;
2343                         }
2344
2345                         drm_dp_update_port(mstb, &msg.u.conn_stat);
2346
2347                         DRM_DEBUG_KMS("Got CSN: pn: %d ldps:%d ddps: %d mcs: %d ip: %d pdt: %d\n", msg.u.conn_stat.port_number, msg.u.conn_stat.legacy_device_plug_status, msg.u.conn_stat.displayport_device_plug_status, msg.u.conn_stat.message_capability_status, msg.u.conn_stat.input_port, msg.u.conn_stat.peer_device_type);
2348                         (*mgr->cbs->hotplug)(mgr);
2349
2350                 } else if (msg.req_type == DP_RESOURCE_STATUS_NOTIFY) {
2351                         drm_dp_send_up_ack_reply(mgr, mgr->mst_primary, msg.req_type, seqno, false);
2352                         if (!mstb)
2353                                 mstb = drm_dp_get_mst_branch_device_by_guid(mgr, msg.u.resource_stat.guid);
2354
2355                         if (!mstb) {
2356                                 DRM_DEBUG_KMS("Got MST reply from unknown device %d\n", mgr->up_req_recv.initial_hdr.lct);
2357                                 memset(&mgr->up_req_recv, 0, sizeof(struct drm_dp_sideband_msg_rx));
2358                                 return 0;
2359                         }
2360
2361                         DRM_DEBUG_KMS("Got RSN: pn: %d avail_pbn %d\n", msg.u.resource_stat.port_number, msg.u.resource_stat.available_pbn);
2362                 }
2363
2364                 if (mstb)
2365                         drm_dp_put_mst_branch_device(mstb);
2366
2367                 memset(&mgr->up_req_recv, 0, sizeof(struct drm_dp_sideband_msg_rx));
2368         }
2369         return ret;
2370 }
2371
2372 /**
2373  * drm_dp_mst_hpd_irq() - MST hotplug IRQ notify
2374  * @mgr: manager to notify irq for.
2375  * @esi: 4 bytes from SINK_COUNT_ESI
2376  * @handled: whether the hpd interrupt was consumed or not
2377  *
2378  * This should be called from the driver when it detects a short IRQ,
2379  * along with the value of the DEVICE_SERVICE_IRQ_VECTOR_ESI0. The
2380  * topology manager will process the sideband messages received as a result
2381  * of this.
2382  */
2383 int drm_dp_mst_hpd_irq(struct drm_dp_mst_topology_mgr *mgr, u8 *esi, bool *handled)
2384 {
2385         int ret = 0;
2386         int sc;
2387         *handled = false;
2388         sc = esi[0] & 0x3f;
2389
2390         if (sc != mgr->sink_count) {
2391                 mgr->sink_count = sc;
2392                 *handled = true;
2393         }
2394
2395         if (esi[1] & DP_DOWN_REP_MSG_RDY) {
2396                 ret = drm_dp_mst_handle_down_rep(mgr);
2397                 *handled = true;
2398         }
2399
2400         if (esi[1] & DP_UP_REQ_MSG_RDY) {
2401                 ret |= drm_dp_mst_handle_up_req(mgr);
2402                 *handled = true;
2403         }
2404
2405         drm_dp_mst_kick_tx(mgr);
2406         return ret;
2407 }
2408 EXPORT_SYMBOL(drm_dp_mst_hpd_irq);
2409
2410 /**
2411  * drm_dp_mst_detect_port() - get connection status for an MST port
2412  * @connector: DRM connector for this port
2413  * @mgr: manager for this port
2414  * @port: unverified pointer to a port
2415  *
2416  * This returns the current connection state for a port. It validates the
2417  * port pointer still exists so the caller doesn't require a reference
2418  */
2419 enum drm_connector_status drm_dp_mst_detect_port(struct drm_connector *connector,
2420                                                  struct drm_dp_mst_topology_mgr *mgr, struct drm_dp_mst_port *port)
2421 {
2422         enum drm_connector_status status = connector_status_disconnected;
2423
2424         /* we need to search for the port in the mgr in case its gone */
2425         port = drm_dp_get_validated_port_ref(mgr, port);
2426         if (!port)
2427                 return connector_status_disconnected;
2428
2429         if (!port->ddps)
2430                 goto out;
2431
2432         switch (port->pdt) {
2433         case DP_PEER_DEVICE_NONE:
2434         case DP_PEER_DEVICE_MST_BRANCHING:
2435                 break;
2436
2437         case DP_PEER_DEVICE_SST_SINK:
2438                 status = connector_status_connected;
2439                 /* for logical ports - cache the EDID */
2440                 if (port->port_num >= 8 && !port->cached_edid) {
2441                         port->cached_edid = drm_get_edid(connector, &port->aux.ddc);
2442                 }
2443                 break;
2444         case DP_PEER_DEVICE_DP_LEGACY_CONV:
2445                 if (port->ldps)
2446                         status = connector_status_connected;
2447                 break;
2448         }
2449 out:
2450         drm_dp_put_port(port);
2451         return status;
2452 }
2453 EXPORT_SYMBOL(drm_dp_mst_detect_port);
2454
2455 /**
2456  * drm_dp_mst_port_has_audio() - Check whether port has audio capability or not
2457  * @mgr: manager for this port
2458  * @port: unverified pointer to a port.
2459  *
2460  * This returns whether the port supports audio or not.
2461  */
2462 bool drm_dp_mst_port_has_audio(struct drm_dp_mst_topology_mgr *mgr,
2463                                         struct drm_dp_mst_port *port)
2464 {
2465         bool ret = false;
2466
2467         port = drm_dp_get_validated_port_ref(mgr, port);
2468         if (!port)
2469                 return ret;
2470         ret = port->has_audio;
2471         drm_dp_put_port(port);
2472         return ret;
2473 }
2474 EXPORT_SYMBOL(drm_dp_mst_port_has_audio);
2475
2476 /**
2477  * drm_dp_mst_get_edid() - get EDID for an MST port
2478  * @connector: toplevel connector to get EDID for
2479  * @mgr: manager for this port
2480  * @port: unverified pointer to a port.
2481  *
2482  * This returns an EDID for the port connected to a connector,
2483  * It validates the pointer still exists so the caller doesn't require a
2484  * reference.
2485  */
2486 struct edid *drm_dp_mst_get_edid(struct drm_connector *connector, struct drm_dp_mst_topology_mgr *mgr, struct drm_dp_mst_port *port)
2487 {
2488         struct edid *edid = NULL;
2489
2490         /* we need to search for the port in the mgr in case its gone */
2491         port = drm_dp_get_validated_port_ref(mgr, port);
2492         if (!port)
2493                 return NULL;
2494
2495         if (port->cached_edid)
2496                 edid = drm_edid_duplicate(port->cached_edid);
2497         else {
2498                 edid = drm_get_edid(connector, &port->aux.ddc);
2499                 drm_mode_connector_set_tile_property(connector);
2500         }
2501         port->has_audio = drm_detect_monitor_audio(edid);
2502         drm_dp_put_port(port);
2503         return edid;
2504 }
2505 EXPORT_SYMBOL(drm_dp_mst_get_edid);
2506
2507 /**
2508  * drm_dp_find_vcpi_slots() - find slots for this PBN value
2509  * @mgr: manager to use
2510  * @pbn: payload bandwidth to convert into slots.
2511  */
2512 int drm_dp_find_vcpi_slots(struct drm_dp_mst_topology_mgr *mgr,
2513                            int pbn)
2514 {
2515         int num_slots;
2516
2517         num_slots = DIV_ROUND_UP(pbn, mgr->pbn_div);
2518
2519         /* max. time slots - one slot for MTP header */
2520         if (num_slots > 63)
2521                 return -ENOSPC;
2522         return num_slots;
2523 }
2524 EXPORT_SYMBOL(drm_dp_find_vcpi_slots);
2525
2526 static int drm_dp_init_vcpi(struct drm_dp_mst_topology_mgr *mgr,
2527                             struct drm_dp_vcpi *vcpi, int pbn, int slots)
2528 {
2529         int ret;
2530
2531         /* max. time slots - one slot for MTP header */
2532         if (slots > 63)
2533                 return -ENOSPC;
2534
2535         vcpi->pbn = pbn;
2536         vcpi->aligned_pbn = slots * mgr->pbn_div;
2537         vcpi->num_slots = slots;
2538
2539         ret = drm_dp_mst_assign_payload_id(mgr, vcpi);
2540         if (ret < 0)
2541                 return ret;
2542         return 0;
2543 }
2544
2545 /**
2546  * drm_dp_atomic_find_vcpi_slots() - Find and add vcpi slots to the state
2547  * @state: global atomic state
2548  * @mgr: MST topology manager for the port
2549  * @port: port to find vcpi slots for
2550  * @pbn: bandwidth required for the mode in PBN
2551  *
2552  * RETURNS:
2553  * Total slots in the atomic state assigned for this port or error
2554  */
2555 int drm_dp_atomic_find_vcpi_slots(struct drm_atomic_state *state,
2556                                   struct drm_dp_mst_topology_mgr *mgr,
2557                                   struct drm_dp_mst_port *port, int pbn)
2558 {
2559         struct drm_dp_mst_topology_state *topology_state;
2560         int req_slots;
2561
2562         topology_state = drm_atomic_get_mst_topology_state(state, mgr);
2563         if (IS_ERR(topology_state))
2564                 return PTR_ERR(topology_state);
2565
2566         port = drm_dp_get_validated_port_ref(mgr, port);
2567         if (port == NULL)
2568                 return -EINVAL;
2569         req_slots = DIV_ROUND_UP(pbn, mgr->pbn_div);
2570         DRM_DEBUG_KMS("vcpi slots req=%d, avail=%d\n",
2571                         req_slots, topology_state->avail_slots);
2572
2573         if (req_slots > topology_state->avail_slots) {
2574                 drm_dp_put_port(port);
2575                 return -ENOSPC;
2576         }
2577
2578         topology_state->avail_slots -= req_slots;
2579         DRM_DEBUG_KMS("vcpi slots avail=%d", topology_state->avail_slots);
2580
2581         drm_dp_put_port(port);
2582         return req_slots;
2583 }
2584 EXPORT_SYMBOL(drm_dp_atomic_find_vcpi_slots);
2585
2586 /**
2587  * drm_dp_atomic_release_vcpi_slots() - Release allocated vcpi slots
2588  * @state: global atomic state
2589  * @mgr: MST topology manager for the port
2590  * @slots: number of vcpi slots to release
2591  *
2592  * RETURNS:
2593  * 0 if @slots were added back to &drm_dp_mst_topology_state->avail_slots or
2594  * negative error code
2595  */
2596 int drm_dp_atomic_release_vcpi_slots(struct drm_atomic_state *state,
2597                                      struct drm_dp_mst_topology_mgr *mgr,
2598                                      int slots)
2599 {
2600         struct drm_dp_mst_topology_state *topology_state;
2601
2602         topology_state = drm_atomic_get_mst_topology_state(state, mgr);
2603         if (IS_ERR(topology_state))
2604                 return PTR_ERR(topology_state);
2605
2606         /* We cannot rely on port->vcpi.num_slots to update
2607          * topology_state->avail_slots as the port may not exist if the parent
2608          * branch device was unplugged. This should be fixed by tracking
2609          * per-port slot allocation in drm_dp_mst_topology_state instead of
2610          * depending on the caller to tell us how many slots to release.
2611          */
2612         topology_state->avail_slots += slots;
2613         DRM_DEBUG_KMS("vcpi slots released=%d, avail=%d\n",
2614                         slots, topology_state->avail_slots);
2615
2616         return 0;
2617 }
2618 EXPORT_SYMBOL(drm_dp_atomic_release_vcpi_slots);
2619
2620 /**
2621  * drm_dp_mst_allocate_vcpi() - Allocate a virtual channel
2622  * @mgr: manager for this port
2623  * @port: port to allocate a virtual channel for.
2624  * @pbn: payload bandwidth number to request
2625  * @slots: returned number of slots for this PBN.
2626  */
2627 bool drm_dp_mst_allocate_vcpi(struct drm_dp_mst_topology_mgr *mgr,
2628                               struct drm_dp_mst_port *port, int pbn, int slots)
2629 {
2630         int ret;
2631
2632         if (slots < 0)
2633                 return false;
2634
2635         port = drm_dp_get_validated_port_ref(mgr, port);
2636         if (!port)
2637                 return false;
2638
2639         if (port->vcpi.vcpi > 0) {
2640                 DRM_DEBUG_KMS("payload: vcpi %d already allocated for pbn %d - requested pbn %d\n", port->vcpi.vcpi, port->vcpi.pbn, pbn);
2641                 if (pbn == port->vcpi.pbn) {
2642                         drm_dp_put_port(port);
2643                         return true;
2644                 }
2645         }
2646
2647         ret = drm_dp_init_vcpi(mgr, &port->vcpi, pbn, slots);
2648         if (ret) {
2649                 DRM_DEBUG_KMS("failed to init vcpi slots=%d max=63 ret=%d\n",
2650                                 DIV_ROUND_UP(pbn, mgr->pbn_div), ret);
2651                 drm_dp_put_port(port);
2652                 goto out;
2653         }
2654         DRM_DEBUG_KMS("initing vcpi for pbn=%d slots=%d\n",
2655                         pbn, port->vcpi.num_slots);
2656
2657         drm_dp_put_port(port);
2658         return true;
2659 out:
2660         return false;
2661 }
2662 EXPORT_SYMBOL(drm_dp_mst_allocate_vcpi);
2663
2664 int drm_dp_mst_get_vcpi_slots(struct drm_dp_mst_topology_mgr *mgr, struct drm_dp_mst_port *port)
2665 {
2666         int slots = 0;
2667         port = drm_dp_get_validated_port_ref(mgr, port);
2668         if (!port)
2669                 return slots;
2670
2671         slots = port->vcpi.num_slots;
2672         drm_dp_put_port(port);
2673         return slots;
2674 }
2675 EXPORT_SYMBOL(drm_dp_mst_get_vcpi_slots);
2676
2677 /**
2678  * drm_dp_mst_reset_vcpi_slots() - Reset number of slots to 0 for VCPI
2679  * @mgr: manager for this port
2680  * @port: unverified pointer to a port.
2681  *
2682  * This just resets the number of slots for the ports VCPI for later programming.
2683  */
2684 void drm_dp_mst_reset_vcpi_slots(struct drm_dp_mst_topology_mgr *mgr, struct drm_dp_mst_port *port)
2685 {
2686         port = drm_dp_get_validated_port_ref(mgr, port);
2687         if (!port)
2688                 return;
2689         port->vcpi.num_slots = 0;
2690         drm_dp_put_port(port);
2691 }
2692 EXPORT_SYMBOL(drm_dp_mst_reset_vcpi_slots);
2693
2694 /**
2695  * drm_dp_mst_deallocate_vcpi() - deallocate a VCPI
2696  * @mgr: manager for this port
2697  * @port: unverified port to deallocate vcpi for
2698  */
2699 void drm_dp_mst_deallocate_vcpi(struct drm_dp_mst_topology_mgr *mgr, struct drm_dp_mst_port *port)
2700 {
2701         port = drm_dp_get_validated_port_ref(mgr, port);
2702         if (!port)
2703                 return;
2704
2705         drm_dp_mst_put_payload_id(mgr, port->vcpi.vcpi);
2706         port->vcpi.num_slots = 0;
2707         port->vcpi.pbn = 0;
2708         port->vcpi.aligned_pbn = 0;
2709         port->vcpi.vcpi = 0;
2710         drm_dp_put_port(port);
2711 }
2712 EXPORT_SYMBOL(drm_dp_mst_deallocate_vcpi);
2713
2714 static int drm_dp_dpcd_write_payload(struct drm_dp_mst_topology_mgr *mgr,
2715                                      int id, struct drm_dp_payload *payload)
2716 {
2717         u8 payload_alloc[3], status;
2718         int ret;
2719         int retries = 0;
2720
2721         drm_dp_dpcd_writeb(mgr->aux, DP_PAYLOAD_TABLE_UPDATE_STATUS,
2722                            DP_PAYLOAD_TABLE_UPDATED);
2723
2724         payload_alloc[0] = id;
2725         payload_alloc[1] = payload->start_slot;
2726         payload_alloc[2] = payload->num_slots;
2727
2728         ret = drm_dp_dpcd_write(mgr->aux, DP_PAYLOAD_ALLOCATE_SET, payload_alloc, 3);
2729         if (ret != 3) {
2730                 DRM_DEBUG_KMS("failed to write payload allocation %d\n", ret);
2731                 goto fail;
2732         }
2733
2734 retry:
2735         ret = drm_dp_dpcd_readb(mgr->aux, DP_PAYLOAD_TABLE_UPDATE_STATUS, &status);
2736         if (ret < 0) {
2737                 DRM_DEBUG_KMS("failed to read payload table status %d\n", ret);
2738                 goto fail;
2739         }
2740
2741         if (!(status & DP_PAYLOAD_TABLE_UPDATED)) {
2742                 retries++;
2743                 if (retries < 20) {
2744                         usleep_range(10000, 20000);
2745                         goto retry;
2746                 }
2747                 DRM_DEBUG_KMS("status not set after read payload table status %d\n", status);
2748                 ret = -EINVAL;
2749                 goto fail;
2750         }
2751         ret = 0;
2752 fail:
2753         return ret;
2754 }
2755
2756 static int do_get_act_status(struct drm_dp_aux *aux)
2757 {
2758         int ret;
2759         u8 status;
2760
2761         ret = drm_dp_dpcd_readb(aux, DP_PAYLOAD_TABLE_UPDATE_STATUS, &status);
2762         if (ret < 0)
2763                 return ret;
2764
2765         return status;
2766 }
2767
2768 /**
2769  * drm_dp_check_act_status() - Check ACT handled status.
2770  * @mgr: manager to use
2771  *
2772  * Check the payload status bits in the DPCD for ACT handled completion.
2773  */
2774 int drm_dp_check_act_status(struct drm_dp_mst_topology_mgr *mgr)
2775 {
2776         /*
2777          * There doesn't seem to be any recommended retry count or timeout in
2778          * the MST specification. Since some hubs have been observed to take
2779          * over 1 second to update their payload allocations under certain
2780          * conditions, we use a rather large timeout value.
2781          */
2782         const int timeout_ms = 3000;
2783         int ret, status;
2784
2785         ret = readx_poll_timeout(do_get_act_status, mgr->aux, status,
2786                                  status & DP_PAYLOAD_ACT_HANDLED || status < 0,
2787                                  200, timeout_ms * USEC_PER_MSEC);
2788         if (ret < 0 && status >= 0) {
2789                 DRM_DEBUG_KMS("Failed to get ACT after %dms, last status: %02x\n",
2790                               timeout_ms, status);
2791                 return -EINVAL;
2792         } else if (status < 0) {
2793                 DRM_DEBUG_KMS("Failed to read payload table status: %d\n",
2794                               status);
2795                 return status;
2796         }
2797
2798         return 0;
2799 }
2800 EXPORT_SYMBOL(drm_dp_check_act_status);
2801
2802 /**
2803  * drm_dp_calc_pbn_mode() - Calculate the PBN for a mode.
2804  * @clock: dot clock for the mode
2805  * @bpp: bpp for the mode.
2806  *
2807  * This uses the formula in the spec to calculate the PBN value for a mode.
2808  */
2809 int drm_dp_calc_pbn_mode(int clock, int bpp)
2810 {
2811         u64 kbps;
2812         s64 peak_kbps;
2813         u32 numerator;
2814         u32 denominator;
2815
2816         kbps = clock * bpp;
2817
2818         /*
2819          * margin 5300ppm + 300ppm ~ 0.6% as per spec, factor is 1.006
2820          * The unit of 54/64Mbytes/sec is an arbitrary unit chosen based on
2821          * common multiplier to render an integer PBN for all link rate/lane
2822          * counts combinations
2823          * calculate
2824          * peak_kbps *= (1006/1000)
2825          * peak_kbps *= (64/54)
2826          * peak_kbps *= 8    convert to bytes
2827          */
2828
2829         numerator = 64 * 1006;
2830         denominator = 54 * 8 * 1000 * 1000;
2831
2832         kbps *= numerator;
2833         peak_kbps = drm_fixp_from_fraction(kbps, denominator);
2834
2835         return drm_fixp2int_ceil(peak_kbps);
2836 }
2837 EXPORT_SYMBOL(drm_dp_calc_pbn_mode);
2838
2839 static int test_calc_pbn_mode(void)
2840 {
2841         int ret;
2842         ret = drm_dp_calc_pbn_mode(154000, 30);
2843         if (ret != 689) {
2844                 DRM_ERROR("PBN calculation test failed - clock %d, bpp %d, expected PBN %d, actual PBN %d.\n",
2845                                 154000, 30, 689, ret);
2846                 return -EINVAL;
2847         }
2848         ret = drm_dp_calc_pbn_mode(234000, 30);
2849         if (ret != 1047) {
2850                 DRM_ERROR("PBN calculation test failed - clock %d, bpp %d, expected PBN %d, actual PBN %d.\n",
2851                                 234000, 30, 1047, ret);
2852                 return -EINVAL;
2853         }
2854         ret = drm_dp_calc_pbn_mode(297000, 24);
2855         if (ret != 1063) {
2856                 DRM_ERROR("PBN calculation test failed - clock %d, bpp %d, expected PBN %d, actual PBN %d.\n",
2857                                 297000, 24, 1063, ret);
2858                 return -EINVAL;
2859         }
2860         return 0;
2861 }
2862
2863 /* we want to kick the TX after we've ack the up/down IRQs. */
2864 static void drm_dp_mst_kick_tx(struct drm_dp_mst_topology_mgr *mgr)
2865 {
2866         queue_work(system_long_wq, &mgr->tx_work);
2867 }
2868
2869 static void drm_dp_mst_dump_mstb(struct seq_file *m,
2870                                  struct drm_dp_mst_branch *mstb)
2871 {
2872         struct drm_dp_mst_port *port;
2873         int tabs = mstb->lct;
2874         char prefix[10];
2875         int i;
2876
2877         for (i = 0; i < tabs; i++)
2878                 prefix[i] = '\t';
2879         prefix[i] = '\0';
2880
2881         seq_printf(m, "%smst: %p, %d\n", prefix, mstb, mstb->num_ports);
2882         list_for_each_entry(port, &mstb->ports, next) {
2883                 seq_printf(m, "%sport: %d: input: %d: pdt: %d, ddps: %d ldps: %d, sdp: %d/%d, %p, conn: %p\n", prefix, port->port_num, port->input, port->pdt, port->ddps, port->ldps, port->num_sdp_streams, port->num_sdp_stream_sinks, port, port->connector);
2884                 if (port->mstb)
2885                         drm_dp_mst_dump_mstb(m, port->mstb);
2886         }
2887 }
2888
2889 #define DP_PAYLOAD_TABLE_SIZE           64
2890
2891 static bool dump_dp_payload_table(struct drm_dp_mst_topology_mgr *mgr,
2892                                   char *buf)
2893 {
2894         int i;
2895
2896         for (i = 0; i < DP_PAYLOAD_TABLE_SIZE; i += 16) {
2897                 if (drm_dp_dpcd_read(mgr->aux,
2898                                      DP_PAYLOAD_TABLE_UPDATE_STATUS + i,
2899                                      &buf[i], 16) != 16)
2900                         return false;
2901         }
2902         return true;
2903 }
2904
2905 static void fetch_monitor_name(struct drm_dp_mst_topology_mgr *mgr,
2906                                struct drm_dp_mst_port *port, char *name,
2907                                int namelen)
2908 {
2909         struct edid *mst_edid;
2910
2911         mst_edid = drm_dp_mst_get_edid(port->connector, mgr, port);
2912         drm_edid_get_monitor_name(mst_edid, name, namelen);
2913 }
2914
2915 /**
2916  * drm_dp_mst_dump_topology(): dump topology to seq file.
2917  * @m: seq_file to dump output to
2918  * @mgr: manager to dump current topology for.
2919  *
2920  * helper to dump MST topology to a seq file for debugfs.
2921  */
2922 void drm_dp_mst_dump_topology(struct seq_file *m,
2923                               struct drm_dp_mst_topology_mgr *mgr)
2924 {
2925         int i;
2926         struct drm_dp_mst_port *port;
2927
2928         mutex_lock(&mgr->lock);
2929         if (mgr->mst_primary)
2930                 drm_dp_mst_dump_mstb(m, mgr->mst_primary);
2931
2932         /* dump VCPIs */
2933         mutex_unlock(&mgr->lock);
2934
2935         mutex_lock(&mgr->payload_lock);
2936         seq_printf(m, "vcpi: %lx %lx %d\n", mgr->payload_mask, mgr->vcpi_mask,
2937                 mgr->max_payloads);
2938
2939         for (i = 0; i < mgr->max_payloads; i++) {
2940                 if (mgr->proposed_vcpis[i]) {
2941                         char name[14];
2942
2943                         port = container_of(mgr->proposed_vcpis[i], struct drm_dp_mst_port, vcpi);
2944                         fetch_monitor_name(mgr, port, name, sizeof(name));
2945                         seq_printf(m, "vcpi %d: %d %d %d sink name: %s\n", i,
2946                                    port->port_num, port->vcpi.vcpi,
2947                                    port->vcpi.num_slots,
2948                                    (*name != 0) ? name :  "Unknown");
2949                 } else
2950                         seq_printf(m, "vcpi %d:unused\n", i);
2951         }
2952         for (i = 0; i < mgr->max_payloads; i++) {
2953                 seq_printf(m, "payload %d: %d, %d, %d\n",
2954                            i,
2955                            mgr->payloads[i].payload_state,
2956                            mgr->payloads[i].start_slot,
2957                            mgr->payloads[i].num_slots);
2958
2959
2960         }
2961         mutex_unlock(&mgr->payload_lock);
2962
2963         mutex_lock(&mgr->lock);
2964         if (mgr->mst_primary) {
2965                 u8 buf[DP_PAYLOAD_TABLE_SIZE];
2966                 int ret;
2967
2968                 ret = drm_dp_dpcd_read(mgr->aux, DP_DPCD_REV, buf, DP_RECEIVER_CAP_SIZE);
2969                 seq_printf(m, "dpcd: %*ph\n", DP_RECEIVER_CAP_SIZE, buf);
2970                 ret = drm_dp_dpcd_read(mgr->aux, DP_FAUX_CAP, buf, 2);
2971                 seq_printf(m, "faux/mst: %*ph\n", 2, buf);
2972                 ret = drm_dp_dpcd_read(mgr->aux, DP_MSTM_CTRL, buf, 1);
2973                 seq_printf(m, "mst ctrl: %*ph\n", 1, buf);
2974
2975                 /* dump the standard OUI branch header */
2976                 ret = drm_dp_dpcd_read(mgr->aux, DP_BRANCH_OUI, buf, DP_BRANCH_OUI_HEADER_SIZE);
2977                 seq_printf(m, "branch oui: %*phN devid: ", 3, buf);
2978                 for (i = 0x3; i < 0x8 && buf[i]; i++)
2979                         seq_printf(m, "%c", buf[i]);
2980                 seq_printf(m, " revision: hw: %x.%x sw: %x.%x\n",
2981                            buf[0x9] >> 4, buf[0x9] & 0xf, buf[0xa], buf[0xb]);
2982                 if (dump_dp_payload_table(mgr, buf))
2983                         seq_printf(m, "payload table: %*ph\n", DP_PAYLOAD_TABLE_SIZE, buf);
2984         }
2985
2986         mutex_unlock(&mgr->lock);
2987
2988 }
2989 EXPORT_SYMBOL(drm_dp_mst_dump_topology);
2990
2991 static void drm_dp_tx_work(struct work_struct *work)
2992 {
2993         struct drm_dp_mst_topology_mgr *mgr = container_of(work, struct drm_dp_mst_topology_mgr, tx_work);
2994
2995         mutex_lock(&mgr->qlock);
2996         if (!list_empty(&mgr->tx_msg_downq))
2997                 process_single_down_tx_qlock(mgr);
2998         mutex_unlock(&mgr->qlock);
2999 }
3000
3001 static void drm_dp_free_mst_port(struct kref *kref)
3002 {
3003         struct drm_dp_mst_port *port = container_of(kref, struct drm_dp_mst_port, kref);
3004         kref_put(&port->parent->kref, drm_dp_free_mst_branch_device);
3005         kfree(port);
3006 }
3007
3008 static void drm_dp_destroy_connector_work(struct work_struct *work)
3009 {
3010         struct drm_dp_mst_topology_mgr *mgr = container_of(work, struct drm_dp_mst_topology_mgr, destroy_connector_work);
3011         struct drm_dp_mst_port *port;
3012         bool send_hotplug = false;
3013         /*
3014          * Not a regular list traverse as we have to drop the destroy
3015          * connector lock before destroying the connector, to avoid AB->BA
3016          * ordering between this lock and the config mutex.
3017          */
3018         for (;;) {
3019                 mutex_lock(&mgr->destroy_connector_lock);
3020                 port = list_first_entry_or_null(&mgr->destroy_connector_list, struct drm_dp_mst_port, next);
3021                 if (!port) {
3022                         mutex_unlock(&mgr->destroy_connector_lock);
3023                         break;
3024                 }
3025                 list_del(&port->next);
3026                 mutex_unlock(&mgr->destroy_connector_lock);
3027
3028                 kref_init(&port->kref);
3029                 INIT_LIST_HEAD(&port->next);
3030
3031                 mgr->cbs->destroy_connector(mgr, port->connector);
3032
3033                 drm_dp_port_teardown_pdt(port, port->pdt);
3034                 port->pdt = DP_PEER_DEVICE_NONE;
3035
3036                 if (!port->input && port->vcpi.vcpi > 0) {
3037                         drm_dp_mst_reset_vcpi_slots(mgr, port);
3038                         drm_dp_update_payload_part1(mgr);
3039                         drm_dp_mst_put_payload_id(mgr, port->vcpi.vcpi);
3040                 }
3041
3042                 kref_put(&port->kref, drm_dp_free_mst_port);
3043                 send_hotplug = true;
3044         }
3045         if (send_hotplug)
3046                 (*mgr->cbs->hotplug)(mgr);
3047 }
3048
3049 static struct drm_private_state *
3050 drm_dp_mst_duplicate_state(struct drm_private_obj *obj)
3051 {
3052         struct drm_dp_mst_topology_state *state;
3053
3054         state = kmemdup(obj->state, sizeof(*state), GFP_KERNEL);
3055         if (!state)
3056                 return NULL;
3057
3058         __drm_atomic_helper_private_obj_duplicate_state(obj, &state->base);
3059
3060         return &state->base;
3061 }
3062
3063 static void drm_dp_mst_destroy_state(struct drm_private_obj *obj,
3064                                      struct drm_private_state *state)
3065 {
3066         struct drm_dp_mst_topology_state *mst_state =
3067                 to_dp_mst_topology_state(state);
3068
3069         kfree(mst_state);
3070 }
3071
3072 static const struct drm_private_state_funcs mst_state_funcs = {
3073         .atomic_duplicate_state = drm_dp_mst_duplicate_state,
3074         .atomic_destroy_state = drm_dp_mst_destroy_state,
3075 };
3076
3077 /**
3078  * drm_atomic_get_mst_topology_state: get MST topology state
3079  *
3080  * @state: global atomic state
3081  * @mgr: MST topology manager, also the private object in this case
3082  *
3083  * This function wraps drm_atomic_get_priv_obj_state() passing in the MST atomic
3084  * state vtable so that the private object state returned is that of a MST
3085  * topology object. Also, drm_atomic_get_private_obj_state() expects the caller
3086  * to care of the locking, so warn if don't hold the connection_mutex.
3087  *
3088  * RETURNS:
3089  *
3090  * The MST topology state or error pointer.
3091  */
3092 struct drm_dp_mst_topology_state *drm_atomic_get_mst_topology_state(struct drm_atomic_state *state,
3093                                                                     struct drm_dp_mst_topology_mgr *mgr)
3094 {
3095         struct drm_device *dev = mgr->dev;
3096
3097         WARN_ON(!drm_modeset_is_locked(&dev->mode_config.connection_mutex));
3098         return to_dp_mst_topology_state(drm_atomic_get_private_obj_state(state, &mgr->base));
3099 }
3100 EXPORT_SYMBOL(drm_atomic_get_mst_topology_state);
3101
3102 /**
3103  * drm_dp_mst_topology_mgr_init - initialise a topology manager
3104  * @mgr: manager struct to initialise
3105  * @dev: device providing this structure - for i2c addition.
3106  * @aux: DP helper aux channel to talk to this device
3107  * @max_dpcd_transaction_bytes: hw specific DPCD transaction limit
3108  * @max_payloads: maximum number of payloads this GPU can source
3109  * @conn_base_id: the connector object ID the MST device is connected to.
3110  *
3111  * Return 0 for success, or negative error code on failure
3112  */
3113 int drm_dp_mst_topology_mgr_init(struct drm_dp_mst_topology_mgr *mgr,
3114                                  struct drm_device *dev, struct drm_dp_aux *aux,
3115                                  int max_dpcd_transaction_bytes,
3116                                  int max_payloads, int conn_base_id)
3117 {
3118         struct drm_dp_mst_topology_state *mst_state;
3119
3120         mutex_init(&mgr->lock);
3121         mutex_init(&mgr->qlock);
3122         mutex_init(&mgr->payload_lock);
3123         mutex_init(&mgr->destroy_connector_lock);
3124         INIT_LIST_HEAD(&mgr->tx_msg_downq);
3125         INIT_LIST_HEAD(&mgr->destroy_connector_list);
3126         INIT_WORK(&mgr->work, drm_dp_mst_link_probe_work);
3127         INIT_WORK(&mgr->tx_work, drm_dp_tx_work);
3128         INIT_WORK(&mgr->destroy_connector_work, drm_dp_destroy_connector_work);
3129         init_waitqueue_head(&mgr->tx_waitq);
3130         mgr->dev = dev;
3131         mgr->aux = aux;
3132         mgr->max_dpcd_transaction_bytes = max_dpcd_transaction_bytes;
3133         mgr->max_payloads = max_payloads;
3134         mgr->conn_base_id = conn_base_id;
3135         if (max_payloads + 1 > sizeof(mgr->payload_mask) * 8 ||
3136             max_payloads + 1 > sizeof(mgr->vcpi_mask) * 8)
3137                 return -EINVAL;
3138         mgr->payloads = kcalloc(max_payloads, sizeof(struct drm_dp_payload), GFP_KERNEL);
3139         if (!mgr->payloads)
3140                 return -ENOMEM;
3141         mgr->proposed_vcpis = kcalloc(max_payloads, sizeof(struct drm_dp_vcpi *), GFP_KERNEL);
3142         if (!mgr->proposed_vcpis)
3143                 return -ENOMEM;
3144         set_bit(0, &mgr->payload_mask);
3145         if (test_calc_pbn_mode() < 0)
3146                 DRM_ERROR("MST PBN self-test failed\n");
3147
3148         mst_state = kzalloc(sizeof(*mst_state), GFP_KERNEL);
3149         if (mst_state == NULL)
3150                 return -ENOMEM;
3151
3152         mst_state->mgr = mgr;
3153
3154         /* max. time slots - one slot for MTP header */
3155         mst_state->avail_slots = 63;
3156
3157         drm_atomic_private_obj_init(&mgr->base,
3158                                     &mst_state->base,
3159                                     &mst_state_funcs);
3160
3161         return 0;
3162 }
3163 EXPORT_SYMBOL(drm_dp_mst_topology_mgr_init);
3164
3165 /**
3166  * drm_dp_mst_topology_mgr_destroy() - destroy topology manager.
3167  * @mgr: manager to destroy
3168  */
3169 void drm_dp_mst_topology_mgr_destroy(struct drm_dp_mst_topology_mgr *mgr)
3170 {
3171         flush_work(&mgr->work);
3172         flush_work(&mgr->destroy_connector_work);
3173         mutex_lock(&mgr->payload_lock);
3174         kfree(mgr->payloads);
3175         mgr->payloads = NULL;
3176         kfree(mgr->proposed_vcpis);
3177         mgr->proposed_vcpis = NULL;
3178         mutex_unlock(&mgr->payload_lock);
3179         mgr->dev = NULL;
3180         mgr->aux = NULL;
3181         drm_atomic_private_obj_fini(&mgr->base);
3182         mgr->funcs = NULL;
3183 }
3184 EXPORT_SYMBOL(drm_dp_mst_topology_mgr_destroy);
3185
3186 /* I2C device */
3187 static int drm_dp_mst_i2c_xfer(struct i2c_adapter *adapter, struct i2c_msg *msgs,
3188                                int num)
3189 {
3190         struct drm_dp_aux *aux = adapter->algo_data;
3191         struct drm_dp_mst_port *port = container_of(aux, struct drm_dp_mst_port, aux);
3192         struct drm_dp_mst_branch *mstb;
3193         struct drm_dp_mst_topology_mgr *mgr = port->mgr;
3194         unsigned int i;
3195         bool reading = false;
3196         struct drm_dp_sideband_msg_req_body msg;
3197         struct drm_dp_sideband_msg_tx *txmsg = NULL;
3198         int ret;
3199
3200         mstb = drm_dp_get_validated_mstb_ref(mgr, port->parent);
3201         if (!mstb)
3202                 return -EREMOTEIO;
3203
3204         /* construct i2c msg */
3205         /* see if last msg is a read */
3206         if (msgs[num - 1].flags & I2C_M_RD)
3207                 reading = true;
3208
3209         if (!reading || (num - 1 > DP_REMOTE_I2C_READ_MAX_TRANSACTIONS)) {
3210                 DRM_DEBUG_KMS("Unsupported I2C transaction for MST device\n");
3211                 ret = -EIO;
3212                 goto out;
3213         }
3214
3215         memset(&msg, 0, sizeof(msg));
3216         msg.req_type = DP_REMOTE_I2C_READ;
3217         msg.u.i2c_read.num_transactions = num - 1;
3218         msg.u.i2c_read.port_number = port->port_num;
3219         for (i = 0; i < num - 1; i++) {
3220                 msg.u.i2c_read.transactions[i].i2c_dev_id = msgs[i].addr;
3221                 msg.u.i2c_read.transactions[i].num_bytes = msgs[i].len;
3222                 msg.u.i2c_read.transactions[i].bytes = msgs[i].buf;
3223                 msg.u.i2c_read.transactions[i].no_stop_bit = !(msgs[i].flags & I2C_M_STOP);
3224         }
3225         msg.u.i2c_read.read_i2c_device_id = msgs[num - 1].addr;
3226         msg.u.i2c_read.num_bytes_read = msgs[num - 1].len;
3227
3228         txmsg = kzalloc(sizeof(*txmsg), GFP_KERNEL);
3229         if (!txmsg) {
3230                 ret = -ENOMEM;
3231                 goto out;
3232         }
3233
3234         txmsg->dst = mstb;
3235         drm_dp_encode_sideband_req(&msg, txmsg);
3236
3237         drm_dp_queue_down_tx(mgr, txmsg);
3238
3239         ret = drm_dp_mst_wait_tx_reply(mstb, txmsg);
3240         if (ret > 0) {
3241
3242                 if (txmsg->reply.reply_type == 1) { /* got a NAK back */
3243                         ret = -EREMOTEIO;
3244                         goto out;
3245                 }
3246                 if (txmsg->reply.u.remote_i2c_read_ack.num_bytes != msgs[num - 1].len) {
3247                         ret = -EIO;
3248                         goto out;
3249                 }
3250                 memcpy(msgs[num - 1].buf, txmsg->reply.u.remote_i2c_read_ack.bytes, msgs[num - 1].len);
3251                 ret = num;
3252         }
3253 out:
3254         kfree(txmsg);
3255         drm_dp_put_mst_branch_device(mstb);
3256         return ret;
3257 }
3258
3259 static u32 drm_dp_mst_i2c_functionality(struct i2c_adapter *adapter)
3260 {
3261         return I2C_FUNC_I2C | I2C_FUNC_SMBUS_EMUL |
3262                I2C_FUNC_SMBUS_READ_BLOCK_DATA |
3263                I2C_FUNC_SMBUS_BLOCK_PROC_CALL |
3264                I2C_FUNC_10BIT_ADDR;
3265 }
3266
3267 static const struct i2c_algorithm drm_dp_mst_i2c_algo = {
3268         .functionality = drm_dp_mst_i2c_functionality,
3269         .master_xfer = drm_dp_mst_i2c_xfer,
3270 };
3271
3272 /**
3273  * drm_dp_mst_register_i2c_bus() - register an I2C adapter for I2C-over-AUX
3274  * @aux: DisplayPort AUX channel
3275  *
3276  * Returns 0 on success or a negative error code on failure.
3277  */
3278 static int drm_dp_mst_register_i2c_bus(struct drm_dp_aux *aux)
3279 {
3280         aux->ddc.algo = &drm_dp_mst_i2c_algo;
3281         aux->ddc.algo_data = aux;
3282         aux->ddc.retries = 3;
3283
3284         aux->ddc.class = I2C_CLASS_DDC;
3285         aux->ddc.owner = THIS_MODULE;
3286         aux->ddc.dev.parent = aux->dev;
3287         aux->ddc.dev.of_node = aux->dev->of_node;
3288
3289         strlcpy(aux->ddc.name, aux->name ? aux->name : dev_name(aux->dev),
3290                 sizeof(aux->ddc.name));
3291
3292         return i2c_add_adapter(&aux->ddc);
3293 }
3294
3295 /**
3296  * drm_dp_mst_unregister_i2c_bus() - unregister an I2C-over-AUX adapter
3297  * @aux: DisplayPort AUX channel
3298  */
3299 static void drm_dp_mst_unregister_i2c_bus(struct drm_dp_aux *aux)
3300 {
3301         i2c_del_adapter(&aux->ddc);
3302 }