net/mac80211/agg-tx.c

   1 /*
   2  * HT handling
   3  *
   4  * Copyright 2003, Jouni Malinen <jkmaline@cc.hut.fi>
   5  * Copyright 2002-2005, Instant802 Networks, Inc.
   6  * Copyright 2005-2006, Devicescape Software, Inc.
   7  * Copyright 2006-2007  Jiri Benc <jbenc@suse.cz>
   8  * Copyright 2007, Michael Wu <flamingice@sourmilk.net>
   9  * Copyright 2007-2010, Intel Corporation
  10  * Copyright(c) 2015-2017 Intel Deutschland GmbH
  11  * Copyright (C) 2018 - 2019 Intel Corporation
  12  *
  13  * This program is free software; you can redistribute it and/or modify
  14  * it under the terms of the GNU General Public License version 2 as
  15  * published by the Free Software Foundation.
  16  */
  17
  18 #include <linux/ieee80211.h>
  19 #include <linux/slab.h>
  20 #include <linux/export.h>
  21 #include <net/mac80211.h>
  22 #include "ieee80211_i.h"
  23 #include "driver-ops.h"
  24 #include "wme.h"
  25
  26 /**
  27  * DOC: TX A-MPDU aggregation
  28  *
  29  * Aggregation on the TX side requires setting the hardware flag
  30  * %IEEE80211_HW_AMPDU_AGGREGATION. The driver will then be handed
  31  * packets with a flag indicating A-MPDU aggregation. The driver
  32  * or device is responsible for actually aggregating the frames,
  33  * as well as deciding how many and which to aggregate.
  34  *
  35  * When TX aggregation is started by some subsystem (usually the rate
  36  * control algorithm would be appropriate) by calling the
  37  * ieee80211_start_tx_ba_session() function, the driver will be
  38  * notified via its @ampdu_action function, with the
  39  * %IEEE80211_AMPDU_TX_START action.
  40  *
  41  * In response to that, the driver is later required to call the
  42  * ieee80211_start_tx_ba_cb_irqsafe() function, which will really
  43  * start the aggregation session after the peer has also responded.
  44  * If the peer responds negatively, the session will be stopped
  45  * again right away. Note that it is possible for the aggregation
  46  * session to be stopped before the driver has indicated that it
  47  * is done setting it up, in which case it must not indicate the
  48  * setup completion.
  49  *
  50  * Also note that, since we also need to wait for a response from
  51  * the peer, the driver is notified of the completion of the
  52  * handshake by the %IEEE80211_AMPDU_TX_OPERATIONAL action to the
  53  * @ampdu_action callback.
  54  *
  55  * Similarly, when the aggregation session is stopped by the peer
  56  * or something calling ieee80211_stop_tx_ba_session(), the driver's
  57  * @ampdu_action function will be called with the action
  58  * %IEEE80211_AMPDU_TX_STOP. In this case, the call must not fail,
  59  * and the driver must later call ieee80211_stop_tx_ba_cb_irqsafe().
  60  * Note that the sta can get destroyed before the BA tear down is
  61  * complete.
  62  */
  63
  64 static void ieee80211_send_addba_request(struct ieee80211_sub_if_data *sdata,
  65                                          const u8 *da, u16 tid,
  66                                          u8 dialog_token, u16 start_seq_num,
  67                                          u16 agg_size, u16 timeout)
  68 {
  69         struct ieee80211_local *local = sdata->local;
  70         struct sk_buff *skb;
  71         struct ieee80211_mgmt *mgmt;
  72         u16 capab;
  73
  74         skb = dev_alloc_skb(sizeof(*mgmt) + local->hw.extra_tx_headroom);
  75
  76         if (!skb)
  77                 return;
  78
  79         skb_reserve(skb, local->hw.extra_tx_headroom);
  80         mgmt = skb_put_zero(skb, 24);
  81         memcpy(mgmt->da, da, ETH_ALEN);
  82         memcpy(mgmt->sa, sdata->vif.addr, ETH_ALEN);
  83         if (sdata->vif.type == NL80211_IFTYPE_AP ||
  84             sdata->vif.type == NL80211_IFTYPE_AP_VLAN ||
  85             sdata->vif.type == NL80211_IFTYPE_MESH_POINT)
  86                 memcpy(mgmt->bssid, sdata->vif.addr, ETH_ALEN);
  87         else if (sdata->vif.type == NL80211_IFTYPE_STATION)
  88                 memcpy(mgmt->bssid, sdata->u.mgd.bssid, ETH_ALEN);
  89         else if (sdata->vif.type == NL80211_IFTYPE_ADHOC)
  90                 memcpy(mgmt->bssid, sdata->u.ibss.bssid, ETH_ALEN);
  91
  92         mgmt->frame_control = cpu_to_le16(IEEE80211_FTYPE_MGMT |
  93                                           IEEE80211_STYPE_ACTION);
  94
  95         skb_put(skb, 1 + sizeof(mgmt->u.action.u.addba_req));
  96
  97         mgmt->u.action.category = WLAN_CATEGORY_BACK;
  98         mgmt->u.action.u.addba_req.action_code = WLAN_ACTION_ADDBA_REQ;
  99
 100         mgmt->u.action.u.addba_req.dialog_token = dialog_token;
 101         capab = (u16)(1 << 0);          /* bit 0 A-MSDU support */
 102         capab |= (u16)(1 << 1);         /* bit 1 aggregation policy */
 103         capab |= (u16)(tid << 2);       /* bit 5:2 TID number */
 104         capab |= (u16)(agg_size << 6);  /* bit 15:6 max size of aggergation */
 105
 106         mgmt->u.action.u.addba_req.capab = cpu_to_le16(capab);
 107
 108         mgmt->u.action.u.addba_req.timeout = cpu_to_le16(timeout);
 109         mgmt->u.action.u.addba_req.start_seq_num =
 110                                         cpu_to_le16(start_seq_num << 4);
 111
 112         ieee80211_tx_skb_tid(sdata, skb, tid);
 113 }
 114
 115 void ieee80211_send_bar(struct ieee80211_vif *vif, u8 *ra, u16 tid, u16 ssn)
 116 {
 117         struct ieee80211_sub_if_data *sdata = vif_to_sdata(vif);
 118         struct ieee80211_local *local = sdata->local;
 119         struct sk_buff *skb;
 120         struct ieee80211_bar *bar;
 121         u16 bar_control = 0;
 122
 123         skb = dev_alloc_skb(sizeof(*bar) + local->hw.extra_tx_headroom);
 124         if (!skb)
 125                 return;
 126
 127         skb_reserve(skb, local->hw.extra_tx_headroom);
 128         bar = skb_put_zero(skb, sizeof(*bar));
 129         bar->frame_control = cpu_to_le16(IEEE80211_FTYPE_CTL |
 130                                          IEEE80211_STYPE_BACK_REQ);
 131         memcpy(bar->ra, ra, ETH_ALEN);
 132         memcpy(bar->ta, sdata->vif.addr, ETH_ALEN);
 133         bar_control |= (u16)IEEE80211_BAR_CTRL_ACK_POLICY_NORMAL;
 134         bar_control |= (u16)IEEE80211_BAR_CTRL_CBMTID_COMPRESSED_BA;
 135         bar_control |= (u16)(tid << IEEE80211_BAR_CTRL_TID_INFO_SHIFT);
 136         bar->control = cpu_to_le16(bar_control);
 137         bar->start_seq_num = cpu_to_le16(ssn);
 138
 139         IEEE80211_SKB_CB(skb)->flags |= IEEE80211_TX_INTFL_DONT_ENCRYPT |
 140                                         IEEE80211_TX_CTL_REQ_TX_STATUS;
 141         ieee80211_tx_skb_tid(sdata, skb, tid);
 142 }
 143 EXPORT_SYMBOL(ieee80211_send_bar);
 144
 145 void ieee80211_assign_tid_tx(struct sta_info *sta, int tid,
 146                              struct tid_ampdu_tx *tid_tx)
 147 {
 148         lockdep_assert_held(&sta->ampdu_mlme.mtx);
 149         lockdep_assert_held(&sta->lock);
 150         rcu_assign_pointer(sta->ampdu_mlme.tid_tx[tid], tid_tx);
 151 }
 152
 153 /*
 154  * When multiple aggregation sessions on multiple stations
 155  * are being created/destroyed simultaneously, we need to
 156  * refcount the global queue stop caused by that in order
 157  * to not get into a situation where one of the aggregation
 158  * setup or teardown re-enables queues before the other is
 159  * ready to handle that.
 160  *
 161  * These two functions take care of this issue by keeping
 162  * a global "agg_queue_stop" refcount.
 163  */
 164 static void __acquires(agg_queue)
 165 ieee80211_stop_queue_agg(struct ieee80211_sub_if_data *sdata, int tid)
 166 {
 167         int queue = sdata->vif.hw_queue[ieee80211_ac_from_tid(tid)];
 168
 169         /* we do refcounting here, so don't use the queue reason refcounting */
 170
 171         if (atomic_inc_return(&sdata->local->agg_queue_stop[queue]) == 1)
 172                 ieee80211_stop_queue_by_reason(
 173                         &sdata->local->hw, queue,
 174                         IEEE80211_QUEUE_STOP_REASON_AGGREGATION,
 175                         false);
 176         __acquire(agg_queue);
 177 }
 178
 179 static void __releases(agg_queue)
 180 ieee80211_wake_queue_agg(struct ieee80211_sub_if_data *sdata, int tid)
 181 {
 182         int queue = sdata->vif.hw_queue[ieee80211_ac_from_tid(tid)];
 183
 184         if (atomic_dec_return(&sdata->local->agg_queue_stop[queue]) == 0)
 185                 ieee80211_wake_queue_by_reason(
 186                         &sdata->local->hw, queue,
 187                         IEEE80211_QUEUE_STOP_REASON_AGGREGATION,
 188                         false);
 189         __release(agg_queue);
 190 }
 191
 192 static void
 193 ieee80211_agg_stop_txq(struct sta_info *sta, int tid)
 194 {
 195         struct ieee80211_txq *txq = sta->sta.txq[tid];
 196         struct ieee80211_sub_if_data *sdata;
 197         struct fq *fq;
 198         struct txq_info *txqi;
 199
 200         if (!txq)
 201                 return;
 202
 203         txqi = to_txq_info(txq);
 204         sdata = vif_to_sdata(txq->vif);
 205         fq = &sdata->local->fq;
 206
 207         /* Lock here to protect against further seqno updates on dequeue */
 208         spin_lock_bh(&fq->lock);
 209         set_bit(IEEE80211_TXQ_STOP, &txqi->flags);
 210         spin_unlock_bh(&fq->lock);
 211 }
 212
 213 static void
 214 ieee80211_agg_start_txq(struct sta_info *sta, int tid, bool enable)
 215 {
 216         struct ieee80211_txq *txq = sta->sta.txq[tid];
 217         struct txq_info *txqi;
 218
 219         if (!txq)
 220                 return;
 221
 222         txqi = to_txq_info(txq);
 223
 224         if (enable)
 225                 set_bit(IEEE80211_TXQ_AMPDU, &txqi->flags);
 226         else
 227                 clear_bit(IEEE80211_TXQ_AMPDU, &txqi->flags);
 228
 229         clear_bit(IEEE80211_TXQ_STOP, &txqi->flags);
 230         local_bh_disable();
 231         rcu_read_lock();
 232         drv_wake_tx_queue(sta->sdata->local, txqi);
 233         rcu_read_unlock();
 234         local_bh_enable();
 235 }
 236
 237 /*
 238  * splice packets from the STA's pending to the local pending,
 239  * requires a call to ieee80211_agg_splice_finish later
 240  */
 241 static void __acquires(agg_queue)
 242 ieee80211_agg_splice_packets(struct ieee80211_sub_if_data *sdata,
 243                              struct tid_ampdu_tx *tid_tx, u16 tid)
 244 {
 245         struct ieee80211_local *local = sdata->local;
 246         int queue = sdata->vif.hw_queue[ieee80211_ac_from_tid(tid)];
 247         unsigned long flags;
 248
 249         ieee80211_stop_queue_agg(sdata, tid);
 250
 251         if (WARN(!tid_tx,
 252                  "TID %d gone but expected when splicing aggregates from the pending queue\n",
 253                  tid))
 254                 return;
 255
 256         if (!skb_queue_empty(&tid_tx->pending)) {
 257                 spin_lock_irqsave(&local->queue_stop_reason_lock, flags);
 258                 /* copy over remaining packets */
 259                 skb_queue_splice_tail_init(&tid_tx->pending,
 260                                            &local->pending[queue]);
 261                 spin_unlock_irqrestore(&local->queue_stop_reason_lock, flags);
 262         }
 263 }
 264
 265 static void __releases(agg_queue)
 266 ieee80211_agg_splice_finish(struct ieee80211_sub_if_data *sdata, u16 tid)
 267 {
 268         ieee80211_wake_queue_agg(sdata, tid);
 269 }
 270
 271 static void ieee80211_remove_tid_tx(struct sta_info *sta, int tid)
 272 {
 273         struct tid_ampdu_tx *tid_tx;
 274
 275         lockdep_assert_held(&sta->ampdu_mlme.mtx);
 276         lockdep_assert_held(&sta->lock);
 277
 278         tid_tx = rcu_dereference_protected_tid_tx(sta, tid);
 279
 280         /*
 281          * When we get here, the TX path will not be lockless any more wrt.
 282          * aggregation, since the OPERATIONAL bit has long been cleared.
 283          * Thus it will block on getting the lock, if it occurs. So if we
 284          * stop the queue now, we will not get any more packets, and any
 285          * that might be being processed will wait for us here, thereby
 286          * guaranteeing that no packets go to the tid_tx pending queue any
 287          * more.
 288          */
 289
 290         ieee80211_agg_splice_packets(sta->sdata, tid_tx, tid);
 291
 292         /* future packets must not find the tid_tx struct any more */
 293         ieee80211_assign_tid_tx(sta, tid, NULL);
 294
 295         ieee80211_agg_splice_finish(sta->sdata, tid);
 296         ieee80211_agg_start_txq(sta, tid, false);
 297
 298         kfree_rcu(tid_tx, rcu_head);
 299 }
 300
 301 int ___ieee80211_stop_tx_ba_session(struct sta_info *sta, u16 tid,
 302                                     enum ieee80211_agg_stop_reason reason)
 303 {
 304         struct ieee80211_local *local = sta->local;
 305         struct tid_ampdu_tx *tid_tx;
 306         struct ieee80211_ampdu_params params = {
 307                 .sta = &sta->sta,
 308                 .tid = tid,
 309                 .buf_size = 0,
 310                 .amsdu = false,
 311                 .timeout = 0,
 312                 .ssn = 0,
 313         };
 314         int ret;
 315
 316         lockdep_assert_held(&sta->ampdu_mlme.mtx);
 317
 318         switch (reason) {
 319         case AGG_STOP_DECLINED:
 320         case AGG_STOP_LOCAL_REQUEST:
 321         case AGG_STOP_PEER_REQUEST:
 322                 params.action = IEEE80211_AMPDU_TX_STOP_CONT;
 323                 break;
 324         case AGG_STOP_DESTROY_STA:
 325                 params.action = IEEE80211_AMPDU_TX_STOP_FLUSH;
 326                 break;
 327         default:
 328                 WARN_ON_ONCE(1);
 329                 return -EINVAL;
 330         }
 331
 332         spin_lock_bh(&sta->lock);
 333
 334         tid_tx = rcu_dereference_protected_tid_tx(sta, tid);
 335         if (!tid_tx) {
 336                 spin_unlock_bh(&sta->lock);
 337                 return -ENOENT;
 338         }
 339
 340         /*
 341          * if we're already stopping ignore any new requests to stop
 342          * unless we're destroying it in which case notify the driver
 343          */
 344         if (test_bit(HT_AGG_STATE_STOPPING, &tid_tx->state)) {
 345                 spin_unlock_bh(&sta->lock);
 346                 if (reason != AGG_STOP_DESTROY_STA)
 347                         return -EALREADY;
 348                 params.action = IEEE80211_AMPDU_TX_STOP_FLUSH_CONT;
 349                 ret = drv_ampdu_action(local, sta->sdata, &params);
 350                 WARN_ON_ONCE(ret);
 351                 return 0;
 352         }
 353
 354         if (test_bit(HT_AGG_STATE_WANT_START, &tid_tx->state)) {
 355                 /* not even started yet! */
 356                 ieee80211_assign_tid_tx(sta, tid, NULL);
 357                 spin_unlock_bh(&sta->lock);
 358                 kfree_rcu(tid_tx, rcu_head);
 359                 return 0;
 360         }
 361
 362         set_bit(HT_AGG_STATE_STOPPING, &tid_tx->state);
 363
 364         ieee80211_agg_stop_txq(sta, tid);
 365
 366         spin_unlock_bh(&sta->lock);
 367
 368         ht_dbg(sta->sdata, "Tx BA session stop requested for %pM tid %u\n",
 369                sta->sta.addr, tid);
 370
 371         del_timer_sync(&tid_tx->addba_resp_timer);
 372         del_timer_sync(&tid_tx->session_timer);
 373
 374         /*
 375          * After this packets are no longer handed right through
 376          * to the driver but are put onto tid_tx->pending instead,
 377          * with locking to ensure proper access.
 378          */
 379         clear_bit(HT_AGG_STATE_OPERATIONAL, &tid_tx->state);
 380
 381         /*
 382          * There might be a few packets being processed right now (on
 383          * another CPU) that have already gotten past the aggregation
 384          * check when it was still OPERATIONAL and consequently have
 385          * IEEE80211_TX_CTL_AMPDU set. In that case, this code might
 386          * call into the driver at the same time or even before the
 387          * TX paths calls into it, which could confuse the driver.
 388          *
 389          * Wait for all currently running TX paths to finish before
 390          * telling the driver. New packets will not go through since
 391          * the aggregation session is no longer OPERATIONAL.
 392          */
 393         synchronize_net();
 394
 395         tid_tx->stop_initiator = reason == AGG_STOP_PEER_REQUEST ?
 396                                         WLAN_BACK_RECIPIENT :
 397                                         WLAN_BACK_INITIATOR;
 398         tid_tx->tx_stop = reason == AGG_STOP_LOCAL_REQUEST;
 399
 400         ret = drv_ampdu_action(local, sta->sdata, &params);
 401
 402         /* HW shall not deny going back to legacy */
 403         if (WARN_ON(ret)) {
 404                 /*
 405                  * We may have pending packets get stuck in this case...
 406                  * Not bothering with a workaround for now.
 407                  */
 408         }
 409
 410         /*
 411          * In the case of AGG_STOP_DESTROY_STA, the driver won't
 412          * necessarily call ieee80211_stop_tx_ba_cb(), so this may
 413          * seem like we can leave the tid_tx data pending forever.
 414          * This is true, in a way, but "forever" is only until the
 415          * station struct is actually destroyed. In the meantime,
 416          * leaving it around ensures that we don't transmit packets
 417          * to the driver on this TID which might confuse it.
 418          */
 419
 420         return 0;
 421 }
 422
 423 /*
 424  * After sending add Block Ack request we activated a timer until
 425  * add Block Ack response will arrive from the recipient.
 426  * If this timer expires sta_addba_resp_timer_expired will be executed.
 427  */
 428 static void sta_addba_resp_timer_expired(unsigned long data)
 429 {
 430         /* not an elegant detour, but there is no choice as the timer passes
 431          * only one argument, and both sta_info and TID are needed, so init
 432          * flow in sta_info_create gives the TID as data, while the timer_to_id
 433          * array gives the sta through container_of */
 434         u16 tid = *(u8 *)data;
 435         struct sta_info *sta = container_of((void *)data,
 436                 struct sta_info, timer_to_tid[tid]);
 437         struct tid_ampdu_tx *tid_tx;
 438
 439         /* check if the TID waits for addBA response */
 440         rcu_read_lock();
 441         tid_tx = rcu_dereference(sta->ampdu_mlme.tid_tx[tid]);
 442         if (!tid_tx ||
 443             test_bit(HT_AGG_STATE_RESPONSE_RECEIVED, &tid_tx->state)) {
 444                 rcu_read_unlock();
 445                 ht_dbg(sta->sdata,
 446                        "timer expired on %pM tid %d not expecting addBA response\n",
 447                        sta->sta.addr, tid);
 448                 return;
 449         }
 450
 451         ht_dbg(sta->sdata, "addBA response timer expired on %pM tid %d\n",
 452                sta->sta.addr, tid);
 453
 454         ieee80211_stop_tx_ba_session(&sta->sta, tid);
 455         rcu_read_unlock();
 456 }
 457
 458 void ieee80211_tx_ba_session_handle_start(struct sta_info *sta, int tid)
 459 {
 460         struct tid_ampdu_tx *tid_tx;
 461         struct ieee80211_local *local = sta->local;
 462         struct ieee80211_sub_if_data *sdata = sta->sdata;
 463         struct ieee80211_ampdu_params params = {
 464                 .sta = &sta->sta,
 465                 .action = IEEE80211_AMPDU_TX_START,
 466                 .tid = tid,
 467                 .buf_size = 0,
 468                 .amsdu = false,
 469                 .timeout = 0,
 470         };
 471         int ret;
 472
 473         tid_tx = rcu_dereference_protected_tid_tx(sta, tid);
 474
 475         /*
 476          * Start queuing up packets for this aggregation session.
 477          * We're going to release them once the driver is OK with
 478          * that.
 479          */
 480         clear_bit(HT_AGG_STATE_WANT_START, &tid_tx->state);
 481
 482         ieee80211_agg_stop_txq(sta, tid);
 483
 484         /*
 485          * Make sure no packets are being processed. This ensures that
 486          * we have a valid starting sequence number and that in-flight
 487          * packets have been flushed out and no packets for this TID
 488          * will go into the driver during the ampdu_action call.
 489          */
 490         synchronize_net();
 491
 492         params.ssn = sta->tid_seq[tid] >> 4;
 493         ret = drv_ampdu_action(local, sdata, &params);
 494         if (ret) {
 495                 ht_dbg(sdata,
 496                        "BA request denied - HW unavailable for %pM tid %d\n",
 497                        sta->sta.addr, tid);
 498                 spin_lock_bh(&sta->lock);
 499                 ieee80211_agg_splice_packets(sdata, tid_tx, tid);
 500                 ieee80211_assign_tid_tx(sta, tid, NULL);
 501                 ieee80211_agg_splice_finish(sdata, tid);
 502                 spin_unlock_bh(&sta->lock);
 503
 504                 ieee80211_agg_start_txq(sta, tid, false);
 505
 506                 kfree_rcu(tid_tx, rcu_head);
 507                 return;
 508         }
 509
 510         /* activate the timer for the recipient's addBA response */
 511         mod_timer(&tid_tx->addba_resp_timer, jiffies + ADDBA_RESP_INTERVAL);
 512         ht_dbg(sdata, "activated addBA response timer on %pM tid %d\n",
 513                sta->sta.addr, tid);
 514
 515         spin_lock_bh(&sta->lock);
 516         sta->ampdu_mlme.last_addba_req_time[tid] = jiffies;
 517         sta->ampdu_mlme.addba_req_num[tid]++;
 518         spin_unlock_bh(&sta->lock);
 519
 520         /* send AddBA request */
 521         ieee80211_send_addba_request(sdata, sta->sta.addr, tid,
 522                                      tid_tx->dialog_token, params.ssn,
 523                                      IEEE80211_MAX_AMPDU_BUF,
 524                                      tid_tx->timeout);
 525 }
 526
 527 /*
 528  * After accepting the AddBA Response we activated a timer,
 529  * resetting it after each frame that we send.
 530  */
 531 static void sta_tx_agg_session_timer_expired(unsigned long data)
 532 {
 533         /* not an elegant detour, but there is no choice as the timer passes
 534          * only one argument, and various sta_info are needed here, so init
 535          * flow in sta_info_create gives the TID as data, while the timer_to_id
 536          * array gives the sta through container_of */
 537         u8 *ptid = (u8 *)data;
 538         u8 *timer_to_id = ptid - *ptid;
 539         struct sta_info *sta = container_of(timer_to_id, struct sta_info,
 540                                          timer_to_tid[0]);
 541         struct tid_ampdu_tx *tid_tx;
 542         unsigned long timeout;
 543
 544         rcu_read_lock();
 545         tid_tx = rcu_dereference(sta->ampdu_mlme.tid_tx[*ptid]);
 546         if (!tid_tx || test_bit(HT_AGG_STATE_STOPPING, &tid_tx->state)) {
 547                 rcu_read_unlock();
 548                 return;
 549         }
 550
 551         timeout = tid_tx->last_tx + TU_TO_JIFFIES(tid_tx->timeout);
 552         if (time_is_after_jiffies(timeout)) {
 553                 mod_timer(&tid_tx->session_timer, timeout);
 554                 rcu_read_unlock();
 555                 return;
 556         }
 557
 558         rcu_read_unlock();
 559
 560         ht_dbg(sta->sdata, "tx session timer expired on %pM tid %d\n",
 561                sta->sta.addr, (u16)*ptid);
 562
 563         ieee80211_stop_tx_ba_session(&sta->sta, *ptid);
 564 }
 565
 566 int ieee80211_start_tx_ba_session(struct ieee80211_sta *pubsta, u16 tid,
 567                                   u16 timeout)
 568 {
 569         struct sta_info *sta = container_of(pubsta, struct sta_info, sta);
 570         struct ieee80211_sub_if_data *sdata = sta->sdata;
 571         struct ieee80211_local *local = sdata->local;
 572         struct tid_ampdu_tx *tid_tx;
 573         int ret = 0;
 574
 575         trace_api_start_tx_ba_session(pubsta, tid);
 576
 577         if (WARN(sta->reserved_tid == tid,
 578                  "Requested to start BA session on reserved tid=%d", tid))
 579                 return -EINVAL;
 580
 581         if (!pubsta->ht_cap.ht_supported)
 582                 return -EINVAL;
 583
 584         if (WARN_ON_ONCE(!local->ops->ampdu_action))
 585                 return -EINVAL;
 586
 587         if ((tid >= IEEE80211_NUM_TIDS) ||
 588             !ieee80211_hw_check(&local->hw, AMPDU_AGGREGATION) ||
 589             ieee80211_hw_check(&local->hw, TX_AMPDU_SETUP_IN_HW))
 590                 return -EINVAL;
 591
 592         if (WARN_ON(tid >= IEEE80211_FIRST_TSPEC_TSID))
 593                 return -EINVAL;
 594
 595         ht_dbg(sdata, "Open BA session requested for %pM tid %u\n",
 596                pubsta->addr, tid);
 597
 598         if (sdata->vif.type != NL80211_IFTYPE_STATION &&
 599             sdata->vif.type != NL80211_IFTYPE_MESH_POINT &&
 600             sdata->vif.type != NL80211_IFTYPE_AP_VLAN &&
 601             sdata->vif.type != NL80211_IFTYPE_AP &&
 602             sdata->vif.type != NL80211_IFTYPE_ADHOC)
 603                 return -EINVAL;
 604
 605         if (test_sta_flag(sta, WLAN_STA_BLOCK_BA)) {
 606                 ht_dbg(sdata,
 607                        "BA sessions blocked - Denying BA session request %pM tid %d\n",
 608                        sta->sta.addr, tid);
 609                 return -EINVAL;
 610         }
 611
 612         /*
 613          * 802.11n-2009 11.5.1.1: If the initiating STA is an HT STA, is a
 614          * member of an IBSS, and has no other existing Block Ack agreement
 615          * with the recipient STA, then the initiating STA shall transmit a
 616          * Probe Request frame to the recipient STA and shall not transmit an
 617          * ADDBA Request frame unless it receives a Probe Response frame
 618          * from the recipient within dot11ADDBAFailureTimeout.
 619          *
 620          * The probe request mechanism for ADDBA is currently not implemented,
 621          * but we only build up Block Ack session with HT STAs. This information
 622          * is set when we receive a bss info from a probe response or a beacon.
 623          */
 624         if (sta->sdata->vif.type == NL80211_IFTYPE_ADHOC &&
 625             !sta->sta.ht_cap.ht_supported) {
 626                 ht_dbg(sdata,
 627                        "BA request denied - IBSS STA %pM does not advertise HT support\n",
 628                        pubsta->addr);
 629                 return -EINVAL;
 630         }
 631
 632         spin_lock_bh(&sta->lock);
 633
 634         /* we have tried too many times, receiver does not want A-MPDU */
 635         if (sta->ampdu_mlme.addba_req_num[tid] > HT_AGG_MAX_RETRIES) {
 636                 ret = -EBUSY;
 637                 goto err_unlock_sta;
 638         }
 639
 640         /*
 641          * if we have tried more than HT_AGG_BURST_RETRIES times we
 642          * will spread our requests in time to avoid stalling connection
 643          * for too long
 644          */
 645         if (sta->ampdu_mlme.addba_req_num[tid] > HT_AGG_BURST_RETRIES &&
 646             time_before(jiffies, sta->ampdu_mlme.last_addba_req_time[tid] +
 647                         HT_AGG_RETRIES_PERIOD)) {
 648                 ht_dbg(sdata,
 649                        "BA request denied - %d failed requests on %pM tid %u\n",
 650                        sta->ampdu_mlme.addba_req_num[tid], sta->sta.addr, tid);
 651                 ret = -EBUSY;
 652                 goto err_unlock_sta;
 653         }
 654
 655         tid_tx = rcu_dereference_protected_tid_tx(sta, tid);
 656         /* check if the TID is not in aggregation flow already */
 657         if (tid_tx || sta->ampdu_mlme.tid_start_tx[tid]) {
 658                 ht_dbg(sdata,
 659                        "BA request denied - session is not idle on %pM tid %u\n",
 660                        sta->sta.addr, tid);
 661                 ret = -EAGAIN;
 662                 goto err_unlock_sta;
 663         }
 664
 665         /* prepare A-MPDU MLME for Tx aggregation */
 666         tid_tx = kzalloc(sizeof(struct tid_ampdu_tx), GFP_ATOMIC);
 667         if (!tid_tx) {
 668                 ret = -ENOMEM;
 669                 goto err_unlock_sta;
 670         }
 671
 672         skb_queue_head_init(&tid_tx->pending);
 673         __set_bit(HT_AGG_STATE_WANT_START, &tid_tx->state);
 674
 675         tid_tx->timeout = timeout;
 676
 677         /* response timer */
 678         setup_timer(&tid_tx->addba_resp_timer,
 679                     sta_addba_resp_timer_expired,
 680                     (unsigned long)&sta->timer_to_tid[tid]);
 681
 682         /* tx timer */
 683         setup_deferrable_timer(&tid_tx->session_timer,
 684                                sta_tx_agg_session_timer_expired,
 685                                (unsigned long)&sta->timer_to_tid[tid]);
 686
 687         /* assign a dialog token */
 688         sta->ampdu_mlme.dialog_token_allocator++;
 689         tid_tx->dialog_token = sta->ampdu_mlme.dialog_token_allocator;
 690
 691         /*
 692          * Finally, assign it to the start array; the work item will
 693          * collect it and move it to the normal array.
 694          */
 695         sta->ampdu_mlme.tid_start_tx[tid] = tid_tx;
 696
 697         ieee80211_queue_work(&local->hw, &sta->ampdu_mlme.work);
 698
 699         /* this flow continues off the work */
 700  err_unlock_sta:
 701         spin_unlock_bh(&sta->lock);
 702         return ret;
 703 }
 704 EXPORT_SYMBOL(ieee80211_start_tx_ba_session);
 705
 706 static void ieee80211_agg_tx_operational(struct ieee80211_local *local,
 707                                          struct sta_info *sta, u16 tid)
 708 {
 709         struct tid_ampdu_tx *tid_tx;
 710         struct ieee80211_ampdu_params params = {
 711                 .sta = &sta->sta,
 712                 .action = IEEE80211_AMPDU_TX_OPERATIONAL,
 713                 .tid = tid,
 714                 .timeout = 0,
 715                 .ssn = 0,
 716         };
 717
 718         lockdep_assert_held(&sta->ampdu_mlme.mtx);
 719
 720         tid_tx = rcu_dereference_protected_tid_tx(sta, tid);
 721         params.buf_size = tid_tx->buf_size;
 722         params.amsdu = tid_tx->amsdu;
 723
 724         ht_dbg(sta->sdata, "Aggregation is on for %pM tid %d\n",
 725                sta->sta.addr, tid);
 726
 727         drv_ampdu_action(local, sta->sdata, &params);
 728
 729         /*
 730          * synchronize with TX path, while splicing the TX path
 731          * should block so it won't put more packets onto pending.
 732          */
 733         spin_lock_bh(&sta->lock);
 734
 735         ieee80211_agg_splice_packets(sta->sdata, tid_tx, tid);
 736         /*
 737          * Now mark as operational. This will be visible
 738          * in the TX path, and lets it go lock-free in
 739          * the common case.
 740          */
 741         set_bit(HT_AGG_STATE_OPERATIONAL, &tid_tx->state);
 742         ieee80211_agg_splice_finish(sta->sdata, tid);
 743
 744         spin_unlock_bh(&sta->lock);
 745
 746         ieee80211_agg_start_txq(sta, tid, true);
 747 }
 748
 749 void ieee80211_start_tx_ba_cb(struct sta_info *sta, int tid,
 750                               struct tid_ampdu_tx *tid_tx)
 751 {
 752         struct ieee80211_sub_if_data *sdata = sta->sdata;
 753         struct ieee80211_local *local = sdata->local;
 754
 755         if (WARN_ON(test_and_set_bit(HT_AGG_STATE_DRV_READY, &tid_tx->state)))
 756                 return;
 757
 758         if (test_bit(HT_AGG_STATE_RESPONSE_RECEIVED, &tid_tx->state))
 759                 ieee80211_agg_tx_operational(local, sta, tid);
 760 }
 761
 762 static struct tid_ampdu_tx *
 763 ieee80211_lookup_tid_tx(struct ieee80211_sub_if_data *sdata,
 764                         const u8 *ra, u16 tid, struct sta_info **sta)
 765 {
 766         struct tid_ampdu_tx *tid_tx;
 767
 768         if (tid >= IEEE80211_NUM_TIDS) {
 769                 ht_dbg(sdata, "Bad TID value: tid = %d (>= %d)\n",
 770                        tid, IEEE80211_NUM_TIDS);
 771                 return NULL;
 772         }
 773
 774         *sta = sta_info_get_bss(sdata, ra);
 775         if (!*sta) {
 776                 ht_dbg(sdata, "Could not find station: %pM\n", ra);
 777                 return NULL;
 778         }
 779
 780         tid_tx = rcu_dereference((*sta)->ampdu_mlme.tid_tx[tid]);
 781
 782         if (WARN_ON(!tid_tx))
 783                 ht_dbg(sdata, "addBA was not requested!\n");
 784
 785         return tid_tx;
 786 }
 787
 788 void ieee80211_start_tx_ba_cb_irqsafe(struct ieee80211_vif *vif,
 789                                       const u8 *ra, u16 tid)
 790 {
 791         struct ieee80211_sub_if_data *sdata = vif_to_sdata(vif);
 792         struct ieee80211_local *local = sdata->local;
 793         struct sta_info *sta;
 794         struct tid_ampdu_tx *tid_tx;
 795
 796         trace_api_start_tx_ba_cb(sdata, ra, tid);
 797
 798         rcu_read_lock();
 799         tid_tx = ieee80211_lookup_tid_tx(sdata, ra, tid, &sta);
 800         if (!tid_tx)
 801                 goto out;
 802
 803         set_bit(HT_AGG_STATE_START_CB, &tid_tx->state);
 804         ieee80211_queue_work(&local->hw, &sta->ampdu_mlme.work);
 805  out:
 806         rcu_read_unlock();
 807 }
 808 EXPORT_SYMBOL(ieee80211_start_tx_ba_cb_irqsafe);
 809
 810 int __ieee80211_stop_tx_ba_session(struct sta_info *sta, u16 tid,
 811                                    enum ieee80211_agg_stop_reason reason)
 812 {
 813         int ret;
 814
 815         mutex_lock(&sta->ampdu_mlme.mtx);
 816
 817         ret = ___ieee80211_stop_tx_ba_session(sta, tid, reason);
 818
 819         mutex_unlock(&sta->ampdu_mlme.mtx);
 820
 821         return ret;
 822 }
 823
 824 int ieee80211_stop_tx_ba_session(struct ieee80211_sta *pubsta, u16 tid)
 825 {
 826         struct sta_info *sta = container_of(pubsta, struct sta_info, sta);
 827         struct ieee80211_sub_if_data *sdata = sta->sdata;
 828         struct ieee80211_local *local = sdata->local;
 829         struct tid_ampdu_tx *tid_tx;
 830         int ret = 0;
 831
 832         trace_api_stop_tx_ba_session(pubsta, tid);
 833
 834         if (!local->ops->ampdu_action)
 835                 return -EINVAL;
 836
 837         if (tid >= IEEE80211_NUM_TIDS)
 838                 return -EINVAL;
 839
 840         spin_lock_bh(&sta->lock);
 841         tid_tx = rcu_dereference_protected_tid_tx(sta, tid);
 842
 843         if (!tid_tx) {
 844                 ret = -ENOENT;
 845                 goto unlock;
 846         }
 847
 848         WARN(sta->reserved_tid == tid,
 849              "Requested to stop BA session on reserved tid=%d", tid);
 850
 851         if (test_bit(HT_AGG_STATE_STOPPING, &tid_tx->state)) {
 852                 /* already in progress stopping it */
 853                 ret = 0;
 854                 goto unlock;
 855         }
 856
 857         set_bit(HT_AGG_STATE_WANT_STOP, &tid_tx->state);
 858         ieee80211_queue_work(&local->hw, &sta->ampdu_mlme.work);
 859
 860  unlock:
 861         spin_unlock_bh(&sta->lock);
 862         return ret;
 863 }
 864 EXPORT_SYMBOL(ieee80211_stop_tx_ba_session);
 865
 866 void ieee80211_stop_tx_ba_cb(struct sta_info *sta, int tid,
 867                              struct tid_ampdu_tx *tid_tx)
 868 {
 869         struct ieee80211_sub_if_data *sdata = sta->sdata;
 870         bool send_delba = false;
 871
 872         ht_dbg(sdata, "Stopping Tx BA session for %pM tid %d\n",
 873                sta->sta.addr, tid);
 874
 875         spin_lock_bh(&sta->lock);
 876
 877         if (!test_bit(HT_AGG_STATE_STOPPING, &tid_tx->state)) {
 878                 ht_dbg(sdata,
 879                        "unexpected callback to A-MPDU stop for %pM tid %d\n",
 880                        sta->sta.addr, tid);
 881                 goto unlock_sta;
 882         }
 883
 884         if (tid_tx->stop_initiator == WLAN_BACK_INITIATOR && tid_tx->tx_stop)
 885                 send_delba = true;
 886
 887         ieee80211_remove_tid_tx(sta, tid);
 888
 889  unlock_sta:
 890         spin_unlock_bh(&sta->lock);
 891
 892         if (send_delba)
 893                 ieee80211_send_delba(sdata, sta->sta.addr, tid,
 894                         WLAN_BACK_INITIATOR, WLAN_REASON_QSTA_NOT_USE);
 895 }
 896
 897 void ieee80211_stop_tx_ba_cb_irqsafe(struct ieee80211_vif *vif,
 898                                      const u8 *ra, u16 tid)
 899 {
 900         struct ieee80211_sub_if_data *sdata = vif_to_sdata(vif);
 901         struct ieee80211_local *local = sdata->local;
 902         struct sta_info *sta;
 903         struct tid_ampdu_tx *tid_tx;
 904
 905         trace_api_stop_tx_ba_cb(sdata, ra, tid);
 906
 907         rcu_read_lock();
 908         tid_tx = ieee80211_lookup_tid_tx(sdata, ra, tid, &sta);
 909         if (!tid_tx)
 910                 goto out;
 911
 912         set_bit(HT_AGG_STATE_STOP_CB, &tid_tx->state);
 913         ieee80211_queue_work(&local->hw, &sta->ampdu_mlme.work);
 914  out:
 915         rcu_read_unlock();
 916 }
 917 EXPORT_SYMBOL(ieee80211_stop_tx_ba_cb_irqsafe);
 918
 919
 920 void ieee80211_process_addba_resp(struct ieee80211_local *local,
 921                                   struct sta_info *sta,
 922                                   struct ieee80211_mgmt *mgmt,
 923                                   size_t len)
 924 {
 925         struct tid_ampdu_tx *tid_tx;
 926         struct ieee80211_txq *txq;
 927         u16 capab, tid;
 928         u8 buf_size;
 929         bool amsdu;
 930
 931         capab = le16_to_cpu(mgmt->u.action.u.addba_resp.capab);
 932         amsdu = capab & IEEE80211_ADDBA_PARAM_AMSDU_MASK;
 933         tid = (capab & IEEE80211_ADDBA_PARAM_TID_MASK) >> 2;
 934         buf_size = (capab & IEEE80211_ADDBA_PARAM_BUF_SIZE_MASK) >> 6;
 935         buf_size = min(buf_size, local->hw.max_tx_aggregation_subframes);
 936
 937         txq = sta->sta.txq[tid];
 938         if (!amsdu && txq)
 939                 set_bit(IEEE80211_TXQ_NO_AMSDU, &to_txq_info(txq)->flags);
 940
 941         mutex_lock(&sta->ampdu_mlme.mtx);
 942
 943         tid_tx = rcu_dereference_protected_tid_tx(sta, tid);
 944         if (!tid_tx)
 945                 goto out;
 946
 947         if (mgmt->u.action.u.addba_resp.dialog_token != tid_tx->dialog_token) {
 948                 ht_dbg(sta->sdata, "wrong addBA response token, %pM tid %d\n",
 949                        sta->sta.addr, tid);
 950                 goto out;
 951         }
 952
 953         del_timer_sync(&tid_tx->addba_resp_timer);
 954
 955         ht_dbg(sta->sdata, "switched off addBA timer for %pM tid %d\n",
 956                sta->sta.addr, tid);
 957
 958         /*
 959          * addba_resp_timer may have fired before we got here, and
 960          * caused WANT_STOP to be set. If the stop then was already
 961          * processed further, STOPPING might be set.
 962          */
 963         if (test_bit(HT_AGG_STATE_WANT_STOP, &tid_tx->state) ||
 964             test_bit(HT_AGG_STATE_STOPPING, &tid_tx->state)) {
 965                 ht_dbg(sta->sdata,
 966                        "got addBA resp for %pM tid %d but we already gave up\n",
 967                        sta->sta.addr, tid);
 968                 goto out;
 969         }
 970
 971         /*
 972          * IEEE 802.11-2007 7.3.1.14:
 973          * In an ADDBA Response frame, when the Status Code field
 974          * is set to 0, the Buffer Size subfield is set to a value
 975          * of at least 1.
 976          */
 977         if (le16_to_cpu(mgmt->u.action.u.addba_resp.status)
 978                         == WLAN_STATUS_SUCCESS && buf_size) {
 979                 if (test_and_set_bit(HT_AGG_STATE_RESPONSE_RECEIVED,
 980                                      &tid_tx->state)) {
 981                         /* ignore duplicate response */
 982                         goto out;
 983                 }
 984
 985                 tid_tx->buf_size = buf_size;
 986                 tid_tx->amsdu = amsdu;
 987
 988                 if (test_bit(HT_AGG_STATE_DRV_READY, &tid_tx->state))
 989                         ieee80211_agg_tx_operational(local, sta, tid);
 990
 991                 sta->ampdu_mlme.addba_req_num[tid] = 0;
 992
 993                 tid_tx->timeout =
 994                         le16_to_cpu(mgmt->u.action.u.addba_resp.timeout);
 995
 996                 if (tid_tx->timeout) {
 997                         mod_timer(&tid_tx->session_timer,
 998                                   TU_TO_EXP_TIME(tid_tx->timeout));
 999                         tid_tx->last_tx = jiffies;
1000                 }
1001
1002         } else {
1003                 ___ieee80211_stop_tx_ba_session(sta, tid, AGG_STOP_DECLINED);
1004         }
1005
1006  out:
1007         mutex_unlock(&sta->ampdu_mlme.mtx);
1008 }