GNU Linux-libre 4.14.302-gnu1
[releases.git] / drivers / usb / dwc3 / core.h
1 /*
2  * core.h - DesignWare USB3 DRD Core Header
3  *
4  * Copyright (C) 2010-2011 Texas Instruments Incorporated - http://www.ti.com
5  *
6  * Authors: Felipe Balbi <balbi@ti.com>,
7  *          Sebastian Andrzej Siewior <bigeasy@linutronix.de>
8  *
9  * This program is free software: you can redistribute it and/or modify
10  * it under the terms of the GNU General Public License version 2  of
11  * the License as published by the Free Software Foundation.
12  *
13  * This program is distributed in the hope that it will be useful,
14  * but WITHOUT ANY WARRANTY; without even the implied warranty of
15  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
16  * GNU General Public License for more details.
17  */
18
19 #ifndef __DRIVERS_USB_DWC3_CORE_H
20 #define __DRIVERS_USB_DWC3_CORE_H
21
22 #include <linux/device.h>
23 #include <linux/spinlock.h>
24 #include <linux/ioport.h>
25 #include <linux/list.h>
26 #include <linux/bitops.h>
27 #include <linux/dma-mapping.h>
28 #include <linux/mm.h>
29 #include <linux/debugfs.h>
30 #include <linux/wait.h>
31 #include <linux/workqueue.h>
32
33 #include <linux/usb/ch9.h>
34 #include <linux/usb/gadget.h>
35 #include <linux/usb/otg.h>
36 #include <linux/ulpi/interface.h>
37
38 #include <linux/phy/phy.h>
39
40 #define DWC3_MSG_MAX    500
41
42 /* Global constants */
43 #define DWC3_PULL_UP_TIMEOUT    500     /* ms */
44 #define DWC3_BOUNCE_SIZE        1024    /* size of a superspeed bulk */
45 #define DWC3_EP0_SETUP_SIZE     512
46 #define DWC3_ENDPOINTS_NUM      32
47 #define DWC3_XHCI_RESOURCES_NUM 2
48
49 #define DWC3_SCRATCHBUF_SIZE    4096    /* each buffer is assumed to be 4KiB */
50 #define DWC3_EVENT_BUFFERS_SIZE 4096
51 #define DWC3_EVENT_TYPE_MASK    0xfe
52
53 #define DWC3_EVENT_TYPE_DEV     0
54 #define DWC3_EVENT_TYPE_CARKIT  3
55 #define DWC3_EVENT_TYPE_I2C     4
56
57 #define DWC3_DEVICE_EVENT_DISCONNECT            0
58 #define DWC3_DEVICE_EVENT_RESET                 1
59 #define DWC3_DEVICE_EVENT_CONNECT_DONE          2
60 #define DWC3_DEVICE_EVENT_LINK_STATUS_CHANGE    3
61 #define DWC3_DEVICE_EVENT_WAKEUP                4
62 #define DWC3_DEVICE_EVENT_HIBER_REQ             5
63 #define DWC3_DEVICE_EVENT_EOPF                  6
64 #define DWC3_DEVICE_EVENT_SOF                   7
65 #define DWC3_DEVICE_EVENT_ERRATIC_ERROR         9
66 #define DWC3_DEVICE_EVENT_CMD_CMPL              10
67 #define DWC3_DEVICE_EVENT_OVERFLOW              11
68
69 #define DWC3_GEVNTCOUNT_MASK    0xfffc
70 #define DWC3_GEVNTCOUNT_EHB     BIT(31)
71 #define DWC3_GSNPSID_MASK       0xffff0000
72 #define DWC3_GSNPSREV_MASK      0xffff
73
74 /* DWC3 registers memory space boundries */
75 #define DWC3_XHCI_REGS_START            0x0
76 #define DWC3_XHCI_REGS_END              0x7fff
77 #define DWC3_GLOBALS_REGS_START         0xc100
78 #define DWC3_GLOBALS_REGS_END           0xc6ff
79 #define DWC3_DEVICE_REGS_START          0xc700
80 #define DWC3_DEVICE_REGS_END            0xcbff
81 #define DWC3_OTG_REGS_START             0xcc00
82 #define DWC3_OTG_REGS_END               0xccff
83
84 /* Global Registers */
85 #define DWC3_GSBUSCFG0          0xc100
86 #define DWC3_GSBUSCFG1          0xc104
87 #define DWC3_GTXTHRCFG          0xc108
88 #define DWC3_GRXTHRCFG          0xc10c
89 #define DWC3_GCTL               0xc110
90 #define DWC3_GEVTEN             0xc114
91 #define DWC3_GSTS               0xc118
92 #define DWC3_GUCTL1             0xc11c
93 #define DWC3_GSNPSID            0xc120
94 #define DWC3_GGPIO              0xc124
95 #define DWC3_GUID               0xc128
96 #define DWC3_GUCTL              0xc12c
97 #define DWC3_GBUSERRADDR0       0xc130
98 #define DWC3_GBUSERRADDR1       0xc134
99 #define DWC3_GPRTBIMAP0         0xc138
100 #define DWC3_GPRTBIMAP1         0xc13c
101 #define DWC3_GHWPARAMS0         0xc140
102 #define DWC3_GHWPARAMS1         0xc144
103 #define DWC3_GHWPARAMS2         0xc148
104 #define DWC3_GHWPARAMS3         0xc14c
105 #define DWC3_GHWPARAMS4         0xc150
106 #define DWC3_GHWPARAMS5         0xc154
107 #define DWC3_GHWPARAMS6         0xc158
108 #define DWC3_GHWPARAMS7         0xc15c
109 #define DWC3_GDBGFIFOSPACE      0xc160
110 #define DWC3_GDBGLTSSM          0xc164
111 #define DWC3_GPRTBIMAP_HS0      0xc180
112 #define DWC3_GPRTBIMAP_HS1      0xc184
113 #define DWC3_GPRTBIMAP_FS0      0xc188
114 #define DWC3_GPRTBIMAP_FS1      0xc18c
115 #define DWC3_GUCTL2             0xc19c
116
117 #define DWC3_VER_NUMBER         0xc1a0
118 #define DWC3_VER_TYPE           0xc1a4
119
120 #define DWC3_GUSB2PHYCFG(n)     (0xc200 + ((n) * 0x04))
121 #define DWC3_GUSB2I2CCTL(n)     (0xc240 + ((n) * 0x04))
122
123 #define DWC3_GUSB2PHYACC(n)     (0xc280 + ((n) * 0x04))
124
125 #define DWC3_GUSB3PIPECTL(n)    (0xc2c0 + ((n) * 0x04))
126
127 #define DWC3_GTXFIFOSIZ(n)      (0xc300 + ((n) * 0x04))
128 #define DWC3_GRXFIFOSIZ(n)      (0xc380 + ((n) * 0x04))
129
130 #define DWC3_GEVNTADRLO(n)      (0xc400 + ((n) * 0x10))
131 #define DWC3_GEVNTADRHI(n)      (0xc404 + ((n) * 0x10))
132 #define DWC3_GEVNTSIZ(n)        (0xc408 + ((n) * 0x10))
133 #define DWC3_GEVNTCOUNT(n)      (0xc40c + ((n) * 0x10))
134
135 #define DWC3_GHWPARAMS8         0xc600
136 #define DWC3_GFLADJ             0xc630
137
138 /* Device Registers */
139 #define DWC3_DCFG               0xc700
140 #define DWC3_DCTL               0xc704
141 #define DWC3_DEVTEN             0xc708
142 #define DWC3_DSTS               0xc70c
143 #define DWC3_DGCMDPAR           0xc710
144 #define DWC3_DGCMD              0xc714
145 #define DWC3_DALEPENA           0xc720
146
147 #define DWC3_DEP_BASE(n)        (0xc800 + ((n) * 0x10))
148 #define DWC3_DEPCMDPAR2         0x00
149 #define DWC3_DEPCMDPAR1         0x04
150 #define DWC3_DEPCMDPAR0         0x08
151 #define DWC3_DEPCMD             0x0c
152
153 #define DWC3_DEV_IMOD(n)        (0xca00 + ((n) * 0x4))
154
155 /* OTG Registers */
156 #define DWC3_OCFG               0xcc00
157 #define DWC3_OCTL               0xcc04
158 #define DWC3_OEVT               0xcc08
159 #define DWC3_OEVTEN             0xcc0C
160 #define DWC3_OSTS               0xcc10
161
162 /* Bit fields */
163
164 /* Global Debug Queue/FIFO Space Available Register */
165 #define DWC3_GDBGFIFOSPACE_NUM(n)       ((n) & 0x1f)
166 #define DWC3_GDBGFIFOSPACE_TYPE(n)      (((n) << 5) & 0x1e0)
167 #define DWC3_GDBGFIFOSPACE_SPACE_AVAILABLE(n) (((n) >> 16) & 0xffff)
168
169 #define DWC3_TXFIFOQ            0
170 #define DWC3_RXFIFOQ            1
171 #define DWC3_TXREQQ             2
172 #define DWC3_RXREQQ             3
173 #define DWC3_RXINFOQ            4
174 #define DWC3_PSTATQ             5
175 #define DWC3_DESCFETCHQ         6
176 #define DWC3_EVENTQ             7
177 #define DWC3_AUXEVENTQ          8
178
179 /* Global RX Threshold Configuration Register */
180 #define DWC3_GRXTHRCFG_MAXRXBURSTSIZE(n) (((n) & 0x1f) << 19)
181 #define DWC3_GRXTHRCFG_RXPKTCNT(n) (((n) & 0xf) << 24)
182 #define DWC3_GRXTHRCFG_PKTCNTSEL BIT(29)
183
184 /* Global Configuration Register */
185 #define DWC3_GCTL_PWRDNSCALE(n) ((n) << 19)
186 #define DWC3_GCTL_U2RSTECN      BIT(16)
187 #define DWC3_GCTL_RAMCLKSEL(x)  (((x) & DWC3_GCTL_CLK_MASK) << 6)
188 #define DWC3_GCTL_CLK_BUS       (0)
189 #define DWC3_GCTL_CLK_PIPE      (1)
190 #define DWC3_GCTL_CLK_PIPEHALF  (2)
191 #define DWC3_GCTL_CLK_MASK      (3)
192
193 #define DWC3_GCTL_PRTCAP(n)     (((n) & (3 << 12)) >> 12)
194 #define DWC3_GCTL_PRTCAPDIR(n)  ((n) << 12)
195 #define DWC3_GCTL_PRTCAP_HOST   1
196 #define DWC3_GCTL_PRTCAP_DEVICE 2
197 #define DWC3_GCTL_PRTCAP_OTG    3
198
199 #define DWC3_GCTL_CORESOFTRESET         BIT(11)
200 #define DWC3_GCTL_SOFITPSYNC            BIT(10)
201 #define DWC3_GCTL_SCALEDOWN(n)          ((n) << 4)
202 #define DWC3_GCTL_SCALEDOWN_MASK        DWC3_GCTL_SCALEDOWN(3)
203 #define DWC3_GCTL_DISSCRAMBLE           BIT(3)
204 #define DWC3_GCTL_U2EXIT_LFPS           BIT(2)
205 #define DWC3_GCTL_GBLHIBERNATIONEN      BIT(1)
206 #define DWC3_GCTL_DSBLCLKGTNG           BIT(0)
207
208 /* Global User Control 1 Register */
209 #define DWC3_GUCTL1_PARKMODE_DISABLE_SS BIT(17)
210 #define DWC3_GUCTL1_TX_IPGAP_LINECHECK_DIS      BIT(28)
211 #define DWC3_GUCTL1_DEV_L1_EXIT_BY_HW   BIT(24)
212
213 /* Global USB2 PHY Configuration Register */
214 #define DWC3_GUSB2PHYCFG_PHYSOFTRST     BIT(31)
215 #define DWC3_GUSB2PHYCFG_U2_FREECLK_EXISTS      BIT(30)
216 #define DWC3_GUSB2PHYCFG_SUSPHY         BIT(6)
217 #define DWC3_GUSB2PHYCFG_ULPI_UTMI      BIT(4)
218 #define DWC3_GUSB2PHYCFG_ENBLSLPM       BIT(8)
219 #define DWC3_GUSB2PHYCFG_PHYIF(n)       (n << 3)
220 #define DWC3_GUSB2PHYCFG_PHYIF_MASK     DWC3_GUSB2PHYCFG_PHYIF(1)
221 #define DWC3_GUSB2PHYCFG_USBTRDTIM(n)   (n << 10)
222 #define DWC3_GUSB2PHYCFG_USBTRDTIM_MASK DWC3_GUSB2PHYCFG_USBTRDTIM(0xf)
223 #define USBTRDTIM_UTMI_8_BIT            9
224 #define USBTRDTIM_UTMI_16_BIT           5
225 #define UTMI_PHYIF_16_BIT               1
226 #define UTMI_PHYIF_8_BIT                0
227
228 /* Global USB2 PHY Vendor Control Register */
229 #define DWC3_GUSB2PHYACC_NEWREGREQ      BIT(25)
230 #define DWC3_GUSB2PHYACC_DONE           BIT(24)
231 #define DWC3_GUSB2PHYACC_BUSY           BIT(23)
232 #define DWC3_GUSB2PHYACC_WRITE          BIT(22)
233 #define DWC3_GUSB2PHYACC_ADDR(n)        (n << 16)
234 #define DWC3_GUSB2PHYACC_EXTEND_ADDR(n) (n << 8)
235 #define DWC3_GUSB2PHYACC_DATA(n)        (n & 0xff)
236
237 /* Global USB3 PIPE Control Register */
238 #define DWC3_GUSB3PIPECTL_PHYSOFTRST    BIT(31)
239 #define DWC3_GUSB3PIPECTL_U2SSINP3OK    BIT(29)
240 #define DWC3_GUSB3PIPECTL_DISRXDETINP3  BIT(28)
241 #define DWC3_GUSB3PIPECTL_UX_EXIT_PX    BIT(27)
242 #define DWC3_GUSB3PIPECTL_REQP1P2P3     BIT(24)
243 #define DWC3_GUSB3PIPECTL_DEP1P2P3(n)   ((n) << 19)
244 #define DWC3_GUSB3PIPECTL_DEP1P2P3_MASK DWC3_GUSB3PIPECTL_DEP1P2P3(7)
245 #define DWC3_GUSB3PIPECTL_DEP1P2P3_EN   DWC3_GUSB3PIPECTL_DEP1P2P3(1)
246 #define DWC3_GUSB3PIPECTL_DEPOCHANGE    BIT(18)
247 #define DWC3_GUSB3PIPECTL_SUSPHY        BIT(17)
248 #define DWC3_GUSB3PIPECTL_LFPSFILT      BIT(9)
249 #define DWC3_GUSB3PIPECTL_RX_DETOPOLL   BIT(8)
250 #define DWC3_GUSB3PIPECTL_TX_DEEPH_MASK DWC3_GUSB3PIPECTL_TX_DEEPH(3)
251 #define DWC3_GUSB3PIPECTL_TX_DEEPH(n)   ((n) << 1)
252
253 /* Global TX Fifo Size Register */
254 #define DWC31_GTXFIFOSIZ_TXFRAMNUM      BIT(15)         /* DWC_usb31 only */
255 #define DWC31_GTXFIFOSIZ_TXFDEF(n)      ((n) & 0x7fff)  /* DWC_usb31 only */
256 #define DWC3_GTXFIFOSIZ_TXFDEF(n)       ((n) & 0xffff)
257 #define DWC3_GTXFIFOSIZ_TXFSTADDR(n)    ((n) & 0xffff0000)
258
259 /* Global Event Size Registers */
260 #define DWC3_GEVNTSIZ_INTMASK           BIT(31)
261 #define DWC3_GEVNTSIZ_SIZE(n)           ((n) & 0xffff)
262
263 /* Global HWPARAMS0 Register */
264 #define DWC3_GHWPARAMS0_MODE(n)         ((n) & 0x3)
265 #define DWC3_GHWPARAMS0_MODE_GADGET     0
266 #define DWC3_GHWPARAMS0_MODE_HOST       1
267 #define DWC3_GHWPARAMS0_MODE_DRD        2
268 #define DWC3_GHWPARAMS0_MBUS_TYPE(n)    (((n) >> 3) & 0x7)
269 #define DWC3_GHWPARAMS0_SBUS_TYPE(n)    (((n) >> 6) & 0x3)
270 #define DWC3_GHWPARAMS0_MDWIDTH(n)      (((n) >> 8) & 0xff)
271 #define DWC3_GHWPARAMS0_SDWIDTH(n)      (((n) >> 16) & 0xff)
272 #define DWC3_GHWPARAMS0_AWIDTH(n)       (((n) >> 24) & 0xff)
273
274 /* Global HWPARAMS1 Register */
275 #define DWC3_GHWPARAMS1_EN_PWROPT(n)    (((n) & (3 << 24)) >> 24)
276 #define DWC3_GHWPARAMS1_EN_PWROPT_NO    0
277 #define DWC3_GHWPARAMS1_EN_PWROPT_CLK   1
278 #define DWC3_GHWPARAMS1_EN_PWROPT_HIB   2
279 #define DWC3_GHWPARAMS1_PWROPT(n)       ((n) << 24)
280 #define DWC3_GHWPARAMS1_PWROPT_MASK     DWC3_GHWPARAMS1_PWROPT(3)
281
282 /* Global HWPARAMS3 Register */
283 #define DWC3_GHWPARAMS3_SSPHY_IFC(n)            ((n) & 3)
284 #define DWC3_GHWPARAMS3_SSPHY_IFC_DIS           0
285 #define DWC3_GHWPARAMS3_SSPHY_IFC_GEN1          1
286 #define DWC3_GHWPARAMS3_SSPHY_IFC_GEN2          2 /* DWC_usb31 only */
287 #define DWC3_GHWPARAMS3_HSPHY_IFC(n)            (((n) & (3 << 2)) >> 2)
288 #define DWC3_GHWPARAMS3_HSPHY_IFC_DIS           0
289 #define DWC3_GHWPARAMS3_HSPHY_IFC_UTMI          1
290 #define DWC3_GHWPARAMS3_HSPHY_IFC_ULPI          2
291 #define DWC3_GHWPARAMS3_HSPHY_IFC_UTMI_ULPI     3
292 #define DWC3_GHWPARAMS3_FSPHY_IFC(n)            (((n) & (3 << 4)) >> 4)
293 #define DWC3_GHWPARAMS3_FSPHY_IFC_DIS           0
294 #define DWC3_GHWPARAMS3_FSPHY_IFC_ENA           1
295
296 /* Global HWPARAMS4 Register */
297 #define DWC3_GHWPARAMS4_HIBER_SCRATCHBUFS(n)    (((n) & (0x0f << 13)) >> 13)
298 #define DWC3_MAX_HIBER_SCRATCHBUFS              15
299
300 /* Global HWPARAMS6 Register */
301 #define DWC3_GHWPARAMS6_EN_FPGA                 BIT(7)
302
303 /* Global HWPARAMS7 Register */
304 #define DWC3_GHWPARAMS7_RAM1_DEPTH(n)   ((n) & 0xffff)
305 #define DWC3_GHWPARAMS7_RAM2_DEPTH(n)   (((n) >> 16) & 0xffff)
306
307 /* Global Frame Length Adjustment Register */
308 #define DWC3_GFLADJ_30MHZ_SDBND_SEL             BIT(7)
309 #define DWC3_GFLADJ_30MHZ_MASK                  0x3f
310
311 /* Global User Control Register 2 */
312 #define DWC3_GUCTL2_RST_ACTBITLATER             BIT(14)
313
314 /* Device Configuration Register */
315 #define DWC3_DCFG_DEVADDR(addr) ((addr) << 3)
316 #define DWC3_DCFG_DEVADDR_MASK  DWC3_DCFG_DEVADDR(0x7f)
317
318 #define DWC3_DCFG_SPEED_MASK    (7 << 0)
319 #define DWC3_DCFG_SUPERSPEED_PLUS (5 << 0)  /* DWC_usb31 only */
320 #define DWC3_DCFG_SUPERSPEED    (4 << 0)
321 #define DWC3_DCFG_HIGHSPEED     (0 << 0)
322 #define DWC3_DCFG_FULLSPEED     BIT(0)
323 #define DWC3_DCFG_LOWSPEED      (2 << 0)
324
325 #define DWC3_DCFG_NUMP_SHIFT    17
326 #define DWC3_DCFG_NUMP(n)       (((n) >> DWC3_DCFG_NUMP_SHIFT) & 0x1f)
327 #define DWC3_DCFG_NUMP_MASK     (0x1f << DWC3_DCFG_NUMP_SHIFT)
328 #define DWC3_DCFG_LPM_CAP       BIT(22)
329
330 /* Device Control Register */
331 #define DWC3_DCTL_RUN_STOP      BIT(31)
332 #define DWC3_DCTL_CSFTRST       BIT(30)
333 #define DWC3_DCTL_LSFTRST       BIT(29)
334
335 #define DWC3_DCTL_HIRD_THRES_MASK       (0x1f << 24)
336 #define DWC3_DCTL_HIRD_THRES(n) ((n) << 24)
337
338 #define DWC3_DCTL_APPL1RES      BIT(23)
339
340 /* These apply for core versions 1.87a and earlier */
341 #define DWC3_DCTL_TRGTULST_MASK         (0x0f << 17)
342 #define DWC3_DCTL_TRGTULST(n)           ((n) << 17)
343 #define DWC3_DCTL_TRGTULST_U2           (DWC3_DCTL_TRGTULST(2))
344 #define DWC3_DCTL_TRGTULST_U3           (DWC3_DCTL_TRGTULST(3))
345 #define DWC3_DCTL_TRGTULST_SS_DIS       (DWC3_DCTL_TRGTULST(4))
346 #define DWC3_DCTL_TRGTULST_RX_DET       (DWC3_DCTL_TRGTULST(5))
347 #define DWC3_DCTL_TRGTULST_SS_INACT     (DWC3_DCTL_TRGTULST(6))
348
349 /* These apply for core versions 1.94a and later */
350 #define DWC3_DCTL_LPM_ERRATA_MASK       DWC3_DCTL_LPM_ERRATA(0xf)
351 #define DWC3_DCTL_LPM_ERRATA(n)         ((n) << 20)
352
353 #define DWC3_DCTL_KEEP_CONNECT          BIT(19)
354 #define DWC3_DCTL_L1_HIBER_EN           BIT(18)
355 #define DWC3_DCTL_CRS                   BIT(17)
356 #define DWC3_DCTL_CSS                   BIT(16)
357
358 #define DWC3_DCTL_INITU2ENA             BIT(12)
359 #define DWC3_DCTL_ACCEPTU2ENA           BIT(11)
360 #define DWC3_DCTL_INITU1ENA             BIT(10)
361 #define DWC3_DCTL_ACCEPTU1ENA           BIT(9)
362 #define DWC3_DCTL_TSTCTRL_MASK          (0xf << 1)
363
364 #define DWC3_DCTL_ULSTCHNGREQ_MASK      (0x0f << 5)
365 #define DWC3_DCTL_ULSTCHNGREQ(n) (((n) << 5) & DWC3_DCTL_ULSTCHNGREQ_MASK)
366
367 #define DWC3_DCTL_ULSTCHNG_NO_ACTION    (DWC3_DCTL_ULSTCHNGREQ(0))
368 #define DWC3_DCTL_ULSTCHNG_SS_DISABLED  (DWC3_DCTL_ULSTCHNGREQ(4))
369 #define DWC3_DCTL_ULSTCHNG_RX_DETECT    (DWC3_DCTL_ULSTCHNGREQ(5))
370 #define DWC3_DCTL_ULSTCHNG_SS_INACTIVE  (DWC3_DCTL_ULSTCHNGREQ(6))
371 #define DWC3_DCTL_ULSTCHNG_RECOVERY     (DWC3_DCTL_ULSTCHNGREQ(8))
372 #define DWC3_DCTL_ULSTCHNG_COMPLIANCE   (DWC3_DCTL_ULSTCHNGREQ(10))
373 #define DWC3_DCTL_ULSTCHNG_LOOPBACK     (DWC3_DCTL_ULSTCHNGREQ(11))
374
375 /* Device Event Enable Register */
376 #define DWC3_DEVTEN_VNDRDEVTSTRCVEDEN   BIT(12)
377 #define DWC3_DEVTEN_EVNTOVERFLOWEN      BIT(11)
378 #define DWC3_DEVTEN_CMDCMPLTEN          BIT(10)
379 #define DWC3_DEVTEN_ERRTICERREN         BIT(9)
380 #define DWC3_DEVTEN_SOFEN               BIT(7)
381 #define DWC3_DEVTEN_EOPFEN              BIT(6)
382 #define DWC3_DEVTEN_HIBERNATIONREQEVTEN BIT(5)
383 #define DWC3_DEVTEN_WKUPEVTEN           BIT(4)
384 #define DWC3_DEVTEN_ULSTCNGEN           BIT(3)
385 #define DWC3_DEVTEN_CONNECTDONEEN       BIT(2)
386 #define DWC3_DEVTEN_USBRSTEN            BIT(1)
387 #define DWC3_DEVTEN_DISCONNEVTEN        BIT(0)
388
389 /* Device Status Register */
390 #define DWC3_DSTS_DCNRD                 BIT(29)
391
392 /* This applies for core versions 1.87a and earlier */
393 #define DWC3_DSTS_PWRUPREQ              BIT(24)
394
395 /* These apply for core versions 1.94a and later */
396 #define DWC3_DSTS_RSS                   BIT(25)
397 #define DWC3_DSTS_SSS                   BIT(24)
398
399 #define DWC3_DSTS_COREIDLE              BIT(23)
400 #define DWC3_DSTS_DEVCTRLHLT            BIT(22)
401
402 #define DWC3_DSTS_USBLNKST_MASK         (0x0f << 18)
403 #define DWC3_DSTS_USBLNKST(n)           (((n) & DWC3_DSTS_USBLNKST_MASK) >> 18)
404
405 #define DWC3_DSTS_RXFIFOEMPTY           BIT(17)
406
407 #define DWC3_DSTS_SOFFN_MASK            (0x3fff << 3)
408 #define DWC3_DSTS_SOFFN(n)              (((n) & DWC3_DSTS_SOFFN_MASK) >> 3)
409
410 #define DWC3_DSTS_CONNECTSPD            (7 << 0)
411
412 #define DWC3_DSTS_SUPERSPEED_PLUS       (5 << 0) /* DWC_usb31 only */
413 #define DWC3_DSTS_SUPERSPEED            (4 << 0)
414 #define DWC3_DSTS_HIGHSPEED             (0 << 0)
415 #define DWC3_DSTS_FULLSPEED             BIT(0)
416 #define DWC3_DSTS_LOWSPEED              (2 << 0)
417
418 /* Device Generic Command Register */
419 #define DWC3_DGCMD_SET_LMP              0x01
420 #define DWC3_DGCMD_SET_PERIODIC_PAR     0x02
421 #define DWC3_DGCMD_XMIT_FUNCTION        0x03
422
423 /* These apply for core versions 1.94a and later */
424 #define DWC3_DGCMD_SET_SCRATCHPAD_ADDR_LO       0x04
425 #define DWC3_DGCMD_SET_SCRATCHPAD_ADDR_HI       0x05
426
427 #define DWC3_DGCMD_SELECTED_FIFO_FLUSH  0x09
428 #define DWC3_DGCMD_ALL_FIFO_FLUSH       0x0a
429 #define DWC3_DGCMD_SET_ENDPOINT_NRDY    0x0c
430 #define DWC3_DGCMD_RUN_SOC_BUS_LOOPBACK 0x10
431
432 #define DWC3_DGCMD_STATUS(n)            (((n) >> 12) & 0x0F)
433 #define DWC3_DGCMD_CMDACT               BIT(10)
434 #define DWC3_DGCMD_CMDIOC               BIT(8)
435
436 /* Device Generic Command Parameter Register */
437 #define DWC3_DGCMDPAR_FORCE_LINKPM_ACCEPT       BIT(0)
438 #define DWC3_DGCMDPAR_FIFO_NUM(n)               ((n) << 0)
439 #define DWC3_DGCMDPAR_RX_FIFO                   (0 << 5)
440 #define DWC3_DGCMDPAR_TX_FIFO                   BIT(5)
441 #define DWC3_DGCMDPAR_LOOPBACK_DIS              (0 << 0)
442 #define DWC3_DGCMDPAR_LOOPBACK_ENA              BIT(0)
443
444 /* Device Endpoint Command Register */
445 #define DWC3_DEPCMD_PARAM_SHIFT         16
446 #define DWC3_DEPCMD_PARAM(x)            ((x) << DWC3_DEPCMD_PARAM_SHIFT)
447 #define DWC3_DEPCMD_GET_RSC_IDX(x)      (((x) >> DWC3_DEPCMD_PARAM_SHIFT) & 0x7f)
448 #define DWC3_DEPCMD_STATUS(x)           (((x) >> 12) & 0x0F)
449 #define DWC3_DEPCMD_HIPRI_FORCERM       BIT(11)
450 #define DWC3_DEPCMD_CLEARPENDIN         BIT(11)
451 #define DWC3_DEPCMD_CMDACT              BIT(10)
452 #define DWC3_DEPCMD_CMDIOC              BIT(8)
453
454 #define DWC3_DEPCMD_DEPSTARTCFG         (0x09 << 0)
455 #define DWC3_DEPCMD_ENDTRANSFER         (0x08 << 0)
456 #define DWC3_DEPCMD_UPDATETRANSFER      (0x07 << 0)
457 #define DWC3_DEPCMD_STARTTRANSFER       (0x06 << 0)
458 #define DWC3_DEPCMD_CLEARSTALL          (0x05 << 0)
459 #define DWC3_DEPCMD_SETSTALL            (0x04 << 0)
460 /* This applies for core versions 1.90a and earlier */
461 #define DWC3_DEPCMD_GETSEQNUMBER        (0x03 << 0)
462 /* This applies for core versions 1.94a and later */
463 #define DWC3_DEPCMD_GETEPSTATE          (0x03 << 0)
464 #define DWC3_DEPCMD_SETTRANSFRESOURCE   (0x02 << 0)
465 #define DWC3_DEPCMD_SETEPCONFIG         (0x01 << 0)
466
467 #define DWC3_DEPCMD_CMD(x)              ((x) & 0xf)
468
469 /* The EP number goes 0..31 so ep0 is always out and ep1 is always in */
470 #define DWC3_DALEPENA_EP(n)             BIT(n)
471
472 #define DWC3_DEPCMD_TYPE_CONTROL        0
473 #define DWC3_DEPCMD_TYPE_ISOC           1
474 #define DWC3_DEPCMD_TYPE_BULK           2
475 #define DWC3_DEPCMD_TYPE_INTR           3
476
477 #define DWC3_DEV_IMOD_COUNT_SHIFT       16
478 #define DWC3_DEV_IMOD_COUNT_MASK        (0xffff << 16)
479 #define DWC3_DEV_IMOD_INTERVAL_SHIFT    0
480 #define DWC3_DEV_IMOD_INTERVAL_MASK     (0xffff << 0)
481
482 /* Structures */
483
484 struct dwc3_trb;
485
486 /**
487  * struct dwc3_event_buffer - Software event buffer representation
488  * @buf: _THE_ buffer
489  * @cache: The buffer cache used in the threaded interrupt
490  * @length: size of this buffer
491  * @lpos: event offset
492  * @count: cache of last read event count register
493  * @flags: flags related to this event buffer
494  * @dma: dma_addr_t
495  * @dwc: pointer to DWC controller
496  */
497 struct dwc3_event_buffer {
498         void                    *buf;
499         void                    *cache;
500         unsigned                length;
501         unsigned int            lpos;
502         unsigned int            count;
503         unsigned int            flags;
504
505 #define DWC3_EVENT_PENDING      BIT(0)
506
507         dma_addr_t              dma;
508
509         struct dwc3             *dwc;
510 };
511
512 #define DWC3_EP_FLAG_STALLED    BIT(0)
513 #define DWC3_EP_FLAG_WEDGED     BIT(1)
514
515 #define DWC3_EP_DIRECTION_TX    true
516 #define DWC3_EP_DIRECTION_RX    false
517
518 #define DWC3_TRB_NUM            256
519
520 /**
521  * struct dwc3_ep - device side endpoint representation
522  * @endpoint: usb endpoint
523  * @pending_list: list of pending requests for this endpoint
524  * @started_list: list of started requests on this endpoint
525  * @wait_end_transfer: wait_queue_head_t for waiting on End Transfer complete
526  * @lock: spinlock for endpoint request queue traversal
527  * @regs: pointer to first endpoint register
528  * @trb_pool: array of transaction buffers
529  * @trb_pool_dma: dma address of @trb_pool
530  * @trb_enqueue: enqueue 'pointer' into TRB array
531  * @trb_dequeue: dequeue 'pointer' into TRB array
532  * @dwc: pointer to DWC controller
533  * @saved_state: ep state saved during hibernation
534  * @flags: endpoint flags (wedged, stalled, ...)
535  * @number: endpoint number (1 - 15)
536  * @type: set to bmAttributes & USB_ENDPOINT_XFERTYPE_MASK
537  * @resource_index: Resource transfer index
538  * @interval: the interval on which the ISOC transfer is started
539  * @allocated_requests: number of requests allocated
540  * @queued_requests: number of requests queued for transfer
541  * @name: a human readable name e.g. ep1out-bulk
542  * @direction: true for TX, false for RX
543  * @stream_capable: true when streams are enabled
544  */
545 struct dwc3_ep {
546         struct usb_ep           endpoint;
547         struct list_head        pending_list;
548         struct list_head        started_list;
549
550         wait_queue_head_t       wait_end_transfer;
551
552         spinlock_t              lock;
553         void __iomem            *regs;
554
555         struct dwc3_trb         *trb_pool;
556         dma_addr_t              trb_pool_dma;
557         struct dwc3             *dwc;
558
559         u32                     saved_state;
560         unsigned                flags;
561 #define DWC3_EP_ENABLED         BIT(0)
562 #define DWC3_EP_STALL           BIT(1)
563 #define DWC3_EP_WEDGE           BIT(2)
564 #define DWC3_EP_BUSY            BIT(4)
565 #define DWC3_EP_PENDING_REQUEST BIT(5)
566 #define DWC3_EP_MISSED_ISOC     BIT(6)
567 #define DWC3_EP_END_TRANSFER_PENDING    BIT(7)
568 #define DWC3_EP_TRANSFER_STARTED BIT(8)
569
570         /* This last one is specific to EP0 */
571 #define DWC3_EP0_DIR_IN         BIT(31)
572
573         /*
574          * IMPORTANT: we *know* we have 256 TRBs in our @trb_pool, so we will
575          * use a u8 type here. If anybody decides to increase number of TRBs to
576          * anything larger than 256 - I can't see why people would want to do
577          * this though - then this type needs to be changed.
578          *
579          * By using u8 types we ensure that our % operator when incrementing
580          * enqueue and dequeue get optimized away by the compiler.
581          */
582         u8                      trb_enqueue;
583         u8                      trb_dequeue;
584
585         u8                      number;
586         u8                      type;
587         u8                      resource_index;
588         u32                     allocated_requests;
589         u32                     queued_requests;
590         u32                     interval;
591
592         char                    name[20];
593
594         unsigned                direction:1;
595         unsigned                stream_capable:1;
596 };
597
598 enum dwc3_phy {
599         DWC3_PHY_UNKNOWN = 0,
600         DWC3_PHY_USB3,
601         DWC3_PHY_USB2,
602 };
603
604 enum dwc3_ep0_next {
605         DWC3_EP0_UNKNOWN = 0,
606         DWC3_EP0_COMPLETE,
607         DWC3_EP0_NRDY_DATA,
608         DWC3_EP0_NRDY_STATUS,
609 };
610
611 enum dwc3_ep0_state {
612         EP0_UNCONNECTED         = 0,
613         EP0_SETUP_PHASE,
614         EP0_DATA_PHASE,
615         EP0_STATUS_PHASE,
616 };
617
618 enum dwc3_link_state {
619         /* In SuperSpeed */
620         DWC3_LINK_STATE_U0              = 0x00, /* in HS, means ON */
621         DWC3_LINK_STATE_U1              = 0x01,
622         DWC3_LINK_STATE_U2              = 0x02, /* in HS, means SLEEP */
623         DWC3_LINK_STATE_U3              = 0x03, /* in HS, means SUSPEND */
624         DWC3_LINK_STATE_SS_DIS          = 0x04,
625         DWC3_LINK_STATE_RX_DET          = 0x05, /* in HS, means Early Suspend */
626         DWC3_LINK_STATE_SS_INACT        = 0x06,
627         DWC3_LINK_STATE_POLL            = 0x07,
628         DWC3_LINK_STATE_RECOV           = 0x08,
629         DWC3_LINK_STATE_HRESET          = 0x09,
630         DWC3_LINK_STATE_CMPLY           = 0x0a,
631         DWC3_LINK_STATE_LPBK            = 0x0b,
632         DWC3_LINK_STATE_RESET           = 0x0e,
633         DWC3_LINK_STATE_RESUME          = 0x0f,
634         DWC3_LINK_STATE_MASK            = 0x0f,
635 };
636
637 /* TRB Length, PCM and Status */
638 #define DWC3_TRB_SIZE_MASK      (0x00ffffff)
639 #define DWC3_TRB_SIZE_LENGTH(n) ((n) & DWC3_TRB_SIZE_MASK)
640 #define DWC3_TRB_SIZE_PCM1(n)   (((n) & 0x03) << 24)
641 #define DWC3_TRB_SIZE_TRBSTS(n) (((n) & (0x0f << 28)) >> 28)
642
643 #define DWC3_TRBSTS_OK                  0
644 #define DWC3_TRBSTS_MISSED_ISOC         1
645 #define DWC3_TRBSTS_SETUP_PENDING       2
646 #define DWC3_TRB_STS_XFER_IN_PROG       4
647
648 /* TRB Control */
649 #define DWC3_TRB_CTRL_HWO               BIT(0)
650 #define DWC3_TRB_CTRL_LST               BIT(1)
651 #define DWC3_TRB_CTRL_CHN               BIT(2)
652 #define DWC3_TRB_CTRL_CSP               BIT(3)
653 #define DWC3_TRB_CTRL_TRBCTL(n)         (((n) & 0x3f) << 4)
654 #define DWC3_TRB_CTRL_ISP_IMI           BIT(10)
655 #define DWC3_TRB_CTRL_IOC               BIT(11)
656 #define DWC3_TRB_CTRL_SID_SOFN(n)       (((n) & 0xffff) << 14)
657
658 #define DWC3_TRBCTL_TYPE(n)             ((n) & (0x3f << 4))
659 #define DWC3_TRBCTL_NORMAL              DWC3_TRB_CTRL_TRBCTL(1)
660 #define DWC3_TRBCTL_CONTROL_SETUP       DWC3_TRB_CTRL_TRBCTL(2)
661 #define DWC3_TRBCTL_CONTROL_STATUS2     DWC3_TRB_CTRL_TRBCTL(3)
662 #define DWC3_TRBCTL_CONTROL_STATUS3     DWC3_TRB_CTRL_TRBCTL(4)
663 #define DWC3_TRBCTL_CONTROL_DATA        DWC3_TRB_CTRL_TRBCTL(5)
664 #define DWC3_TRBCTL_ISOCHRONOUS_FIRST   DWC3_TRB_CTRL_TRBCTL(6)
665 #define DWC3_TRBCTL_ISOCHRONOUS         DWC3_TRB_CTRL_TRBCTL(7)
666 #define DWC3_TRBCTL_LINK_TRB            DWC3_TRB_CTRL_TRBCTL(8)
667
668 /**
669  * struct dwc3_trb - transfer request block (hw format)
670  * @bpl: DW0-3
671  * @bph: DW4-7
672  * @size: DW8-B
673  * @ctrl: DWC-F
674  */
675 struct dwc3_trb {
676         u32             bpl;
677         u32             bph;
678         u32             size;
679         u32             ctrl;
680 } __packed;
681
682 /**
683  * struct dwc3_hwparams - copy of HWPARAMS registers
684  * @hwparams0: GHWPARAMS0
685  * @hwparams1: GHWPARAMS1
686  * @hwparams2: GHWPARAMS2
687  * @hwparams3: GHWPARAMS3
688  * @hwparams4: GHWPARAMS4
689  * @hwparams5: GHWPARAMS5
690  * @hwparams6: GHWPARAMS6
691  * @hwparams7: GHWPARAMS7
692  * @hwparams8: GHWPARAMS8
693  */
694 struct dwc3_hwparams {
695         u32     hwparams0;
696         u32     hwparams1;
697         u32     hwparams2;
698         u32     hwparams3;
699         u32     hwparams4;
700         u32     hwparams5;
701         u32     hwparams6;
702         u32     hwparams7;
703         u32     hwparams8;
704 };
705
706 /* HWPARAMS0 */
707 #define DWC3_MODE(n)            ((n) & 0x7)
708
709 #define DWC3_MDWIDTH(n)         (((n) & 0xff00) >> 8)
710
711 /* HWPARAMS1 */
712 #define DWC3_NUM_INT(n)         (((n) & (0x3f << 15)) >> 15)
713
714 /* HWPARAMS3 */
715 #define DWC3_NUM_IN_EPS_MASK    (0x1f << 18)
716 #define DWC3_NUM_EPS_MASK       (0x3f << 12)
717 #define DWC3_NUM_EPS(p)         (((p)->hwparams3 &              \
718                         (DWC3_NUM_EPS_MASK)) >> 12)
719 #define DWC3_NUM_IN_EPS(p)      (((p)->hwparams3 &              \
720                         (DWC3_NUM_IN_EPS_MASK)) >> 18)
721
722 /* HWPARAMS7 */
723 #define DWC3_RAM1_DEPTH(n)      ((n) & 0xffff)
724
725 /**
726  * struct dwc3_request - representation of a transfer request
727  * @request: struct usb_request to be transferred
728  * @list: a list_head used for request queueing
729  * @dep: struct dwc3_ep owning this request
730  * @sg: pointer to first incomplete sg
731  * @num_pending_sgs: counter to pending sgs
732  * @remaining: amount of data remaining
733  * @epnum: endpoint number to which this request refers
734  * @trb: pointer to struct dwc3_trb
735  * @trb_dma: DMA address of @trb
736  * @unaligned: true for OUT endpoints with length not divisible by maxp
737  * @direction: IN or OUT direction flag
738  * @mapped: true when request has been dma-mapped
739  * @started: request is started
740  * @zero: wants a ZLP
741  */
742 struct dwc3_request {
743         struct usb_request      request;
744         struct list_head        list;
745         struct dwc3_ep          *dep;
746         struct scatterlist      *sg;
747
748         unsigned                num_pending_sgs;
749         unsigned                remaining;
750         u8                      epnum;
751         struct dwc3_trb         *trb;
752         dma_addr_t              trb_dma;
753
754         unsigned                unaligned:1;
755         unsigned                direction:1;
756         unsigned                mapped:1;
757         unsigned                started:1;
758         unsigned                zero:1;
759 };
760
761 /*
762  * struct dwc3_scratchpad_array - hibernation scratchpad array
763  * (format defined by hw)
764  */
765 struct dwc3_scratchpad_array {
766         __le64  dma_adr[DWC3_MAX_HIBER_SCRATCHBUFS];
767 };
768
769 /**
770  * struct dwc3 - representation of our controller
771  * @drd_work: workqueue used for role swapping
772  * @ep0_trb: trb which is used for the ctrl_req
773  * @bounce: address of bounce buffer
774  * @scratchbuf: address of scratch buffer
775  * @setup_buf: used while precessing STD USB requests
776  * @ep0_trb_addr: dma address of @ep0_trb
777  * @bounce_addr: dma address of @bounce
778  * @ep0_usb_req: dummy req used while handling STD USB requests
779  * @scratch_addr: dma address of scratchbuf
780  * @ep0_in_setup: one control transfer is completed and enter setup phase
781  * @lock: for synchronizing
782  * @dev: pointer to our struct device
783  * @sysdev: pointer to the DMA-capable device
784  * @xhci: pointer to our xHCI child
785  * @xhci_resources: struct resources for our @xhci child
786  * @ev_buf: struct dwc3_event_buffer pointer
787  * @eps: endpoint array
788  * @gadget: device side representation of the peripheral controller
789  * @gadget_driver: pointer to the gadget driver
790  * @regs: base address for our registers
791  * @regs_size: address space size
792  * @fladj: frame length adjustment
793  * @irq_gadget: peripheral controller's IRQ number
794  * @nr_scratch: number of scratch buffers
795  * @u1u2: only used on revisions <1.83a for workaround
796  * @maximum_speed: maximum speed requested (mainly for testing purposes)
797  * @revision: revision register contents
798  * @dr_mode: requested mode of operation
799  * @current_dr_role: current role of operation when in dual-role mode
800  * @desired_dr_role: desired role of operation when in dual-role mode
801  * @edev: extcon handle
802  * @edev_nb: extcon notifier
803  * @hsphy_mode: UTMI phy mode, one of following:
804  *              - USBPHY_INTERFACE_MODE_UTMI
805  *              - USBPHY_INTERFACE_MODE_UTMIW
806  * @usb2_phy: pointer to USB2 PHY
807  * @usb3_phy: pointer to USB3 PHY
808  * @usb2_generic_phy: pointer to USB2 PHY
809  * @usb3_generic_phy: pointer to USB3 PHY
810  * @phys_ready: flag to indicate that PHYs are ready
811  * @ulpi: pointer to ulpi interface
812  * @ulpi_ready: flag to indicate that ULPI is initialized
813  * @isoch_delay: wValue from Set Isochronous Delay request;
814  * @u2sel: parameter from Set SEL request.
815  * @u2pel: parameter from Set SEL request.
816  * @u1sel: parameter from Set SEL request.
817  * @u1pel: parameter from Set SEL request.
818  * @num_eps: number of endpoints
819  * @ep0_next_event: hold the next expected event
820  * @ep0state: state of endpoint zero
821  * @link_state: link state
822  * @speed: device speed (super, high, full, low)
823  * @hwparams: copy of hwparams registers
824  * @root: debugfs root folder pointer
825  * @regset: debugfs pointer to regdump file
826  * @test_mode: true when we're entering a USB test mode
827  * @test_mode_nr: test feature selector
828  * @lpm_nyet_threshold: LPM NYET response threshold
829  * @hird_threshold: HIRD threshold
830  * @hsphy_interface: "utmi" or "ulpi"
831  * @connected: true when we're connected to a host, false otherwise
832  * @delayed_status: true when gadget driver asks for delayed status
833  * @ep0_bounced: true when we used bounce buffer
834  * @ep0_expect_in: true when we expect a DATA IN transfer
835  * @has_hibernation: true when dwc3 was configured with Hibernation
836  * @sysdev_is_parent: true when dwc3 device has a parent driver
837  * @has_lpm_erratum: true when core was configured with LPM Erratum. Note that
838  *                      there's now way for software to detect this in runtime.
839  * @is_utmi_l1_suspend: the core asserts output signal
840  *      0       - utmi_sleep_n
841  *      1       - utmi_l1_suspend_n
842  * @is_fpga: true when we are using the FPGA board
843  * @pending_events: true when we have pending IRQs to be handled
844  * @pullups_connected: true when Run/Stop bit is set
845  * @setup_packet_pending: true when there's a Setup Packet in FIFO. Workaround
846  * @three_stage_setup: set if we perform a three phase setup
847  * @usb3_lpm_capable: set if hadrware supports Link Power Management
848  * @disable_scramble_quirk: set if we enable the disable scramble quirk
849  * @u2exit_lfps_quirk: set if we enable u2exit lfps quirk
850  * @u2ss_inp3_quirk: set if we enable P3 OK for U2/SS Inactive quirk
851  * @req_p1p2p3_quirk: set if we enable request p1p2p3 quirk
852  * @del_p1p2p3_quirk: set if we enable delay p1p2p3 quirk
853  * @del_phy_power_chg_quirk: set if we enable delay phy power change quirk
854  * @lfps_filter_quirk: set if we enable LFPS filter quirk
855  * @rx_detect_poll_quirk: set if we enable rx_detect to polling lfps quirk
856  * @dis_u3_susphy_quirk: set if we disable usb3 suspend phy
857  * @dis_u2_susphy_quirk: set if we disable usb2 suspend phy
858  * @dis_enblslpm_quirk: set if we clear enblslpm in GUSB2PHYCFG,
859  *                      disabling the suspend signal to the PHY.
860  * @dis_rxdet_inp3_quirk: set if we disable Rx.Detect in P3
861  * @dis_u2_freeclk_exists_quirk : set if we clear u2_freeclk_exists
862  *                      in GUSB2PHYCFG, specify that USB2 PHY doesn't
863  *                      provide a free-running PHY clock.
864  * @dis_del_phy_power_chg_quirk: set if we disable delay phy power
865  *                      change quirk.
866  * @dis_tx_ipgap_linecheck_quirk: set if we disable u2mac linestate
867  *                      check during HS transmit.
868  * @parkmode_disable_ss_quirk: set if we need to disable all SuperSpeed
869  *                      instances in park mode.
870  * @tx_de_emphasis_quirk: set if we enable Tx de-emphasis quirk
871  * @tx_de_emphasis: Tx de-emphasis value
872  *      0       - -6dB de-emphasis
873  *      1       - -3.5dB de-emphasis
874  *      2       - No de-emphasis
875  *      3       - Reserved
876  * @dis_metastability_quirk: set to disable metastability quirk.
877  * @imod_interval: set the interrupt moderation interval in 250ns
878  *                 increments or 0 to disable.
879  */
880 struct dwc3 {
881         struct work_struct      drd_work;
882         struct dwc3_trb         *ep0_trb;
883         void                    *bounce;
884         void                    *scratchbuf;
885         u8                      *setup_buf;
886         dma_addr_t              ep0_trb_addr;
887         dma_addr_t              bounce_addr;
888         dma_addr_t              scratch_addr;
889         struct dwc3_request     ep0_usb_req;
890         struct completion       ep0_in_setup;
891
892         /* device lock */
893         spinlock_t              lock;
894
895         struct device           *dev;
896         struct device           *sysdev;
897
898         struct platform_device  *xhci;
899         struct resource         xhci_resources[DWC3_XHCI_RESOURCES_NUM];
900
901         struct dwc3_event_buffer *ev_buf;
902         struct dwc3_ep          *eps[DWC3_ENDPOINTS_NUM];
903
904         struct usb_gadget       gadget;
905         struct usb_gadget_driver *gadget_driver;
906
907         struct usb_phy          *usb2_phy;
908         struct usb_phy          *usb3_phy;
909
910         struct phy              *usb2_generic_phy;
911         struct phy              *usb3_generic_phy;
912
913         bool                    phys_ready;
914
915         struct ulpi             *ulpi;
916         bool                    ulpi_ready;
917
918         void __iomem            *regs;
919         size_t                  regs_size;
920
921         enum usb_dr_mode        dr_mode;
922         u32                     current_dr_role;
923         u32                     desired_dr_role;
924         struct extcon_dev       *edev;
925         struct notifier_block   edev_nb;
926         enum usb_phy_interface  hsphy_mode;
927
928         u32                     fladj;
929         u32                     irq_gadget;
930         u32                     nr_scratch;
931         u32                     u1u2;
932         u32                     maximum_speed;
933
934         /*
935          * All 3.1 IP version constants are greater than the 3.0 IP
936          * version constants. This works for most version checks in
937          * dwc3. However, in the future, this may not apply as
938          * features may be developed on newer versions of the 3.0 IP
939          * that are not in the 3.1 IP.
940          */
941         u32                     revision;
942
943 #define DWC3_REVISION_173A      0x5533173a
944 #define DWC3_REVISION_175A      0x5533175a
945 #define DWC3_REVISION_180A      0x5533180a
946 #define DWC3_REVISION_183A      0x5533183a
947 #define DWC3_REVISION_185A      0x5533185a
948 #define DWC3_REVISION_187A      0x5533187a
949 #define DWC3_REVISION_188A      0x5533188a
950 #define DWC3_REVISION_190A      0x5533190a
951 #define DWC3_REVISION_194A      0x5533194a
952 #define DWC3_REVISION_200A      0x5533200a
953 #define DWC3_REVISION_202A      0x5533202a
954 #define DWC3_REVISION_210A      0x5533210a
955 #define DWC3_REVISION_220A      0x5533220a
956 #define DWC3_REVISION_230A      0x5533230a
957 #define DWC3_REVISION_240A      0x5533240a
958 #define DWC3_REVISION_250A      0x5533250a
959 #define DWC3_REVISION_260A      0x5533260a
960 #define DWC3_REVISION_270A      0x5533270a
961 #define DWC3_REVISION_280A      0x5533280a
962 #define DWC3_REVISION_290A      0x5533290a
963 #define DWC3_REVISION_300A      0x5533300a
964 #define DWC3_REVISION_310A      0x5533310a
965
966 /*
967  * NOTICE: we're using bit 31 as a "is usb 3.1" flag. This is really
968  * just so dwc31 revisions are always larger than dwc3.
969  */
970 #define DWC3_REVISION_IS_DWC31          0x80000000
971 #define DWC3_USB31_REVISION_110A        (0x3131302a | DWC3_REVISION_IS_DWC31)
972 #define DWC3_USB31_REVISION_120A        (0x3132302a | DWC3_REVISION_IS_DWC31)
973
974         enum dwc3_ep0_next      ep0_next_event;
975         enum dwc3_ep0_state     ep0state;
976         enum dwc3_link_state    link_state;
977
978         u16                     isoch_delay;
979         u16                     u2sel;
980         u16                     u2pel;
981         u8                      u1sel;
982         u8                      u1pel;
983
984         u8                      speed;
985
986         u8                      num_eps;
987
988         struct dwc3_hwparams    hwparams;
989         struct dentry           *root;
990         struct debugfs_regset32 *regset;
991
992         u8                      test_mode;
993         u8                      test_mode_nr;
994         u8                      lpm_nyet_threshold;
995         u8                      hird_threshold;
996
997         const char              *hsphy_interface;
998
999         unsigned                connected:1;
1000         unsigned                delayed_status:1;
1001         unsigned                ep0_bounced:1;
1002         unsigned                ep0_expect_in:1;
1003         unsigned                has_hibernation:1;
1004         unsigned                sysdev_is_parent:1;
1005         unsigned                has_lpm_erratum:1;
1006         unsigned                is_utmi_l1_suspend:1;
1007         unsigned                is_fpga:1;
1008         unsigned                pending_events:1;
1009         unsigned                pullups_connected:1;
1010         unsigned                setup_packet_pending:1;
1011         unsigned                three_stage_setup:1;
1012         unsigned                usb3_lpm_capable:1;
1013
1014         unsigned                disable_scramble_quirk:1;
1015         unsigned                u2exit_lfps_quirk:1;
1016         unsigned                u2ss_inp3_quirk:1;
1017         unsigned                req_p1p2p3_quirk:1;
1018         unsigned                del_p1p2p3_quirk:1;
1019         unsigned                del_phy_power_chg_quirk:1;
1020         unsigned                lfps_filter_quirk:1;
1021         unsigned                rx_detect_poll_quirk:1;
1022         unsigned                dis_u3_susphy_quirk:1;
1023         unsigned                dis_u2_susphy_quirk:1;
1024         unsigned                dis_enblslpm_quirk:1;
1025         unsigned                dis_rxdet_inp3_quirk:1;
1026         unsigned                dis_u2_freeclk_exists_quirk:1;
1027         unsigned                dis_del_phy_power_chg_quirk:1;
1028         unsigned                dis_tx_ipgap_linecheck_quirk:1;
1029         unsigned                parkmode_disable_ss_quirk:1;
1030
1031         unsigned                tx_de_emphasis_quirk:1;
1032         unsigned                tx_de_emphasis:2;
1033
1034         unsigned                dis_metastability_quirk:1;
1035
1036         u16                     imod_interval;
1037 };
1038
1039 #define work_to_dwc(w)          (container_of((w), struct dwc3, drd_work))
1040
1041 /* -------------------------------------------------------------------------- */
1042
1043 struct dwc3_event_type {
1044         u32     is_devspec:1;
1045         u32     type:7;
1046         u32     reserved8_31:24;
1047 } __packed;
1048
1049 #define DWC3_DEPEVT_XFERCOMPLETE        0x01
1050 #define DWC3_DEPEVT_XFERINPROGRESS      0x02
1051 #define DWC3_DEPEVT_XFERNOTREADY        0x03
1052 #define DWC3_DEPEVT_RXTXFIFOEVT         0x04
1053 #define DWC3_DEPEVT_STREAMEVT           0x06
1054 #define DWC3_DEPEVT_EPCMDCMPLT          0x07
1055
1056 /**
1057  * struct dwc3_event_depvt - Device Endpoint Events
1058  * @one_bit: indicates this is an endpoint event (not used)
1059  * @endpoint_number: number of the endpoint
1060  * @endpoint_event: The event we have:
1061  *      0x00    - Reserved
1062  *      0x01    - XferComplete
1063  *      0x02    - XferInProgress
1064  *      0x03    - XferNotReady
1065  *      0x04    - RxTxFifoEvt (IN->Underrun, OUT->Overrun)
1066  *      0x05    - Reserved
1067  *      0x06    - StreamEvt
1068  *      0x07    - EPCmdCmplt
1069  * @reserved11_10: Reserved, don't use.
1070  * @status: Indicates the status of the event. Refer to databook for
1071  *      more information.
1072  * @parameters: Parameters of the current event. Refer to databook for
1073  *      more information.
1074  */
1075 struct dwc3_event_depevt {
1076         u32     one_bit:1;
1077         u32     endpoint_number:5;
1078         u32     endpoint_event:4;
1079         u32     reserved11_10:2;
1080         u32     status:4;
1081
1082 /* Within XferNotReady */
1083 #define DEPEVT_STATUS_TRANSFER_ACTIVE   BIT(3)
1084
1085 /* Within XferComplete */
1086 #define DEPEVT_STATUS_BUSERR    BIT(0)
1087 #define DEPEVT_STATUS_SHORT     BIT(1)
1088 #define DEPEVT_STATUS_IOC       BIT(2)
1089 #define DEPEVT_STATUS_LST       BIT(3)
1090
1091 /* Stream event only */
1092 #define DEPEVT_STREAMEVT_FOUND          1
1093 #define DEPEVT_STREAMEVT_NOTFOUND       2
1094
1095 /* Control-only Status */
1096 #define DEPEVT_STATUS_CONTROL_DATA      1
1097 #define DEPEVT_STATUS_CONTROL_STATUS    2
1098 #define DEPEVT_STATUS_CONTROL_PHASE(n)  ((n) & 3)
1099
1100 /* In response to Start Transfer */
1101 #define DEPEVT_TRANSFER_NO_RESOURCE     1
1102 #define DEPEVT_TRANSFER_BUS_EXPIRY      2
1103
1104         u32     parameters:16;
1105
1106 /* For Command Complete Events */
1107 #define DEPEVT_PARAMETER_CMD(n) (((n) & (0xf << 8)) >> 8)
1108 } __packed;
1109
1110 /**
1111  * struct dwc3_event_devt - Device Events
1112  * @one_bit: indicates this is a non-endpoint event (not used)
1113  * @device_event: indicates it's a device event. Should read as 0x00
1114  * @type: indicates the type of device event.
1115  *      0       - DisconnEvt
1116  *      1       - USBRst
1117  *      2       - ConnectDone
1118  *      3       - ULStChng
1119  *      4       - WkUpEvt
1120  *      5       - Reserved
1121  *      6       - EOPF
1122  *      7       - SOF
1123  *      8       - Reserved
1124  *      9       - ErrticErr
1125  *      10      - CmdCmplt
1126  *      11      - EvntOverflow
1127  *      12      - VndrDevTstRcved
1128  * @reserved15_12: Reserved, not used
1129  * @event_info: Information about this event
1130  * @reserved31_25: Reserved, not used
1131  */
1132 struct dwc3_event_devt {
1133         u32     one_bit:1;
1134         u32     device_event:7;
1135         u32     type:4;
1136         u32     reserved15_12:4;
1137         u32     event_info:9;
1138         u32     reserved31_25:7;
1139 } __packed;
1140
1141 /**
1142  * struct dwc3_event_gevt - Other Core Events
1143  * @one_bit: indicates this is a non-endpoint event (not used)
1144  * @device_event: indicates it's (0x03) Carkit or (0x04) I2C event.
1145  * @phy_port_number: self-explanatory
1146  * @reserved31_12: Reserved, not used.
1147  */
1148 struct dwc3_event_gevt {
1149         u32     one_bit:1;
1150         u32     device_event:7;
1151         u32     phy_port_number:4;
1152         u32     reserved31_12:20;
1153 } __packed;
1154
1155 /**
1156  * union dwc3_event - representation of Event Buffer contents
1157  * @raw: raw 32-bit event
1158  * @type: the type of the event
1159  * @depevt: Device Endpoint Event
1160  * @devt: Device Event
1161  * @gevt: Global Event
1162  */
1163 union dwc3_event {
1164         u32                             raw;
1165         struct dwc3_event_type          type;
1166         struct dwc3_event_depevt        depevt;
1167         struct dwc3_event_devt          devt;
1168         struct dwc3_event_gevt          gevt;
1169 };
1170
1171 /**
1172  * struct dwc3_gadget_ep_cmd_params - representation of endpoint command
1173  * parameters
1174  * @param2: third parameter
1175  * @param1: second parameter
1176  * @param0: first parameter
1177  */
1178 struct dwc3_gadget_ep_cmd_params {
1179         u32     param2;
1180         u32     param1;
1181         u32     param0;
1182 };
1183
1184 /*
1185  * DWC3 Features to be used as Driver Data
1186  */
1187
1188 #define DWC3_HAS_PERIPHERAL             BIT(0)
1189 #define DWC3_HAS_XHCI                   BIT(1)
1190 #define DWC3_HAS_OTG                    BIT(3)
1191
1192 /* prototypes */
1193 void dwc3_set_mode(struct dwc3 *dwc, u32 mode);
1194 u32 dwc3_core_fifo_space(struct dwc3_ep *dep, u8 type);
1195
1196 /* check whether we are on the DWC_usb3 core */
1197 static inline bool dwc3_is_usb3(struct dwc3 *dwc)
1198 {
1199         return !(dwc->revision & DWC3_REVISION_IS_DWC31);
1200 }
1201
1202 /* check whether we are on the DWC_usb31 core */
1203 static inline bool dwc3_is_usb31(struct dwc3 *dwc)
1204 {
1205         return !!(dwc->revision & DWC3_REVISION_IS_DWC31);
1206 }
1207
1208 bool dwc3_has_imod(struct dwc3 *dwc);
1209
1210 #if IS_ENABLED(CONFIG_USB_DWC3_HOST) || IS_ENABLED(CONFIG_USB_DWC3_DUAL_ROLE)
1211 int dwc3_host_init(struct dwc3 *dwc);
1212 void dwc3_host_exit(struct dwc3 *dwc);
1213 #else
1214 static inline int dwc3_host_init(struct dwc3 *dwc)
1215 { return 0; }
1216 static inline void dwc3_host_exit(struct dwc3 *dwc)
1217 { }
1218 #endif
1219
1220 #if IS_ENABLED(CONFIG_USB_DWC3_GADGET) || IS_ENABLED(CONFIG_USB_DWC3_DUAL_ROLE)
1221 int dwc3_gadget_init(struct dwc3 *dwc);
1222 void dwc3_gadget_exit(struct dwc3 *dwc);
1223 int dwc3_gadget_set_test_mode(struct dwc3 *dwc, int mode);
1224 int dwc3_gadget_get_link_state(struct dwc3 *dwc);
1225 int dwc3_gadget_set_link_state(struct dwc3 *dwc, enum dwc3_link_state state);
1226 int dwc3_send_gadget_ep_cmd(struct dwc3_ep *dep, unsigned cmd,
1227                 struct dwc3_gadget_ep_cmd_params *params);
1228 int dwc3_send_gadget_generic_command(struct dwc3 *dwc, unsigned cmd, u32 param);
1229 #else
1230 static inline int dwc3_gadget_init(struct dwc3 *dwc)
1231 { return 0; }
1232 static inline void dwc3_gadget_exit(struct dwc3 *dwc)
1233 { }
1234 static inline int dwc3_gadget_set_test_mode(struct dwc3 *dwc, int mode)
1235 { return 0; }
1236 static inline int dwc3_gadget_get_link_state(struct dwc3 *dwc)
1237 { return 0; }
1238 static inline int dwc3_gadget_set_link_state(struct dwc3 *dwc,
1239                 enum dwc3_link_state state)
1240 { return 0; }
1241
1242 static inline int dwc3_send_gadget_ep_cmd(struct dwc3_ep *dep, unsigned cmd,
1243                 struct dwc3_gadget_ep_cmd_params *params)
1244 { return 0; }
1245 static inline int dwc3_send_gadget_generic_command(struct dwc3 *dwc,
1246                 int cmd, u32 param)
1247 { return 0; }
1248 #endif
1249
1250 #if IS_ENABLED(CONFIG_USB_DWC3_DUAL_ROLE)
1251 int dwc3_drd_init(struct dwc3 *dwc);
1252 void dwc3_drd_exit(struct dwc3 *dwc);
1253 #else
1254 static inline int dwc3_drd_init(struct dwc3 *dwc)
1255 { return 0; }
1256 static inline void dwc3_drd_exit(struct dwc3 *dwc)
1257 { }
1258 #endif
1259
1260 /* power management interface */
1261 #if !IS_ENABLED(CONFIG_USB_DWC3_HOST)
1262 int dwc3_gadget_suspend(struct dwc3 *dwc);
1263 int dwc3_gadget_resume(struct dwc3 *dwc);
1264 void dwc3_gadget_process_pending_events(struct dwc3 *dwc);
1265 #else
1266 static inline int dwc3_gadget_suspend(struct dwc3 *dwc)
1267 {
1268         return 0;
1269 }
1270
1271 static inline int dwc3_gadget_resume(struct dwc3 *dwc)
1272 {
1273         return 0;
1274 }
1275
1276 static inline void dwc3_gadget_process_pending_events(struct dwc3 *dwc)
1277 {
1278 }
1279 #endif /* !IS_ENABLED(CONFIG_USB_DWC3_HOST) */
1280
1281 #if IS_ENABLED(CONFIG_USB_DWC3_ULPI)
1282 int dwc3_ulpi_init(struct dwc3 *dwc);
1283 void dwc3_ulpi_exit(struct dwc3 *dwc);
1284 #else
1285 static inline int dwc3_ulpi_init(struct dwc3 *dwc)
1286 { return 0; }
1287 static inline void dwc3_ulpi_exit(struct dwc3 *dwc)
1288 { }
1289 #endif
1290
1291 #endif /* __DRIVERS_USB_DWC3_CORE_H */